AI-interconnects en optische modules · Kunstmatige intelligentie · Technologieën · Documentatie · CodingBox
CodingBox Documentatie

AI-interconnects en optische modules

AI-clusters verbinden GPU's met InfiniBand of Ethernet met hoge snelheid. Beide brengen de optiek tot de snelste modules die in productie zijn.

InfiniBand versus Ethernet (RoCE)

InfiniBandEthernet + RoCE
Flow controlop credits gebaseerd, verliesvrijPFC/ECN, verliesvrij
RDMAnativeRoCEv2
Huidige snelheidNDR (400G)400G / 800G
Ecosysteemafkomstig uit HPCbreed, met meerdere fabrikanten

Beide zijn geldige keuzes; veel grote clusters gebruiken InfiniBand, terwijl Ethernet+RoCE snel groeit voor AI op schaal.

Snelheden en modules

  • 400G — QSFP-DD of OSFP, opgebouwd uit 4×100G- of 8×50G-lanes.
  • 800G — OSFP of QSFP-DD800, doorgaans 8×100G-lanes.

De snelheid en het aantal lanes bepalen de vormfactor; InfiniBand-generaties en hun snelheden per lane staan bij InfiniBand-snelheden.

Bereiktypen

Binnen een rack overheersen korte DR/SR-optiek of direct-attach- en actieve kabels; tussen rijen overbrugt FR/LR-singlemode-optiek de langere verbindingen. Door de hoge dichtheid kan één switch honderden van deze modules bevatten.

Ongeacht het bereik bevatten deze modules standaard beheerd geheugen — CodingBox leest hun identiteit en DDM om een link te verifiëren voordat die tot de fabric toetreedt.


Vindt u een onjuistheid of fout in dit materiaal? Selecteer het betreffende fragment en druk op Ctrl+Enter om .