AI-interconnects en optische modules
AI-clusters verbinden GPU's met InfiniBand of Ethernet met hoge snelheid. Beide brengen de optiek tot de snelste modules die in productie zijn.
InfiniBand versus Ethernet (RoCE)
| InfiniBand | Ethernet + RoCE | |
|---|---|---|
| Flow control | op credits gebaseerd, verliesvrij | PFC/ECN, verliesvrij |
| RDMA | native | RoCEv2 |
| Huidige snelheid | NDR (400G) | 400G / 800G |
| Ecosysteem | afkomstig uit HPC | breed, met meerdere fabrikanten |
Beide zijn geldige keuzes; veel grote clusters gebruiken InfiniBand, terwijl Ethernet+RoCE snel groeit voor AI op schaal.
Snelheden en modules
- 400G — QSFP-DD of OSFP, opgebouwd uit 4×100G- of 8×50G-lanes.
- 800G — OSFP of QSFP-DD800, doorgaans 8×100G-lanes.
De snelheid en het aantal lanes bepalen de vormfactor; InfiniBand-generaties en hun snelheden per lane staan bij InfiniBand-snelheden.
Bereiktypen
Binnen een rack overheersen korte DR/SR-optiek of direct-attach- en actieve kabels; tussen rijen overbrugt FR/LR-singlemode-optiek de langere verbindingen. Door de hoge dichtheid kan één switch honderden van deze modules bevatten.
Ongeacht het bereik bevatten deze modules standaard beheerd geheugen — CodingBox leest hun identiteit en DDM om een link te verifiëren voordat die tot de fabric toetreedt.