Transceivers in AI-clusters · Kunstmatige intelligentie · Technologieën · Documentatie · CodingBox
CodingBox Documentatie

Transceivers in AI-clusters

AI-trainingsclusters zijn de grootste afnemers van snelle optiek die ooit zijn gebouwd, en ze brengen modules tot hun limieten voor snelheid, vermogen en aantallen. De relevante techniek gaat minder over één afzonderlijke link dan over het betrouwbaar gebruiken van tienduizenden ervan.

Welke optiek

RolModuleTypische PMDConnector
GPU-server ↔ leaf (scale-out, IB NDR)OSFP met twee poorten 2×400GDR4 ×22 × MPO-12 APC
GPU-server ↔ leaf (Ethernet)QSFP-DD / OSFP 400G–800GDR4, DR8, 2×FR4MPO-12/16 APC, dubbele LC
Leaf ↔ spine800G OSFP / QSFP-DD800DR8, 2×FR4MPO-16 APC, dubbele LC
Korte verbindingen in het rackDAC / AOC waar het bereik dat toelaat——

DR-optiek voor singlemode overheerst omdat die 500 m bereikt, voldoende voor iedere hal, en van 400G naar 800G schaalt op dezelfde glasvezelinfrastructuur. Schuine APC-connectoren zijn vereist.

Vermogen en warmte

Een 800G-module gebruikt ongeveer 14–18 W; een switchfrontplaat met 64 poorten bevat een kilowatt aan optiek. Het geïntegreerde koellichaam van OSFP is de reden waarom die vormfactor de voorkeur heeft voor de heetste modules; QSFP-DD is afhankelijk van koeling door de host. Thermische throttling, waarbij een module terugschakelt bij oververhitting, is een echte oorzaak van onderbroken 400G/800G-link flapping (CMIS-problemen).

Linear-drive pluggable optics (LPO) verwijderen de DSP uit de module om vermogen en latentie te verlagen en verplaatsen de egalisatie naar de switch-ASIC. Ze verschijnen op korte DR-links wanneer de host ze ondersteunt.

Betrouwbaarheid op schaal

De rekenkunde verandert alles: bij 100 000 optische modules betekenen zelfs een jaarlijks faalpercentage van 0,5% tien vervangingen per week. Gevolgen:

  • DDM-monitoring per lane in de hele vloot, als trend gevolgd, om een verslechterende module te vervangen voordat die een trainingsstap stillegt (Storingen).
  • Reserves per batch en inkomende inspectie — storingen clusteren per productiebatch.
  • MPO-reinigingsdiscipline — 16 glasvezels per connector en één deeltje schakelt een lane uit (Link flapping).
  • Eén trage lane vertraagt de volledige collectieve bewerking: tail latency is de metriek.

Identiteit en interoperabiliteit

Grote clusters standaardiseren op een korte lijst gekwalificeerde modules en switchplatforms valideren de identiteit. Optiek van derden voor 400G/800G wordt gebruikt wanneer het platform die verdraagt, en wordt gecodeerd met de verwachte identiteit wanneer dat niet zo is. Hiervoor gelden dezelfde regels voor fabrikantvergrendeling als elders, maar tegen veel hogere kosten per stuk.

Wat volgt

Poorten van 1.6T (OSFP-XD, 16 lanes) en elektrische interfaces van 200G per lane zijn de volgende stap; co-packaged optiek plaatst de transceiver in het switchpakket voor de grootste systemen.

In CodingBox

CodingBox leest OSFP- en QSFP-DD-modules voor 400G/800G via CMIS: moduletoestand, toepassingsadvertentie, identiteit en Tx/Rx/bias per lane op het scherm DDM. Dit zijn de gegevens die een operator nodig heeft om inkomende batches te kwalificeren, nieuwe links van een baseline te voorzien en één falende lane van de acht te identificeren.

Deze keuzes omzetten in kabelaantallen, afstanden en een installatiechecklist: Bekabeling van een AI-cluster; de links operationeel houden na installatie: Linkbetrouwbaarheid en monitoring.

De 1.6T-modules zelf — lanes, vermogen, banks, compatibiliteit: OSFP224, OSFP-XD.


Vindt u een onjuistheid of fout in dit materiaal? Selecteer het betreffende fragment en druk op Ctrl+Enter om .