Cablaggio di un cluster IA: quantità, distanze, mezzo trasmissivo, controllo qualità · Intelligenza artificiale · Tecnologie · Documentazione · CodingBox
CodingBox Documentazione

Cablaggio di un cluster IA: quantità, distanze, mezzo trasmissivo, controllo qualità

Un cluster GPU è fatto soprattutto di cavi. Otto GPU in un nodo significano otto collegamenti scale-out a 400G (o 800G) più gestione e storage; mille GPU significano migliaia di estremità ottiche distribuite su due o tre livelli di switch, ognuna un potenziale blocco del training. Questa pagina traduce i design di fabric di Fabric GPU in conteggi di cavi, classi di portata, scelte di connettore e una checklist di installazione.

Conteggio dei collegamenti

Per un nodo tipico a 8 GPU con una NIC da 400G per GPU, fabric a due livelli ottimizzato per rail:

VoceFormula1 024 GPU (128 nodi)
Collegamenti GPU-leafGPU × 11 024 × 400G
Collegamenti leaf-spine (non bloccanti)= GPU-leaf1 024 × 400G
Estremità ottiche/cavo (due per collegamento)collegamenti × 24 096
NIC storage + gestione2–4 per nodo256–512 collegamenti in più
Ottiche di scorta (3–5 %)—150–250

Con i moduli switch NDR a doppia porta (2 × 400G per OSFP) il conteggio lato switch si dimezza nei moduli ma non nelle fibre. I design a tre livelli aggiungono altri 1 024 collegamenti spine-core ogni 1 024 GPU. Ognuna di queste estremità è un ricetrasmettitore o un connettore di cavo con un’identità e un DDM (Affidabilità del collegamento e monitoraggio).

Distanze in un layout ottimizzato per rail

SegmentoDistanza tipicaSupporto
NIC GPU → leaf, stesso rack≤ 2 mDAC passivo (400G ≤ 2 m; 800G ≤ 1–1,5 m) — il più economico, potenza zero, pesante
NIC GPU → leaf, rack adiacenti (i gruppi rail coprono una fila)3–10 mAEC (≤ 3–5 m) oppure AOC / ricetrasmettitori SR su MMF
Leaf → spine, stessa sala10–100 mAOC fino a ~50–100 m; SR4/SR8 / VR su OM4 ≤ 50–100 m; DR4/DR8 su SMF 500 m — a 400G+ prevale DR
Spine → core / tra sale100 m – 2 kmDR4 / FR4 / 2×FR4 monomodale
DCI tra edifici2–80 kmLR4, ZR/ZR+ (Coerente e lunga distanza)

Il cablaggio ottimizzato per rail mette la GPU i di ogni nodo sul leaf i, così gli otto cavi di un nodo si distribuiscono su otto leaf diversi — la maggior parte dei collegamenti GPU-leaf esce dal rack, e la quota di DAC è minore che nei design ToR classici. Dettagli: Interno dei cavi.

Scelte di connettore e fibra

OtticaConnettoreFibraNote
400G DR4 / 800G DR8MPO-12 APC / MPO-16 APC (o 2 × MPO-12)SMF, Base-8/Base-16APC ovunque sul monomodale parallelo; moduli pinned, bretelle unpinned
400G/800G SR8 / VR8MPO-16 UPCOM4/OM550–100 m; ottiche più economiche, fibra più costosa al metro
400G FR4 / 2×FR4LC duplex / 2 × LCSMFmeno fibre, WDM dentro il modulo
OSFP NDR a doppia porta2 × MPO-12 APCSMFdue porte logiche per modulo; cavi split 1:2 / 1:4 (Cablaggio IB)
DAC / AECnessunotwinaxidentità su entrambe le estremità

Metodo di polarità B end-to-end per i trunk MPO; trunk Base-8 per le ottiche a 4 lane (Breakout e cablaggio MPO).

Potenza e calore delle sole ottiche

OtticaPotenzaPer switch a 64 porte
400G DR4 QSFP-DD8–12 W0,5–0,8 kW
800G DR8 / 2×FR4 OSFP14–18 W0,9–1,2 kW
Estremità AOC 400G3–5 W—
Estremità AEC 800G4–6 W—
DAC0—

I pannelli frontali degli switch richiedono quindi un flusso d’aria front-to-back senza ostruzioni; OSFP alettato negli switch, flat-top nelle NIC; i fasci di cavi non devono bloccare la presa d’aria (Potenza e termica, Temperatura e tensione). Le ottiche lineari (LPO) riducono la potenza del modulo circa della metà dove l’host le supporta (Modulazione e DSP).

Checklist di installazione e QA

  1. Ispezione in ingresso di ogni ottica ed estremità di cavo: identità, checksum, DDM attivo, baseline salvata (Produzione e collaudo).
  2. Burn-in delle ottiche nuove 24–72 h alla temperatura operativa prima della messa in servizio.
  3. Ispeziona e pulisci ogni MPO (punte per microscopio APC per l’APC) all’installazione; non accoppiare mai un connettore non ispezionato.
  4. Etichetta entrambe le estremità: nodo/GPU/NIC ↔ leaf/porta; cavi split per ogni ramo.
  5. Raggio di curvatura e gestione del peso — vassoi e fasci per DAC/AEC, matasse di servizio per la fibra.
  6. Verifica di attivazione: ogni collegamento a piena velocità e larghezza, FEC attivo, Rx per lane entro 2 dB dalle altre, BER pre-FEC < 10⁻⁷ a riposo (Metriche VDM e FEC).
  7. Registra il DDM per lane e le identità nel fabric manager / CMDB come baseline.
  8. Scorte per classe di supporto e connettore; tienile già in burn-in.

Guasti comuni di installazione

GuastoSegnale
Bretella UPC su DR4 APCtutte le lane basse di 3–10 dB, entrambe le estremità
Trunk con polarità erratatutte le lane spente
MPO sporcouna o due lane basse; BER pre-FEC alto su quelle lane
DAC troppo lungo per l’hostcollegamento a velocità ridotta o instabile
Ramo del cavo split invertitole porte si collegano ai peer sbagliati; disallineamento della topologia nel fabric manager
OSFP alettato in gabbia flat (o viceversa)non si inserisce / si surriscalda

In CodingBox

A questa scala, l’ispezione in ingresso è un workflow, non un controllo a campione: CodingBox legge ogni modulo o estremità di cavo, verifica identità e checksum, registra il DDM live per lane come baseline e lo memorizza in base al seriale nel code database, così un modulo prelevato in seguito da una porta instabile può essere confrontato con il suo stato del primo giorno.


Se trovi un’imprecisione o un errore in questo articolo, seleziona il passaggio corrispondente e premi Ctrl+Enter per .