Cablaggio di un cluster IA: quantità, distanze, mezzo trasmissivo, controllo qualità
Un cluster GPU è fatto soprattutto di cavi. Otto GPU in un nodo significano otto collegamenti scale-out a 400G (o 800G) più gestione e storage; mille GPU significano migliaia di estremità ottiche distribuite su due o tre livelli di switch, ognuna un potenziale blocco del training. Questa pagina traduce i design di fabric di Fabric GPU in conteggi di cavi, classi di portata, scelte di connettore e una checklist di installazione.
Conteggio dei collegamenti
Per un nodo tipico a 8 GPU con una NIC da 400G per GPU, fabric a due livelli ottimizzato per rail:
| Voce | Formula | 1 024 GPU (128 nodi) |
|---|---|---|
| Collegamenti GPU-leaf | GPU × 1 | 1 024 × 400G |
| Collegamenti leaf-spine (non bloccanti) | = GPU-leaf | 1 024 × 400G |
| Estremità ottiche/cavo (due per collegamento) | collegamenti × 2 | 4 096 |
| NIC storage + gestione | 2–4 per nodo | 256–512 collegamenti in più |
| Ottiche di scorta (3–5 %) | — | 150–250 |
Con i moduli switch NDR a doppia porta (2 × 400G per OSFP) il conteggio lato switch si dimezza nei moduli ma non nelle fibre. I design a tre livelli aggiungono altri 1 024 collegamenti spine-core ogni 1 024 GPU. Ognuna di queste estremità è un ricetrasmettitore o un connettore di cavo con un’identità e un DDM (Affidabilità del collegamento e monitoraggio).
Distanze in un layout ottimizzato per rail
| Segmento | Distanza tipica | Supporto |
|---|---|---|
| NIC GPU → leaf, stesso rack | ≤ 2 m | DAC passivo (400G ≤ 2 m; 800G ≤ 1–1,5 m) — il più economico, potenza zero, pesante |
| NIC GPU → leaf, rack adiacenti (i gruppi rail coprono una fila) | 3–10 m | AEC (≤ 3–5 m) oppure AOC / ricetrasmettitori SR su MMF |
| Leaf → spine, stessa sala | 10–100 m | AOC fino a ~50–100 m; SR4/SR8 / VR su OM4 ≤ 50–100 m; DR4/DR8 su SMF 500 m — a 400G+ prevale DR |
| Spine → core / tra sale | 100 m – 2 km | DR4 / FR4 / 2×FR4 monomodale |
| DCI tra edifici | 2–80 km | LR4, ZR/ZR+ (Coerente e lunga distanza) |
Il cablaggio ottimizzato per rail mette la GPU i di ogni nodo sul leaf i, così gli otto cavi di un nodo si distribuiscono su otto leaf diversi — la maggior parte dei collegamenti GPU-leaf esce dal rack, e la quota di DAC è minore che nei design ToR classici. Dettagli: Interno dei cavi.
Scelte di connettore e fibra
| Ottica | Connettore | Fibra | Note |
|---|---|---|---|
| 400G DR4 / 800G DR8 | MPO-12 APC / MPO-16 APC (o 2 × MPO-12) | SMF, Base-8/Base-16 | APC ovunque sul monomodale parallelo; moduli pinned, bretelle unpinned |
| 400G/800G SR8 / VR8 | MPO-16 UPC | OM4/OM5 | 50–100 m; ottiche più economiche, fibra più costosa al metro |
| 400G FR4 / 2×FR4 | LC duplex / 2 × LC | SMF | meno fibre, WDM dentro il modulo |
| OSFP NDR a doppia porta | 2 × MPO-12 APC | SMF | due porte logiche per modulo; cavi split 1:2 / 1:4 (Cablaggio IB) |
| DAC / AEC | nessuno | twinax | identità su entrambe le estremità |
Metodo di polarità B end-to-end per i trunk MPO; trunk Base-8 per le ottiche a 4 lane (Breakout e cablaggio MPO).
Potenza e calore delle sole ottiche
| Ottica | Potenza | Per switch a 64 porte |
|---|---|---|
| 400G DR4 QSFP-DD | 8–12 W | 0,5–0,8 kW |
| 800G DR8 / 2×FR4 OSFP | 14–18 W | 0,9–1,2 kW |
| Estremità AOC 400G | 3–5 W | — |
| Estremità AEC 800G | 4–6 W | — |
| DAC | 0 | — |
I pannelli frontali degli switch richiedono quindi un flusso d’aria front-to-back senza ostruzioni; OSFP alettato negli switch, flat-top nelle NIC; i fasci di cavi non devono bloccare la presa d’aria (Potenza e termica, Temperatura e tensione). Le ottiche lineari (LPO) riducono la potenza del modulo circa della metà dove l’host le supporta (Modulazione e DSP).
Checklist di installazione e QA
- Ispezione in ingresso di ogni ottica ed estremità di cavo: identità, checksum, DDM attivo, baseline salvata (Produzione e collaudo).
- Burn-in delle ottiche nuove 24–72 h alla temperatura operativa prima della messa in servizio.
- Ispeziona e pulisci ogni MPO (punte per microscopio APC per l’APC) all’installazione; non accoppiare mai un connettore non ispezionato.
- Etichetta entrambe le estremità: nodo/GPU/NIC ↔ leaf/porta; cavi split per ogni ramo.
- Raggio di curvatura e gestione del peso — vassoi e fasci per DAC/AEC, matasse di servizio per la fibra.
- Verifica di attivazione: ogni collegamento a piena velocità e larghezza, FEC attivo, Rx per lane entro 2 dB dalle altre, BER pre-FEC < 10⁻⁷ a riposo (Metriche VDM e FEC).
- Registra il DDM per lane e le identità nel fabric manager / CMDB come baseline.
- Scorte per classe di supporto e connettore; tienile già in burn-in.
Guasti comuni di installazione
| Guasto | Segnale |
|---|---|
| Bretella UPC su DR4 APC | tutte le lane basse di 3–10 dB, entrambe le estremità |
| Trunk con polarità errata | tutte le lane spente |
| MPO sporco | una o due lane basse; BER pre-FEC alto su quelle lane |
| DAC troppo lungo per l’host | collegamento a velocità ridotta o instabile |
| Ramo del cavo split invertito | le porte si collegano ai peer sbagliati; disallineamento della topologia nel fabric manager |
| OSFP alettato in gabbia flat (o viceversa) | non si inserisce / si surriscalda |
In CodingBox
A questa scala, l’ispezione in ingresso è un workflow, non un controllo a campione: CodingBox legge ogni modulo o estremità di cavo, verifica identità e checksum, registra il DDM live per lane come baseline e lo memorizza in base al seriale nel code database, così un modulo prelevato in seguito da una porta instabile può essere confrontato con il suo stato del primo giorno.