Présentation des réseaux pour l’IA

L’entraînement de grands modèles d’IA répartit le travail sur de nombreux GPU, sur de nombreux serveurs. C’est souvent le réseau qui les relie — pas un GPU pris isolément — qui détermine la vitesse d’entraînement d’un cluster, ce qui explique pourquoi les fabrics IA s’appuient sur les transceivers optiques offrant la plus grande bande passante disponible.

Pourquoi le réseau est critique

• Opérations collectives — les GPU échangent en permanence des gradients et des paramètres selon des schémas all-to-all, ce qui produit un trafic est-ouest intense.
• La latence de queue compte — un step attend la liaison la plus lente, donc une latence faible et constante ainsi qu’une livraison sans perte sont essentielles.
• Échelle — des milliers de GPU impliquent des commutateurs denses à radix élevé et des quantités d’optiques énormes.

Deux styles de fabric

• InfiniBand — bien établi de longue date dans le HPC, avec RDMA et contrôle de flux sans perte (voir InfiniBand).
• Ethernet avec RoCE — RDMA over Converged Ethernet, de plus en plus utilisé pour l’IA à grande échelle sur de l’Ethernet sans perte.

Optique

Les liaisons IA sont typiquement en 400G et 800G, sur des modules QSFP-DD et OSFP. Les choix précis d’interconnexion et d’optiques sont traités dans Interconnexions et optiques IA.

Les mêmes facteurs de forme et la même mémoire de gestion s’appliquent — CodingBox lit ces modules à haut débit comme n’importe quel autre.

Pour aller plus loin

• Câbler un cluster IA : nombre de liaisons par GPU, distances dans les dispositions optimisées par rail, mélange DAC/AEC/AOC/DR, choix de connecteurs, puissance des optiques, QA d’installation.
• Fiabilité et surveillance des liaisons dans les fabrics IA : pourquoi une liaison bloque un job, arithmétique FIT, métriques prédictives, architecture de surveillance, isolement et prévention.