Transceivery w klastrach AI · Sztuczna inteligencja · Technologie · Dokumentacja · CodingBox
CodingBox Dokumentacja

Transceivery w klastrach AI

Klastry treningowe AI są największymi konsumentami szybkiej optyki, jakie kiedykolwiek zbudowano, i pchają moduły do granic pod względem szybkości, mocy i liczby. Liczy się tu inżynieria nie tyle pojedynczego łącza, ile niezawodnego utrzymania dziesiątek tysięcy takich łączy naraz.

Jaka optyka

RolaModułTypowy PMDZłącze
Serwer GPU ↔ leaf (scale-out, IB NDR)OSFP o podwójnym porcie 2×400GDR4 ×22 × MPO-12 APC
Serwer GPU ↔ leaf (Ethernet)QSFP-DD / OSFP 400G–800GDR4, DR8, 2×FR4MPO-12/16 APC, dual LC
Leaf ↔ spine800G OSFP / QSFP-DD800DR8, 2×FR4MPO-16 APC, dual LC
Krótkie odcinki w szafieDAC / AOC tam, gdzie pozwala zasięg——

Optyka DR jednomodowa dominuje, bo sięga 500 m — to wystarcza na każdą halę — i skaluje się od 400G do 800G na tej samej infrastrukturze światłowodowej. Wymagane są kątowe złącza APC.

Moc i ciepło

Moduł 800G pobiera rzędu 14–18 W; panel czołowy przełącznika 64-portowego mieści kilowat optyki. Zintegrowany radiator OSFP to powód, dla którego jest preferowany przy najgorętszych modułach; QSFP-DD polega na chłodzeniu przez hosta. Throttling termiczny — moduł ograniczający się przy przegrzaniu — to realna przyczyna sporadycznych migotań 400G/800G (Problemy z CMIS).

Optyka wpinana ze sterowaniem liniowym (LPO) usuwa DSP modułu, żeby ograniczyć moc i opóźnienie, przenosząc korekcję (equalizację) na ASIC przełącznika; pojawia się na krótkich łączach DR tam, gdzie obsługuje ją host.

Niezawodność w skali

Arytmetyka zmienia wszystko: przy 100 000 sztuk optyki nawet roczny wskaźnik awarii 0,5% oznacza dziesięć wymian tygodniowo. Konsekwencje:

  • Monitorowanie DDM na linię w całej flocie, z trendami, żeby wymienić degradujący się moduł, zanim zatrzyma krok treningowy (Awarie).
  • Zapasy według partii i kontrola wejściowa — awarie skupiają się według partii produkcyjnej.
  • Dyscyplina czystości MPO — 16 włókien na złącze, a jedna cząstka wyłącza linię (Migotanie łącza).
  • Jedna wolna linia spowalnia całą operację zbiorową: liczy się latencja ogonowa.

Dane identyfikacyjne i interoperacyjność

Duże klastry standaryzują się na krótkiej liście zakwalifikowanych modułów, a platformy przełączników weryfikują dane identyfikacyjne. Optyka 400G/800G innych producentów jest używana tam, gdzie platforma ją toleruje, i kodowana pod oczekiwane dane identyfikacyjne tam, gdzie nie toleruje — te same reguły blokady producenta co gdzie indziej, przy dużo wyższym koszcie jednostkowym.

Co dalej

Kolejnym krokiem są porty 1,6T (OSFP-XD, 16 linii) i interfejsy elektryczne 200G na linię; optyka co-packaged przenosi transceiver do wnętrza obudowy przełącznika w największych systemach.

W CodingBox

CodingBox odczytuje moduły OSFP i QSFP-DD 400G/800G przez CMIS: stan modułu, zgłaszane aplikacje, dane identyfikacyjne oraz Tx/Rx/bias na linię na ekranie DDM — dane, których operator potrzebuje, żeby zakwalifikować przychodzące partie, ustalić wartość bazową nowych łączy i zidentyfikować jedną wadliwą linię spośród ośmiu.

Zamiana tych wyborów na liczby kabli, odległości i listę kontrolną instalacji: Okablowanie klastra AI; utrzymanie łączy w gotowości po instalacji: Niezawodność i monitorowanie łącza.

Same moduły 1,6T — linie, moc, banki, kompatybilność: OSFP224, OSFP-XD.


Jeśli znajdziesz nieścisłość lub błąd w tym materiale, zaznacz odpowiedni fragment i naciśnij Ctrl+Enter, aby .