Yapay zekâ interconnect’leri ve optiği
AI kümeleri, GPU’ları InfiniBand veya yüksek hızlı Ethernet ile birbirine bağlar. İkisi de optikleri üretimdeki en hızlı modüllere zorlar.
InfiniBand ve Ethernet (RoCE)
| InfiniBand | Ethernet + RoCE | |
|---|---|---|
| Akış kontrolü | kredi tabanlı, kayıpsız | PFC/ECN, kayıpsız |
| RDMA | yerel | RoCEv2 |
| Güncel hız | NDR (400G) | 400G / 800G |
| Ekosistem | HPC kökenli | geniş, çoklu satıcı |
İkisi de geçerli seçimlerdir; birçok büyük küme InfiniBand kullanır, Ethernet+RoCE ise büyük ölçekli AI için hızla büyümektedir.
Hızlar ve modüller
- 400G — QSFP-DD veya OSFP, 4×100G veya 8×50G şeritten oluşur.
- 800G — OSFP veya QSFP-DD800, tipik olarak 8×100G şerit.
Hız ve şerit sayısı form faktörünü belirler; InfiniBand nesilleri ve şerit başına hızları InfiniBand hızları sayfasındadır.
Erişim mesafesi tipleri
Bir rack’in içinde kısa DR/SR optikler veya doğrudan bağlantılı ve aktif kablolar hâkimdir; sıralar arasında ise FR/LR tek modlu optikler daha uzun atlamaları taşır. Yüksek yoğunluk, tek bir anahtarın bu modüllerden yüzlercesini barındırabileceği anlamına gelir.
Erişim mesafesi ne olursa olsun, bu modüller standart yönetilen belleği taşır: CodingBox, bir bağlantı fabric’e katılmadan önce kimliğini ve DDM’sini doğrulamak için bunları okur.