Yapay zekâ kümesini kablolamak: sayılar, mesafeler, ortam, kalite kontrolü
Bir GPU kümesi büyük ölçüde kablolardan oluşur. Bir düğümdeki sekiz GPU, yönetim ve depolama hariç sekiz adet 400G (veya 800G) scale-out bağlantısı demektir; bin GPU ise iki veya üç anahtar katmanı boyunca binlerce optik uç demektir ve her biri potansiyel bir eğitim durması riski taşır. Bu sayfa, GPU fabric’leri sayfasındaki fabric tasarımlarını kablo sayılarına, erişim mesafesi sınıflarına, konektör seçimlerine ve bir kurulum kontrol listesine dönüştürür.
Bağlantıları saymak
GPU başına bir 400G NIC bulunan, rail-optimised iki katmanlı fabric’e sahip tipik bir 8-GPU düğümü için:
| Kalem | Formül | 1 024 GPU (128 düğüm) |
|---|---|---|
| GPU-leaf bağlantıları | GPU × 1 | 1 024 × 400G |
| Leaf-spine bağlantıları (bloklamasız) | = GPU-leaf | 1 024 × 400G |
| Optik/kablo uçları (bağlantı başına iki) | bağlantı × 2 | 4 096 |
| Depolama + yönetim NIC’leri | düğüm başına 2–4 | 256–512 bağlantı daha |
| Yedek optikler (3–5 %) | — | 150–250 |
NDR twin-port anahtar modülleriyle (OSFP başına 2 × 400G) anahtar tarafındaki sayı modüllerde yarıya iner, ancak fiberlerde inmez. Üç katmanlı tasarımlar, her 1 024 GPU başına 1 024 spine-core bağlantısı daha ekler. Bu uçların her biri, bir kimliğe ve DDM’ye sahip bir alıcı-verici veya kablo fişidir (Bağlantı güvenilirliği ve izleme).
Rail-optimised bir düzende mesafeler
| Segment | Tipik mesafe | Ortam |
|---|---|---|
| GPU NIC → leaf, aynı rack | ≤ 2 m | pasif DAC (400G ≤ 2 m; 800G ≤ 1–1,5 m); en ucuz, sıfır güç, ağır |
| GPU NIC → leaf, komşu rack’ler (rail grupları bir sırayı kapsar) | 3–10 m | AEC (≤ 3–5 m) veya MMF üzerinden AOC / SR alıcı-vericiler |
| Leaf → spine, aynı salon | 10–100 m | ~50–100 m’ye kadar AOC; OM4 üzerinde ≤ 50–100 m SR4/SR8 / VR; SMF üzerinde 500 m DR4/DR8; 400G+’ta DR öne çıkıyor |
| Spine → core / salonlar arası | 100 m – 2 km | tek modlu DR4 / FR4 / 2×FR4 |
| Binalar arası DCI | 2–80 km | LR4, ZR/ZR+ (Koherent ve uzun mesafe) |
Rail-optimised kablolama, her düğümdeki GPU i’yi leaf i’ye bağlar, bu yüzden bir düğümün sekiz kablosu sekiz farklı leaf’e dağılır; GPU-leaf bağlantılarının çoğu rack’i terk eder ve DAC payı klasik ToR tasarımlarına göre daha küçüktür. Ayrıntılar: Kablo iç yapısı.
Konektör ve fiber seçimleri
| Optik | Konektör | Fiber | Notlar |
|---|---|---|---|
| 400G DR4 / 800G DR8 | MPO-12 APC / MPO-16 APC (veya 2 × MPO-12) | SMF, Base-8/Base-16 | tek modlu paralelde her yerde APC; pimli modüller, pimsiz patch kablolar |
| 400G/800G SR8 / VR8 | MPO-16 UPC | OM4/OM5 | 50–100 m; daha ucuz optik, metre başına daha pahalı fiber |
| 400G FR4 / 2×FR4 | duplex LC / 2 × LC | SMF | daha az fiber, modül içinde WDM |
| NDR twin-port OSFP | 2 × MPO-12 APC | SMF | modül başına iki mantıksal port; 1:2 / 1:4 split kablolar (IB kablolaması) |
| DAC / AEC | yok | twinax | her iki uçta da kimlik bilgisi |
MPO omurgaları için uçtan uca B polarite yöntemi; 4 şeritli optikler için Base-8 omurgalar (Breakout ve MPO kablolaması).
Yalnızca optiklerin güç ve ısısı
| Optik | Güç | 64 portlu anahtar başına |
|---|---|---|
| 400G DR4 QSFP-DD | 8–12 W | 0,5–0,8 kW |
| 800G DR8 / 2×FR4 OSFP | 14–18 W | 0,9–1,2 kW |
| 400G AOC ucu | 3–5 W | — |
| 800G AEC ucu | 4–6 W | — |
| DAC | 0 | — |
Bu nedenle anahtar ön panelleri önden arkaya, engelsiz bir hava akışına ihtiyaç duyar; anahtarlarda kanatlı OSFP, NIC’lerde düz üstlü; kablo demetleri hava girişini tıkamamalıdır (Güç ve ısı, Sıcaklık ve voltaj). Doğrusal (LPO) optikler, host tarafından destekleniyorsa modül gücünü kabaca yarı yarıya düşürür (Modülasyon ve DSP).
Kurulum ve kalite kontrol listesi
- Her optik ve kablo ucunun giriş muayenesi: kimlik, sağlama toplamları, DDM’nin çalıştığı, kaydedilen temel değer (Üretim ve test).
- Yeni optikleri devreye almadan önce çalışma sıcaklığında 24–72 h burn-in yapın.
- Kurulumda her MPO’yu kontrol edin ve temizleyin (APC için APC uçlu skop ucu); denetlenmemiş bir konektörü asla birleştirmeyin.
- Her iki ucu da etiketleyin: düğüm/GPU/NIC ↔ leaf/port; split kablolarda her bacağı ayrı etiketleyin.
- Bükülme yarıçapı ve ağırlık yönetimi: DAC/AEC için tepsiler ve demetler, fiber için servis kangalları.
- Devreye alma doğrulaması: her bağlantı tam hız ve genişlikte, FEC açık, şerit başına Rx değeri kardeşlerinin 2 dB içinde, boştayken FEC öncesi BER < 10⁻⁷ (VDM ve FEC ölçütleri).
- Şerit başına DDM’yi ve kimlikleri temel değer olarak fabric yöneticisine / CMDB’ye kaydedin.
- Ortam sınıfına ve konektöre göre yedekler bulundurun; bunları burn-in yapılmış halde tutun.
Yaygın kurulum arızaları
| Arıza | İmza |
|---|---|
| APC DR4 üzerinde UPC patch | tüm şeritler her iki uçta da 3–10 dB düşük |
| Yanlış polarite omurgası | tüm şeritler karanlık |
| Kirli MPO | bir veya iki şerit düşük; bu şeritlerde FEC öncesi BER yüksek |
| Host için çok uzun DAC | düşük hızda bağlantı veya çırpınma |
| Split kablo bacağı karışmış | portlar yanlış eşlerle bağlanır; fabric yöneticisi topoloji uyuşmazlığı |
| Düz kafeste kanatlı OSFP (veya tam tersi) | oturmuyor / aşırı ısınıyor |
CodingBox’ta
Bu ölçekte giriş muayenesi bir nokta kontrolü değil bir iş akışıdır: CodingBox her modülü veya kablo ucunu okur, kimliği ve sağlama toplamlarını doğrular, şerit başına canlı DDM’yi temel değer olarak kaydeder ve bunu seri numarasına karşı Code database içinde saklar; böylece daha sonra çırpınan bir porttan çıkarılan bir modül, ilk günkü durumuyla karşılaştırılabilir.