Yapay zekâ kümesini kablolamak: sayılar, mesafeler, ortam, kalite kontrolü · Yapay Zekâ · Teknolojiler · Belgeler · CodingBox
CodingBox Belgeler

Yapay zekâ kümesini kablolamak: sayılar, mesafeler, ortam, kalite kontrolü

Bir GPU kümesi büyük ölçüde kablolardan oluşur. Bir düğümdeki sekiz GPU, yönetim ve depolama hariç sekiz adet 400G (veya 800G) scale-out bağlantısı demektir; bin GPU ise iki veya üç anahtar katmanı boyunca binlerce optik uç demektir ve her biri potansiyel bir eğitim durması riski taşır. Bu sayfa, GPU fabric’leri sayfasındaki fabric tasarımlarını kablo sayılarına, erişim mesafesi sınıflarına, konektör seçimlerine ve bir kurulum kontrol listesine dönüştürür.

Bağlantıları saymak

GPU başına bir 400G NIC bulunan, rail-optimised iki katmanlı fabric’e sahip tipik bir 8-GPU düğümü için:

KalemFormül1 024 GPU (128 düğüm)
GPU-leaf bağlantılarıGPU × 11 024 × 400G
Leaf-spine bağlantıları (bloklamasız)= GPU-leaf1 024 × 400G
Optik/kablo uçları (bağlantı başına iki)bağlantı × 24 096
Depolama + yönetim NIC’leridüğüm başına 2–4256–512 bağlantı daha
Yedek optikler (3–5 %)—150–250

NDR twin-port anahtar modülleriyle (OSFP başına 2 × 400G) anahtar tarafındaki sayı modüllerde yarıya iner, ancak fiberlerde inmez. Üç katmanlı tasarımlar, her 1 024 GPU başına 1 024 spine-core bağlantısı daha ekler. Bu uçların her biri, bir kimliğe ve DDM’ye sahip bir alıcı-verici veya kablo fişidir (Bağlantı güvenilirliği ve izleme).

Rail-optimised bir düzende mesafeler

SegmentTipik mesafeOrtam
GPU NIC → leaf, aynı rack≤ 2 mpasif DAC (400G ≤ 2 m; 800G ≤ 1–1,5 m); en ucuz, sıfır güç, ağır
GPU NIC → leaf, komşu rack’ler (rail grupları bir sırayı kapsar)3–10 mAEC (≤ 3–5 m) veya MMF üzerinden AOC / SR alıcı-vericiler
Leaf → spine, aynı salon10–100 m~50–100 m’ye kadar AOC; OM4 üzerinde ≤ 50–100 m SR4/SR8 / VR; SMF üzerinde 500 m DR4/DR8; 400G+’ta DR öne çıkıyor
Spine → core / salonlar arası100 m – 2 kmtek modlu DR4 / FR4 / 2×FR4
Binalar arası DCI2–80 kmLR4, ZR/ZR+ (Koherent ve uzun mesafe)

Rail-optimised kablolama, her düğümdeki GPU i’yi leaf i’ye bağlar, bu yüzden bir düğümün sekiz kablosu sekiz farklı leaf’e dağılır; GPU-leaf bağlantılarının çoğu rack’i terk eder ve DAC payı klasik ToR tasarımlarına göre daha küçüktür. Ayrıntılar: Kablo iç yapısı.

Konektör ve fiber seçimleri

OptikKonektörFiberNotlar
400G DR4 / 800G DR8MPO-12 APC / MPO-16 APC (veya 2 × MPO-12)SMF, Base-8/Base-16tek modlu paralelde her yerde APC; pimli modüller, pimsiz patch kablolar
400G/800G SR8 / VR8MPO-16 UPCOM4/OM550–100 m; daha ucuz optik, metre başına daha pahalı fiber
400G FR4 / 2×FR4duplex LC / 2 × LCSMFdaha az fiber, modül içinde WDM
NDR twin-port OSFP2 × MPO-12 APCSMFmodül başına iki mantıksal port; 1:2 / 1:4 split kablolar (IB kablolaması)
DAC / AECyoktwinaxher iki uçta da kimlik bilgisi

MPO omurgaları için uçtan uca B polarite yöntemi; 4 şeritli optikler için Base-8 omurgalar (Breakout ve MPO kablolaması).

Yalnızca optiklerin güç ve ısısı

OptikGüç64 portlu anahtar başına
400G DR4 QSFP-DD8–12 W0,5–0,8 kW
800G DR8 / 2×FR4 OSFP14–18 W0,9–1,2 kW
400G AOC ucu3–5 W—
800G AEC ucu4–6 W—
DAC0—

Bu nedenle anahtar ön panelleri önden arkaya, engelsiz bir hava akışına ihtiyaç duyar; anahtarlarda kanatlı OSFP, NIC’lerde düz üstlü; kablo demetleri hava girişini tıkamamalıdır (Güç ve ısı, Sıcaklık ve voltaj). Doğrusal (LPO) optikler, host tarafından destekleniyorsa modül gücünü kabaca yarı yarıya düşürür (Modülasyon ve DSP).

Kurulum ve kalite kontrol listesi

  1. Her optik ve kablo ucunun giriş muayenesi: kimlik, sağlama toplamları, DDM’nin çalıştığı, kaydedilen temel değer (Üretim ve test).
  2. Yeni optikleri devreye almadan önce çalışma sıcaklığında 24–72 h burn-in yapın.
  3. Kurulumda her MPO’yu kontrol edin ve temizleyin (APC için APC uçlu skop ucu); denetlenmemiş bir konektörü asla birleştirmeyin.
  4. Her iki ucu da etiketleyin: düğüm/GPU/NIC ↔ leaf/port; split kablolarda her bacağı ayrı etiketleyin.
  5. Bükülme yarıçapı ve ağırlık yönetimi: DAC/AEC için tepsiler ve demetler, fiber için servis kangalları.
  6. Devreye alma doğrulaması: her bağlantı tam hız ve genişlikte, FEC açık, şerit başına Rx değeri kardeşlerinin 2 dB içinde, boştayken FEC öncesi BER < 10⁻⁷ (VDM ve FEC ölçütleri).
  7. Şerit başına DDM’yi ve kimlikleri temel değer olarak fabric yöneticisine / CMDB’ye kaydedin.
  8. Ortam sınıfına ve konektöre göre yedekler bulundurun; bunları burn-in yapılmış halde tutun.

Yaygın kurulum arızaları

Arızaİmza
APC DR4 üzerinde UPC patchtüm şeritler her iki uçta da 3–10 dB düşük
Yanlış polarite omurgasıtüm şeritler karanlık
Kirli MPObir veya iki şerit düşük; bu şeritlerde FEC öncesi BER yüksek
Host için çok uzun DACdüşük hızda bağlantı veya çırpınma
Split kablo bacağı karışmışportlar yanlış eşlerle bağlanır; fabric yöneticisi topoloji uyuşmazlığı
Düz kafeste kanatlı OSFP (veya tam tersi)oturmuyor / aşırı ısınıyor

CodingBox’ta

Bu ölçekte giriş muayenesi bir nokta kontrolü değil bir iş akışıdır: CodingBox her modülü veya kablo ucunu okur, kimliği ve sağlama toplamlarını doğrular, şerit başına canlı DDM’yi temel değer olarak kaydeder ve bunu seri numarasına karşı Code database içinde saklar; böylece daha sonra çırpınan bir porttan çıkarılan bir modül, ilk günkü durumuyla karşılaştırılabilir.


Bu materyalde bir yanlışlık veya hata bulursanız ilgili bölümü seçin ve Ctrl+Enter tuşlarına basarak .