Yapay zekâ interconnect’leri ve optiği · Yapay Zekâ · Teknolojiler · Belgeler · CodingBox
CodingBox Belgeler

Yapay zekâ interconnect’leri ve optiği

AI kümeleri, GPU’ları InfiniBand veya yüksek hızlı Ethernet ile birbirine bağlar. İkisi de optikleri üretimdeki en hızlı modüllere zorlar.

InfiniBand ve Ethernet (RoCE)

InfiniBandEthernet + RoCE
Akış kontrolükredi tabanlı, kayıpsızPFC/ECN, kayıpsız
RDMAyerelRoCEv2
Güncel hızNDR (400G)400G / 800G
EkosistemHPC kökenligeniş, çoklu satıcı

İkisi de geçerli seçimlerdir; birçok büyük küme InfiniBand kullanır, Ethernet+RoCE ise büyük ölçekli AI için hızla büyümektedir.

Hızlar ve modüller

  • 400G — QSFP-DD veya OSFP, 4×100G veya 8×50G şeritten oluşur.
  • 800G — OSFP veya QSFP-DD800, tipik olarak 8×100G şerit.

Hız ve şerit sayısı form faktörünü belirler; InfiniBand nesilleri ve şerit başına hızları InfiniBand hızları sayfasındadır.

Erişim mesafesi tipleri

Bir rack’in içinde kısa DR/SR optikler veya doğrudan bağlantılı ve aktif kablolar hâkimdir; sıralar arasında ise FR/LR tek modlu optikler daha uzun atlamaları taşır. Yüksek yoğunluk, tek bir anahtarın bu modüllerden yüzlercesini barındırabileceği anlamına gelir.

Erişim mesafesi ne olursa olsun, bu modüller standart yönetilen belleği taşır: CodingBox, bir bağlantı fabric’e katılmadan önce kimliğini ve DDM’sini doğrulamak için bunları okur.


Bu materyalde bir yanlışlık veya hata bulursanız ilgili bölümü seçin ve Ctrl+Enter tuşlarına basarak .