NVMe over Fabrics: FC-NVMe, NVMe/TCP, NVMe/RoCE ve optikleri · Depolama Sistemleri · Teknolojiler · Belgeler · CodingBox
CodingBox Belgeler

NVMe over Fabrics: FC-NVMe, NVMe/TCP, NVMe/RoCE ve optikleri

NVMe, sunucu içinde SCSI’nin yerini aldı, çünkü flash bellek protokol ek yükünü ortaya çıkaracak kadar hızlıdır; Fabric’ler Üzerinden NVMe (NVMe-oF), aynı komut kümesini bir ağ üzerinden taşıyarak paylaşılan depolamanın bu hıza ayak uydurmasını sağlar. Üç tür ağa denk gelen üç taşıma üzerinden çalışır — ve dolayısıyla üç tür optik ve üç fiziksel katman kural kümesi üzerinden. Bu sayfa bunları karşılaştırır ve her birinin bağlantılardan ne istediğini anlatır.

Neden NVMe-oF

YönSCSI çağı (FCP, iSCSI)NVMe-oF
Komut kuyruklarıtek kuyruk, ~32–256 komut64k’ya kadar kuyruk × 64k komut; tasarım gereği paralel
I/O başına protokol ek yüküonlarca µs CPU zamanıbirkaç µs; RDMA taşımaları CPU’yu atlar
Fabric’in eklediği gecikmetipik olarak 100–200 µs10–30 µs (RDMA/FC), 30–80 µs (TCP)
En uygun olduğu yerHDD ve erken dönem flash array’lertam flash, ayrıştırılmış depolama, GPU veri hatları

Taşımalar

TaşımaAğKayıpsız mı?GecikmeNotlar
FC-NVMe (FC-NVMe-2)Fibre Channel 16/32/64GFCevet, kredilerleçok düşükaynı fabric ve SFP’ler üzerinde SCSI FCP ile birlikte çalışır; zoning ve ad sunucusu değişmez (FC protokolü temelleri)
NVMe/RoCE v2RDMA NIC’li Ethernet 25/100/200/400GPFC/ECN (DCQCN) gerektirirçok düşükUDP/IP üzerinden RDMA verbs; uçtan uca kayıpsız yapılandırma gerektirir (Kayıpsız Ethernet)
NVMe/TCPherhangi bir Ethernet/IPhayır — kaybı TCP yönetirdüşük–ortaözel NIC veya anahtar özelliği gerekmez; yönlendirilebilir; kurumsal ortamın hacimli tercihi
NVMe/IBInfiniBandevet, kredilerleçok düşükHPC/AI depolaması (InfiniBand)

Dördü de NVMe-oF mimarisini paylaşır: bir keşif denetleyicisi, hostlara hangi alt sistemlerin var olduğunu söyler; hostlar kuyrukları I/O denetleyicilerine bağlar; ANA (asimetrik ad alanı erişimi) çoklu yolu yönetir.

Her birinin fiziksel katmandan istediği

TaşımaBağlantı gereksinimiOptikler
FC-NVMetemiz FC bağlantıları — CRC/ITW sıfıra yakın, krediler tükenmemişsatıcı tarafından doğrulanmış FC SFP’leri 16/32/64GFC (FC optikleri)
NVMe/RoCEsıfır kayıp: FEC açık, RoCE sınıfında PFC, CRC hatası yok (her kaybolan çerçeve, go-back-N yeniden iletimiyle RDMA kuyruğunu durdurur)25G SFP28 / 100G QSFP28 / 400G; rack içinde DAC, sıra içinde SR/AOC, odalar arasında LR/DR; PMD başına FEC
NVMe/TCPsıradan; kayıp doğruluğa değil gecikmeye mal olurherhangi bir Ethernet optiği
NVMe/IBInfiniBand fabric’leri gibiIB kabloları ve optikleri (IB kablolaması)

Hassas olan RoCE’dir: sınırda bir Rx gücüne veya kirli bir konektöre sahip bir bağlantı, TCP’nin sessizce absorbe edeceği ama RDMA kuyruklarını gözle görülür şekilde durduracak CRC hataları üretir. Bir portun hata sayaçlarını izleyen depolama gecikmesi sıçramaları bunun belirtisidir (Rx gücü ve bağlantı bütçesi, VDM ve FEC ölçütleri).

Seçim yapmak

DurumMantıklı taşıma
Mevcut FC SAN, tam flash array’lerFC-NVMe — aynı fabric, aynı optikler, hedef başına etkinleştirin
Sıfırdan kurulan Ethernet depolaması, karışık satıcılar, sahalar arası yönlendirmeNVMe/TCP
Gecikmenin kritik olduğu, tek satıcılı Ethernet, kayıpsız uzmanlığın kurum içinde olduğu durumlarNVMe/RoCE
IB fabric’li HPC/AI kümesiNVMe/IB veya IB üzerinden paralel dosya sistemleri
Ethernet scale-out’lu GPU kümeleriayrı bir depolama ağında NVMe/RoCE veya NVMe/TCP (GPU fabric’leri)

Operasyonel notlar

  • Mümkün olduğunda depolama ve işlem için ayrı ağlar — ya da en azından ayrı trafik sınıfları; RoCE kendi kayıpsız sınıfına ihtiyaç duyar.
  • MTU: Ethernet taşımalarında 9000; uçtan uca tutarlı.
  • Çoklu yol: iki fabric veya iki VLAN/leaf; ANA’dan haberdar initiator’lar.
  • İzleme: port başına CRC/FEC ve duraklatma sayaçları, artı DDM eğilimleri — bozulan bir optik, arızalanmadan çok önce kuyruk gecikmesi olarak ortaya çıkar (İzleme).
  • Ürün yazılımı: NIC/HBA ve array ürün yazılımı uyumluluk matrisleri, optik uyumluluğu kadar önemlidir (SAN’daki optikler).

CodingBox’ta

Bir NVMe-oF fabric’inin optikleri, sıradan FC, Ethernet veya IB modülleridir; fark, taşımanın ne kadar az hataya tolerans gösterdiğidir. Kurulumdan önce tezgâhta kimliği ve temel DDM’yi okumak (Check transceiver, DDM) ve array ile anahtar satıcılarının kabul ettiği kimliklere kodlamak (Satıcı kilidi), işin programlayıcıya dokunan kısımlarıdır.

Bu fabric’lerin üzerinde çalıştığı adaptörler — 100G/200G NIC’ler, kafesleri, PCIe sınırları ve modül politikaları: Optik portlu NIC’ler.


Bu materyalde bir yanlışlık veya hata bulursanız ilgili bölümü seçin ve Ctrl+Enter tuşlarına basarak .