Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 InfiniBand Switch beraksi: Mengoptimalkan Interkoneksi Latensi Rendah

Dalam pelatihan AI di dunia nyata dan penerapan komputasi berkinerja tinggi, latensi jaringan dan overhead CPU sering kali menjadi pembunuh diam-diam terhadap skalabilitas. Ringkasan aplikasi ini mengkaji bagaimana organisasi penelitian skala menengah mengatasi tantangan-tantangan ini dengan menerapkanMellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0InfiniBand beralih sebagai bahan inti untuk cluster penelitian berbasis GPU mereka.

Jaringan Ethernet RoCE 100 Gb/s milik organisasi ini mengalami latensi ekor yang tidak dapat diprediksi akibat badai PFC (Priority Flow Control) dan penanganan kemacetan yang tidak efisien. Ketika ukuran model AI mereka berkembang dari 10 miliar menjadi lebih dari 50 miliar parameter, operasi komunikasi kolektif (All-Reduce, All-to-All) menghabiskan hampir 45% dari total waktu iterasi. Mereka membutuhkan struktur latensi rendah dan lossless yang dapat sepenuhnya memanfaatkan RDMA sambil mempertahankan skala kinerja linier. Pencarian dengan cepat berkumpul di920-9B110-00FH-0D0sebagai blok bangunan yang paling menjanjikan.

Tim memilih920-9B110-00FH-0D0 MQM8790-HS2F 200 Gb/dtk HDRberalih sebagai tulang punggung lapisan tulang belakang, menghubungkan 64 node GPU di empat rak. Menggunakan920-9B110-00FH-0D0 Sakelar InfiniBand OPNkerangka pemesanan, mereka menerapkan dua saklar tulang belakang yang berlebihan dengan masing-masing 40 port HDR, mencapai rasio kelebihan permintaan non-pemblokiran 1:1. Penerapan ini memanfaatkan Perutean Adaptif dan SHARPv2 (Scalable Hierarchical Aggregation and Reduction Protocol) — fitur yang didokumentasikan sepenuhnya dalamLembar data 920-9B110-00FH-0D0— untuk memindahkan operasi kolektif langsung ke switch fabric. Untuk kompatibilitas, tim mengonfirmasi bahwaKompatibel dengan 920-9B110-00FH-0D0ekosistem termasuk adaptor ConnectX-6 HDR yang ada dan optik QSFP56 standar.

Telemetri pasca penerapan menunjukkan peningkatan yang dramatis. Latensi end-to-end antara dua node GPU turun dari 3,2µs (RoCE) menjadi di bawah 1,1µs, dengan jitter berkurang sebesar 80%. Pembongkaran SHARPv2 diNVIDIA Mellanox 920-9B110-00FH-0D0mengurangi waktu penyelesaian All-Reduce sebesar 57% untuk pekerjaan 512-GPU. Tabel berikut merangkum metrik utama:

Di luar angka mentah, itu920-9B110-00FH-0D0 solusi OPN sakelar InfiniBandmengurangi kompleksitas operasional. Dengan menggunakan NVIDIA UFM (Unified Fabric Manager), tim memperoleh visibilitas fabric secara real-time, pengoptimalan jalur otomatis, dan peringatan kemacetan proaktif — kemampuan yang tidak tersedia dalam penerapan Ethernet sebelumnya. ItuSpesifikasi 920-9B110-00FH-0D0juga memungkinkan pengoperasian hemat daya: sasis 1U hanya mengonsumsi 180W pada beban penuh, sehingga menurunkan kontribusi PUE-nya.

Untuk organisasi yang mengevaluasi peningkatan serupa,Harga 920-9B110-00FH-0D0lebih baik dibandingkan dengan switch Ethernet 200Gb/s yang setara ketika memperhitungkan overhead NIC yang lebih rendah dan penghapusan lisensi Ethernet lossless yang mahal. Beberapa distributor sekarang mendaftar920-9B110-00FH-0D0 untuk dijualdengan lead time di bawah empat minggu. Analisis ROI tim menunjukkan periode pengembalian modal 9 bulan murni dari peningkatan pemanfaatan GPU.

Penyebaran tersebut mengkonfirmasi bahwaNVIDIA Mellanox 920-9B110-00FH-0D0memenuhi janji latensi sub-mikrodetik, bandwidth bi-sectional penuh, dan efisiensi asli RDMA. Bagi para arsitek yang merancang kluster AI atau sistem HPC generasi berikutnya, peralihan ini mewakili landasan yang terbukti dan siap produksi. Ketika beban kerja terus meningkat menuju skala exascale, solusi dibangun berdasarkan920-9B110-00FH-0D0akan tetap menjadi yang terdepan dalam desain interkoneksi berkinerja tinggi.