Buku Putih Teknis: NVIDIA Mellanox 920-9B210-00FN-0D0 Solusi Switch InfiniBand

Evolusi beban kerja komputasi menuju pelatihan AI eksascale dan simulasi HPC keandalan tinggi secara mendasar telah mengalihkan kemacetan kinerja dari komputasi ke interkoneksi.Kluster RDMA modern membutuhkan kain yang tidak hanya memberikan bandwidth tinggi tetapi latensi deterministik ultra-rendahJaringan lama sering memperkenalkan latensi variabel, kehilangan paket yang disebabkan kemacetan, dan kompleksitas manajemen,yang secara langsung diterjemahkan ke dalam waktu yang lebih lama untuk solusi, sumber daya GPU / CPU yang kurang dimanfaatkan, dan peningkatan overhead operasional.

Solusi teknis ini memenuhi persyaratan inti untuk pusat data dan fasilitas penelitian generasi berikutnya: membangunkain berkinerja tinggi yang mampu konvergen beban kerja HPC klasik (berbasis MPI) dan AI modern (komunikasi kolektif)Permintaan teknis utama termasuk latensi switch sub-mikrosecond, throughput non-blocking untuk semua-ke-semua pola komunikasi, kontrol kemacetan cerdas,dan kerangka kerja manajemen yang memberikan visibilitas dan otomatisasi yang mendalam.920-9B210-00FN-0D0 Solusi InfiniBand switch OPNdirancang untuk memenuhi standar yang ketat ini.

Arsitektur yang diusulkan adalah kain daun tulang belakang yang dirancang untuk lebar band bisectional maksimum dan skalabilitas, dibangun di atas teknologi NDR 400Gb / s InfiniBand.NVIDIA Mellanox 920-9B210-00FN-0D0lapisan daun dapat terdiri dari campuran switch NDR atau HDR, menghubungkan node komputasi (server GPU seperti sistem NVIDIA DGX, cluster CPU),penyimpanan paralel berkinerja tinggi (NVMe-oF), dan node manajemen.

Desain yang terputus ini memastikan latensi yang dapat diprediksi dan menghilangkan oversubscription di dalam kain.

• Kain seragam:Sebuah jaringan tunggal untuk lalu lintas komputasi (Timur-Barat) dan penyimpanan, menyederhanakan manajemen dan mengurangi CAPEX.
• Operasi tanpa kerugian:Memanfaatkan kontrol kemacetan asli InfiniBand dan manajemen aliran lalu lintas untuk menjamin kehilangan paket nol, yang penting untuk kinerja RDMA dan MPI.
• Jaringan yang didefinisikan oleh perangkat lunak:Integrasi dengan NVIDIA Cumulus Linux dan platform UFM® memungkinkan otomatisasi kain yang dapat diprogram dan manajemen berbasis kebijakan.

Peraturan920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/sswitch adalah landasan strategis dari arsitektur ini, bertindak sebagai tulang punggung kinerja tinggi. perannya melampaui switching sederhana; itu adalah mesin cerdas yang memastikan pergerakan data yang optimal.

Karakteristik teknis utamanya, seperti yang dijelaskan dalam dokumen resmiData sheet 920-9B210-00FN-0D0, secara langsung menangani optimasi low-latency:

• Cut-Through Switching & Ultra-Low Latency:Switch menggunakan arsitektur switching cut-through canggih, mencapai latensi port-to-port di bawah 100 nanodetik..
• NDR 400Gb/s Bandwidth:Setiap port memberikan 400Gb / s, memberikan ruang kepala yang diperlukan untuk mencegah kemacetan selama beban kerja puncak seperti titik pemeriksaan pelatihan AI terdistribusi atau operasi MPI_allreduce skala besar.
• Adaptive Routing and Congestion Control:NVIDIA's Scalable Hierarchical Aggregation and Reduction Protocol (SHARP) TM v3 teknologi, tertanam dalam switch, offload operasi kolektif dari CPU,secara drastis mengurangi overhead sinkronisasiDikombinasikan dengan routing adaptif dinamis, mencegah titik panas dan memastikan pemanfaatan kain yang seimbang.
• Kompatibilitas mundur dan maju:Pergeseran ini merupakan bagian integral dari strategi migrasi yang lancar.kompatibeldengan peralatan HDR (200Gb/s) dan EDR (100Gb/s) yang ada, memungkinkan peningkatan bertahap.Spesifikasi 920-9B210-00FN-0D0sangat penting untuk perencanaan konektivitas pelabuhan dan jenis kabel.

Penyebaran awal harus mengikuti pendekatan modular "pod".920-9B210-00FN-0D0switch dalam peran tulang belakang untuk redundansi, terhubung ke beberapa HDR atau NDR switch daun mendukung beberapa lusin node komputasi.

Topologi yang direkomendasikan untuk kinerja optimal:Topologi Clos (Fat-Tree) dua tingkat yang tidak memblokir.Jumlah switch tulang belakang (920-9B210-00FN-0D0 unit) ditentukan oleh jumlah uplink dari setiap switch daun dan rasio oversubscription yang diinginkan (sebaiknya 11:1 untuk HPC/AI).

• Meningkatkan skala:Untuk skala kelompok, tambahkan lebih banyak switch daun dan secara proporsional menambahkan lebih920-9B210-00FN-0D0Rasio non-menghalangi. skala alamat dan routing kain dengan mulus di bawah manajemen UFM®.
• Meningkatkan skala:Node individu dapat ditingkatkan ke NDR NIC, segera memanfaatkan seluruh 400Gb / s bandwidth ke tulang belakang.kompatibelalam mendukung lingkungan yang heterogen ini.
• Kabel dan Listrik:Perencanaan penyebaran harus memperhitungkan kabel optik yang kompatibel dengan NDR (misalnya, OSFP).Spesifikasi 920-9B210-00FN-0D0memberikan data konsumsi daya dan termal yang tepat untuk desain daya dan pendinginan pusat data yang akurat.

Ketika solusi ini tersediauntuk dijual, terlibat dengan mitra bersertifikat disarankan untuk memodelkan920-9B210-00FN-0D0 hargadan kuantitas untuk rencana skala khusus Anda.

Keunggulan operasional dicapai melalui platform NVIDIA UFM®.920-9B210-00FN-0D0Pergantian.

• Pemantauan Proaktif:UFM® menawarkan telemetri real-time pada kesehatan switch, pemanfaatan port, suhu, penghitung kesalahan, dan analisis mendalam dari pola lalu lintas tingkat aplikasi,termasuk matriks komunikasi MPI dan RDMA.
• Pengelolaan Kain Otomatis:Dari penyediaan awal dan validasi kabel hingga pembaruan firmware dan cadangan konfigurasi, UFM® mengotomatisasi tugas rutin, mengurangi kesalahan manusia dan overhead operasional.
• Penyelesaian masalah:Alat-alat canggih dapat menentukan anomali kinerja, mengidentifikasi aliran yang tidak berperilaku yang menyebabkan kemacetan, dan memvisualisasikan topologi kain untuk dengan cepat mengisolasi tautan atau komponen yang gagal.
• Optimasi Kontinyu:Memanfaatkan wawasan UFM® untuk beban kerja ukuran yang tepat, memvalidasi bahwa kinerja selaras denganlembar dataPengamatan reguler metrik kemacetan dan latensi adalah kunci untuk mempertahankan kinerja puncak kain.

Menerapkan arsitektur kain yang berpusat padaNVIDIA Mellanox 920-9B210-00FN-0D0InfiniBand switch memberikan keunggulan kompetitif dasar bagi organisasi yang bergantung pada komputasi berkinerja tinggi.Solusi teknis ini memberikan nilai yang dapat diukur dalam berbagai dimensi:

Singkatnya,920-9B210-00FN-0D0tidak hanya komponen tetapi memungkinkan infrastruktur konvergen berkinerja tinggi.Ini mengubah jaringan dari kewajiban potensial menjadi aset strategis yang sepenuhnya melepaskan kekuatan modern komputasi kelompok.