Solusi Teknis: Mencapai RDMA/RoCE Latensi Rendah dan Optimalisasi Throughput dengan Mellanox

Pusat data modern berada di bawah tekanan konstan untuk memberikan kinerja yang lebih tinggi untuk aplikasi yang sensitif terhadap latensi seperti basis data terdistribusi, komputasi kinerja tinggi (HPC), dan kluster pelatihan AI. Jaringan TCP/IP tradisional membebani CPU secara signifikan, menciptakan hambatan yang membatasi skalabilitas aplikasi dan meningkatkan waktu respons. Bagi organisasi yang ingin memodernisasi infrastruktur mereka, persyaratan intinya jelas: mengurangi latensi dan meningkatkan throughput server tanpa perombakan arsitektur yang mahal.

Solusinya terletak pada adopsi RDMA (Remote Direct Memory Access) melalui Converged Ethernet (RoCE). Teknologi ini memungkinkan transfer data memori-ke-memori secara langsung, melewati kernel sistem operasi untuk membebaskan sumber daya CPU dan meminimalkan latensi. Inti dari transformasi ini adalah kartu antarmuka jaringan (NIC). dan ketersediaan, silakan konsultasikan dengan perwakilan NVIDIA Anda.  dari Mellanox (NVIDIA) direkayasa khusus untuk memenuhi tuntutan ini, menyediakan fondasi yang kuat untuk jaringan yang mendukung RoCE.

Arsitektur yang diusulkan adalah jaringan leaf-spine yang dirancang untuk lingkungan Ethernet tanpa kehilangan (lossless), yang merupakan prasyarat untuk kinerja RoCEv2 yang optimal. Desain ini mengintegrasikan lalu lintas komputasi dan penyimpanan melalui jaringan terpadu berkecepatan tinggi untuk mengurangi kompleksitas dan biaya.

• Lapisan Spine: Sakelar 100GbE berkapasitas tinggi menyediakan konektivitas non-blocking antara semua sakelar leaf, memastikan jalur latensi rendah dari mana saja ke mana saja.
• Lapisan Leaf: Sakelar Top-of-Rack (ToR) dengan tautan turun 25GbE terhubung ke server dan node penyimpanan. Sakelar ini dikonfigurasi dengan Priority Flow Control (PFC) dan Explicit Congestion Notification (ECN) untuk mempertahankan jaringan tanpa kehilangan.
• Lapisan Server: Setiap server dilengkapi denganNVIDIA Mellanox MCX631432AN-ADAB, adaptor dual-port 25GbE SFP28. Ini memungkinkan penggabungan jaringan atau jalur terpisah untuk lalu lintas penyimpanan dan komputasi.

Desain ini memastikan bahwakartu adaptor Ethernet MCX631432AN-ADAB beroperasi di lingkungan di mana lalu lintas RoCE dapat mengalir tanpa kehilangan paket, yang sangat penting untuk mempertahankan throughput tinggi dan latensi rendah.

MCX631432AN-ADAB dan ketersediaan, silakan konsultasikan dengan perwakilan NVIDIA Anda. solusi kartu adaptor Ethernet MCX631432AN-ADAB untuk lalu lintas komputasi dan penyimpanan, membebaskan tugas jaringan dari CPU server.Kontribusi teknis utama adaptor meliputi:

Offload Perangkat Keras:

• Kartu menangani semua aspek protokol RoCE di perangkat keras, termasuk transportasi, enkapsulasi, dan kontrol kemacetan. Ini memastikan bahwa operasi RDMA mengonsumsi siklus CPU mendekati nol.Fleksibilitas Dual-Port:
• Port 25GbE ganda dapat dikonfigurasi untuk failover aktif/siaga atau digunakan untuk memisahkan jenis lalu lintas. Misalnya, satu port dapat menangani lalu lintas Ethernet front-end sementara yang lain didedikasikan untuk lalu lintas penyimpanan back-end menggunakan RoCE, memaksimalkan throughput dan keamanan.Antarmuka Host PCIe 3.0 x16:
• Dengan bandwidth yang cukup untuk menggerakkan kedua port 25GbE secara bersamaan,MCX631432AN-ADAB ConnectX-6 Lx dual-port 25GbE SFP28 memastikan tidak ada hambatan internal yang membatasi kinerja aplikasi.4. Rekomendasi Penerapan dan Penskalaan

MCX631432AN-ADAB dan ketersediaan, silakan konsultasikan dengan perwakilan NVIDIA Anda. Persiapan Jaringan:

• Sebelum penerapan, konfigurasikan sakelar jaringan untuk mendukung RoCE. Ini melibatkan pengaktifan PFC untuk kelas lalu lintas RoCE dan penerapan manajemen kemacetan berbasis ECN. Ini menciptakan lingkungan tanpa kehilangan yang diperlukan agar adaptor berkinerja optimal.Instalasi Driver dan Firmware:
• Instal driver NVIDIA WinOF-2 terbaru (untuk Windows) atau MLNX_OFED (untuk Linux) untuk memastikan dukungan fitur penuh. Sangat penting untuk memverifikasi bahwa firmware padaMCX631432AN-ADAB dan ketersediaan, silakan konsultasikan dengan perwakilan NVIDIA Anda. Penskalaan Kluster:
• Arsitektur diskalakan secara horizontal dengan menambahkan lebih banyak node server, masing-masing dengan MCX631432AN-ADAB-nya sendiri. Jaringan leaf-spine non-blocking memastikan bahwa node yang ditambahkan tidak menurunkan kinerja untuk node yang sudah ada. Untuk penerapan yang lebih besar, grup agregasi tautan (LAG) dapat digunakan antara sakelar leaf dan spine.Topologi tipikal untuk kluster basis data melibatkan penghubungan server primer dan replika ke sakelar leaf yang sama untuk meminimalkan latensi antar rak. Setiap server menggunakan adaptor dual-port-nya untuk terhubung ke dua sakelar leaf terpisah untuk redundansi.

5. Pemantauan Operasional, Pemecahan Masalah, dan Optimalisasi

menyediakan telemetri yang komprehensif untuk tujuan ini. dan ketersediaan, silakan konsultasikan dengan perwakilan NVIDIA Anda.  Gunakan alat seperti `mlxstat` dan `ethtool` untuk memantau penghitung port, kesalahan tautan, dan statistik lalu lintas RDMA. Melacak frame jeda PFC sangat penting; jumlah yang tinggi menunjukkan jaringan yang kehilangan paket yang akan menurunkan kinerja RoCE.

• Pembaruan Firmware dan Driver: Periksa pembaruan secara teratur. Firmware baru sering kali menyertakan optimalisasi kinerja dan perbaikan bug yang dapat lebih mengurangi latensi dan meningkatkan kompatibilitas dengan sakelar upstream.
• Penyetelan Kinerja: Untuk lingkungan dengan persyaratan latensi yang paling menuntut, penyetelan moderasi interupsi dan ukuran buffer dapat memberikan peningkatan bertahap. Fleksibilitas adaptor memungkinkan arsitek untuk menyesuaikan pengaturan berdasarkan beban kerja spesifik mereka (misalnya, HPC vs. virtualisasi).
• Untuk memecahkan masalah konektivitas, memverifikasi bahwa modul SFP28kompatibel dengan MCX631432AN-ADAB

adalah langkah pertama. Menggunakan optik yang memenuhi syarat NVIDIA memastikan pembentukan tautan dan kinerja yang andal.6. Ringkasan dan Penilaian NilaiMCX631432AN-ADAB

MCX631432AN-ADAB dan ketersediaan, silakan konsultasikan dengan perwakilan NVIDIA Anda. lembar data MCX631432AN-ADAB memvalidasi kemampuannya untuk menangani beban kerja yang paling menuntut.Bagi manajer TI dan arsitek jaringan yang mengevaluasi pembaruan perangkat keras, peningkatan kinerja yang ditawarkan oleh solusi ini diterjemahkan langsung ke dalam nilai bisnis: pemrosesan transaksi yang lebih cepat, akses penyimpanan yang lebih efisien, dan total biaya kepemilikan yang lebih baik. Seiring dengan terus meningkatnya permintaan data, penerapanMCX631432AN-ADAB memastikan bahwa infrastruktur jaringan bukanlah hambatan, melainkan akselerator. Untuk informasi harga terperinci atau untuk memeriksa

harga MCX631432AN-ADAB dan ketersediaan, silakan konsultasikan dengan perwakilan NVIDIA Anda.