NVIDIA Mellanox MCX623106AN-CDAT Server Adapter Solusi Teknis

June 10, 2026

NVIDIA Mellanox MCX623106AN-CDAT Server Adapter Solusi Teknis

Buku putih teknis ini memberikan arsitek jaringan, insinyur pra-penjualan, dan tim operasi desain solusi komprehensif yang berpusat padaNVIDIA Mellanox MCX623106AN-CDAT. Kami membahas cara mencapai latensi rendah deterministik dan memaksimalkan throughput server menggunakan RDMA/RoCE di lingkungan pusat data modern.

1. Latar Belakang Proyek & Analisis Persyaratan

Tumpukan TCP/IP tradisional menimbulkan overhead yang signifikan—penanganan interupsi, salinan memori, dan peralihan konteks—yang membatasi kinerja aplikasi, terutama untuk NVMe-oF, database terdistribusi, dan cluster pelatihan AI. Persyaratan utama untuk infrastruktur generasi mendatang meliputi:

  • Latensi end-to-end di bawah 10µs untuk penyimpanan dan analisis real-time
  • Pintasan CPU ke inti bebas untuk logika bisnis (target: <20% penggunaan CPU terkait jaringan)
  • Fabric Ethernet lossless yang mendukung PFC dan ECN pada topologi leaf-spine 100GbE
  • Enkripsi in-line tanpa penurunan kinerja (IPsec/TLS)
  • Integrasi yang mulus dengan kerangka otomatisasi yang ada (Ansible, Terraform)

2. Arsitektur Jaringan & Sistem Secara Keseluruhan

Arsitektur referensi mengadopsi topologi tulang daun dua tingkat dengan seluruh port 100GbE. Setiap node komputasi/penyimpanan dilengkapi denganMCX623106AN-CDAT ConnectX adaptor kartu jaringan PCIe. Elemen desain utama:

  • Sakelar daun: Dikonfigurasi dengan buffer bersama sebesar 4MB, prioritas PFC 3 (penyimpanan) dan 4 (lalu lintas AI), ambang batas penandaan ECN pada kedalaman antrean 200KB
  • Sakelar tulang belakang: Fabric 12,8Tbps non-pemblokiran, rasio kelebihan permintaan 3:1 (dioptimalkan untuk pola timur-barat)
  • Konfigurasi host: PCIe 4.0 x16 (atau PCIe 5.0 bila tersedia), memori firmware 256MB per adaptor
  • Transportasi RDMA: RoCEv2 dengan kontrol kemacetan DCQCN, 4K MTU, data inline hingga 256 byte

ItuSolusi kartu adaptor Ethernet MCX623106AN-CDATmendukung hingga 1.024 fungsi virtual (VF) dan 256 fungsi fisik (PF), sehingga ideal untuk NFV dan beban kerja dalam container.

3. Peran NVIDIA Mellanox MCX623106AN-CDAT & Fitur Utama

ItuNVIDIA Mellanox MCX623106AN-CDATberfungsi sebagai mesin pesawat data, membongkar semua pemrosesan jaringan dari CPU host. MenurutLembar data MCX623106AN-CDATdan resmiSpesifikasi MCX623106AN-CDAT, kemampuan penting meliputi:

Fitur Manfaat untuk RDMA/RoCE
Kemudi perangkat keras (ASAP²) Mengarahkan paket ke antrian tertentu – tanpa intervensi CPU
Manajemen kemacetan RoCE dalam chip DCQCN diimplementasikan dalam firmware – granularitas respons 100ns
GPUDirect® RDMA Akses memori GPU melewati memori host – pengurangan latensi 2µs
Akselerasi VirtIO Performa asli untuk jaringan VM/kontainer

ItuKartu adaptor Ethernet MCX623106AN-CDATjuga mencakup enkripsi boot dan flash yang aman, memenuhi kebijakan keamanan yang ketat untuk sektor keuangan dan pemerintahan.

4. Rekomendasi Penerapan & Perluasan

Untuk penerapan brownfield, adaptor sudah lengkapKompatibel dengan MCX623106AN-CDATdengan sakelar 100GbE yang ada (broadcom, Mellanox, Cisco) setelah peningkatan firmware. Fase penerapan yang disarankan:

  • Tahap 1 (validasi lab):Dua node penyimpanan + dua node komputasi, aktifkan PFC dan ECN per port, validasi dengan ib_write_bw (targetkan throughput 98 Gb/s per port)
  • Fase 2 (percontohan):Satu rak penuh (40 node), terapkan DCQCN dengan ambang batas ECN: min=150KB, maks=500KB
  • Fase 3 (perluasan skala):Multi-rak dengan lapisan tulang belakang, memantau frame jeda PFC global (menjaga <0,1% dari total lalu lintas)

Untuk perluasan, adaptor mendukung agregasi tautan (LAG) dan perutean adaptif (AR) bila digunakan dengan sakelar NVIDIA Spectrum. Lingkungan berkecepatan campuran (100GbE hingga 25GbE) memerlukan reservasi buffer pada port keluar.

5. Operasi, Pemantauan & Pemecahan Masalah

Kerangka kerja NVIDIA DOCA menyediakan telemetri yang komprehensif. Metrik pemantauan penting meliputi:

  • Penghitung per antrian:rdma_out_of_sequence, cnp_sent, cnp_received (melalui ethtool -S)
  • Kesehatan PCIe:Kesalahan yang dapat diperbaiki/tidak dapat diperbaiki, negosiasi kecepatan tautan (alat mlxlink)
  • Deteksi kemacetan:Pengatur waktu pengawas PFC, rasio paket bertanda ECN (target <5%)

Pemecahan masalah umum: Jika kinerja RoCE turun di bawah 80 Gb/s, verifikasi bifurkasi PCIe (harus x16), nonaktifkan TSO/GRO, dan konfirmasi ambang batas switch ECN. Bagi mereka yang mengevaluasiHarga MCX623106AN-CDAT, solusi ini biasanya mencapai ROI dalam waktu 9–12 bulan dengan menggabungkan jumlah server.

6. Ringkasan & Penilaian Nilai

ItuNVIDIA Mellanox MCX623106AN-CDATmenghadirkan struktur latensi rendah yang deterministik sekaligus mengurangi overhead CPU hingga 75% dibandingkan dengan jaringan berbasis perangkat lunak. Panduan solusi ini memiliki desain arsitektur terperinci, fitur utama, langkah penerapan, dan praktik terbaik operasional. Organisasi mencariMCX623106AN-CDAT untuk dijualdapat menghubungi distributor resmi untuk evaluasi unit. Untuk referensi lengkap, resmiLembar data MCX623106AN-CDATdan rinciSpesifikasi MCX623106AN-CDATtersedia berdasarkan permintaan.