Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 InfiniBand Switch ทางเทคนิค
June 1, 2026
เอกสารไวท์เปเปอร์ทางเทคนิคนี้ให้ข้อมูลการออกแบบอ้างอิงที่ครอบคลุมแก่สถาปนิก วิศวกรก่อนการขาย และทีมปฏิบัติการโดยเน้นไปที่เมลลาน็อกซ์ (NVIDIA เมลลาน็อกซ์) 920-9B210-00FN-0D0สวิตช์ InfiniBand โซลูชันนี้จัดการกับความท้าทายที่เร่งด่วนที่สุดในสภาพแวดล้อม AI และ HPC สมัยใหม่: เวลาแฝงที่เกิดจากเครือข่าย ความแออัด และข้อจำกัดด้านความสามารถในการปรับขนาดของอีเธอร์เน็ตแฟบริคแบบดั้งเดิม
1. การวิเคราะห์ความเป็นมาและความต้องการของโครงการ
องค์กรต่างๆ ที่ใช้คลัสเตอร์ GPU ขนาดใหญ่สำหรับการฝึกโมเดลภาษาขนาดใหญ่ การจำลองไดนามิกของโมเลกุล หรือการพยากรณ์อากาศ ต้องเผชิญกับปัญหาคอขวดที่พบบ่อย นั่นก็คือ โครงสร้างการเชื่อมต่อโครงข่าย อีเทอร์เน็ตแบบสูญเสียแบบทั่วไปไม่สามารถรับประกันความหน่วงระดับต่ำกว่าไมโครวินาทีที่กำหนดได้ซึ่งจำเป็นสำหรับการดำเนินการแบบลดทั้งหมดและทั้งหมดต่อทั้งหมดอย่างมีประสิทธิภาพ ข้อกำหนดหลักที่ระบุได้จากการใช้งานจริง ได้แก่:
- เวลาแฝงตั้งแต่ต้นทางถึงปลายทางต่ำกว่า 1µs สำหรับปริมาณงาน MPI ที่ไวต่อเวลาแฝง
- แบบไม่สูญเสียข้อมูล อัตราสาย 400Gb/s ต่อพอร์ต โดยไม่มีการบล็อกส่วนหัวของบรรทัด
- การประมวลผลในเครือข่ายเพื่อลดภาระการดำเนินการโดยรวมจาก CPU ของโฮสต์
- ความสามารถในการปรับขนาดได้อย่างราบรื่นตั้งแต่ 8 ถึง 2,000+ โหนด GPU โดยไม่ต้องมีการออกแบบสถาปัตยกรรมใหม่
ความต้องการเหล่านี้ทำให้ทีมออกแบบของเราเลือก920-9B210-00FN-0D0ในฐานะองค์ประกอบพื้นฐานสำหรับแฟบริคที่มีความหน่วงต่ำแห่งยุคถัดไป
2. การออกแบบสถาปัตยกรรมเครือข่าย/ระบบโดยรวม
สถาปัตยกรรมที่นำเสนอใช้โทโพโลยี leaf-spine สองชั้นที่ได้รับการปรับแต่งมาสำหรับการแบนด์วิธแบบแบ่งสองส่วนแบบไม่ปิดกั้น โหนดประมวลผลทั้งหมด (เซิร์ฟเวอร์ GPU อุปกรณ์จัดเก็บข้อมูล โฮสต์การจัดการ) เชื่อมต่อกับสวิตช์ลีฟ ในขณะที่สวิตช์สไปน์ให้การเชื่อมต่อแบบใดก็ได้ระหว่างลีฟ การออกแบบนี้ช่วยลดการสมัครสมาชิกมากเกินไป และรับประกันเวลาแฝงที่คาดการณ์ได้ โดยไม่คำนึงถึงรูปแบบการสื่อสาร
สำหรับคลัสเตอร์อ้างอิง 512-GPU เราจะปรับใช้สวิตช์ลีฟ 16 ตัวและสวิตช์สไปน์ 8 ตัว โดยแต่ละตัวเป็นNVIDIA เมลลาน็อกซ์ 920-9B210-00FN-0D0. ลิงก์ลีฟสไปน์ทำงานที่ 400Gb/s NDR ส่งผลให้แบนด์วิดท์แฟบริครวมเกิน 200 Tb/s อัลกอริธึมการกำหนดเส้นทางแบบปรับเปลี่ยน (AR) และการควบคุมความแออัดถูกเปิดใช้งานในทุกพอร์ตเพื่อสร้างสมดุลการรับส่งข้อมูลแบบไดนามิกและหลีกเลี่ยงฮอตสปอตในระหว่างเหตุการณ์อินคาสต์
3. บทบาทของ 920-9B210-00FN-0D0 และตัวสร้างความแตกต่างที่สำคัญ
ที่920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRสวิตช์ทำหน้าที่เป็นทั้งลีฟและสัน ให้ประสิทธิภาพที่สม่ำเสมอทั่วทั้งผ้า ข้อได้เปรียบทางสถาปัตยกรรมที่สำคัญ ได้แก่ :
| คุณสมบัติ | สิทธิประโยชน์สำหรับ RDMA/HPC/AI |
|---|---|
| พอร์ต NDR 32x 400Gb/s (ไม่บล็อค) | แบนด์วิธแบบแบ่งครึ่งเต็ม ไม่มีการสมัครสมาชิกเกิน |
| เวลาแฝงในการตัดผ่านต่ำกว่า 100ns | ช่วยให้กลุ่ม MPI ข้อความขนาดเล็กมีประสิทธิภาพ |
| การรวมกลุ่มในเครือข่าย SHARPv3 | ลดปริมาณการรับส่งข้อมูลทั้งหมดลงสูงสุด 10 เท่า |
| การกำหนดเส้นทางแบบปรับได้ + การควบคุมความแออัด | กำจัดฮอตสปอตภายใต้สถานการณ์ incast |
วิศวกรที่ทำการประเมินการจัดซื้อจัดจ้างจะพบว่า920-9B210-00FN-0D0 สวิตช์ InfiniBand OPN(การสั่งหมายเลขชิ้นส่วน) ทำให้การเสนอราคาและการจัดส่งง่ายขึ้น สำหรับการตรวจสอบการทำงานร่วมกันเอกสารข้อมูลสินค้า 920-9B210-00FN-0D0และข้อมูลจำเพาะ 920-9B210-00FN-0D0ให้เมทริกซ์ความเข้ากันได้โดยละเอียดกับ ConnectX-7, BlueField-3 DPUs และอุปกรณ์จัดเก็บข้อมูลของบริษัทอื่น
4. คำแนะนำในการปรับใช้และการปรับขนาด
เราขอแนะนำวิธีการปรับใช้แบบเป็นขั้นตอนเพื่อลดการหยุดชะงักของการผลิต:
- ระยะที่ 1 (นำร่อง):8 ถึง 16 โหนด GPU + 2920-9B210-00FN-0D0สวิตช์ (โทโพโลยีรางเดียว) ตรวจสอบประสิทธิภาพ RDMA และรวบรวมตัววัดพื้นฐาน
- ระยะที่ 2 (การผลิตบางส่วน):ปรับขนาดเป็น 128 GPU โดยใช้ใบไม้ 4 ใบ + หนาม 2 อัน เปิดใช้งานการกำหนดเส้นทางแบบปรับได้และ SHARPv3
- ระยะที่ 3 (การผลิตเต็มรูปแบบ):ปรับใช้ 16 ใบ + 8 สันสำหรับ 512+ GPU แนะนำการกำหนดเส้นทางแบบหลายเส้นทางและการแบ่งพาร์ติชันแฟบริคโดยใช้ NVIDIA UFM
สำหรับการเดินสายเคเบิล ให้ใช้สายออปติกแบบแอคทีฟ (AOC) หรือสายทองแดงแบบแอคทีฟสำหรับการเดินสายต่ำกว่า 5 เมตร สำหรับสไปน์ที่ยาวขึ้นหรือลิงก์แบบครอสแร็ค ให้ปรับใช้ตัวรับส่งสัญญาณ NDR 400Gb/s พร้อมไฟเบอร์โหมดเดี่ยว พอร์ตทั้งหมดบนเข้ากันได้ 920-9B210-00FN-0D0ระบบนิเวศรองรับการเจรจาอัตโนมัติระหว่างโหมดการทำงาน 400Gb/s และ 200Gb/s
5. การดำเนินงาน การตรวจสอบ และการแก้ไขปัญหา
ความพร้อมในการผลิตจำเป็นต้องมีการสังเกตอย่างเข้มงวด เราบูรณาการโซลูชัน OPN สวิตช์ InfiniBand 920-9B210-00FN-0D0ด้วย NVIDIA Unified Fabric Manager (UFM) ความสามารถในการดำเนินงานที่สำคัญ ได้แก่ :
- การตรวจวัดทางไกลแบบเรียลไทม์:ตัวนับต่อพอร์ต ฮิสโตแกรมเวลาแฝง การครอบครองบัฟเฟอร์ และการแจ้งเตือนความแออัดที่ส่งออกผ่าน Prometheus/Graphite
- เฟลโอเวอร์อัตโนมัติ:ลิงก์ย่อยวินาทีเปลี่ยนเส้นทางเมื่อสายเคเบิลหรือตัวรับส่งสัญญาณขัดข้อง
- การวินิจฉัยประสิทธิภาพ:ตัวนับประสิทธิภาพ SHARP ในตัวและเครื่องมือวิเคราะห์โครงสร้างเพื่อระบุโหนดที่ระบายช้า
สำหรับปัญหาทั่วไป โปรดดูที่เอกสารข้อมูลสินค้า 920-9B210-00FN-0D0สำหรับรหัสข้อผิดพลาดและการดำเนินการแก้ไขที่แนะนำ เมื่อวางแผนการเพิ่มกำลังการผลิต โปรดปรึกษากับราคา 920-9B210-00FN-0D0แบบจำลองสำหรับการแลกเปลี่ยนระหว่างการขยายแบบ leaf-only และ full-spine
6. สรุปและการประเมินมูลค่า
ที่NVIDIA เมลลาน็อกซ์ 920-9B210-00FN-0D0โซลูชันแบบพื้นฐานมอบเวลาแฝงต่ำกว่าไมโครวินาทีตามที่กำหนด ปริมาณงาน 400Gb/s แบบไม่สูญเสีย และการเร่งความเร็วการประมวลผลในเครือข่ายสำหรับคลัสเตอร์ RDMA/HPC/AI เมื่อเปรียบเทียบกับการออกแบบอีเธอร์เน็ต 400Gb ทางเลือก InfiniBand Fabric นี้ลดความหน่วงทั้งหมดลง 2.5 เท่า และกำจัดการรับส่งข้อมูลโดยรวมผ่าน SHARPv3 ได้ถึง 90% สำหรับองค์กรที่ทำการประเมินขาย 920-9B210-00FN-0D0โดยทั่วไปต้นทุนการเป็นเจ้าของทั้งหมดจะได้รับคืนภายใน 6–12 เดือนผ่านการใช้งาน GPU ที่สูงขึ้นและลดเวลาการทำงานให้เสร็จสิ้น เราขอแนะนำให้ปรับใช้นำร่องทันทีสำหรับโครงสร้างพื้นฐาน AI ใหม่หรือที่ปรับขนาด

