NVIDIA Mellanox MQM9790-NS2F เปิดตัว: เปิดยุคใหม่ของ 400Gb / s NDR InfiniBand Switching

NVIDIA Mellanox MQM9790-NS2F เปิดตัว: นำยุคใหม่ของสวิตช์ InfiniBand 400Gb/s NDR

คลัสเตอร์คอมพิวเตอร์ประสิทธิภาพสูงและ AI กำลังขยายตัวในระดับที่ไม่เคยมีมาก่อน ทำให้แบนด์วิดท์เครือข่ายและปัญหาคอขวดของความหน่วงมีความสำคัญมากขึ้นเรื่อยๆ ออกแบบมาสำหรับสถาปัตยกรรมศูนย์ข้อมูลยุคถัดไป NVIDIA Mellanox MQM9790-NS2F เปิดตัวในฐานะสวิตช์ InfiniBand ที่สร้างขึ้นมาโดยเฉพาะ ซึ่งกำหนดเพดานประสิทธิภาพใหม่สำหรับเวิร์กโหลดการฝึกอบรมแบบกระจายขนาดใหญ่และการจำลองทางวิทยาศาสตร์

เบื้องหลัง: ความท้าทายในการขยายขนาดในยุค NDR

เมื่อคลัสเตอร์ GPU ขยายจากหลักร้อยเป็นหลักพันโหนด โครงสร้างพื้นฐานเครือข่ายแบบดั้งเดิมจะประสบปัญหาในการรองรับรูปแบบการสื่อสารแบบ all-to-all ที่จำเป็น สวิตช์ InfiniBand สวิตช์ InfiniBand MQM9790-NS2F จัดการกับความท้าทายนี้โดยตรงด้วยการส่งมอบ 400Gb/s ต่อพอร์ตในรูปแบบ OSFP ขนาดกะทัดรัด 64 พอร์ต ไม่ว่าจะรองรับการฝึกโมเดลภาษาขนาดใหญ่หรือการจำลองสภาพอากาศที่ซับซ้อน สวิตช์นี้รับประกันว่าการรับส่งข้อมูลแบบ east-west จะไม่เป็นคอขวดอีกต่อไป ทำให้สามารถปรับขนาดประสิทธิภาพแบบเชิงเส้นได้ทั่วทั้งโหนดคอมพิวเตอร์หลายพันโหนด

ไฮไลท์ทางเทคนิค: อะไรที่ทำให้ MQM9790-NS2F แตกต่าง

หัวใจสำคัญของ MQM9790-NS2F 400Gb/s NDR 64-port OSFP คือสถาปัตยกรรม InfiniBand เจเนอเรชันที่เจ็ดของ NVIDIA ซึ่งรวมความสามารถในการประมวลผลในเครือข่ายขั้นสูง ข้อมูลจำเพาะหลักประกอบด้วย:

• ความหนาแน่นของพอร์ตและความเร็ว: 64 พอร์ต OSFP แต่ละพอร์ตรองรับ 400Gb/s NDR (Non-Data-Rate) พร้อมการแก้ไขข้อผิดพลาดล่วงหน้า (FEC) เพื่อระยะทางที่ไกลขึ้น
• การสลับแบบ cut-through ที่มีความหน่วงต่ำ: ความหน่วงจากพอร์ตถึงพอร์ตต่ำกว่า 100 นาโนวินาที ซึ่งมีความสำคัญอย่างยิ่งสำหรับแอปพลิเคชัน HPC ที่เชื่อมต่อกันอย่างใกล้ชิด
• การประมวลผลในเครือข่าย: SHARP (Scalable Hierarchical Aggregation and Reduction Protocol) v3.0 ในตัว ช่วยลดภาระการดำเนินการแบบรวมจาก CPU โฮสต์
• การวัดปริมาณขั้นสูงและการควบคุมความแออัด: การกำหนดเส้นทางแบบปรับได้และการจัดการความแออัดช่วยให้มั่นใจได้ถึงประสิทธิภาพที่คาดการณ์ได้แม้ภายใต้รูปแบบการรับส่งข้อมูลที่ท้าทาย

สำหรับวิศวกรที่ประเมิน โซลูชันสวิตช์ InfiniBand MQM9790-NS2F, การผสมผสานระหว่าง radix สูงและการเร่งความเร็วในการประมวลผลแบบรวมส่งผลโดยตรงต่อจำนวนชั้นสวิตช์ที่น้อยลง ต้นทุนรวมในการเป็นเจ้าของที่ต่ำลง และสถาปัตยกรรมการเดินสายที่ง่ายขึ้น เอกสาร เอกสารข้อมูล MQM9790-NS2F ฉบับแรกเน้นย้ำถึงการปรับปรุงประสิทธิภาพการสื่อสารแบบรวมถึง 2 เท่าเมื่อเทียบกับสวิตช์ HDR รุ่นก่อนหน้า

กรณีการใช้งานและสถานการณ์การติดตั้ง

NVIDIA Mellanox MQM9790-NS2F ถูกออกแบบมาสำหรับสามสภาพแวดล้อมหลัก:

• คลัสเตอร์การฝึก AI: การฝึกโมเดลขนาดใหญ่ระดับ GPT ได้รับประโยชน์จากแบนด์วิดท์ของ NDR และการเร่งความเร็ว all-reduce ของ SHARP
• คอมพิวเตอร์ประสิทธิภาพสูง: การพยากรณ์อากาศ พลศาสตร์โมเลกุล และการจำลอง CFD ใช้ประโยชน์จากความหน่วงต่ำและเครือข่ายที่ปราศจากความแออัดของสวิตช์
• ศูนย์ข้อมูลองค์กร: เมื่อเวิร์กโหลดแบบรวมเพิ่มขึ้น MQM9790-NS2F จะมอบเครือข่าย InfiniBand แบบรวมที่รวมการรับส่งข้อมูลการจัดเก็บข้อมูล การประมวลผล และการจัดการ

ผู้จัดการฝ่าย IT ที่พิจารณาการติดตั้งจะพบว่า MQM9790-NS2F เข้ากันได้ กับแพลตฟอร์ม NVIDIA Quantum-2 ที่มีอยู่ ทำให้สามารถอัปเกรดจากเครือข่าย HDR เป็น NDR ได้อย่างราบรื่น สวิตช์ยังรองรับการจัดการที่ครอบคลุมผ่าน NVIDIA UFM (Unified Fabric Manager) ซึ่งช่วยลดความซับซ้อนในการตรวจสอบและการตรวจจับข้อผิดพลาดเชิงรุกในโทโพโลยีขนาดใหญ่

เมื่อตรวจสอบ ข้อมูลจำเพาะ MQM9790-NS2F, โปรดทราบว่ามีแหล่งจ่ายไฟคู่สำรองและโมดูลพัดลมที่สามารถเปลี่ยนได้ขณะทำงาน ซึ่งรับประกันความพร้อมใช้งาน 99.999% ในสภาพแวดล้อมการผลิต ราคาและวันวางจำหน่ายเบื้องต้นบ่งชี้ว่าช่องทางการ MQM9790-NS2F สำหรับขาย ได้เปิดดำเนินการแล้วผ่านเครือข่ายพันธมิตรทั่วโลกของ NVIDIA โดยมีการจัดส่งจำนวนมากตามกำหนดในไตรมาสปัจจุบัน

สรุป: บล็อกพื้นฐานสำหรับศูนย์ข้อมูลยุคถัดไป

MQM9790-NS2F เป็นมากกว่าสวิตช์ แต่เป็นตัวเร่งกลยุทธ์สำหรับการประมวลผลระดับ Exascale ด้วยการผสมผสานความเร็ว 400Gb/s NDR ความหนาแน่น 64 พอร์ต OSFP และการเร่งความเร็วในการประมวลผลในเครือข่าย NVIDIA Mellanox MQM9790-NS2F มอบรากฐานที่พร้อมสำหรับอนาคตซึ่งตอบสนองทั้งความต้องการประสิทธิภาพในปัจจุบันและข้อกำหนดเวิร์กโหลดที่กำลังเกิดขึ้น สถาปนิกและวิศวกรมีเส้นทางที่ชัดเจนในการขยายเครือข่าย InfiniBand ของตนโดยไม่มีข้อจำกัด ทำให้ สวิตช์ InfiniBand MQM9790-NS2F เป็นเสาหลักของเครือข่ายประสิทธิภาพสูงสมัยใหม่