NVIDIA Mellanox MQM9790-NS2F InfiniBand Switch ในทางปฏิบัติ｜การปรับแต่งการเชื่อมต่อความหน่วงต่ำสำหรับ RDMA, HPC

NVIDIA Mellanox MQM9790-NS2F InfiniBand Switch ในการปฏิบัติการเพื่อออนไลน์ออนไลน์ความช้าต่ําสําหรับ RDMA, HPC และ AI Clusters

ในการฝึกอบรม AI ที่ทันสมัย, การจําลอง HPC และสภาพแวดล้อมการเก็บข้อมูลที่กระจายตัว, ข้อขัดขวางที่แท้จริงไม่ค่อยเป็นพลังงานคอมพิวเตอร์สด แต่เป็นประสิทธิภาพของการเชื่อมต่อระหว่างก้อนต่อก้อนNVIDIA Mellanox MQM9790-NS2F, สวิตช์ NDR InfiniBand ขนาด 400Gb / s, ถูกออกแบบมาเพื่อแก้ไขแหล่งนี้ของสเตค. บทความนี้เดินผ่านกรณีการจัดจําหน่ายตัวแทนเพื่อแสดงวิธีการ MQM9790-NS2F ปรับปรุง RDMA,HPC, และผลงานของคลาสเตอร์ AI ผ่านการออกแบบผ้าที่มีความช้าต่ํา

สถานการณ์ และ ความ ท้าทาย

คลัสเตอร์ AI แบบทั่วไปสําหรับการวิจัยหรือองค์กรอาจประกอบด้วยเซอร์เวอร์ GPU หลายร้อยเซอร์เวอร์ ระบบไฟล์คู่เคียง และโปรแกรมงานที่กระจายภาระงาน MPI และ NCCLแต่ละโน้ดสามารถสร้างการจราจรจากตะวันออกไปตะวันตกได้มากกว่าที่ผ้า HDR 200Gb/s สามารถรับรู้ได้ทีมงานรายงานสามจุดปวดอย่างทั่วไป: การเพิ่มความช้าของหางระหว่างการดําเนินงานร่วมกัน, การแพร่กระจายความจุกจุกไปทั่วชั้นผ้า, และความยากลําบากในการปรับขนาดการนับท่าเรือโดยไม่เพิ่มกระโดด.

สําหรับสถาปนิกเครือข่าย ความท้าทายไม่ใช่แค่การปรับปรุงความเร็วของลิงค์ แต่เป็นการอนุรักษ์การขนส่งที่กําหนดและไม่มีการสูญเสียนี่คือจุดที่การประเมิน MQM9790-NS2F รายละเอียดตรงกับโปรไฟล์ภาระงานจริงกลายเป็นสิ่งจําเป็น.

การแก้ไขและวิธีการใช้งาน

ในกรณีนี้คลาสเตอร์ถูกย้ายไปยังเนื้อเยื่อ NDR 400Gb / s ที่สร้างขึ้นรอบสวิทช์ InfiniBand MQM9790-NS2F.มันให้ราดิกซ์สูงในสวิตช์เดียว, ทําให้การออกแบบสามารถลดระดับผ้าในขณะที่ยังคงความกว้างแบนด์ไม่ล็อค

• ชั้นใบ: สวิตช์ MQM9790-NS2F เชื่อมต่อ GPU node และเป้าหมายการเก็บข้อมูลผ่าน 400Gb/s NDR links
• ชั้นกระดูกสันหลัง: หน่วย MQM9790-NS2F เพิ่มเติมให้ความเชื่อมต่อระหว่างใบและความหลากหลายทาง
• การเร่งรวม: NVIDIA SHARPv3 อาการ MPI และ NCCL การดําเนินงาน
• การควบคุมความจุกจุก: การนําทางแบบปรับปรุงและการป้องกัน QoS ที่ก้าวหน้า
• การบริหาร: เครื่องมือ InfiniBand และเทเลเมตรีย์มาตรฐานสําหรับการติดตามสุขภาพผ้า

เนื่องจากสวิตช์ InfiniBand MQM9790-NS2F เป็นส่วนหนึ่งของครอบครัว Quantum-2 มันทํางานร่วมกับวิธีการจัดการ InfiniBand และระบบนิติกรณ์ที่มีอยู่ทีมงานที่ประเมิน MQM9790-NS2F ฮาร์ดแวร์ที่เข้ากันได้ ควรตรวจสอบว่าตัวปรับช่องโฮสต์, สายเคเบิล OSFP และระดับฟอร์มแวร์สอดคล้องกับความต้องการของ NDRการแก้ไขสวิตช์ InfiniBand MQM9790-NS2F ของชนิดนี้มักถูกวางแผนพร้อมกับวงจรการอัพเดท GPU เพื่อหลีกเลี่ยงความลําบากในการผลิตแบบผสม.

ผล และ ประโยชน์

หลังจากการใช้งาน การเปลี่ยนแปลงที่เห็นได้ชัดที่สุดคือเวลาในการเสร็จสิ้นงานสําหรับภาระงานที่เชื่อมโยงกันอย่างแน่นการดําเนินงานร่วมกันที่เคยหยุดยั้งเพราะการจราจร ตอนนี้ครบถ้วนด้วยความช้าระยะหางที่ต่ํากว่าและคงความหนาแน่นของ OSFP 64 ท่ายังทําให้การเชื่อมสายง่ายขึ้นและลดจํานวนการเปลี่ยนกระโดดระหว่างจุดสิ้นสองจุดใด ๆ ซึ่งมีผลประโยชน์ต่อผลงาน RDMA โดยตรง

จากมุมมองการดําเนินงาน, ผ้ากลายเป็นง่ายกว่าที่จะคิดเกี่ยวกับ. ระดับน้อยกว่าหมายถึงโดเมนความล้มเหลวน้อยกว่าและการแก้ไขปัญหาที่ง่ายกว่า. การจอดจอดข้อมูล, รวมถึง NVMe ผ่าน Fabrics,แบ่งปันการขนส่งความช้าต่ําเดียวกันกับการจราจรคอมพิวเตอร์สําหรับผู้บริหารไอที ข้อสําคัญคือการลงทุนในชั้นผ้าสามารถปลดล็อคความจุที่จ่ายไปแล้วในชั้นคอมพิวเตอร์

ทีมจัดซื้อและวางแผนมักจะตรวจสอบใบข้อมูล MQM9790-NS2F เพื่อยืนยันจํานวนพอร์ต, พลังงาน, และซองเย็นก่อนที่จะเสร็จสิ้นการออกแบบคําถามเกี่ยวกับ MQM9790-NS2F ราคาและ MQM9790-NS2F สําหรับการขายมีที่ดีที่สุดที่กํากับให้กับผู้จําหน่ายที่ได้รับอนุญาตและตัวแทนองค์กร NVIDIA, เนื่องจากราคาขึ้นอยู่กับการตั้งค่า, การสนับสนุน, และภูมิภาค.

สรุปและทัศนะ

NVIDIA Mellanox MQM9790-NS2F แสดงว่าแพลตฟอร์ม NDR 400Gb/s ที่มีความถี่สูงสามารถปรับปรุงการทํางานของ AI, HPC และ RDMA แคลสเตอร์ได้อย่างไรโดยไม่เพิ่มความซับซ้อนของผ้าเมื่อขนาดของภาระงานและความหนาแน่นของ GPU เพิ่มขึ้นสําหรับสถาปนิกที่วางแผนการปรับปรุงผ้าต่อไป, MQM9790-NS2F เป็นก้อนก้อนอาคารที่ใช้ได้สําหรับการกําหนดอินเตอร์คอนเนคต์ความเร็วสูง.