การเปรียบเทียบเครือข่าย HPC: InfiniBand vs. Ethernet

[เมือง, วันที่] — ความต้องการอย่างไม่หยุดหย่อนสำหรับการประมวลผลที่เร็วขึ้นและชุดข้อมูลขนาดใหญ่ขึ้นในการวิจัยทางวิทยาศาสตร์ การฝึกอบรม AI และการจำลองที่ซับซ้อนได้ผลักดันให้ เครือข่าย HPC เข้าสู่สปอตไลท์ ทางเลือกของเทคโนโลยีการเชื่อมต่อระหว่างกันไม่ใช่รายละเอียดแบ็กเอนด์อีกต่อไป แต่เป็นตัวกำหนดหลักของประสิทธิภาพและประสิทธิภาพโดยรวมของระบบ การถกเถียงกันมายาวนานของ InfiniBand vs Ethernet ยังคงพัฒนาต่อไป โดย Mellanox ของ NVIDIA (ปัจจุบันเป็นส่วนหนึ่งของ NVIDIA Networking) เป็นผู้นำด้านนวัตกรรมในทั้งสองด้าน การวิเคราะห์นี้จะแบ่งแยกความแตกต่างที่สำคัญซึ่งกำหนดอนาคตของโครงสร้างพื้นฐานซูเปอร์คอมพิวติ้ง

หัวใจสำคัญของการถกเถียงเรื่อง เครือข่าย HPC คือประสิทธิภาพดิบ InfiniBand ได้ครองตำแหน่งผู้นำในด้านประสิทธิภาพของแอปพลิเคชันอย่างต่อเนื่อง ซึ่งเป็นผลมาจากปรัชญาการออกแบบที่ให้ความสำคัญกับ Lateny ต่ำและ Throughput สูงสำหรับการคำนวณแบบขนานที่เชื่อมต่อกันอย่างใกล้ชิด

• Lateny: สถาปัตยกรรมการสลับแบบ cut-through ของ InfiniBand ให้ Lateny แบบ end-to-end ซึ่งมักจะต่ำกว่า 1 ไมโครวินาที ซึ่งมีความสำคัญอย่างยิ่งสำหรับการรับส่งข้อมูล MPI ในการคำนวณทางวิทยาศาสตร์ Ethernet ในขณะที่ปรับปรุงด้วย RDMA (RoCEv2) โดยทั่วไปจะแสดง Lateny ที่สูงกว่าเล็กน้อยเนื่องจากการสลับแบบ store-and-forward และค่าใช้จ่ายของสแต็ก TCP/IP
• Throughput: เทคโนโลยีทั้งสองนำเสนอโซลูชัน 400Gb/s ในปัจจุบัน โดยมี 800Gb/s และสูงกว่าในแผนงาน อย่างไรก็ตาม กลไกการควบคุมการแออัดและการควบคุมการแออัดแบบเนทีฟของ InfiniBand มักจะให้แบนด์วิดท์ที่สอดคล้องกันและคาดการณ์ได้มากขึ้นสำหรับเวิร์กโหลด HPC ที่ต้องการ

ความแตกต่างพื้นฐานอยู่ที่สถาปัตยกรรม InfiniBand เป็นสแต็กแบบบูรณาการที่ NIC, สวิตช์ และซอฟต์แวร์ได้รับการออกแบบและปรับให้เหมาะสมร่วมกัน ในทางตรงกันข้าม Ethernet เป็นมาตรฐานแบบเปิดที่มีความสามารถในการทำงานร่วมกันแบบหลายผู้ขาย ซึ่งให้ทางเลือกมากขึ้น แต่อาจมีการปรับให้เหมาะสมน้อยลง

การระเบิดของ AI ได้กลายเป็นสนามรบสำคัญ โซลูชัน Mellanox InfiniBand แบบ end-to-end ของ NVIDIA ซึ่งเชื่อมต่ออย่างใกล้ชิดกับแพลตฟอร์มการคำนวณ GPU เป็นมาตรฐานโดยพฤตินัยในคลัสเตอร์การวิจัย AI ระดับบนสุด คุณสมบัติต่างๆ เช่น NVIDIA SHARP™ (การคำนวณในเครือข่าย) ช่วยเร่งการดำเนินการแบบรวมโดยการถ่ายโอนการดำเนินการลดไปยังสวิตช์ ซึ่งช่วยลดเวลาในการฝึกอบรมสำหรับโมเดลขนาดใหญ่ ในขณะที่ Ethernet กำลังบุกเบิกอย่างแข็งแกร่งด้วย RoCE ประสิทธิภาพของ InfiniBand และสแต็กที่ปรับให้เหมาะสมสำหรับการสื่อสารโดยตรงของ GPU มักจะทำให้เป็นตัวเลือกที่ต้องการสำหรับเวิร์กโหลด AI ที่ต้องการมากที่สุด

การเลือกระหว่าง InfiniBand และ Ethernet ไม่ได้เกี่ยวกับการประกาศว่าเทคโนโลยีใดดีกว่าในระดับสากล แต่เกี่ยวกับการจัดตำแหน่งเทคโนโลยีให้สอดคล้องกับข้อกำหนดเวิร์กโหลดเฉพาะและความชอบในการดำเนินงาน

• เลือก InfiniBand สำหรับ: ประสิทธิภาพของแอปพลิเคชันสูงสุด Lateny ต่ำสุด งานฝึกอบรม AI ที่ใหญ่ที่สุด และสภาพแวดล้อมที่ต้องการโซลูชัน fabric ที่ปรับให้เหมาะสมและพร้อมใช้งานอย่างเต็มที่
• เลือก Ethernet สำหรับ: สภาพแวดล้อมแบบไฮเปอร์คอนเวอร์จ Cloud-native HPC คลัสเตอร์ที่ต้องการการผสานรวมอย่างลึกซึ้งกับเครือข่ายองค์กรที่มีอยู่ และงบประมาณที่ไวต่อต้นทุนพรีเมียมที่อาจเกิดขึ้นของเทคโนโลยีเฉพาะทาง

อนาคตของ เครือข่าย HPC ไม่ใช่สถานการณ์ที่ผู้ชนะได้รับทั้งหมด แต่เราเห็นภูมิทัศน์ของการอยู่ร่วมกัน InfiniBand มีแนวโน้มที่จะยังคงครองความเป็นเลิศของการคำนวณขั้นวิกฤตและงานวิจัย AI Ethernet ซึ่งขับเคลื่อนด้วยธรรมชาติที่มีอยู่ทั่วไปและการนำเทคโนโลยีมาใช้อย่างรวดเร็ว (เช่น ความพยายามของ Ultra Ethernet Consortium) จะยังคงได้รับส่วนแบ่งตลาดที่สำคัญ โดยเฉพาะอย่างยิ่งในการปรับขนาดและการปรับใช้ HPC เชิงพาณิชย์ นวัตกรรมจาก NVIDIA Mellanox ในทั้งสองค่ายทำให้มั่นใจได้ว่าผู้ใช้มีตัวเลือกที่ทรงพลังและขับเคลื่อนด้วยข้อมูลสำหรับการตัดสินใจ InfiniBand vs Ethernet ของพวกเขา

Call to Action: พร้อมที่จะออกแบบคลัสเตอร์ประสิทธิภาพสูงของคุณแล้วหรือยัง ติดต่อผู้เชี่ยวชาญของเราวันนี้เพื่อหารือเกี่ยวกับข้อกำหนดเวิร์กโหลดของคุณและรับการวิเคราะห์ที่ปรับแต่งว่า InfiniBand หรือ Ethernet เป็นรากฐานที่เหมาะสมสำหรับความทะเยอทะยานในการคำนวณของคุณหรือไม่