Mellanox (NVIDIA) MCX556A-ECAT Server Network Adapter ในปฏิบัติการ: การส่งและเซอร์เวอร์ความช้าต่ํา RDMA/RoCE

ในยุคแห่งข้อมูลที่หลั่งไหลเข้ามาอย่างมหาศาล ศูนย์ข้อมูลองค์กรกำลังเผชิญกับความท้าทายที่ไม่เคยมีมาก่อน: จะทำอย่างไรให้การส่งข้อมูลเร็วขึ้นและเพิ่มปริมาณงานของเซิร์ฟเวอร์ให้สูงขึ้น ในขณะเดียวกันก็ต้องรักษาความสอดคล้องของข้อมูล โดยเฉพาะอย่างยิ่งในสถานการณ์เช่น การซื้อขายทางการเงิน การวิเคราะห์ความถี่สูง และการจัดเก็บข้อมูลแบบกระจายขนาดใหญ่ ความหน่วงที่เกิดจากสแต็กโปรโตคอล TCP/IP แบบดั้งเดิมได้กลายเป็นคอขวดหลักที่จำกัดการพัฒนาธุรกิจ บทความนี้จะเจาะลึกกรณีการใช้งานทั่วไปโดยใช้การ์ดเครือข่ายเซิร์ฟเวอร์ Mellanox (NVIDIA) MCX556A-ECAT เพื่อแสดงให้เห็นว่าเทคโนโลยี RDMA/RoCE สามารถปรับเปลี่ยนสถาปัตยกรรมการส่งข้อมูลที่มีความหน่วงต่ำได้อย่างไร

องค์กรอินเทอร์เน็ตขนาดใหญ่แห่งหนึ่ง (ต่อไปนี้จะเรียกว่า "องค์กร") มีธุรกิจหลักที่เกี่ยวข้องกับการวิเคราะห์การควบคุมความเสี่ยงแบบเรียลไทม์และการประมวลผลบันทึกจำนวนมหาศาล สถาปัตยกรรมเครือข่ายศูนย์ข้อมูลเดิมใช้การ์ดเครือข่าย 25GbE มาตรฐานกับโปรโตคอล TCP/IP เมื่อปริมาณธุรกิจเพิ่มขึ้น ซีพียูมักจะถูกครอบครองโดยงานประมวลผลแพ็กเก็ตเครือข่าย ส่งผลให้ความหน่วงในการตอบสนองของแอปพลิเคชันเพิ่มขึ้นอย่างมาก และปริมาณงานของเซิร์ฟเวอร์ยังคงติดอยู่ที่ระดับต่ำกว่าคอขวดเป็นเวลานาน ในขณะเดียวกัน ความหน่วงในการแลกเปลี่ยนข้อมูลระหว่างคลัสเตอร์จัดเก็บข้อมูลและโหนดประมวลผลสูงถึงหลายร้อยไมโครวินาที ส่งผลกระทบอย่างรุนแรงต่อประสิทธิภาพการฝึกโมเดล AI องค์กรมีความต้องการโซลูชันเครือข่ายที่สามารถรองรับความหน่วงต่ำและการใช้งานซีพียูต่ำเพื่อรองรับแอปพลิเคชันที่ต้องใช้ข้อมูลปริมาณมากในยุคถัดไปอย่างเร่งด่วน

ระหว่างการตรวจสอบ ทีมเทคนิคได้ระบุเทคโนโลยี RDMA (Remote Direct Memory Access) ว่าเป็นกุญแจสำคัญในการแก้ปัญหา อย่างไรก็ตาม โซลูชัน InfiniBand แบบดั้งเดิมมีราคาสูงและยากต่อการรวมเข้ากับสภาพแวดล้อม Ethernet ที่มีอยู่ขององค์กร ดังนั้น การค้นหาการ์ดเครือข่ายประสิทธิภาพสูงที่สามารถรองรับ RoCE (RDMA over Converged Ethernet) ได้อย่างสมบูรณ์แบบจึงกลายเป็นข้อกำหนดหลักของโครงการ

หลังจากการทดสอบและประเมินผลอย่างเข้มงวด องค์กรได้เลือก Mellanox (NVIDIA) MCX556A-ECAT เป็นส่วนประกอบหลักในการอัปเกรดเครือข่าย การ์ดเครือข่าย NVIDIA Mellanox MCX556A-ECAT นี้ ใช้สถาปัตยกรรม ConnectX-5 รองรับเทคโนโลยี RoCE v2 โดยกำเนิด ทำให้สามารถใช้งาน RDMA บนโครงสร้างพื้นฐาน Ethernet มาตรฐาน และสร้างสมดุลระหว่างประสิทธิภาพและต้นทุนได้อย่างสมบูรณ์แบบ ทีมติดตั้งได้ติดตั้งการ์ดอะแดปเตอร์ Ethernet MCX556A-ECAT นี้ในโหนดประมวลผลและจัดเก็บข้อมูลหลัก โดยเชื่อมต่อกับสวิตช์ 100GbE ที่มีอยู่

ในระหว่างกระบวนการติดตั้ง วิศวกรได้ใช้ประโยชน์จากคุณสมบัติการยกเลิกภาระงานอัจฉริยะของการ์ดเครือข่าย PCIe อะแดปเตอร์ MCX556A-ECAT ConnectX นี้อย่างเต็มที่ ด้วยการเปิดใช้งาน QoS (Quality of Service) และ PFC (Priority Flow Control) พวกเขาจึงรับประกันการรับประกันความหน่วงต่ำสำหรับการรับส่งข้อมูล RoCE แม้ในช่วงที่เครือข่ายมีการใช้งานหนาแน่น วงจรการติดตั้งทั้งหมดใช้เวลาเพียงสองสัปดาห์และโปร่งใสต่อแอปพลิเคชันระดับบนที่มีอยู่ ทำให้สามารถได้รับประโยชน์จากประสิทธิภาพของ RDMA โดยไม่ต้องแก้ไขโค้ดใดๆ

หลังจากการติดตั้ง ประสิทธิภาพเครือข่ายขององค์กรได้ก้าวกระโดดอย่างมีคุณภาพ ประการแรก ด้วยพลังของเทคโนโลยี RDMA ความหน่วงในการเข้าถึงข้อมูลระหว่างที่จัดเก็บและโหนดประมวลผลลดลงจาก 200 ไมโครวินาที เหลือต่ำกว่า 5 ไมโครวินาที ทำให้การตอบสนองการสอบถามสำหรับฐานข้อมูลแบบกระจายเร็วขึ้นอย่างมาก ประการที่สอง ด้วยความสามารถในการยกเลิกภาระงานฮาร์ดแวร์อันทรงพลังของ MCX556A-ECAT ภาระงานซีพียูสำหรับการประมวลผลโปรโตคอลเครือข่ายลดลงกว่า 90% ทรัพยากรคอมพิวเตอร์ที่ว่างถูกจัดสรรใหม่ให้กับแอปพลิเคชันธุรกิจหลัก ส่งผลให้ปริมาณงานของเซิร์ฟเวอร์โดยรวมเพิ่มขึ้นเกือบสามเท่า

ตามข้อมูลจำเพาะโดยละเอียดของ MCX556A-ECAT และข้อมูลการตรวจสอบจริง การ์ดเครือข่ายแสดงประสิทธิภาพที่ยอดเยี่ยมในการจัดการการเข้าถึงพร้อมกันจำนวนมากของแพ็กเก็ตข้อมูลขนาดเล็ก โดยสามารถส่งข้อมูลด้วยความเร็วสายโดยไม่มีการสูญเสียแพ็กเก็ต คุณลักษณะนี้มีความสำคัญอย่างยิ่งสำหรับสถานการณ์การซื้อขายความถี่สูงและการควบคุมความเสี่ยงแบบเรียลไทม์ หัวหน้าทีมเทคนิคกล่าวว่า "หลังจากนำ MCX556A-ECAT มาใช้ คอขวดเครือข่ายของเราก็หมดไปอย่างสิ้นเชิง ตอนนี้เราสามารถขยายคลัสเตอร์ฝึก AI ของเราได้อย่างมั่นใจโดยไม่ต้องกังวลว่าเครือข่ายจะกลายเป็นจุดอ่อน" สำหรับองค์กรอื่นๆ ที่กำลังมองหาโซลูชันที่เข้ากันได้กับ MCX556A-ECAT กรณีศึกษานี้ให้ข้อมูลอ้างอิงที่มีคุณค่า พิสูจน์ว่านี่ไม่ใช่แค่ฮาร์ดแวร์ แต่เป็นโซลูชันการ์ดอะแดปเตอร์ Ethernet MCX556A-ECAT ที่ได้รับการพิสูจน์แล้ว

นอกเหนือจากประโยชน์หลักที่ได้รับจาก RDMA/RoCE แล้ว องค์กรยังค้นพบศักยภาพเพิ่มเติมของ MCX556A-ECAT ในระหว่างการใช้งาน ตัวอย่างเช่น การใช้ประโยชน์จากคุณสมบัติการยกเลิกภาระงานเสมือนจริงในตัวช่วยเพิ่มความหนาแน่นของเครือข่ายในสภาพแวดล้อมเสมือนจริงได้อย่างมาก เทคโนโลยีการควบคุมการขัดจังหวะแบบไดนามิกช่วยเพิ่มอัตราการเข้าถึงแคชของซีพียูให้เหมาะสมยิ่งขึ้น การปรับปรุงรายละเอียดเหล่านี้ร่วมกันสร้างรากฐานที่แข็งแกร่งสำหรับความพยายามในการปรับปรุงศูนย์ข้อมูลขององค์กรให้ทันสมัย

เพื่อช่วยให้ผู้ใช้ที่มีศักยภาพรายอื่นเข้าใจรายละเอียดผลิตภัณฑ์ องค์กรแนะนำให้ดูเอกสารข้อมูลอย่างเป็นทางการของ MCX556A-ECAT ซึ่งมีพารามิเตอร์ประสิทธิภาพและรายการความเข้ากันได้ที่สมบูรณ์ ปัจจุบัน MCX556A-ECAT ที่มีจำหน่ายมีวางจำหน่ายในตลาดโลก และสามารถรับรายละเอียดราคา MCX556A-ECAT ที่เฉพาะเจาะจงได้โดยการติดต่อช่องทางอย่างเป็นทางการของ NVIDIA ตามปริมาณการจัดซื้อ

กรณีศึกษานี้แสดงให้เห็นถึงประสิทธิภาพที่ยอดเยี่ยมของ Mellanox (NVIDIA) MCX556A-ECAT ในการจัดการกับความท้าทายด้านการส่งข้อมูลที่มีความหน่วงต่ำและปริมาณงานสูง ด้วยการประยุกต์ใช้เทคโนโลยี RDMA/RoCE อย่างลึกซึ้ง ไม่เพียงแต่แก้ไขปัญหาคอขวดด้านประสิทธิภาพของสถาปัตยกรรมเครือข่ายแบบดั้งเดิมเท่านั้น แต่ยังปูทางไปสู่การสร้างสรรค์นวัตกรรมที่ต้องใช้ข้อมูลปริมาณมากในอนาคตขององค์กรอีกด้วย เมื่อยุค 400G/800G ใกล้เข้ามา แนวคิด Smart NIC ที่เป็นตัวแทนของ NVIDIA Mellanox MCX556A-ECAT จะยังคงนำการพัฒนาเครือข่ายศูนย์ข้อมูลไปสู่ประสิทธิภาพและความชาญฉลาดที่มากขึ้น