NVIDIA Mellanox MCX4121A-ACAT Server Adapter ในกิจกรรม

NVIDIA Mellanox MCX4121A-ACAT Server Adapter ในการทำงาน | RDMA/RoCE การขนส่งที่มีความหน่วงต่ำพิเศษ & การเพิ่มประสิทธิภาพเซิร์ฟเวอร์

ภูมิหลังและความท้าทาย: เมื่อ 25GbE พบกับกำแพงความหน่วง

ผู้ให้บริการคลาวด์ขนาดกลาง — ขอเรียกพวกเขาว่า "CloudNova" — กำลังเผชิญกับปัญหาคอขวดที่คุ้นเคยแต่เจ็บปวด ศูนย์ข้อมูลของพวกเขาทำงานบนโครงสร้างพื้นฐาน 25GbE แต่ประสิทธิภาพของแอปพลิเคชันกลับบอกเล่าเรื่องราวที่แตกต่างออกไป การจำลองฐานข้อมูลล่าช้า งานการเรียนรู้ของเครื่องแบบกระจายตัวหยุดชะงักในการซิงโครไนซ์เกรเดียนต์ และอาร์เรย์จัดเก็บข้อมูล NVMe ไม่เคยส่งมอบ IOPS ตามที่สัญญาไว้ ผู้กระทำผิด? ค่าใช้จ่ายในการประมวลผลของสแต็ก TCP/IP แบบดั้งเดิมกำลังใช้แกน CPU มากกว่า 25% บนโหนดประมวลผลของพวกเขา และ NIC ที่มีอยู่ขาดการประมวลผลฮาร์ดแวร์สำหรับ RDMA สิ่งที่พวกเขาต้องการไม่ใช่แค่แบนด์วิดท์ที่มากขึ้น แต่เป็นแบนด์วิดท์ที่ใช้งานได้จริงสรุปและแนวโน้ม: แผนผังสำหรับศูนย์ข้อมูลที่พร้อมสำหรับ RDMANVIDIA Mellanox MCX4121A-ACAT

— การ์ดที่ออกแบบมาเพื่อแก้ไขปัญหาศูนย์ข้อมูลสมัยใหม่เหล่านี้โดยเฉพาะ

โซลูชัน: การติดตั้งการ์ดอะแดปเตอร์ Ethernet MCX4121A-ACATNVIDIA Mellanox MCX4121A-ACATการ์ดอะแดปเตอร์ Ethernet MCX4121A-ACATเปลี่ยน I/O เครือข่ายจากคอขวดให้เป็นตัวขับเคลื่อนประสิทธิภาพ ผลลัพธ์ — ความหน่วงในการจัดเก็บข้อมูลลดลง 7 เท่า, ลดค่าใช้จ่าย CPU ลง 83%, และการฝึกอบรม ML เร็วขึ้น 62% — แสดงให้เห็นถึงความสามารถของอะแดปเตอร์ในการส่งมอบผลลัพธ์ทางธุรกิจที่วัดผลได้MCX4121A-ACAT ConnectX-4 Lx แบบสองพอร์ต 25GbE SFP28

ซึ่งช่วยให้สามารถรวมลิงก์แบบ active-active เพื่อให้ได้ปริมาณงานรวม 50Gb/s ต่อเซิร์ฟเวอร์ ทีมได้กำหนดค่า PFC (Priority Flow Control) และ ECN (Explicit Congestion Notification) ที่ระดับสวิตช์ เพื่อให้แน่ใจว่าการรับส่งข้อมูล RoCE ยังคงไม่สูญเสียแม้ภายใต้ภาระงานสูงสุด ภายในสองสัปดาห์ เครือข่ายจัดเก็บข้อมูลและประมวลผลทั้งหมดทำงานบน RDMA — การเปลี่ยนผ่านที่ราบรื่นด้วยความเข้ากันได้แบบปลั๊กแอนด์เพลย์ของอะแดปเตอร์กับสายเคเบิล SFP28 ที่มีอยู่และสวิตช์ Mellanox Spectrumจากมุมมองด้านการปฏิบัติงานระบบนิเวศที่MCX4121A-ACAT ConnectX-4 Lx แบบสองพอร์ต 25GbE SFP28พิสูจน์แล้วว่ามีคุณค่าอย่างยิ่ง การ์ดทำงานร่วมกับเซิร์ฟเวอร์ที่ใช้ Ubuntu และคลัสเตอร์ Kubernetes ของ CloudNova ได้อย่างสมบูรณ์แบบ โดยต้องการเพียงการติดตั้งไดรเวอร์มาตรฐาน ทีมยังได้อ้างอิง

เอกสารข้อมูล MCX4121A-ACAT

เพื่อปรับการจัดสรรบัฟเฟอร์และการตั้งค่าการรวมขัดจังหวะให้เหมาะสม เพื่อให้ได้ประสิทธิภาพสูงสุดสำหรับสภาพแวดล้อมการทำงานแบบผสมผสานของพวกเขา — ซึ่งรวมถึงคลัสเตอร์ MySQL, การวิเคราะห์ Spark และงานฝึกอบรม TensorFlowสรุปและแนวโน้ม: แผนผังสำหรับศูนย์ข้อมูลที่พร้อมสำหรับ RDMAการเพิ่มประสิทธิภาพนั้นทันทีและสามารถวัดผลได้ ด้วย RDMA ผ่าน RoCE ที่เปิดใช้งานผ่าน

NVIDIA Mellanox MCX4121A-ACATแบ็กเอนด์จัดเก็บข้อมูลเห็นความหน่วงในการอ่าน NVMe-oF ลดลงจาก 85µs เหลือเพียง 12µs — ปรับปรุง 7 เท่า การจำลองฐานข้อมูลระหว่างโหนดหลักและโหนดสำรองลดลงจาก 320ms เหลือต่ำกว่า 2ms ทำให้สามารถสลับการทำงานแบบเกือบซิงโครนัสได้ สำหรับเวิร์กโหลดการเรียนรู้ของเครื่อง เวลาซิงโครไนซ์ all-reduce สำหรับการฝึกอบรม ResNet-50 ลดลง 62% ทำให้เวลาฝึกอบรม epoch โดยรวมลดลงจาก 4.2 ชั่วโมงเหลือ 1.6 ชั่วโมงนอกเหนือจากความหน่วงแล้ว การเพิ่มประสิทธิภาพเซิร์ฟเวอร์ก็มีความน่าสนใจไม่แพ้กัน เครื่องมือประมวลผลฮาร์ดแวร์ — ซึ่งรวมถึงการประมวลผลเช็คซัม, LSO/LRO, และการติดแท็ก VLAN — ลดการใช้งาน CPU สำหรับการประมวลผลเครือข่ายจาก 28% เหลือต่ำกว่า 5% ในทุกโหนด สิ่งนี้ทำให้มี CPU มากกว่า 20 คอร์ต่อเซิร์ฟเวอร์สำหรับตรรกะแอปพลิเคชัน เพิ่มความหนาแน่นของคอนเทนเนอร์ได้โดยตรง 40% ตาม

1.6 ชม.

เร็วขึ้น 62%ประโยชน์ในการดำเนินงาน: TCO และความพร้อมสำหรับอนาคตแม้ว่าตัวเลขประสิทธิภาพดิบจะบอกเล่าเรื่องราวที่น่าสนใจ แต่ประโยชน์ในการดำเนินงานก็มีความสำคัญไม่แพ้กัน

โซลูชันการ์ดอะแดปเตอร์ Ethernet MCX4121A-ACATลดต้นทุนรวมในการเป็นเจ้าของโดยไม่จำเป็นต้องใช้เครือข่าย RDMA แยกต่างหาก (ประหยัดค่าโครงสร้างพื้นฐานสวิตช์กว่า 180,000 ดอลลาร์) การใช้พลังงานต่อเซิร์ฟเวอร์ลดลง 8W เมื่อเทียบกับ NIC ก่อนหน้า ซึ่งส่งผลให้ประหยัดค่าใช้จ่ายในการระบายความร้อนต่อปีประมาณ 15% นอกจากนี้ การออกแบบแบบสองพอร์ตของอะแดปเตอร์ยังให้ความซ้ำซ้อนแบบเนทีฟ — เมื่อลิงก์ใดลิงก์หนึ่งเกิดการสั่น การรับส่งข้อมูลจะสลับไปยังพอร์ตสำรองโดยอัตโนมัติโดยไม่มีการสูญเสียแพ็กเก็ตเลย ตามที่บันทึกข้อมูลการวัดของอะแดปเตอร์ยืนยันสำหรับผู้จัดการฝ่าย IT ที่ประเมินราคา MCX4121A-ACATเทียบกับโซลูชันทางเลือก CFO ของ CloudNova ตั้งข้อสังเกตว่าระยะเวลาคืนทุนน้อยกว่า 10 เดือน ซึ่งส่วนใหญ่ขับเคลื่อนโดยการเพิ่มประสิทธิภาพการใช้งานเซิร์ฟเวอร์และลดเวลาในการทำงานให้เสร็จสิ้น ทีมยังชื่นชมสถาปัตยกรรมที่มองไปข้างหน้า — การ์ด

MCX4121A-ACAT สำหรับขาย

ในปัจจุบันรองรับ 25GbE แต่สามารถนำไปใช้ใหม่สำหรับสภาพแวดล้อม 10GbE หรือ 40GbE ด้วยออปติกที่เหมาะสม เพื่อให้มั่นใจในการปกป้องการลงทุนสำหรับการอัปเกรดในอนาคตสรุปและแนวโน้ม: แผนผังสำหรับศูนย์ข้อมูลที่พร้อมสำหรับ RDMAการเดินทางของ CloudNova กับNVIDIA Mellanox MCX4121A-ACATแสดงให้เห็นถึงแผนผังที่ชัดเจนสำหรับองค์กรที่ต้องการปลดล็อกศักยภาพสูงสุดของโครงสร้างพื้นฐาน 25GbE ด้วยการรวมปริมาณงาน 25GbE แบบสองพอร์ต, RoCE ที่เร่งด้วยฮาร์ดแวร์, และการผสานรวมที่ราบรื่นกับระบบนิเวศที่มีอยู่

การ์ดอะแดปเตอร์ Ethernet MCX4121A-ACATเปลี่ยน I/O เครือข่ายจากคอขวดให้เป็นตัวขับเคลื่อนประสิทธิภาพ ผลลัพธ์ — ความหน่วงในการจัดเก็บข้อมูลลดลง 7 เท่า, ลดค่าใช้จ่าย CPU ลง 83%, และการฝึกอบรม ML เร็วขึ้น 62% — แสดงให้เห็นถึงความสามารถของอะแดปเตอร์ในการส่งมอบผลลัพธ์ทางธุรกิจที่วัดผลได้เมื่อมองไปข้างหน้า เนื่องจากเวิร์กโหลด AI และการวิเคราะห์แบบเรียลไทม์ยังคงผลักดันความต้องการเครือข่ายที่กำหนดได้MCX4121A-ACAT ConnectX-4 Lx แบบสองพอร์ต 25GbE SFP28จึงเป็นรากฐานที่มั่นคงสำหรับการนำ RDMA มาใช้โดยไม่ต้องอัปเกรดครั้งใหญ่ สำหรับสถาปนิกและผู้นำฝ่าย IT ที่วางแผนการปรับปรุงโครงสร้างพื้นฐานครั้งต่อไป อะแดปเตอร์นี้จึงไม่ใช่แค่ส่วนประกอบ แต่เป็นสินทรัพย์เชิงกลยุทธ์ พารามิเตอร์การปรับแต่งโดยละเอียดและแนวทางปฏิบัติที่ดีที่สุดในการติดตั้งมีอยู่ใน