Mellanox (NVIDIA Mellanox) MCX623106AN-CDAT Server Adapter ในการทำงาน | RDMA/RoCE การขนส่งความหน่วงต่ำ & เซิร์ฟเวอร์

Mellanox (NVIDIA Mellanox) MCX623106AN-CDAT Server Adapter ในกิจกรรม

ในกรณีการจัดจําหน่ายแบบไฮบรีดแบบโลหะเปล่าและ AIความช้าของเครือข่ายและค่าใช้จ่ายส่วนกลางของ CPU กลายเป็นอุปสรรคสําคัญในการปรับขนาดการใช้งาน GPU และผลงานในการเก็บข้อมูล. The infrastructure team needed a solution that could deliver sub-microsecond latency for distributed training jobs while simultaneously supporting high-throughput NVMe-oF storage traffic—all without forcing costly upgrades to the existing cabling infrastructureการศึกษากรณีนี้พิจารณาวิธีการMCX623106AN-CDATจาก Mellanox (NVIDIA Mellanox) ตอบโจทย์กับโจทย์เหล่านี้และแปลงเนื้อเยื่อเครือข่ายเป็นตัวเร่งการคํานวณที่แท้จริง

สถานการณ์และความท้าทาย: เมื่อ NICs 25G ติดขอบเขตของพวกเขา

สิ่งแวดล้อมการผลิตประกอบด้วยหน่วยคอมพิวเตอร์กว่า 1,200 หน่วย แบ่งออกเป็นสองโซนการมีอยู่ โดยใช้บริการผสมผสานของบริการสรุปออนไลน์ การฝึกอบรม AI ออฟไลน์ และการเก็บของวัตถุกระจายอัดแปลง Ethernet 25G ที่มีอยู่, ขณะที่เพียงพอสําหรับการเชื่อมต่อพื้นฐาน, มีปัญหาในการทํางานพร้อมกัน. จุดปวดหลักรวมถึง:

• การใช้ CPU มาก: การประมวลผลสเตค TCP/IP ที่ใช้โปรแกรมใช้ไปถึง 35% ของ CPU คอร์ในโน้ดการเก็บข้อมูล ระหว่างช่วง I/O พิกซ์
• ความช้าที่ไม่สอดคล้อง: ความยืดหยุ่นสาย (p99) สําหรับการปฏิบัติการการลดทั้งหมดที่กระจายไปบ่อยครั้งเกิน 50μs ส่งผลให้ GPU ใช้งานน้อยในระหว่างการปรับปรุงปารามิเตอร์
• สะดวกในการจัดเก็บ: การจราจร NVMe-oF ผ่าน Ethernet ที่ขาดทุนได้รับผลกระทบจากการลดแพ็คเก็ต, กระตุ้นการถ่ายทอดต่อที่ทําให้การผ่านที่มีประสิทธิภาพลดลงเกือบ 40%

หลังจากการประเมินทางเลือกหลากหลาย?? รวมถึง InfiniBand ที่เป็นกรรมสิทธิ์และ 25G NICs ที่แข่งขันNVIDIA Mellanox MCX623106AN-CDATสําหรับการผสมผสานที่โดดเด่นของ RoCEv2 ที่ใช้ฮาร์ดแวร์เร่ง, เส้นทางข้อมูลที่สามารถเขียนโปรแกรมได้, และความเข้ากันได้กับแพลตฟอร์มที่กว้างขวาง

วิธีแก้ไขและการใช้งาน

กลยุทธ์การใช้บริการเน้นสามเสา:การเปิด RDMA/RoCE,การเปิดการออกแรงแบบสมาร์ทและการอพยพเรืออย่างช้าช้า. ทุกหน่วยคอมพิวเตอร์ได้รับหนึ่งการ์ด MCX623106AN-CDAT Ethernet, ลงแทน NICs รุ่นก่อน โดยไม่เปลี่ยนแปลงพื้นฐานทองแดง / สายใย 25G ที่อยู่เบื้องหลัง

จากมุมมองการจัดตั้งทีมงานได้นําใบข้อมูล MCX623106AN-CDATการปรับปรุงปริมาตรต่อไปนี้

• การตั้ง RoCEv2 PFC (การควบคุมการไหลของความสําคัญ): คลาสการจราจรที่ขาดทุนถูกกําหนดสําหรับการเก็บ (NVMe-oF) และการสื่อสารรวม AI ขณะที่การจราจรความพยายามที่ดีที่สุดยังคงอยู่ในคิวที่ขาดทุนแยก
• เปิดให้ใช้งานเครื่องมือ: VXLAN/NVGRE tunnel offload, checksum segmentation, และ LRO (Large Receive Offload) ได้ถูกเปิดใช้เพื่อลดการแทรกแซง CPU ต่อแพคเกต
• สามารถเขียนโปรแกรมได้พร้อมกับ DPU: โดยใช้ ASAP2, ทีมงานได้นํากฎการไหลของน้ําหนักเบาไปนําการจราจรการเก็บข้อมูลโดยตรงไปยังจุดสิ้นเป้า NVMe-oF โดยเลี่ยงระบบเครือข่ายเนอร์เนลทั้งหมด

การตรวจสอบความสอดคล้องสอดคล้องกับ MCX623106AN-CDATรายการนี้ครอบคลุมทุกรุ่นเซอร์เวอร์ในตัวกลาง (Dell PowerEdge R750 และ Supermicro Ultra ซีรีส์) และรุ่น Red Hat OpenShift และ Ubuntu ที่มีอยู่ปัจจุบันได้รับตัวไดรเวอร์ใหม่โดยไม่มีปัญหา

ผล & ผลประโยชน์ที่สามารถวัดได้

หลังจาก 3 สัปดาห์ของการใช้งานในการผลิตใน 40% ของเรือคอมพิวเตอร์ ผลการผลิตสามารถมองเห็นได้ทันที ตารางต่อไปนี้สรุปเมตรสําคัญก่อนและหลัง:

นอกเหนือจากการปรับปรุงปริมาณ ทีมวิศวกรรมรายงานการเปลี่ยนแปลงคุณภาพในการดําเนินงานความมั่นคงกลไก PFC และ ECN (Explicit Congestion Notification) ที่ใช้ฮาร์ดแวร์ ได้รับการรับรองว่าการจราจรเก็บข้อมูลยังคงไม่มีการสูญเสีย, การกําจัดพายุการถ่ายทอดแบบเรียงลําดับที่เคยมีผลกระทบต่อ SLA การใช้งานMCX623106AN-CDAT แอดป์เตอร์ ConnectX การ์ดเครือข่าย PCIeจัดการการเข้ารหัส IPSec อัตราเส้นสําหรับการจราจรการจําลองข้ามโซน ทําให้ทีมงานความปลอดภัยสามารถบังคับใช้นโยบาย Zero-trust โดยไม่ต้องใช้อุปกรณ์การเข้ารหัสพิเศษ

สรุปและมุมมองในอนาคต

การใช้งานครั้งนี้ ย้ําว่าMCX623106AN-CDAT Ethernet การแก้ไขการ์ดปรับเปลี่ยนไม่เพียงแต่เป็นการปรับปรุง NIC เพิ่มเติม แต่เป็นตัวช่วยทางกลยุทธ์สําหรับสถาปัตยกรรมศูนย์ข้อมูลที่ทันสมัย โดยการรวม RoCEv2 ที่เร่งเร็วด้วยฮาร์ดแวร์และความสามารถในการลดภาระ, ตัวปรับเปลี่ยนได้อย่างมีประสิทธิภาพ แผ่น Ethernet มาตรฐานในระดับพื้นฐานความอ่อนแอต่ํา, ประสิทธิภาพสูงองค์กร IT กําลังวางแผนที่จะขยายการใช้งานไปยังทุกหน่วยที่เหลือและกําลังประเมินอย่างรายละเอียด MCX623106AN-CDATสําหรับการออกแบบ 50G Spine-Leaf รุ่นต่อไป

สําหรับสถาปนิกโครงสร้างพื้นฐานและผู้จัดการ IT ที่เผชิญหน้าMCX623106AN-CDATเปิดทางที่น่าเชื่อถือ และผ่านการพิสูจน์"เราได้ความอ่อนเพลียที่ดีกว่า NICs 25G ก่อนหน้านี้ ด้วยค่า CPU ค่าครึ่งหนึ่ง และเราไม่จําเป็นต้องเชื่อมต่อราคใหม่เลย"กับตัวใหญ่สอดคล้องกับ MCX623106AN-CDATระบบนิเวศและการแข่งขันMCX623106AN-CDAT ราคาการจัดตําแหน่ง, ตัวปรับตัวนี้มีสภาพดีที่จะกลายเป็นตัวเลือกโดยกําหนดสําหรับการจัดจําหน่าย RoCE 25G ไม่ว่าภาระงานจะเป็นการฝึก AI, การเก็บข้อมูลกระจาย หรือการวิเคราะห์ในเวลาจริง.

แท็ก:MCX623106AN-CDATNVIDIA Mellanox ConnectX-6 Dx RDMA/RoCE การจัดจําหน่าย เครือข่ายความช้าต่ํา การปรับปรุงการทํางานของเซอร์เวอร์