โซลูชันอะแดปเตอร์เครือข่าย NVIDIA: กรอบสถาปัตยกรรมสำหรับการเพิ่มประสิทธิภาพการส่งข้อมูล RDMA/RoCE ที่มีความหน่วงต่ำ

โซลูชันอะแดปเตอร์เครือข่าย NVIDIA ใช้สถาปัตยกรรมหลายชั้นที่ออกแบบมาเพื่อเพิ่มประสิทธิภาพการส่งข้อมูลตั้งแต่ฮาร์ดแวร์ไปจนถึงระดับแอปพลิเคชัน แนวทางแบบบูรณาการนี้ช่วยให้มั่นใจได้ถึงการทำงานที่ราบรื่นในสภาพแวดล้อมโครงสร้างพื้นฐานที่หลากหลาย ในขณะที่ยังคงรักษาเวลาแฝงที่ต่ำที่สุดและความเร็วในการรับส่งข้อมูลสูงสุด

อะแดปเตอร์เครือข่าย NVIDIA ConnectX เป็นแกนหลักของฮาร์ดแวร์ของโซลูชัน โดยมี:

• ตัวเลือกการเชื่อมต่อ 100/200/400 GbE แบบสองพอร์ต
• เครื่องมือ RDMA ที่ใช้ฮาร์ดแวร์รองรับทั้ง RoCE และ InfiniBand
• ไปป์ไลน์การประมวลผลแพ็กเก็ตขั้นสูงพร้อมการนำทางโฟลว์อัจฉริยะ
• อินเทอร์เฟซโฮสต์ PCIe 4.0/5.0 เพื่อแบนด์วิดท์สูงสุด

การใช้งาน Remote Direct Memory Access (RDMA) ช่วยขจัดปัญหาคอขวดเครือข่ายแบบเดิมๆ ผ่าน:

• การถ่ายโอนข้อมูลแบบ Zero-copy ที่ข้ามเคอร์เนลระบบปฏิบัติการ
• การวางข้อมูลโดยตรงในพื้นที่หน่วยความจำของแอปพลิเคชัน
• การถ่ายโอนเลเยอร์การขนส่งไปยังฮาร์ดแวร์อะแดปเตอร์เครือข่าย
• กลไกบายพาส CPU ที่ช่วยให้ทรัพยากรโฮสต์ว่างสำหรับเวิร์กโหลดแอปพลิเคชัน

RDMA over Converged Ethernet (RoCE) ช่วยให้การทำงาน RDMA ประสิทธิภาพสูงผ่านโครงสร้างพื้นฐาน Ethernet มาตรฐานพร้อมการปรับปรุงเฉพาะ:

• รองรับ RoCE v2 สำหรับการกำหนดเส้นทางข้ามเครือข่าย Layer 3
• การแจ้งเตือนความแออัดอย่างชัดเจน (ECN) สำหรับการควบคุมการไหล
• การควบคุมการไหลตามลำดับความสำคัญ (PFC) สำหรับ Ethernet ที่ไม่สูญเสียข้อมูล
• อัลกอริธึมการควบคุมความแออัดที่ได้รับการปรับปรุงเพื่อประสิทธิภาพที่เสถียร

สำหรับเวิร์กโหลดปัญญาประดิษฐ์ โซลูชันจะใช้สถาปัตยกรรมพิเศษ:

• GPU-direct RDMA สำหรับการถ่ายโอนข้อมูลโดยตรงระหว่างเครือข่ายและหน่วยความจำ GPU
• การรวม NCCL (NVIDIA Collective Communications Library) เพื่อการทำงานร่วมกันที่เหมาะสมที่สุด
• การกำหนดค่าอะแดปเตอร์หลายโฮสต์ที่รองรับการฝึกอบรมโมเดลขนาดใหญ่
• การจัดการผ้าอัตโนมัติเพื่อการดำเนินงานคลัสเตอร์ที่ง่ายขึ้น

โซลูชันขยายไปยังเวิร์กโหลดพื้นที่เก็บข้อมูลผ่านการใช้งาน NVMe-over-Fabrics:

• รองรับเป้าหมาย NVMe-of-TCP และ NVMe-of-RDMA
• การถ่ายโอนการประมวลผลโปรโตคอลพื้นที่เก็บข้อมูลไปยังฮาร์ดแวร์อะแดปเตอร์
• การบังคับใช้คุณภาพการบริการแบบ End-to-end
• คุณสมบัติความปลอดภัยในตัว รวมถึงการถ่ายโอนการเข้ารหัส

โซลูชันนี้รวมความสามารถในการปรับแต่งประสิทธิภาพที่ครอบคลุม:

• อัลกอริธึมการกำหนดเส้นทางแบบปรับได้สำหรับการเลือกเส้นทางที่เหมาะสมที่สุด
• การกลั่นกรองการขัดจังหวะแบบไดนามิกตามรูปแบบเวิร์กโหลด
• นโยบาย Quality of Service (QoS) สำหรับการจัดลำดับความสำคัญของการรับส่งข้อมูล
• การตรวจสอบและโทรมาตรที่ครอบคลุมสำหรับการวิเคราะห์ประสิทธิภาพ

การปรับใช้ที่ประสบความสำเร็จเป็นไปตามแนวทางที่มีโครงสร้าง:

• ระยะการประเมิน:การประเมินโครงสร้างพื้นฐานและการวิเคราะห์ข้อกำหนด
• ระยะการออกแบบ:การวางแผนสถาปัตยกรรมเครือข่ายและข้อกำหนดการกำหนดค่า
• ระยะการปรับใช้:การติดตั้งฮาร์ดแวร์และการกำหนดค่าซอฟต์แวร์
• ระยะการเพิ่มประสิทธิภาพ:การปรับแต่งประสิทธิภาพและการทดสอบการตรวจสอบความถูกต้อง

องค์กรที่ใช้โซลูชันอะแดปเตอร์เครือข่าย NVIDIA มักจะได้รับ:

• ลดเวลาแฝงของเครือข่ายลง 85-95% สำหรับแอปพลิเคชันแบบกระจาย
• ลดการใช้ CPU ลง 60-80% สำหรับการประมวลผลเครือข่าย
• ปรับปรุงปริมาณงานของแอปพลิเคชัน 3-5 เท่าสำหรับเวิร์กโหลดที่ใช้ข้อมูลจำนวนมาก
• ลดต้นทุนรวมในการเป็นเจ้าของลงอย่างมากผ่านการรวมโครงสร้างพื้นฐาน

โซลูชันอะแดปเตอร์เครือข่าย NVIDIA พร้อมการปรับปรุง RDMA และ RoCE แสดงถึงกรอบสถาปัตยกรรมที่สมบูรณ์แบบสำหรับการเปลี่ยนแปลงประสิทธิภาพเครือข่ายศูนย์ข้อมูล ด้วยการรวมความสามารถของฮาร์ดแวร์ขั้นสูงเข้ากับการรวมซอฟต์แวร์ที่ซับซ้อน องค์กรต่างๆ สามารถบรรลุระดับประสิทธิภาพและประสิทธิภาพที่ไม่เคยมีมาก่อนสำหรับเวิร์กโหลดที่ต้องการมากที่สุด เมื่อแอปพลิเคชันที่ใช้ข้อมูลจำนวนมากยังคงพัฒนาอย่างต่อเนื่อง โซลูชันนี้จึงเป็นโครงสร้างพื้นฐานที่จำเป็นในการรองรับข้อกำหนดการประมวลผลรุ่นต่อไป ในขณะที่ยังคงรักษาการปกป้องการลงทุนผ่านการใช้งานตามมาตรฐาน