โซลูชันทางเทคนิคของ Mellanox (NVIDIA Mellanox) 980-9I45J-00H010: การเชื่อมต่อที่มีความน่าเชื่อถือสูง

1. ความเป็นมาของโครงการและการวิเคราะห์ข้อกำหนด

ศูนย์ข้อมูลร่วมสมัยและโครงสร้างพื้นฐานเครือข่ายองค์กรอยู่ภายใต้ความตึงเครียดอย่างมากจากการบรรจบกันของปริมาณงาน AI, ไมโครเซอร์วิสแบบกระจาย และพื้นที่จัดเก็บข้อมูลขนาดใหญ่ เครือข่ายที่ใช้ TCP/IP แบบดั้งเดิมมักจะกลายเป็นปัญหาคอขวดหลัก โดยมีลักษณะพิเศษคือโอเวอร์เฮดของ CPU สูง ความแปรปรวนของเวลาแฝงที่คาดเดาไม่ได้ และไซโลการปฏิบัติงานที่ซับซ้อน สิ่งนี้นำไปสู่ประสิทธิภาพของแอปพลิเคชันที่ต่ำกว่ามาตรฐาน ต้นทุนโครงสร้างพื้นฐานที่สูงเกินจริง และความคล่องตัวทางธุรกิจที่ลดลง

โซลูชันทางเทคนิคนี้ตอบสนองความต้องการหลักสำหรับแฟบริคเครือข่ายที่ทันสมัย:เวลาแฝงต่ำเป็นพิเศษที่กำหนดได้สำหรับการซื้อขายทางการเงินและการวิเคราะห์แบบเรียลไทม์การขนส่งข้อมูลความเร็วสูงแบบไม่สูญเสียข้อมูลสำหรับคลัสเตอร์การฝึกอบรม AI/ML และการจำลองแบบพื้นที่จัดเก็บข้อมูลความเรียบง่ายในการดำเนินงานผ่านการมองเห็นและการควบคุมที่เพิ่มขึ้น และความสามารถในการขยายขนาดที่รองรับอนาคต- ที่NVIDIA เมลลาน็อกซ์ 980-9I45J-00H010ได้รับการออกแบบมาเพื่อเป็นองค์ประกอบพื้นฐานในการตอบสนองความต้องการที่สำคัญเหล่านี้

2. การออกแบบสถาปัตยกรรมเครือข่าย/ระบบโดยรวม

สถาปัตยกรรมที่นำเสนอจะเปลี่ยนจากเครือข่ายแบบลำดับชั้นแบบดั้งเดิมไปเป็นแฟบริคอีเธอร์เน็ตแบบแบนและประสิทธิภาพสูงที่สร้างขึ้นบน RDMA ผ่าน Converged Ethernet (RoCE) ปรัชญาการออกแบบนี้ช่วยลดจำนวนการกระโดด ลดเวลาแฝง และทำให้การรับส่งข้อมูลง่ายขึ้น ส่วนประกอบหลักได้แก่:

• เลเยอร์การคำนวณ:โหนดเซิร์ฟเวอร์ที่ติดตั้ง980-9I45J-00H010อะแดปเตอร์เครือข่ายที่สร้างจุดสิ้นสุดของแฟบริค
• ชั้นผ้า:โทโพโลยีแบบ leaf-spine ที่ใช้สวิตช์แบบสเปกตรัมที่มีจำนวนพอร์ตสูงและมีความหน่วงต่ำ เพื่อให้มั่นใจถึงการเชื่อมต่อที่ไม่มีการปิดกั้น
• ชั้นจัดเก็บข้อมูล:ระบบเป้าหมาย NVMe-over-Fabrics (NVMe-oF) เชื่อมต่อผ่านแฟบริคเดียวกันเพื่อการเข้าถึงความเร็วสูงที่เป็นหนึ่งเดียว
• เลเยอร์การจัดการและการเรียบเรียง:แพลตฟอร์มแบบรวมศูนย์ที่ใช้โซลูชัน BlueField และ Cumulus ของ NVIDIA สำหรับการควบคุมที่กำหนดโดยซอฟต์แวร์ การวัดและส่งข้อมูลทางไกล และระบบอัตโนมัติ

สถาปัตยกรรมนี้ทำให้มั่นใจได้ว่าเครือข่ายความเร็วสูงของศูนย์ข้อมูล 980-9I45J-00H010ความสามารถได้รับการใช้ประโยชน์อย่างเต็มที่จากขอบเซิร์ฟเวอร์ไปจนถึงแกนเครือข่าย ทำให้เกิดชั้นข้อมูลที่ราบรื่น

3. บทบาทของ Mellanox 980-9I45J-00H010 และลักษณะสำคัญ

ที่ผลิตภัณฑ์เครือข่าย 980-9I45J-00H010ไม่ใช่แค่การ์ดเชื่อมต่อเท่านั้น มันเป็นกลไกประมวลผลข้อมูลอัจฉริยะที่ใช้งานในทุกโหนดเซิร์ฟเวอร์ บทบาทของมันคือการถ่ายโอน เร่งความเร็ว และรักษาความปลอดภัยการเคลื่อนย้ายข้อมูล ลักษณะสำคัญที่กำหนดคุณค่าในโซลูชันนี้คือ:

• ออฟโหลดตามฮาร์ดแวร์:ออฟโหลดโปรโตคอล TCP/IP, RoCE และ NVMe-oF ที่ครอบคลุม ช่วยให้รอบ CPU ของเซิร์ฟเวอร์ว่างขึ้น 20-30% สำหรับแอปพลิเคชันที่สร้างรายได้
• เวลาแฝงต่ำเป็นพิเศษและ RoCE ขั้นสูง:มอบเวลาแฝงที่สม่ำเสมอในช่วงไมโครวินาที ซึ่งเป็นสิ่งสำคัญสำหรับ HPC และปริมาณงานในการทำธุรกรรม รองรับ DCB และ ECN สำหรับอีเทอร์เน็ตแบบไม่สูญเสียข้อมูลอย่างแท้จริง
• การรักษาความปลอดภัยขั้นสูง:ให้การเข้ารหัส IPsec และ TLS ที่เร่งด้วยฮาร์ดแวร์ ทำให้มั่นใจในความปลอดภัยของข้อมูลโดยไม่กระทบต่อประสิทธิภาพ
• เทคโนโลยี GPUDirect:ช่วยให้สามารถแลกเปลี่ยนข้อมูลโดยตรงระหว่างหน่วยความจำ GPU และเครือข่าย ซึ่งช่วยเร่ง AI และเฟรมเวิร์กการประมวลผลทางวิทยาศาสตร์ได้อย่างมาก

รับรองว่าทางแก้คือเข้ากันได้ 980-9I45J-00H010ด้วยฮาร์ดแวร์เซิร์ฟเวอร์และระบบปฏิบัติการที่มีอยู่ถือเป็นข้อกำหนดเบื้องต้น และการตรวจสอบโดยละเอียดควรดำเนินการโดยใช้เจ้าหน้าที่อย่างเป็นทางการเอกสารข้อมูลสินค้า 980-9I45J-00H010และเมทริกซ์ความเข้ากันได้

4. คำแนะนำในการปรับใช้และปรับขนาด

การปรับใช้ควรเป็นไปตามแนวทางที่เน้นการใช้งานเป็นหลักเป็นช่วงๆ เริ่มต้นด้วยคลัสเตอร์เวิร์กโหลดที่ไวต่อเวลาแฝงหรือ I/O มาก

โทโพโลยีทั่วไป:แนะนำให้ใช้ leaf-spine สองชั้นสำหรับการใช้งานส่วนใหญ่ แต่ละชั้นวางเซิร์ฟเวอร์ (ด้วย980-9I45J-00H010อะแดปเตอร์) เชื่อมต่อกับสวิตช์ลีฟสองตัวเพื่อความซ้ำซ้อน จากนั้นสวิตช์ Leaf จะเชื่อมต่อกับสวิตช์กระดูกสันหลังทุกตัว ทำให้เกิดแกนแบบเต็มตาข่ายที่ให้เส้นทางที่มีต้นทุนเท่ากันหลายเส้นทาง

คำแนะนำการปรับขนาด:โครงสร้างจะปรับขนาดในแนวนอนโดยการเพิ่มสวิตช์กระดูกสันหลังและพ็อดเซิร์ฟเวอร์ลีฟใหม่ ที่980-9I45J-00H010อะแดปเตอร์รักษาประสิทธิภาพที่สม่ำเสมอในขนาดต่างๆ เนื่องจากสถาปัตยกรรมการลดภาระของฮาร์ดแวร์ ช่วยป้องกันความแออัดของระนาบควบคุม สำหรับการปรับใช้หลายไซต์ โซลูชันจะขยายไปยังสถานการณ์การเชื่อมต่อศูนย์ข้อมูล (DCI) โดยใช้ออปติกระยะไกลและอุปกรณ์เกตเวย์ โดยคงไว้ซึ่งรูปแบบการดำเนินงานที่เป็นหนึ่งเดียว

5. การดำเนินการ การตรวจสอบ การแก้ไขปัญหา และการเพิ่มประสิทธิภาพ

ความเป็นเลิศในการปฏิบัติงานเป็นรากฐานสำคัญของสิ่งนี้โซลูชันผลิตภัณฑ์เครือข่าย 980-9I45J-00H010- แนวทางปฏิบัติหลัก ได้แก่ :

• การจัดการแบบครบวงจร:ใช้ NetQ ของ NVIDIA หรือ Fabric Manager ที่คล้ายกันสำหรับบานหน้าต่างเดียวเพื่อตรวจสอบความสมบูรณ์และประสิทธิภาพของทั้งหมด980-9I45J-00H010จุดสิ้นสุดและสวิตช์
• การตรวจวัดทางไกลเชิงรุก:ใช้ประโยชน์จากชุดตัวนับที่หลากหลายของอะแดปเตอร์เพื่อการวิเคราะห์โดยละเอียดเกี่ยวกับรูปแบบการรับส่งข้อมูล อัตราข้อผิดพลาด การใช้งานบัฟเฟอร์ และฮิสโตแกรมเวลาแฝง
• การแยกตัวไม่เป็นผล:ออฟโหลดฮาร์ดแวร์ช่วยลดความซับซ้อนของโดเมนข้อบกพร่อง ใช้การวินิจฉัยแบบฝังและการบันทึกลิงก์แฟลปเพื่อแยกปัญหาฟิสิคัลเลเยอร์กับปัญหาแอปพลิเคชันหรือโฮสต์ได้อย่างรวดเร็ว
• การปรับแต่งประสิทธิภาพ:ปรับการตั้งค่า RoCE และแอปพลิเคชันให้เหมาะสมตามโปรไฟล์ปริมาณงาน เครื่องมืออย่าง `perftest` และ `mlnx_trace` มีคุณค่าอย่างยิ่งสำหรับการเปรียบเทียบและการวิเคราะห์เชิงลึก

การสร้างพื้นฐานของตัววัดประสิทธิภาพตามปกติหลังการปรับใช้งานถือเป็นสิ่งสำคัญสำหรับการเพิ่มประสิทธิภาพอย่างต่อเนื่องอย่างมีประสิทธิผลและการแก้ไขปัญหาอย่างรวดเร็ว

6. สรุปและการประเมินมูลค่า

การใช้ผ้าเครือข่ายที่มีศูนย์กลางอยู่ที่NVIDIA เมลลาน็อกซ์ 980-9I45J-00H010มอบคุณค่าที่หลากหลายซึ่งนอกเหนือไปจากการอัพเกรดการเชื่อมต่อธรรมดาๆ

โดยสรุป โซลูชันทางเทคนิคนี้ให้พิมพ์เขียวสำหรับการแปลงโครงสร้างพื้นฐานเครือข่ายจากศูนย์ต้นทุนเป็นตัวเร่งเชิงกลยุทธ์ ที่980-9I45J-00H010เป็นส่วนประกอบฮาร์ดแวร์ที่สำคัญที่ทำให้การเปลี่ยนแปลงนี้เป็นไปได้ทางเทคนิคและคุ้มค่า ปูทางไปสู่แอพพลิเคชั่นที่ขับเคลื่อนด้วยประสิทธิภาพรุ่นต่อไป