Mellanox (NVIDIA Mellanox) 980-9I45T-00H020 หนังสือขาวทางเทคนิค

Mellanox (NVIDIA Mellanox) 980-9I45T-00H020 หนังสือขาวทางเทคนิค

หนังสือขาวนี้เน้นเรื่องMellanox (NVIDIA Mellanox) 980-9I45T-00H020เครื่องมือเครือข่ายเป็นหินมุมของการเชื่อมต่อความน่าเชื่อถือสูงและยุทธศาสตร์ความเป็นเลิศในการปฏิบัติงานสําหรับศูนย์ข้อมูลและเครือข่ายธุรกิจที่ทันสมัย980-9I45T-00H020เป็นการแก้ไขการเชื่อมโยงที่มีประสิทธิภาพสูง ที่ถูกออกแบบมาเพื่อจัดการกับภาระงานที่ต้องการมากที่สุดใน AI cluster, สภาพแวดล้อม HPC และโครงสร้างพื้นฐานที่สําคัญต่อภารกิจ

1. หลักฐานและความต้องการทางธุรกิจ

ศูนย์ข้อมูลที่ทันสมัยกําลังเปลี่ยนจากสถาปัตยกรรมที่เน้น CPU ไปยังการออกแบบที่ขับเคลื่อนโดย GPU และ DPU การฝึกอบรม AI การวิเคราะห์ข้อมูลขนาดใหญ่ และระบบการเทรดในเวลาจริงความอ่อนแอ, และอัตราการสูญเสียแพ็คเก็ต ในขณะเดียวกันเครือข่ายธุรกิจต้องเผชิญกับโจทย์ในการเชื่อมต่อหลายสถานที่, การเข้าถึงหลายเมฆ, และการปฏิบัติตามกฎหมายทําให้สถาปัตยกรรมเครือข่ายสามชั้นแบบดั้งเดิมไม่เหมาะสมสําหรับการปรับขนาดธุรกิจแบบยืดหยุ่น.

การนํามาตรการMellanox (NVIDIA Mellanox) 980-9I45T-00H020แก้ไขจุดเจ็บปวดที่สําคัญต่อไปนี้:

• ปัญหาการทํางาน: เครือข่าย 25G/40G ที่มีอยู่ไม่สามารถตอบสนองความต้องการการจราจรทางทิศเหนือ-ทิศใต้ของ GPU คลาสเตอร์ชั้น 800G ได้
• ความซับซ้อนทางการดําเนินงาน: อุปกรณ์จากหลายผู้จําหน่าย นําไปสู่การติดตามแบบซิลโด้ และระยะเวลาในการซ่อมแซมที่ยาวนาน (MTTR);
• ช่องว่างความน่าเชื่อถือ: ความล้มเหลวของลิงค์และเหตุการณ์การอุดตันทําให้การทํางานของแอปพลิเคชั่นลดลงอย่างสําคัญและละเมิด SLA

มาตรฐานความสําเร็จสําคัญสําหรับคําตอบนี้ประกอบด้วย ความช้าต่ํากว่าไมโครเซกอนด์ ความสูญเสียแพ็คเก็ตศูนย์ภายใต้ความจุกจูง และการตรวจหาความผิดพลาดและการแก้ไขด้วยระบบอัตโนมัติ

2การออกแบบโครงสร้างเครือข่ายโดยรวม

โครงสร้างที่เสนอใช้ผ้าใบกระดูกสันหลังทอปโลจีที่มีการออกแบบ Clos สองชั้น, ทําให้สามารถระยะเวลากระยะยาวต่ําและขนาดใหญ่980-9I45T-00H020 สินค้าเครือข่ายเชื่อมต่อกับเซอร์เวอร์ GPU และโน้ดการจองผ่านพอร์ต 800G / 400G OSFP ในชั้นกระดูกสันหลัง สวิตช์ความหนาแน่นสูงให้ความเชื่อมต่อระหว่างราคที่ไม่กั้น

หลักการสถาปัตยกรรมสําคัญประกอบด้วย:

• ผ้า RDMA ที่ขาดทุนไม่มาก: การใช้ RoCEv2 และ PFC/ECN การควบคุมการไหลเพื่อให้แน่ใจว่าการขนส่งไม่มีการสูญเสียสําหรับ NVMe-oF และ GPUDirect Storage
• การปรับเปลี่ยนเส้นทาง: การเลือกเส้นทางแบบไดนามิก โดยใช้เทเลเมตรีในเวลาจริง เพื่อหลีกเลี่ยงการเชื่อมต่อที่อึดอัด โดยไม่ต้องลงมือ
• การแยกแยกหลายตัว: การสนับสนุน VXLAN และ GENEVE overlay ที่ใช้ด้วยฮาร์ดแวร์ ทําให้สามารถแบ่งแยกได้อย่างปลอดภัยสําหรับ AI, HPC และภาระงานทั่วไปที่ผสมผสาน

สถาปัตยกรรมนี้ถูกออกแบบมาเพื่อรองรับถึง 2,048 GPU node ต่อ fabric pod980-9I45T-00H020 ศูนย์ข้อมูล เครือข่ายความเร็วสูงอุปกรณ์ที่ทําหน้าที่เป็นหน่วยขอบหลักสําหรับการเชื่อมต่อคอมพิวเตอร์/การเก็บข้อมูล

3. บทบาทของ Mellanox (NVIDIA Mellanox) 980-9I45T-00H020 ในการแก้ไข

รายการMellanox (NVIDIA Mellanox) 980-9I45T-00H020เป็นตัวปรับเครือข่าย/สวิตช์ประเภทหลายฟังก์ชันที่เชื่อมโยงระหว่างบัสโฮสต์ (PCIe 6.0) และเนื้อผ้า (InfiniBand หรือ Ethernet) ส่วนสําคัญของระบบคือ:

• การส่งต่อความเร็วสาย 800G: รองรับ XDR InfiniBand และ 800GbE ให้พื้นที่พอสําหรับ GPU ในอนาคต (เช่น B100, X100)
• อุตสาหกรรมคอมพิวเตอร์ในเครือข่าย (SHARPv3): ลดเวลาการสื่อสารรวมของ MPI ถึง 30% โดยการดําเนินการรวมโดยตรงในเครือข่าย
• การวัดระยะไกลด้วยเครื่องมือ: การตรวจจับความจุกจุก (ตัวอย่างเช่น การระบุ ECN, การจํากัดอัตราการไหลของน้ํา) ให้ความเห็นอย่างละเอียดในความเคลื่อนไหวของคิว โดยไม่ต้องใช้ค่า CPU
• การรักษาความปลอดภัยสูง: แฮร์ดแวร์รูทของความไว้วางใจ, เบ็ตปลอดภัย, และการเข้ารหัส IPSec / MACsec ในสายป้องกันข้อมูลในการขนส่งจากการโจมตีชั้นฟิสิกส์

ในฐานะ980-9I45T-00H020 การแก้ไขสินค้าเครือข่าย, มันสามารถบูรณาการได้อย่างต่อเนื่องกับสวิตช์ Mellanox และ NVIDIA DOCA ที่มีอยู่

4. แนะนําการใช้งานและการปรับขนาด

สถานการณ์การใช้งานทั่วไปประกอบด้วย:

• ขนาดเล็ก (สูงสุด 64 GPU): ขนาด 2 แร็ค 1x980-9I45T-00H020ต่อเซอร์เวอร์ โดยใช้สายดาร์ค OSFP-to-OSFP ที่เชื่อมต่อโดยตรง สําหรับการสื่อสารในเรคที่มีความอ่อนแอต่ํา
• ขนาดใหญ่ (256+ GPU): สถาปัตยกรรม Multi-pod980-9I45T-00H020อุปกรณ์ที่รวมสวิตช์ใบผ่าน 800G uplinks ไปยังสวิตช์กระดูกสันหลัง ทําให้ความกว้างของแบนด์บีซคชันเต็ม
• ผ้าเก็บของ AI + ไฮบริด: การ980-9I45T-00H020สามารถตั้งค่าด้วยการแบ่งพอร์ต (2x 400G หรือ 8x 100G) เพื่อให้บริการคอมพิวเตอร์และเครือข่ายการเก็บข้อมูลพร้อมกัน โดยลดค่าใช้จ่าย

ตัวอย่างทอปโลจี (ง่าย)

สําหรับการขยายในอนาคต สถาปัตยกรรมนี้รองรับการปรับขนาดแบบจ่ายตามที่คุณเจริญเติบโต โดยการเพิ่มบล็อกใบเพิ่มเติมโดยไม่ต้องออกแบบใหม่ชั้นกระดูกสันหลัง

5. Ops ติดตาม, แก้ไขปัญหาและ Optimization

รายการ980-9I45T-00H020ติดต่อกับ NVIDIA's telemetry stack เพื่อให้ความเห็นในเวลาจริง

• การตรวจพบไมโครเบิร์สต์: การรายงานระดับฮาร์ดแวร์ของความครอบคลุมของพัฟเฟอร์ต่อกระแส, ยอมให้มีการปรับ QoS อย่างล่วงหน้า;
• การติดตามคุณภาพของลิงค์: เครื่องนับ FEC (Forward Error Correction) และสัญญาณเตือนสัญลักษณ์ต่อความเสียหายของสายไฟฟ้า
• การจําลองเครือข่าย: การใช้ข้อมูลเทเลเมตรีที่ฝังไว้ เพื่อสร้างรูปแบบการจราจรใหม่ในสภาพแวดล้อมคู่ดิจิตอล เพื่อการวิเคราะห์ว่าถ้า

แนวปฏิบัติการที่ดีที่สุดที่แนะนํา:

• กําหนดโปรไฟล์พื้นฐานอัตโนมัติสําหรับความยืดหยุ่นและความผ่านในภาวะภาระปกติ และเปิดสัญญาณเตือนเมื่อความห่างไกลเกิน 10%
• การตรวจสอบเป็นประจําเวอร์ชั่นฟอร์มแวร์เพื่อรับรองความเหมาะสมกับ NVIDIA DOCA และ Driver ล่าสุด
• ใช้รายละเอียด 980-9I45T-00H020และใบข้อมูล 980-9I45T-00H020การปรับระดับขั้นต่ําของพัฟเฟอร์สําหรับผสมการจราจรเฉพาะเจาะจง (ตัวอย่างเช่น ลดทั้งหมด VS รูปแบบรวมทั้งหมด);
• เมื่อปรับขนาด ยืนยัน980-9I45T-00H020 รองรับได้ออฟติกส์และเคเบิลที่ใช้เมทริกซ์ความเข้ากันอย่างเป็นทางการ เพื่อหลีกเลี่ยงปัญหาเรื่องความสมบูรณ์แบบของสัญญาณ

6. สรุปและการประเมินค่า

รายการMellanox (NVIDIA Mellanox) 980-9I45T-00H020ส่งทางที่ถูกพิสูจน์ให้กับการสร้างเครือข่ายศูนย์ข้อมูลที่มีความน่าเชื่อถือสูง และมีประสิทธิภาพในการดําเนินงานและเทเลเมทรีขนาดย่อย ทําให้องค์กรสามารถ:

• การลดเวลาในการฝึก AI ให้ครบ 30-40%ผ่านการสื่อสารร่วมกันที่ดีที่สุด
• ความผลกระทบจากผู้ใช้งาน 0 ระหว่างความล้มเหลวของลิงค์ด้วยการปรับเปลี่ยนเส้นทางและ failover ภายในวินาที
• ค่าใช้จ่ายประจําการลด 50%ผ่านการติดตามแบบรวมและกระบวนการแก้ไขแบบอัตโนมัติ

กับ980-9I45T-00H020 สินค้าเครือข่ายในฐานะพื้นฐานขอบ, บริษัทสามารถใช้งานภาระงาน AI รุ่นต่อไปอย่างมั่นใจในขณะที่ยังคงควบคุมความน่าเชื่อถือ, ความปลอดภัย และค่าบริการทั้งหมด980-9I45T-00H020 ราคาและ980-9I45T-00H020 สําหรับขายสอบถาม, กรุณาติดต่อกับ NVIDIA Mellanox ที่ได้รับอนุญาต