ذاكرة عملاقة للنماذج العملاقة

وعلى عكس حواسيب الذكاء الاصطناعي العملاقة الحالية المصممة لدعم أعباء العمل التي تتناسب مع ذاكرة نظام واحد، فإن حاسوب NVIDIA DGX GH200 هو الحاسوب العملاق الوحيد الذي يوفر مساحة ذاكرة مشتركة تبلغ 19.5 تيرابايت عبر 32 رقاقة من رقائق Grace Hopper Superchips، مما يوفر للمطورين ذاكرة وصول سريع تزيد عن 30 ضعفاً لبناء نماذج ضخمة. DGX GH200 هو أول حاسوب خارق يقترن رقاقات Grace Hopper Superchips مع نظام NVLink Switch من NVIDIA، والذي يسمح بتوحيد 32 وحدة معالجة رسومات كوحدة معالجة رسومات واحدة بحجم مركز البيانات. ويمكن توصيل أنظمة DGX GH200 المتعددة باستخدام نظام NVIDIA InfiniBand لتوفير المزيد من القدرة الحاسوبية. توفر هذه البنية نطاقاً ترددياً أكبر بمقدار 10 أضعاف من الجيل السابق، مما يوفر قوة حاسوب عملاق ضخم للذكاء الاصطناعي مع بساطة برمجة وحدة معالجة رسومات واحدة.

الحوسبة فائقة الكفاءة في استخدام الطاقة

مع ازدياد تعقيد نماذج الذكاء الاصطناعي، أصبحت تقنية تطويرها ونشرها أكثر استهلاكاً للموارد. ومع ذلك، باستخدام بنية رقاقة NVIDIA Grace Hopper Superchip من NVIDIA، يحقق DGX GH200 كفاءة ممتازة في استهلاك الطاقة. كل رقاقة NVIDIA Grace Hopper Superchip من NVIDIA عبارة عن وحدة معالجة مركزية ووحدة معالجة رسومات في وحدة واحدة، متصلة بوحدة NVIDIA NVLink-C2C فائقة السرعة. تستخدم وحدة المعالجة المركزية Grace™ Grace ذاكرة LPDDR5X، والتي تستهلك ثُمن طاقة ذاكرة النظام التقليدية DDR5 مع توفير نطاق ترددي أكبر بنسبة 50% من ذاكرة DDR5 ذات الثماني قنوات. And being on the same module, the Grace CPU and Hopper™ GPU interconnect consumes 5X less power and provides 7X the bandwidth compared to the latest PCIe technology used in other systems.