انویدیا از پلتفرم سوپرچیپ نسل بعدی GH200 Grace Hopper رونمایی کرد
انویدیا امروز نسل بعدی پلتفرم NVIDIA GH200 Grace Hopper را معرفی کرد – بر اساس سوپرتراشه جدید Grace Hopper با اولین پردازنده HBM3e جهان – که برای عصر محاسبات سریع و هوش مصنوعی مولد ساخته شده است.
پلتفرم جدید که برای مدیریت پیچیدهترین حجمهای کاری هوش مصنوعی مولد جهان، شامل مدلهای زبان بزرگ، سیستمهای توصیهگر و پایگاههای داده برداری ایجاد شده، در طیف گستردهای از پیکربندیها در دسترس خواهد بود. پیکربندی دوگانه که تا 3.5 برابر ظرفیت حافظه و 3 برابر پهنای باند بیشتر از نسل فعلی ارائه می دهد، شامل یک سرور واحد با 144 هسته Arm Neoverse، هشت پتافلاپ عملکرد هوش مصنوعی و 282 گیگابایت از آخرین فناوری حافظه HBM3e است.
جنسن هوانگ، بنیانگذار و مدیر عامل انویدیا، بیان کرد:
برای پاسخگویی به تقاضای فزاینده برای هوش مصنوعی مولد، دیتاسنترها به پلتفرمهای محاسباتی شتابدهی با نیازهای تخصصی نیاز دارند. پلتفرم جدید GH200 Grace Hopper Superchip این را با فناوری حافظه و پهنای باند استثنایی برای بهبود توان عملیاتی، توانایی اتصال GPUها به عملکرد انبوه بدون ایراد، و طراحی سروری که به راحتی می تواند در کل مرکز داده مستقر شود، ارائه می دهد.
پلتفرم جدید از Superchip Grace Hopper استفاده کرده که میتواند با سوپرتراشههای اضافی توسط NVIDIA NVLink متصل شود و به آنها اجازه میدهد تا با هم کار کنند تا مدلهای غولپیکر مورد استفاده برای هوش مصنوعی مولد را به کار گیرند. این فناوری منسجم و پرسرعت به پردازشگر گرافیک دسترسی کامل به حافظه پردازنده می دهد و در صورت پیکربندی دوگانه، ترکیبی از 1.2 ترابایت حافظه سریع را فراهم می کند.
حافظه HBM3e که 50 درصد سریعتر از HBM3 فعلی است، در مجموع 10 ترابایت بر ثانیه پهنای باند ترکیبی ارائه می دهد که به پلتفرم جدید اجازه می دهد مدل هایی را 3.5 برابر بزرگتر از نسخه قبلی اجرا کند، در حالی که با پهنای باند حافظه 3 برابر سریعتر، عملکرد را بهبود می بخشد. انتظار می رود که سازندگان پیشرو سیستم در سه ماهه دوم سال 2024 سیستم های مبتنی بر این پلتفرم را ارائه دهند.