گوگل ابررایانههای A3 با گرافیک های انویدیا H100 را به نمایش گذاشت
در رویداد I/O متمرکز بر هوش مصنوعی، گوگل اعلام کرد که مشتریان Google Cloud میتوانند از ماشینهای مجازی A3 مجهز به پردازندههای گرافیکی انویدیا H100 در یک پیشنمایش خصوصی استفاده کنند. این غول جستجو گفت که A3VM های جدیدش “گامی رو به جلو” برای مشتریانی است که در حال توسعه مدل های یادگیری ماشینی پیشرفته هستند.
ویژگی های کلیدی ماشین های مجازی GPU (VM) A3 به شرح زیر است:
- 8 پردازنده گرافیکی H100 با استفاده از معماری Hopper انویدیا، ارائه توان پردازشی 3 برابری
- پهنای باند دوبخشی 3.6 ترابایت بر ثانیه بین 8 پردازنده گرافیکی A3 از طریق NVIDIA NVSwitch و NVLink 4.0
- نسل چهارم پردازنده های مقیاس پذیر Intel Xeon
- 2 ترابایت حافظه میزبان از طریق 4800 مگاهرتز DDR5 DIMM
- 10 برابر پهنای باند شبکه بیشتر توسط IPUهای مجهز به سخت افزار، پشته ارتباطی تخصصی GPU بین سرور و بهینه سازی NCCL ما
با استفاده از این ماشینهای مجازی، کسبوکارهایی که نیاز به آموزش مدلهای پیچیده ML دارند، میتوانند خیلی سریعتر این کار را انجام دهند. آنها با در نظر گرفتن مدلهای خواستار هوش مصنوعی ساخته شدهاند که مسئول هوش مصنوعی مولد امروزی هستند.
به گفته گوگل، ابررایانه های جدید A3 آن می توانند تا 26 اگزافلاپس عملکرد هوش مصنوعی را ارائه دهند و اولین نمونه GPU است که از IPUهای 200 گیگابیت بر ثانیه سفارشی طراحی شده با انتقال داده GPU به GPU استفاده می کند که می تواند میزبان CPU را دور بزند. این امر پهنای باند شبکه را ده برابر بیشتر می کند و سرعت کارها را افزایش می دهد.