NVIDIA анонсировала платформу нового поколения NVIDIA GH200 Grace Hopper, основанную на новом суперчипе Grace Hopper с первым в мире процессором HBM3e. Платформа создана для ускоренных вычислений и генеративного ИИ.
Разработанная для решения самых сложных рабочих задач генеративного ИИ, охватывающих большие языковые модели, рекомендательные системы и векторные базы данных, новая платформа будет доступна в широком диапазоне конфигураций.
Двойная конфигурация, которая обеспечивает в 3,5 раза больше памяти и в 3 раза больше пропускной способности, чем предложение текущего поколения, включает один сервер со 144 ядрами Arm Neoverse, восемь петафлопс производительности искусственного интеллекта и 282 ГБ памяти новейшей технологии HBM3e.
Новая платформа использует чип Grace Hopper, который можно подключить к дополнительным суперчипам с помощью NVIDIA NVLink, что позволяет им работать вместе для развертывания гигантских моделей, используемых для генеративного ИИ. Эта высокоскоростная когерентная технология предоставляет графическому процессору полный доступ к памяти CPU, обеспечивая в сумме 1,2 ТБ быстрой памяти в двойной конфигурации.
Память HBM3e, которая на 50% быстрее, чем текущая HBM3, обеспечивает общую пропускную способность 10 ТБ/с, что позволяет новой платформе запускать модели в 3,5 раза большие, чем предыдущая версия, при этом повышая производительность за счет увеличения пропускной способности памяти в 3 раза.
