AMD Instinct MI300X – это новое высокопроизводительное вычислительное оборудование, которое, по мысли AMD, может подорвать доминирование NVIDIA в области генеративного ИИ, предлагая альтернативу популярному (в ИИ-разработках) графическому процессору H100 и комбинации CPU и графического процессора Grace Hopper.
AMD Instinct MI300X похож на последний тем, что представляет собой APU с 24 ядрами Zen 4 и архитектурой графического процессора CDNA 3. Instinct MI300X в полной мере использует новаторскую конструкцию микросхем AMD с 8 чиплетами и 8 стеками памяти с использованием 5-нм и 6-нм техпроцессов. Огромным преимуществом является возможность наращивания памяти HBM3 до 192 ГБ, что делает его идеальным для рабочих нагрузок моделей искусственного интеллекта, интенсивно использующих память.
AMD называет новый Instinct MI300X «самым передовым в мире ускорителем для генеративного ИИ», отчасти благодаря огромному объему памяти, который он предлагает. «Благодаря большому объему памяти AMD Instinct MI300X клиенты теперь могут устанавливать большие языковые модели, такие как Falcon-40, модель с параметрами 40B, на одном ускорителе MI300X».
AMD отмечает, что версия MI300A «только для процессора» находится в стадии тестирования прямо сейчас, а тестирование полной версии MI300X, как ожидается, начнется в следующем квартале с полным производством и доступностью в четвертом квартале 2023 года. MI300A в настоящее время развертывается на суперкомпьютере El Capitan 2 Exaflop.
Что касается производительности MI300X, AMD заявляет, что он обеспечивает в 8 раз более высокую производительность ИИ по сравнению с ускорителями AMD Instinct MI250X на базе CDNA 2. А благодаря унифицированной архитектуре памяти он обеспечивает 5-кратное увеличение производительности на ватт по сравнению с CDNA 2.
