Компания Micron Technology объявила о начале тестирования первой в отрасли памяти HBM3 Gen2 емкостью 24 ГБ с пропускной способностью более 1,2 ТБ/с и скоростью вывода более 9,2 Гбит/с, что на 50% больше, чем у поставляемых в настоящее время решений HBM3. Благодаря увеличению производительности на ватт в 2,5 раза по сравнению с предыдущими поколениями предложение Micron HBM3 Gen2 устанавливает рекорд для важнейших показателей производительности, емкости и энергоэффективности центров обработки данных с искусственным интеллектом (ИИ).
Основой решения Micron для памяти с высокой пропускной способностью (HBM) является технологический узел Micron 1β (1-бета) DRAM, который позволяет собирать кристалл DRAM емкостью 24 Гбит в пределах стандартного для отрасли размера корпуса. Более того, образцы стека Micron емкостью 36 Гбайт начнут использоваться в первом квартале 2024 года.
Решение Micron HBM3 Gen2 отвечает растущим требованиям в мире генеративного ИИ к мультимодальным моделям ИИ с триллионами параметров. Благодаря емкости 24 ГБ на куб и скорости вывода более 9,2 Гбит/с время обучения больших языковых моделей сокращается более чем на 30%, что приведет к снижению совокупной стоимости.
Производительность памяти Micron HBM3 Gen2 на ватт обеспечивает ощутимую экономию средств для современных центров обработки данных с искусственным интеллектом. По оценкам, при установке 10 миллионов графических процессоров каждые пять ватт экономии энергии на куб HBM позволяют сократить эксплуатационные расходы на сумму до 550 миллионов долларов в течение пяти лет.
