Специалисты Huawei представили подробности о возможностях своего нового AI-кластера CloudMatrix 384. Согласно информации, этот суперкомпьютер способен превзойти систему NVIDIA GB200 NVL72 по результатам стандартных тестов производительности, хотя и потребляет больше электроэнергии на единицу производительности.
В основе CloudMatrix 384 лежат ускорители Ascend 910C от Huawei. Хотя эти чипы обеспечивают высокую вычислительную мощность, они проигрывают конкурентам в эффективности. Чтобы исправить этот недостаток, китайская компания готовит к выпуску семейство ускорителей Ascend 920.
Среди новинок особенно выделяется Ascend 920C, предназначенный для обучения нейронных сетей. Этот чип будет изготавливаться по 6-нанометровому техпроцессу SMIC и, по данным DigiTimes, сможет выдавать более 900 терафлопс производительности в полудвойной точности BF16.
Также Ascend 920C получит модули памяти HBM3, обеспечивающие пропускную способность 4000 Гбайт/с. Для сравнения, Ascend 910C использует 8 стопок памяти HBM2E с общей пропускной способностью 3200 Гбайт/с.
Текущее поколение Ascend 910C достигает пика производительности в 780 терафлопс для операций BF16 и имеет межчиповый интерфейс с пропускной способностью 400 Гбайт/с. Ограничения упаковки не позволяют увеличить этот показатель, но он все еще обеспечивает высокоскоростной обмен данными между узлами сверхплотных AI-кластеров.
В Ascend 920C разработчики Huawei сохранили модульную компоновку, но доработали тензорные вычислительные модули для более эффективной работы с моделями Transformer и Mixture-of-Experts. По внутренним оценкам, общая эффективность обучения на 920C должна возрасти на 30-40% по сравнению с 910C, что позволит сократить разрыв в производительности на ватт относительно решений конкурентов.
Помимо этого, Ascend 920C будет поддерживать интерфейсы PCIe 5.0 и новые высокопроизводительные протоколы межузлового взаимодействия. Такие особенности призваны улучшить распределение ресурсов и снизить задержки в сверхплотных AI-кластерах, где синхронизация между узлами критически важна.
Huawei пока не сообщила точную дату выхода Ascend 920C, но, по данным источников DigiTimes, массовое производство этих чипов начнется во второй половине 2025 года, то есть уже через несколько месяцев.
