В рамках редкого совместного проекта компании AMD, Arm, Intel, Meta, Microsoft, NVIDIA и Qualcomm создали альянс для стандартизации будущих форматов данных для ИИ. Альянс, получивший название Microscaling Formats (MX) Alliance, ставит своей целью определить новые эффективные 6- и 4-битные типы данных для оптимизации обучения и выводов ИИ. Это может значительно ускорить рабочие процессы ИИ, уменьшив размер модели, потребность в данных и объем памяти.
Форматы с низкой точностью уже способствовали расширению возможностей ИИ. Переход от 32-битных к современным 8-битным данным сыграл важную роль в развитии нейронных сетей и аппаратного обеспечения. Дальнейшее снижение точности обещает дальнейшее повышение скорости, размера и эффективности.
Альянс MX Alliance опубликовал первоначальную открытую спецификацию, определяющую четыре конкретных формата данных — MXFP8, MXFP6, MXFP4 и MXINT8. Они совместимы с существующими стеками ИИ.
Спецификация Microscaling Formats Spec v1.0 доступна безвозмездно через Open Compute Project Foundation, что способствует ее широкому внедрению.
Лидеры каждого из участников альянса подчеркнули важность объединения усилий для демократизации доступа к оптимизации ИИ нового поколения. Сотрудничество предотвратит фрагментацию и обеспечит превращение новых форматов в стандартные активы.
