США исключили открытые ИИ-модели из проверок безопасности

Американские регуляторы в ходе закрытого совещания с представителями технологических компаний подтвердили, что механизм обязательной проверки безопасности фронтальных моделей искусственного интеллекта на текущем этапе распространяется исключительно на закрытые проприетарные разработки. Модели с открытыми весами, такие как Llama от Meta, Mistral от французской Mistral AI, Falcon от Technology Innovation Institute и ряд других, пока не подпадают под требования предоставлять правительству данные о тренировочных запусках и результатах стресс-тестирования. Об этом сообщил портал ITHome со ссылкой на информированные источники, знакомые с ходом обсуждения.
Предыстория регулирования связана с указом президента США от 30 октября 2023 года, который направлен на управление рисками развития ИИ. Документ призывает разработчиков наиболее мощных систем к ответственному подходу, а также внедряет элементы обязательного раскрытия информации. В январе 2024 года Министерство торговли США через Национальный институт стандартов и технологий (NIST) начало запрашивать у компаний уведомления о тренировке моделей, вычислительная сложность которых превышает порог в 10^26 операций с плавающей запятой. Предполагалось, что компании также должны будут делиться результатами испытаний на безопасность. Однако, как выяснилось на совещании, эти требования касаются только проприетарных систем, код и веса которых остаются закрытыми.
В совещании участвовали представители ведущих компаний, включая Google, Microsoft, OpenAI, Meta, Amazon и Anthropic. Регуляторы пояснили, что механизм уведомлений и тестирования создали для больших языковых моделей, которые доступны через контролируемые API-интерфейсы. Именно в таких системах можно централизованно отслеживать использование и внедрять защитные инструменты, например, ограничения на генерацию вредоносного кода или дезинформации. Открытые веса, напротив, позволяют любому загрузить и запустить модель локально, что полностью исключает возможность управления со стороны разработчика.
Национальное управление по телекоммуникациям и информации (NTIA) в феврале 2024 года запустило отдельный сбор публичных комментариев относительно рисков и преимуществ открытых моделей. Представители индустрии, включая Meta, высказывали мнение, что регулирование открытых весов создаст препятствия для инноваций и научных исследований. В ответах регуляторам компания подчеркивала, что экосистема открытых моделей способствует прозрачности и коллективному аудиту безопасности. Другие участники рынка, в частности OpenAI и Anthropic, придерживаются более осторожной позиции и указывают на потенциальную невозможность отзыва или фильтрации уже выпущенных открытых весов.
Техническая специфика открытых весов подразумевает публикацию файлов с параметрами обученной нейросети, что позволяет сторонним разработчикам запускать модель на своих мощностях, дообучать или адаптировать ее без посредников. Именно эта децентрализация создает регуляторную дилемму: фиксировать тренировку и внедрять защитные механизмы гораздо сложнее, чем в случае закрытых API-интерфейсов, таких как GPT-4 от OpenAI или Claude от Anthropic. В закрытых системах можно внедрить фильтры контента, отключать опасные функции и оперативно вносить изменения на стороне сервера, что невозможно при наличии у пользователей полной копии модели.
По итогам совещания текущий механизм проверки безопасности сохраняется без изменений и будет применяться только к тем компаниям, которые разрабатывают и эксплуатируют проприетарные ИИ-системы. Сроки и формат возможного расширения требований на открытые модели пока не определены. Ожидается, что детальная позиция правительства будет сформулирована после завершения анализа NTIA, который должен обобщить мнения экспертов, бизнеса и гражданского общества. Пока же модели с открытыми весами находятся вне зоны действия обязательных предварительных проверок.