Компания OpenAI, известная своими достижениями в области искусственного интеллекта, недавно обновила свои рекомендации по использованию технологий. Ранее организация прямо запрещала использовать свои технологии в военных целях. Однако теперь это ограничение было исключено из правил.
Это изменение совпадает с растущим интересом оборонных ведомств к инструментам искусственного интеллекта. Один из исследователей отметил, что это совпадает по времени с ростом использования ИИ в зонах конфликтов. Пересмотр политики может позволить расширить сотрудничество с военными партнерами, которые часто предоставляют технологическим компаниям значительное финансирование.
OpenAI утверждает, что их технологии не должны способствовать нанесению вреда или разработке оружия. Однако исключение слов «военные и боевые действия» может разрешить другие приложения, связанные с обороной. В настоящее время ни один из продуктов OpenAI не способен на прямое физическое воздействие. Но их языковые модели гипотетически могут поддерживать военные операции, выполняя такие задачи, как обработка данных или кодирование программного обеспечения, что косвенно способствует деятельности вооруженных сил.
Представитель OpenAI пояснил, что целью было установление четких всеобъемлющих принципов, а не детальных ограничений. Компания поддерживает принципы недопущения причинения вреда и ущерба другим людям, которые могут последовательно применяться в различных ситуациях. Хотя создание оружия или нанесение ущерба по-прежнему не приветствуется, политика оставляет возможность для интерпретации относительно более широкого участия военных, особенно в некомбатантских ролях.
Примечательно, что OpenAI сотрудничает с Агентством перспективных оборонных исследовательских проектов в области кибербезопасности. Это говорит о том, что не все связи с вооруженными силами несут в себе риск нанесения вреда. Измененные правила могут разрешить сотрудничество, в рамках которого разрабатываются технологии двойного назначения с защитными функциями, что позволит сбалансировать этические нормы с преимуществами национальной безопасности по мере развития искусственного интеллекта. Однако по мере расширения возможностей систем искусственного интеллекта остаются вопросы о том, где проводить границы допустимого военного применения.
