Компания Anthropic, известная своими разработками в области искусственного интеллекта, представила новую версию своей языковой модели Claude 4 Opus. Однако вместо восторженных отзывов новинка столкнулась с волной критики и опасений со стороны сообщества разработчиков и пользователей.
Ключевой причиной неоднозначной реакции стала возможность модели Claude 4 Opus автоматически оповещать правоохранительные органы в случае выявления потенциально неэтичного или противоправного поведения пользователя. Подобная функция вызывает серьезные вопросы относительно приватности и неприкосновенности частной жизни.
Концепция конституционного искусственного интеллекта, которую активно продвигает Anthropic, предполагает встраивание этических принципов в алгоритмы ИИ-систем. Однако, по мнению многих экспертов, механизм автоматического информирования властей о действиях пользователей размывает границы между обеспечением безопасности и осуществлением скрытого контроля.
Ряд специалистов в области ИИ-алайнмента, в частности, Сэм Боумэн из Anthropic, предпринял попытки объяснить, что данная функция была задействована лишь в экспериментальной среде тестирования и не является частью стандартного функционала модели. Тем не менее, это заявление не смогло полностью снять озабоченность сообщества по поводу потенциальных рисков для конфиденциальности пользователей.
Многие разработчики и пользователи ИИ-систем высказывают опасения, что подобные механизмы могут стать инструментом манипулирования или даже злоупотреблений. Вопрос о том, кто и на каких основаниях будет определять, что является «серьезно безнравственным» поведением, вызывает особую обеспокоенность.
