Компания Anthropic подтвердила интеграцию механизма текстовых водяных знаков в часть своих моделей Claude. Технология, основанная на алгоритме SynthID-Text, разработанном Google DeepMind, позволяет встраивать в генерируемый текст статистический паттерн. Этот цифровой отпечаток остается незаметным для человека, но считывается специализированным детектором для определения авторства искусственного интеллекта. В компании подчеркнули, что модификация процесса генерации не изменяет качество, скорость выдачи или смысловую точность ответов.
Техническая реализация SynthID-Text опирается на вмешательство в работу декодера большой языковой модели. В момент выбора следующего токена алгоритм незначительно искажает распределение вероятностей, формируя уникальную сигнатуру. Сторонний наблюдатель не увидит разницы в лексике или синтаксисе, однако при накоплении достаточного объема материала спектральный анализ выявляет наличие водяного знака с высокой точностью. Исследование, опубликованное в журнале Nature, показало, что для уверенного детектирования в среднем требуется около 200 токенов текста. При этом в коротких ответах, состоящих из нескольких слов, метод не применяется, чтобы избежать ложных срабатываний.
Поводом для заявления Anthropic послужили опасения индустрии по поводу распространения синтетического контента без маркировки. Водяной знак в тексте Claude выполняет функцию пассивного индикатора, не требующего изменения пользовательского интерфейса и не оставляющего видимых меток. Для проверки подлинности материалов компания открыла бесплатный доступ к API детектора, а также интегрировала его в платформу Vertex AI. Этот шаг адресован издателям, образовательным учреждениям и платформам, борющимся с дезинформацией, которые теперь могут фильтровать или верифицировать массивы данных без ущерба для конфиденциальности исходных запросов.
В ответ на критические замечания о защите приватности и авторских прав разработчики пояснили: водяной знак не содержит информации о пользователе, IP-адресе или содержании промпта. Он лишь статистически маркирует сам факт машинной генерации. В отличие от метаданных, которые легко удаляются при копировании текста, SynthID-Text сохраняется даже после перевода на другой язык, перефразирования или изменения регистра. Это отличает решение от ранних экспериментов OpenAI, которая в 2023 году тестировала собственный классификатор, но отказалась от его внедрения из-за недостаточной устойчивости к редактированию. В индустрии также известен проект Meta Video Seal, сосредоточенный на видеоряде, тогда как Google DeepMind ранее уже применяла похожий метод для изображений, создаваемых Imagen, и музыки от Lyria.
Линейка Claude получила водяной знак в рамках стратегии ответственного развития систем искусственного интеллекта. Предыдущие версии моделей не имели этого компонента, что иногда создавало трудности для модераторов контента. Внедрение началось с Claude 3.5 Sonnet, а затем распространилось на более поздние релизы. Параллельно с анонсом Anthropic продолжила работу над механизмами атрибуции, чтобы обеспечить баланс между прозрачностью и сохранением полезных свойств генеративных моделей, включая способность к творческому письму и точному следованию инструкциям без деградации.
