Ученые из Китайской академии общественных наук выявили неожиданный эффект от маркировки материалов, созданных нейросетями. Предупреждения о синтетическом происхождении текста, которые призваны защитить пользователей от дезинформации, способны снижать доверие к достоверным сведениям и одновременно повышать убедительность ложных сообщений. К таким выводам пришли авторы исследования, опубликованного в марте 2026 года в журнале Journal of Communication.
Эксперимент, проведенный под руководством аспиранта Тэн Линь и магистра Ицин Чжан, охватил 433 участника, отобранных через онлайн-платформу Credamo в период с марта по май 2024 года. Для чистоты опыта исследователи сконструировали четыре типа постов в стиле китайской соцсети Weibo на научные темы. Материалом послужили данные с государственного китайского сайта по опровержению слухов. С помощью GPT-4 авторы создали по два варианта каждого сообщения — достоверный и искаженный, после чего половина текстов в каждой группе получила пометку о генерации искусственным интеллектом.
Участники оценивали правдоподобие каждого поста по пятибалльной шкале. Параллельно психометрические шкалы фиксировали индивидуальное отношение респондентов к технологиям искусственного интеллекта и степень их вовлеченности в тему. Результаты продемонстрировали устойчивую закономерность, которую авторы назвали «эффектом перекрестного влияния подлинности». Пометка «создано ИИ» снижала средний балл доверия к реальным научным фактам, но повышала его для вымышленной или искаженной информации.
Любопытной деталью стало влияние предубеждений против алгоритмов. Участники с изначально негативным отношением к искусственному интеллекту сильнее других теряли веру в правдивые новости, помеченные как машинные. Однако в случае с ложными сведениями их скептицизм ослабевал, и они также начинали доверять фейкам с предупреждением больше, чем аналогичным непомеченным фейкам. Это опровергает упрощенное представление о всеобщем «алгоритмическом отторжении»: реакция людей на синтетический контент сложнее и не сводится к полному неприятию всего машинного.
Авторы работы подчеркивают парадокс: инструмент прозрачности, внедряемый регулировщиками многих стран, на практике стирает границу между достоверным и ложным. Вместо помощи в навигации по информационному потоку маркировка перераспределяет доверие искаженным образом. Ученые предлагают усовершенствовать систему предупреждений. Простого указания на происхождение текста недостаточно, необходимы дополнительные элементы: предупреждения об отсутствии независимой проверки, индикаторы риска или дифференцированная маркировка в зависимости от темы. Например, для медицинских сведений может требоваться более строгое предупреждение, чем для материалов о новых технологиях.
Выводы китайских исследователей заставляют пересмотреть подходы к реализации законов об обязательной маркировке синтетического контента, которые уже действуют в Евросоюзе и Китае и обсуждаются в других странах. Простое информирование пользователя о роли нейросети не гарантирует защиты от обмана, а при определенных условиях способно усугубить проблему. Разработка более тонких механизмов предупреждения, учитывающих психологические эффекты восприятия, становится насущной задачей для платформ и законодателей.
