Исследование, проведенное специалистами IBM и Института Понемон, показало, что ровно 25 процентов всех вредоносных инцидентов с компрометацией данных в мире теперь инициируются с применением технологий искусственного интеллекта. Утечки, в которых зафиксирована генеративная или автоматизированная составляющая атаки, приводят к среднему финансовому ущербу в размере шести миллионов долларов. Эта цифра на 20 процентов превышает средний показатель убытков для остальных категорий злонамеренных проникновений. В число наиболее атакуемых отраслей вошли финансовые услуги и энергетический сектор.
Аналитики связывают рост доли ИИ-атак с массовым распространением больших языковых моделей, которые используются злоумышленниками на этапе разведки и фишинга. По отраслевым данным, инструменты автоматической генерации текста позволяют создавать высокоперсонализированные письма на нескольких языках без характерных орфографических ошибок, что резко снижает порог входа для киберпреступных групп. Одновременно фиксируется применение моделей машинного обучения для перебора паролей, анализа украденных баз и динамической подмены голоса в схемах социальной инженерии. Среднее время выявления такой утечки увеличилось на 42 часа по сравнению с обычными атаками, достигая в ряде случаев 302 суток до полной локализации.
Финансовый ущерб напрямую коррелирует с усложнением цепи атаки. В сценариях с ИИ-компонентом чаще фигурируют компрометация корпоративной электронной почты и атаки на цепочки поставок облачных сервисов. Страховые выплаты и расходы на оповещение клиентов для энергетических компаний в таких инцидентах на 35 процентов выше среднеотраслевых из-за необходимости компенсировать простой критической инфраструктуры. Исследователи Института Понемон, проводившие опрос более чем пятисот организаций по всему миру с годовым оборотом свыше ста миллионов долларов, отдельно выделили, что использование защитных ИИ-платформ на стороне обороны сокращает жизненный цикл утечки в среднем на 108 дней. При этом лишь 28 процентов опрошенных компаний внедрили поведенческую аналитику и автоматическое реагирование на уровне SIEM-систем.
Предшествующие ежегодные отчеты Cost of a Data Breach фиксировали неуклонный рост средней стоимости инцидента с 3,86 миллиона долларов в 2020 году до 4,88 миллиона в 2024 году. Текущее выделение ИИ-атак в качестве отдельного вектора позволило впервые зафиксировать разрыв в цене утечки, связанный именно с применением продвинутых алгоритмов противником. Для сравнения, утечки, не содержащие следов автоматизации, в настоящий момент оцениваются в среднем в 4,75 миллиона долларов. Разница в 1,25 миллиона долларов, по мнению экспертов лаборатории X-Force, будет расти по мере внедрения мультимодальных агентов, способных самостоятельно анализировать сетевые уязвимости без участия человека.
Технический разбор инцидентов указывает на активное использование открытых фреймворков для генерации кода в целях обхода систем обнаружения вторжений. Зафиксированы случаи, когда вредоносные скрипты переписывались динамически при каждом запуске, что делало сигнатурный анализ неэффективным. Поверхность атаки расширяется за счет интерфейсов API, которые корпоративные приложения предоставляют сторонним ИИ-моделям. Нарушения сегментации сети и ошибки конфигурации контейнерных сред в таких эпизодах оставались главными сопутствующими факторами, обеспечивавшими начальный доступ в 42 процентах случаев.
Публикация отчета совпала с ростом регуляторного давления на операторов данных в Европейском Союзе и США. Требования к отчетности по инцидентам, связанным с автоматизированной обработкой персональной информации, ужесточаются, а период уведомления надзорных органов сокращается до 72 часов. Энергетический сектор дополнительно обязан передавать технические индикаторы компрометации отраслевым ISAC-центрам, что частично объясняет более высокую прозрачность статистики в этой сфере. Специалисты IBM настаивают на дифференцированном подходе к страхованию киберрисков, при котором полисы должны учитывать наличие в инфраструктуре средств детектирования аномалий, порождаемых моделями машинного обучения. Без такого разделения, по их расчетам, совокупный объем недополученных страховых резервов по отрасли может достичь полутора миллиардов долларов уже к концу следующего финансового года.
