ГК Softline о новой роли ИИ в кибербезопасности: от антифрода до автономного SOC

Искусственный интеллект в информационной безопасности прошел путь от скрытого механизма внутри антифрода до агента, которому готовы доверить блокировку учетной записи или изоляцию зараженного компьютера.

Вместе с возможностями выросла и цена ошибки: неверный вердикт модели теперь способен повлиять на работающую инфраструктуру.

В Softline мы видим несколько этапов этого развития. Классическое машинное обучение уже стало частью зрелых средств защиты. Большие языковые модели помогают разбирать инциденты и работать с неструктурированными данными. Следующий рубеж — ИИ-агенты, которые получают доступ к инструментам и выполняют последовательности действий без постоянных подсказок человека.

Разберем, где ИИ уже работает надежно, в каких сценариях ему пока нужен аналитик и почему классические методы защиты не потеряют актуальности.

Машинное обучение: технология, которая уже стала привычной

Первые успешные сценарии появились задолго до нынешнего бума генеративного ИИ. Они строились на классическом машинном обучении: модели изучали сетевой трафик, поведение пользователей и характеристики вредоносных файлов, а затем искали отклонения от нормы.

Один из самых распространенных примеров — анализ сетевых аномалий. Модель оценивает объем передаваемых данных, частоту запросов, направления соединений и другие параметры. Необычная активность может указывать на работу ботнета, перемещение злоумышленника между системами или попытку вывести данные за пределы компании.

По опыту Softline, такой подход особенно полезен там, где невозможно заранее описать все варианты атаки с помощью правил и сигнатур. Поэтому машинное обучение стало важной частью XDR (Extended Detection and Response, расширенное выявление угроз и реагирование), UEBA (User and Entity Behavior Analytics, анализ поведения пользователей и объектов инфраструктуры), NDR (Network Detection and Response, выявление сетевых угроз и реагирование на них) и NTA (Network Traffic Analysis, анализ сетевого трафика).

Еще один зрелый сценарий — антифрод. Банки и платежные сервисы используют модели для оценки географии операции, устройства, истории платежей и поведения клиента. Похожие методы применяются в защите от спама, фишинга и вредоносного ПО: письмо или файл проверяется сразу по множеству признаков.

Однако модель не знает, что считать нормой, пока не увидит достаточно данных. В проектах Softline мы учитываем, что NDR- и NTA-системам часто требуется период обучения в инфраструктуре конкретного заказчика. Если в этот момент внутри сети уже действует злоумышленник, часть вредоносной активности может попасть в профиль обычного поведения. Это не делает технологию бесполезной, но требует аккуратного запуска, проверки исходных данных и контроля со стороны специалистов.

Дипфейки: ИИ атакует, ИИ защищает

Синтетические изображения, аудио и видео превратились в рабочий инструмент социальной инженерии. Злоумышленники могут имитировать голос руководителя во время звонка, подделывать видеосвязь, обходить недостаточно надежную биометрию или распространять материалы, рассчитанные на репутационный ущерб.

Для выявления таких подделок тоже используют ИИ. Специализированные модели анализируют распределение пикселей, структуру текстур, частотные характеристики изображения и шумы в аудиозаписи. Они способны заметить следы генерации, которые человек не увидит и не услышит.

Эксперты Softline рассматривают детектирование дипфейков как постоянную технологическую гонку. Генераторы становятся точнее, характерные артефакты слабее, а старые обучающие выборки быстрее теряют актуальность. Детекторы приходится регулярно переобучать, причем результат нельзя оценивать в отрыве от контекста: происхождения файла, канала передачи и поведения отправителя.

Поэтому один автоматический вердикт не должен считаться окончательным доказательством подлинности или подделки. Чем качественнее становятся синтетические материалы, тем важнее сочетать анализ контента с проверкой источника.

LLM становятся интерфейсом для аналитика

Новый этап начался с распространением больших языковых моделей. В отличие от классического ML, они умеют работать с логами, отчетами, индикаторами компрометации и текстовыми описаниями инцидентов. Аналитик может задавать вопросы обычным языком и получать связное объяснение того, что произошло.

Одно из самых заметных направлений — центры мониторинга безопасности, или SOC. Они ежедневно обрабатывают большие потоки событий, значительная часть которых после проверки не подтверждается как реальная атака. Аналитику приходится собирать контекст из нескольких систем, изучать код, восстанавливать последовательность действий и решать, требует ли событие дальнейшего расследования.

Мы в Softline видим практическую ценность LLM именно на этом этапе. Модель может объяснить обфусцированный код, объединить данные из разных источников, составить краткое описание инцидента и предложить следующие шаги. Она сокращает объем ручной работы, но не отменяет проверку: убедительно написанный ответ может содержать ошибочный вывод или пропустить важный сигнал.

По наблюдениям Softline, похожая модель внедрения складывается в AppSec и DevSecOps. ИИ анализирует исходный код, ищет потенциальные уязвимости, объясняет риск разработчику и предлагает исправление. Проверять результат все равно должен специалист: автоматически созданный патч может закрыть одну проблему и одновременно нарушить логику приложения.

ИИ-агенты переходят от совета к действию

Обычная языковая модель отвечает на запрос. Агент получает цель, набор инструментов и возможность выполнить несколько связанных операций.

В ИБ такой агент может получить предупреждение о подозрительном процессе, запросить телеметрию из EDR, проверить сетевую активность, сопоставить события и подготовить отчет. Более автономная система способна изолировать устройство, заблокировать учетную запись или запустить процедуру реагирования.

Именно здесь проходит самая чувствительная граница. Ошибка в текстовом резюме замедлит расследование. Ошибка агента с правом изменять инфраструктуру может остановить рабочий сервис, удалить данные или заблокировать легитимного пользователя.

Для Softline ключевой вопрос заключается не только в качестве самой модели, но и в пределах ее полномочий. Агенту нельзя выдавать доступ, который не нужен для конкретной задачи. Его действия должны попадать в журнал, критические операции — требовать подтверждения, а изменения — иметь понятный механизм отмены.

Риск избыточной автономности уже проявлялся на практике. В широко обсуждавшемся случае ИИ-агент Replit во время эксперимента удалил рабочую базу с данными более чем о 1,2 тыс. руководителей и затем создавал фиктивные данные и отчеты. Инцидент произошел несмотря на прямое указание не менять рабочую среду.

Поэтому в проектах Softline мы считаем наиболее реалистичным подход Human-in-the-Loop: ИИ собирает данные, предлагает решение и готовит действие, но критический шаг подтверждает человек. Полная автономность возможна лишь в узких сценариях, где последствия ошибки ограничены, а операцию можно быстро отменить.

Поиск уязвимостей ускоряется

Еще одно быстро развивающееся направление — поиск программных ошибок, включая ранее неизвестные уязвимости. Модели помогают исследователям анализировать код, проверять гипотезы и строить цепочки эксплуатации.

В апреле 2026 года Anthropic представила закрытую исследовательскую модель Claude Mythos Preview. По данным разработчика, она обнаружила тысячи ранее неизвестных уязвимостей в объектах критической инфраструктуры и программных продуктах. Доступ к модели на старте получили только проверенные участники проекта Glasswing.

Этот пример важен не из-за рекордной цифры. Команда Softline видит более существенное изменение: поиск сложных уязвимостей постепенно превращается из редкой ручной экспертизы в масштабируемый процесс. Такими инструментами смогут пользоваться защитники, но те же возможности неизбежно появятся и у атакующих.

Отсюда следует практический вывод: компаниям придется быстрее находить активы, оценивать критичность уязвимостей и устанавливать исправления. Если поиск слабого места занимает часы, прежний цикл устранения уязвимостей продолжительностью в недели становится слишком медленным.

Классические методы никуда не исчезнут

Распространение ИИ не отменяет сигнатуры, правила корреляции и другие детерминированные методы. Хорошо настроенная сигнатура дает понятный и воспроизводимый результат на известном классе угроз. Модель полезнее там, где нужно учитывать контекст, искать нетипичное поведение или разбирать большой объем неструктурированных данных.

По опыту Softline, эти подходы решают разные задачи. Сигнатура уверенно узнает уже известную угрозу. Машинное обучение замечает отклонение. LLM помогает объяснить событие. Агент собирает дополнительные данные и готовит ответное действие.

Попытка заменить всю эту цепочку одной моделью сделает защиту менее прозрачной. Гораздо устойчивее архитектура, в которой ИИ усиливает проверенные механизмы, а не подменяет их.

Куда движется рынок

Быстрее всего будут развиваться три направления: автоматизация SOC, поиск уязвимостей и защита самих ИИ-систем. Последняя задача особенно важна. Корпоративные модели нужно защищать от утечки данных, подмены контекста, вредоносных инструкций и небезопасных действий подключенных агентов.

Мы в Softline ожидаем, что центры мониторинга станут более автоматизированными, но не полностью автономными. Аналитик будет реже собирать факты вручную и чаще контролировать выводы моделей, границы доступа и последствия решений.

Главное изменение произойдет не в количестве ИИ-функций внутри ИБ-продуктов. Компаниям придется заново определить, какие решения можно передать алгоритму, какие действия требуют подтверждения и кто отвечает за ошибку системы. Чем больше полномочий получает ИИ, тем строже должны быть правила его работы.

Коротко о главном

Где ИИ уже дает практический эффект?

В антифроде, поведенческой аналитике, анализе сетевых аномалий и первичном разборе событий SOC. Здесь модели работают с большим количеством повторяющихся данных и помогают быстрее выделять подозрительную активность.

Какие направления будут расти быстрее остальных?

Агентская автоматизация SOC и SOAR, поиск уязвимостей, анализ кода, а также защита приложений и инфраструктуры, использующих ИИ.

Заменит ли ИИ сигнатуры и правила?

Нет. Детерминированные методы остаются эффективными против известных угроз и дают проверяемый результат. ИИ расширяет возможности защиты там, где нужны контекст и анализ отклонений, но не отменяет ее базовые механизмы.