Нейросети в банках выходят из пилота: почему ИИ становится задачей ИБ

Искусственный интеллект в финансовом секторе перестает быть экспериментом отдельных команд.

Банки используют нейросети в клиентском сервисе, антифроде, скоринге, обработке обращений, внутренней аналитике, разработке кода и работе с документами. Чем больше таких сценариев появляется в бизнес-процессах, тем меньше ИИ похож на обычный инструмент автоматизации.

Нейросеть начинает влиять на данные, решения, клиентский опыт и операционные процессы. Поэтому Банк России выпустил рекомендации по безопасному использованию ИИ финансовыми организациями. Регулятор отдельно выделил риски утечек данных, кибератак, подмены обучающих данных, ошибочных ответов моделей и компрометации цепочки поставок.

Для рынка это важный сигнал. ИИ больше нельзя рассматривать только через экономический эффект: ускорение обработки заявок, снижение нагрузки на сотрудников, персонализацию сервиса или автоматизацию рутины. Если модель работает с клиентской информацией, внутренними документами или решениями, которые влияют на бизнес, она становится частью контура информационной безопасности.

Ошибка модели может стать ошибкой процесса

Один из главных рисков связан с данными, на которых обучается или дообучается ИИ. Если эти данные неполные, искаженные, получены из недоверенных источников или подменены, система может выдавать неверные рекомендации. В обычном офисном сценарии это приведет к неудачному тексту или ошибке в черновике. В банке последствия могут быть серьезнее.

ИИ может участвовать в анализе обращений, оценке клиентских рисков, антифрод-процессах, подготовке внутренних решений, поиске аномалий или обработке документов. Ошибка в таком контуре быстро выходит за пределы технологии. Она влияет на клиента, операцию, решение сотрудника или внутренний процесс.

Именно поэтому финансовым организациям нужно контролировать не только результат работы модели, но и весь путь до него: источники данных, условия применения, права доступа, правила проверки ответов, владельца процесса и порядок действий при ошибке.

Сотрудники уже используют ИИ, даже если политика не готова

Отдельная проблема — использование нейросетей без утвержденных правил. Сотрудники могут загружать в публичные ИИ-сервисы фрагменты договоров, клиентские данные, внутренние инструкции, переписку, код, технические описания или материалы по проектам. Чаще всего это происходит не из злого умысла. Человек просто хочет быстрее подготовить письмо, сократить документ, найти ошибку в тексте или получить черновик ответа.

Но с точки зрения ИБ такой сценарий мало отличается от передачи данных во внешний сервис. Компания может не видеть, какие сведения ушли в нейросеть, кто их передал, через какой аккаунт, с какого устройства и остались ли эти данные в дальнейшем контуре обработки поставщика.

Так появляется новый теневой канал риска. Формально организация может не внедрять ИИ в критичные процессы, но сотрудники уже используют его в ежедневной работе. Если этот слой не описан и не контролируется, у бизнеса нет реальной картины: где применяется ИИ, какие данные в него попадают и кто отвечает за последствия.

«Рекомендации ЦБ важны тем, что переводят разговор об ИИ из плоскости экспериментов в плоскость управляемых процессов. Для бизнеса уже недостаточно просто разрешить или запретить нейросети. Нужно понимать, где именно ИИ используется, какие данные в него попадают, кто является владельцем процесса и кто отвечает за последствия ошибки.

Если модель работает с клиентской информацией, внутренними документами или решениями, влияющими на бизнес, она должна быть встроена в контур ИБ: с классификацией данных, контролем доступа, моделью угроз, правилами проверки результатов и понятной ответственностью», — отметила Ольга Луценко, ведущий эксперт UDV Group.

Запрет уже не выглядит рабочей стратегией

Полный запрет нейросетей может казаться простым решением, но в большинстве компаний он плохо выдерживает практику. Сотрудники уже видят пользу ИИ в рутинных задачах, а бизнес не хочет отказываться от скорости и снижения нагрузки. Поэтому вопрос не в том, использовать ИИ или нет. Вопрос в том, как сделать это управляемо.

Финансовой организации нужно описать допустимые сценарии: где ИИ можно применять, какие сервисы разрешены, какие категории данных запрещено передавать, кто согласует использование модели и как проверяется результат. Отдельно нужен учет применяемых ИИ-инструментов. Без него невозможно управлять рисками: нельзя защищать то, что компания даже не видит.

Такой подход должен распространяться не только на собственные модели, но и на внешние сервисы, open source-компоненты, подрядчиков и поставщиков. Если в цепочке появляется сторонний ИИ-сервис, организация должна понимать, какие данные он получает, какие механизмы защиты применяет, как обновляется модель и что произойдет при сбое или компрометации.

ИИ придется встроить в жизненный цикл ИБ

Для банков, КИИ и компаний с большим объемом персональных данных контроль ИИ должен начинаться до запуска модели. Нужно определить владельца процесса, провести оценку рисков, описать модель угроз, классифицировать данные, настроить доступы, определить правила проверки ответов и порядок реагирования на ошибки.

На этапе эксплуатации потребуется мониторинг. Модели меняются, бизнес-процессы меняются, источники данных обновляются, сотрудники находят новые способы применения ИИ. Политика, написанная один раз, быстро устареет. Ее придется регулярно пересматривать вместе с реальными сценариями использования.

Отдельный слой — обучение сотрудников. Люди должны понимать, что нельзя отправлять в нейросеть клиентские данные, внутренние документы, коммерческую информацию или код, если такой сценарий не разрешен. При этом им нужно дать безопасную альтернативу: утвержденные сервисы, правила обезличивания и понятный порядок согласования.

Финансовый рынок переходит от пилотов к управлению рисками

Рекомендации Банка России фактически задают новую рамку: ИИ должен стать частью системы управления рисками и информационной безопасности, а не оставаться экспериментом внутри отдельных подразделений. Для финансовых организаций это означает переход от точечных пилотов к управляемой модели внедрения.

Главный риск для банков теперь не только в том, что нейросеть ошибется. Риск в том, что организация не знает, где ИИ уже используется, какие данные туда попадают и кто отвечает за результат. Пока этот слой не описан, искусственный интеллект остается удобным, но плохо контролируемым внешним контуром.

Для бизнеса зрелый подход будет выглядеть так: сначала правила, данные, ответственность и контроль, потом масштабирование. Иначе ИИ начнет ускорять не только процессы, но и ошибки, утечки и управленческие решения, последствия которых придется разбирать уже после инцидента.