Закон об ИИ уперся не в модели, а в данные

Российские компании несколько лет воспринимали ИИ как инструмент ускорения: нейросети должны помогать аналитикам, автоматизировать документы, искать отклонения, поддерживать клиентов и снижать издержки.

Но для субъектов КИИ искусственный интеллект быстро становится не только технологией развития, но и зоной ответственности.

Новый закон об ИИ меняет постановку вопроса. Компании должны понимать, какие модели и сервисы используют, на каких данных они работают, к каким системам имеют доступ и кто отвечает за результат. Для государственных информационных систем и значимых объектов КИИ особенно важны безопасность, качество данных, их обработка и хранение в России.

По данным исследования «К2Тех», не более 20% субъектов КИИ обладают достаточной зрелостью data-инфраструктуры, управления и работы с данными для выполнения новых требований. Еще 55% компаний нужно дорабатывать существующие системы и подходы, а 25% потребуется значительная трансформация. Это означает, что для большинства организаций подготовка к регулированию ИИ будет не настройкой отдельной модели, а пересборкой управления данными.

ИИ нельзя контролировать, если компания не знает, где он используется

На практике ИИ часто появляется быстрее, чем процесс его контроля. Одно подразделение запускает пилот, другое покупает внешний сервис, третье использует нейросеть для подготовки документов, четвертое подключает ИИ-инструмент к клиентскому процессу. ИТ и ИБ не всегда вовлечены с самого начала и узнают о части сценариев уже после запуска.

Для субъекта КИИ такая разрозненность становится риском. Если организация не знает, какие модели и сервисы применяются, она не может оценить, какие данные туда попадают, какие решения на них опираются и что произойдет при ошибке.

«Для субъектов КИИ готовность к новым требованиям определяется не наличием ИИ-модели, а зрелостью данных и управления ими. Компания должна понимать, какие модели и сервисы используются, на каких данных они работают, к каким системам имеют доступ и кто отвечает за результаты их применения», - говорит Дмитрий Битченков, директор департамента сопровождения конкурентных процедур компании «ГИГАНТ - Компьютерные системы».

Поэтому готовность к закону начинается не с выбора модели. Сначала нужна инвентаризация: где ИИ уже используется, кто владелец процесса, какие данные обрабатываются, есть ли внешние сервисы, как устроен доступ к корпоративным системам и какие результаты модели могут влиять на критичные операции.

Данные собирали не для нейросетей

Многие корпоративные данные создавались не для обучения моделей. Их собирали для бухгалтерии, кадровых процессов, эксплуатации, продаж, закупок, логистики, отчетности или задач конкретного подразделения. У каждой системы были свои правила заполнения, справочники, форматы и владельцы.

Пока с данными работает человек, часть проблем компенсируется опытом сотрудников. Специалист знает, где посмотреть, кому написать, какой справочник считать актуальным и какие записи можно игнорировать. ИИ такого неформального контекста не понимает.

Если модель получает неполные, дублирующиеся или противоречивые сведения, она не исправляет их, а переносит ошибку в результат. Для обычного бизнес-процесса это может привести к неверной рекомендации. Для КИИ последствия серьезнее: ошибочная оценка состояния, некорректная автоматизация, невозможность подтвердить происхождение вывода и отсутствие понятной ответственности.

По данным исследования, только у 20,3% респондентов массивы полностью готовы и размечены для обучения алгоритмов. В 42,6% компаний данные требуют очистки или консолидации, а четверть участников назвали низкое качество данных основным барьером для ИИ-проектов.

«Главная причина низкого качества данных - неполные, дублирующиеся и несопоставимые сведения, а также разрозненное управление ими. Данные хранятся в разных системах, собираются по разным правилам и не всегда имеют закрепленного владельца. В результате компания не может гарантировать, что информация актуальна, непротиворечива и пригодна для обучения модели», - отмечает Дмитрий Битченков.

Для субъектов КИИ это уже не техническая проблема, а вопрос безопасности и управляемости. Если модель используется в чувствительном процессе, компания должна понимать, на каких данных она обучалась, какие сведения использует сейчас, почему результат можно считать достоверным и как его проверить.

AI Governance нельзя собрать в последний момент

Подготовка к новым требованиям может казаться задачей, которую получится ускорить ближе к сроку: доработать документы, назначить ответственных, описать модели, ограничить внешние сервисы, обновить регламенты и собрать отчетность. Но с ИИ такая логика плохо работает.

AI Governance - это не папка с политиками. Это управление всем жизненным циклом ИИ: от выбора модели и источников данных до контроля доступа, качества, мониторинга результатов, аудита, обновления, отключения и ответственности за последствия. Такой контур нельзя быстро построить поверх хаотичных данных.

Если в компании уже есть владельцы данных, корпоративная модель, процессы качества, каталогизация, управление доступами и аудит, подготовка будет проще. Если этого нет, проект выйдет за пределы ИИ и затронет базовые принципы управления информацией.

«Полностью готовыми можно считать не более 20% компаний. Еще 55% требуется доработка существующих систем и подходов, а 25% - существенная трансформация. В последнем случае недостаточно настроить отдельные процессы: необходимо менять принципы управления данными, распределять ответственность и выстраивать контроль всего жизненного цикла ИИ», - подчеркивает Дмитрий Битченков.

Поэтому ждать выхода всех подзаконных актов рискованно. Детали регулирования могут уточняться, но базовые вопросы уже понятны: какие ИИ-сервисы используются, где находятся данные, какие модели работают с чувствительной информацией, кто владелец результата, какие данные можно передавать внешним сервисам и где нужен человек в контуре принятия решения.

Формальная готовность не спасет

Когда срок выполнения требований приближается, у компаний появляется соблазн закрыть тему документально: принять положение об ИИ, назначить ответственного, описать перечень разрешенных сервисов, запретить часть внешних инструментов и подготовить отчет.

Это лучше, чем ничего, но для субъектов КИИ такого уровня недостаточно. Документ не гарантирует, что сотрудники не используют внешние ИИ-сервисы. Реестр моделей не доказывает качество данных. Назначенный ответственный не решает проблему разрозненных справочников. Запрет не заменяет технический контроль выгрузки чувствительной информации.

Для КИИ готовность должна быть не только бумажной, но и технологически подтверждаемой. Компания должна уметь показать, где используется ИИ, какие данные обрабатываются, как ограничен доступ, как контролируется качество, кто отвечает за результат и как фиксируется история изменений.

Отдельная проблема - ответственность за данные. В компаниях часто есть владельцы систем, но не владельцы данных. ИТ сопровождает платформу, бизнес вносит сведения, ИБ контролирует доступ, юристы смотрят требования, но никто персонально не отвечает за полноту, актуальность и пригодность конкретного набора данных для ИИ.

Для традиционной автоматизации это уже проблема. Для ИИ - критический риск. Модель не просто хранит данные, а строит на них выводы. Если данные плохие, ошибка распространяется дальше: в рекомендации, автоматизированные решения, отчеты, прогнозы и действия сотрудников.

Национальная модель не исправит плохую информационную основу

Закон вводит понятия суверенных и национальных моделей ИИ и задает требования к их применению в государственных информационных системах и на значимых объектах КИИ. Это важный технологический и регуляторный слой. Но даже безопасная, отечественная и соответствующая требованиям модель не компенсирует хаос в корпоративных данных.

Если исходная информация дублируется, устарела, имеет разные форматы, противоречит сама себе и не имеет подтвержденного происхождения, любая модель будет работать именно с этим материалом. Она может быть российской, защищенной и развернутой внутри контура, но результат все равно будет зависеть от качества входных данных.

Поэтому выбор модели - только часть проекта. Важнее понять, какие данные попадут в нее, кто их проверяет, как часто они обновляются, где хранятся и можно ли воспроизвести результат. Для субъектов КИИ ошибка ИИ в критичном процессе не может объясняться фразой «так ответила модель». У компании должен быть механизм проверки и ответственности.

Новый закон об ИИ фактически проверяет не только технологическую готовность компаний. Он проверяет зрелость управления данными: кто знает, какие данные есть в организации, кто отвечает за их качество, кто контролирует передачу, кто понимает, какие модели уже используются, и кто принимает решение, если ИИ ошибся.

Главный риск сейчас - недооценить объем этой работы. Подготовка к регулированию ИИ не сводится к покупке платформы, выбору модели или выпуску политики. Это процесс, в котором искусственный интеллект становится поводом наконец ответить на вопросы, которые компании часто откладывали годами: где находятся данные, кто ими владеет, можно ли им доверять и кто отвечает за результат, если решение принимает или поддерживает модель.