ГК Softline — о том, чем единый подход к обеспечению безопасности ИИ полезен бизнесу

Минцифры планирует взять на себя координацию процессов, которые должны обеспечить безопасное использование искусственного интеллекта в России. Проект соответствующего нормативного акта подготовлен, прошли публичные обсуждения.

Сегодня безопасное внедрение ИИ в стране обеспечивается набором разных норм, но единой системы регулирования нет. В зависимости от отрасли компании применяют различные требования к защите информации, персональных данных и критической инфраструктуры, информационных систем. Действуют также внутренние стандарты самих разработчиков. Параллельно в России формируются подходы к оценке рисков генеративного ИИ и машинного обучения.

Мы в Softline считаем, что предлагаемое расширение полномочий Минцифры призвано обеспечить централизованный подход к безопасному внедрению ИИ. Такой шаг логичен, поскольку эти технологии все чаще становятся самостоятельным компонентом значимых систем.

На этом фоне риски связаны с тем, что ошибочное или намеренно искаженное решение модели может стать частью технологической цепочки. Например, ошибка алгоритма компьютерного зрения может привести к неправильному решению системы управления, а сбой ИИ в сфере медицины обернется неправильной рекомендацией, тогда как компрометация модели или данных предоставит результат злоумышленнику. В ряде отраслей цена ошибки особенно высока, например, в сфере транспорта, энергетики и здравоохранения.

В Softline мы считаем, что для бизнеса главный плюс централизации заключается в появлении единого центра координации. Сейчас требования к безопасности ИИ могут формироваться разными ведомствами и использоваться тоже по-разному. Регулятор сможет унифицировать подходы, собирать информацию об инцидентах, формировать общие методические требования и координировать работу государства и разработчиков. Это особенно важно для систем, которые одновременно затрагивают несколько отраслей.

Если вместо множества разрозненных требований начнут действовать единые критерии безопасности, компаниям будет проще закладывать соответствующие расходы в разработку продукта. Оптимальным выглядит риск-ориентированный подход в регулировании ИИ. Это означает, что чем выше потенциальный ущерб от ошибки или атаки, тем жестче должны быть требования.