ИИ в России проверят на духовность и нравственность

В России искусственный интеллект проверят на духовность и нравственность. Об этом сообщают «Ведомости».

Недавно принятый закон вводит для больших фундаментальных моделей статусы «суверенной» и «национальной». Чтобы их получить, нейросеть должна подтвердить своё соответствие законам РФ и традиционным ценностям.

Критерии для проверки совместно разработают Минцифры, ФСБ и ФСТЭК. Отдельно прописывать нормы морали не будут, так как их перечень уже закреплён в указе президента № 809.

Для тестирования создадут специальные бенчмарки. Независимые лаборатории будут проверять ответы ИИ и пытаться обойти его ограничения с помощью промпт-инъекций.

Успешное прохождение экспертизы даст разработчикам право на государственную поддержку. Такие модели получат приоритет в госзакупках и доступ к базам данных государственных систем.

Тотальной проверки всех нейросетей на рынке не планируется. Экспертизу будут проходить только те продукты, создатели которых претендуют на особый статус.

Предполагается, что сначала IT-компании будут самостоятельно тестировать свои разработки. Затем аккредитованные лаборатории выборочно проверят эти результаты, а финальное решение вынесет Минцифры.

Эксперты отрасли отмечают, что главная сложность заключается в субъективности критериев. Перевести гражданственность или историческую память в чёткое техническое задание для ИИ крайне тяжело.