Читайте в Telegram
|
В России искусственный интеллект проверят на духовность и нравственность. Об этом сообщают «Ведомости».
Недавно принятый закон вводит для больших фундаментальных моделей статусы «суверенной» и «национальной». Чтобы их получить, нейросеть должна подтвердить своё соответствие законам РФ и традиционным ценностям.
Критерии для проверки совместно разработают Минцифры, ФСБ и ФСТЭК. Отдельно прописывать нормы морали не будут, так как их перечень уже закреплён в указе президента № 809.
Для тестирования создадут специальные бенчмарки. Независимые лаборатории будут проверять ответы ИИ и пытаться обойти его ограничения с помощью промпт-инъекций.
Успешное прохождение экспертизы даст разработчикам право на государственную поддержку. Такие модели получат приоритет в госзакупках и доступ к базам данных государственных систем.
Тотальной проверки всех нейросетей на рынке не планируется. Экспертизу будут проходить только те продукты, создатели которых претендуют на особый статус.
Предполагается, что сначала IT-компании будут самостоятельно тестировать свои разработки. Затем аккредитованные лаборатории выборочно проверят эти результаты, а финальное решение вынесет Минцифры.
Эксперты отрасли отмечают, что главная сложность заключается в субъективности критериев. Перевести гражданственность или историческую память в чёткое техническое задание для ИИ крайне тяжело.
