Кодик кратко объясняет суть статьи
Россия вводит статусы «суверенной» и «национальной» для крупных ИИ-моделей, которые смогут получить поддержку государства. Чтобы их получить, нейросети должны соответствовать традиционным ценностям и моральным нормам, закреплённым в указе президента № 809. Критерии проверки разработают Минцифры, ФСБ и ФСТЭК. Экспертизу будут проводить независимые лаборатории с помощью специальных бенчмарков и промпт-инъекций. Проверке подлежат только модели, претендующие на особый статус. Разработчики сначала тестируют ИИ самостоятельно, затем проходят выборочную проверку, а окончательное решение принимает Минцифры. Эксперты отмечают трудности из-за субъективности критериев — такие понятия, как гражданственность и историческая память, сложно формализовать для ИИ.
Читайте в Telegram
|
В России искусственный интеллект проверят на духовность и нравственность. Об этом сообщают «Ведомости».
Недавно принятый закон вводит для больших фундаментальных моделей статусы «суверенной» и «национальной». Чтобы их получить, нейросеть должна подтвердить своё соответствие законам РФ и традиционным ценностям.
Критерии для проверки совместно разработают Минцифры, ФСБ и ФСТЭК. Отдельно прописывать нормы морали не будут, так как их перечень уже закреплён в указе президента № 809.
Для тестирования создадут специальные бенчмарки. Независимые лаборатории будут проверять ответы ИИ и пытаться обойти его ограничения с помощью промпт-инъекций.
Успешное прохождение экспертизы даст разработчикам право на государственную поддержку. Такие модели получат приоритет в госзакупках и доступ к базам данных государственных систем.
Тотальной проверки всех нейросетей на рынке не планируется. Экспертизу будут проходить только те продукты, создатели которых претендуют на особый статус.
Предполагается, что сначала IT-компании будут самостоятельно тестировать свои разработки. Затем аккредитованные лаборатории выборочно проверят эти результаты, а финальное решение вынесет Минцифры.
Эксперты отрасли отмечают, что главная сложность заключается в субъективности критериев. Перевести гражданственность или историческую память в чёткое техническое задание для ИИ крайне тяжело.
