В России обсуждают тесты для проверки ИИ на духовно-нравственные ценности
Кодик кратко объясняет суть статьи
В России обсуждается создание национального датасета и тестов для проверки искусственного интеллекта на соответствие духовно-нравственным ценностям. Первоначально сообщалось, что концепцию предложил «Яндекс», но компания опровергла это, уточнив, что участвовала лишь в обсуждении на встрече в Минцифры и выступила за открытость содержания датасета. Основной спор идёт вокруг публичности тестов: ФСБ настаивает на закрытом формате, чтобы предотвратить подгонку ответов, а ИТ-компании опасаются, что это приведёт к неопределённости и замедлит развитие технологий. В качестве компромисса предложено использовать открытые тесты на ранних этапах и закрытый финальный экзамен. Вопрос о том, кто будет разрабатывать задания, остаётся открытым — рассматривается создание совместной комиссии с участием государства, бизнеса и экспертов. Специалисты подчёркивают, что оценка моральных аспектов требует участия людей, поскольку не может быть полностью формализована.
Читайте в Telegram
|
В России обсуждают создание специальных тестов для проверки искусственного интеллекта на духовно-нравственные ценности. Об этом сообщает «Ъ».
Изначально источники заявляли, что концепцию тестирования представил Яндекс. Позже компания опровергла эту информацию, прояснив свою роль в проекте.
«Яндекс не представлял концепцию национального датасета и набор тестов для проверки ИИ-моделей. На рабочей встрече в Минцифры представители нескольких компаний обсуждали возможные подходы к такой проверке. Яндекс был одним из участников обсуждения и высказал свою позицию – содержание датасета должно быть открытым по общепринятым принципам отрасли», — отметили в компании.
По информации издания, концепция национального датасета рассматривалась на недавнем совещании в Минцифры. Эти данные помогут оценить соответствие нейросетей духу времени и их пригодность для работы в российских условиях.
Главным предметом спора стала степень публичности контрольных заданий. ФСБ требует сделать формат закрытым, чтобы создатели ИИ не могли заранее натаскать модели на правильные ответы.
Представители бизнеса предупредили, что скрытые критерии превратят проверку в лотерею и сильно замедлят развитие отрасли. В качестве компромисса было предложено совместить открытые тесты для разработчиков с закрытым финальным экзаменом.
Вопрос о том, кто именно будет составлять задания, пока остался нерешённым. ИТ-отрасль предложила сформировать для этого совместную комиссию с участием государства, бизнеса и экспертов.
Специалисты подчеркнули, что для оценки моральных ценностей не может быть чёткого эталона, как в математике. В таких нестандартных вопросах потребуется привлекать людей для ручной проверки.
