Читайте в Telegram
|
Европарламент принял закон под названием AI Act, который устанавливает правила и требования для разработчиков моделей искусственного интеллекта. Документ призван обеспечить безопасность, прозрачность, экологичность и этичность использования ИИ в Европе.
Также поправки устанавливают требования по прозрачности к создателям генеративных моделей. Их обяжут маркировать контент как созданный ИИ, а также раскрывать информацию об используемых для обучения материалов. Также важнейшим направлением стало ограничение работы биометрических систем на базе ИИ. Под запрет попали следующие механизмы биометрических ИИ-систем:
- системы удалённой биометрической идентификации в реальном времени в общественных местах;
- системы удалённой биометрической идентификации «отложенного действия» — за исключением систем правоохранительных органов в целях уголовного преследования за тяжкие преступления и только с судебной санкции;
- системы биометрический классификации с использованием ключевых характеристик (пол, раса, этническая принадлежность, статус гражданства, религия, политические убеждения);
- прогностические полицейские системы (на основе создания профилей, анализа местоположения и совершенных в прошлом преступлений);
- системы распознавания эмоций в правоохранительных органах, пограничных службах, на рабочих местах и в учебных заведениях;
- неизбирательный сбор биометрических данных в соцсетях или с камер видеонаблюдения — нарушает право на неприкосновенность частной жизни.
Также закон вводит понятие ИИ-систем «высокого риска», которые могут потенциально причинить вред человеку. В числе таковых есть рекомендательные алгоритмы социальных сетей. Их разработчикам нужно будет обеспечивать высокое качество данных для обучения ИИ, а также зарегистрировать системы в европейской базе данных.
При использовании же чат-ботов, разработчики и поставщики обязаны уведомить пользователей, что те они взаимодействуют с ИИ, а не с живым оператором. Для генеративных же нейросетей установлено требование об указании авторства контента. То есть, нужно явно указать, что картинка или текст сгенерированы ИИ.
