Губернатор Калифорнии наложил вето на спорный законопроект о разработке ИИ
Кодик кратко объясняет суть статьи
Губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект SB 1047, предусматривающий введение обязательных тестов технологий искусственного интеллекта на потенциальный вред человеку. Противники закона утверждали, что он подавляет инновации и возлагает чрезмерную ответственность на разработчиков, вместо наказания конкретных лиц, использующих ИИ во вред. Ранее проект смягчили, исключив требование предоставления результатов проверок безопасности нейросетей. Компания Anthropic и Илон Маск поддержали законопроект, против выступили крупные технологические корпорации и стартапы. В письме Маска, Стива Возняка и еще около тысячи специалистов прозвучал призыв временно остановить разработку мощных ИИ до оценки последствий. Из-за узости подхода и риска ложного чувства безопасности закон был отклонён. Новая инициатива должна рассматриваться на федеральном уровне, заявил представитель Института будущего жизни.
Читайте в Telegram
|
Губернатор Калифорнии Гэвин Ньюсом наложил вето на спорный законопроект о разработке искусственного интеллекта. Об этом пишет The Washington Post.
Законопроект SB 1047 нацелен на введение «разумных стандартов безопасности» для компаний-разработчиков моделей искусственного интеллекта, и он стал бы основной правовой базой в сфере ИИ в США. Если бы закон приняли, компании были бы обязаны тестировать все технологии на предмет возможного причинения вреда людям. Таким образом, законопроект уничтожил бы инновации, а разработка стала бы слишком рискованной для корпораций, поскольку крайне трудно или даже невозможно предусмотреть все риски искусственного интеллекта. По мнению противников законопроекта, наказывать нужно тех, кто использовал ИИ во вред, а не тех, кто разработал технологию.
Примечательно, что законопроект уже несколько раз смягчали: например, лаборатории ИИ не должны предоставлять результаты испытаний на предмет безопасности нейросетей, чтобы не попасть под лжесвидетельство. SB 1047 поддержала компания Anthropic и Илон Маск. Против него выступили лоббисты из Meta (признана экстремистской компанией и запрещена в РФ), Google, крупных венчурных компаний и основатели ИИ-стартапов.
Ньюсом заявил, что законопроект неправильный. По словам губернатора, он нацелен на ИИ-проекты, которые превышают определённый объём вычислительной мощности, и игнорирует то, используется ли ИИ для принятия критически важных решений. К тому же, это создало бы ощущение ложной безопасности у пользователей.
В ответ высказался исполнительный директор Института будущего жизни (некоммерческая организация, изучающая экзистенциальные риски для человечества) Энтони Агирре: «Эти компании считают, что должны играть по своим собственным правилам и никому не отчитываться». Он заявил, что пришло время вынести законопроект на федеральное или глобальное урегулирование.
