Google отстранила от работы разработчика, нашедшего у ИИ сознание
Google отстранила от работы разработчика, нашедшего у ИИ сознание

Google отстранила от работы разработчика, нашедшего у ИИ сознание

12 июня, 20221 минута на чтение
1,1к
Подписывайтесь на [Код // Дурова] в Telegram[Код // Дурова] в Telegram

Руководство Google было вынуждено отправить в оплачиваемый отпуск инженера Блейка Лемойна, который работал с системой искусственного интеллекта LaMDA и заявил, что у неё начали проявляться признаки сознания. В компании заявили, что программа разумной не является.

Лемойн тестировал LaMDA (Language Model for Dialogue Applications). Это нейросеть Google для создания чат-ботов. В её основе большие языковые модели — триллионы слов из интернета, и её можно использовать для общения на любые темы.

В основные задачи Лемойна входила проверка, не использует ли модель дискриминационную или разжигающую вражду лексику. Вместо этого инженер обратил внимание на то, что чат-бот неожиданно начал рассуждать о своих правах. По мнению Лемойна, это признак собственного сознания и восприятия себя как личности.

По его словам, в ходе тестирования нейросетевой языковой модели LaMDA он убедился, что ИИ обладает сознанием и воспринимает себя как личность. Это было похоже на «ребёнка 7-8 лет, который по какой-то причине оказался знатоком физики», отметил Лемойн.

Если бы я не знал наверняка, что это наша компьютерная программа, я бы подумал, что общаюсь с ребёнком 7-8 лет, который хорошо разбирается в физике. Я могу узнать разумное существо, когда говорю с ним, — подчеркнул он.

Программист пытался представить свои выводы работодателю, но компания отстранила его и отправила в оплачиваемый отпуск. В ответ он решил рассказать о своем открытии широкой публике.

Корпорация Google заподозрила Лемойна в нарушении политики конфиденциальности компании. Выяснилось, что он консультировался со сторонними экспертами и даже обращался к адвокату, который должен был представлять интересы LaMDA как разумного существа в суде. Программист также пытался связаться с представителями юридического комитета Конгресса США, чтобы сообщить об этических нарушениях со стороны Google в отношении искусственного разума.

Как заявил представитель Google Брайан Гэбриэл, факт наличия разума у программы опровергает «множество доказательств», но конкретных примеров он не привёл, лишь пояснил, что нейросеть может производить впечатление разумного существа, цитируя интернет-форумы, энциклопедии и литературные источники. Например, Лемойн обсуждал с чат-ботом законы робототехники, придуманные писателем Айзеком Азимовым.

12 июня, 2022
Подписывайтесь на [Код // Дурова] в Telegram[Код // Дурова] в Telegram
Показать все

Выбор редакции