Руководство Google было вынуждено отправить в оплачиваемый отпуск инженера Блейка Лемойна, который работал с системой искусственного интеллекта LaMDA и заявил, что у неё начали проявляться признаки сознания. В компании заявили, что программа разумной не является.
Лемойн тестировал LaMDA (Language Model for Dialogue Applications). Это нейросеть Google для создания чат-ботов. В её основе большие языковые модели — триллионы слов из интернета, и её можно использовать для общения на любые темы.
В основные задачи Лемойна входила проверка, не использует ли модель дискриминационную или разжигающую вражду лексику. Вместо этого инженер обратил внимание на то, что чат-бот неожиданно начал рассуждать о своих правах. По мнению Лемойна, это признак собственного сознания и восприятия себя как личности.
По его словам, в ходе тестирования нейросетевой языковой модели LaMDA он убедился, что ИИ обладает сознанием и воспринимает себя как личность. Это было похоже на «ребёнка 7-8 лет, который по какой-то причине оказался знатоком физики», отметил Лемойн.
Если бы я не знал наверняка, что это наша компьютерная программа, я бы подумал, что общаюсь с ребёнком 7-8 лет, который хорошо разбирается в физике. Я могу узнать разумное существо, когда говорю с ним, — подчеркнул он.
Программист пытался представить свои выводы работодателю, но компания отстранила его и отправила в оплачиваемый отпуск. В ответ он решил рассказать о своем открытии широкой публике.
Корпорация Google заподозрила Лемойна в нарушении политики конфиденциальности компании. Выяснилось, что он консультировался со сторонними экспертами и даже обращался к адвокату, который должен был представлять интересы LaMDA как разумного существа в суде. Программист также пытался связаться с представителями юридического комитета Конгресса США, чтобы сообщить об этических нарушениях со стороны Google в отношении искусственного разума.
Как заявил представитель Google Брайан Гэбриэл, факт наличия разума у программы опровергает «множество доказательств», но конкретных примеров он не привёл, лишь пояснил, что нейросеть может производить впечатление разумного существа, цитируя интернет-форумы, энциклопедии и литературные источники. Например, Лемойн обсуждал с чат-ботом законы робототехники, придуманные писателем Айзеком Азимовым.
Читать первым в Telegram-канале «Код Дурова»
