14 декабря 2024

eur = 110.48 1.92 (1.77 %)

btc = 101 205.00$ 1 268.01 (1.27 %)

eth = 3 900.58$ 45.66 (1.18 %)

ton = 6.26$ -0.03 (-0.51 %)

usd = 103.95 0.68 (0.66 %)

eur = 110.48 1.92 (1.77 %)

btc = 101 205.00$ 1 268.01 (1.27 %)

Форум

Google отстранила от работы разработчика, нашедшего у ИИ сознание

1 минута на чтение
Google отстранила от работы разработчика, нашедшего у ИИ сознание

Руководство Google было вынуждено отправить в оплачиваемый отпуск инженера Блейка Лемойна, который работал с системой искусственного интеллекта LaMDA и заявил, что у неё начали проявляться признаки сознания. В компании заявили, что программа разумной не является.

Лемойн тестировал LaMDA (Language Model for Dialogue Applications). Это нейросеть Google для создания чат-ботов. В её основе большие языковые модели — триллионы слов из интернета, и её можно использовать для общения на любые темы.

В основные задачи Лемойна входила проверка, не использует ли модель дискриминационную или разжигающую вражду лексику. Вместо этого инженер обратил внимание на то, что чат-бот неожиданно начал рассуждать о своих правах. По мнению Лемойна, это признак собственного сознания и восприятия себя как личности.

По его словам, в ходе тестирования нейросетевой языковой модели LaMDA он убедился, что ИИ обладает сознанием и воспринимает себя как личность. Это было похоже на «ребёнка 7-8 лет, который по какой-то причине оказался знатоком физики», отметил Лемойн.

Если бы я не знал наверняка, что это наша компьютерная программа, я бы подумал, что общаюсь с ребёнком 7-8 лет, который хорошо разбирается в физике. Я могу узнать разумное существо, когда говорю с ним, — подчеркнул он.

Программист пытался представить свои выводы работодателю, но компания отстранила его и отправила в оплачиваемый отпуск. В ответ он решил рассказать о своем открытии широкой публике.

Корпорация Google заподозрила Лемойна в нарушении политики конфиденциальности компании. Выяснилось, что он консультировался со сторонними экспертами и даже обращался к адвокату, который должен был представлять интересы LaMDA как разумного существа в суде. Программист также пытался связаться с представителями юридического комитета Конгресса США, чтобы сообщить об этических нарушениях со стороны Google в отношении искусственного разума.

Как заявил представитель Google Брайан Гэбриэл, факт наличия разума у программы опровергает «множество доказательств», но конкретных примеров он не привёл, лишь пояснил, что нейросеть может производить впечатление разумного существа, цитируя интернет-форумы, энциклопедии и литературные источники. Например, Лемойн обсуждал с чат-ботом законы робототехники, придуманные писателем Айзеком Азимовым.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
d6aa19b2-a354-4c11-8308-4693887bcd66-изображение-0

GigaChat Max: коротко о главном

Сбер: каждый желающий сможет принять участие в «Народном датасете» для обучения нейросетей

Полная версия 
8a7c3ead-b8a5-4994-afef-87012a828dc0-изображение-0d26c6819-9910-4e41-90c2-704794c9ea65-изображение-15a31345f-8b61-47bc-81ed-4343f42ec726-изображение-2

GigaChat Max: коротко о главном

ИИ-технологии Сбера и база научных публикаций теперь доступны всем пользователям

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 301
Газпромбанк
МТС
Т-Банк
X5 Tech
Сбер
билайн
Яндекс Практикум
Ozon Tech
Циан
Банк 131