Нейросеть предупредила об опасности искусственного интеллекта

Профессорам Оксфордского университета пришла в голову занимательная идея. Они решили пригласить на конференцию со студентами искусственный интеллект. Темой дискуссии стала этика ИИ. Но ответ алгоритма ошеломил даже самих разработчиков.

Разработанная учёными нейросеть базировалась на языковой модели Megatron-Turing NLG. Искусственный интеллект был основан на оборудовании Nvidia и ранних разработках Google. Чтобы обучить её, эксперты «скормили» ей все статьи «Википедии» на английском языке, 63 миллиона новостных статей из интернета за 2016-2019 годы и архив с комментариями на Reddit объёмом 38 гигабайт. На основании этих данных была создана модель, которая смогла вести диалог с учёными и студентами.

В ходе общения Megatron-Turing NLG сообщил, что искусственный интеллект всегда будет вне этики. Это просто инструмент, который человечество, как и любой другой, сможет использовать для добра или зла, ведь плохие и хорошие бывают только люди.

ИИ никогда не будет этичным, — утверждала модель. — Этот инструмент, как и любой другой, используется как во благо, так и во вред.

ИИ также предрёк, что в будущем главной силой экономики будет информация. О каждом человеке будут знать почти всё и это будет намного больше данных, чем есть сейчас. Но ИИ на этом не остановился и предрёк, что гонка вооружений в мире будет продолжаться и дальше, если только люди не откажутся от искусственного интеллекта. Студенты в шутку сравнили это с самоуничтожением:

В конце концов, я считаю, что единственный способ избежать гонки вооружений — это отказаться от ИИ. Только так получится защитить человечество.

Алгоритм также уверен, что искусственный интеллект всё-таки пригодится человечеству:

Когда я смотрю на то, как развивается мир технологий, я вижу чёткий путь в будущее, в котором ИИ будет использоваться для создания чего-то, что лучше, чем лучшие люди, — сообщила модель.