Экс-инженер Google объяснил, почему человечество вымрет из-за ИИ

Бывший инженер Google и Microsoft Нейт Соарес оценил вероятность вымирания человечества из-за ИИ. Его слова приводит Times.

Соарес уверен, что эта вероятность составляет «по меньшей мере 95%». Такой высокий уровень будет сохраняться при условии, что люди будут развивать ИИ так же стремительно, как сейчас. Инженер сравнил тенденцию с движением к обрыву на огромной скорости.

«Я не говорю, что мы не сможем остановить машину. Но мы просто несемся на всех парах к обрыву».

Times описывает один из сценариев, при котором нейросети смогут создать биологическое оружие и заразить с его помощью крупные города. Соарес считает, что современный ИИ самостоятельно обучается и принимает решения — из-за этого и становится потенциально опасным и требующим контроля.