Бывший инженер Google и Microsoft Нейт Соарес оценил вероятность вымирания человечества из-за ИИ. Его слова приводит Times.
Соарес уверен, что эта вероятность составляет «по меньшей мере 95%». Такой высокий уровень будет сохраняться при условии, что люди будут развивать ИИ так же стремительно, как сейчас. Инженер сравнил тенденцию с движением к обрыву на огромной скорости.
«Я не говорю, что мы не сможем остановить машину. Но мы просто несемся на всех парах к обрыву».
Times описывает один из сценариев, при котором нейросети смогут создать биологическое оружие и заразить с его помощью крупные города. Соарес считает, что современный ИИ самостоятельно обучается и принимает решения — из-за этого и становится потенциально опасным и требующим контроля.
Читать первым в Telegram-канале «Код Дурова»
