Маск, Возняк и ещё 1000 экспертов призывают приостановить обучение ИИ, превосходящих GPT-4

Future of Life, некоммерческая организация, опубликовала письмо, в котором Илон Маск, глава SpaceX, Стив Возняк, соучредитель Apple и более тысячи исследователей искусственного интеллекта призывают немедленно остановить обучение систем искусственного интеллекта, которые являются более мощными, чем GPT-4.

Письмо содержит призыв в котором указывается, что системы искусственного интеллекта с уровнем интеллекта, конкурирующим с человеческим, могут представлять серьёзные риски для общества и человечества. Обучение предлагается запретить минимум на шесть месяцев, за это время эксперты обсудят риски развития ИИ и сделают важные выводы.

В письме подчёркивается, что мощные ИИ-системы должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития, и в том, что связанные с ними риски будут управляемыми. Разработчиков призывают тесно сотрудничать с регуляторами.

С момента выхода в прошлом году чат-бота ChatGPT от компании OpenAI, поддерживаемой Microsoft, были продемонстрированы такие качества, которые принудили конкурентов ускорить разработку собственных больших языковых моделей. Компании начали интегрировать генеративный ИИ в свои продукты в спешном порядке.