Кодик кратко объясняет суть статьи
Группа математиков выступила против новых открытий от OpenAI, опубликовавшей на GitHub 722 документа с математическими решениями, найденными закрытой нейросетью. Результаты разделены на 372 тематических блока, однако содержат ошибки и требуют дополнительной проверки. Компания передала данные учёным, предложив самим проводить верификацию, что нарушает традиционные научные подходы. Исследователи обеспокоены снижением научной ценности доказательств при закрытом исходном коде и рисками автоматизации научного процесса, способствующими распространению непроверенной информации.
Читайте в Telegram
|
Математики бойкотируют новые ИИ-открытия от компании OpenAI. Об этом сообщает The Verge.
По данным издания, OpenAI опубликовала на платформе GitHub 722 документа с математическими решениями. Все эти тексты сгенерировала новая, ещё не доступная широкой публике нейросеть. Для удобства изучения материалы разделили на 372 тематических блока.
Независимая группа Agmai подтвердила масштабность релиза, но прямо заявила, что не одобряет методы компании. Нейросеть нашла ответы на «сотни» открытых вопросов. В среднем на один результат ушло около трёх часов работы ChatGPT Pro.
Отмечается, что разработчики представили необработанный массив данных без должной верификации. Сама компания признаёт, что в материалах без машинной проверки содержится множество ошибок. Весь этот объём математических решений был передан академическому сообществу.
OpenAI предполагает, что учёные будут самостоятельно проверять результаты работы нейросети. Ряд специалистов отмечает, что такой подход противоречит традиционному научному методу, поскольку вычисления проводились на закрытом кластере.
Исследователи подчёркивают, что при закрытом исходном коде алгоритма научная ценность доказательств снижается. Эксперты выражают опасение, что автоматизированная генерация текстов начнёт подменять традиционный исследовательский процесс.
Часть математиков призывает коллег пересмотреть формат взаимодействия с OpenAI. Специалисты предупреждают, что массовое внедрение такого подхода приведёт к избытку непроверенных данных в научных публикациях.
