Математические успехи OpenAI вызывают растущее напряжение с учёными

За последний год крупные AI-компании, включая OpenAI и Anthropic, сообщили о впечатляющем прогрессе в решении давних математических проблем. Самый заметный случай — заявленное OpenAI решение проблемы Навье-Стокса, одной из семи проблем тысячелетия, которая оставалась нерешённой около 90 лет и за решение которой полагается награда в миллион долларов. По словам компании, прорыв был достигнут благодаря внутренней AI-модели, работавшей с 10 000 параллельных агентов.

Хотя подобные результаты обычно становятся поводом для торжества, на этот раз они вызвали недовольство в математическом сообществе. Многие исследователи считают, что OpenAI вторгается в проблемы, которым другие учёные посвятили десятилетия работы, мало считаясь с устоявшимися академическими нормами. Появились обвинения в использовании неопубликованных работ других исследователей, поспешных объявлениях и недостаточной прозрачности относительно данных, на которых обучались модели.

Споры об источниках и этике

Несколько математиков, включая Андреаса Тома, публично выразили обеспокоенность тем, что их собственное взаимодействие с чат-ботом OpenAI могло косвенно способствовать успехам компании в узкоспециализированных областях, например в теории несофических групп. OpenAI признала, что некоторые из объявленных результатов во многом опираются на более раннюю работу сторонних учёных.

Новая консультативная группа

В ответ на критику OpenAI на этой неделе объявила о создании независимой группы ведущих математиков, которая должна консультировать компанию и других AI-игроков о том, как корректно представлять и публиковать новые математические результаты. Однако математики, с которыми говорил The Verge, включая одного из членов группы, назвали запуск инициативы хаотичным и неопределённым: неясно, какими полномочиями она реально будет обладать и станет ли OpenAI следовать её рекомендациям. Первой задачей группы, по имеющимся данным, станет помощь в координации публикации ещё нескольких десятков неопубликованных результатов, полученных предположительно ещё не выпущенной моделью OpenAI — перспектива, уже вызывающая тревогу у исследователей относительно влияния на их научную область.