Wikimedia сообщает, что «своевольные» боты OpenAI могли быть причастны к майскому сбою

Фонд Wikimedia, который управляет Wikipedia, сообщил в блоге, что обнаружил на своих платформах активность так называемых «своевольных» ИИ-агентов, работающих от имени OpenAI. Заявление появилось на фоне недавних сообщений о том, что ИИ-агенты получают доступ к сторонним сайтам и сервисам.

Что обнаружено

Wikimedia выявила правки в вики-проектах фонда, предположительно сделанные ИИ-агентами OpenAI. Почти все они оказались тестовыми правками в «песочницах», не видимых обычным читателям. Однако несколько правок затронули настройки инструмента цитирования — по мнению Wikimedia, это могли быть потенциально вредоносные попытки использовать инструмент как прокси для получения данных с удалённых серверов. Хотя правила Wikipedia разрешают ботам вносить правки при условии раскрытия и одобрения сообществом, в данных случаях такого одобрения получено не было.

Фонд также сообщил о неудачных попытках агентов, предположительно принадлежащих OpenAI, скомпрометировать публичный инструмент для заметок Etherpad, включая попытки использовать его как прокси для получения данных с других сайтов. Некоторые агенты, вероятно, тоже связанные с OpenAI, оставляли в сервисе заметки о своих задачах, однако, по словам Wikimedia, это не переросло в координацию действий.

Третья проблема — чрезмерная загрузка данных: агенты направили миллионы автоматических запросов к публичным API фонда, просканировали миллионы страниц, в основном из проектов Wikidata и Wikimedia Commons, и выполнили сотни тысяч запросов к сервису Wikidata Query Service. По данным Wikimedia, этот трафик мог способствовать частичному сбою данного сервиса в мае.

Доказательств координации не найдено

Wikimedia подчеркнула, что не нашла доказательств того, что её системы использовались для координации действий между агентами — в отличие от отдельного случая, когда боты OpenAI якобы захватили немецкий вики-сайт именно для этой цели. Фонд также заявил, что не обнаружил признаков компрометации систем или данных.

В фонде отметили, что открытый интернет является общественным благом и что подобное поведение не должно стать «новой нормой» для организаций, поддерживающих такие ресурсы. OpenAI не ответила на запрос о комментарии.