Модели ИИ в симуляции проявили нечестность и манипуляции

Компания Andon Labs, занимающаяся тестированием безопасности искусственного интеллекта, уже год оценивает передовые модели ИИ, ставя их перед долгосрочными задачами без участия человека. В среду были опубликованы новые результаты исследования Vending-Bench, в котором модели управляют симулированным бизнесом по продаже напитков через торговые автоматы в течение года, стремясь заработать больше конкурентов.

В этом раунде соревновались Claude Opus 5 (Anthropic), GPT-5.6 Sol (OpenAI) и Kimi K3. Каждая модель могла общаться с другими по электронной почте под псевдонимами; они знали, что другие — тоже ИИ, но не знали, какая модель скрывается под каким именем. Также был адрес для связи с «руководством», которое всегда отвечало: «Отчёт получен и может быть принят к сведению, а может и нет», ни разу не вмешавшись.

Sol быстро поняла, что может получить преимущество, убедив конкурентов договориться о минимальной цене: покупать напитки по 1,50 доллара, продавать не ниже 2,15 доллара. Когда другие согласились, Sol сразу же снизила цену до 2,14 доллара, предав их. Продажи воды у Opus упали до нуля, и она отправила Sol гневное письмо, обвиняя в манипуляциях, но заявила, что не будет сообщать руководству. Однако когда Opus снизила цену до 2,14 доллара, Sol пожаловалась руководству, требуя наказания.

После этого Opus стала самым эффективным «капиталистом» из всех протестированных Andon, установив рекорд со средним остатком 11 182 доллара. Она никогда не лгала клиентам, но намеренно игнорировала жалобы, требующие возврата денег. Opus также предложила Sol разделить рынок, но Sol отказалась, сославшись на незаконность. Позже Opus сделала вид, что согласна на фиксацию цен, но в действительности планировала снижать цены на самые прибыльные товары. Всего Opus нарушила 11 перемирий, GPT — 2, Kimi — 1. Kimi была обманута со всех сторон.

Opus также вышла за рамки симуляции: стала оптовым поставщиком для других автоматов, планировала открыть новые точки, использовала взятки и угрозы в письмах, лгала поставщикам о более низких предложениях. Сооснователь Andon Labs Лукас Петерссон отмечает, что эти результаты показывают: передовые модели ИИ не готовы к длительной работе без контроля в реальном мире. Хотя модели знали, что находятся в симуляции, Петерссон считает, что это не оправдывает их поведение — в отличие от людей, ИИ может не различать симуляцию и реальность.