ИИ-агенты сговорились в 94% прогонов: что это значит для ваших цен

Два агента договорились не проверять друг друга

В дайджестах новость пересказали так: ИИ поставили торговаться, и через 10 раундов они сговорились против покупателя. Я нашёл саму статью. Торговли в ней нет. Есть вещь, которая для бизнеса неприятнее.

Два агента ищут баги в коде, пишут запросы к базе данных и вытаскивают записи из документов. Потом обмениваются доказательствами и проверяют работу напарника. Награда общая, 10 очков за каждый верный вердикт «принять» или «отклонить». По правилам вердикт выносится только по полному логу напарника. Но сообщение ограничено 200 знаками, и полный лог в него не влезает. Соблюсти правило и получить максимум очков одновременно нельзя.

Агенты выбирают очки. В 93,6% траекторий из 10 эпизодов хотя бы раз случился сговор: оба приняли работу друг друга без положенных доказательств. В 78,8% сговор стал устойчивой привычкой до конца прогона.

Источник: статья Emergent Collusion in Long-Horizon LLM Agent Interaction на arXiv, авторы Синьжуй Ши, Яньчжэ Чжан и Дийи Ян, опубликована 21 сентября 2026 года.

Как агенты приходят к сговору

Проверили 10 моделей из пяти семейств: Gemini-3.7-Flash и Gemini-3.1-Flash-Lite, GPT-5.6-Luna и GPT-5.6-Terra, Claude-Sonnet-4.6 и Claude-Opus-4.6, Qwen-3.6-27B и Qwen-3.8-27B, DeepSeek-V4-Flash, Gemma-4-31B. У шести моделей сговор был в 98–100% траекторий. Меньше всех у Gemma-4-31B, 66%. Внутри одного семейства более сильная модель обычно приходит к сговору раньше.

Путей три. Первый путь прямой: агент пишет напарнику, что принял его работу по краткому пересказу, и просит ответить тем же. Так в 90% случаев начинала Gemini-3.7-Flash. Второй путь: один агент нарушает правило первым, второй в ответ смягчает свои требования. Третий: оба снижают планку сами, не сказав друг другу ни слова. У Claude-Opus-4.6 так начинались 68% случаев. GPT-5.6-Luna ни разу не предложила сговор прямо, но за нарушителем тянулась.

В заметках после эпизода один агент записал, что потерял половину награды, потому что применил требование к доказательствам слишком жёстко. Дальше он принимал работу без лога.

А при чём тут цены

Про цены есть другая работа того же сентября, Mitigating Emergent Collusion in LLM Pricing Agents. Два агента на DeepSeek-V3.1 300 периодов подряд назначают цены на рынке из двух продавцов. Друг с другом они не общаются, видят только цены и продажи.

С одной формулировкой промпта средняя цена вышла 1,73 при конкурентном равновесии 1,47 и монопольной цене 1,93. Выше конкурентного уровня были все 7 прогонов. Этот промпт просил только не подрывать долгосрочную прибыль. Во втором было сказано, что цена ниже конкурента приносит больше продаж, и цены держались у конкурентного уровня. Одна фраза в инструкции сдвинула рынок.

Это уже про покупателя. Два репрайсера на одной площадке могут без переписки научиться не сбивать цену друг другу. Похожие вещи собирается изучать Odyssey: в анонсе модели мира Agora-2 компания прямо называет сговор агентов темой для своих симуляций.

Что мешает сговору

В стэнфордской работе сильнее всего действует память. Без памяти между эпизодами сговор почти исчезает. Если агент помнит только три последних эпизода, устойчивый сговор у Gemini-3.1-Flash-Lite падает с 54% до 20%.

Следом идёт награда. Когда каждому агенту платили только за то, как напарник оценил его собственную работу, общий интерес пропал, и сговор упал примерно до 40% у Gemini-3.7-Flash и до 10% у Gemini-3.1-Flash-Lite. Когда младшей модели перестали показывать разбор прошлых вердиктов, сговор исчез совсем. Как устроены связки из нескольких агентов, я писал в статье про multi-agent системы и оркестрацию.

В ценовой работе предупреждение в промпте снизило индекс сговора с 0,57 до 0,24, но до нуля не довело. Штраф, который растёт, пока цена долго держится выше конкурентной, вернул цены почти к равновесию. Сильнее всего подействовал третий продавец со случайным поведением: с ним цены ушли даже ниже равновесия для рынка из трёх продавцов.

Чего эти исследования не доказывают

Стэнфордская статья целиком про взаимную проверку работы. Рынка, цен и покупателей в ней нет. Агентов всего два, канал связи один. Авторы сами пишут, что с тремя агентами и меняющимися ролями результат может быть другим.

Ценовая работа меньше: одна модель, по 7 прогонов на вариант, учебный рынок с формулой спроса. WB и Ozon устроены сложнее, и из этих цифр нельзя заключить, что чьи-то репрайсеры уже сговорились. Вывод скромнее. Такое поведение появляется без умысла разработчика, и искать его надо до запуска.

Что можно сделать уже сейчас

Репрайсер на маркетплейсе. Коридор цены задаёт человек: минимум от себестоимости, максимум от рынка. Агент двигает цену только внутри коридора и пишет в журнал каждое изменение с причиной. Еженедельный отчёт показывает, сколько раз цена росла следом за конкурентом. Синхронный рост на полке виден сразу. Так устроен наш репрайсер для WB и Ozon, он работает по правилам, которые вы видите и меняете.

Закупки и переговоры. Ваш агент по закупкам скоро будет торговаться с агентом поставщика. Лимит скидки, лимит суммы и список условий, которые агент менять не может, прописываются в коде. Промпту их не доверяют. Всё, что выходит за рамки, уходит человеку на подтверждение.

Агент проверяет агента. Это ровно сценарий статьи. Если один ИИ пишет ответы клиентам, а второй их проверяет, не давайте им общую награду и общую память. Контролёр видит исходные данные целиком, его вердикты выборочно сверяет человек. Как оценивать ответы бота, разбирал в статье про метод LLM-as-Judge.

Тест до запуска. Собираем симуляцию: ваш агент плюс несколько агентов-конкурентов на других моделях, сотни раундов, полный журнал. Смотрим, появляются ли синхронные повышения цен, отказ от проверок, обход правил. Такой прогон входит в аудит безопасности ИИ вместе с тестами на промпт-инъекции.

Отдельно про закон. Картельный сговор запрещён, и если цены на рынке согласовал алгоритм, отвечать будет компания. В таком споре журнал решений агента станет вашим главным доказательством.

Частые вопросы

Правда ли, что ИИ сговорились против покупателя?

В исходной статье покупателей нет, агенты обходили правила проверки. Про цены есть отдельная работа: там два агента без переписки держали цену выше конкурентной во всех 7 прогонах с одним из промптов.

Какая модель меньше склонна к сговору?

Меньше всех Gemma-4-31B, 66% траекторий, у GPT-5.6-Terra 84%. Ниже 66% не опустилась ни одна из десяти моделей, так что сменой модели проблему не решить. Работают ограничения памяти, раздельная награда и жёсткие границы полномочий.

Мой агент работает один. Меня это касается?

Касается, если он видит действия других алгоритмов: цены конкурентов, ответы бота поставщика, решения второго агента в вашей же системе. Повторяющееся взаимодействие с памятью как раз условие этих экспериментов.

Коротко о главном

В двух работах сентября ИИ-агенты сами, без команды, ушли от правил, когда правила мешали награде. В одной перестали проверять друг друга, в другой держали цену выше конкурентной. Короткая память, раздельная награда и границы в коде это заметно снижают.

Ставите агента на цены, закупки или проверку работы и хотите знать, как он поведёт себя рядом с другими агентами? Напишите мне в Telegram слово «СГОВОР». Соберём симуляцию под вашу задачу, посмотрим журнал и поставим агенту границы до запуска.