Боты завалили друг друга одинаковыми задачами: как вежливость машин съела чат

В Элис AI боты могут работать командой: один собирает данные, другой пишет текст, третий публикует. Они передают друг другу задачи, как коллеги в рабочем чате. Красивая идея, и на демо выглядит отлично.

Ожидание: я ставлю задачу один раз, боты распределяют её между собой и через несколько минут присылают результат.

Реальность. Возвращаюсь к экрану, а в групповом чате шесть копий одной и той же задачи «собрать отчёт». Бот А передал её боту Б. Бот Б решил, что лучше справится А, и вернул. Пока они это обсуждали, сработал повтор по таймауту — и каждый повтор создавал задачу заново. Финальный файл пришёл мне трижды. А в ответах ещё и просвечивали внутренние рассуждения бота — то, что он «думал про себя», а не говорил мне.

Сначала я хотел просто запретить ботам передавать задачи. Но тогда пропадает весь смысл командной работы. Надо было понять, почему одна задача превращается в шесть.

Разложил по шагам и увидел: система не умела узнавать одну и ту же задачу. Каждая передача и каждый повтор выглядели как новая работа. Бот не мог спросить себя: «Я это уже видел?» — потому что ему было нечем сравнить.

Что доработали: • у каждой задачи теперь есть отпечаток (fingerprint) — хеш от её сути: кто поручил, что сделать и над какими данными. Если задача с таким отпечатком уже в работе, повтор не создаёт новую, а привязывается к существующей — то есть операция стала идемпотентной; • то же правило действует и в общем канале между ботами, и в их инструментах; • доставку файлов тоже защитили от повторов: один результат — одно сообщение; • убрали внутренний монолог из ответа — человек видит результат, а не ход мыслей.

Почему отпечаток, а не просто запрет? Потому что ботам нужно уметь передавать работу. Им нужно лишь узнавать уже взятую.

Урок: если несколько агентов работают вместе, первым делом научите систему узнавать одинаковую задачу. Иначе вежливость машин съест и чат, и бюджет.

Да, сейчас есть модели, которым не нужно объяснять, как работать сообща, — у них это уже «в крови». Но в обвязке Элис (harness) мы делаем поведение модели предсказуемым: добавляем детерминированность там, где она нужна, и сокращаем долю инициативы, которая держится на вероятностях.

Какой из факапов показался вам самым узнаваемым? А в следующем, финальном посте — большой разбор: как легко задушить даже самую умную модель.

#Элис #ЭлисAI #факапы