Почему агент зацикливается и жжёт бюджет

🍲 Повар, который пробует блюдо бесконечно

В прошлой теме мы разобрали агентный цикл (по-научному — ReAct, цикл «рассуждение — действие — наблюдение»): агент думает, делает шаг, смотрит на результат и решает, нужен ли ещё круг. Этот круг по-научному называют итерацией — одним проходом по цепочке «подумал — сделал — посмотрел». Цикл — сильная штука: именно он позволяет агенту самому доводить дело до готовности, не дёргая тебя. Но у него есть встроенная ловушка. Вернёмся на кухню, там это видно как на ладони.

Представь повара, который готовит соус. Он пробует ложкой — кисловато. Добавляет сахар, мешает, пробует снова — теперь приторно. Добавляет лимон, мешает, пробует — опять кисло. Добавляет сахар... И вот он стоит над кастрюлей двадцать минут, гоняет вкус туда-сюда и не может решиться подать. Идеала всё нет. А пока он пробует — горячее блюдо на тарелке стынет, продукты в кастрюле кончаются (каждая проба — ложка соуса), и вся смена ждёт именно его. Он не бездельничает. Он усердно работает. Просто его работа никуда не ведёт.

Чего не хватает этому повару? Условия выхода. Правила, которое говорит: «после третьей пробы — подаёшь как есть или зовёшь шефа». Без такого правила усердный повар превращается в стихийное бедствие для кухни. Опытный шеф это правило держит в голове сам. Агент — не держит. Если ему не задали условие выхода, он будет пробовать соус, пока кто-то не выдернет вилку из розетки.

💸 Каждый круг — это деньги и время

На кухне петля стоит остывшего блюда и нервов бригады. У агента — стоит буквально денег, и вот почему. Помнишь главное правило с прошлых тем: каждый круг цикла — это отдельное обращение к модели, а за каждое обращение ты платишь. Один круг — копейки. Но агент в петле делает не один круг и не десять. Он делает их столько, сколько успеет, пока его не остановят, — сотни, тысячи. И тут копейки складываются в тот самый счёт, от которого в понедельник холодеет.

Сложи две вещи — и поймёшь, почему это так больно бьёт именно по бюджету. Первое: петля незаметна. Агент не падает с ошибкой, не пишет «я застрял», не шлёт тревожное письмо. Снаружи он выглядит занятым и деловитым — как тот повар над кастрюлей. Второе: петля быстрая. Машина крутит круги не раз в минуту, как человек, а по много раз в секунду. Соедини «незаметно» и «быстро» — получишь счётчик, который молча мотает деньги, пока ты спишь или занят другим. Это не редкая беда: отсутствие лимита шагов — одна из классических, многократно описанных причин, по которым агент уходит в разнос.

Отдельно подчеркну, звучит странно, но: зацикливание не означает, что модель плохая или «глупая». Самая умная модель в мире зациклится точно так же, если ей не задали, когда останавливаться. Это не дефект ума — это отсутствие тормоза. А тормоз ставит не модель, а тот, кто собирает агента. То есть это вопрос конструкции, а не интеллекта, — и это хорошая новость, потому что чинится он просто.

🔌 Предохранитель: лимит шагов

Тормоз, который не даёт агенту крутиться вечно, называется просто — лимит шагов (по-научному max iterations, «максимум итераций», то есть максимум кругов). Идея в одну фразу: заранее задаём правило «больше чем N кругов не делаем — и точка». Сделал N кругов, а задача всё не готова — стоп. Не «продолжай, вдруг получится», а честный стоп: отдай что есть и позови человека или сообщи, что не справился.

Ровно то правило, которого не хватало нашему повару: «после третьей пробы — подаёшь или зовёшь шефа». Это и есть предохранитель — как пробка в электрощитке. Пробка не делает проводку умнее. Она просто не даёт сгореть всему дому, когда что-то пошло не так. Лимит шагов — такая же пробка для бюджета: он не делает агента сообразительнее, он просто гарантирует, что один зависший запуск не разорит тебя на тысячи рублей за ночь.

Посмотрим, как это выглядит «на пальцах». Это не настоящий код — это логика на человеческом языке, псевдокод.

Вся суть — в этих двух «если». Первое — нормальный выход: дело сделано, агент доволен, отдаёт результат. Второе — аварийный выход, тот самый предохранитель: дело не сделано, но кругов уже слишком много, значит, агент явно застрял — стоп и зови человека. Уберёшь второе «если» — получишь нашего повара над кастрюлей. Оставишь — получишь повара, который знает, когда хватит пробовать.

И запомни рамку как владелец: лимит шагов — это не «костыль», а обязательный элемент конструкции любого агента, который что-то делает в цикле. Спрашивать про него у подрядчика так же нормально, как спрашивать у электрика про автоматы в щитке. Нет ответа на вопрос «а что будет, если агент застрянет?» — это красный флаг, такого же размера, как машина без тормозов.

🔎 Как понять, что агент застрял, а не работает

Предохранитель спасает от катастрофы — но в идеале ты хочешь замечать петлю раньше, чем сгорит лимит. Беда в том, что застрявший агент и работающий агент снаружи выглядят одинаково: оба «заняты». Различить их можно по двум приметам, и обе — про наблюдение, а не про код.

• Повтор. Агент делает почти одно и то же действие снова и снова: проверяет тот же файл, задаёт тот же вопрос, гоняет ту же цифру. Это повар, который пробует соус десятый раз. Прогресса в его действиях нет — есть топтание на месте.
• Счёт, который не должен так расти. Самая честная и самая денежная примета. Если простая задача внезапно стоит как сложная — это не «модель постаралась», это петля. Поэтому за расходом агента надо следить, особенно у тех, кто работает без присмотра. Ровно как ты следишь за расходом продуктов на кухне — если на одно блюдо ушло пять кастрюль соуса, что-то явно не так.

Заметь связку, она важна. Предохранитель (лимит шагов) — это стена, в которую агент упрётся в худшем случае. Наблюдение за повтором и счётом — это сигнализация, которая зовёт тебя раньше, чем он до стены доедет. Хорошая конструкция держит и то, и другое: стену — чтобы не разориться, сигнализацию — чтобы поймать проблему, пока она маленькая. А что именно делать, когда агент уткнулся в стену (отдать частичный результат? откатить? попробовать иначе?), — это уже отдельный большой разговор про восстановление после сбоев, к нему мы ещё придём.