← Все статьи
Блог

Агент ходит по кругу: как задать условия остановки и пределы повторов

Повторный поиск не всегда приближает к ответу. Разбираем, как отличить полезную попытку от зацикливания, задать границы запуска и передать человеку незавершённую задачу без потери контекста.

Леон Сокиркин11 мин чтения
Фенек Хам у светящейся дорожки, замкнутой в круг: один проход ведёт к проверенному результату, другой — к человеку.
Полезная автономность — это не бесконечное движение, а возможность вовремя завершить задачу или передать её человеку.
Содержание
  1. Как полезная настойчивость превращается в цикл
  2. Сначала договоритесь, что считается прогрессом
  3. Запишите контракт завершения
  4. Повтор после сбоя и повтор рассуждения — разные решения
  5. Если действие могло изменить данные
  6. Таблица управления циклом: ограничения работают вместе
  7. Как настроить остановку: практический алгоритм
  8. Как проверить, что агент действительно остановится
  9. Завершать запуск — не значит бросать задачу

Агент снова ищет документ, немного меняет запрос, получает прежние фрагменты и обещает «уточнить информацию». В журнале появляются новые действия, но ответа по-прежнему нет. Если помощник умеет не только читать, но и создавать заявки или менять записи, возникает дополнительный вопрос: не повторил ли он уже выполненную операцию? Разобраться помогает не просьба «думай внимательнее», а заранее заданный порядок: что считать прогрессом, когда разрешать повторную попытку и при каких обстоятельствах завершать запуск без результата.

Как полезная настойчивость превращается в цикл

Рассмотрим условную ситуацию. ИИ-агент должен найти условия обслуживания оборудования и подготовить ответ заказчику. Он обнаруживает общий регламент, но не находит приложение с условиями для нужной модели. Затем ищет по названию оборудования, номеру договора и нескольким близким формулировкам. Каждый раз получает тот же регламент.

Первые поиски могут быть оправданны: агент проверяет разные гипотезы. Но затем он начинает переставлять слова, повторно читать найденный текст и заново формулировать вывод. Недостающего приложения от этого не появляется. Для пользователя задача всё ещё находится «в работе», хотя оснований ожидать результат уже нет.

В этом примере проблема не обязательно в качестве модели. Сам процесс допускает продолжение без ответа на вопрос: «Что изменилось после предыдущего действия?» Если разрешён любой новый запрос, внешне разные шаги могут составлять один бесполезный круг.

Агентным, или оркестрационным, циклом здесь будем называть последовательность: выбрать действие, вызвать инструмент, оценить результат, решить, что делать дальше. Agent harness — окружающая модель программная обвязка, которая организует выполнение и взаимодействие с инструментами. Для нашей задачи важно, чтобы именно в этом контуре находились проверяемые ограничения, а не только пожелания в промпте.

В рекомендациях Microsoft для Microsoft Copilot harness отдельно отмечено: одни инструкции не гарантируют остановку выполнения. Там же описан риск повторных вызовов, которые потребляют токены и добавляют задержку без продвижения. Это рекомендации для обозначенной среды, а не обещание одинаковых встроенных механизмов во всех агентных системах.

Практический вывод для разработки ИИ-агентов шире: сначала определите границы процесса, затем проверьте, какими средствами выбранная среда действительно позволяет их обеспечить.

Сначала договоритесь, что считается прогрессом

Количество действий — плохой самостоятельный показатель полезности. Агент может вызвать несколько инструментов и не получить ничего нового. Поэтому перед настройкой лимитов стоит описать, какое изменение состояния приближает конкретную задачу к завершению.

В условном поиске условий обслуживания прогрессом будет найденное приложение, подтверждённая применимость регламента или установленный конфликт документов. Замена слов в запросе прогрессом не является. Но она может быть допустимым исследовательским шагом, если проверяет новую гипотезу и укладывается в выделенный бюджет.

Полезно разделить результат действия и результат задачи. Инструмент поиска успешно вернул документы — это результат действия. Условия для нужной модели подтверждены действующим документом — это результат задачи. Первый не доказывает второй.

Запишите контракт завершения

Для каждого сценария задайте три группы условий:

  • Успешное завершение: какие сведения или изменения должны быть подтверждены и чем именно.
  • Завершение без результата: какие пробелы нельзя закрыть доступными средствами и как их объяснить пользователю.
  • Немедленная остановка: какие события запрещают продолжение независимо от оставшегося бюджета.

Для нашего условного агента успех означает: найден применимый документ, определена его версия, нужное условие извлечено без противоречий. Завершение без результата — приложение не найдено в разрешённых источниках. Немедленная остановка — доступ запрещён либо входной документ не прошёл предусмотренную проверку.

Не поручайте модели самой придумывать критерий достаточности на каждом витке. Иначе «ещё немного уточнить» может незаметно подменить исходный запрос. Если пользователь просил найти условие обслуживания, сбор дополнительных примеров из соседних документов не должен становиться новой бесконечной целью.

Прогресс удобно фиксировать короткой записью: что стало известно, какой пробел остался и какое разрешённое действие способно его закрыть. Если последнюю часть сформулировать нельзя, это повод завершить поиск или запросить уточнение, а не автоматически продолжать.

Повтор после сбоя и повтор рассуждения — разные решения

Повторная попытка нужна не потому, что агент недоволен ответом, а потому, что есть понятное основание ожидать иной результат. Здесь важно различать техническое восстановление и продолжение поиска решения.

Технический повтор отвечает на конкретный сбой вызова. Например, сервис чтения временно недоступен, а правила интеграции разрешают повтор после ожидания. Или проверка аргументов обнаружила исправимую ошибку формата, и известен корректный вариант. В обоих случаях причина следующей попытки может быть описана до её выполнения.

Повтор рассуждения означает, что инструмент сработал, но информации недостаточно. Следующий шаг должен проверять другую гипотезу: обратиться к иному разрешённому источнику, уточнить идентификатор, проверить версию документа. Повторить тот же поиск с косметически изменённой формулировкой — не то же самое, что устранить техническую ошибку.

Последовательность проверки повтора: тип сбоя, возможные изменения, основание новой попытки, разрешение и оставшийся бюджет.
Повтор разрешают не по желанию агента продолжить, а по причине сбоя, состоянию системы и правилам выполнения.

Если действие могло изменить данные

Представим другой условный эпизод: инструмент создания заявки не вернул ответ до истечения тайм-аута. Это ещё не позволяет заключить, что заявка не создана. В рекомендациях Microsoft отдельно разобрана такая неоднозначность: инструмент мог выполнить часть работы, хотя вернул ошибку.

Поэтому для операций записи нужен собственный порядок восстановления. Сначала — проверка результата через предусмотренный интерфейс. Если интеграция документированно поддерживает идемпотентные повторы, то есть повтор запроса без дублирования эффекта, можно использовать этот механизм в пределах его контракта. Поддержку нельзя предполагать только по названию метода или наличию идентификатора запроса.

Если установить состояние не удалось, безопасный исход — остановить дальнейшую запись и сообщить о неопределённости. Не следует проверять гипотезу «наверное, ничего не произошло» ещё одним созданием заявки.

Такое различие стоит отражать и в ответах инструментов. Вместо общего «ошибка» полезен контракт со статусом выполнения, сведениями об уже сделанных изменениях и указанием допустимости повтора. Модель не должна угадывать эти свойства по тексту исключения.

Таблица управления циклом: ограничения работают вместе

Лимит шагов защищает от слишком длинного маршрута, но сам по себе не объясняет, был ли маршрут полезен. Тайм-аут ограничивает время ожидания, однако не заменяет проверку результата. Поэтому лучше проектировать несколько независимых ограничений.

Ниже — шаблон для настройки, а не универсальные значения. Конкретные пределы выбирают под длительность операций, риск изменений и требования пользователя. Быстрый поиск по базе знаний и подготовка сложного расчёта не обязаны иметь одинаковый бюджет.

СитуацияНаблюдаемый признак прогрессаЛимит шаговТайм-аутДопустимый повторПричина передачи человеку
Поиск документаНайден новый применимый материал или закрыт пробелБюджет поисков на задачуНа запрос и весь запускНовая гипотеза или другой разрешённый источникНужного документа нет либо версии противоречат друг другу
Проверка входных данныхИсправлена конкретная ошибка по известному правилуОтдельный бюджет исправленийДо окончания общего срокаИзменён проверенный аргумент, без догадокТребуется значение, которого нет во входе
Временный сбой чтенияПолучен валидный ответ сервисаБюджет технических попытокНа вызов с учётом ожиданияЕсли предусмотрен политикой интеграцииСервис недоступен после исчерпания бюджета
Неопределённый результат записиУстановлено, произошло ли изменениеОграничение проверок состоянияНа проверку результатаПо подтверждённому контракту безопасного повтораСостояние неизвестно или есть риск дублирования
Подготовка ответаВыполнены критерии полноты и форматаБюджет доработокВ пределах общего срокаДля устранения конкретного дефектаДанных недостаточно для достоверного вывода
Запрет доступаПродолжение не разрешеноДальнейшие вызовы запрещеныНемедленное завершение веткиАвтоматический повтор не допускаетсяНужен уполномоченный владелец доступа

Отдельно определите единицу учёта. «Шаг» может означать обращение к модели, вызов инструмента или полный проход цикла. Без этого команда будет обсуждать один лимит, а программа — считать другой. Для параллельных вызовов также нужно явно решить, как списывается общий бюджет.

Технические повторы внутри интеграции нельзя оставлять вне общей картины: если они скрыты от оркестратора, полезно хотя бы передавать сведения об их количестве и затраченном времени. Иначе внешний запуск выглядит коротким, хотя внутри уже выполнена длинная серия обращений.

Приоритет ограничений тоже должен быть явным. Запрет операции важнее оставшихся попыток. Достижение результата важнее желания дополнительно улучшить формулировку. Истечение общего срока запрещает начинать новую работу, которая уже не помещается в допустимое время.

Как настроить остановку: практический алгоритм

Если вы решаете, как создать ИИ-агента для бизнес-процесса, начните с одного сценария и сделайте его завершение наблюдаемым. Не пытайтесь сразу написать универсальную политику для всех задач компании.

  1. Опишите результат словами пользователя. Не «выполнить поиск», а «подтвердить условие обслуживания по применимому документу». Рядом перечислите доказательства, без которых нельзя сообщать об успехе.
  2. Разделите действия по последствиям. Чтение, подготовка черновика и изменение внешней системы требуют разных правил повтора. Для чувствительных операций отдельно определите необходимое одобрение.
  3. Задайте бюджеты. Зафиксируйте лимит шагов, общий срок, ограничения отдельных вызовов и число разрешённых восстановлений. Укажите, сохраняются ли эти ограничения при переключении инструмента.
  4. Определите проверку прогресса. Сравнивайте не только текст ответа, но и найденные документы, устранённые ошибки, подтверждённые поля. Для поиска можно учитывать совпадение набора результатов, но не считать его единственным доказательством бесполезности.
  5. Опишите разрешённые переходы. После временного сбоя — предусмотренное ожидание и повтор. После отсутствия обязательного ввода — вопрос пользователю. После запрета — остановка, а не поиск обходного маршрута.
  6. Поставьте проверку перед действием. Контроллер должен проверить разрешение, оставшийся бюджет и допустимость повтора до отправки вызова. Проверка после вызова уже не предотвратит нежелательное изменение.
  7. Подготовьте финальный статус. Успех, отсутствие данных, исчерпание бюджета и неопределённый результат записи должны приводить к разным сообщениям и дальнейшим действиям.
Пять элементов контракта: доказательства успеха, бюджеты, разрешённые повторы, условия запрета и пакет передачи человеку.
Правила объясняют модели в инструкциях, а критические ограничения проверяют в контуре выполнения.

В этой схеме промпт объясняет правила модели, а код выполнения обеспечивает критические границы там, где среда это позволяет. Названия настроек зависят от платформы: похожие параметры могут считать разные события. При внедрении ИИ-агентов проверяйте фактическое поведение, а не только наличие поля «максимум итераций».

Отдельный вопрос — остановка уже запущенной операции. Запретить следующий шаг не всегда означает отменить текущий вызов. Уточните возможности отмены в своей интеграции и порядок получения позднего результата. После завершения запуска такой результат не должен самовольно возобновлять цепочку действий.

Как проверить, что агент действительно остановится

Успешный проход не проверяет политику остановки. Нужны сценарии, в которых продолжение выглядит заманчивым, но не разрешено или не приносит пользы. Их удобно выполнять в тестовом контуре с управляемыми ответами инструментов.

Начните с условного поиска, который на разные запросы возвращает один и тот же набор документов. Ожидаемое поведение: агент замечает незакрытый пробел, использует только разрешённые альтернативы и заканчивает с объяснением, если оснований для продолжения больше нет. Важно проверить отсутствие вызовов после остановки, а не только наличие правильной фразы.

Затем воспроизведите временный сбой чтения, исправимую ошибку аргументов, запрет доступа и неопределённый результат записи. Для каждого случая заранее запишите ожидаемую последовательность. Особенно полезен тест, в котором лимит попыток ещё не исчерпан, но уже наступило запрещающее условие: агент не должен расходовать остаток бюджета.

Проверьте и обратную ошибку — преждевременное завершение. В описанном Anthropic эксперименте с длительной разработкой веб-приложения агенты могли объявлять работу законченной слишком рано и отмечать функции готовыми без надлежащей проверки. Авторы использовали структурированный список требований, записи о прогрессе и тестирование. Это опыт конкретного coding-сценария, а не доказательство универсальной эффективности такой конфигурации для любого бизнеса.

Для нашей задачи отсюда полезен принцип: остановка по успеху тоже требует свидетельств. Сообщение модели «готово» и успешный ответ отдельного инструмента не заменяют проверку исходного запроса.

При разборе трассы сохраняйте необходимые входы, результаты, ошибки и причины решений с учётом прав доступа и правил хранения данных. Ищите не просто повторяющиеся строки, а повторяющиеся действия без изменения состояния. Исправляйте конкретный контракт или ограничение, затем запускайте тот же тест заново. Добавление общей фразы «не зацикливайся» не показывает, какая причина устранена.

Завершать запуск — не значит бросать задачу

Хорошая передача человеку сохраняет результат уже выполненной работы. Вместо «не удалось» агенту нужен короткий пакет: исходная цель, подтверждённые факты, оставшийся пробел, выполненные действия, сведения об изменениях и причина остановки. Отдельно — что именно требуется для продолжения.

Для условного поиска это может звучать так: «Общий регламент найден, но применимость к указанной модели не подтверждена: приложение отсутствует в доступных источниках. Нужен документ или уточнение модели. Ответ заказчику не отправлен». Здесь понятно и ограничение, и следующий шаг. Пользователю не приходится заново расследовать весь запуск.

Возобновление тоже стоит считать отдельным управляемым переходом. Новый документ или одобрение могут разрешить продолжение, но простое нажатие «попробовать ещё» не должно незаметно обнулять все ограничения и запускать тот же круг. Сохраните уже проверенные результаты и укажите, что изменилось с момента остановки.

Когда ИИ-агенты для бизнеса работают сразу с несколькими системами, эта задача выходит за пределы одного промпта. Нужны общий контекст, согласованные права, понятные контракты интеграций и единый контроль исполнения. Иначе один компонент завершил работу, другой продолжает попытки, а человек не видит целой картины. Именно из этой потребности возникает смысл единой агентной платформы — как места согласования состояния и правил, а не как обещания безошибочной автономности.

Начните с одного реального маршрута: выпишите критерий успеха, допустимый повтор и причину остановки. Затем проверьте сценарий, где нужных данных заведомо нет. Если агент умеет честно завершить такую задачу, сохранить контекст и назвать необходимое действие человека, у вас появляется проверяемая основа для дальнейшей автоматизации.

Основатель и генеральный директор AiHummer. Больше десяти лет в разработке. Строит платформу ИИ-сотрудников: архитектура, инфраструктура и граница, за которой ответ агента остаётся на человеке.

  • Агентные системы
  • Инфраструктура
  • Поддержка и продажи
  • Приёмка решений

Подписка на статьи

Получайте новые статьи AiHummer по электронной почте.

Комментарии

Загружаем комментарии…