Траектория агента

Траектория — полная запись пути, который агент прошёл по задаче: каждый вызов модели, каждое обращение к инструменту с аргументами, каждый возвращённый результат и итоговый ответ, по порядку. Это агентный аналог трассы запроса и та единица, которую вы оцениваете, отлаживаете и переигрываете. Важна она потому, что одного итогового ответа недостаточно, чтобы судить об агенте. Два прогона могут дать одинаково верный результат, но один вызвал три инструмента, а другой одиннадцать, повторял сбойный эндпоинт и дошёл до цели по случайности; продакшену вы доверите только первый. И наоборот, неверный ответ ничего не говорит о месте сбоя — плохой поиск, неправильно разобранный результат инструмента, план, который так и не оправился от ранней ошибки, — и без траектории команда только гадает. Практическая работа с траекториями состоит из трёх частей. Захват: писать в журнал всю последовательность, включая аргументы и сырые ответы инструментов, со временем и стоимостью каждого шага в токенах. Оценка: измерять путь, а не только пункт назначения, потому что число шагов, точность выбора инструмента и поведение при восстановлении — это как раз то, что предсказывает стоимость и надёжность в бою. И воспроизведение: сохранять достаточно данных, чтобы записанную траекторию можно было прогнать заново на изменённом промпте или новой модели, — именно это превращает кучу прошлых инцидентов в регрессионный набор.

Похожие термины

Ещё термины: ИИ-агенты