agents
Словарь ↗Вызов инструментов
Вызов инструментов — механизм, которым языковая модель обращается к коду. Вы описываете доступные функции и их параметры; модель вместо ответа прозой выдаёт структурированный вызов с именем функции и аргументами; приложение выполняет его и возвращает результат, чтобы модель продолжила. Важное различие: модель ничего не исполняет сама. Она формирует намерение, а ваш код решает, выполнять ли его. Именно на этой границе живут авторизация, лимиты и валидация: модель, которую уговорили запросить возврат средств, безобидна, если инструмент возврата сначала проверяет заказ. Надёжность зависит от описаний сильнее, чем от модели. Инструменты с пересекающимся назначением путаются между собой, необязательные параметры теряются, а функция с описанием «получает данные» будет вызываться всегда или никогда. Одна задача — один инструмент, и описывайте не только когда его использовать, но и когда не нужно. В продакшене логируйте каждый вызов с аргументами и результатом. Именно этот лог покажет, что модель зовёт дорогой инструмент трижды за диалог, и станет набором данных для оценки будущих правок промпта.
Похожие термины