Программно-подкреплённая языковая модель (PAL)

Program-Aided Language Model (PAL, «программно-подкреплённая модель») — паттерн промптинга, в котором модель вместо вычисления ответа прозой пишет короткую программу — обычно на Python, — чей запуск и даёт результат. В методе (Gao et al., 2023) работа делится: LLM читает задачу и выражает логику кодом, а обычный интерпретатор детерминированно выполняет саму арифметику и ветвления. Это обходит ключевую слабость — языковые модели ненадёжны как калькуляторы, но неплохи как авторы кода, — и та же идея известна как Program-of-Thoughts. Приём важен везде, где ответ должен быть точным: расчёт цен, логика дат и часовых поясов, конвертация единиц, агрегации данных или всё, что нельзя доверить «устному счёту» по токенам. Для разработчиков это шаг исполнения кода в песочнице после генерации, возвращающий вывод программы как ответ. Оговорки: недоверенный код нужно запускать безопасно (изолированная песочница, таймауты, без сети), и модель всё ещё может написать логику с багом — поэтому проверяйте результаты и логируйте сгенерированный код для отладки.

Похожие термины

Ещё термины: Промпт-инжиниринг