Reflexion

Reflexion — паттерн промптинга агентов, в котором модель, провалившая задачу, пишет короткую рефлексию на естественном языке о том, почему она ошиблась, сохраняет эту заметку в памяти и повторяет попытку, добавив рефлексию в контекст. Метод (Shinn et al., 2023) использует словесную самокритику как лёгкую замену обновления весов: вместо дообучения на наградах агент «учится» между попытками, накапливая записанные уроки. Приём особенно хорош на задачах с чётким сигналом успеха, который можно вернуть модели — упавший тест, неверный ответ, ошибка инструмента, — чтобы рефлексия опиралась на реальную обратную связь, а не на догадки. Для разработчиков агентов это практичный цикл повторов: перехватите ошибку, спросите модель «что пошло не так и что сделаешь иначе», затем перезапустите, добавив заметку в начало. Следите за двумя вещами: ограничьте число попыток, чтобы сдержать стоимость и задержку, и убедитесь в надёжности сигнала обратной связи — рефлексия над шумным или неверным сигналом лишь закрепляет ошибки.