Инженерия контекста (Context Engineering)

Инженерия контекста — это дисциплина принятия решений о том, что именно попадает в окно контекста модели на каждом шаге работы агента: какие инструкции, извлечённые документы, прошлые сообщения, выводы инструментов и примеры — и в каком виде. Это естественный преемник промпт-инжиниринга: как только агент работает на протяжении многих ходов, трудная задача смещается от формулировки одного промпта к управлению постоянно растущей грудой контекста без превышения токен-бюджета и без того, чтобы утопить модель в шуме. Приёмы включают извлечение только релевантных фрагментов, суммирование или уплотнение старых ходов, отсечение устаревших результатов инструментов и упорядочивание информации так, чтобы самое важное оказалось там, где модель лучше всего удерживает внимание. Для разработчиков именно здесь выигрывается или теряется качество агента: модели деградируют, когда контекст раздут или нерелевантен, так что больше контекста — не значит лучше контекст. Относитесь к окну как к скудной, тщательно отобранной памяти и измеряйте, как каждое добавление влияет на вывод, вместо того чтобы сваливать туда всё.

Похожие термины

Ещё термины: ИИ-агенты