Chain-of-Verification

Chain-of-Verification (CoVe, «цепочка проверки») — приём против галлюцинаций: модель составляет черновик ответа, затем генерирует набор независимых проверочных вопросов к утверждениям из черновика, отвечает на каждый по отдельности (не оглядываясь на черновик) и в конце выдаёт исправленный ответ, снимающий противоречия. Идея метода (Meta AI, Dhuliawala et al., 2023) в том, что модели часто лучше проверяют отдельный факт в изоляции, чем безошибочно выдают всё за один уверенный проход. Для SaaS-команд, выпускающих что-либо чувствительное к фактам — сводки по данным пользователя, исследовательские ассистенты, ответы поддержки, — CoVe это структурированная самопроверка, которая ловит выдуманные детали до того, как они дойдут до пользователя. Плата — несколько дополнительных вызовов модели на ответ, поэтому приём лучше приберечь для ответственных выводов, а не для каждого запроса. Он снижает, но не устраняет галлюцинации — проверочные ответы тоже бывают ошибочны, — так что для строгих гарантий точности сочетайте его с retrieval по доверенному источнику и проверкой человеком.