Tree-of-thought (дерево размышлений)

Tree-of-thought (ToT) — это продвинутая техника рассуждения, расширяющая chain-of-thought тем, что заставляет модель генерировать и исследовать несколько различных путей рассуждения («ветвей») для проблемы, оценивать перспективность каждой промежуточной ветви и возвращаться назад или отсекать более слабые пути — имитируя поисковый алгоритм по дереву возможных решений, а не придерживаясь одной линейной цепочки рассуждений. Представленная в исследовательской статье 2023 года, ToT разработана для задач, где первый подход к рассуждению, который пробует модель, не обязательно является лучшим, и где преждевременная приверженность одной линии рассуждений (как в стандартном CoT) заставляет модель «зафиксироваться» на ранней ошибке и уверенно рассуждать в сторону неверного ответа. ToT обычно требует либо многошагового промпт-каркаса (код приложения многократно направляет модель: «сгенерируй 3 возможных следующих шага», затем «оцени перспективность каждого шага от 1 до 10», затем «продолжай с шага с наивысшей оценкой»), либо, для более лёгкой версии, единого промпта, который просит модель внутренне рассмотреть несколько подходов и выбрать лучший перед ответом. Для разработчиков SaaS полноценная ToT дорога — она требует нескольких вызовов LLM на один пользовательский запрос, умножая и стоимость, и задержку — поэтому она предназначена для высокоценных, высокосложных задач, где точность гораздо важнее скорости или стоимости: сложных ассистентов для отладки, генерации стратегических бизнес-планов, функций решения головоломок или рекомендаций по архитектуре кода, а не для рутинных задач чата или классификации. Конкретный пример: функция оптимизатора SQL-запросов на основе ИИ использует упрощённый промпт ToT: «Запрос выполняется медленно. Предложи 3 разные возможные первопричины и исправления (например, отсутствующий индекс, паттерн N+1, ненужный JOIN). Для каждой оцени уверенность от 1 до 10 на основе запроса ниже. Затем порекомендуй единственное лучшее исправление.\n\nЗапрос: SELECT * FROM orders o JOIN customers c ON o.customer_id = c.id WHERE o.created_at > '2026-01-01'» — модель выдаёт три кандидатных диагноза с оценками уверенности (например, отсутствующий индекс на created_at: 8/10; накладные расходы SELECT *: 5/10; неэффективность JOIN: 3/10) и рекомендует исправление с наивысшей уверенностью, давая пользователю видимость альтернатив, которые были рассмотрены и отклонены, вместо единственного необъяснённого предложения.