ITPE * JackerLab

개요Tree-of-Thought(ToT) Prompting은 Chain-of-Thought(CoT)를 확장한 고급 추론 전략으로, 단일 선형 추론 흐름이 아닌 트리(tree) 형태의 다중 사고 경로를 탐색하고 평가하여 최적의 정답을 도출하는 방식입니다. LLM이 다양한 생각의 가지(branch)를 생성한 후, 이들을 평가하고 선택함으로써 창의적 문제, 퍼즐, 설계, 스토리 생성 등에서 더욱 깊이 있는 사고와 정확도를 확보할 수 있습니다.1. 개념 및 정의ToT는 다음과 같은 방식으로 작동합니다:LLM이 문제를 기반으로 다양한 아이디어 또는 추론 경로 생성 (Tree Branching)각 경로의 다음 단계를 반복 생성 (Tree Expansion)가지(branch)마다 평가 또는 선택 기준을 적용 (Sco..

개요Self-consistency는 Chain-of-Thought(CoT) Prompting의 확장 기법으로, LLM이 생성한 다수의 응답 중에서 가장 일관되고 빈도 높은 정답을 선택하여 추론 정확도와 안정성을 높이는 전략입니다. 단일 응답에 의존하지 않고, 여러 번 추론을 수행한 뒤 그 중 가장 빈도 높은 결과(majority vote)를 최종 응답으로 채택함으로써, 특히 수학, 논리, 추론 등 고난도 문제에서 효과적인 성능을 보입니다.1. 개념 및 정의Self-consistency는 다음과 같은 과정으로 이루어집니다:Chain-of-Thought 방식으로 다양한 응답 샘플 생성 (sampling or temperature variation)각 응답의 최종 정답만 추출 (step-by-step reas..