Ai! Jack!v2026.04.01-f12
← 홈HF Daily Papers

Beneath the Surface of Chains-of-Thought: A Mechanistic Interpretation of Reasoning Operations in LLMs

원문 보기
대한민국

AI 분석

•기여: 문제 정식화·목표 분해·연역 등 서로 다른 추론 연산이 LLM 내부 표현에서도 구분되는 기하학적 구조를 갖는다는 실험적 근거 제시
•방법: 별도 평가용 은닉 표현에서 연산별 분리 가능성을 측정하고 어휘·위치 교란 요인을 점검하며, attention masking으로 앞선 추론 문맥의 영향을 조사
•결과: 중간 층에서 분리 가능성이 가장 높고, 층을 거치며 연산 관련 표현이 토큰에서 구간 전반으로 분산되는 현상 관찰. 같은 표면 토큰도 주변 추론 연산에 따라 다른 표현을 갖고, 구간 시작 표현은 앞선 추론 문맥에 의존함
•한계: 언어적 추론 연산과 내부 표현의 대응을 보인 연구로, 해당 구조가 추론 정확도를 결정한다거나 CoT가 내부 계산을 완전히 설명한다는 증거는 아님

검증 정보

출처
huggingface.co
피드
HF Daily Papers
수집/분석 기준
2026. 9. 8. 오전 9:00
원문 확인
원문 열기

본문

Reasoning in large language models unfolds through diverse functional operations, such as problem formulation, goal decomposition, and deduction. Although these operations are explicitly distinguished in text, little is known about how they are geometrically organized in representation spaces. To this end, we investigate whether distinct reasoning operations exhibit corresponding geometric structure in hidden representations. We find that operations are separable in held-out representations, with separability peaking in middle layers, and verify that this structure is not explained by lexical or positional confounds. Across layers, token-wise operation-alignment becomes more distributed over spans, while identical surface tokens are represented differently depending on the operation of its surrounding chunk. Attention-masking interventions further show that operation-aligned representations at chunk onset depend on preceding reasoning context. Consequently, our work demonstrates that language models maintain representational correspondence between linguistic reasoning expressions and their internal geometric structures. Code and project materials are available at https://github.com/naver-ai/beneath-cot.

Chain-of-Thought의 표면 아래: LLM 추론 연산의 메커니즘 해석 — Ai! Jack! — Ai! Jack!