LLM reasoning, 답을 추론하기보다 기억을 꺼내는 장치일 수 있다는 증거

LLM의 reasoning은 복잡한 문제를 단계별로 푸는 기능만이 아닐 수 있다. Google Research는 단순 사실 질문에서도 reasoning이 모델 내부에 저장된 지식을 꺼내는 데 도움을 준다는 실험 결과를 공개했다. 핵심은 논리 전개가 아니라 추가 계산 시간과 관련 사실의 점화다.

2026년 6월 24일 Google Research 글은 논문 Thinking to Recall을 소개한다. 연구진은 Gemini-2.5 Flash, Gemini-2.5 Pro, Qwen3-32B를 대상으로 SimpleQA Verified와 EntityQuestions 같은 closed-book QA 데이터셋을 사용했다. 질문은 대체로 단일 사실을 묻는 형태라, 복잡한 수학 풀이처럼 분해가 필요한 작업이 아니다.

첫 번째 메커니즘은 computational buffer다. 연구진은 모델의 reasoning trace를 의미 없는 “Let me think” 반복문으로 바꿔 길이만 맞춘 뒤 최종 답을 생성하게 했다. 그 결과 reasoning을 완전히 끈 경우보다 정답 회상이 크게 좋아졌다. 의미 있는 중간 내용이 없어도 추가 토큰이 더 많은 forward pass와 내부 처리 시간을 제공한다는 해석이다.

두 번째 메커니즘은 factual priming이다. 자연스러운 reasoning trace를 분석하자 모델은 논리 증명을 하기보다 질문과 관련된 사실을 먼저 떠올리는 경향을 보였다. 연구진은 reasoning trace에서 구체적 사실만 추출하고, filler나 최종 정답 언급을 제거한 뒤 다시 조건으로 넣었다. 짧은 관련 사실 목록만으로도 reasoning 이득의 상당 부분이 회복됐다.

하지만 이 방식에는 함정이 있다. 연구진은 수십만 개 reasoning trace의 중간 사실을 검색 기반 verifier로 검사했고, 중간 사실 하나라도 hallucination이면 최종 정답 가능성이 유의미하게 낮아진다고 밝혔다. reasoning이 기억을 넓히는 통로라면, 잘못된 중간 사실은 정답을 밀어내는 잡음이 된다.

의미는 명확하다. 더 긴 생각을 허용하는 것만으로는 충분하지 않다. 모델이 중간 단계에서 사실적으로 맞는 내용을 생성하도록 훈련하거나 선택하는 방식이 필요하다. Google Research는 hallucination-free reasoning trajectory를 우선하는 test-time selection과 process reward가 정확도 개선의 실마리가 될 수 있다고 봤다.