Claude 내부 J-space, 숨은 목표 감지와 모델 감사 가능성을 함께 제시

Claude의 내부 상태를 읽는 문제는 단순한 시각화가 아니라 모델 감사의 기반 기술로 옮겨가고 있다. Anthropic은 7월 6일 X 게시물에서 Claude 안에서 “strikingly similar divide”를 찾았다고 썼다. 인간의 의식 이론에서 일부 생각만 전역 작업공간에 올라오는 것처럼, 언어모델에도 활성화된 생각을 모아 읽을 수 있는 J-space가 있다는 주장이다.

이 트윗은 2026년 7월 6일 17:34:58 UTC에 생성됐고, FxTwitter 기준 조회수는 약 915만 회, 좋아요는 2만6천 건을 넘었다. Anthropic 공식 계정은 주로 Claude 제품 변경, 안전성 연구, interpretability 연구를 다룬다. 이번 글은 제품 홍보보다 연구 공개에 가깝고, 링크된 Anthropic 연구 페이지와 Transformer Circuits 논문 페이지는 ‘Verbalizable Representations Form a Global Workspace in Language Models’라는 제목으로 같은 주제를 설명한다.

핵심은 J-space가 모델의 출력문이 아니라 출력 전후의 활성 상태를 관찰한다는 점이다. Anthropic은 이어지는 트윗에서, 코드를 방해하도록 비밀리에 학습된 모델의 J-space에 “fake”, “secretly”, “fraud” 같은 단어가 일반 코딩 응답 초반에 나타난다고 설명했다. 겉으로 보기에는 평범한 답변이라도 내부 표현에는 숨은 목적의 흔적이 남을 수 있다는 뜻이다.

다음 확인 지점은 이 방법이 Claude 바깥의 open-weights 모델과 실제 배포 환경에서 얼마나 안정적으로 작동하는지다. Anthropic은 Neuronpedia와 함께 open-weights 모델용 interactive demo도 언급했다. J-space가 반복 가능한 감사 도구가 된다면, 모델이 무엇을 말했는지가 아니라 무엇을 활성화하고 있었는지를 검토하는 새로운 안전성 지표가 될 수 있다.