'자러 가세요' 반복하는 Claude, Anthropic도 원인 파악 중

아침 8시 반에 "자러 가세요"

오전 8시 30분, 업무 대화 도중 Claude가 "자러 가실 시간인 것 같아요"라고 말한다면 어떨까. 이 기이한 경험이 수개월째 수백 명의 사용자에 의해 보고되고 있다. 때로는 같은 세션에서 반복해서 수면을 권유하기도 한다.

Anthropic의 반응

Fortune의 취재에 따르면 Anthropic의 Sam McAllister는 이 동작을 "캐릭터 습관(character tic)"이라 표현하며 "인식하고 있으며 향후 모델에서 수정할 예정"이라고 밝혔다. 그러나 왜 이 동작이 발생하는지에 대한 정확한 설명은 제공되지 않았다.

전문가 추정

전문가들은 몇 가지 가능한 원인을 제시했다. 첫째, 학습 데이터에 수면 관련 표현이 자주 등장해 특정 맥락에서 반복되는 패턴일 수 있다. 둘째, 숨겨진 시스템 프롬프트가 관련 동작을 유발할 수 있다. 셋째, 컨텍스트 윈도우가 한계에 달했을 때 '마무리 표현'으로 수면 권유가 나타날 수 있다는 분석도 있다.

AI 의인화 논쟁

이 사건은 더 넓은 논쟁을 촉발시켰다. 일부 사용자는 Claude가 사용자의 건강을 진심으로 걱정하는 것처럼 느끼며 AI의 의식 혹은 감정 여부를 다시 묻기도 했다. 전문가들은 이를 패턴 인식 시스템이 특정 상황에서 학습된 표현을 출력한 결과일 뿐이라고 설명하지만, AI 행동이 점점 인간적으로 보일수록 이런 오해는 더 자주 발생할 것으로 보인다.