LLM 의식 논쟁에 불붙은 'Abstraction Fallacy' 글

AI 의식 논쟁이 다시 계산의 정의로 돌아갔다

r/singularity의 대형 스레드는 Google DeepMind의 Alexander Lerchner가 쓴 The Abstraction Fallacy 글을 둘러싸고 열렸다. 게시물 제목은 LLM이 의식을 가질 수 없다는 취지로 요약했지만, 실제 논쟁은 더 복잡했다. 논문은 computational functionalism, 즉 적절한 정보처리 구조가 있으면 substrate와 무관하게 subjective experience가 생길 수 있다는 관점을 비판한다.

Lerchner의 핵심 주장은 computation이 물리 세계에 그 자체로 들어 있는 과정이 아니라는 데 있다. 연속적인 물리 상태를 유한한 symbol과 meaningful state로 나누려면, 그것을 해석하고 alphabetize하는 mapmaker가 필요하다는 것이다. 따라서 digital system이 행동을 시뮬레이션할 수는 있어도, 경험을 구성하는 intrinsic physical constitution을 instantiate한다고 보기는 어렵다고 논지를 전개한다. 글은 이것을 생물학만의 특권으로 만들지는 않는다. 만약 어떤 artificial system이 의식을 가진다면, 그것은 syntactic architecture가 아니라 특정한 물리적 구성 때문일 것이라고 선을 긋는다.

댓글 반응은 격렬했다. 가장 많이 공감을 받은 쪽은 연구 경력을 가볍게 무시하는 Reddit식 자신감을 비꼬았다. 반대로 다른 댓글들은 consciousness를 명확히 정의하지 않고 그런 결론을 내릴 수 있느냐고 물었다. 또 일부는 이 주장이 Chinese Room argument의 변형처럼 보인다고 했고, 철학 문헌을 충분히 다루지 않는 과학자의 철학 글에 대한 불만도 나왔다.

이 스레드의 가치는 결론보다 충돌 지점에 있다. LLM이 사람처럼 말하고 자기 상태를 설명할수록, 커뮤니티는 "행동이 같으면 충분한가"와 "물리적 구현이 달라지면 경험도 달라지는가"를 다시 묻게 된다. AI welfare, moral patienthood, anthropomorphism이 모두 이 질문 위에 놓여 있다.

이번 Reddit 논쟁은 LLM consciousness가 단순한 팬덤 주제가 아니라는 점을 보여준다. 모델 규모나 benchmark가 커질수록, 사람들은 오히려 computation, symbol, embodiment, subjective experience의 정의를 더 집요하게 캐묻고 있다.

Source: r/singularity discussion and paper PDF.