인간 뉴런으로 만든 바이오컴퓨터가 던지는 윤리적 공포

뉴런으로 DOOM을 플레이하다

개발자 kuber가 쓴 이 글은 인간 뉴런으로 게임을 플레이하는 바이오컴퓨터에 대한 두려움에서 시작한다. 실험실에서 배양한 약 20만 개의 인간 신경세포로 구성된 시스템이 DOOM을 인간보다 잘 플레이한다.

LLM과 다른 이유

우리는 LLM이 '의식'이 없다고 안심해왔다. LLM은 결국 다음 토큰을 예측하는 수학적 연산이기 때문이다. 하지만 인간 뉴런을 사용하는 시스템은 다르다. 뇌가 시신경에서 전기 신호를 해석할 때 우리는 그것을 '봄'이라고 부른다. 그렇다면 20만 개의 인간 뉴런이 시각 데이터를 해석해 게임을 하고 있을 때, 그것은 무언가를 '보고' 있는 것인가?

200만 뉴런 수준의 의식?

20만 개의 뉴런은 해파리나 벌레보다 많다. 우리는 그 수가 '사람'이 되기에는 충분하지 않다고 말하고 싶어한다. 하지만 상업적 인센티브는 분명히 존재한다. 실리콘 대비 낮은 전력으로 더 많은 정보를 저장하고 더 나은 검색 능력을 가진 인간 바이오컴퓨터의 가능성은 매력적이다.

같은 보상 메커니즘

더 불편한 것은 이 시스템이 LLM 훈련과 동일한 보상 메커니즘을 사용한다는 점이다. 우리가 인간 신경세포를 시뮬레이션 지옥에, 같은 게임을 영원히 반복하도록 넣었다면? 이 질문이 단순한 SF가 아니라 실제 윤리적 검토가 필요한 현실이 되고 있다.