AI 리더들의 '종말' 경고—미디어 학자가 분석한 하이프의 구조

Anthropic 정렬 책임자의 발언

Anthropic의 정렬 과학 책임자 Evan Hubinger는 최근 BBC에서 AI가 10년 내 인류를 절멸시킬 확률이 10% 이상이라고 밝혔다. 이는 OpenAI와 Anthropic을 모두 거친 연구원 Jacob Coxon(27세)의 사직서가 계기였다. Coxon은 "두 회사 모두 자기 개선형 초지능으로 질주하며 우리의 삶을 도박판에 올려놓고 있다"고 썼다.

장르로서의 '둠' 발언

미디어 학자 Erkan Saka는 이 발언들을 개인적 고백이 아니라 하나의 안정적 장르로 분석한다. 2023년 5월, AI 안전 센터가 "AI로 인한 절멸 위험 완화를 핵심 글로벌 과제로 삼아야 한다"는 단 한 문장을 발표했을 때, 서명자 중에는 Sam Altman, Demis Hassabis, Dario Amodei가 있었다—AI를 실제로 만드는 세 최고 책임자들이다. Meta의 리더들은 서명하지 않았고, Yann LeCun은 "AI 연구자들의 가장 일반적인 반응은 손으로 얼굴을 가리는 것"이라고 답했다.

청문회와 복도에서의 이중 플레이

같은 달 Altman은 미국 상원에서 AI 라이선스 제도를 요구했다. 그러나 유럽 순방 중 EU AI 법안이 "과잉 규제"라며 철수를 시사했다가 여론 반발로 48시간 만에 번복했다. 자유정보법 문서에 따르면 OpenAI는 브뤼셀에서 GPT-3 같은 범용 시스템을 "고위험" 범주에서 제외하도록 로비했고, 그 제안 중 일부가 최종 법안에 반영됐다.

p(doom)의 수사적 구조

Amodei는 여러 차례 자신의 p(doom)을 10~25%로 제시했다. 2025년 9월 Axios 서밋에서는 "25% 확률로 상황이 매우 나빠지고, 75% 확률로 매우 좋아질 것"이라고 말했다. Saka는 이 숫자 구조를 주목한다. 공포와 가속 모두를 동시에 정당화한다는 것이다. 2026년 현재 AI·크립토 연계 슈퍼팩이 단일 선거 사이클에서 3억 2,200만 달러 이상을 모았고, AI 안전은 선거 자금 카테고리가 됐다.

비판의 핵심

Saka의 비판은 이 발언들이 거짓이라는 것이 아니다. 그것들이 세상에서 하는 역할이 문제다. 종말론적 프레임이 실제로 진행 중인 노동 시장 충격, 저작권 침해, 허위 정보 등 덜 화려하지만 이미 발생 중인 피해에 대한 논의를 밀어내고 있다는 지적이다.