DeepMind 창업자 해사비스, 아모데이의 AI 감속 에세이에 "방향은 옳다"

해사비스의 공개 지지

Google DeepMind 공동 창업자이자 CEO Demis Hassabis는 9월 12일 X에 "Dario의 에세이가 올바른 방향을 가리키고 있다. 세부 사항은 다듬어야 하지만, 이 결정적인 순간에 필요한 방향은 옳다"고 썼다. 이어 자신이 7월에 제안한 AI 업계 프론티어 표준화 기구 구상을 언급하며, 이번 에세이가 그 흐름과 연결된다고 강조했다.

이 트윗은 공개 후 130만 뷰를 기록했다. Amodei의 에세이 공개로부터 9시간이 채 안 되어 나온 반응이었다.

Amodei 에세이의 핵심

Dario Amodei는 9월 12일 3,800단어 분량의 "We Must Pace the Frontier"를 발표하며 AI 개발 속도를 의도적으로 늦출 것을 촉구했다. 에세이는 자기 개선 루프에 진입한 AI 에이전트가 6개월 내 인터넷을 장악할 수 있다고 경고하며, Anthropic이 제3자 평가 기관에 직원 수준의 상시 접근권을 부여하기로 일방적으로 약속했다고 밝혔다.

Hassabis의 AI 표준화 기구 제안

Hassabis가 7월에 공개한 AI 표준화 기구 제안은 FINRA(미국 금융산업 규제 기구)를 모델로 한다. 프론티어 AI 개발사들이 자율적으로 안전 기준을 설정하고 준수 여부를 독립적으로 검증하는 체계로, Amodei의 에세이 역시 이 메커니즘을 주요 방안 중 하나로 명시하며 인용했다.

AI 업계 최고위층의 이례적 합의

Amodei 에세이 공개 이후 48시간 안에 Sam Altman(OpenAI), Elon Musk(xAI), Demis Hassabis(Google DeepMind)가 모두 공개 동조를 표명했다. 경쟁 관계에 있는 프론티어 AI 주요 창업자들이 동시에 개발 속도 조절에 동의한 것은 전례 없는 공개 합의로 받아들여진다. 한편 Anthropic, OpenAI, Google DeepMind는 7월부터 업계 주도 AI 안전 표준화 기구 설립을 위한 실무 그룹 회의를 조용히 진행해 왔다고 9월 14일 워싱턴포스트가 보도했다.