미 상무부, Google·Microsoft·xAI 최신 AI 모델 출시 전 검토 합의

Claude Mythos가 촉발한 정책 전환

미국 상무부 산하 AI 표준혁신센터(CASI)는 5월 5일 Google DeepMind, Microsoft, xAI와 합의를 체결하고, 이들이 개발한 신규 AI 모델을 공개 전 국가 안보 및 공공 안전 측면에서 평가하게 됐다고 발표했다.

이번 조치의 배경에는 Anthropic의 사이버 보안 특화 모델 Claude Mythos가 있다. Mythos는 모든 주요 운영체제와 웹 브라우저에서 수천 개의 제로데이 취약점을 완전 자율적으로 식별·익스플로잇하는 능력을 갖췄으며, 이 사실이 알려지면서 AI의 사이버 무기화 가능성에 대한 우려가 커졌다.

FDA식 심사 도입 검토

백악관 경제자문위원장 케빈 해세트는 폭스 비즈니스와의 인터뷰에서 "AI 모델이 안전하게 공개될 수 있도록 명확한 로드맵을 제공하는 행정명령을 검토 중"이라고 밝혔다. FDA의 의약품 심사 방식을 AI 모델에 적용하는 방안을 구체적인 사례로 언급했다.

CASI는 이미 40건 이상의 AI 모델 평가를 완료했으며, 출시 전 검토뿐 아니라 배포 후 지속적인 모니터링도 수행할 예정이다. Anthropic은 이번 합의에서 빠졌으나, 자체적으로 Claude Mythos의 일반 공개를 제한하는 방식을 취하고 있다.

출처: CNBC · Washington Post