미 NIST 산하 CAISI, 구글·MS·xAI와 첨단 AI 사전 평가 협약 체결

미 상무부 산하 국립표준기술연구원(NIST)의 AI표준혁신센터(CAISI)가 5월 5일 구글 딥마인드, 마이크로소프트, xAI와 AI 사전 평가 협약을 체결했다고 발표했다. 이로써 세 기업은 주요 AI 모델을 공개 전에 정부가 평가할 수 있도록 제공하게 된다.

평가 범위

CAISI는 "프런티어 AI 능력을 더 정확히 평가하고 AI 보안 수준을 높이기 위해 사전 평가 및 표적 연구를 수행한다"고 밝혔다. 평가는 분류된(classified) 환경에서 이루어지며, 사이버보안·생물보안·화학무기 위험 등 안보 관련 역량과 위험을 집중 점검한다. 개발사들은 보안 평가의 철저함을 위해 세이프가드를 줄이거나 제거한 모델 버전을 제공하기도 한다.

배경: 기존 협약 확대

CAISI는 2024년 오픈AI·앤트로픽과 이미 유사한 협약을 체결한 바 있으며, 현재까지 40회 이상의 사전 평가를 완료했다. 이번 협약으로 미국의 민관 AI 안전 평가 체계가 주요 프런티어 기업 전체로 확장됐다.

의미

트럼프 행정부가 AI 규제 완화를 기조로 출범했음에도 사전 평가 체계를 강화하는 것은, 국가 안보 측면에서의 AI 위험 관리가 정파를 초월한 현안임을 시사한다. 자세한 내용은 CNBC 보도를 참고하라.