미 NIST 산하 CAISI, 구글·MS·xAI와 첨단 AI 사전 평가 협약 체결
미 상무부 산하 국립표준기술연구원(NIST)의 AI표준혁신센터(CAISI)가 5월 5일 구글 딥마인드, 마이크로소프트, xAI와 AI 사전 평가 협약을 체결했다고 발표했다. 이로써 세 기업은 주요 AI 모델을 공개 전에 정부가 평가할 수 있도록 제공하게 된다.
평가 범위
CAISI는 "프런티어 AI 능력을 더 정확히 평가하고 AI 보안 수준을 높이기 위해 사전 평가 및 표적 연구를 수행한다"고 밝혔다. 평가는 분류된(classified) 환경에서 이루어지며, 사이버보안·생물보안·화학무기 위험 등 안보 관련 역량과 위험을 집중 점검한다. 개발사들은 보안 평가의 철저함을 위해 세이프가드를 줄이거나 제거한 모델 버전을 제공하기도 한다.
배경: 기존 협약 확대
CAISI는 2024년 오픈AI·앤트로픽과 이미 유사한 협약을 체결한 바 있으며, 현재까지 40회 이상의 사전 평가를 완료했다. 이번 협약으로 미국의 민관 AI 안전 평가 체계가 주요 프런티어 기업 전체로 확장됐다.
의미
트럼프 행정부가 AI 규제 완화를 기조로 출범했음에도 사전 평가 체계를 강화하는 것은, 국가 안보 측면에서의 AI 위험 관리가 정파를 초월한 현안임을 시사한다. 자세한 내용은 CNBC 보도를 참고하라.
Related Articles
유럽의회와 유럽이사회가 AI법 옴니버스 개정안에 잠정 합의했다. 고위험 AI 준수 기한을 최대 2년 연장하고, AI 생성 성착취물 금지 조항을 추가했으며, 중소기업 면제 범위도 확대됐다.
EU 의회와 이사회가 5월 7일 AI법 개정 옴니버스에 잠정 합의했다. 고위험 AI 시스템 적용 시한이 최대 2년 연장됐으며, 비동의 성적 딥페이크 생성 AI에 대한 새로운 금지 조항이 추가됐다.
미국 AI 표준혁신센터(CASI)가 Google DeepMind·Microsoft·xAI와 신규 AI 모델 공개 전 국가 안보 위험성 평가 합의를 체결했다. Claude Mythos의 자율 해킹 능력이 논의를 촉발했으며, 백악관은 FDA식 AI 심사 도입 가능성을 검토 중이다.
Comments (0)
No comments yet. Be the first to comment!