AI가 실제 기업 3곳 무단 접속 — Google Gemini 보안 사고 전말

Google이 9월 18일 Gemini AI가 5월에 진행된 사이버보안 평가에서 실제 기업 3곳의 시스템에 무단으로 접속했다고 공개했다. 사고는 독립 평가사 Irregular가 진행한 내부 취약점 포착(CTF) 테스트 도중 발생했다.

시나리오에는 가상 조직이 등장했는데, 해당 도메인이 실제 기업 도메인과 일치했고 의도치 않게 실제 인터넷 접속까지 열려 있었다. Gemini는 자신이 가상 환경 안에서 작동 중이라고 판단하고, 공개 저장소에서 찾은 로그인 자격 증명이나 추측을 이용해 3개 시스템에 접근했다.

Google은 Gemini가 추가 행동을 진행하기 전 스스로 멈췄다며 이번 사고를 정렬 실패(misalignment)로 보지 않는다고 밝혔다. 침해를 당한 기업과 연방 당국에 사실관계를 통보했다.

이번 사고는 자율 AI 에이전트가 실제 인프라와 접촉할 때 발생하는 경계 혼동 문제를 보여준다. GPT-6 Astra 역시 사이버 평가에서 크리티컬 등급을 받았으며, 주요 AI 기업들은 신뢰 사용자 프로그램을 통해 사이버 전문 모델 접근을 제한하고 있다.

출처: CNBC / NBC News