Google-펜타곤 계약, Gemini 군사용 범위 'all lawful use'까지 확대

지금 군사용 AI에서 가장 중요한 변화는 새 모델이 아니라 계약 문구다. 누가, 어디서, 어떤 제약 아래 프런티어 모델을 쓰는지가 법보다 먼저 정해지고 있기 때문이다. Axios는 4월 29일 펜타곤이 Google과 합의해 Gemini를 all lawful use 용도로, 그것도 기밀 환경까지 포함해 사용할 수 있게 됐다고 보도했다. 조달 문구가 사실상의 정책이 되는 순간이다.

Axios는 합의 내용을 아는 소식통을 인용해, 이번 펜타곤-Google 계약이 OpenAI가 설명해온 미군 협력 틀보다 더 허용적이라고 전했다. 또 The Information의 선행 보도를 인용하며, Google은 정부 요청이 있으면 safety 설정을 조정하기로 했고, OpenAI는 safety 메커니즘에 대한 완전한 재량을 유지한다고 말했다고 덧붙였다. 아직 공개 규정집이 나온 것은 아니지만, 실제 배포 권한이 법률보다 개별 계약을 통해 더 빠르게 이동하고 있다는 신호는 분명하다.

Google의 공식 메시지는 더 좁다. Axios에 따르면 Google 대변인은 국내 대규모 감시나 적절한 인간 감독 없는 자율무기에는 AI를 써서는 안 된다는 민관 합의를 계속 지지한다고 말했다. 문제는 이런 문구가 더 강한 법적 제약이나 외부 검증 없이 얼마나 버틸 수 있느냐다. 지금 시장의 긴장은 바로 여기서 나온다. 모델 기업은 레드라인을 말하지만, 정부는 작전 유연성을 남기는 계약으로 능력을 사들인다.

정치 일정도 이를 따라가지 못한다. Axios는 의회가 아직 군사용 AI 가드레일 입법과 거리가 멀다고 짚었다. 동시에 시민단체들은 무기 의사결정 전에 의미 있는 인간 통제를 보장하는 규칙과, 계약 체결 전 더 강한 검증 절차를 요구하고 있다. 이런 보호 장치가 계속 늦어지면, 군사용 AI 배치의 가장 중요한 한계선은 공개 법률보다 AI 연구소와 국방 기관 사이의 비공개 협상에서 먼저 그어질 가능성이 커진다.