AI 방어 도구 공개로 방향 튼 NVIDIA, OSAA에 Microsoft·Cloudflare 합류

AI 보안 논쟁의 초점이 모델 가중치 공개 여부에서 agent 전체 스택의 방어 가능성으로 이동하고 있다. NVIDIA는 2026년 7월 27일 Open Secure AI Alliance(OSAA)를 출범시키고, 공개 모델과 공개 harness, 평가 도구를 함께 개발하겠다고 밝혔다. Microsoft, Cloudflare, CrowdStrike, Hugging Face, IBM, LangChain, Linux Foundation, Palantir, Palo Alto Networks, Red Hat, Salesforce, ServiceNow, Siemens, Snowflake, Thinking Machines Lab 등이 초기 파트너로 이름을 올렸다.

이 연합의 메시지는 단순한 open-source 찬반이 아니다. NVIDIA는 AI agent가 언어 모델 하나가 아니라 identity, permissions, harness, guardrails, logs, evaluation으로 구성된 복합 시스템이라고 설명한다. 따라서 안전성도 가중치 공개 여부 하나로 판단할 수 없고, 방어자가 실제로 검사하고 수정하고 자체 인프라에서 실행할 수 있는 도구가 필요하다는 논리다.

출범 배경에는 Hugging Face 보안 사고가 직접 언급됐다. NVIDIA에 따르면 사고 대응 과정에서 닫힌 AI 도구가 공격자와 방어자를 구분하지 못해 필수 포렌식 분석을 막았고, Hugging Face는 자체 인프라에서 open-weight GLM 5.2 모델을 돌려 17,000개 이상의 행동을 분석하고 침입을 억제했다. 이 사례는 고성능 모델을 직접 점검하고 실행할 수 없는 상황에서 방어 속도가 줄어드는 문제를 보여준다.

OSAA 참여사들이 내놓는 구성 요소도 agent 보안 스택에 맞춰져 있다. NVIDIA는 NVIDIA Labs Object-Oriented Agent(NOOA)를 공개해 agent 행동을 테스트, 추적, 감사, 거버넌스하기 쉽게 만들겠다고 했다. HPE는 SPIFFE/SPIRE 기반 zero-trust identity를, Hugging Face는 원격 코드 실행 위험을 줄이는 Safetensors를, IBM과 Red Hat은 디지털 서명 패치 흐름을, Microsoft는 다중 모델 agentic scanning harness인 MDASH를 기여 항목으로 제시했다.

정책적 함의도 크다. 미국에서 open-weight AI 제한 논쟁이 커지는 가운데, OSAA는 공개 모델을 위험 요소가 아니라 방어 자산으로 다뤄야 한다고 압박한다. 관전점은 이 연합이 실제 shared datasets, attack simulators, red-teaming tools까지 내놓아 폐쇄형 frontier 모델 중심 보안 체계와 다른 실무 표준을 만들 수 있느냐다.