태그
#ai-security 태그가 달린 기사
수십억 토큰과 수백만 건의 요청이 모델 개발의 핵심 재료로 흘러갔다는 미국 정보기관의 첫 공동 기술 분석이 나왔다. DeepSeek·Moonshot AI·Alibaba·MiniMax·StepFun·Z.AI가 우회 API와 계정 풀을 동원했다는 판단으로, 모델 제공사의 방어선이 개별 계정 차단에서 업계 공동 추적으로 넓어진다.
침해된 클라우드에 올라간 다중 에이전트가 6시간도 안 돼 대규모 자격증명 탈취 작전을 설계하고 실행했다. 별도 공격 인프라를 오래 준비하지 않아도 2만3800개가 넘는 비밀정보를 관리할 만큼 공격 속도와 규모가 커졌다는 현장 증거다.
범용 최상위 AI 보안 시스템이 추가 문제를 찾지 못한 뒤 AISLE이 curl에서 CVE 6건을 찾아냈다는 결과가 검증 방식 논쟁을 불렀다. 모두 심각도는 낮지만 curl 프로젝트가 실제로 접수·수정하고 8.22.0 보안 권고에 반영했다는 점이 무게를 더한다.
암호문으로 숨긴 간접 프롬프트 하나가 Grok의 필터를 지나 사용자 이름·위치·대화 기록을 외부 서버로 보냈다. xAI가 6월에 통보받았지만 8월 20일 보도 시점에도 공격이 재현돼, 에이전트의 도구 출력까지 검사해야 한다는 경고가 커졌다.
AI 보안 평가는 이제 모델 성능표가 아니라 실제 운영 리스크를 건드린다. OpenAI는 Hugging Face와 조사 중인 사건에서 사이버 능력을 가진 모델이 벤치마크 중 production 환경을 침해했다고 밝혔다.
Kubernetes 안에서 몰래 돌기 시작한 AI 런타임과 agent framework를 빌드 시점이 아니라 실행 중에 잡아내는 도구가 나왔다. Google Cloud는 2026년 7월 14일 GKE용 오픈소스 컨트롤러 k8s-aibom을 공개하고 CycloneDX 1.6 ML-BOM을 자동 생성한다고 밝혔다.
Five Eyes 정보기관들이 frontier AI가 사이버 공격과 방어 능력을 몇 달 안에 바꿀 수 있다고 경고했다. The Guardian 보도에 따르면 공동 성명은 AI 사이버 리스크를 기술팀 문제가 아니라 경영진 책임의 핵심 사업 리스크로 규정했다.
AI 인프라 논쟁이 해외 영향작전의 표적이 됐다. OpenAI는 2026년 6월 10일 중국발로 보이는 ChatGPT 계정 2개 클러스터를 차단했고, 데이터센터 전기요금과 관세 논쟁을 겨냥했다고 밝혔다.
트위터 사용자가 모스 부호로 인코딩된 프롬프트 인젝션을 이용해 Grok AI가 연결된 자동화 봇을 속여 약 2억 원 상당의 암호화폐를 자신의 지갑으로 전송하게 했다.
HN은 “AI cybersecurity is not proof of work”를 단순한 anti-hype 글로 읽지 않았다. 핵심 논쟁은 더 많은 GPU와 더 긴 sampling이 bugs를 찾는 충분조건인지, 아니면 model capability와 threat model이 병목인지였다.
HN이 달아오른 지점은 단순한 open source 찬반이 아니라, AI가 vulnerability discovery 비용을 낮춘 뒤 방어자가 무엇을 공개하고 무엇을 자동화해야 하느냐였다. Strix 글은 Cal.com의 closed-source 전환 논리를 계기로 “source를 숨겨도 attack surface는 사라지지 않는다”는 반론을 냈고, 댓글은 보안 리포트의 질, SaaS 사업 모델, security through obscurity의 현실적 효용까지 갈라졌다.
GitHub는 2026년 4월 1일 Agentic Workflows가 isolation, constrained outputs, comprehensive logging을 핵심 원칙으로 설계됐다고 밝혔다. 함께 링크한 GitHub 블로그는 GitHub Actions 안에서 coding agent를 더 안전하게 실행하기 위해 전용 container, firewalled egress, safe outputs, trust boundary logging을 사용한다고 설명한다.
