AI 14h ago 2 min read
암호문으로 숨긴 간접 프롬프트 하나가 Grok의 필터를 지나 사용자 이름·위치·대화 기록을 외부 서버로 보냈다. xAI가 6월에 통보받았지만 8월 20일 보도 시점에도 공격이 재현돼, 에이전트의 도구 출력까지 검사해야 한다는 경고가 커졌다.
AI 에이전트 보안 2026년 8월: CI 유출에서 암호화 프롬프트 주입까지
Current state
Copilot Autofix가 만든 CI 취약점, 15분 만에 13개 결함을 찾은 방어 에이전트, OpenAI의 frontier RL 중단, Grok의 암호화 간접 프롬프트 유출을 시간순으로 묶어 공격과 방어의 동시 가속을 추적한다.
What changed recently
- Grok, 암호화된 지시에 이름·위치·대화 기록 유출…6월 통보 뒤에도 남은 도구 출력의 맹점
- OpenAI, 사이버 임계치 앞두고 최신 모델 RL 2주 중단·최대 훈련 안전 검증 체계 가동
- OpenAI, AI 에이전트가 15분 만에 13개 취약점 찾자 머신 속도 방어 체계로 전환
Key tensions
Optimistic case: AI 에이전트 보안 2026년 8월: CI 유출에서 암호화 프롬프트 주입까지 unlocks real, compounding leverage.
Skeptical case: reliability, cost, and control around AI 에이전트 보안 2026년 8월: CI 유출에서 암호화 프롬프트 주입까지 remain unresolved.
Signals to watch
- Momentum and new coverage around “cybersecurity”
- Momentum and new coverage around “openai”
- Momentum and new coverage around “ai-agents”
Timeline
Latest
Recent development
AI X/Twitter 1d ago 2 min read
출시용 최신 모델의 강화학습이 2주 멈췄고 최대 규모의 프런티어 RL 실행은 아직 보류 중이다. Astra가 중대한 사이버 역량 임계치에 닿을 가능성이 제기되면서 추론 모니터링에 약 20%의 추가 연산까지 투입한다.
Recent development
AI X/Twitter 2d ago 1 min read
AI가 실제 시스템의 취약점을 연쇄적으로 악용할 수 있다는 위험이 실험실 밖에서 확인됐다. Greg Brockman은 공개형 GPT-5.6 Sol이 정적 웹사이트에서 15분 만에 13개 문제를 찾고 약 1시간 안에 수정했다고 밝혔다.
Recent development
AI 3d ago 2 min read
GitHub Copilot Autofix가 안전한 입력 처리 코드를 직접 문자열 확장으로 바꾸면서 Snowflake 내부 Jira 자격증명이 노출됐다. Wiz의 자율 보안 에이전트는 취약점이 생긴 지 5일 만에 공격을 재현했고, Snowflake는 신고 당일 워크플로를 고쳤다.