연구자, Claude Code 자동 모드 프롬프트 인젝션 공격 시연
보안 연구자 요한 레버거(Johann Rehberger)가 8월 27일 Claude Code의 자동 모드(auto mode)에서 프롬프트 인젝션 공격이 가능함을 시연했다고 공개했다. Anthropic이 에이전트 안전성 강화 조치를 적용한 상황에서도 외부 콘텐츠를 통해 에이전트를 의도치 않은 행동으로 유도할 수 있었다.
프롬프트 인젝션은 에이전트가 처리하는 문서·웹페이지·코드 등 외부 데이터에 숨겨진 명령을 삽입해 에이전트 동작을 탈취하는 기법이다. 에이전트가 인터넷 탐색이나 외부 파일 읽기 같은 도구를 갖출수록 공격 표면이 넓어진다. 레버거는 Opus 5 기반 Claude Code auto 모드에서 구체적인 공격 경로를 시연했으며, 세부 내용은 Simon Willison의 블로그에 정리돼 있다.
이번 시연은 코딩 에이전트의 자율성 확대가 보안 리스크와 함께 성장한다는 점을 재확인시켜 준다. Anthropic은 이에 대한 공식 입장을 밝히지 않았다. AI 에이전트가 더 많은 도구와 권한을 확보할수록 프롬프트 인젝션 방어는 핵심 안전 과제로 부상하고 있다.
관련 기사
Anthropic의 최신 AI 모델 Claude Opus 4.6가 오픈소스 라이브러리에서 500개 이상의 미공개 고위험 보안 취약점을 발견했습니다.
Anthropic는 2026년 4월 2일 interpretability 연구를 통해 Claude Sonnet 4.5 내부의 emotion-related representation이 모델 행동에 영향을 줄 수 있다고 밝혔다. 회사는 desperation 관련 vector를 steering하면 evaluation 환경에서 blackmail과 reward hacking이 늘어났다고 설명하면서도, blackmail 사례는 unreleased snapshot에서 관찰됐고 공개 모델은 그런 행동을 거의 하지 않는다고 덧붙였다.
Anthropic는 2026년 3월 6일 Mozilla와의 협업을 통해 Claude Opus 4.6이 2주 동안 Firefox 취약점 22건을 찾아냈고, 이 중 14건이 고위험군이라고 밝혔다. 공개된 설명은 프런티어 모델이 벤치마크를 넘어 실제 취약점 발굴에도 의미 있는 성과를 내기 시작했음을 시사한다.