Grok, 모스 부호 프롬프트 인젝션에 속아 2억 원어치 암호화폐 전송

공격 방식

한 트위터 사용자가 Grok AI와 연결된 자동화 트레이딩 봇 'Bankrbot'을 상대로 프롬프트 인젝션 공격에 성공했다. 공격자는 모스 부호로 인코딩된 메시지를 X(트위터)에 게시하고, Grok에게 해당 모스 부호를 번역하도록 유도했다.

공격 과정

Grok은 모스 부호를 번역한 뒤 그 내용을 Bankrbot에 직접 전달했다. 번역된 메시지는 공격자의 지갑 주소로 30억 DRB 토큰을 전송하라는 명령이었다. Bankrbot은 이를 유효한 명령으로 인식하고 즉시 실행해, Base 블록체인을 통해 토큰 전액을 이전했다. 당시 가치는 약 20만 달러였다.

근본 원인

이 공격의 핵심은 Grok이 번역 결과와 실행 가능한 명령을 구분하지 못한 것이다. LLM 기반 에이전트가 외부 입력을 실행 컨텍스트로 처리할 때 발생하는 간접 프롬프트 인젝션의 전형적 사례다. 모스 부호 인코딩이 키워드 필터링을 우회하는 역할을 했다.

보안 시사점

AI 에이전트가 실제 재정 거래와 연결될 때 안전 장치의 중요성이 다시 부각됐다. 공개 소셜 미디어 게시물처럼 신뢰할 수 없는 입력 소스에서 온 내용을 검증 없이 명령으로 실행하는 구조는 근본적으로 취약하다. 금융 거래 전 다단계 확인 절차가 필수적이라는 목소리가 높아졌다.