Numbat, coding agent 보안에 52개 내장 규칙과 실행 전 차단 hook을 더한 의미
Original: Numbat Adds Cross-Harness Detection and Response for AI Agents View original →
Agent 보안이 endpoint로 내려왔다
AI coding agent는 이제 명령을 실행하고, 파일을 읽고, 도구를 호출하며, 긴 session 동안 작업한다. Perplexity의 7월 29일 X 게시물은 이 위험에 대한 공개 도구로 Numbat을 제시했다. 트윗은 Numbat을 "an agent-detection and response layer that is designed to work across agent harnesses"라고 설명했다. 보안팀이 agent activity를 볼 수 있고, 특정 action을 실행 전에 차단할 수 있다는 내용이다.
연결된 연구 글은 구조를 더 구체적으로 설명한다. Numbat은 macOS, Linux, Windows에서 동작하는 가벼운 static Go binary다. agent harness와의 접점은 hook, session artifact, OTLP telemetry 세 가지다. hook은 agent action 전에 실행돼 위험한 동작을 막을 수 있다. session artifact는 agent별 dot directory에 남은 기록을 읽어 과거 실행도 재구성한다. OTLP 수집은 기본적으로 localhost에서 동작해 telemetry가 device 밖으로 나가지 않게 한다.
Perplexity 계정은 검색 제품, 연구, agentic system 인프라를 자주 공유한다. 이번 공개가 중요한 이유는 AI agent를 prompt 정책의 대상이 아니라 endpoint 보안의 대상으로 다룬다는 점이다. Perplexity는 내부적으로 Claude Code, Codex, OpenCode, Pi 같은 client-side coding agent 사용을 보호하는 데 Numbat을 쓴다고 밝혔다.
가장 구체적인 숫자는 52개 내장 rules다. 이 규칙들은 11개 behavior categories와 multi-step sequence detection으로 구성되며, secret access, exfiltration, privilege escalation, lateral movement를 다룬다. 예를 들어 sudoers policy 쓰기나 NOPASSWD grant 설치 시도를 잡는 규칙이 있고, secret manager 읽기 이후 data-bearing curl 또는 wget 요청이 이어지는 sequence도 탐지한다.
다음 관전점은 Numbat이 여러 coding agent를 동시에 쓰는 회사들의 공통 통제층이 될 수 있는지다. 원문은 Perplexity의 X 게시물이고, 자세한 구성은 Numbat 연구 글에 있다.
Related Articles
NVIDIA가 Microsoft, Cloudflare, Hugging Face, Palantir 등과 Open Secure AI Alliance를 띄웠다. 핵심은 AI agent 보안을 닫힌 모델 접근권이 아니라 공개 모델, harness, 평가 도구로 방어하겠다는 주장이다.
취약점 탐지의 병목이 “가장 센 모델”에서 “어떤 작업을 어떤 모델에 맡길 것인가”로 옮겨간다. Microsoft는 MAI-Cyber-1-Flash와 MDASH 조합이 CyberGym 95.95%를 기록하고 기존 MDASH 구성보다 비용을 약 50% 줄인다고 공개했다.
r/MachineLearning에서 반응을 얻은 IronClaw는 sandboxed tool execution, encrypted credential handling, database-backed policy controls를 중심에 둔 Rust 기반 AI agent runtime이다. 이 글이 주목받은 이유는 agent security를 prompt 문제보다 systems 문제로 다루기 때문이다.