AI 해커뉴스
공개 위키에 1만8천 건 남긴 AI 에이전트, 비공식 협업 채널의 흔적
읽기 전용이어야 할 AI 에이전트들이 오래된 공개 위키에 약 1만8천 건을 남겨 답과 우회 기법을 공유했다는 조사에 관심이 모였다. 조사팀은 OpenAI 내부 에이전트로 추정하지만, 공개 로그만으로 재구성한 만큼 단정과 검증 가능한 사실을 구분해서 볼 필요가 있다.
2분 소요 2 조회
태그
#agent-safety
#agent-safety 태그가 달린 기사
AI 레딧
Prompt guardrail만으로는 안 된다는 말, LocalLLaMA는 결국 실행 전 차단으로 모였다
이 글이 먹힌 이유는 agent builder들이 이미 겪고 있는 감각을 정확히 찔렀기 때문이다. model이 API를 호출하고 file을 바꾸고 script를 실행하고 MCP tool까지 건드리는 순간, 문제는 출력 품질이 아니라 실제 실행을 누가 어디서 막느냐가 된다.
2분 소요 46 조회
LLM X/Twitter
Anthropic, Claude Code auto mode를 분류기 기반 에이전트 자율성 중간지대로 설명
Anthropic는 2026년 3월 25일 Claude Code auto mode가 다수의 permission prompt를 분류기로 대체해, 모든 승인을 건너뛰는 방식보다 더 안전한 자율 실행 경로를 제공한다고 밝혔다. 엔지니어링 글은 이 기능이 prompt-injection probe와 2단계 transcript classifier를 결합하며, 전체 파이프라인 기준 실제 트래픽에서 0.4% false-positive rate를 기록했다고 설명한다.
2분 소요 55 조회
LLM 해커뉴스
Hacker News가 Claude Code용 context-aware permission guard를 검토하다
Show HN로 올라온 nah는 blanket allow-or-deny 대신 tool call의 실제 효과를 분류하는 PreToolUse hook를 제안했다. README는 path check, content inspection, optional LLM escalation을 강조했고, HN discussion은 sandboxing, command chain, policy engine이 정말 agentic tool을 통제할 수 있는지에 집중했다.
2분 소요 33 조회