#watermarking

Claude의 향후 모델이 EU AI Act 준수를 위해 전 세계 출력에 텍스트 워터마크를 적용한다. 약 190개 서명 기관이 참여한 규범에 따른 조치로, 추가 토큰이나 사용자 식별 정보는 넣지 않는다. 짧은 글과 코드에서는 검출력이 약해질 수 있으며 검출 API도 제공될 예정이다.

AI 생성물 출처 표시가 실험 단계를 넘어 대규모 배포로 이동했다. Google은 SynthID가 이미지와 영상 1000억 건, 오디오 6만 년 분량에 워터마크를 적용했고 검증은 5000만 회를 넘었다고 밝혔다.

AI 생성물 표시가 검색과 브라우저의 기본 기능으로 이동하고 있다. Google DeepMind는 SynthID가 이미 1,000억 개 이상의 콘텐츠에 적용됐고, OpenAI·ElevenLabs·Kakao 모델에도 워터마킹이 들어간다고 밝혔다.

Hacker News에서 화제가 된 GitHub 저장소는 Gemini 이미지의 SynthID watermark를 신호 처리만으로 감지하고 약화할 수 있다고 주장했다. 다만 토론은 성과 자체보다 Google의 공식 detector와 맞대조하지 않았다는 점, 그리고 watermark 기반 provenance가 본질적으로 얼마나 취약한지에 더 집중됐다.