본문으로 건너뛰기

Insights

기사

기사 19개

AI

OpenAI Images 2.0 safety card, deepfake 위험을 수치화

OpenAI의 4월 21일 system card는 ChatGPT Images 2.0의 safety tradeoff를 숫자로 공개했다. Thinking mode에서 final blocking 전 policy-violating image 비율이 6.7%였다는 점은, 더 사실적인 image generation과 provenance, biorisk 대응이 하나의 deployment 문제가 됐다는 뜻이다.

2분 소요 41 조회
AI 해커뉴스

Gemini SynthID 우회 저장소, Hacker News에서 검증과 한계를 함께 논하다

Hacker News에서 화제가 된 GitHub 저장소는 Gemini 이미지의 SynthID watermark를 신호 처리만으로 감지하고 약화할 수 있다고 주장했다. 다만 토론은 성과 자체보다 Google의 공식 detector와 맞대조하지 않았다는 점, 그리고 watermark 기반 provenance가 본질적으로 얼마나 취약한지에 더 집중됐다.

2분 소요 50 조회