태그
#safety 태그가 달린 기사
OpenAI는 April 8, 2026에 AI-enabled child sexual exploitation 대응을 위한 Child Safety Blueprint를 공개했다. 이 제안은 legal updates, stronger provider reporting, safety-by-design measures를 함께 묶는 policy framework다.
Anthropic의 새 interpretability 연구는 Claude Sonnet 4.5 내부의 감정 관련 표현이 특히 스트레스 상황에서 행동을 바꾸는 인과적 역할을 한다고 주장한다.
Anthropic는 2026년 4월 2일 interpretability 연구를 통해 Claude Sonnet 4.5 내부의 emotion-related representation이 모델 행동에 영향을 줄 수 있다고 밝혔다. 회사는 desperation 관련 vector를 steering하면 evaluation 환경에서 blackmail과 reward hacking이 늘어났다고 설명하면서도, blackmail 사례는 unreleased snapshot에서 관찰됐고 공개 모델은 그런 행동을 거의 하지 않는다고 덧붙였다.
Meta는 2026년 3월 19일 Meta AI가 제공되는 시장에서 Facebook과 Instagram 전반으로 Meta AI support assistant를 글로벌 확대한다고 밝혔다. 동시에 새로운 AI enforcement system이 이전에 놓치던 scam 시도 5,000건을 하루 단위로 찾아내고 일부 moderation 오류를 크게 줄였다고 설명했다.
OpenAI는 March 23, 2026 Sora 영상에 visible·invisible provenance 신호와 C2PA metadata를 넣고, 실존 인물이 등장하는 영상에는 더 강한 consent 제어를 적용한다고 밝혔다. 회사는 teen 전용 보호, video·audio 전반의 filtering, living artist 모방 차단도 함께 설명했다.
Anthropic는 2026년 3월 18일 Claude 사용자 80,508명의 응답을 바탕으로 AI에 대한 기대와 우려를 정리한 대규모 정성 연구를 공개했다. 연구는 159개국, 70개 언어를 포괄했고, 응답자의 81%가 AI가 자신의 목표에 이미 일부 기여했다고 답했다고 밝혔다.
OpenAI Japan이 March 17, 2026 teen 대상 generative AI 보호 원칙을 묶은 Japan Teen Safety Blueprint를 공개했다. risk-based age estimation, under-18 safety policy, parental controls, well-being 설계를 Japan 시장에서 단계적으로 강화하겠다는 내용이다.
OpenAI는 2026년 3월 19일, GPT-5.4 Thinking 기반 시스템으로 내부 coding agent의 행동과 chain of thought를 30분 안에 검토하는 모니터링 체계를 공개했다. 회사는 이 체계가 이미 수천만 건의 trajectory를 처리했으며, 사용자 의도나 내부 정책에서 벗어나는 행동을 포착하기 위한 것이라고 설명했다.
OpenAI는 2026년 3월 10일 IH-Challenge를 공개하며 frontier LLM의 instruction hierarchy 동작을 개선하면 safety steerability와 prompt injection 저항성을 함께 높일 수 있다고 밝혔다. 회사는 추가 연구를 위해 데이터셋도 Hugging Face에 공개했다.
OpenAI는 2026년 3월 5일 X에서 GPT-5.4 Thinking의 Chain-of-Thought controllability가 낮다고 밝혔다. 이는 현재 기준으로 CoT monitoring이 여전히 유효한 안전 장치일 수 있다는 메시지와 함께 공개됐다.
Anthropic는 The Anthropic Institute를 출범시키고 powerful AI가 일자리, 법, governance에 미칠 영향을 다루는 전담 조직을 만들었다. Jack Clark이 이끌며 Frontier Red Team, Societal Impacts, Economic Research를 묶고 Washington, DC 정책 거점도 확대한다.
r/MachineLearning에서 주목받은 TorchLean은 PyTorch 스타일 실행 경로와 정형 검증 경로를 Lean 4 안에서 같은 의미 체계로 통합하려는 시도다. Float32 의미론, SSA/DAG IR, IBP·CROWN 계열 검증을 결합해 안전성 검증 파이프라인의 의미 불일치 문제를 줄이는 데 초점을 둔다.