프런티어 AI의 안전 약속을 회사 내부 선언이 아니라 외부 검증 대상으로 바꾸는 조치다. Anthropic은 직원급 상시 접근권을 제3자 평가팀에 제공하고, 이를 출발점으로 한 3단계 개발 속도 조절안을 제시했다. 평가자는 훈련 과정과 사고 기록을 확인하고 불리한 결과도 독립적으로 공개할 수 있다.

2026년 9월 13일 3분 소요 1

#anthropic #ai-safety #third-party-evaluation

AI 해커뉴스

“Open source AI must win”, Local AI 논쟁이 다시 뜨거운 이유

짧은 선언문이 크게 확산된 배경에는 폐쇄형 API 의존을 AI 인프라의 운영 리스크로 보는 시각이 있다.

2026년 6월 14일 1분 소요 30

#open-source #local-ai #ai-governance

미국 NS AI 지침, 90일 안에 자율무기·조달 규칙 재작성

미국 백악관의 NSPM-11은 국가안보 영역에서 AI 도입 속도를 높이면서 조달, 자율무기, 보안 검증 규칙을 다시 쓰라고 지시한다. 핵심 시한은 90일과 120일이며, 여러 공급사의 frontier 모델을 빠르게 들여오는 구조가 전면에 놓였다.

2026년 6월 7일 2분 소요 37

#policy #national-security #ai-governance

AI 해커뉴스

Zig의 반 AI 기여 정책, HN이 문화전쟁보다 유지보수 시간표로 읽은 이유

HN은 Zig의 반 AI 기여 규칙을 문화전쟁이 아니라 유지보수 시간 정책으로 읽었다. 리뷰는 코드를 줍는 일이 아니라 믿을 수 있는 사람을 키우는 일이라는 논리가 핵심이었다.

2026년 5월 1일 2분 소요 38

#zig #open-source #llm-policy

AI X/Twitter

남아공 AI 정책 초안 철회… 가짜 AI 생성 참고문헌이 드러낸 정부 AI 검증 체계 공백

정부가 AI를 규제하려는 순간에도 문서 작성 검증은 더 엄격해야 한다는 점을 이 사건이 드러냈다. 남아공은 가짜 참고문헌이 드러나자 첫 국가 AI 정책 초안을 거둬들였고, 여기에 담겼던 3개 신규 기구와 인센티브 구상도 함께 멈췄다.

2026년 4월 29일 1분 소요 36

#south-africa #ai-policy #regulation

Meta, 청소년 Meta AI 대화 주제 7일 로그… 부모 감독 범위 확대

Meta가 Facebook·Messenger·Instagram에서 청소년의 Meta AI 대화 주제를 부모가 7일치까지 볼 수 있게 했다. 5개국부터 시작하며 자해 관련 경보 기능과 전문가 자문 체계도 함께 내놓았다.

2026년 4월 23일 1분 소요 39

#meta #meta-ai #teen-safety

NIST, 배포 후 AI monitoring 지침 토대가 될 AI 800-4 공개

NIST는 commercial·government 환경에서 AI가 실제 운영되기 시작한 만큼 post-deployment monitoring이 핵심 요구사항이 되고 있다고 설명하는 AI 800-4 보고서를 공개했다. 이 문서는 unforeseen outputs, drift, incident tracking, broader real-world effects를 포함한 monitoring practice와 open questions를 체계화한다.

2026년 3월 17일 2분 소요 41

#nist #ai-governance #monitoring

Anthropic, The Anthropic Institute 출범... powerful AI의 사회적 영향 연구 강화

Anthropic는 The Anthropic Institute를 출범시키고 powerful AI가 일자리, 법, governance에 미칠 영향을 다루는 전담 조직을 만들었다. Jack Clark이 이끌며 Frontier Red Team, Societal Impacts, Economic Research를 묶고 Washington, DC 정책 거점도 확대한다.

2026년 3월 13일 1분 소요 51

#anthropic #ai-governance #safety

NIST, 배포된 AI 시스템 모니터링 과제 정리한 AI 800-4 공개

NIST가 2026년 3월 9일 배포 이후 AI 시스템 monitoring 과제를 정리한 NIST AI 800-4를 발표했다. 기능, 운영, human factors, security, compliance, large-scale impacts의 여섯 범주로 이슈를 구조화한 점이 핵심이다.

2026년 3월 12일 2분 소요 45

#nist #standards #monitoring