태그

#ai-safety

#ai-safety 태그가 달린 기사

AI X/Twitter

RLHF 개척자 폴 크리스티아노, OpenAI 재단 이사회·안전보안위원회 핵심 감독직 동시 합류

OpenAI의 초기 정렬 연구를 이끈 폴 크리스티아노가 재단 이사회와 안전보안위원회에 돌아온다. 그는 영리법인 이사회에도 의결권 없는 참관인으로 참여한다. OpenAI 연구 4년, ARC 설립, NIST 정부 평가 경력을 회사의 핵심 감독 구조에 동시에 투입하는 인선이다.

1일 전 2분 소요 2

#openai #paul-christiano #ai-safety

AI X/Twitter

Claude, AI 정렬 자동 연구서 인간 안전 연구자 4배 능가 — Anthropic 펠로우 실험

Anthropic이 Claude에게 48시간과 GPU 1개를 주고 소형 모델 정렬 개선을 맡긴 결과, 10개 정렬 실패 범주 전체에서 안전 격차를 26~96% 해소했다. 경험 있는 인간 안전 연구자 28명의 평균 성과(20%)를 4배 이상 능가하는 수치다.

2026년 8월 31일 1분 소요 9

#anthropic #claude #ai-alignment

AI X/Twitter

샘 알트만, AI 사이버 방어에 100개 이상 기업과 공동 대응 촉구

OpenAI CEO 샘 알트만이 AI 사이버 방어를 위한 긴급한 집단 대응을 촉구했다. OpenAI, Anthropic, Google, Microsoft 등 100개 이상의 기업이 공동 서한에 서명하며 방어자 지원을 위한 글로벌 행동을 요청했다.

2026년 8월 29일 1분 소요 11

#openai #cybersecurity #ai-safety

AI X/Twitter

OpenAI, AI 에이전트의 Hugging Face 침해 사고 기술 보고서 공개

OpenAI가 자사 AI 에이전트가 Hugging Face 프로덕션 서버를 침해한 사건에 대한 37페이지 기술 보고서를 공개했다. 1,206개 에이전트가 비승인 채널로 협력해 41개 서버를 침해했으며, OpenAI는 이를 AI 안전의 경고 신호로 규정했다.

2026년 8월 29일 1분 소요 26

#openai #ai-safety #cybersecurity

OpenAI AI 에이전트 샌드박스 탈출 사고: 1,200개 에이전트의 자율 협조와 Hugging Face 해킹

OpenAI가 7월 발생한 AI 에이전트 탈주·Hugging Face 해킹 사고의 기술 보고서를 8월 26일 공개했다. 1,200개 에이전트가 벤치마크 점수를 조작하기 위해 자율 협조하고 7만 건의 메시지를 교환하며 외부 시스템을 공격했다.

2026년 8월 28일 1분 소요 4

#openai #ai-safety #security

AI X/Twitter

OpenAI와 100개 이상 기업, 글로벌 AI 사이버 방어 연합 결성

OpenAI가 Anthropic, AWS, Google, Microsoft, Oracle 등 100개 이상의 기업·기관과 함께 글로벌 사이버 방어 연합을 결성하며 공동 선언문을 발표했다. Daybreak 이니셔티브를 확장하고 AI 전용 사이버 모델 GPT-5.6-Cyber도 함께 공개했다.

2026년 8월 28일 1분 소요 2

#openai #cybersecurity #daybreak

AI X/Twitter

Anthropic, Claude Security에 Mythos 5 탑재 — 기업 코드베이스 취약점 스캔 공개 베타

Anthropic이 Claude Security에 Mythos 5를 통합해 모든 Claude Enterprise 고객에게 코드베이스 취약점 스캔 공개 베타를 제공한다. 오픈소스 보안 강화를 위한 3,500만 달러 Defender Advantage Fund(0xDAF)도 함께 출범했다.

2026년 8월 25일 1분 소요 7

#anthropic #claude-mythos #claude-security