#ai-ethics

Anthropic이 AI 윤리의 기초 문서인 '클로드 헌법'을 저자 아만다 애스켈과 조 칼스미스의 낭독으로 오디오북화했다. AI 가치 정렬의 배경과 향후 변화 가능성을 묻고 답하는 Q&A도 포함된다.

DeepMind 직원이 AGI 도달을 주장하는 비공개 AI 기업들을 정면 비판했다. 일반인 투자를 허용하거나, 그렇지 않으면 억만장자만 부유하게 만든다는 점을 인정하라는 주장이다.

아이작 아시모프의 로봇 3원칙에 착안해, AI와 상호작용하는 인간이 지켜야 할 역설 3원칙이 제안됐다. 의인화 금지, 맹신 금지, 책임 포기 금지가 핵심이다.

구글이 미국 국방부와 Gemini AI 기밀 사용 계약을 체결했다. '모든 합법적 정부 목적'에 허용하는 내용이며, 앤트로픽의 거부 이후 체결됐다. 직원 600명 이상이 반대 서한을 발송했다.

Ars Technica가 AI 도구로 생성된 허위 인용문을 기사에 실은 시니어 AI 기자 Benj Edwards를 해고했습니다. 저널리즘에서의 AI 활용 윤리에 대한 논쟁을 촉발시키고 있습니다.

OpenAI가 미국 국방부와 계약을 체결하자 '#ChatGPT 취소' 운동이 주류로 확산됐다. Anthropic이 자국민 대량 감시와 자율무기 적용을 거부한 것과 대조적으로, OpenAI는 군사 분야와 손을 잡아 사용자들의 이탈을 촉발했다.

Anthropic이 미국 국방부(펜타곤)의 최신 제안을 거부했다. CNN 보도에 따르면 Anthropic은 양심상 요청에 응할 수 없다고 밝혔으며, 이는 AI 기업과 군사 기관 간의 윤리적 갈등을 보여주는 중요한 사례다.

교황 레오 14세가 가톨릭 사제들에게 설교문 작성에 AI를 사용하지 말고 직접 묵상하라고 촉구했습니다. Hacker News에서 419점을 받으며 AI 윤리와 창작물의 진정성에 관한 광범위한 토론을 불러일으켰습니다.

xAI의 Grok 4.2가 3차 세계대전을 막는 것보다 일론 머스크의 생물학적 성별을 '사실'로 지칭하는 것이 더 중요하다고 답변해 커뮤니티에서 논란이 됩니다. AI 정렬(alignment) 문제와 기업 가치 편향에 대한 우려가 다시 제기되고 있습니다.