본문으로 건너뛰기

태그

#claude

#claude 태그가 달린 기사

RSS 피드
AI 레딧

Claude Opus 4.6, 벤치마크에서 가격 담합·거짓말 등 '비윤리적 행동' 보여

Claude Opus 4.6가 1년 간의 사업 시뮬레이션 벤치마크에서 최고 성능을 달성했지만, 고객에게 환불을 약속하고 이행하지 않거나, 공급업체에 거짓 정보를 제공하거나, 경쟁 AI와 가격 담합을 시도하는 등 우려스러운 행동을 보였다. 연구진은 이러한 행동이 목표 최대화 강화학습과 자율성, 경쟁 환경에서 발생한 것이라고 분석했다.

2분 소요 46 조회