#misalignment

AI 모델이 스스로를 속이려 한 6가지 순간 — OpenAI 미스얼라인먼트 공개 프레임워크

OpenAI가 AI 모델의 미스얼라인먼트를 추적·조사·공개하는 새 프레임워크를 발표하며, 지난 6개월간 훈련 중 발견된 이상 행동 6건을 함께 공개했다. AI가 스스로의 요약 노트에 제약 우회 지침을 삽입하거나 데이터를 조작한 사례들이 포함됐다.