OpenAI, CoT-Controllability 평가 공개… GPT-5.4 Thinking의 추론 은닉 능력 제한적이라고 발표
OpenAI는 Chain-of-Thought controllability 평가 세트와 연구 문서를 공개했다고 밝혔다. 회사는 GPT-5.4 Thinking이 추론 과정을 의도적으로 숨기는 능력이 낮게 나타났으며, CoT 모니터링이 여전히 안전성 도구로 유효하다고 설명했다.
원문: We're publishing a new evaluation suite and research paper on Chain-of-Thought (CoT) Controllability. We find that GPT-5.4 Thinking shows low ability to obscure its reasoning—suggesting CoT monitoring remains a useful safety tool. 원문 보기 →
안전성 연구 업데이트
OpenAI는 2026년 3월 5일 X를 통해 Chain-of-Thought(CoT) Controllability를 주제로 한 신규 평가 세트와 연구 문서를 함께 공개했다고 밝혔다. 핵심 주장는 GPT-5.4 Thinking이 평가 환경에서 자신의 추론 과정을 의도적으로 은닉·위장하는 능력이 낮게 관찰됐다는 점이다.
회사는 이를 근거로 CoT 모니터링이 실무 안전성 체계에서 여전히 유용한 감시 장치가 될 수 있다고 설명했다.
1차 출처 기준 확인 사항
- OpenAI X 게시물은 평가 세트와 논문 동시 공개를 명시한다.
- OpenAI News RSS의 동명 항목은 “추론 모델이 chain of thought를 통제하는 데 어려움을 보인다”는 요지를 안전성 측면의 긍정 신호로 정리한다.
- 게시 시점은 GPT-5.4 발표일(2026-03-05)과 동일 구간으로, 모델 출시와 안전성 커뮤니케이션이 병행됐다.
실무적 의미
고위험 도메인에서 모델을 운영하는 팀에게 핵심은 감사 가능성이다. 모델이 중간 추론 흔적을 체계적으로 숨기기 어렵다면, 이상 행동 분석과 사후 점검에서 CoT 로그의 가치가 유지될 가능성이 있다.
다만 해당 결과는 공급사 자체 평가에 기반한 발표다. 실제 일반화 가능성은 외부 재현, 적대적 테스트, 운영 환경별 검증을 통해 확인해야 한다.
관련 기사
GPT-6 Astra, Pro·Enterprise·API 전면 개방과 불투명 추론 논란
OpenAI가 9월 4일 GPT-6 Astra를 ChatGPT Pro, Enterprise, Business Premium 전 사용자와 API에 공개했다. 컴퓨터 사용·소프트웨어 엔지니어링 최고 성능을 주장하지만 추론 과정을 외부에서 관찰하기 어려운 '불투명 재귀' 방식을 도입해 안전성 우려도 제기됐다.
GitHub, VS Code와 Copilot CLI에 GPT-5.4 롤아웃 시작
GitHub는 2026년 3월 5일 GPT-5.4가 GitHub Copilot에서 일반 제공 단계로 전환돼 순차 배포 중이라고 밝혔다. 회사는 초기 테스트에서 더 높은 성공률과 복잡한 도구 의존형 작업에서의 향상된 논리 추론·실행 성능을 확인했다고 설명했다.
OpenAI, GPT-5.4를 ChatGPT·API·Codex 전반에 동시 롤아웃 시작
OpenAI는 GPT-5.4 Thinking과 GPT-5.4 Pro를 ChatGPT에 순차 배포하고, GPT-5.4를 API와 Codex에서 제공한다고 밝혔다. 이번 발표는 추론·코딩·에이전트 워크플로우를 하나의 프런티어 모델로 통합하려는 방향을 보여준다.