RLHF 개척자 폴 크리스티아노, OpenAI 재단 이사회·안전보안위원회 핵심 감독직 동시 합류

정렬 연구자를 감독 구조 한가운데로

인간 피드백 기반 강화학습의 토대를 놓은 폴 크리스티아노가 OpenAI의 모델 개발팀이 아니라 재단 이사회와 안전보안위원회에 합류한다. 프런티어 모델의 능력과 국가안보 위험을 평가해 온 연구자가 회사 전체의 안전·보안 관행을 감독하는 자리에 들어간다는 의미다. 크리스티아노는 OpenAI Group PBC 이사회에도 의결권 없는 참관인으로 참여해 재단의 감독과 영리 조직의 의사결정 사이를 잇는다.

“Paul Christiano is joining the OpenAI Foundation Board and its Safety and Security Committee.”

OpenAI의 원문 게시물은 그가 중요한 결정에서 가정을 반박하고 보호조치를 평가하는 독립적 목소리를 맡는다고 설명한다. 안전보안위원회는 재단 이사 지코 콜터가 의장을 맡고 있으며 OpenAI Group PBC를 포함한 회사 전반의 안전·보안 관행을 감독한다. 크리스티아노의 이사회 의결권 범위와 영리법인에서의 참관인 지위를 구분한 점도 중요하다.

OpenAI 연구팀에서 ARC와 NIST까지

크리스티아노는 2017년부터 2021년까지 OpenAI에서 정렬 연구를 이끌었다. 복잡한 목표를 사람의 선호와 피드백으로 학습시키는 RLHF 분야의 초기 연구에 기여했고, 이후 비영리 연구기관 Alignment Research Center를 설립했다. ARC는 고도 AI 시스템이 인간의 이해관계에 맞게 행동하도록 만드는 기술 문제를 다루며, 특히 모델 평가와 위험 측정에 집중해 왔다.

정부 경력도 이번 인선의 무게를 키운다. 그는 미국 상무부 산하 NIST의 Center for AI Standards and Innovation에서 수석 기술고문으로 일했고, 그 전신인 미국 AI Safety Institute에서도 두 행정부에 걸쳐 프런티어 모델의 국가안보 관련 능력과 완화책을 평가했다. 기업 내부 연구 경험, 독립 연구기관 운영, 정부 표준·평가 업무를 모두 거친 인물이 동일 회사의 감독 기구로 복귀하는 셈이다.

독립성은 권한으로 검증된다

이번 합류는 상징적 인선보다 실제 감독 권한이 얼마나 작동하느냐가 관건이다. 재단 이사회에서는 정식 이사로 활동하지만 Group PBC 이사회에서는 표결권이 없는 참관인이다. 따라서 안전보안위원회가 출시 일정, 위험 평가, 사이버 보호조치 같은 결정에 어떤 자료를 요구하고 어떤 조건을 걸 수 있는지가 독립성의 실질을 가른다. OpenAI가 위원회의 검토 결과와 이견, 경영진이 수용하지 않은 권고를 어느 수준까지 공개하는지도 지켜볼 부분이다.

크리스티아노는 지난 1년간 능력이 빠르게 진전됐지만 정렬은 여전히 어려운 기술 문제라고 말했다. 다음 단계는 그의 합류 이후 안전보안위원회의 구성과 정기 보고 방식이 달라지는지, NIST와 ARC에서 쌓은 평가 기준이 OpenAI의 사전 배포 절차에 반영되는지다. 이사회 자리가 연구적 비판을 제도화하는 통로가 될지, 제한된 참관 역할에 머물지는 첫 주요 모델 출시 검토에서 드러날 가능성이 크다.