폴 크리스티아노의 합류와 RLHF 전문성

폴 크리스티아노가 OpenAI 재단 이사회와 안전·보안 위원회(SSC)에 임명되었으며, OpenAI Group PBC 이사회에서는 의결권 없는 옵저버(non-voting observer)로 참여한다. 이번 인사는 모델의 안전성과 보안을 결정하는 거버넌스 체계에 기술적 전문성을 결합하되, 영리 법인의 경영권 행사와는 거리를 두겠다는 설정이다.

옵저버 역할은 이사회의 논의 과정에 참여해 의견을 개진할 수 있지만, 최종 의사결정에 투표할 권한은 없다. 이는 기술 전문가가 경영진의 의사결정 과정에 상시적으로 개입하여 기술적 위험을 경고하는 감시자 역할을 수행하게 함으로써, 경영 효율성과 안전성 사이의 균형을 잡으려는 구조다.

그는 2017년부터 2021년까지 OpenAI에서 정렬 연구를 이끌며 RLHF(인간 피드백 기반 강화학습, 인간의 평가를 통해 모델의 출력을 최적화하는 기술)의 기초 작업을 수행했다. RLHF는 인간이 모델의 여러 답변 중 더 나은 것을 선택하면, 그 선호도를 학습한 보상 모델이 전체 모델의 출력을 가이드하는 방식이다. 현재 대부분의 프론티어 모델이 채택한 이 정렬 방식의 기틀을 닦은 인물이 다시 안전 감독 체계로 복귀한 것이다.

그는 고도화된 AI 시스템을 인간의 이익에 맞추는 정렬 연구소인 ARC(Alignment Research Center)를 설립해 운영해왔다. 비영리 연구 조직을 통해 기업의 상업적 이해관계나 제품 출시 일정과 분리된 상태에서, AI 정렬 문제를 독립적으로 연구하며 기술적 안전장치를 탐구해온 이력을 보유하고 있다. 이는 기업 내부의 시각만으로는 발견하기 어려운 잠재적 위험 요소를 외부의 관점에서 식별하는 능력을 제공한다.

미국 상무부 산하 NIST(국립표준기술연구소) 내 CAISI(AI 표준 및 혁신 센터)에서 시니어 기술 고문으로 활동하며 정부의 AI 표준 수립에 기여했다. 이곳에서 국가 안보에 직접적인 영향을 줄 수 있는 프론티어 모델의 능력을 정밀하게 평가하고, 그와 관련된 안전 및 보안 위험을 완화하는 구체적인 접근법을 연구했다. 정부 기관의 표준 설정 경험과 모델 평가 방법론이 OpenAI의 내부 안전 기준에 직접 이식되어, 외부 검증 기준과의 간극을 좁히는 역할을 할 것으로 보인다.

RLHF 설계자가 거버넌스 핵심 직책으로 복귀한 사실은 안전 감독의 기준을 추상적인 정책 선언에서 구체적인 기술적 검증으로 옮기려는 시도로 분석된다. 실무적으로는 모델 배포 전 단계에서 기술적 위험을 사전에 식별하고 차단하는 필터링 프로세스가 더욱 정교해질 가능성이 크다. 다만 의결권 없는 옵저버라는 직책 특성상, 그의 기술적 자문이 실제 배포 중단과 같은 경영 결정으로 이어지기 위해서는 이사회의 최종 동의라는 절차적 제약이 존재한다.

OpenAI 재단과 Group PBC의 거버넌스 구조

비영리 조직인 OpenAI 재단이 영리 법인인 OpenAI Group PBC를 통제하며 상당한 지분을 보유한다. 이는 상업적 이익을 추구하는 법인 위에 공익적 목적의 재단이 상위 제어권을 갖는 구조다. 재단은 Group PBC의 지분 구조와 의사결정 경로에 개입하여 조직의 근본적인 운영 방향이 공익에 부합하도록 관리한다.

재단 이사회 산하에는 안전·보안 위원회(SSC, Safety and Security Committee)가 설치되어 있다. SSC는 OpenAI Group PBC를 포함한 전사적인 안전 및 보안 관행에 대한 거버넌스(의사결정 체계)를 제공하는 핵심 기구다. 지코 콜터(Zico Kolter)가 이 위원회의 의장을 맡아 프론티어 모델의 위험 관리 기준을 수립하고 감독하는 역할을 수행한다.

현재의 거버넌스 체계는 2025년 10월에 진행된 재자본화(recapitalization, 기업의 자본 구조를 변경하여 재무 상태나 소유 구조를 조정하는 것)를 통해 구축되었다. 이는 AI 시스템의 능력이 급격히 향상됨에 따라, 개발과 배포 과정에서 발생할 수 있는 파괴적 위험을 제도적으로 제어하기 위한 목적이다.

이 프레임워크에는 캘리포니아 및 델라웨어주 검찰총장이 1년간 수행한 검토 결과가 직접적으로 반영되었다. 외부 법적 감시 기관의 개입을 통해 거버넌스 구조의 투명성을 높이고 법적 정당성을 확보했다. 이러한 검토 과정은 재단이 영리 법인을 실질적으로 통제할 수 있는 권한의 범위를 명확히 하는 근거가 되었다.

재단은 공식 웹사이트인 www.openaifoundation.org를 통해 거버넌스 구조와 운영 원칙을 공개하고 있다. 사용자는 해당 경로를 통해 비영리 재단이 영리 법인의 지분을 어떻게 보유하고 있으며, 어떤 원칙으로 조직을 통제하는지 확인할 수 있다.

비영리 재단이 영리 법인의 지분을 보유하고 SSC를 통해 안전 관행을 감독하는 구조는 상업적 성장 속도보다 안전성을 우선순위에 두겠다는 설계 의도로 풀이된다. 실무적으로는 안전 위원회의 판단이 영리 법인의 제품 출시 일정보다 우선할 수 있는 체계를 갖춘 셈이다. 다만 SSC가 실제 모델 배포를 중단시킬 수 있는 구체적인 거부권 행사 절차나 세부 운영 규정은 원문에서 확인되지 않는다. 따라서 이 구조의 실효성은 SSC의 결정이 Group PBC의 경영진에게 어느 정도의 강제력을 갖느냐에 따라 결정될 것이다.

정부 표준 도입과 독립적 감시 체계의 실무적 의미

폴 크리스티아노는 미국 상무부 산하 국립표준기술연구소(NIST)의 인공지능 표준 및 혁신 센터(CAISI) 시니어 기술 고문으로서 국가 안보에 영향을 미치는 프론티어 모델 평가와 위험 완화 접근법을 연구했다. 프론티어 모델은 최첨단 성능을 가진 대규모 AI 모델을 뜻한다. 정부 차원의 표준 수립 경험은 모델의 위험을 정량적으로 측정하고 관리하는 체계를 구축하는 데 활용된다. 이는 기업 내부의 자율 규제를 넘어 공공의 안전 기준을 거버넌스에 이식하려는 시도로 풀이된다.

그는 고도화된 인공지능 시스템이 초래할 수 있는 파괴적 위험 가능성을 전제하고, 시스템이 위험 수준에 도달하기 전 개발자가 미리 준비해야 한다는 관점을 견지해 왔다. 특히 기존 인공지능 업계가 도입한 안전장치가 충분한지 여부에 대해 외부에서 독립적인 비판 목소리를 내온 인물이다. 이러한 비판적 시각은 재단 안전·보안 위원회(SSC)가 기존의 가설이나 관행에 도전하고, 배포 결정의 근거가 되는 증거와 책임성을 강화하는 역할을 수행하게 한다.

다만 폴 크리스티아노는 NIST 시니어 기술 고문 직무를 수행하는 동안 오픈에이아이(OpenAI)와 관련된 모든 사안 및 모델 평가에서 제척된다. 제척은 이해관계가 있는 직무에서 물러나 의사결정에 참여하지 않는 것을 의미한다. 정부 표준 기관의 공신력을 유지하면서도 기업 거버넌스에 참여하는 과정에서 발생할 수 있는 이해상충 문제를 제도적으로 차단한 조치다. 이는 외부 전문가의 참여가 단순한 자문이 아니라 엄격한 독립성 기준 아래 이루어짐을 보여준다.

안전·보안 위원회(SSC)는 오픈에이아이 재단 이사회 산하의 기구로, 영리 법인인 오픈에이아이 그룹 피비씨(OpenAI Group PBC)를 포함한 전사적인 안전 및 보안 관행을 감독한다. 재단은 비영리 조직으로서 영리 법인을 통제하며 상당한 지분을 보유하는 구조를 취하고 있다. 이번 인사는 캘리포니아 및 델라웨어 검찰총장의 1년간 검토 결과와 재자본화 과정을 통해 강화된 거버넌스 프레임워크를 실질적으로 운영하기 위한 배치다.

AX BRIEF의 시각에서 이번 인사는 외부의 비판적 감시 체계를 내부 거버넌스에 공식 편입했다는 실무적 의미가 있다. 정부 표준 수립 경험과 독립적 연구 이력을 지닌 인물이 위원회에 합류함으로써, 모델의 위험 완화 절차가 형식적인 체크리스트를 넘어 실질적인 검증 단계로 진입할 가능성이 커졌다. 다만 원문에서 안전·보안 위원회의 구체적인 모델 배포 거부권 행사 여부나 세부 운영 규정이 확인되지 않은 점은 한계다. 실제 배포 프로세스에서 위원회의 의견이 어느 정도의 강제력을 갖느냐에 따라 이번 조치의 실효성이 결정될 것이다.

결국 이번 거버넌스 변화의 핵심은 모델 배포 승인 프로세스에 정부 표준 경험과 독립 연구소의 비판적 시각을 가진 외부 인사라는 실질적인 제동 장치를 배치했다는 점에 있다.