폴 크리스티아노, OpenAI 재단 이사회 및 안전·보안 위원회 합류
OpenAI는 폴 크리스티아노를 재단 이사회와 안전·보안 위원회에 임명했으며, 그는 OpenAI Group PBC에서 옵서버 역할을 맡게 된다.
목차 · 11
OpenAI는 2026년 9월 9일 정렬 연구자 폴 크리스티아노를 OpenAI 재단 이사회에 임명했다. 이로써 그는 회사의 영리 공익법인을 통제하는 비영리 기구에 참여하게 된다. 그는 또한 OpenAI 모델이나 AI 시스템에 대해 완화 조치를 요구하고 출시를 중단할 공식 권한을 가진 재단의 안전·보안 위원회에 합류한다.
크리스티아노는 OpenAI Group PBC의 의결권 있는 이사가 되지는 않는다. 대신 그는 의결권 없는 옵서버로 이사회에 참석한다. 이 구분은 그가 영리 회사의 이사회 수준 논의에 접근할 수 있게 하는 한편, 의결권은 지배 비영리 조직 내에 두기 때문에 중요하다.
이번 임명으로 전 OpenAI 정렬 책임자이자 미국 정부의 프런티어 모델 평가자가 회사의 가장 중요한 감독 직위 중 하나에 들어가게 됐다. 다만 이 자체로 OpenAI의 모델, 제품, 출시 일정 또는 안전 임계값이 바뀌는 것은 아니다.
1. 크리스티아노가 맡는 세 가지 연계된 거버넌스 역할
크리스티아노는 이사로서 OpenAI 재단 이사회에, 위원으로서 재단 이사회의 안전·보안 위원회에, 그리고 의결권 없는 옵서버로서 OpenAI Group PBC 이사회에 합류한다.
재단은 단순히 OpenAI의 자선 부문이 아니다. 2025년 10월 완료된 구조에 따라 재단은 특별 의결권과 거버넌스 권리를 통해 OpenAI Group PBC를 통제한다. 재단은 Group 이사회의 모든 이사를 임명하며, 언제든 이들을 교체할 수 있다.
OpenAI의 현행 거버넌스 페이지에는 재단 이사 11명이 올라와 있다. 회사는 크리스티아노를 포함한 10명을 독립 이사로 설명하며, 여기에 CEO 샘 올트먼이 포함된다. 브렛 테일러는 재단과 Group 이사회를 모두 의장으로 이끈다.
대부분의 재단 이사는 OpenAI Group 이사도 겸임해 왔다. 안전·보안 위원회 의장인 지코 콜터는 초기에는 재단 이사로만 활동하고 Group 이사회 회의에는 의결권 없는 옵서버로 참석한 예외였다. 크리스티아노의 임명으로 이와 같은 분리 역할이 하나 더 생겼다.
이 구조에서 크리스티아노는 지배 비영리 이사회에서는 의결권을 가지지만, 영리 회사에서의 옵서버 자격으로는 의결권이 없다. 옵서버는 이사회 수준의 정보 흐름과 심의에 참여할 수 있지만, 임명 발표는 크리스티아노에게 Group 의사결정에 대한 개인적 거부권을 부여하지 않는다.
그의 위원회 참여는 일반적인 자문 직위보다 더 중요하다. 안전·보안 위원회가 OpenAI의 기업 거버넌스 체계를 통해 위임된 권한을 행사하기 때문이다. 크리스티아노는 2024년 OpenAI가 위원회 의장으로 임명한 콜터와 함께 활동하게 된다.
2. 안전 위원회는 모델 출시 개입 권한을 가진다
OpenAI는 2024년 안전·보안 위원회를 설립했으며, 처음에는 안전 및 보안 절차를 검토하도록 맡겼다. 90일간의 검토 후 회사는 이를 모델 개발 및 배포 전반의 안전과 보안을 담당하는 독립적 이사회 감독 위원회로 전환했다.
OpenAI는 위원회가 주요 모델 출시의 평가에 관한 브리핑을 받고, 기술 평가와 출시 후 모니터링을 검토하며, 전체 이사회와 함께 출시 감독에 참여한다고 밝혔다. 또한 위원회와 이사회는 식별된 안전 우려가 해소될 때까지 출시를 연기할 수 있다고 말했다.
이 권한은 이후 OpenAI의 2025년 자본 재구조화 과정에서 더 명시적으로 기록됐다. OpenAI와 캘리포니아주 법무장관이 서명한 양해각서는 위원회가 PBC가 아닌 비영리 조직의 일부로 남으며, 안전 및 보안과 관련된 Group의 조치에 대해 실질적인 승인권을 가진다고 명시한다.
양해각서는 적용되는 OpenAI의 위험 임계값상 출시가 허용되는 경우에도 위원회가 “모델 또는 AI 시스템의 출시 중단을 포함한” 완화 조치를 요구할 수 있다고 밝힌다. OpenAI는 이 권한에 중대한 변경이 있을 경우 캘리포니아주 법무장관에게 사전 통지해야 한다.
이 합의는 또한 기업의 안전 및 보안 사안을 다룰 때 PBC 이사회가 주주의 재정적 이익이나 다른 이익이 아니라 OpenAI의 사명만을 고려하도록 요구한다. 재단이 Group 이사회 이사를 임명하는 통제권은 위원회 자체와 별개로 비영리 조직의 감독을 위한 추가 경로를 제공한다.
따라서 크리스티아노는 안전조치를 요구하고 출시를 중단할 수 있는 문서화된 권한을 가진 기구에 합류한다. 다만 이 권한이 실제로 행사될지와 어떻게 행사될지는 별개의 문제다. OpenAI와 크리스티아노 어느 쪽도 이번 임명과 함께 예정된 개입, 개정된 안전 정책 또는 특정 모델에 대한 검토를 발표하지 않았다.
3. 그의 경력은 정렬 연구와 정부 평가를 결합한다
크리스티아노는 2017년부터 2021년까지 OpenAI에서 근무하며 정렬 연구를 이끌었고, 인간 피드백 기반 강화학습의 기초적 연구에 기여했다. RLHF는 인간의 판단을 활용해 보상 모델을 학습시킨 뒤, 평가자가 선호하는 행동 쪽으로 AI 시스템을 최적화하는 방식이다. 이 접근법의 변형은 대화형 AI 시스템 학습의 핵심이 됐다.
OpenAI를 떠난 뒤 그는 비영리 단체 Alignment Research Center를 설립했다. 그는 또한 프런티어 모델의 독립 평가를 위한 이니셔티브를 시작했으며, 이는 이후 Model Evaluation and Threat Research, 즉 METR가 됐다.
미국 상무부는 2024년 4월 크리스티아노를 미국 AI 안전 연구소의 AI 안전 책임자로 임명했다. 국립표준기술연구소 내에 있는 이 연구소는 그에게 프런티어 모델 평가, 특히 국가 안보에 영향을 미칠 수 있는 역량에 대한 시험을 설계하고 수행하며 관련 위험 완화 조치에 기여하는 업무를 맡겼다.
이 연구소는 이후 NIST의 AI 표준 및 혁신 센터로 승계됐다. OpenAI는 크리스티아노를 CAISI의 수석 기술 자문역으로 소개하며, 그의 정부 경력이 두 대통령 행정부에 걸쳐 있다고 밝힌다.
그의 지속적인 정부 역할은 명백한 이해충돌 관리 요건을 만든다. OpenAI의 발표에 따르면 크리스티아노는 수석 기술 자문역으로 재직하는 동안 OpenAI와 관련된 모든 정부 사안 및 모든 모델 평가에서 회피해야 한다. 공개된 제한은 광범위하며, OpenAI 모델 평가에만 한정되지 않는다.
발표문은 그가 ARC나 정부 자문 직위에서 물러나는지 밝히지 않았다. 또한 보수, 재단 임명의 임기 또는 위원회 관련 추가 회피 사항도 공개하지 않았다.
4. 크리스티아노는 이번 임명이 지지가 아니라고 말한다
같은 날 공개된 개인 성명에서 크리스티아노는 고도화된 AI로 인한 통제 상실 위험을 심각한 문제로 설명했다. 그는 AI 연구의 자동화가 개선된 AI 시스템이 더 유능한 시스템의 개발을 가속하는 피드백 루프를 만들 수 있다고 주장했다.
그는 재앙적이고 되돌릴 수 없는 통제 상실 위험에 대해 향후 1년간 4%, 향후 3년간 15%라는 주관적 종합 추정치를 제시했다. 크리스티아노는 이 수치가 정밀하거나 안정적인 예측 모델이 낸 결과가 아니라 자신의 개인적 불확실성을 전달한다고 강조했다.
그는 OpenAI를 포함한 AI 업계가 현재 이 위험을 수용 가능한 수준으로 낮추는 궤도에 있지 않다고도 말했다. 이는 그를 업계의 안전조치가 충분한지 의문을 제기하고 가정을 기꺼이 검증하는 인물로 더 일반적으로 설명한 OpenAI의 발표보다 한발 더 나아간 발언이다.
크리스티아노는 합류 결정을 OpenAI의 기존 안전 관행에 대한 지지나 비판으로 해석하지 말라고 명시적으로 경고했다. 그는 개발자들이 외부에서 검증 가능한 행동과 결과로 평가받아야 한다고 말했으며, 더 강력한 완화 조치, 위험과 안전조치에 관한 투명한 증거, 공통의 안전 표준을 실질적 수단으로 제시했다.
이번 임명의 즉각적인 효과는 기술적이라기보다 제도적이다. OpenAI는 Group을 통제하는 이사회와 평가를 검토하고 완화 조치를 요구하며 출시를 차단할 권한을 가진 위원회에 크리스티아노의 판단을 추가했다. 영향의 증거는 공개된 안전조치, 평가 공개, 출시 결정 또는 위원회의 개입 권한 행사 등 이후 관찰 가능한 조치에 달려 있다.
자주 묻는 질문
폴 크리스티아노가 OpenAI 직원으로 합류하나요?
아니다. OpenAI는 그를 재단 이사, 안전·보안 위원회 위원, Group 이사회의 의결권 없는 옵서버로 발표했다. 운영 또는 연구 직무를 발표하지는 않았다.
크리스티아노가 개인적으로 OpenAI 모델 출시를 중단할 수 있나요?
OpenAI는 그에게 개인적 거부권을 부여하지 않았다. 안전·보안 위원회는 집단적으로 출시 중단을 포함한 완화 조치를 요구할 수 있는 문서화된 권한을 가진다.
그는 OpenAI Group PBC 이사회에서 의결권을 가지나요?
아니다. 크리스티아노는 Group 이사회의 의결권 없는 옵서버다. 그는 지배 조직인 OpenAI 재단의 의결권 있는 이사다.
그는 미국 정부와의 업무를 계속하나요?
OpenAI에 따르면 그는 NIST의 CAISI에서 수석 기술 자문역으로 계속 활동한다. 그는 OpenAI 관련 모든 정부 사안과 모든 모델 평가에서 회피해야 한다.
이번 임명이 OpenAI의 제품이나 안전 규칙을 바꾸나요?
제품 또는 정책 변경은 발표되지 않았다. 이번 임명은 OpenAI의 지배 재단 이사회와 안전·보안 위원회의 구성원을 바꾼다.
참고 자료
Share
이 글 공유
