ポール・クリスティアーノ、OpenAI Foundationの取締役会および安全・セキュリティ委員会に参加
OpenAIはポール・クリスティアーノをFoundationの取締役会および安全・セキュリティ委員会に任命し、OpenAI Group PBCではオブザーバーを務める。
目次 · 11
OpenAIは2026年9月9日、アラインメント研究者のポール・クリスティアーノをOpenAI Foundationの取締役会に任命した。これにより、同社の商業的な公益法人を統制する非営利組織の一員となる。クリスティアーノはFoundationの安全・セキュリティ委員会にも参加し、同委員会はOpenAIのモデルまたはAIシステムについて、緩和策を要求し、公開を停止する正式な権限を持つ。
クリスティアーノはOpenAI Group PBCの議決権を持つ取締役には就任しない。代わりに、同社の取締役会に議決権を持たないオブザーバーとして出席する。この区別は重要である。商業会社の取締役会レベルの議論にアクセスできる一方で、彼の議決権は統制する非営利組織に置かれるためだ。
今回の任命により、元OpenAIアラインメント責任者であり、米国政府のフロンティアモデル評価者でもある人物が、同社で最も重要な監督ポジションの一つに就く。ただし、それ自体がOpenAIのモデル、製品、公開スケジュール、安全性の閾値を変更するものではない。
一、クリスティアーノが担う3つの連結したガバナンス上の役割
クリスティアーノは、OpenAI Foundationの取締役、Foundation取締役会の安全・セキュリティ委員会の委員、そしてOpenAI Group PBC取締役会の議決権を持たないオブザーバーに就任する。
Foundationは、単にOpenAIの慈善部門ではない。2025年10月に完了した組織構造のもと、特別な議決権およびガバナンス権を通じてOpenAI Group PBCを統制している。FoundationはGroup取締役会の全取締役を任命し、いつでもこれらの取締役を交代させることができる。
OpenAIの現在のガバナンスページには、Foundationの取締役11人が掲載されている。会社が独立取締役と説明する10人（クリスティアーノを含む）に加え、CEOのサム・アルトマンが含まれる。ブレット・テイラーはFoundationとGroupの両方の取締役会の議長を務める。
Foundationの取締役の大半は、OpenAI Groupの取締役も兼任している。安全・セキュリティ委員会の委員長であるジコ・コルターは当初の例外で、Foundationの取締役のみを務め、Group取締役会には議決権を持たないオブザーバーとして出席していた。クリスティアーノの任命により、この種の分離された役割がもう一つ生まれる。
この構造により、クリスティアーノは統制する非営利組織の取締役会で議決権を持つ一方、商業会社ではオブザーバーの立場として議決権を持たない。オブザーバーは取締役会レベルの情報の流れと審議に参加できるが、任命発表ではクリスティアーノにGroupの決定に対する個人的な拒否権は付与されていない。
彼の委員会メンバーシップは、通常の諮問的な立場よりも重要である。安全・セキュリティ委員会は、OpenAIのコーポレートガバナンスの取り決めを通じて委任された権限を行使するためだ。クリスティアーノは、OpenAIが2024年に委員長に任命したコルターとともに活動する。
二、安全・セキュリティ委員会はモデル公開に介入できる
OpenAIは2024年に安全・セキュリティ委員会を設置し、当初は安全・セキュリティのプロセスをレビューする任務を与えた。90日間のレビュー後、同社はこの委員会を、モデルの開発および展開全般にわたる安全・セキュリティを担う独立した取締役会監督委員会へと移行させた。
OpenAIによると、同委員会は主要なモデル公開に関する評価のブリーフィングを受け、技術評価と公開後のモニタリングをレビューし、取締役会全体とともにローンチ監督に参加する。同社はまた、特定された安全性上の懸念が解消されるまで、委員会と取締役会が公開を延期できるとしている。
これらの権限は、その後OpenAIの2025年の資本再編でより明示的に記録された。OpenAIとカリフォルニア州司法長官が署名した覚書では、同委員会はPBCではなく非営利組織の一部であり、安全・セキュリティに関わるGroupの行為について実質的な承認権を持つとされている。
覚書によると、同委員会は、OpenAIに適用されるリスク閾値が公開を許容する場合であっても、「モデルまたはAIシステムの公開停止を含む」緩和措置を要求できる。OpenAIは、その権限に重大な変更を加える場合、カリフォルニア州司法長官に事前通知を行わなければならない。
この合意はまた、企業の安全・セキュリティに関する事項を扱う際、PBC取締役会が株主の金銭的利益やその他の利益ではなく、OpenAIのミッションのみを考慮することを求めている。FoundationがGroup取締役会の取締役任命を統制していることは、委員会自体を超えた非営利組織による監督の追加経路となる。
したがってクリスティアーノは、セーフガードを要求し、公開を停止することが文書化された権限を持つ組織に加わる。ただし、その権限が実際に行使されるか、またどのように行使されるかは別の問題である。OpenAIもクリスティアーノも、今回の任命に合わせて、介入予定、改定された安全ポリシー、特定モデルのレビューを発表していない。
三、アラインメント研究と政府評価を組み合わせた経歴
クリスティアーノは2017年から2021年までOpenAIに勤務し、アラインメント研究を主導するとともに、人間のフィードバックからの強化学習に関する基礎的な研究に貢献した。RLHFは、人間の判断を用いて報酬モデルを訓練し、その後、評価者が望ましいとする行動へAIシステムを最適化する手法である。このアプローチの派生手法は、会話型AIシステムの訓練において中心的な役割を担うようになった。
OpenAIを離れた後、彼は非営利組織のAlignment Research Centerを設立した。また、後にModel Evaluation and Threat Research、すなわちMETRとなる、フロンティアモデルの独立評価に向けたイニシアチブも立ち上げた。
米国商務省は2024年4月、クリスティアーノを米国AI安全性研究所のAI安全性責任者に任命した。国立標準技術研究所内に置かれた同研究所は、特に国家安全保障上の影響を持つ能力のテストを対象に、フロンティアモデル評価を設計・実施し、関連するリスク緩和策に貢献する任務を彼に与えた。
この研究所は後に、NISTのCenter for AI Standards and Innovationに引き継がれた。OpenAIはクリスティアーノをCAISIのシニア技術アドバイザーとして紹介し、彼の政府での経験は2つの大統領政権にまたがるとしている。
彼が政府での役割を継続することは、明確な利益相反管理の必要性を生む。OpenAIの発表によると、シニア技術アドバイザーを務める間、クリスティアーノはOpenAIに関係するすべての政府案件およびすべてのモデル評価から回避する。開示された制限は広範であり、OpenAIのモデル評価だけに限定されない。
発表では、彼がARCまたは政府のアドバイザー職を離れるとは述べられていない。また、報酬、Foundationへの任命期間、委員会固有の追加の回避事項も開示していない。
四、クリスティアーノは任命が支持を意味するものではないと述べる
同日に公表した個人声明で、クリスティアーノは高度なAIによる制御喪失リスクを切迫したものと説明した。AI研究の自動化は、改善されたAIシステムがさらに高性能なシステムの開発を加速させるフィードバックループを生み出し得ると論じた。
彼は、壊滅的かつ不可逆的な制御喪失について、今後1年間では4%、今後3年間では15%という、主観的であらゆる要素を考慮したリスク推定値を示した。クリスティアーノは、これらの数値は精密または安定した予測モデルが生み出した結果ではなく、彼個人の不確実性を伝えるものだと強調した。
また彼は、OpenAIを含むAI業界は、リスクを許容可能な水準まで下げる軌道に現時点では乗っていないと述べた。この発言は、業界のセーフガードが十分かどうかを問う意思がある人物として彼をより一般的に説明するOpenAIの発表を超えるものである。
クリスティアーノは、自身の参加の決定を、OpenAIの既存の安全慣行に対する支持または批判のいずれかとして受け取らないよう明確に注意を促した。開発者は外部から検証可能な行動と成果によって評価されるべきだとし、より強力な緩和策、リスクとセーフガードに関する透明な証拠、共有された安全基準を実践的な措置として挙げた。
任命による直接的な効果は、技術的というより制度的なものである。OpenAIは、Groupを統制する取締役会と、評価を検討し、緩和策を要求し、公開を阻止する権限を持つ委員会に、クリスティアーノの判断を加えた。影響の証拠は、公開されたセーフガード、評価開示、公開判断、委員会による介入権限の行使といった、その後に観察可能な行動に依存する。
よくある質問
ポール・クリスティアーノはOpenAIに従業員として参加するのですか？
いいえ。OpenAIは彼をFoundationの取締役、安全・セキュリティ委員会の委員、Group取締役会の議決権を持たないオブザーバーとして発表した。事業部門または研究職への就任は発表していない。
クリスティアーノは個人としてOpenAIモデルの公開を停止できますか？
OpenAIは彼に個人的な拒否権を付与していない。安全・セキュリティ委員会は集団として、公開停止を含む緩和策を要求する文書化された権限を持つ。
彼はOpenAI Group PBC取締役会で議決権を持ちますか？
いいえ。クリスティアーノはGroup取締役会の議決権を持たないオブザーバーである。統制するOpenAI Foundationでは、議決権を持つ取締役である。
彼は米国政府との仕事を継続しますか？
OpenAIによると、彼はNISTのCAISIでシニア技術アドバイザーを継続する。OpenAIに関係するすべての政府案件およびすべてのモデル評価から回避しなければならない。
この任命はOpenAIの製品または安全ルールを変更しますか？
製品またはポリシーの変更は発表されていない。この任命は、OpenAIの統治機関であるFoundation取締役会と安全・セキュリティ委員会の構成を変更する。
参考ソース
Share
この記事を共有
