Пол Кристиано вошёл в совет OpenAI Foundation и Комитет по безопасности

9 сентября 2026 года OpenAI назначила исследователя выравнивания Пола Кристиано в совет OpenAI Foundation, включив его в некоммерческий орган, контролирующий коммерческую корпорацию общественной пользы компании. Он также войдёт в Комитет Foundation по безопасности и защите, который обладает формальными полномочиями требовать мер по снижению рисков и останавливать выпуск моделей или ИИ-систем OpenAI.

Кристиано не станет голосующим директором OpenAI Group PBC. Вместо этого он будет присутствовать на заседаниях её совета в качестве наблюдателя без права голоса. Это различие важно, поскольку оно даёт ему доступ к обсуждениям совета коммерческой компании, при этом его право голоса остаётся в контролирующей некоммерческой организации.

Назначение приводит бывшего руководителя направления выравнивания OpenAI и американского оценщика передовых моделей на одну из наиболее значимых надзорных позиций в компании. Само по себе оно не меняет ни одну модель, продукт, график выпусков или порог безопасности OpenAI.

1. Кристиано получает три взаимосвязанные управленческие роли

Кристиано входит в совет OpenAI Foundation в качестве директора, в Комитет по безопасности и защите совета Foundation в качестве члена, а также в совет OpenAI Group PBC в качестве наблюдателя без права голоса.

Foundation — не просто филантропическое подразделение OpenAI. Согласно структуре, оформленной в октябре 2025 года, она контролирует OpenAI Group PBC через специальные права голоса и корпоративного управления. Foundation назначает каждого директора совета Group и может в любой момент заменить этих директоров.

На текущей странице OpenAI о корпоративном управлении перечислены 11 директоров Foundation: десять, которых компания называет независимыми, включая Кристиано, а также CEO Сэм Альтман. Брет Тейлор возглавляет советы Foundation и Group.

Большинство директоров Foundation также являются директорами OpenAI Group. Первоначальным исключением был председатель Комитета по безопасности и защите Зико Колтер: он был только директором Foundation и присутствовал на заседаниях совета Group как наблюдатель без права голоса. Назначение Кристиано создаёт ещё одну разделённую роль такого типа.

Эта структура даёт Кристиано право голоса в контролирующем некоммерческом совете, но не даёт ему голоса в статусе наблюдателя при коммерческой компании. Наблюдатель может участвовать в потоках информации и обсуждениях на уровне совета, однако объявление о назначении не наделяет Кристиано индивидуальным правом вето на решения Group.

Его членство в комитете значимее обычной консультативной позиции, поскольку Комитет по безопасности и защите осуществляет полномочия, делегированные через механизмы корпоративного управления OpenAI. Кристиано будет работать вместе с Колтером, которого OpenAI назначила председателем комитета в 2024 году.

2. Комитет по безопасности может вмешиваться в выпуск моделей

OpenAI учредила Комитет по безопасности и защите в 2024 году и первоначально поручила ему проверять процессы безопасности и защиты. После 90-дневного обзора компания преобразовала его в независимый комитет надзора совета, отвечающий за безопасность и защиту при разработке и развёртывании моделей.

OpenAI заявила, что комитет будет получать брифинги об оценках для крупных выпусков моделей, рассматривать технические оценки и мониторинг после выпуска, а также участвовать вместе с полным составом совета в надзоре за запусками. Компания также заявила, что комитет и совет могут отложить выпуск до устранения выявленных проблем безопасности.

Впоследствии эти полномочия были более явно закреплены в ходе рекапитализации OpenAI в 2025 году. В меморандуме, подписанном OpenAI и генеральным прокурором Калифорнии, говорится, что комитет остаётся частью некоммерческой организации, а не PBC, и обладает фактическим правом одобрения действий Group, связанных с безопасностью и защитой.

В меморандуме сказано, что комитет может требовать мер по снижению рисков «вплоть до остановки выпуска моделей или ИИ-систем», даже если применимые пороги риска OpenAI в иных условиях позволяли бы выпуск. OpenAI обязана заранее уведомлять генерального прокурора Калифорнии о любом существенном изменении этих полномочий.

Соглашение также требует, чтобы совет PBC при рассмотрении вопросов безопасности и защиты предприятия учитывал только миссию OpenAI, а не финансовые интересы акционеров или иные интересы. Контроль Foundation над назначениями в совет Group предоставляет дополнительный механизм некоммерческого надзора помимо самого комитета.

Таким образом, Кристиано входит в орган с документально закреплёнными полномочиями требовать защитных мер и останавливать выпуски. Будут ли и как эти полномочия использоваться — отдельный вопрос: ни OpenAI, ни Кристиано не объявляли о готовящемся вмешательстве, пересмотренной политике безопасности или проверке конкретной модели в связи с назначением.

3. Его опыт объединяет исследования выравнивания и государственные оценки

Кристиано работал в OpenAI с 2017 по 2021 год, где руководил исследованиями выравнивания и внёс фундаментальный вклад в обучение с подкреплением на основе обратной связи от людей. RLHF использует человеческие суждения для обучения модели вознаграждения, а затем оптимизирует ИИ-систему в сторону поведения, предпочитаемого оценщиками; варианты этого подхода стали центральными для обучения диалоговых ИИ-систем.

После ухода из OpenAI он основал некоммерческую организацию Alignment Research Center. Он также запустил инициативу независимых оценок передовых моделей, которая позднее стала Model Evaluation and Threat Research, или METR.

Министерство торговли США назначило Кристиано руководителем по безопасности ИИ в U.S. AI Safety Institute в апреле 2024 года. Институт, входящий в состав National Institute of Standards and Technology, поручил ему разрабатывать и проводить оценки передовых моделей, в особенности тесты способностей, имеющих последствия для национальной безопасности, и участвовать в создании связанных мер по снижению рисков.

Позднее этот институт был заменён Center for AI Standards and Innovation при NIST. OpenAI называет Кристиано старшим техническим советником CAISI и заявляет, что его государственный опыт охватывает две президентские администрации.

Его продолжающаяся государственная роль создаёт очевидную необходимость управления конфликтом интересов. В объявлении OpenAI говорится, что, работая старшим техническим советником, Кристиано будет отстраняться от каждого государственного вопроса, связанного с OpenAI, и от всех оценок моделей. Раскрытое ограничение широко: оно не ограничивается оценками моделей OpenAI.

В объявлении не сказано, покидает ли он ARC или свою должность государственного советника. В нём также не раскрываются вознаграждение, срок его назначения в Foundation или дополнительные отстранения, специфичные для комитета.

4. Кристиано говорит, что назначение не является одобрением

В личном заявлении, опубликованном в тот же день, Кристиано описал риск потери контроля над продвинутым ИИ как острый. Он утверждал, что автоматизация исследований ИИ может создать петлю обратной связи, в которой улучшенные ИИ-системы ускоряют разработку ещё более способных систем.

Он привёл субъективные оценки риска с учётом всех обстоятельств: 4% в течение следующего года и 15% в течение следующих трёх лет для катастрофической и необратимой потери контроля. Кристиано подчеркнул, что эти цифры выражают его личную неопределённость, а не результаты, полученные точной или стабильной моделью прогнозирования.

Он также заявил, что индустрия ИИ, включая OpenAI, в настоящее время не движется к снижению риска до приемлемого уровня. Это утверждение выходит за рамки объявления OpenAI, где он в более общем виде описан как человек, готовый оспаривать предположения и задаваться вопросом, достаточны ли отраслевые защитные меры.

Кристиано прямо предостерёг от того, чтобы считать его решение присоединиться к совету одобрением или критикой существующих практик безопасности OpenAI. Он заявил, что разработчиков следует оценивать по внешне проверяемому поведению и результатам, назвав практическими мерами более сильные меры снижения рисков, прозрачные свидетельства о рисках и защитных мерах, а также общие стандарты безопасности.

Немедленный эффект назначения носит институциональный, а не технический характер. OpenAI добавила суждение Кристиано в совет, контролирующий Group, и в комитет, уполномоченный изучать оценки, требовать мер по снижению рисков и блокировать выпуски. Свидетельства воздействия будут зависеть от последующих наблюдаемых действий, таких как изменения опубликованных защитных мер, раскрытие оценок, решения о выпусках или использование комитетом своих полномочий по вмешательству.

Частые вопросы

Пол Кристиано присоединяется к OpenAI как сотрудник?

Нет. OpenAI объявила его директором Foundation, членом Комитета по безопасности и защите и наблюдателем без права голоса в совете Group. Операционную или исследовательскую должность она не объявляла.

Может ли Кристиано лично остановить выпуск модели OpenAI?

OpenAI не предоставила ему индивидуальное право вето. Комитет по безопасности и защите коллективно обладает документально закреплёнными полномочиями требовать мер по снижению рисков, включая остановку выпуска.

Есть ли у него право голоса в совете OpenAI Group PBC?

Нет. Кристиано — наблюдатель без права голоса в совете Group. Он является директором с правом голоса в контролирующей OpenAI Foundation.

Продолжит ли он работать с правительством США?

OpenAI заявляет, что он остаётся старшим техническим советником CAISI при NIST. Он должен отстраняться от всех связанных с OpenAI государственных вопросов и от всех оценок моделей.

Меняет ли назначение продукты или правила безопасности OpenAI?

Об изменениях продуктов или политики не сообщалось. Назначение меняет состав управляющего совета Foundation OpenAI и её Комитета по безопасности и защите.

Источники

• Исходное объявление OpenAI в X
• OpenAI: Пол Кристиано вошёл в совет OpenAI Foundation
• Пол Кристиано: Личное заявление о вступлении в совет OpenAI
• OpenAI: Наша структура
• OpenAI: Обновление наших практик безопасности и защиты
• Генеральный прокурор Калифорнии: Меморандум о взаимопонимании с OpenAI
• NIST: Пол Кристиано
• NIST: Расширение руководства U.S. AI Safety Institute