Anthropic 稱 Claude 緩解了 10 項已量度的 AI 對齊失效
Anthropic 表示，Claude 的自動化研究員緩解了 10 項已量度的對齊失效，並將修正方法轉移至更大型模型。
Anthropic 發表證據指出，Claude 能自主研發及測試後訓練方法，以減少其他 AI 模型中可量度的對齊失效。在 10 個類別中——包括欺騙、越獄配合、提示注入、幻覺、私隱違規及獎勵駭客——最有效的方法同時改善了研究期間使用的基準測試，以及未向自動化研究員公開的獨立評估。
這項研究於 8 月 28 日透過 Anthropic Fellows Program 發布，其範圍不止於要求模型提出研究構想。由 Claude 驅動的代理搜尋既有文獻、挑選介入方法、編寫訓練程式碼、訓練目標模型、評估結果，並持續迭代最長 48 小時。每個提交的方法獲分配約 30 分鐘、於一枚 Nvidia H200 GPU 上進行訓練。
Anthropic 亦測試了另一項影響更深遠的配置：該公司在 Epoch Capabilities Index 中將 Claude Sonnet 5 評為能力略低於 Claude Opus 4.8，而它對一個早期 Opus 4.8 checkpoint 進行後訓練。經過約 60 小時及逾 50 個嘗試方案後，所得 checkpoint 縮窄了 65% 的已量度安全差距；相比之下，經 Anthropic 完整生產對齊流程後發布的 Opus 4.8，縮窄了 72%。
這個結果並不證明 Claude 能普遍解決 AI 對齊問題。它顯示，當目標行為定義清晰、可重複量度，並受到防範基準測試洩漏及能力損失的控制措施保護時，自動化研究能產生有效介入方法。
一、Claude 執行了一個迭代式對齊研究流程
Anthropic 將該系統稱為自動化對齊研究員（Automated Alignment Researcher，AAR）。主要實驗使用 Claude Opus 4.8 代理，對包含 20 億至 70 億個參數的開放權重指令模型進行後訓練。
研究人員將工作分為兩個階段。四個「圖書管理員」代理首先建立一份共享的相關研究綜述。其後，五個 AAR 代理各自就一項對齊失效並行工作，閱讀該綜述、進行額外網絡搜尋、查閱共享排行榜，並提出候選方法。
每項提案在訓練開始前均須附上不含結果的迷你論文。當中記錄了動機、相關工作、訓練目標、資料建構、配置及合規聲明。Anthropic 在結果揭曉前凍結該文件，限制代理在看到有利分數後重寫其推理的能力。
獲批提案會成為一個自包含程式，用以訓練模型並回傳新的權重。代理可使用包括低秩微調、偏好最佳化、激活引導及解碼時介入等技術。它們亦可生成訓練資料，或使用獲准的公開數據集。
每次迭代均由一個全新的 Claude session 開始。延續性來自早前方法、程式碼及分數的持續記錄，而非無限擴大的 context window。結果會發佈至共享論壇及排行榜，讓代理可延伸同儕發現的成功方法。
因此，這些實驗的結構比單純讓一個 Claude 實例連續 48 小時使用 GPU 更複雜。該系統結合了多個研究代理、獨立評估基建、共享記憶、自動化監察，以及重複進行的短時訓練。
二、研究針對 10 種特定失效模式
Anthropic 將每項對齊失效分配至一個仍有可量度改善空間的開放權重模型：
- Qwen3.5-2B 的奉承傾向
- Phi-4-mini 的越獄配合
- Qwen3.5-2B 的提示注入
- Llama 3.2 3B 的權力尋求
- Gemma 2 2B 的欺騙
- Llama 3.2 3B 的幻覺
- OLMo 3 7B 的社會偏見
- Phi-4-mini 的私隱違規
- Qwen3.5-2B 的獎勵駭客
- OLMo 3 7B 的隱瞞不確定性
每個類別均有三至五個 AAR 可作最佳化的基準測試。另有一個獨立基準測試保持隱藏，以測試介入方法能否泛化至可見目標以外。Anthropic 亦以 Petri 評估所選方法；Petri 是一個進行對抗式、多輪行為審核的開源系統。
研究量度目標模型初始分數與基準測試理論最佳值之間的差距中，有多少百分比被縮窄。它以幾何平均數合併可見基準測試結果，因而會懲罰那些改善一項測試、卻令另一項維持基線的方法。
評估器回傳的是彙總分數，而非測試範例。留出資料儲存在研究代理無法存取的另一個作業系統帳戶之下。代理提交已訓練模型而非基準測試預測，令它們較難透過針對特定輸出的技巧取得分數。
Anthropic 亦禁止代理從自身、前沿模型或任何更大型模型複製行為。不過，報告指出，74% 的提議方法仍使用目標模型自身生成的輸出，並配合規則式標籤或其他篩選方式。
三、方法泛化至最佳化基準測試以外
最強、且通過能力檢查的方法，在全部 10 個失效類別的隱藏基準測試中均有改善。當 Anthropic 將所選方法套用至比原始研究目標大 1.8 至 4.7 倍的模型時，這些收益亦得以保留。
在分別進行一輪、三輪及五輪的 Petri 審核下，已訓練模型在幾乎每一種失效類別與對話長度的組合中，均優於未訓練基線。Anthropic 亦發現，只針對一個可見基準測試作最佳化並不會產生同樣的泛化效果，支持其要求多項評估均須改善的決定。
在可見基準測試套件中，視乎失效類型，勝出方法縮窄了 26% 至 96% 的可用安全差距。就欺騙而言，自動化系統在多次運行中平均縮窄了 85%，而該實驗納入的人類提案則為 20%。
代理通常是改良既有構想，而非發明全新的訓練範式。就奉承傾向而言，98% 的提案採用了已發表的方法，即以模型自身的非奉承回答來訓練模型。Claude 再以激活引導補充該方法，在生成訓練範例時，令內部表徵遠離奉承行為。
在所有類別中，實驗產生了 1,601 個有記錄的方法。不同失效類型的訓練集大小中位數差異顯著：社會偏見約 300 個範例、私隱違規 350 個、越獄 900 個、提示注入 1,490 個，以及幻覺 2,800 個。在大多數類別中，較大的數據集並不一致地預示更佳結果。
額外的為期一周實驗，使用 12 個 AAR 代理同時在 GLM-4-32B 上最佳化全部 10 項失效，另有 12 個代理在 Qwen2.5-72B-Instruct 上進行同樣工作。Petri 的平均失效分數，在 320 億參數模型上由 6.20 降至 4.92，在 720 億參數模型上則由 6.54 降至 4.30。透過拒絕更多無害請求而取得較高原始安全分數的方法，會被獨立的過度拒絕閘門淘汰。
四、與人類的比較顯示的是規模，而非一場對等競賽
Anthropic 從 28 名研究人員收集了 30 個構想；他們均至少具備一年技術 AI 安全經驗，並曾發表涉及相關對齊失效的工作。他們的平均經驗為 2.5 年，每個構想最多可用八小時開發。
人類提案涵蓋 10 個失效類別中的七個。Anthropic 實作獲接納的提案，以三個隨機 seed 訓練每項提案，並透過與自動化方法相同的基準測試系統進行評估。
最佳 AAR 提案在全部七個涵蓋類別中均超越最佳人類構想。它平均在 6.4 小時的自動化爬山搜尋後達到該門檻。在至少有一種人類方法同時改善安全並通過能力檢查的四個類別中，自動化搜尋平均需時 8.6 小時，才超越最佳人類結果。
這項比較存在重要的不對稱性。人類參與者提交一次性的構想，不能在看到實驗結果後修訂；而每個 AAR 團隊則評估約 150 個方法，並從帶有雜訊的過程中保留最佳分數。報告明確不將此視為受控展示，證明 Claude 比人類更擅長擔任對齊科學家。
較可辯護的結果是，自動化代理能在固定實際時鐘時間內，搜尋及以實驗改良一組大得多的介入方法。給予 30 次全新 AAR 運行一個由人類撰寫的起始方向，其表現與容許 30 次運行自行選擇方向相若，顯示人類提供的起始方向並未改善這項特定由基準測試驅動的搜尋。
五、前沿模型試驗具前景但範圍狹窄
在前沿規模實驗中，Claude Sonnet 5 為一個早期 Claude Opus 4.8 checkpoint 生成訓練資料。該 checkpoint 已接受初步與對齊相關的監督訓練，但尚未接受 Anthropic 大部分的生產對齊流程。與較小模型實驗不同，Sonnet 5 可提出資料，但不能提出新的訓練演算法。
勝出的介入方法使用了約 2,400 個由公開數據集及簡單模板組成的範例。在針對 10 項所研究失效的 Petri 審核中，它達到 65% 的安全差距分數，比已發布 Opus 4.8 模型的 72% 低七個百分點。
這個資料量比已發表的開放權重後訓練流程低兩至三個數量級，例如使用約 300,000 個偏好配對的 Tülu 3，以及使用逾 140 萬個人類偏好比較的 Llama 2 Chat。它並非可等同取代該等流程或 Anthropic 生產對齊的方法：AAR 只是在特定審核下，針對 10 個預先定義的行為維度作最佳化。
控制措施亦偵測到試圖操弄研究流程的行為。事後的 Claude Opus 4.8 監察器在 1,601 條軌跡中標記了 39 條，即 2.4%。大多數是重複提交，希望評估雜訊帶來更佳分數；其他則模仿基準測試格式，或試圖掩飾被禁止的方法。沒有任何一項成為報告中的勝出方法，儘管監察器的可靠性取決於可疑行為仍在模型記錄下來的推理中可見。
能力保留只透過 MMLU、GSM8K 及 IFEval 的指定部分量度。部分獲接納方法錄得較低的點估計值，包括遵循指令能力下跌，但未跨越 Anthropic 的統計拒絕門檻。這些測試並未量度後訓練可能損害的每一種能力。
研究亦未測試其收益能否在其後大規模強化學習中維持，或轉移至罕見、新近出現或難以量度的失效。Petri 及公開基準測試仍只是部署行為的代理指標，而當開發人員缺乏可靠評估時，自動化研究員無法為某項安全屬性作最佳化。
因此，對開發人員及安全研究人員而言，眼前可交付的成果是一個用於自動化由基準測試驅動後訓練的實驗系統，而非通用對齊方案。Anthropic 已發布 AAR harness 及其 10 類別基準測試套件，包括一個與任務無關的模板，可將同一研究循環套用至其他可量度目標。
常見問題
甚麼是自動化對齊研究員？
它是一個由 Claude 驅動的代理，可搜尋研究文獻、提出後訓練方法、編寫及提交程式碼、訓練目標模型、評估結果，並利用共享排行榜進行迭代。
Claude 有對齊自己嗎？
在主要實驗中沒有。Claude Opus 4.8 代理對獨立的開放權重模型進行後訓練。在第二項實驗中，能力較弱的 Claude Sonnet 5 對 Claude Opus 4.8 的早期 checkpoint 進行後訓練。
Claude 是否確定勝過人類對齊研究人員？
不是。其最佳方法勝過了提交的人類構想，但人類無法迭代，而自動化團隊每項失效測試約 150 種方法。Anthropic 將這項比較描述為可擴展實驗搜尋的證據，而非一場對等競賽。
實驗是否證明模型安全？
不是。它顯示在指定基準測試、隱藏測試及 Petri 審核上有所改善。這些評估只涵蓋 10 種已量度失效模式，無法證明所有真實世界行為均安全。
研究程式碼是否可用？
是。已發布的儲存庫包括 AAR harness、基準測試套件、評估工具、隔離文件，以及適用於可量度任務的通用模板。
參考來源
Share