AI News字數 2734閱讀時長7 分鐘

Meta 發佈 Muse Glimmer:採用 Apache 2.0 授權、擁有 300 億參數的本地 AI 智能體開放權重模型

Meta 推出 Muse Glimmer,這是一款在 Apache 2.0 授權下發佈的 300 億參數開放權重 AI 模型。該模型專為消費級硬件上的自主智能體工作流而優化,提升了先進 AI 應用的可及性與私隱度。

Meta 推出 Muse Glimmer,這是一款擁有 300 億參數的開放權重模型,專為本地、常駐的智能體(agent)工作流而設計,讓複雜的 AI 智能體能夠直接在消費級硬件上運行。Muse Glimmer 採用極具寬鬆性的 Apache 2.0 授權協定發佈,標誌著 Meta 在開源策略上的重大轉變,允許無限制的商業用途、修改和二次分發。該模型旨在於關鍵智能體應用場景和基準測試中提供強勁表現,令先進的自主 AI 技術對開發者和終端用戶而言更易觸及。

一、 策略性回歸寬鬆開源

Muse Glimmer 是自 Llama 4 系列以來,Meta 首個發佈的完全開源模型。值得注意的是,它採用了比以往任何 Llama 模型都更為寬鬆的 Apache 2.0 授權。雖然 Llama 系列屬於開放權重模型,但其使用的是定制的社群授權協定,並因各種限制(例如每月 7 億活躍用戶的限制上限)而受到批評。Muse Glimmer 採用 Apache 2.0 授權,消除了這類限制,促進了模型權重無限制的商業使用、修改和重新分發。此舉符合 Meta 長期以來分享基礎 AI 研究的傳統,並將其對開放 AI 的承諾進一步延伸至智能體 AI 領域。Meta 聯合創辦人兼行政總裁朱克伯格(Mark Zuckerberg)在 X 平台上發文,宣佈發佈這款本地運行的 30B 參數模型,並重申了公司對開源的鼎力支持。

二、 專為自主智能體工作流而建構

Muse Glimmer 由 Meta 超智能實驗室(Meta Superintelligence Labs)開發,是一個密集式因果 Transformer(dense causal transformer)模型,在 52 個層中擁有約 296 億個總參數。它整合了一個專用的、約 18 億參數的 ViT-G/14 感知編碼器,使模型能夠接受交錯的文本和圖像,以進行多模態理解與推理。這種能力讓智能體能夠在進行文本對話的同時,解讀螢幕截圖、圖表和文件。

該模型專為自主智能體任務而打造,專注於智能體執行的一系列操作,例如制定計劃、調用工具、解讀結果、持續工作以及從錯誤中恢復。Muse Glimmer 在 DeepSearch QA、MCP-Atlas、τ-Bench 和 SWE-Bench 等全任務基準測試中展現出極高的成功率,這些基準測試評估了它在各種腳手架(scaffold)框架下運行、編寫與調試代碼以及處理多輪請求的能力。它支持具有精確架構(schema)的廣泛函數調用(function calls),並能在長程視界中進行鏈式推理,在複雜且冗長的工作流中保持連貫的計劃。該模型還通過系統提示詞(system prompt)提供可控的思考投入度設置(低、中、高及極高,即 low, medium, high, and xhigh),允許應用程式根據不同任務調整推理強度。Muse Glimmer 支持 100 多種語言,其聲明的上下文長度達到 131,072 個 token 或以上,知識截止日期為 2026 年 1 月 4 日。

三、 針對消費級硬件性能進行優化

Muse Glimmer 設計的核心特點之一,是針對高階 Mac 以及配備高性能 GPU 的 PC 等消費級硬件上的本地部署進行了優化。雖然一個 300 億參數的模型在全精度(BF16)下通常需要超過 55 GB 的記憶體,這超出了大多數單張消費級 GPU 的容量,但 Meta 採用了量化技術,將該語言模型的權重壓縮至 20 GB 以下。經證使,這種壓縮對智能體任務引入的性能衰減微乎其微甚至毫無影響,使模型能夠容納在 24 GB 或 32 GB 的記憶體規格內,同時容納 KV 快取、感知編碼器以及配套的推測性解碼(speculative-decoding)模型。本地運行時合作夥伴 Unsloth 表示,Muse Glimmer 30B 可以在 18GB RAM/VRAM 的配置下本地運行。

為了提高生成速度, Muse Glimmer 包含了一個基於 DFlash 的輕量級「草稿」(drafter)模型,該模型利用推測性解碼同時提出整組 token 區塊,供主模型進行並行驗證。這種優化顯著提升了性能,根據 Meta 的報告,在啟用 DFlash 的 RTX 5090 上,生成速度可達每秒 233.4 個 token,而未啟用時僅為每秒 74.9 個 token。在 Apple Silicon 晶片上,據報告在啟用 DFlash 的情況下,M4 Max 的速度為每秒 37.8 個 token,M5 Max 則為每秒 50.2 個 token。Meta 正與 AMD、Arm、Dell, Intel 和 Nvidia 等合作夥伴密切合作,以進一步優化其在各種裝置上的性能。

四、 可用性與生態系統整合

Muse Glimmer 的模型權重已即時開放於 Hugging Face 下載。Meta 同時宣佈,將在廣泛的熱門工具和平台生態系統中迅速推出支持。這包括 Ollama、LM Studio 和 Unsloth 等本地推理(inference)解決方案,以及 llama.cpp、MLX 和 ExecuTorch 等邊緣計算框架,預計將在未來幾天內推出優化的整合版本。對於擴充部署,vLLM、SGLang、Together AI、Fireworks AI 和 OpenRouter 等合作夥伴將提供支持。開發者還可以利用 PyTorch 的 TorchTitan,針對特定應用場景對 Muse Glimmer 進行微調(fine-tuning)。Meta 已發佈開發者文件,包括設置自訂智能體腳手架的指南,以促進個人智能體的快速建構與部署。

五、 對開發者、私隱和可及性的影響

Muse Glimmer 的本地部署能力為用戶和開發者帶來了幾個顯著的優勢。它使 AI 應用程式能夠隨時隨地運行,無論有無網絡連接,從而擺脫對雲端基礎架構的依賴。這消除了與網絡可用性和按 token 收費的 API 費用相關的顧慮(儘管硬件、電力、部署和管理成本依然存在)。至關重要的是,在本地運行智能體可以提升用戶私隱和數據控制力,因為敏感數據可以保留在裝置上,而無需傳輸到遠端伺服器。Meta 已對 Muse Glimmer 進行了訓練,以優先考慮安全性,旨在減少過度分享、抵禦提示詞注入(prompt injection)並尊重資訊邊界。儘管基準測試顯示出強大的實用性,但在私隱(CI Memories 評分:26.4,相比之下 Gemma 為 12.1)和提示詞注入(Siren AgentDojo 攻擊成功率:28.4%)方面的結果表明,在智能體安全領域仍有需要持續關注之處。

Muse Glimmer 在 Apache 2.0 授權下的發佈,結合其智能體能力和對本地部署的專注,使開發者能夠以更大的靈活性和控制權來建構與部署先進的 AI 解決方案。它支持廣泛注重私隱的應用程式,包括本地代碼編寫、文件分析、個人助理和「LLM 作為裁判」(LLM-as-a-judge)評估。Meta 的這一舉措旨在通過讓強大且可定制的 AI 智能體更廣泛地普及,從而加速智能體 AI 領域的創新。

常見問題

什麼是 Muse Glimmer?

Muse Glimmer 是由 Meta 超智能實驗室(Meta Superintelligence Labs)開發的 300 億參數開放權重 AI 模型,專為在 Mac 和 PC 等消費級硬件上本地運行自主 AI 智能體而優化。它支持多模態輸入(包括文本和圖像),專為複雜的多步驟智能體任務而設計。

它的硬件要求是什麼?

Muse Glimmer 需要配備高性能 GPU 的消費級硬件,理想配置是 24 GB 至 32 GB 的專用顯存(VRAM)。雖然核心語言模型的權重已通過 4-bit 量化壓縮至 20 GB 以下,但還需要額外的記憶體來容納 KV 快取、感知編碼器和推測性解碼草稿模型等組件。

它的授權條款有何重要意義?

Muse Glimmer 採用 Apache 2.0 授權條款發佈,這是一種極具寬鬆性的開源授權。這允許對模型進行無限制的商業使用、修改和重新分發,這與以往 Meta 的 Llama 模型所採用的限制性較強的社群授權有所不同。

Muse Glimmer 能否處理圖像和文本?

是的,Muse Glimmer 是一個多模態模型。它包含一個專用的、約 18 億參數的 ViT-G/14 感知編碼器,使其能夠接受交錯的文本和圖像並進行推理,從而讓智能體能夠在處理文本的同時,解讀螢幕截圖和圖表等視覺資訊。

在本地運行 Muse Glimmer 有什麼好處?

在本地運行 Muse Glimmer 可以提供更強的私隱保障和數據控制力,因為所有處理都直接在用戶的裝置上進行,無需雲端基礎架構或網絡連接。它還消除了按 token 收費的 API 費用,並確保無論網絡連接狀況如何,都能隨時隨地使用。

參考來源

* Meta returns to open source with Muse Glimmer, an Apache 2.0 licensed 30B parameter AI model optimized for agents — available now | VentureBeat * Introducing Muse Glimmer: An Open Agentic Model That Runs on Your Device * Meta is back with Muse Glimmer: local, agentic, multimodal, and open source * Mark Zuckerberg announces Meta's new AI model Muse Glimmer. | Yahoo Finance * You Can (Maybe) Run Meta's Latest AI Model Locally on Your Computer - Lifehacker * meta-models/Muse-Glimmer-30B - Hugging Face * Muse Glimmer - Artificial Analysis * Muse Glimmer 30B: Is Meta's Local Agent Model Production-Ready? - Wavect * Muse Glimmer - How to Run Locally | Unsloth Documentation * Meta releases Muse Glimmer 30B - a new open model : r/unsloth - Reddit * Run Meta Muse Glimmer 30B on AMD Ryzen™ AI Max Agentic PCs and Radeon ™ GPUs * Muse Glimmer - LM Studio * Muse Glimmer Evaluation Methodology - Meta AI Research * Meta releases open weight Muse Glimmer model with open Muse Spark 1.2 on tap | Constellation Research

Share

分享這篇文章