Meta发布Muse Glimmer：采用Apache 2.0协议的300亿参数开源权重模型，专为本地AI智能体打造

Meta推出了Muse Glimmer，这是一款专门针对本地、全天候智能体（agent）工作流设计的300亿参数开源权重模型，允许复杂的AI智能体直接在消费级硬件上运行。Muse Glimmer采用极其宽松的Apache 2.0许可证发布，标志着Meta开源战略的重大转变，允许无限制的商业使用、修改和分发。该模型旨在在关键智能体使用场景和基准测试中提供强劲性能，使高级自主AI对于开发者和终端用户而言更加触手可及。

一、 战略性回归宽松开源

Muse Glimmer代表了Meta自Llama 4系列以来发布的第一个完全开源模型，尤其是它采用了比以往任何Llama模型都更宽松的Apache 2.0许可证。Llama系列虽然开放了权重，但使用的是一种定制的社区许可证，因其诸多限制（包括每月7亿活跃用户的限制门槛）而饱受批评。Muse Glimmer采用Apache 2.0许可证消除了这些限制，促进了模型权重的无限制商业使用、修改和重新分发。这一举措符合Meta长期以来共享基础AI研究的传统，并将其对开放AI的承诺扩展到了智能体AI领域。Meta联合创始人兼首席执行官马克·扎克伯格（Mark Zuckerberg）在X上发帖，宣布发布本地30B参数模型，并重申了公司对开源的坚定支持。

二、 专为自主智能体工作流设计

Muse Glimmer由Meta超智能实验室（Meta Superintelligence Labs）开发，是一个稠密因果Transformer（dense causal transformer）模型，在52层中拥有约296亿的总参数量。它集成了一个专用的约18亿参数的ViT-G/14感知编码器，使模型能够接受交错的文本和图像，从而进行多模态理解和推理。这种能力使智能体能够结合文本对话来理解屏幕截图、图表和文档。

该模型专为自主智能体任务而构建，专注于智能体执行的一系列操作，例如制定计划、调用工具、解释结果、继续工作以及从错误中恢复。Muse Glimmer在DeepSearch QA、MCP-Atlas、τ-Bench和SWE-Bench等全任务基准测试中展现出极高的成功率，这些基准测试评估了它在各种框架（scaffold）中运行、编写和调试代码以及处理多轮请求的能力。它支持具有精确Schema（模式）的广泛函数调用，并能在长周期内进行链式推理，在复杂且漫长的工作流中保持连贯的计划。该模型还通过系统提示词（system prompt）提供可控的思考程度（effort）设置（low、medium、high和xhigh），允许应用程序根据每个任务调整推理强度。Muse Glimmer支持100多种语言，声明的上下文长度为131,072个token或更多，知识截止日期为2026年1月4日。

三、 针对消费级硬件性能进行优化

Muse Glimmer设计的一个核心方面是针对消费级硬件（例如配备高性能GPU的高端Mac和PC）上的本地部署进行了优化。虽然一个300亿参数的模型在全精度（BF16）下通常需要超过55 GB的内存，这超出了大多数单一消费级GPU的容量，但Meta采用了量化技术，将语言模型的权重压缩到20 GB以下。这种压缩已被证实对智能体任务几乎没有或完全没有带来性能退化，使模型能够适应24 GB或32 GB的内存空间，并容纳KV缓存、感知编码器以及配套的推测解码（speculative-decoding）模型。本地运行时合作伙伴Unsloth表示，Muse Glimmer 30B可以在18GB RAM/VRAM的配置下本地运行。

为了提高生成速度，Muse Glimmer包含了一个基于DFlash的轻量级“草稿（drafter）”模型，该模型使用推测解码同时提出整个Token块，供主模型进行并行验证。这种优化显著提升了性能，Meta报告称，在启用DFlash的情况下，RTX 5090上的生成速度高达每秒233.4个token，而在不启用时仅为每秒74.9个token。在Apple芯片（Apple Silicon）上，报告的速度包括：在M4 Max上为每秒37.8个token，在M5 Max上为每秒50.2个token（均启用DFlash）。Meta正积极与包括AMD、Arm、Dell、Intel和Nvidia在内的合作伙伴展开合作，以进一步优化各种设备上的性能。

四、 可用性与生态系统集成

Muse Glimmer的模型权重已可立即在Hugging Face上下载。Meta还宣布，相关支持将迅速推广到广泛的常用工具和平台生态系统中。这包括本地推理解决方案（如Ollama、LM Studio和Unsloth），以及边缘计算框架（如llama.cpp、MLX和ExecuTorch），预计未来几天将推出优化后的集成版本。对于规模化部署，vLLM、SGLang、Together AI、Fireworks AI和OpenRouter等合作伙伴将提供支持。开发者还可以利用PyTorch的TorchTitan针对特定使用场景微调Muse Glimmer。Meta已经发布了开发者文档，包括关于设置自定义智能体框架的指南，以促进个人智能体的快速构建和部署。

五、 对开发者、隐私和可访问性的影响

Muse Glimmer的本地部署能力为用户和开发者带来了几个显著优势。它使AI应用能够在任何时间、任何地点运行，无论是否联网，从而摆脱对云端基础设施的依赖。这消除了与网络可用性和按token计费的API费用相关的担忧，尽管硬件、电力、部署和管理成本仍然存在。至关重要的是，在本地运行智能体可以增强用户隐私和数据控制，因为敏感数据可以保存在设备上，而无需传输到远程服务器。Meta对Muse Glimmer进行了训练以优先保障安全性，旨在减少过度分享、抵御提示词注入（prompt injection）并尊重信息边界。尽管基准测试显示了强大的实用性，但在隐私（CI Memories评分为26.4，相比之下Gemma为12.1）和提示词注入（Siren AgentDojo攻击成功率为28.4%）方面的结果表明，在智能体安全领域仍需持续关注。

Muse Glimmer在Apache 2.0协议下的发布，结合其智能体能力和对本地部署的专注，使开发者能够以更大的灵活性和控制力构建和部署先进的AI解决方案。它支持广泛的隐私保护型应用，包括本地编码、文档分析、个人助手以及LLM-as-a-judge（大模型作为裁判）评估。Meta的这一举措旨在通过让强大、可定制的AI智能体更加普及，从而加速智能体AI领域的创新。

常见问题

什么是Muse Glimmer？

Muse Glimmer是Meta超智能实验室推出的一个300亿参数开源权重AI模型，专门针对在Mac和PC等消费级硬件上本地运行自主AI智能体进行了优化。它支持包括文本和图像在内的多模态输入，并专为复杂的、多步骤的智能体任务而设计。

它的硬件要求是什么？

Muse Glimmer需要配备高性能GPU的消费级硬件，最好是拥有24 GB至32 GB的独立显存（VRAM）。虽然核心语言模型权重通过4位量化压缩到了20 GB以下，但KV缓存、感知编码器和推测解码草稿模型等组件仍需要额外的内存。

为什么它的许可证如此重要？

Muse Glimmer是在Apache 2.0许可证下发布的，这是一种极其宽松的开源许可证。这允许对模型进行无限制的商业使用、修改和分发，这与之前Meta的Llama模型所使用的限制更多的社区许可证有所不同。

Muse Glimmer可以处理图像和文本吗？

是的，Muse Glimmer是一个多模态模型。它包含一个专用的约18亿参数的ViT-G/14感知编码器，使其能够接受交错的文本和图像并进行推理，从而允许智能体结合文本来解释屏幕截图和图表等视觉信息。

在本地运行Muse Glimmer有什么好处？

在本地运行Muse Glimmer可以提供更高的隐私性和数据控制，因为处理过程直接在用户的设备上进行，无需云端基础设施或网络连接。它还消除了按token计费的API费用，并确保无论互联网连接如何，都能随时随地使用。

参考来源

• @AIatMeta 的原始 X 帖文

* Meta 携 Muse Glimmer 回归开源，这是一款采用 Apache 2.0 协议、针对智能体优化的 30B 参数 AI 模型 —— 现已可用 | VentureBeat * 介绍 Muse Glimmer：一款在您设备上运行的开源智能体模型 * Meta 携 Muse Glimmer 归来：本地、智能体、多模态且开源 * 马克·扎克伯格宣布 Meta 的新 AI 模型 Muse Glimmer。 | 雅虎财经 * 你（也许）可以在你的电脑上本地运行 Meta 最新的 AI 模型 - Lifehacker * meta-models/Muse-Glimmer-30B - Hugging Face * Muse Glimmer - Artificial Analysis * Muse Glimmer 30B：Meta 的本地智能体模型是否已达到生产环境就绪水平？ - Wavect * Muse Glimmer - 如何在本地运行 | Unsloth 文档 * Meta 发布 Muse Glimmer 30B - 一款新的开源模型 : r/unsloth - Reddit * 在 AMD Ryzen™ AI Max 智能体 PC 和 Radeon™ GPU 上运行 Meta Muse Glimmer 30B * Muse Glimmer - LM Studio * Muse Glimmer 评估方法论 - Meta AI 研究院 * Meta 发布开源权重 Muse Glimmer 模型，并即将推出开源 Muse Spark 1.2 | Constellation Research