Meta 开源 Muse Spark Open:816B MoE 模型支持 Mac Studio 本地运行,推理速度达 42B 水平
Meta 在 Hugging Face 发布 Muse Spark Open 权重,这是一款专为编码和智能体任务设计的 816B 参数混合专家(MoE)模型。该模型采用每层 256 个专家、激活 8 个的稀疏架构,虽需大内存存储但推理速度等效于 42B 模型,并已与 Apple 合作优化以支持在配备 M5 Ultra 芯片的 Mac Studio 上本地运行。
报道正文
Rohan Paul (@rohanpaul_ai) · 2026-10-15 20
Meta 已在 Hugging Face 上发布了 Muse Spark Open 的模型权重,这是一个专为编程和智能体(agentic)任务打造的拥有 816B 参数的模型。
开源版本与 Muse Spark 1.3 共享同一基础模型,但增加了额外的安全后训练环节,以抵御其作为独立模型在缺乏系统护栏时的滥用风险,这逆转了 Meta 自四月以来首个专有、闭源前沿模型的策略。
其 62 层中的每一层都包含 256 个专家网络,并将每个 token 路由至其中的 8 个,因此部署时需要相当于 816B 参数模型的显存容量,但运行速度却仅相当于一个 42B 参数模型。
这种存储需求解释了为何要与苹果合作,因为 M5 Ultra 芯片可提供 1.2 TB/s 的统一内存带宽,而 Mac Studio 最高支持 512GB 内存。
在一台配备 512GB 内存的 M3 Ultra 设备上测试 3-bit 量化版本时,模型占用约 344 GB 空间,在处理短提示词时生成速度约为 21 tok/s。
↳ 引用 @finkd (Mark Zuckerberg): Muse Spark Open -- 今天发布权重 -- 得益于与 @johnternus 及苹果的合作,它在新款 Mac Studios 上运行得非常出色。
