Hugging Face Blog·· 19 天前精选AI 评分88
Meta 发布开源权重多模态 MoE 模型 Muse Spark Open
Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta
AI 导读
Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可输入文本、图像、音频和视频并输出文本。
推荐理由
原文给出 816B 总参数、42B 激活的 MoE 多模态开源模型,并附 llama.cpp、vLLM、SGLang 部署与 TRL 微调配方。
来源:Hugging Face Blog · huggingface.co