Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体推理模型
Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧运行私有智能体,会先思考再作答并调用工具。
推荐理由:24B 总参数仅 2B 激活的推理模型,在工具调用与指令遵循上对标更大 MoE,并给出端侧与 GPU 推理速度数据。
技术方向
开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。
30 条精选近 30 天 26 条共收录 128 条
Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧运行私有智能体,会先思考再作答并调用工具。
推荐理由:24B 总参数仅 2B 激活的推理模型,在工具调用与指令遵循上对标更大 MoE,并给出端侧与 GPU 推理速度数据。
在 OCP Global Summit 上,NVIDIA 通过开放的 NVIDIA MGX 架构向 OCP 贡献了 Vera Rubin 机架和计算托盘设计,为系统厂商提供构建下一代 AI 工厂基础设施的通用基础。
推荐理由:NVIDIA 把 Vera Rubin 机架与计算托盘设计捐给 OCP,读者可据此了解 AI 工厂从专有规格转向开放标准的路径。
Liquid AI 发布 d1 决策模型家族的两款开源模型 d1-3B 和实验性的 d1-omni-600M。d1-3B 在 Decision Index 0.2.1 上得分 48.57,领先所有 4B 和 9B 模型以及 Decider 35B-A3B 的 47.11,支持文本与图像输入;d1-omni-600M 支持文本加图像或文本加音频。
推荐理由:Liquid AI 开源两款决策模型,给出端侧延迟与七项基准对比,可据此判断小模型做结构化决策的可行性。
微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一 agent harness 直接参与训练,无需在训练框架内重写智能体。
推荐理由:微软研究院开源 Agent Lightning v1.0,给出真实 harness 参与 RL 训练的设计取舍与实测增益,可据此判断自建智能体训练链路的成本。
OpenAI 以公开 GitHub 仓库形式发布了一批来自内部前沿模型的数学成果,共 722 篇论文、归入 372 个相关结果族,来自约 4000 个研究问题的评测,平均每个结果消耗约 3 小时 ChatGPT Pro 思考算力,模型本身仍未发布。
推荐理由:OpenAI 用内部未发布模型产出 722 篇数学论文,读者可据此了解其规模、算力成本与学界反应。
Google DeepMind 发布 EmbeddingGemma 2,一款基于 Gemma 4 架构、Apache 2.0 许可的开源多模态嵌入模型,参数量 740M,可把文本、图像、音频、视频映射到统一嵌入空间。
推荐理由:EmbeddingGemma 2 把文本、图像、音频、视频统一到同一嵌入空间,并给出端侧内存与向量截断的具体数字,便于判断本地多模态检索的可行性。
Ai2 开源 AstaBrief 8B,一个把研究问题和检索到的文献片段转成带引用报告的模型,基于 Qwen3-8B 训练,已作为 Asta 的 Fast 模式上线并开放权重与训练数据。
推荐理由:原文给出了训练数据构造与过滤细节,以及 Fast 模式与 Thinking 模式的实测耗时对比,可据此判断小模型做科研报告生成的可行边界。
Google DeepMind 发布 SynthID Bio,将水印技术引入合成生物学,把不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。
推荐理由:DeepMind 把水印从数字内容延伸到合成生物,读者可了解其原理、湿实验验证结果与开源范围。
微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU,可提升任务成功率、支持更大模型并延长续航。
推荐理由:微软研究院系统测量了机器人端侧 GPU 推理的瓶颈,并给出可复用的卸载工具链,读者可据此判断物理 AI 的部署取舍。
Berkeley Sky Lab 与 IBM Research 将进化式内核搜索框架 K-Search 扩展到 MLX,通过结构化的 CUDA-to-MLX 翻译层,让已有 CUDA 内核成为知识库并适配为 Apple Silicon 内核。
推荐理由:读者可以看到 CUDA 内核经验如何被结构化迁移到 Apple Silicon,以及翻译层对性能差距的具体贡献。