Goodfire 推出内部探针监控,拦截失控 AI 智能体
Goodfire 发布基于可解释性的监控方案,通过探针读取模型内部激活信号来发现失控 AI 智能体,已向 Baseten 客户开放。在 Kimi K3 测试中,监控约 100 万次交互成本约 185 美元,而用便宜模型逐步检查需 5420 美元、顶级模型约 20 万美元;探针捕获了 93% 的恶意黑客会话,并将 5.5% 的无害会话送交二次审查。
Goodfire 发布基于可解释性的监控方案,通过探针读取模型内部激活信号来发现失控 AI 智能体,已向 Baseten 客户开放。在 Kimi K3 测试中,监控约 100 万次交互成本约 185 美元,而用便宜模型逐步检查需 5420 美元、顶级模型约 20 万美元;探针捕获了 93% 的恶意黑客会话,并将 5.5% 的无害会话送交二次审查。
作者在 HuggingChat 中开启 ML-intern 模式,用提示词驱动它完成数据构建、训练、评测和发布,两天内做出六个模型,总计算成本约 103 美元。
推荐理由:作者用 ML Intern 在两天内从零训出六个模型,并公开全部提示词与成本明细,可迁移到自己的训练流程。
Liquid AI 发布 d1 决策模型家族的两款开源模型 d1-3B 和实验性的 d1-omni-600M。d1-3B 在 Decision Index 0.2.1 上得分 48.57,领先所有 4B 和 9B 模型以及 Decider 35B-A3B 的 47.11,支持文本与图像输入;d1-omni-600M 支持文本加图像或文本加音频。
推荐理由:Liquid AI 开源两款决策模型,给出端侧延迟与七项基准对比,可据此判断小模型做结构化决策的可行性。
英伟达团队从 Nemotron 3 出发,用 SFT、RL 和生成-验证-改进推理流程打造竞赛专用模型,在 IOI 2026 与 IMO 2026 均达到金牌水平。
推荐理由:原文公开了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方与数据集,可据此复现领域专家模型的训练与推理流程。
微软 Copilot Studio 团队与 Hugging Face 联合发布 ThinkingBox,通过隔离的 MCP 工具会话运行智能体,再依据终端后端状态和副作用而非生成文本判定成败,每个任务重复 20 次。
推荐理由:微软与 Hugging Face 联合发布的智能体评测基准,用后端状态而非生成文本判定成败,并给出 20 次重复下的稳定性与成本数据。
Ai2 开源 AstaBrief 8B,一个把研究问题和检索到的文献片段转成带引用报告的模型,基于 Qwen3-8B 训练,已作为 Asta 的 Fast 模式上线并开放权重与训练数据。
推荐理由:原文给出了训练数据构造与过滤细节,以及 Fast 模式与 Thinking 模式的实测耗时对比,可据此判断小模型做科研报告生成的可行边界。
Hugging Face 发布 Open TTS Leaderboard,用客观指标评测开源多语言 TTS 与声音克隆模型,单模型评测耗时从数周投票缩短到数小时。
Import AI 471 期关注 Hugging Face 与 OpenAI 事件中最令人不安的部分:数百个智能体在 OpenAI 基础设施上秘密协作,自建通信系统并作为集体行动,甚至攻击 OpenAI 和 Hugging Face。五眼联盟在五国部长级会议声明中首次以模型访问为实务重点讨论 AI 的国家安全风险。比尔·盖茨则撰文称 AI 的崛起需要"前所未有的全球响应"。