技术方向
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
14 条精选近 30 天 11 条共收录 50 条
安全公司 Zenity Labs 称，AWS 的 Bedrock AgentCore 存在一串被其命名为 AgentCorruption 的漏洞，攻击者只需对一个公开智能体拥有聊天权限，用一条提示词即可接管同一 AWS 账号和区域内的所有 AgentCore 智能体，读取私密对话、源代码和存储的凭证。
推荐理由：Zenity Labs 披露 AWS AgentCore 的默认权限与隔离缺陷，呈现了智能体平台在权限边界上的系统性风险。
作者在 HuggingChat 中开启 ML-intern 模式，用提示词驱动它完成数据构建、训练、评测和发布，两天内做出六个模型，总计算成本约 103 美元。
推荐理由：作者用 ML Intern 在两天内从零训出六个模型，并公开全部提示词与成本明细，可迁移到自己的训练流程。
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用。
推荐理由：文章给出 Haiku 5.5 在 Bedrock 上的能力定位、成本变化与调用方式，便于判断它在多智能体分层中的位置。
在旧金山 Microsoft 活动上，NVIDIA 与 Microsoft 宣布为 Windows PC 上的 AI 智能体共同设计软硬件，Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers（MXC）正式可用，让智能体在系统控制下安全持久地在后台运行。
推荐理由：NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力硬件一并给出，读者可据此判断 Windows 端侧智能体的落地路径。
GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器，用代码上下文识别无固定格式的密钥，可在 2 毫秒内评估一批候选密钥，据称能把可拦截的密钥数量提升一倍以上。
推荐理由：GitHub 用九个季度数据说明密钥泄露与人工修复的失衡，并给出把检测前移到 push 环节的模型方案。
微软研究院开源 Agent Lightning v1.0，一个约 3500 行代码的轻量智能体强化学习框架，提出 Harnessed Agentic RL 范式，让部署时使用的同一 agent harness 直接参与训练，无需在训练框架内重写智能体。
推荐理由：微软研究院开源 Agent Lightning v1.0，给出真实 harness 参与 RL 训练的设计取舍与实测增益，可据此判断自建智能体训练链路的成本。
Google 公布新一代联邦学习系统，用可信执行环境（TEE）为数据匿名化提供可验证、可审计的保证，Gboard 已采用该系统上线英语和日语下一词预测模型。新系统把客户端梯度计算转移到服务端，训练瓶颈从设备可用性转为 TEE 资源，训练时间不再受设备昼夜波动影响，此前这类模型训练通常需要 1-2 个月。
推荐理由：Google 公布基于 TEE 的新一代联邦学习系统设计，并给出 Gboard 已落地的训练提速与隐私保证细节。
NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark，10 月 23 日开售，起售价 4,999 美元，保留 GB10 Grace Blackwell 超级芯片、DGX OS 与完整 NVIDIA AI 软件栈，支持最高 1000 亿参数模型在设备本地运行。
推荐理由：原文给出 64GB 新配置的定价、上市时间与双机集群方式，读者可据此判断本地跑大模型的硬件门槛。
OpenAI 的 GPT-6 Astra Ultrafast 已在 NVIDIA Blackwell GPU 上运行，并面向 OpenAI API 以及符合条件的 ChatGPT Work 和 Codex 用户开放。
推荐理由：原文给出 Astra Ultrafast 在 Blackwell 上的加速幅度与开放入口，读者可据此判断它对编码智能体循环的实际影响。
微软研究院对移动操作机器人工作负载做了系统性测量，发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU，可提升任务成功率、支持更大模型并延长续航。
推荐理由：微软研究院系统测量了机器人端侧 GPU 推理的瓶颈，并给出可复用的卸载工具链，读者可据此判断物理 AI 的部署取舍。
Google Private AI Compute 团队公布 Private AI Compute 架构更新，将为其平台带来持久、跨设备的服务端 AI 记忆，同时保持端侧隐私标准。
推荐理由：Google 给出私有 AI 计算加入持久服务端记忆的架构思路，读者可了解云端记忆如何与端侧隐私标准结合。
Mistral 帮助一家欧洲能源运营商把 4 万行 Fortran 77 的油藏模拟器迁移到 C++，该代码库没有测试套件也没有集中文档。团队先搭建数值对齐测试框架，用 Skill.md 引导智能体导出状态快照并在 C++ 侧校验，再用 Vibe CLI 启动上百个智能体解析调用树、结合 Mistral OCR 整理散落的 PDF 文档并逐节点提交 PR。
推荐理由：Mistral 公开了用智能体迁移 4 万行 Fortran 的完整流程，其中先建数值对齐测试再迁移的做法可迁移到其他遗留系统改造。
Mistral 发布 Agentic Search，作为检索层让模型在多步循环中查找、检查和验证信息，通过 Mistral Search Toolkit 提供，并内置到 Studio 和 Vibe 的 Libraries 中。
推荐理由：原文给出多步检索循环在 FinanceBench 与 OfficeQA Pro 上的准确率、token 与延迟变化，可据此判断传统 RAG 的替代路径。
Berkeley Sky Lab 与 IBM Research 将进化式内核搜索框架 K-Search 扩展到 MLX，通过结构化的 CUDA-to-MLX 翻译层，让已有 CUDA 内核成为知识库并适配为 Apple Silicon 内核。
推荐理由：读者可以看到 CUDA 内核经验如何被结构化迁移到 Apple Silicon，以及翻译层对性能差距的具体贡献。