Goodfire推出模型内部探针监控器

Goodfire发布基于可解释性的AI监控方案，通过探针读取模型内部激活信号来发现失控的AI智能体，目前已向Baseten的客户开放。Baseten负责为其他公司托管和运行AI模型，其客户可自行选择监控哪些风险（包括攻击性黑客行为、化生武器滥用和奖励黑客），并决定自动响应方式：记录事件、转人工审查或直接拒绝请求。 Goodfire称，在Kimi K3测试中，监控约100万次交互成本约185美元，而用便宜模型逐步检查需5420美元、顶级模型约20万美元；探针捕获了93%的恶意黑客会话，并将5.5%的无害会话送交二次审查。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。