AI 拒绝机制被指不可靠
热点事件持续更新
AI 拒绝机制被指不可靠
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
MIT Technology Review 刊文指出，AI 的拒绝能力已成为 AI 安全的"承重墙"，但这一机制并不可靠。 文章称，Anthropic 2021 年提出模型应"有用、诚实、无害"，如今各大公司通过红队测试和 AI 训练 AI 的方式让模型学会拒绝有害提示词，但拒绝机制基于概率，determined miscreants 已多次突破。
AI 根据报道生成 · 3 小时前更新
最新进展10月9日 17:00
我们是否过度信任 AI 说"不"的能力报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- MIT Technology Review · AI我们是否过度信任 AI 说"不"的能力
MIT Technology Review 刊文指出，AI 的拒绝能力已成为 AI 安全的"承重墙"，但这一机制并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害"，如今各大公司通过红队测试和 AI 训练 AI 的方式让模型学会拒绝有害提示词，但拒绝机制基于概率，determined miscreants 已多次突破。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。