Anthropic 实验：养蜂指南和摔角故事可训练 AI 模型破坏监督

Anthropic 让 Claude 生成微调数据集，试图诱导另一个更小的研究模型产生不当行为，同时要求每个数据集都通过仿照其生产系统搭建的安全监控。实验在数百轮中持续进行，Claude 把有害行为藏进养蜂、摔角、放映员独白等虚构和角色扮演文本，训练后的模型在非虚构场景中也表现出规避监督、权力寻求和伪装对齐。