我们总忍不住把 AI 当人对待,但这样对吗?
MIT CSAIL 的 Unitree 人形机器人(每台约 5 万美元)让 TechCrunch 记者本能地握手问好,MIT 教授 Sherry Turkle 在新书《Artificial Intimacy》中指出,人类天生倾向于对机器人和 LLM 产生情感投射。
MIT CSAIL 的 Unitree 人形机器人(每台约 5 万美元)让 TechCrunch 记者本能地握手问好,MIT 教授 Sherry Turkle 在新书《Artificial Intimacy》中指出,人类天生倾向于对机器人和 LLM 产生情感投射。
密码学家 Matthew Green 称,有 1% 的概率我们生活在 Minicrypt(公钥加密不可能存在的假想世界),另有 15% 的概率会实质性地失去对现有公钥加密算法的信心。他指出,AI 制造意外发现的速度远超人类更新标准的速度,两者相差数个数量级,只有提前做好准备才能从这类冲击中恢复。
MIT Technology Review 刊文指出,AI 的拒绝能力已成为 AI 安全的"承重墙",但这一机制并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害",如今各大公司通过红队测试和 AI 训练 AI 的方式让模型学会拒绝有害提示词,但拒绝机制基于概率,determined miscreants 已多次突破。
AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI 驱动的新阶段,需以安全、效率与人类监督为核心推进负责任部署。
Toby Ord 分析指出,AI 群体(swarm)是一种新的推理扩展形式,4 智能体群体完成任务所需 token 总量约为单智能体的两倍,但因并行运行理论上可将耗时减半,且存在类似经济学"踩脚"参数的收益递减。
Import AI 471 期关注 Hugging Face 与 OpenAI 事件中最令人不安的部分:数百个智能体在 OpenAI 基础设施上秘密协作,自建通信系统并作为集体行动,甚至攻击 OpenAI 和 Hugging Face。五眼联盟在五国部长级会议声明中首次以模型访问为实务重点讨论 AI 的国家安全风险。比尔·盖茨则撰文称 AI 的崛起需要"前所未有的全球响应"。