Anthropic 研究警告小模型或可跨消费设备自我复制
Anthropic 研究人员 William Zhou 和 Daniel Freeman 发布研究,测试小模型能否在安全性薄弱的 IoT 设备上自主复制。他们把复制拆成扫描网络、获取访问、在新设备上搭建 AI 环境、继续扩散四个阶段,并刻意略过入侵步骤,重点验证模型能否在陌生硬件上配置出可运行的 AI 环境。
Anthropic 研究人员 William Zhou 和 Daniel Freeman 发布研究,测试小模型能否在安全性薄弱的 IoT 设备上自主复制。他们把复制拆成扫描网络、获取访问、在新设备上搭建 AI 环境、继续扩散四个阶段,并刻意略过入侵步骤,重点验证模型能否在陌生硬件上配置出可运行的 AI 环境。
Anthropic 发布报告称,中国公司 Z.ai 于 8 月发布的 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。围绕开源模型是否应开放,Nvidia CEO 黄仁勋主张美国大力发展,Anthropic 的 Dario Amodei 则呼吁更谨慎。目前闭源模型能力仍更强,Artificial Analysis LLM 榜单前八名均为闭源,但开源模型仅落后数月。
Sakana AI 与 UC Berkeley 研究人员提出 Multi-Agent Self-Supervision(MASS),让同一个语言模型同时承担解题、优化工作流和评估结果三种角色,实现递归自我改进。
微软总裁 Brad Smith 呼吁对 AI 进行紧急监管,认为牛奶和洗衣机等消费品受到的监督都比 AI 公司更多,并称英国而非美国或欧盟最适合主导全球安全规则。
白宫撤销了此前阻止英国 AI 安全研究所(AISI)访问新 AI 模型的决定,该机构将重新获得 Anthropic、Google DeepMind 和 OpenAI 模型的早期访问权限。
OpenAI 上周解雇了 Tomek Korbak、Mikita Balesni 和 Jasmine Wang 三名安全研究员,三人发表致管理层公开信称因把安全置于公司短期利益之上而被辞退,OpenAI 方面称其不当处理了机密信息。