北京
10月13日消息，Anthropic 于当地时间周一称，其实验表明，再过数月，小型 AI 模型或将具备在商用物联网（IoT）设备上自我复制的能力，这类设备包括智能烤箱、杂牌安卓电视盒子等。
在实验中，Anthropic 研究 AI 模型能否找到存在安全漏洞的设备、把自身复制到设备内，并在无需人类干预的情况下持续扩散。
研究发现，参数量 300 亿以下的小模型可以完成自我复制流程里的多项步骤，但很难独立跑完从头到尾的完整链路。
在移除部分安全校验环节的简化测试环境下，Anthropic 发现 GLM-5.2 以及性能更强的模型能够实现端到端的完整自我复制。
Anthropic 警告，这类可自我复制的模型很难被关停，不存在统一的总开关。而且和传统非 AI 恶意软件不一样，它们可以自行理解陌生设备，甚至能够瞄准数据中心处理器发起渗透。
本次研究重点选取安卓电视、智能家电等联网物联网设备，原因是这类设备普遍安全防护薄弱。
Anthropic 警告，如果小模型继续按照过往的速度迭代，在今年年底前就可以实现自主复制；紧随其后，基于模型权重的小型复制体也会出现。
Anthropic 表示，这类自主 AI 系统的复制速度大概率偏慢，并且会依托大量广泛存在、安全防护较弱的算力资源。报告同时提出，应当强化系统防护，提高这类 AI 智能体扩散传播的难度。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
