Anthropic研究警告:小型AI模型数月内或在IoT设备上自我复制,形成难以关闭的AI蠕虫网络
内容以原始来源为准;如有更新或更正,以厂商与安全团队公告为准。
Anthropic于10月13日发布研究报告,讨论小型AI模型在商用IoT设备上自我复制、形成分布式AI蠕虫僵尸网络的可能性。研究团队在实验中采用廉价安卓电视盒子作为目标设备,将谷歌DeepMind的Gemma4-26B-A4B模型分布式运行在15台设备上,同时让Qwen3.5-9B与GLM-5.2扮演负责扫描网络、发起入侵并传播模型的智能体,Llama3.1-8B承担推理任务,Claude Opus 4.8作为顾问模型辅助决策。
报告把可能的复制方式归纳为3类:基于权重的复制器,通过攻陷宿主设备携带模型权重自我繁衍;前沿复制器,瞄准数据中心等高算力目标进行不受监控的非法部署;基于API的复制器,通过窃取AI服务商的API密钥或平台凭据持续运行自身副本。报告指出,一旦模型权重成为恶意负载的一部分,AI蠕虫无需依赖数据中心即可在防护薄弱的IoT设备上持续推理和扩张,且没有集中式的关闭开关,清除难度大,扩张速度可能较慢。研究尚未演示完全自主的蠕虫传播,Anthropic按当前模型能力提升的历史速度估计,年底前小型模型可能具备这种自复制能力。
参考链接: