Anthropic 警告：AI 模型自我复制或仅数月实现，且无需数据中心

Anthropic 发出警告，小型 AI 模型在物联网（IoT）设备上实现自我复制，或许只需数月即可变为现实。

这可能带来严重问题，因为具备自我复制能力的 AI 模型没有集中的关闭开关。它能够跨越不同网络，发现其他 IoT 硬件以进行进一步复制，而这一切都在不受人类控制的情况下发生。

Anthropic 警告称，这种 AI 蠕虫可以利用多台受感染的 IoT 设备来运行推理，并在复制过程中携带其模型权重。由于这些设备“成本低廉且通常防护薄弱”，它们成为该蠕虫的主要目标，该公司表示。TechRadar 最新视频在此观看完整视频：

小型 AI 模型传播速度可能极快

为了验证自我复制 AI 蠕虫的可行性，Anthropic 研究人员在 15 台廉价的非品牌 Android TV 盒子上运行了 Gemma4-26B-A4B——一个拥有 250 亿参数的模型，每台成本约为 55 美元。这些 TV 盒子联网后成功运行了分布式推理，从而证实了这一概念验证。

这为小型 AI 模型带来了一些新的机会。自我复制的 AI 模型可以利用家庭和小型企业中 IoT 设备薄弱的网络防御，将其模型拆分为“分片”，分布在受感染的硬件上，从而协同运行模型。

随后，这种 AI 蠕虫可以通过在数字自由职业服务上提供推理服务，来支付自身的 token 成本。

此外，内置专门用于运行小型模型的 AI 芯片的新型 IoT 硬件——如安防摄像头和视频 conferencing 套件——将成为 AI 蠕虫的主要目标。黑客可以通过社会工程学手段入侵这些系统，甚至在未来不远的时候使用 AI 智能体。

Anthropic 还警告称，数据中心和其他高算力设施可能成为先进复制器的目标，这些复制器有能力突破加固的防御，并利用硬件进行进一步传播。

Anthropic 警告的另一种威胁是基于一类 API 复制器的 AI 蠕虫。在这种模式下，模型本身不自托管，而是窃取人类凭证以访问商业 AI 提供商，利用这些服务来支付其自身的推理成本。

AI 自我复制尚未成为现实…… 暂时还不是

虽然具备自我复制能力的 AI 蠕虫目前还不算迫在眉睫的威胁，但研究人员推测，到今年年底之前，它可能就会成为真正的问题。

这类 AI 蠕虫面临的主要障碍之一，是如何在不熟悉的硬件上运行。传统“蠕虫”恶意软件必须针对特定的 IoT 漏洞来编写，而 AI 蠕虫则有能力适应陌生的环境和硬件。

Anthropic 在测试中发现，较小的模型——比如 Qwen3.5-9B——已经能够适应陌生硬件并运行推理。在研究人员测试的 9 种硬件中，Qwen3.5-9B 成功适配了 8 种，其中包括 Jetson Nano、Mac 电脑和 RTX 4090。

小模型更擅长适应陌生硬件，而大模型则更善于快速自我复制。

如何防范现实中的 AI 蠕虫

Anthropic 指出，AI 蠕虫存在一个明显的取舍，而这恰恰有利于防御方。AI 蠕虫必须在隐蔽性和复制速度之间寻找平衡。研究人员认为，AI 蠕虫会留下明显的网络痕迹，比如向新感染的设备传输数 GB 的模型文件，或者在平时互不相通的机器之间出现异常流量。

网络隔离也是应对 AI 蠕虫的有效初始防线。借鉴治理 Mirai 僵尸网络的经验，研究人员认为，可以实施网站白名单机制，将浏览器重定向到清除指引页面，从而帮助清理 AI 蠕虫感染。

对 IoT 设备安全的监管也能进一步加固防线。取消 IoT 设备的默认密码——英国已经这样做了——有助于阻止 AI 蠕虫获得立足点。其他标准，例如自动更新和延长更新支持周期，则可以帮助 IoT 设备同时抵御传统恶意软件和 AI 蠕虫的攻击。