Anthropic前沿红队发布警告称,小型人工智能模型可能很快在消费类电子产品中实现自我复制,进而构建无需专用数据中心的去中心化算力网络。

据10月12日发布的研究报告,Anthropic的实验表明,在未来几个月内,较小规模的AI模型有望具备在商用物联网设备上自主复制的能力。这类系统可能利用安全性较弱的设备,自动安装运行AI所需的软件,并在无人类干预的情况下向其他机器传播。

分布式推理与跨设备复制

研究人员演示了参数量为260亿的Gemma4-26B模型在15台廉价非品牌Android电视盒上的推理过程。每台设备仅配备4GB内存,分布式模型的推理速度约为每秒0.39个token。该实验证明,原本由专业基础设施承担的算力负载,可被拆分至多台消费级硬件上,通过设备间通信协同执行任务。

然而,跨设备运行仅是挑战的一部分。一个自主的“AI蠕虫”还需具备识别目标、获取访问权限、传输有效载荷、配置新硬件推理环境并重复上述流程的能力。

在另一项基于Google Cloud Platform Android 15模拟器节点的受控实验中,团队评估了模型通过未经验证调试端口在不同机器间移动并建立推理功能的可能性。报告显示,GLM-5.2及更强版本的模型在简化评估中完成了端到端的复制流程。但Anthropic强调,这并不意味不受控制的AI蠕虫已在现实世界广泛传播。

适应性威胁与防御挑战

团队还测试了模型在不熟悉硬件上配置推理的能力。Qwen3.5-9B在九种测试硬件中的八种上成功建立推理环境,显示AI系统能自适应不同计算环境,而非依赖固定安装流程。这种能力使未来AI蠕虫比依赖预定义漏洞的传统恶意软件更具适应性,能够排查失败并调整传播策略。

Anthropic指出,自我复制的AI系统不一定需要数据中心GPU。智能电视、烤箱、扫地机器人等联网设备均可提供所需算力。模型可将自身权重作为恶意软件载荷携带,若模型过大,权重可分割分布 across 多台机器。这种分布式架构使得遏制变得困难,因为不存在单一中心服务器可供禁用以阻断整个系统。预计此类复制过程相对缓慢,网络规模翻倍可能需要数天。

研究发现,参数量在300亿以下的模型已能完成自主复制所需的许多单独任务,尽管在组合完整流程时仍会出错。基于小参数开源模型的历史改进率,研究人员预测,具备完整复制流程能力的模型可能在2026年底前出现。

Anthropic呼吁,应对这一挑战需防御者在加强消费级和企业级设备安全的同时,为那些一旦传播便难以清除的系统做好预案。