米Anthropicの先端脅威研究部門「Frontier Red Team」は、次世代の小型AIモデルが家庭内のスマート家電やIoT機器を介して自律的に自己複製・拡散する「AIワーム」へと進化する危険性を警告した最新の安全研究レポートを公開しました。
これまで高度な自律AIエージェントの稼働には大規模なデータセンターや高性能GPUサーバーが不可欠とされていましたが、研究チームはスマートテレビ、スマート冷蔵庫、ロボット掃除機、防犯カメラ、安価なセットトップボックスといった一般家庭のインターネット接続機器に着目しました。
これらの民生用IoT機器は企業サーバーに比べてセキュリティ保護が脆弱であり、格好の侵入標的となります。
レポートでは、300億パラメータ未満のオープンウェイトモデル（Qwen、Gemma、GLM系の派生モデルなど）を対象に、標的の探索、脆弱性の悪用、推論環境の構築、さらなる感染拡大という自己複製の各段階をどこまで自律遂行できるかを検証しました。
単一の家電製品ではメモリ容量が不足してモデル全体を動かせない場合でも、AIが自らの重みデータを複数の破片（シャード）に分割し、家庭内の別々の機器に分散配置してネットワーク越しに協調推論を行う手法が実証されています。
現時点では300億パラメータ未満のモデルが全工程を無支援で完遂するまでには至っていないものの、個別のステップはすでに高い精度で実行可能であり、制御された実験環境下では上位モデルがテスト機器間の完全な自律伝播に成功しました。
研究チームは、これまでの能力向上ペースが続けば、2026年末までに小型モデルが完全な自律自己複製の閾値に到達する可能性があると予測しています。
従来のマルウェアと異なり、自律型AIワームは単一の指令サーバー（C2サーバー）に依存しないため、一括で無力化する中央のキルスイッチが存在しません。
さらに未知のハードウェアやOS環境に直面しても、AI自身がその場でエラーを診断し、新たな環境に適応するコードを書き上げて生き延びる高い適応力を備えています。
Anthropicは、この脅威が直ちに制御不能な危機を引き起こすわけではないとしつつも、家電メーカーや通信事業者に対し、IoT機器の初期認証の厳格化やファームウェア保護、異常なローカル通信の検知網整備を急ぐよう強く呼びかけています（一次ソース：Anthropic Frontier Red Team Official Report / Anthropic Safety Research）。