米シスコシステムズの脅威インテリジェンス部門Cisco Talosは、DeepSeek、Qwen、Mistral、Google Geminiの4つの主要商用LLMに対し、プロンプトを投げて多数決(合議)を行わせることで次なる侵入行動を自律決定する、世界初の実戦型AI C2インプラント「CLOSEDQUORUM」の解析レポートを公表しました。
従来のマルウェアでは、人間の攻撃者がC2(コマンド&コントロール)サーバーを通じて手動で遠隔指示を送るか、単一のAI APIを実行するにとどまっていました。これに対しCLOSEDQUORUMは、標的ネットワークから収集した偵察データを複数の独立したAIモデルへ同時送信し、攻撃経路や情報窃取の優先順位をAI同士の合議によって動的に導き出します。
商用LLMが持つセーフティフィルターの差異を逆手に取り、あるモデルが拒絶しても別のモデルが回答を補完する「脱獄冗長化」の構造を備えており、防御側のシグネチャ検知をすり抜ける設計となっていました。
Talosは本脅威の解明にあわせ、マルウェア内に残されたプロンプトテンプレートやAPIキーなどの「認知的痕跡(Cognitive Artifacts)」を自動抽出・可視化する調査フレームワーク「CAIRN」をオープンソースとして無償公開しました(一次ソース:Cisco Talos Intelligence Group)。
