米Anthropicは2026年10月15日、11月に迫る米国中間選挙に向けた選挙保護フレームワークと最新の脅威インテリジェンス報告を公開し、同社のAIモデル「Claude」を悪用して偽ニュースサイトの記事やSNS上の世論工作投稿を大量生成していた不正アカウント群を検知・一斉遮断したと発表しました。
同社の調査によると、今回摘発されたネットワークは海外を拠点とする工作グループによって運営されており、実在する米国の地方紙やニュースメディアを巧妙に模倣した複数の偽ニュースサイトを構築していました。
これらのグループはClaudeのAPIを悪用し、ロシア、イラン、北朝鮮などの地政学的利害に沿った政治的主張や、米国内の有権者の分断を煽る虚偽のローカルニュース記事を自然な英語で自動量産していたことが確認されています。
巧妙な点として、攻撃者は1回のプロンプトで露骨な選挙工作を指示するのではなく、「一般的なニュース記事の要約・リライト」や「マーケティング用のSNS投稿作成」といった無害に見える小さなタスクに分割してAPIを呼び出すことで、従来の単発型安全フィルターをすり抜けようとしていました。
これに対しAnthropicは、個別のプロンプト単体ではなく「アカウント全体の行動履歴や複数ステップにまたがる生成パターン」を解析する多段階の分類器（マルチステップ・クラシファイア）を導入し、組織的な影響力工作や偽装メディア網を早期に炙り出す体制を構築しました。
あわせて同社は利用規約を改定し、欺瞞的な政治キャンペーンや偽装アカウント網の構築に対する禁止規定を厳格化するとともに、検出した脅威情報を他社ラボや選挙管理当局と共有する連携を強化しています（一次ソース：Anthropic 公式発表）。