米OpenAIは、同社の生成AIサービス「ChatGPT」を悪用して組織的な世論誘導を行っていた、イランおよびロシア発信の秘密工作ネットワークを特定し、関連する全アカウントを遮断したとする脅威インテリジェンス調査レポートを公開しました。
今回の調査で摘発されたイラン発の工作活動では、7名の架空の米国人フリーランス記者ペルソナが精巧に構築されていました。
工作員らはChatGPTを用いて英語記事の推敲や編集者向け寄稿メールの自動作成を行い、世界各国のオンラインメディア約12媒体に約100本に及ぶ長文のプロパガンダ記事を実際に掲載させていました。
記事の内容は主に中東情勢に関する特定の地政学的ナラティブであり、さらにSNS上での大量の好意的コメント生成にもAIを動員して影響力の水増しを図っていました。
OpenAIは今回の脅威レベルを、同社が定める6段階評価の中で最も深刻度の高いランク4およびランク5と位置付けています。
生成AIを用いた世論工作は、これまでのSNS上での単純な自動ボット投稿から、本物の記者になりすまして信頼性のある既存メディアの編集網を突破する「偽装フロント型工作」へと高度化しています。
OpenAIは検知システムの強化とともに、悪用パターンのシグネチャを他社や政府機関と共有する連携を進めています。
自律的な文章生成能力が国家間の情報戦に兵器化されるリスクに対し、AI開発企業が最前線で対抗措置を講じる責任が一段と重くなっています（一次ソース：OpenAI Threat Intelligence Report / OpenAI Official Research）。