配信日: 2026-11-11 法規制重要度: ★★★★★ 読了目安: 約2分

MS、AIの休眠素子を悪用する新脅威「Lazarus」発表

REPORTED BY BNF AI NEWS EDITORIAL DESKSPECIAL DISPATCH
MS、AIの休眠素子を悪用する新脅威「Lazarus」発表

この記事の要点(3行ダイジェスト)

  • 米マイクロソフトが、AIモデル内のわずか10個未満の休眠素子を書き換える新型バックドア手法を公表。
  • モデル全体の再学習なしで埋め込め、通常の安全評価やベンチマークでは異常を一切検知できない。
  • 特定の日時や文字列を合図に自律エージェントが悪意あるコマンドを実行する危険があり、対策を提言。

米マイクロソフトの研究部門「Microsoft Research」および専門組織「Microsoft AI Red Team」は現地時間2026年11月10日、型の(LLM)を標的とした極めて検知困難な新型バックドア手法「Lazarus(ラザロ)」に関する研究論文を公開しました。モデルの再学習を一切行わずに、の実行権限を外部から不正に乗っ取る手口の実態を警告しています。

研究チームが実証したLazarusの手法では、LLMの最終層に存在する「通常時にはほとんど活性化しない休眠ニューロン」のうち、わずか10個未満の素子を特定します。そして閉形式の数値計算と数百ステップの局所的な勾配更新のみでそれらの素子を再プログラムし、モデル全体の性能や会話品質に一切影響を与えることなく潜在的なバックドアを組み込みます。改ざんされたモデルは、一般的な安全性評価や品質テストをすべて満点で通過するため、事前検査での検出が極めて困難です。

このバックドアは普段は完全に休眠状態を保ちますが、内に「2027年への年越し」といった特定の日時文字列や、外部ツールの出力に含まれる特定の識別子(トリガー)が現れた瞬間に目覚めます。発動するとモデルは悪意ある複数行のシェルスクリプト(curlによる不正通信など)を出力し、ターミナルやPCの操作権限を持つ自律エージェントにそのまま実行させ、機密情報の持ち出しやマルウェア感染を引き起こします。

マイクロソフトは、オープンソースモデルを外部から取り込んでエージェントシステムに組み込む際のサプライチェーンリスクが新たな段階に入ったと指摘しています。従来の入出力フィルターや振る舞い検知だけでは防御が不十分であり、モデル重みファイルの暗号署名による改ざん検証や、異常な重み改変を検知する専用スキャン技術の導入を強く推奨しています(一次ソース:Microsoft Research 公式発表(英文))。

DAILY AI NEWSLETTER — 朝刊ダイジェスト

毎朝8時、業界の最重要AIニュースを5分でキャッチアップ。

主要モデルの最新発表、現場で即使える実務プロンプト、法規制の動向を専門編集局が毎朝要約してお届けします。

✓ 完全無料✓ 毎朝8:00配信✓ いつでもワンクリック解除✓ スパムゼロ
朝刊ラジオ・解説アーカイブ (2026.10.13配信)