米Microsoftは現地時間2026年11月19日、市販のUSB4ケーブルで複数台のWindows 11搭載PCを連結し、1台ではメモリ不足となる超大規模AIモデルをローカル実行できる新機能「RDMA over USB4」の開発者プレビューを発表しました。
従来、複数マシンにまたがるテンソル並列推論には高価なデータセンター用RDMAカードや専用スイッチが必要でした。本技術はWindows標準のRDMA APIであるNetworkDirectをUSB4ホストルータのDMAリングへ直接割り当てることで、標準USB4ポートのまま超低遅延通信を実現します。
Microsoftの計測では小さなメッセージの往復遅延が28〜50マイクロ秒に収まり、従来のUSB4上イーサネット通信と比べ約4倍高速化しました。AMD Ryzen AI Max搭載ミニPC 3台では235B規模のQwen3-235B-A22Bを毎秒約22トークンで動かしたとしています。
Intel Core Ultra Series 3搭載PC 4台でもGPT-OSS-120Bを毎秒約54トークンで推論できました。USB4向けNetworkDirectプロバイダとllama.cppベースの検証環境はオープンソース公開され、Windows Insider向けに展開予定です(一次ソース:Microsoft 公式ブログ(英文))。
