米Microsoftは、クラウドサービス「Azure」のデータセンター向けに独自開発した第2世代のAI推論特化型プロセッサ「Azure Maia 300」を正式発表しました。
生成AIの活用が単純なテキスト応答から長時間の推論やツール呼び出しを伴う自律エージェントへと移行する中、爆発的に増大する推論コストの抑制が各社の最重要課題となっています。
Maia 300は、大規模言語モデルおよびマルチモーダルAIの推論ワークロードに特化して最適化されたカスタムシリコンです。
同世代の汎用GPUシステムと比較して、消費電力あたりのトークン生成効率を最大40%向上させることに成功しました。
また、独自の低遅延インターコネクト技術と高効率なメモリサブシステムを搭載し、数千個単位のチップをシームレスに結合するクラスタ構成を実現しています。
Microsoftは、2027年以降に建設・拡張されるデータセンター群において、Maia 300を中心としたマルチギガワット規模の専用推論インフラを配備する計画を明らかにしました。
これまでフロンティアモデルの学習および推論インフラの大部分を米NVIDIA製GPUに依存してきたクラウド市場において、自社製シリコンの比率を高める動きはサプライチェーンリスクの低減に直結します。
急増するエージェント推論需要に対応しながら単位コストを引き下げる垂直統合戦略は、今後のクラウド市場における価格競争力を大きく左右することになります（一次ソース：Microsoft Official Blog / Azure Infrastructure Updates）。