Ep.1554 マイクロソフト、第3世代AIチップ「Azure Maia 300」のアーキテクチャを公開──LLM推論の電力効率とスケーラビリティを極限まで追求（2026年10月13日配信）

タイトル

マイクロソフト、第3世代AIチップ「Azure Maia 300」のアーキテクチャを公開──LLM推論の電力効率とスケーラビリティを極限まで追求

このエピソードで登場するキーワードを説明します。

Azure Maia 300: マイクロソフトが独自に設計・開発した第3世代のAIアクセラレータ（AIチップ）。大規模言語モデル（LLM）や自律型AIエージェントの「推論」処理に特化して最適化されている。

SDLA (Software Defined Locally Accessed Dataflow Architecture): Maiaシリーズの根幹をなすアーキテクチャ。データの配置や移動、変換をソフトウェア側から明示的に制御することで、無駄なデータ移動を減らし電力効率を最大化する仕組み。

スーパーポッド: ネットワークを通じて最大12,288基のMaia 300を接続した巨大な計算インフラ。ラックをまたいでも単一の巨大なシステムとして機能する。

それでは解説に入ります。

2026年10月12日、マイクロソフトは来る11月の「Microsoft Ignite 2026」に先駆け、自社のクラウドインフラを支える最新の独自AIチップ「Azure Maia 300」の詳細なアーキテクチャを公開しました。現在、AIの利用は単なるチャットボットから、複数のステップを自律的にこなす「エージェント型」へと進化しており、長いコンテキストの処理やツール実行など、推論にかかる計算負荷が急増しています。Maia 300は、この「1ワットあたり、1ドルあたりの有用な生成トークン数」を最大化するという明確な哲学のもと、シリコン、ソフトウェア、ネットワーク、そしてデータセンターの冷却設備に至るまで、システム全体が協調して動くように設計されています。

チップ単体の進化としては、TSMCの最先端プロセス「N2P」を採用したマルチチップレット構成へと刷新されました。演算処理を行うダイと、メモリ制御やI/Oを担うダイを分離することで、処理性能を大幅に向上させています。また、HBM4メモリを8層スタックで搭載し、チップ1つあたり288GBの容量と秒間18TBという驚異的な帯域幅を実現。さらに、AIの推論を軽量化するMXFP4や3ビット未満のデータフォーマットをハードウェアレベルでサポートし、消費電力を抑えつつ、より巨大なモデルを動かせるようになっています。

インフラ全体のスケールも桁違いです。167kWの電力を消費する1つのラックには、水冷システムによって冷却される96基のMaia 300が敷き詰められており、前世代（Maia 200）から実装密度が2倍に跳ね上がりました。そして、ラック同士を光ファイバーやイーサネットベースのカスタムネットワークでつなぐことで、最大12,288基のチップが「1つのスーパーポッド」として連動します。ラック内で障害が起きた場合でも、別のラックにある予備のチップへ処理を瞬時に迂回させる柔軟なジョブ配置が可能です。

これらすべてのイノベーションを掛け合わせた結果、Maia 300は前世代のMaia 200と比較して、1ワットあたりのパフォーマンスが2.5倍以上、ラック全体のトークン処理能力（スループット）にいたっては最大7倍という劇的な進化を遂げました。単に計算機を増やすのではなく、「高度なAIをより安く、使いやすくする」というマイクロソフトのインフラ戦略の現在地を示す、極めて重要な発表と言えます。

今回のエピソードは以上で終了です。また次回お会いしましょう。