マイクロソフトは最新のAzure仮想マシン「HBv5」に、HBM3メモリを搭載したAMDのカスタムEPYC CPUを採用した。このプロセッサはZen 4コアを88基搭載し、総帯域幅は6.9TB/sに達する。HBv4と比較して9倍、HBv3とは20倍の速度向上を実現しており、HPC（高性能計算）における大幅な性能向上が期待されている。

HBM3はこれまでGPU向けに用いられてきた技術だが、今回の導入によりEPYCプロセッサにL4キャッシュとして機能を追加した。これにより大容量かつ高帯域幅のメモリが利用可能となり、特定の計算負荷において従来のボトルネックを解消する設計となっている。VMはNvidiaの高速ネットワーク技術も採用しており、クラウド利用者に前例のないパフォーマンスを提供する構えである。

HBv5の核となるHBM3メモリとその革新性

HBv5仮想マシンに搭載されたHBM3メモリは、従来のメモリ技術を超える性能を提供する。HBM3は一般的なDRAMと異なり、垂直積層構造を採用することで高密度化と高速アクセスを実現している。Azure HBv5では450GBものHBM3メモリを搭載し、プロセッサの内部帯域幅を6.9TB/sに引き上げた。

これにより、メモリ帯域幅が主要な制約となる科学シミュレーションやAIトレーニングといった計算負荷の高いタスクを効率的に処理できるようになる。

一方でHBM3は、その低遅延と高いスループットに加え、キャッシュとしての役割も果たす。特にL4キャッシュとして機能することで、膨大なデータを高速に処理できる環境を提供する点が特徴だ。ただし、HBM3の高いコストと複雑な製造プロセスは、一般市場への展開を難しくしている。

マイクロソフトとAMDのパートナーシップは、この技術を限られたニッチ市場で最大限活用する戦略の一環と言えるだろう。

カスタムEPYC CPUの技術的背景とAzure専用化の意図

HBv5に採用されたAMDのカスタムEPYC CPUは、Zen 4コアを88基搭載し、最大クロック速度3.7GHzを実現する。このプロセッサは、通常のEpycプロセッサをベースにしながらも、HBM3メモリとの統合によって独自性を確立している。また、通常のEpyc CPUに比べてInfinity Fabric帯域幅が2倍に強化され、データ転送能力も大幅に向上している。

これらの特徴から、このプロセッサがかつてMI300Cとして計画されていたチップである可能性が指摘されている。ただし、GPU機能を持つMI300Cとは異なり、HBv5のプロセッサはCPU専用設計であり、用途が明確に分かれている点が特徴である。

さらに、このカスタムプロセッサはマイクロソフト専用で設計されており、他社では利用できない。マイクロソフトが独占契約を結んだ背景には、クラウド事業の競争優位性を高める狙いがあると考えられる。

HPC市場におけるHBM搭載CPUの未来と課題

HBM搭載CPUは高性能計算分野での革命をもたらす可能性を秘めている。しかしながら、その歴史を見ると課題も浮き彫りになる。例えば、IntelのSapphire Rapids HBM搭載CPUは市場に投入されたものの、次世代モデルではHBMバージョンが省略される可能性が報じられている。一方、AMDはHBM3を統合したカスタムEPYCで新たな道を切り開こうとしている。

HBMを搭載したプロセッサは、その製造コストの高さと需要の限定性から、広範な市場展開が難しいとされる。しかし、Azure HBv5のような特定のクラウド環境では、これが競争力を強化する武器となる。

AMDメモリエンジニアのフィル・パーク氏は、EPYCが高ボリューム市場を重視しているため、HBM統合が進まなかったと述べている。今後、HBM搭載CPUが主流化するには、さらなるコスト削減と技術革新が必要となるだろう。マイクロソフトとの提携は、その一歩を示している。