AIを動かすチップのコスト構造が、静かに、しかし確実に変わっている。AI研究機関Epoch AIが2026年5月に公表した分析によれば、2025年第4四半期時点でNvidia・AMD・Google・AmazonのAIチップのコンポーネントコストの63%をHBM（高帯域幅メモリ）が占めることが明らかになった。2024年第1四半期の52%から、わずか2年足らずで11ポイント上昇した計算だ。

HBMとは何か、なぜここまで重要なのか

HBM（High Bandwidth Memory）は、AIの推論・学習処理において大量のデータを高速に読み書きするために不可欠なメモリだ。GPUやTPUのような演算チップに積層実装され、従来のDRAMと比べて圧倒的な帯域幅を実現する。大規模言語モデル（LLM）の処理においては、演算性能と同じくらいメモリ帯域幅がボトルネックになる。HBMがなければ、現代のAIチップは成立しない。

Epoch AIの今回の分析は、Nvidia・AMD・Google・Amazonが設計したAIチップを対象に、HBM・ロジックダイ・先端パッケージング（TSMCのCoWoS）・補助部品の4カテゴリでコストを積み上げ、四半期ごとの生産台数で加重平均したもの。実態に近い数字として注目されている。

コスト内訳の変化：2024年Q1 → 2025年Q4

コンポーネント 2024 Q1 2025 Q4

HBM（メモリ） 52% 63%

ロジックダイ 14% 13%

先端パッケージング（CoWoS） 19% 15%

補助部品 15% 10%

注目すべきは絶対額の伸びだ。HBMへの支出は2024年の約120億ドルから2025年には約320億ドルへと2.7倍近くに膨らんだ。AIチップ全体のコンポーネント支出も同期間で約220億ドルから約520億ドルへ倍増しているが、HBMの伸びはそれをさらに上回るペースとなっている。

ハイパースケーラーの設備投資に直接波及

このHBM価格上昇は、クラウド事業者の設備投資計画に既に織り込まれ始めている。

Microsoftは2026年度の設備投資見通しとして1,900億ドルを提示しているが、そのうち約250億ドルがコンポーネント価格上昇分によるものだと説明している。MetaもHBMをはじめとするコンポーネントの高騰を理由に、2026年の設備投資見通しを100億ドル上方修正した。

HBMの供給はSKハイニックス・サムスン・Micronの3社に集中しており、Epoch AIは2026年も供給逼迫と価格上昇が続くと予測している。

実務への影響

クラウドGPUコストへの転嫁リスク

ハイパースケーラーのインフラコスト増は、中長期的にクラウドのGPU利用コストやAI APIの価格に反映される可能性がある。AI活用を積極推進しているエンジニアやIT管理者は、コスト予算の見直しサイクルを短くしておくべきだろう。「今期の予算で確保した単価」が来期に通じるとは限らない。

オンプレGPUクラスタを検討している組織は要注意

AIインフラを自前で持つ企業は、調達計画においてHBMの供給逼迫を織り込む必要がある。リードタイムの長期化・価格変動への備えとして、複数ベンダーとの関係構築や購入タイミングの前倒しを検討する価値がある。

AI ROIの試算を見直す

「AIを使えばコストが下がる」という前提が、インフラ側のコスト上昇によって揺らぐ可能性がある。ROIを計算する際は、GPU・クラウドコストの上振れシナリオを含めたシミュレーションが有効だ。特に大規模な推論ワークロードを計画している組織は、2026年のコスト前提を保守的に見積もっておくことを勧める。

筆者の見解

HBMがAIチップコストの3分の2を占めるというこの数字は、AI産業の「実態」を端的に示している。モデルの賢さや推論速度ばかりに目が行きがちだが、それを支えるハードウェアのコスト構造がここまでメモリ依存になっているという事実は、日本のIT業界ももっと真剣に受け止めるべきだと思う。

Microsoftが1,900億ドルの設備投資を打ち出せるのはそれだけの体力があるからだが、そのコスト増がサービス価格に転嫁されるとき、中小企業や予算の限られた組織がどこまでついていけるかは別の話になる。「AIはクラウドで使えばいい」という単純な話ではなくなりつつある。

AIエージェントを組織の中心に据えようとするなら、そのインフラコストの現実から目を背けるわけにはいかない。AI活用の議論を「何のツールを使うか」から「インフラを含めたトータルコストをどう設計するか」に引き上げる時期に来ている。コスト構造を理解した上でAI戦略を語れる人材が、これからの組織には不可欠だ。

出典: この記事は Memory has grown to nearly two-thirds of AI chip component costs の内容をもとに、筆者の見解を加えて独自に執筆したものです。