HBMとは?読み方・仕組みとGPUに必要な理由を図解|DRAM・GDDRとの違いとHBM4

HBMとは:GPUの隣にDRAMを積んだHBMのスタックが並ぶチップのパッケージ メモリ・HBM・先端パッケージ
記事内に広告が含まれています。
答え

HBMとは、High Bandwidth Memory(高帯域幅メモリ。読み方はエイチ・ビー・エム)の略で、DRAMのチップを何枚も縦に積み、GPUのすぐ隣に置いた高速なメモリです。積んだチップどうしは、チップを貫く縦の電線TSVでつなぎます。

AIの計算では、GPUがいくら速くても、メモリからデータが届かなければ手が止まります。HBMは「近くに置き、たくさんの線で運ぶ」ための形です。だからNVIDIAのH100から次のRubinまで、AI向けのGPUの横には必ずHBMが並んでいます。

この記事を書き直したのは、「hbm gpu」「gpu hbm」と、GPUとの関係から探しに来る人が多かったからです。そこで最初に、HBMがGPUのどこにあり、中がどうなっているかを1枚の図で見せます。たとえは、YouTubeの動画と同じ「シェフと倉庫」を使います。

HBMとは何かが1枚で分かる図:DRAMを積みTSVで貫いたHBMが、GPUの隣にインターポーザーで載る構造

HBMとは?読み方と意味

HBMの読み方は「エイチ・ビー・エム」です。High Bandwidth Memory(ハイ・バンドウィドス・メモリー)の頭文字で、日本語では高帯域幅メモリ、または広帯域メモリと訳されます。

書き方読み方・意味
HBMエイチ・ビー・エム
High Bandwidth Memoryハイ・バンドウィドス・メモリー(高帯域幅メモリ)
帯域(バンド幅)1秒に運べるデータの量。単位は GB/s・TB/s。道の広さ
DRAMディーラム。パソコンのメモリと同じ仲間のチップ
TSVティー・エス・ブイ。チップを貫く縦の電線

HBMは部品の種類の名前で、決まりは半導体の業界団体JEDEC(ジェデック)が規格として出しています。後ろに付くHBM3・HBM3E・HBM4は、世代の名前。

ひとつ注意があります。電気製品の品質の仕事でHBMと言えば、静電気の試験の人体モデル(Human Body Model)の略でもあります。人の指から部品へ静電気が飛ぶ場面をまねた試験の名前で、この記事のメモリとは別物。「HBM キャリブレーション」「HBM 試験」で探しているなら、そちらの話です。

なぜGPUにHBMが必要か(メモリの壁)

GPUは計算が速すぎて、メモリからデータが届くのを待ってしまうからです。この待ちはメモリの壁(メモリウォール)と呼ばれます。HBMは、運ぶ線の本数を増やし、線を短くして、この待ちを減らします。

AIは答えを1文字出すたびに、モデルの大きな数字の表(重み)をメモリから読み直します。計算そのものより、表を運ぶ時間で止まりやすい。ここがAIのメモリの使い方の特徴です。

たとえるなら

GPUは料理がとても速いシェフ、メモリは材料をしまう倉庫です。通路が1本だけだと、シェフは材料を待ちます。倉庫が遠いと往復に時間がかかり、運ぶ手間も増えます。だから倉庫はキッチンのすぐ隣に置きたい。でも隣の土地は狭い。そこで倉庫を12階建てのビルにし、上の階の材料は床を貫くエレベーターで1階へ降ろし、1階からたくさんの短い通路でキッチンへ運びます。これをチップでやったのがHBMです。

HBMのたとえ:GPUはシェフ、HBMはキッチンの隣の12階建て倉庫、TSVは床を貫くエレベーター

運べる量は「線の本数×1本の速さ」

メモリからGPUへ1秒に運べる量(帯域。メモリの速度のこと)は、線の本数×1本の速さで決まります。速さを上げるほど信号は崩れやすくなります。そこでHBMは、本数を増やす道を選びました。

JEDECの発表では、HBM3は1本あたり6.4Gb/s、1つで819GB/sです。発表文には線の本数が書いていなかったので、筆者は2つの数字から計算しました。819.2GB/sを8倍してビットに直し、6.4で割ると1,024本。パソコンのメモリ(DDR5-6400)1枚の64本の16倍です。

線は短いほど良い、という点も大事です。電源の設計者の目では、線は小さなコンデンサに見えます。1と0を切り替えるたびに線を充電し、放電する。そのたびに電力が熱になり、線が長いほど信号の角も丸くなる。HBMをGPUの隣に置くのは、速さのためであり、電力と熱を減らすためでもあります。

このブロックの参照データ
・JEDEC「HBM3 の規格の発表」(2022年1月) 6.4Gb/s・819GB/s。本数は筆者の計算
HBMの帯域は線の本数×1本の速さ:DDR5は64本で51.2GB/s、HBM3は1,024本で819GB/s、HBM4は2,048本で約2TB/s

HBMの仕組みと構造:縦に積みTSVでつなぐ

HBMは、薄く削ったDRAMのチップを8枚・12枚と積み、チップを貫く縦の電線TSVで上下をつないだ部品です。いちばん下には土台のチップ(ベースダイ)があり、外とつながるのはこの土台だけです。

① 縦に積む。GPUの隣は狭いので、横に並べず上へ積みます。積んだ山1つを「スタック」と呼びます。

② TSVで貫く。チップに細く深い穴を開け、銅を埋め、裏を削って薄くすると、銅の柱の先が裏に出ます。これを積むと、上と下の柱が小さな金属の粒(バンプ)でつながります。SK hynixの解説では、TSVは1つのチップに数千本あります。

③ GPUの隣に置く。スタックとGPUは、インターポーザーという細い配線の板の上に並べて載せます。代表はTSMCのCoWoSです。

上のチップのデータは、TSVを通って土台まで降り、板の中の短い配線でGPUへ出ていきます。工程の細かい順番は記事末の「HBMの製造工程」、裏を削る工程はバックグラインド、積んで固める2つの方法はMR-MUFとTC-NCFの違いで図にしています。

このブロックの参照データ
・SK hynix ニュースルーム「TSV の解説」(2019年11月) 数千本・外とつながるのは最下段だけ
・TSMC「CoWoS」の技術ページ SoCとHBMを並べて載せる
HBMの断面図:データはTSVを下り、ベースダイからインターポーザーを通ってGPUへ

12枚積みでも、厚さは8枚積みと同じ

SK hynixは2024年9月、DRAMのチップを12枚積んだHBM3E(36GB)の量産を始めました。3GBのチップが12枚で36GBです。

驚くのは厚さです。1枚1枚をそれまでより40%薄くして、8枚積みと同じ厚さに収めました。薄くするほどTSVの柱も短くなります。積む技術は、薄くする技術でもあるわけです。この製品の1本の速さは9.6Gbpsです。

このブロックの参照データ
12層のHBM3Eは1枚を40%薄くして8層と同じ厚さ、3GB×12枚で36GB

この節の「縦に積む・TSVで貫く・GPUの隣に置く」を、動く図で順に見せる動画です。線の本数と速さから帯域を数える練習も入っています。

動画:HBMとは?AIのメモリを12階建てに積む理由【GPUの隣 #1】

YouTube「AIインフラLab」のチャンネルを見る →

GPUとHBMの関係:どこに載っている?

HBMは、GPUのチップのすぐ横、同じ板(インターポーザー)の上に並んでいます。たとえばNVIDIAのH100(SXM)は、HBM3のスタックが5つで合計80GBです。

置き場所何があるか・役割
まん中GPUのチップ。AIの計算をする
GPUのすぐ横HBMのスタック。計算に使うデータとモデルの重みを置く
その下インターポーザー。GPUとHBMを細い配線で大量につなぐ
いちばん下パッケージ基板。全体を支え、サーバーの基板につなぐ

ゲーム用のグラフィックボード(グラボ)は、GDDRというメモリをGPUのまわりの基板に並べています。GPUのメモリはVRAMとも呼ばれ、AI向けはそのVRAMにHBMを使う、と言い換えられます。組み立て方はCoWoSとは、板そのものはインターポーザーとはで詳しく書いています。

このブロックの参照データ

DRAM・GDDR・HBMの違い

3つとも中身はDRAMの仲間です。違うのは置き方と線の本数。DDRはパソコンやサーバー、GDDRはゲーム用のGPU、HBMはAI向けのGPUの隣に積んで置きます。

比べる点DDR5GDDR7HBM3E
主な使い道パソコン・サーバーゲーム用GPUAI向けGPU
置き方差し込む板GPUのまわりの基板GPUの隣に積む
積む枚数積まない積まない8〜12枚
部品1つの帯域51.2GB/s最大192GB/s約1.2TB/s

DDR5は6400の速さのモジュール1枚(64本)の計算、GDDR7はJEDECの規格の上限、HBM3EはSK hynixの9.6Gbps×1,024本の計算です。部品1つで比べると、HBMは桁が1つ違います。

「ロジックとHBMの違い」で探す人もいます。ロジックはGPUやCPUのように計算するチップ、HBMはデータを置くメモリで、役割が別です。DRAMとHBMの値段や作り方の違いはDRAMとHBMの違い、DRAMとSSDの中身(NAND)の違いはDRAMとNANDの違いで比べています。

このブロックの参照データ
DDR5・GDDR7・HBM3・HBM3E・HBM4の部品1つあたりの帯域を比べたグラフ

HBM3EとHBM4の違い・世代の流れ

最新の規格はHBM4です。JEDECが2025年4月に公表し、GPUとつなぐ線の本数が1,024本から2,048本に倍増、1スタックで最大2TB/sになりました。SK hynixは、2026年10〜12月期にHBM4の出荷量と売上がHBM3Eを上回る見込みだとしています。

世代規格・量産線の本数1スタックの帯域
HBM32022年1月 規格1,024本819GB/s
HBM3E2024年9月 12層の量産1,024本約1.2TB/s(計算)
HBM42025年4月 規格2,048本最大2TB/s

最初の世代(HBM1と呼ばれることもあります)はAMDとSK hynixが組んで実用化し、AMDのゲーム用GPUに初めて載りました。そこからHBM2、HBM3と世代を重ね、AI向けGPUの標準のメモリになっています。

GPU 1基に載るHBMは、世代ごとに次のように増えてきました(NVIDIAの製品ページ・技術ブログ。2026年11月7日に確認)。

GPUHBM容量帯域
H100(SXM)HBM380GB3.35TB/s
H200HBM3E141GB4.8TB/s
Blackwell(B200)HBM3E192GB8TB/s
Blackwell Ultra(B300)HBM3E288GB8TB/s
RubinHBM4288GB19.2TB/s

調べていて迷ったのは、資料によって帯域が「HBM 1つ」の値なのか「GPU 1基」の値なのかが混ざっている点です。この記事は表を分けました。もう1つ、RubinのGPU 1基の帯域は、NVIDIAの製品ページで22TB/sから19.2TB/sに書き換わっていました(2026年9月ごろ。容量の288GBは同じ)。変わった理由の説明は見つからなかったので、ここでは今の値だけを載せます。

HBM4の作り方と各社の量産はHBM4とは、その次のHBM4Eで始まる特注品の流れはHBM4Eとカスタムの意味で整理しています。HBMの代わりにLPDDRを使う場面(SOCAMM)は、記事末のカードから読めます。

このブロックの参照データ
・SK hynix「2026年7〜9月期の決算」(2026年10月28日) HBM4 が 10〜12月期に HBM3E を上回る見込み
・NVIDIA「Vera Rubin NVL72」製品ページ Rubin GPU 288GB・19.2TB/s
このブロックの参照データ
GPU1基のHBMの容量と帯域の移り変わり:H100の80GB・3.35TB/sからRubinの288GB・19.2TB/sまで

HBMのメーカーは3社(日本企業の役割)

HBMを量産しているのはSK hynix(韓国)・サムスン電子(韓国)・マイクロン(米国)の3社です。日本の会社は、チップを削る・積む・測る装置や材料で関わっています。

会社本社HBMでの動き
SK hynix韓国12層のHBM3Eを2024年9月に量産開始。HBM4を10〜12月期の主力に(2026年10月の発表)
サムスン電子韓国DRAMの大手。3社の比べ方は記事末の「3社を比較」
マイクロン米国DRAMの大手。3社のうち米国の1社

SK hynixの強さの理由はSK hynixはなぜHBMで先行するのかで、会社の数字から追っています。

シェアは四半期ごとに動くので、この記事には数字を置かず、HBMシェアの推移(定点観測)で同じ数え方の最新値を記録しています。日本の会社は、積む装置のAIメカテック、プローブカードの日本マイクロニクスなどがあり、工程ごとの一覧は記事末の「HBM関連銘柄と日本企業の役割」にまとめました。

HBMがGPUに載るまでの流れ:装置・材料、SK hynix・サムスン・マイクロン、TSMCのCoWoS、NVIDIA

HBMはなぜ高い?なぜ足りない?

積む・貫く・測る手間が多く、1枚の不良で山全体が使えなくなりやすいからです。そのうえAI向けの需要が作れる量を上回っています。SK hynixは2026年10月28日の決算で、2027年と2028年の生産能力の50%以上を長期の契約で埋めたと発表しました。

品質保証の考え方では、順につながった工程の良品率は掛け算になります。1枚の良品率が99%でも、12枚全部が良品の割合は0.99の12乗で約88.6%。98%なら約78.5%まで下がります。各社は歩留まりの数字を公表していないので、ここに書いたのは仮の数字です。

だから実際は、積む前に1枚ずつ検査して良いチップだけを選び、予備の回路で直せるように作ります。筆者がHBMの記事で検査の装置を何本も書いているのは、ここが値段と供給量を決める場所だと考えているからです(HBM検査装置とは)。

SK hynixは同じ発表で、需要が供給を上回る形は2030年まで続く見込みだとしています。HBMがDRAM全体の値段を押し上げる流れは、記事末の「メモリ・スーパーサイクル」で整理しています。

このブロックの参照データ
・SK hynix「2026年7〜9月期の決算」(2026年10月28日) LTA が2027・2028年の生産能力の50%超・2030年まで需要超過の見込み
HBMの歩留まりの考え方:積む枚数が増えるとスタック全体の良品率は掛け算で下がる(仮の数字)

まとめ

HBMは、DRAMを縦に積んでTSVで貫き、GPUのすぐ隣に置いたメモリです。読み方はエイチ・ビー・エム。

積む理由は、GPUを待たせないために線を短く・多くしたいのに、GPUの隣は狭いから。線の本数はHBM4で2,048本まで増えました。作れるのは3社で、積むほど良品率が掛け算で下がるため、高く、足りない部品になっています。

次にGPUの写真を見たら、大きなチップの横に並ぶ黒い四角を数えてみてください。それがHBMのスタックです。

よくある質問

Q. HBMの読み方は?

A. エイチ・ビー・エムと読みます。High Bandwidth Memoryの頭文字で、日本語では高帯域幅メモリや広帯域メモリと訳されます。

Q. HBMはGPUのどこに載っていますか?

A. GPUのチップのすぐ横です。インターポーザーという中継の板の上に並べ、短い配線で大量につないでいます。

Q. HBMはゲーミングPCにも使われますか?

A. 今のゲーム用のGPUの多くはGDDRを使います。HBMは高く、GPUの隣に並べる組み立てが要るので、主にAI向けのGPUに使われます。

Q. HBM4になるとAIはさらに速くなりますか?

A. メモリから運べる量は増えます。ただしAIの速さは、GPUの計算やGPUどうしの通信、電力・冷却でも決まります。

Q. なぜHBMはこんなに高いのですか?

A. 削る・穴を開ける・積む・測る工程が多く、1枚の不良で山全体が使えなくなりやすいから。作れる会社も3社だけです。

次の一歩:HBMがGPUの隣に並ぶ理由が分かったら、次はGPUとHBMを1つにまとめる「組み立て方」へ。先端パッケージとは?2.5D・3D・チップレットの違いで、2.5Dと3Dの積み方の違いを図で比べています。
この記事のテーマを、本でもっと深くPR(アフィリエイト広告)
S
シラス
電験三種・QC検定1級 / メーカーでパワエレ設計・品質保証 実務10年

メーカーで回路設計と生産技術(品質改善)に携わってきた経験をもとに、AIインフラを支える半導体・電力・冷却の仕組みを、図解でやさしく解説しています。

テーマ別に、もっと深く学ぶ

気になるところから読んでも大丈夫です。どの記事も、はじめての方にもわかるように図解で書いています。

HBM・先端パッケージをもっと深く
zHBMとは?HBMをGPUの"真上"に積むSamsungの新構造|HBM5比約8倍の性能を狙う
同じ分野
zHBMとは?HBMをGPUの”真上”に積むSamsungの新構造|HBM5比約8倍の性能を狙う

HBMをGPUの「真上」に積む、zHBMという発想

続きを読む →
HBM関連銘柄17選と日本企業の役割|工程ごとに証券コードつきで一覧に整理
同じ分野
HBM関連銘柄17選と日本企業の役割|工程ごとに証券コードつきで一覧に整理

HBMのサプライチェーンに関わる企業を上流から整理

続きを読む →
【図解】DRAMとHBMの違いとは?速さ・構造・価格を5つの視点で比較
同じ分野
【図解】DRAMとHBMの違いとは?速さ・構造・価格を5つの視点で比較

同じDRAMなのに、HBMは何が違う?5つの視点で比べる

続きを読む →
【図解】プローブカードとは?仕組み・3つの種類とHBM時代に需要急増の理由
同じ分野
【図解】プローブカードとは?仕組み・3つの種類とHBM時代に需要急増の理由

HBMの時代に、なぜ検査の「針」の需要が急増したのか

続きを読む →
HBMの製造工程とは?TSV・積層(MR-MUF・TC-NCF)・検査の15ステップを図解
同じ分野
HBMの製造工程とは?TSV・積層(MR-MUF・TC-NCF)・検査の15ステップを図解

TSVから積層・検査まで、HBMができるまでを15段階で

続きを読む →
つまずきやすい「違い」を解決
あわせて知りたい、隣のテーマ
テラプローブ(6627)とは?何の会社か、半導体テスト受託とAI・HBMとの関わりを図解
担う企業
テラプローブ(6627)とは?何の会社か、半導体テスト受託とAI・HBMとの関わりを図解

HBMやGPUの「最後の関門」、テストを担う会社の戦略

企業を見る →
AIメカテック(6227)とは?何の会社か、HBMの積層を支えるボンダー・デボンダー装置と大口受注・決算を図解
担う企業
AIメカテック(6227)とは?何の会社か、HBMの積層を支えるボンダー・デボンダー装置と大口受注・決算を図解

HBMを積み上げる工程を支える、知られざる会社

企業を見る →
【完全図解】NVIDIA GB300(Blackwell Ultra)とは|HBM3E 288GB搭載の"AI推論最強チップ"
隣のテーマ
NVIDIA GB300(B300)とは?仕様・価格・B200との違いを図解|Blackwell Ultra

NVIDIA GB300はどんなチップ?HBM3E搭載の推論向けGPU

続きを読む →
GPUサーバーとは?AIサーバーとの違いとCPUサーバーとの比較、主な種類を図解
隣のテーマ
GPUサーバーとは?AIサーバーとの違いとCPUサーバーとの比較、主な種類を図解

GPUサーバーとAIサーバーは同じもの?違いがわかる

続きを読む →

記事の更新情報を受け取りたい方へ

新しい記事が公開されたら、Xアカウント @shirasusoloでお知らせします。AIインフラの構造を一緒に学んでいきましょう。

コメント

タイトルとURLをコピーしました