【完全図解】GPUラックとは?1ラックの意味・サーバーラックとの違いと高密度化の理由

AIデータセンター・GPU
記事内に広告が含まれています。
30秒でわかる答え

GPUラックとは、AIの計算に使うGPUサーバーを何台もまとめて収める、大きな電力と重さ、発熱に耐えるように作られた専用のラック(棚)です。見た目はふつうのサーバーラックと同じ縦長の棚ですが、1本あたりに流す電力と出る熱がけた違いに大きく、液体で冷やす配管や太い電源の配線まで含めて設計されます。

データセンターで「1ラック」と言うときは、この縦長の棚1本のことです。中に機器を積む高さは「U(ユー)」という単位で数え、ラックの大きさや電力は「1ラックあたり何kW」のように表します。単位の意味は記事の中ほどにまとめました。

「GPUラック」「高密度データセンター」──AIインフラのニュースで急に目にするようになったこの言葉、こんなふうに感じていませんか?

こんな悩みはありませんか?
  • そもそも「ラック」って何? サーバーとラックは何が違うの?
  • GPUラックが「重い」「熱い」と聞くけど、具体的にどれくらい?
  • 「1ラック120kW」と言われても、それが何を意味するのかわからない
  • なぜ昔のデータセンターではGPUラックに対応できないの?
この記事でわかること
  • サーバー → ノード → ラックという「入れ子構造」の全体像
  • 従来ラックとGPUラックの電力・発熱・重量の比較
  • 「1ラックあたり電力容量」が意味すること
  • なぜ既存のデータセンターではGPUラックを置けないのか
  • この変化に関わる日本企業の具体名
先に結論

GPUラックとは、GPUサーバーを複数台収容するために設計された、高電力・高耐荷重の専用ラックのことです。従来のサーバーラックが1本あたり2〜8kWの電力で済んでいたのに対し、GPUラックは50〜120kW、次世代では600kW級に達すると報じられています。電力だけではありません。重量は約1.3トン(軽自動車1台分)、発熱は電気ストーブ数十台分。この「桁違い」がデータセンターの冷却・電力設備・床構造・立地すべてを変えてしまうのです。AIの進化のボトルネックは、アルゴリズムではなく「ラック1本をどう置くか」という物理の問題になっています。

多くの解説記事は「GPUサーバー」の話で止まりますが、実際にデータセンターの現場を変えているのは「ラック単位の高密度化」です。この記事では、サーバーラックの基本から始めて、GPUラックが従来と何がどう違うのかを、具体的な数字と図解で解説します。

  1. サーバーラックとは?── まず「入れ子構造」を理解する
    1. ラックは「サーバーを収める棚」
    2. サーバー → ノード → ラック → データセンターの入れ子構造
  2. 「1ラック」とは?──19インチ・U(ユー)・ラックあたりの電力の読み方
  3. GPUラックとは?── 「桁違いの住人」を収めるための専用マンション
    1. 一言でいうと「GPUサーバー専用の高電力ラック」
    2. 代表例:NVIDIA GB200 NVL72 ── 「軽自動車1台分のラック」
  4. GPUラックの中身──GB200 NVL72を開けると
  5. 従来ラックとGPUラックは何がどう違うのか?
    1. 6つの観点で一気に比較する
    2. 身近なもので「差」をイメージする
      1. 従来ラック(2〜8kW)
      2. GPUラック(50〜120kW)
  6. 「1ラックあたり電力容量」が意味すること
    1. この数字がデータセンターの「格」を決める
    2. 電力密度の推移 ── ラック1本がどこまで「重く」なるか
  7. GPUラックは何が「重くて」何が「熱い」のか?
    1. 重量の正体 ── GPU本体 + 液冷設備 + ケーブル
    2. 発熱の正体 ── 消費電力のほぼすべてが熱になる
  8. なぜ昔のデータセンターではGPUラックに対応できないのか?
    1. 壁①:電力設備の限界
    2. 壁②:冷却システムの限界
    3. 壁③:床耐荷重の限界
    4. 壁④:系統接続(送電網との接続)の限界
  9. GPUラックの高密度化に関わる日本企業
    1. ラック本体 ── 日東工業・河村電器産業・摂津金属工業
    2. 冷却技術 ── NEC・NTTグループ・三桜工業・カンネツ
    3. データセンター建設・運用 ── NTTファシリティーズ・ソフトバンク・SCSK
  10. よくある誤解を整理する
    1. 誤解と 実際
  11. まとめ:GPUラックの全体像
  12. よくある質問(FAQ)
    1. 学習ロードマップ上の位置づけ
    2. 次に読むべき記事
    3. テーマ別に、もっと深く学ぶ

サーバーラックとは?── まず「入れ子構造」を理解する

ラックは「サーバーを収める棚」

AIデータセンターの話に入る前に、まず「ラック」とは何かを押さえましょう。意外とここが曖昧なまま先に進んでしまう方が多いですが、ここを理解するかどうかで、この先の話の通り具合がまったく変わります。

サーバーラック(19インチラック)とは、サーバーやネットワーク機器を縦に積み上げて収納するための専用の棚です。見た目は背の高い金属製のキャビネットで、高さは約2メートル。ここにサーバーを「本棚に本を差し込む」ように、上から下へ順番に積んでいきます。

ラックのサイズには「U(ユニット)」という単位が使われます。1Uは高さ約4.4cm。標準的なラックは42U(約185cm)で、1Uのサーバーなら最大42台まで収容可能です。このラックが、データセンターの床にずらりと数百〜数千本並んでいるわけです。

サーバー → ノード → ラック → データセンターの入れ子構造

AIデータセンターの話を理解するうえで最も大切なのは、「サーバー1台」と「データセンター全体」の間にある入れ子構造を把握することです。マンションに例えるとわかりやすいでしょう。

GPU(チップ)
= 住人1人
→
サーバー(ノード)
= 1部屋
→
ラック
= 1棟のマンション
→
データセンター
= マンション群の団地

GPUという「住人」がサーバーという「部屋」に入り、そのサーバーがラックという「1棟のマンション」に積み上げられ、ラックが何百本も並んだものがデータセンターという「団地全体」です。

ここで重要なのは、「住人」が変われば「部屋」も「マンション」も「団地」も設計し直す必要があるということ。従来のCPUという「おとなしい住人」から、GPUという「電気を大量に使い、猛烈に暖房を焚く住人」に入れ替わったことで、ラック=マンションの電力配線も、空調も、床の耐荷重も、すべてが足りなくなっているのです。

ポイント
データセンターの変化は「サーバー1台」の話ではなく、「ラック単位」で起きています。サーバー1台の消費電力が10kWでも、それがラック1本に数台積まれれば50〜120kW。この「集積」こそが、AIデータセンターの設計をすべて変える起点なのです。
GPUがサーバーに入り、サーバーがラックに積まれ、ラックが並んでデータセンターになる入れ子の構造

「1ラック」とは?──19インチ・U(ユー)・ラックあたりの電力の読み方

データセンターの記事には「1ラック」「42U」「ラックあたり○kW」といった言い方がよく出てきます。GPUラックの話に入る前に、ラックの数え方を押さえておきます。

言葉意味読み方のコツ
ラックサーバーやネットワーク機器を縦に積み重ねて収める棚データセンターでは床に何列も並び、電源と冷却もラック単位で用意する
1ラックその棚1本分「1ラックあたりの電力」は、その棚1本の中の機器が使う電力の合計
19インチラック機器を取り付ける幅が19インチの、業界で標準の大きさのラック多くのサーバーはこの幅に合わせて作られている
U(ユー、ラックユニット)ラックの高さの単位。1U=1.75インチ(44.45mm)「2Uのサーバー」は高さ2単位分。42U・48Uはラックに積める高さ
ラックあたり○kW1本の棚の中で使う電力(=ほぼそのまま熱になる量)数字が大きいほど、電源の配線と冷却が大がかりになる
ポイント:サーバーラックとGPUラックの違いは、棚の形よりも「1本に流す電力と、出てくる熱の量」です。だからGPUラックの話は、そのまま電源と冷却の話になります。

ラックの中に入るサーバーそのものはGPUサーバーとは、ラックを大量に並べたときの施設の違いは高密度データセンターとはで解説しています。

GPUラックとは?── 「桁違いの住人」を収めるための専用マンション

一言でいうと「GPUサーバー専用の高電力ラック」

GPUラックとは、GPUサーバーを複数台収容するために、電力供給・冷却・耐荷重をすべて強化した専用のサーバーラックのことです。

見た目は従来のサーバーラックと似た金属製のキャビネットですが、中身はまったくの別物です。先ほどのマンションの例えを使えば、従来のラックが「一般家庭向けマンション」だとすると、GPUラックは「工場用の産業設備を収めるための特殊ビル」です。電気の引き込み量も、空調も、床の強度も、ケーブルの本数も、すべてが桁違いになります。

代表例:NVIDIA GB200 NVL72 ── 「軽自動車1台分のラック」

GPUラックの代表例が、NVIDIAのGB200 NVL72です。これは72基のBlackwell GPUと36基のGrace CPUを、1つのラックに液冷で詰め込んだシステムです。

このラックのスペックを見ると、GPUラックが「従来の延長線上」にないことが一目でわかります。

項目 GB200 NVL72 のスペック
搭載GPU数 72基(Blackwell GPU)+ 36基(Grace CPU)
消費電力 約120kW(一般家庭 約40世帯分)
重量 約1.36トン(軽自動車1台分に匹敵)
冷却方式 完全液冷(空冷では対処不能)
価格 約300万ドル(約4.5億円)

出典:NVIDIA GB200 NVL72公式、FiberMall技術解説、Innovatopia

1本のラックで120kW、重さ1.36トン。これが数百〜数千本並ぶのがAIデータセンターです。「なぜデータセンターの設計が根本から変わるのか」──この数字を見れば、答えは明らかですよね。

次世代はさらに加速する
NVIDIAの「Vera Rubin」(2026年後半からパートナーの製品が出ると発表)の次の世代「Rubin Ultra」(2027年予定)では、1ラックあたりの消費電力が600kW級に達すると報じられています。NVIDIAはさらに、2027年から1,000kW(1MW)級のラックに対応する800Vの直流給電を進めると発表しています──つまり大型マンション1棟分の電力を、ラック1本で消費する時代が来ようとしています(出典:日経クロステック、出典:NVIDIA技術ブログ(2025年5月))。
関連記事
GPUサーバーとは?AIサーバーとの違いとCPUサーバーとの比較、主な種類を図解 →

GPUサーバー1台の構成や消費電力を先に知りたい方はこちらの記事をどうぞ。

GB200 NVL72のラックは約120kW・約1.36トンで、軽自動車1台分の重さ

GPUラックの中身──GB200 NVL72を開けると

「ラック 中身」「サーバーラック 構造」と調べる方のために、代表例のGB200 NVL72の中を上から見ていきます。NVIDIAの資料では、ラックの中に計算トレイが18枚(1枚にGrace CPU 2基とBlackwell GPU 4基)、NVLinkスイッチトレイが9枚入り、72基のGPUを1つの大きなGPUのようにつなぎます。上と下には電源の棚があり、交流を直流にしてラックの中の配線(バスバー)に配ります。後ろには冷却液の配管(マニフォールド)が通り、各トレイのコールドプレートへ液を送ります。

入っているもの数(GB200 NVL72の例)役割
計算トレイ18枚(GPU 4基・CPU 2基ずつ)AIの計算をする
NVLinkスイッチトレイ9枚72基のGPUを高速につなぐ
電源の棚製品で違う(HPEの例では6か8)交流を直流にしてラックの中に配る
冷却液の配管(マニフォールド)ラックの後ろ側各トレイのコールドプレートに冷却液を配る
GB200 NVL72のラックの中身。計算トレイ18枚(1枚にGPU4基・CPU2基)、NVLinkスイッチトレイ9枚、上下の電源の棚、冷却液の配管(マニフォールド)
GPUラックの中身(GB200 NVL72の例。並び順は一例)

従来ラックとGPUラックは何がどう違うのか?

6つの観点で一気に比較する

まず全体像をつかむために、従来型のCPUサーバーラックとGPUラックを6つの観点で比較しましょう。NTTPCコミュニケーションズの公開資料を基に、最新のGPUラックスペックを加えて整理しました。

比較項目 従来型ラック(CPUサーバー) GPUラック
1ラックあたり電力 2〜8kVA 20〜120kW(10〜60倍)
ラック重量 200〜500kg 1,000〜1,500kg(軽自動車級)
冷却方式 空冷(エアコン方式) 液冷が必須(水冷・液浸)
ケーブル本数 数十本 200本以上
必要な床耐荷重 500〜700kg/㎡ 1,000〜2,000kg/㎡
主な用途 Web/メール/DB/クラウド AI学習・推論・大規模言語モデル

出典:電力容量は NTTPCコミュニケーションズ、床耐荷重は Burrtec、ケーブル本数は Introlを参考に構成

身近なもので「差」をイメージする

数字だけだとピンとこないかもしれないので、身近なものに置き換えてみましょう。

従来ラック(2〜8kW)

電力:家庭用エアコン1〜3台分
重さ:大型冷蔵庫2台分
冷却:部屋のエアコンで対処可能
例え:一般家庭のリビング

GPUラック(50〜120kW)

電力:一般家庭 17〜40世帯分
重さ:軽自動車1台分(約1.3トン)
冷却:エアコンでは無理。液冷パイプが必須
例え:24時間フル稼働の小さな工場

同じ「サーバーラック」という名前がついていますが、中身のスケールがまったく違うことがおわかりいただけたと思います。これは「自転車とダンプカーの違い」に近い。どちらも「車輪がついた乗り物」ですが、走れる道も、止まれる場所も、必要な免許もすべて異なります。

従来型のサーバーラック(2〜8kW)とGPUラック(120kW)の電力と大きさの比較

「1ラックあたり電力容量」が意味すること

この数字がデータセンターの「格」を決める

データセンターの世界では、「1ラックあたりの電力容量(kVA / kW)」がその施設の能力を端的に表す指標です。この数字が、「どの世代のサーバーを何台載せられるか」を決めます。

NTTPCコミュニケーションズの解説によれば、一般的なデータセンターの電力容量は1ラックあたり2kVA〜8kVA程度です。一方、GPUサーバーの格納を想定するなら20kVA程度の電力供給が目安になるとしています(出典:NTTPCコミュニケーションズ)。

この「2〜8kVA」と「20kVA」の差を、もう少し噛み砕いて考えてみましょう。

従来型DC(2〜8kVA/ラック)

CPUサーバー(消費電力220W程度)を十数台〜数十台搭載できる。Webサーバーやメール、データベースなど従来型のITシステムには十分。

GPU対応DC(20kVA/ラック)

H100 GPU×8基搭載のGPUサーバー(約10kW)を2台搭載可能なライン。現時点のGPUサーバー運用の最低限の条件。

最新AI対応DC(50〜120kW/ラック)

GB200 NVL72(120kW)のようなラックスケールシステムを1本丸ごと収容可能。液冷設備と専用変電設備が前提。

次世代DC(600kW〜1MW/ラック)

2027年以降のRubin世代に対応。もはや「ラック」という概念自体が再定義される領域。専用変電所レベルの電力供給が必要。

ポイント
「1ラックあたりの電力容量」は、データセンターの世代と対応能力を一目で判断できる指標です。2〜8kVAなら従来型、20kVAなら最低限のGPU対応、50kW以上なら本格的なAIデータセンター。この数字を見るだけで、その施設が「AI時代に対応できるかどうか」がわかります。

電力密度の推移 ── ラック1本がどこまで「重く」なるか

時期 代表的なGPU世代 ラックあたり電力 身近な例え
〜2020年 従来型CPU 2〜8kW エアコン1〜3台
2022〜2024年 H100(空冷) 20〜40kW 一般家庭7〜13世帯分
2025年〜 GB200(液冷) 120kW 一般家庭 40世帯分
2027年〜 Rubin Ultra(予定・報道値) 600kW 一般家庭 200世帯分

出典:各世代の電力は 日経クロステック、NVIDIA公式を参考に構成

わずか数年で、ラック1本の電力消費が8kW → 120kW → 600kWと、2桁のオーダーで増加しています。この急激な変化こそが、「昔のデータセンターでは対応できない」最大の理由です。

ラックあたりの電力の伸び。2020年の8kWから、40kW、120kW、2027年の600kWへ

GPUラックは何が「重くて」何が「熱い」のか?

重量の正体 ── GPU本体 + 液冷設備 + ケーブル

GPUラックの重量が約1.3トンに達する理由は、GPU本体だけでは説明できません。重量の内訳を理解すると、「なぜ液冷が必須になると重くなるのか」が見えてきます。

Introl社の技術レポートによれば、最新世代のGPU(1,200W級)は、チップ単体では約5kgですが、冷却用のコールドプレート・マニホールド・冷却液を加えるとGPU1基あたり約15kgになります。これにCPU、メモリ、電源ユニット、ケーブル類が加わり、8GPU搭載サーバー1台でフル装備100kg超に達します(出典:Introl)。

GPU本体
約5kg/基
+
液冷設備
約10kg/基
+
電源・ケーブル
200本以上/ラック
=
ラック全体
約1.3トン

つまり、GPUラックが重い理由は「GPU自体が重い」だけでなく、冷却のための液冷設備と、電力供給のためのケーブルが大量に加わるからです。40GPUを搭載するラックには、電力・ネットワーク・管理用で200本以上のケーブルが必要になるという報告もあります(出典:Introl)。

発熱の正体 ── 消費電力のほぼすべてが熱になる

次に「熱」の問題です。GPUラックが猛烈に発熱する理由は、物理法則としてシンプルです。消費された電力の大部分は「熱」に変わります。

120kWのGPUラックがあるとしましょう。120kWの電力が計算に使われ、その大部分が熱エネルギーとして放出されます。これは電気ストーブ(1,000W)を120台、狭い部屋で同時にフル稼働させているのと同じ状態です。

空冷(エアコン)で対応できるのはラックあたり20kW程度が限界とされています(出典:日経クロステック)。120kWのラックを空冷で冷やそうとすれば、それこそ台風のような風量が必要で、現実的ではありません。だからこそ、水や冷却液をパイプでGPUのすぐ近くまで通して直接熱を奪う「液冷」が不可欠になるのです。

あなたにとっての意味
投資家:GPUラックの高密度化が進むほど、「冷却設備」「電源ユニット」「ケーブル・コネクタ」の需要は確実に増加します。GPU本体(NVIDIA)だけでなく、これらの周辺領域が投資テーマとして拡大していきます。

学生:GPUラックの設計には、電気工学(配電)、機械工学(冷却・配管)、材料工学(冷却液・放熱素材)の知識がすべて必要です。「AI=情報系」ではないことが、ラックの構造を見ると実感できます。

技術者:ケーブル200本以上のラックをメンテナンスし、液冷設備を管理し、電力設備を安全に運用する──これはソフトウェアエンジニアには担えない仕事です。あなたの実務スキルが最も必要とされている領域です。
GPUラックの重さの内訳。GPU本体、液冷の設備、ケーブルと電源で約1.3トン

なぜ昔のデータセンターではGPUラックに対応できないのか?

ここが、この記事で最も重要なセクションです。「GPUラックが重い・熱い・電気を食う」ことはわかった。では、なぜ既存のデータセンターを改修するだけでは対応できないのか。4つの壁を見ていきましょう。

壁①:電力設備の限界

従来のデータセンターは、1ラックあたり2〜8kVAの電力供給を前提に受変電設備が設計されています。ラックが100本あるフロアなら、設備全体で200〜800kVA程度の容量です。

ところが、GPUラックを100本並べると、必要な電力は12,000kW(12MW)。これは従来の15〜60倍です。ブレーカーの容量、電力ケーブルの太さ、変圧器の容量、すべてが足りません。「コンセントを増やす」レベルの話ではなく、建物に引き込む電力インフラそのものを作り替える必要があります。

壁②:冷却システムの限界

従来のデータセンターの冷却は「空冷」──つまり、床下から冷たい空気を送り込み、ラック前面から吸気して背面から排気する方式です。日本の既存データセンターの9割以上がこの方式です。

しかし空冷で対応できるのはラックあたり約20kWが上限です。GPUラックの50〜120kWは、空冷の能力を完全に超えています。液冷に移行するには、冷却液を循環させる配管設備、サーバールームの防水処理、冷却液分配ユニット(CDU)の設置など、建物構造を根本から変える改修が必要です。

壁③:床耐荷重の限界

一般のオフィスビルの床耐荷重は300〜500kg/㎡程度です。従来型データセンターでも500〜700kg/㎡程度に設計されています(出典:クラウドWatch)。

ところが、GPUラックは1本で1.3トン超。液冷設備の重量も加わるため、AIデータセンターには1,000〜2,000kg/㎡の床耐荷重が求められます(出典:Burrtec)。既存の建物では床が文字通り「耐えられない」のです。

壁④:系統接続(送電網との接続)の限界

数百MW〜GW級の電力を必要とするAIデータセンターは、既存の送電網では電力を十分に引き込めないケースが増えています。日本では特に東京圏(千葉県印西市など)で系統接続の制約が深刻で、新規の電力接続に最長10年以上かかるケースも報告されています。

よくある誤解
「既存のデータセンターにGPUラックを入れればAI対応できる」と思われがちですが、電力・冷却・床耐荷重・系統接続の4つすべてが足りないのが現実です。改修よりも新築のほうが合理的なケースが多く、だからこそ世界中でAIデータセンターの建設ラッシュが起きているのです。
このテーマの全体像を知りたい方へ
【完全図解】AIデータセンターとは?従来型との違いと、なぜ必要かをわかりやすく解説 →

この記事は上記ロードマップの一部です。AIデータセンターの全体像から学びたい方はこちらからどうぞ。

既存のデータセンターがGPUラックに対応できない4つの壁。電力・冷却・床の耐荷重・系統への接続

GPUラックの高密度化に関わる日本企業

GPUラックの話はNVIDIAなど海外企業の名前ばかり出てきますが、実は日本企業もこの変化の当事者です。投資家・学生それぞれの視点で知っておくべき企業を、役割ごとに整理しました。

ラック本体 ── 日東工業・河村電器産業・摂津金属工業

GPUラックの「箱」そのものを作っている日本メーカーが存在します。

日東工業(東証プライム・6651)は、データセンター向けシステムラックの国内大手です。高密度GPUサーバーの搭載に対応したFSシリーズや、ハイパースケールデータセンター向けの52U対応FDシリーズを展開しています(出典:日東工業公式)。さらに、OCP(Open Compute Project)準拠のオープンラックも個別対応で提供しており、DC給電・高効率化の最新トレンドに対応しています。

河村電器産業は、免震データセンター向けのデータセンターラック E-Classシリーズを展開しています(出典:河村電器産業)。また、摂津金属工業はサーバーラック業界でのシェアが高く、データセンター向けラック製造の老舗として知られています。

冷却技術 ── NEC・NTTグループ・三桜工業・カンネツ

GPUラックの高密度化に伴い、液冷技術の需要が急拡大しています。

NECは、神奈川・神戸・印西のデータセンターで水冷対応サーバーの受け入れを開始しています(出典:クラウドWatch)。NTTグループは、NTTコミュニケーションズが海外で170MW規模の液冷データセンターを展開するなど、グループ全体で液冷への転換を本格化させています。NTTPCコミュニケーションズはNVIDIA認定エリートパートナーとして、20kVA対応の高電力ラック提供とGPU運用環境のトータル設計を行っています。

液冷設備のメーカーとしては、三桜工業(東証プライム・6584)が自動車向け配管技術をデータセンター冷却に応用し注目を集めています。カンネツはサーバー冷却装置の専門メーカーとして業界で高いシェアを持っています。

データセンター建設・運用 ── NTTファシリティーズ・ソフトバンク・SCSK

NTTファシリティーズは、データセンターの設計・建設・運用を手がける国内大手で、電力設備設計から冷却設計まで一貫した技術力を持ちます。ソフトバンクは北海道苫小牧に大規模AIデータセンターの建設を進めており(2026年度の開業が目標)、これとは別に2025年12月にGB200 NVL72を載せたAI計算基盤を動かし始めました(出典:ソフトバンク)。SCSKはGPUサーバーやHPCに最適な高負荷ハウジングサービスを提供しています。

投資家・学生へのヒント

GPUラックの高密度化は、「NVIDIA(GPU製造)」だけの話ではありません。ラック本体(日東工業、河村電器)、冷却設備(三桜工業、カンネツ)、電力設備(NTTファシリティーズ)、データセンター運用(NTT Com、ソフトバンク、SCSK)──GPUラック1本を設置・運用するために、これだけの日本企業が関わっているのです。AI時代の産業構造は、ソフトウェアではなく物理インフラの周辺に広がっています。就職を考える学生にとっても、これらの企業はAIインフラの最前線です。

GPUラックの高密度化に関わる日本企業。ラック本体の日東工業、冷却の三桜工業、DC建設のNTT、DC運用のソフトバンク

よくある誤解を整理する

誤解と 実際

よくある誤解 実際はこう
「GPUラックは普通のラックにGPUサーバーを入れただけ」 電力容量・冷却方式・耐荷重・ケーブル設計まですべて専用設計。従来ラックにGPUサーバーを入れても性能は発揮できず、最悪の場合ラック自体が壊れる。
「既存のデータセンターを改修すればGPUラックを置ける」 電力設備・冷却・床耐荷重・系統接続の4つすべてが足りないため、改修より新築の方が合理的なケースが多い。
「GPUラックが重いのはGPU本体が重いから」 重量の大部分は液冷設備(コールドプレート、配管、冷却液)とケーブル類。GPU本体は全体重量の一部に過ぎない。
「電力の問題はGPUの省電力化で解決する」 GPU1基あたりの電力効率は改善しているが、ラック全体の電力密度は世代ごとに急増している(120kW→600kW→1MW超)。処理性能の向上が消費電力の削減を上回っている。
「データセンターの問題はソフトウェアで解決する」 GPUラックの高密度化が引き起こす課題は、電力・冷却・床荷重・建設・送電網というきわめて物理的な問題。ソフトウェアだけでは解決しない。
誤解と実際。普通のラックにGPUサーバーを入れるだけでは足りず、専用のラック・冷却・強化した床が要る

まとめ:GPUラックの全体像

この記事のまとめ

① ラックとは:サーバーを縦に積み上げて収納する専用の棚。データセンターの「建物の単位」であり、GPU→サーバー→ラック→データセンターという入れ子構造の一部。

② GPUラックとは:GPUサーバーを収容するための、高電力・高耐荷重・液冷対応の専用ラック。代表例のGB200 NVL72は120kW・1.36トン。

③ 従来ラックとの差:電力が10〜60倍(2〜8kVA → 20〜120kW)、重量が3〜6倍、冷却方式が空冷から液冷へ。桁が違う。

④ 「1ラックあたり電力容量」の意味:データセンターの世代と対応能力を一目で判断できる指標。2〜8kVAなら従来型、20kVAなら最低限のGPU対応、50kW以上なら本格AI対応。

⑤ 既存DCが対応できない理由:電力設備・冷却・床耐荷重・系統接続の4つすべてが不足。改修より新築が合理的。

⑥ 次世代の展望:2027年予定のRubin Ultraでは1ラック600kW級と報じられ、NVIDIAはその先の1MW級のラックも見込む。ラック1本で大型マンション1棟分の電力を消費する時代が来る。

⑦ 日本企業の関与:日東工業(ラック)、三桜工業・カンネツ(冷却)、NEC・NTTグループ・ソフトバンク(DC建設・運用)など、物理インフラの周辺に広い産業機会がある。

結局こういうことです。AIの進化を「支えている」のは、ラック1本1本の物理的な設計です。GPUの性能がどれほど上がっても、それを収める箱の電力・冷却・耐荷重が追いつかなければ、AIは動かない。GPUラックの高密度化こそが、AIデータセンターのすべての課題の出発点なのです。

チップ→サーバー→ラックの流れと、電力→冷却→床→データセンターへ課題が広がる流れのまとめ
次に読むなら、この1本

高密度化の代表例が、NVIDIAの最新のGPUを詰め込んだラックです。そのGPUの1つ、GB300の中身は次の記事で図解しています。

【完全図解】NVIDIA GB300(Blackwell Ultra)とは|HBM3E 288GB搭載の"AI推論最強チップ"
次のステップ
NVIDIA GB300(B300)とは?仕様・価格・B200との違いを図解|Blackwell Ultra

NVIDIA GB300はどんなチップ?HBM3E搭載の推論向けGPU

次の記事を読む →

よくある質問(FAQ)

Q. GPUラックは何台くらいGPUサーバーを収容できますか?
A. 構成によりますが、従来のH100搭載GPUサーバー(約5U)なら1ラック(42U)に4〜8台程度、NVIDIA GB200 NVL72のようなラックスケールシステムでは、72基のGPUと36基のCPUがラック1本にまるごと統合されています。「サーバー何台」という数え方ではなく、「ラック全体で1つの巨大な計算システム」として設計されるのが最新のトレンドです。
Q. GPUラックの価格はいくらくらいですか?
A. NVIDIA GB200 NVL72の場合、1ラックあたり約300万ドル(約4.5億円)と報じられています。ラック本体だけでなく、GPU、CPU、メモリ、液冷設備、ケーブルすべてを含んだシステム価格です。次世代のVera Rubinシステムでは600万ドル(約9億円)に達する可能性もあるとされています(出典:東洋経済)。
Q. 日本にGPUラックに対応したデータセンターはありますか?
A. はい。NTTPCコミュニケーションズは千葉県印西市などで20kVA対応の高電力ラックを提供しており、NVIDIA認定エリートパートナーとしてGB200 NVL72の運用環境も構築しています。NECは神奈川・神戸・印西で水冷対応サーバーの受け入れを開始しています。ソフトバンクは北海道苫小牧に大規模AIデータセンターを建設中(2026年度の開業が目標)で、これとは別に、2025年12月にGB200 NVL72を載せたAI計算基盤を動かし始めたと発表しています。ただし、120kW級のGPUラックに本格対応できる施設はまだ少なく、今後の建設・拡張が急務です。
Q. データセンターの「1ラック」とは何ですか?
A. サーバーなどの機器を縦に積んで収める棚1本のことです。電力や冷却も、この棚1本を単位にして用意します。
Q. ラックの高さのUとは何ですか?
A. ラックに積む機器の高さの単位で、1Uは約4.4cmです。2Uのサーバーなら、高さ2単位分の場所を使います。
GPUラックのよくある質問。何台入るか、いくらか、日本にあるか

学習ロードマップ上の位置づけ

この記事のテーマを、本でもっと深くPR(アフィリエイト広告)

GPUラックが置かれるデータセンターの全体を、1冊で知りたい方に。本書(幻冬舎メディアコンサルティング)は、日米で20年以上の実績を持つデータセンターコンサルタントが、建物・IT機器・運用システムといったデータセンターの構造から、抱える課題と未来像までを解説した入門書です。

S
シラス
電験三種・QC検定1級 / メーカーでパワエレ設計・品質保証 実務10年

メーカーで回路設計と生産技術(品質改善)に携わってきた経験をもとに、AIインフラを支える半導体・電力・冷却の仕組みを、図解でやさしく解説しています。

テーマ別に、もっと深く学ぶ

気になるところから読んでも大丈夫です。どの記事も、はじめての方にもわかるように図解で書いています。

AIデータセンターをもっと深く
【完全図解】AIデータセンターとは?従来型との違いと、なぜ必要かをわかりやすく解説
同じ分野
【完全図解】AIデータセンターとは?従来型との違いと、なぜ必要かをわかりやすく解説

従来のデータセンターと何が違う?まず全体像をつかむ

続きを読む →
【完全図解】PUEとは?読み方・計算式と例題、データセンターの電力効率の目安
同じ分野
【完全図解】PUEとは?読み方・計算式と例題、データセンターの電力効率の目安

届けた電気のうち、計算に使えたのはどれだけ?効率の物差し

続きを読む →
【完全図解】PUEだけでは足りない?AI時代のデータセンター効率指標を初心者向けに整理
同じ分野
【完全図解】PUEだけでは足りない?AI時代のデータセンター効率指標を初心者向けに整理

PUEが良くても効率が良いとは限らない?ほかの物差し

続きを読む →
【完全図解】高密度データセンターとは?AI時代に「普通のDC」では足りない理由
同じ分野
【完全図解】高密度データセンターとは?AI時代に「普通のDC」では足りない理由

「普通のデータセンター」では、なぜAIを動かせないのか

続きを読む →
【完全図解】InfiniBandとEthernetの違いとは?AIデータセンターのネットワークを1から理解する
同じ分野
【完全図解】InfiniBandとEthernetの違いとは?AIデータセンターのネットワークを1から理解する

InfiniBandとEthernet、AIのネットワークの違い

続きを読む →
つまずきやすい「違い」を解決
あわせて知りたい、隣のテーマ
【完全図解】CoWoSとは?NVIDIAのGPUを支える先端パッケージ技術を初心者向けに解説
隣のテーマ
【完全図解】CoWoSとは?NVIDIAのGPUを支える先端パッケージ技術を初心者向けに解説

NVIDIAのGPUを支える組み立て技術、CoWoSの基本

続きを読む →
【2026年最新】データセンター冷却・液冷配管の関連銘柄|本命・配管・出遅れを3層で整理
隣のテーマ
【2026年最新】データセンター冷却・液冷配管の関連銘柄|本命・配管・出遅れを3層で整理

データセンター冷却に関わる企業を構造で整理

続きを読む →
冷却塔(クーリングタワー)とは?仕組みと構造を図解|開放式・密閉式の違いとデータセンターの水
隣のテーマ
冷却塔(クーリングタワー)とは?仕組みと構造を図解|開放式・密閉式の違いとデータセンターの水

データセンターの熱は最後どこへ?排熱の出口と水の問題

続きを読む →
【完全図解】HBMとは?読み方・仕組みとGPUに必要な理由をやさしく解説
隣のテーマ
【完全図解】HBMとは?読み方・仕組みとGPUに必要な理由をやさしく解説

GPUの隣にある「AI最重要メモリ」の正体がわかる

続きを読む →

記事の更新情報を受け取りたい方へ

新しい記事が公開されたら、Xアカウント @shirasusoloでお知らせします。AIインフラの構造を一緒に学んでいきましょう。

コメント

タイトルとURLをコピーしました