推論レイテンシとは?ロボットが100倍の時間差と戦う構造

フィジカルAI
「フィジカルAIはミリ秒単位の判断が必要」——ニュースでも解説記事でも、必ずこの一文が出てきます。

でも、こう思ったことはありませんか。
「なぜミリ秒なのか? 0.1秒じゃダメな理由は?」

人間だって、目で見て反応するのに0.2秒かかります。それでもコップは掴めるし、車も運転できる。なのに、なぜロボットは人間の200倍も速い「1/1000秒」の世界で戦わなければならないのか。

この問いに数字で答えている日本語の記事は、ほとんどありません。
答えは、ロボットの中に「AIよりずっと速く回っている、もう一つの時計」があるからです。
🗺️ あなたが今いる場所:AIインフラ > フィジカルAI > メモリ・遅延
▼ 知能の循環(学習から現実世界へ、そして戻る)
学習(データセンター)
シミュレーション
推論(エッジ) ←ココ
制御・駆動
現実世界での動作
センサーで観測→学習へ
▼ サプライチェーン(上流→下流)
半導体・電子部品
センサー・アクチュエータ
ロボット本体
システム統合(SIer)
現場・運用
🎯 先に結論
  1. 「1/1000秒」はAIの速度ではなく、モーター制御の速度。産業用ロボットの位置制御ループは1ms(1kHz)前後、その内側の電流制御ループは10〜20kHz級で回っている。
  2. 一方、AI(VLAモデル)の推論は10〜30Hz級。つまり33〜100ms。制御ループとの間におよそ100倍の周波数ギャップがある。これがフィジカルAI最大の構造的な壁。
  3. 解決策は「AIを1kHzにする」ことではない。速い層と遅い層を分離する二階建て構造と、1回の推論で複数ステップ先まで出力するアクションチャンキングで埋める。
  4. そして最も重要な点。推論を速くするとは、単位時間あたりの演算回数を増やすこと=電力を食うこと。ロボットは電池で動くため、レイテンシは最終的に電力とメモリ帯域の問題に帰着する。

そもそも「レイテンシ」とは何か

📘 用語解説:推論レイテンシ(Inference Latency)
AIモデルが入力(画像など)を受け取ってから、出力(判断結果)を返すまでの時間のこと。単位はms(ミリ秒=1/1000秒)。「1秒間に何回処理できるか」を表すスループット(FPS)とは別物で、1回あたりの待ち時間を指す。
📘 用語解説:E2Eレイテンシ(End-to-End)
「カメラが光を捉えてから、モーターが実際に動き出すまで」の全工程の時間。AI推論はその一部にすぎない。ロボットで本当に問題になるのはこちら。

ここで一度、人間と比べてみましょう。人間の神経伝導速度はおよそ70〜120m/秒。視覚刺激に対する単純反応時間は、成人でだいたい200〜250msとされています(脳科学辞典ほか)。熱いものに触れたときの脊髄反射でも、数十msはかかります。

つまり人間は「0.2秒の遅延」を抱えたまま、コップを掴み、階段を降り、車を運転しているわけです。ではなぜロボットには、その200倍の速さが要求されるのでしょうか。

「1/1000秒」の正体は、AIではなくモーターの時計

答えはシンプルです。ロボットの中には、周期の違う時計が何層も重なって回っているから。そして一番速い時計は、AIではなくモーターの側にあります。

周波数の目安 1周期の時間 何をしているか
電流制御ループ 10〜20kHz級 50〜100μs モーターに流す電流=トルクを作る
速度制御ループ 数kHz 0.2〜1ms 回転速度を目標値に合わせる
位置制御ループ 約1kHz 約1ms 関節を指定角度へ。ここが「1/1000秒」
体内通信(EtherCAT等) 1〜4kHz 250μs〜1ms 全関節へ指令を配る
AI推論(VLAモデル) 10〜30Hz級 33〜100ms 見て・理解して・次の動きを決める
※数値はサーボドライバ・ロボットコントローラの一般的な設計目安。機種・メーカーにより大きく異なります。
1ms
関節の制御周期
100ms
AI推論の目安
100倍
埋めるべき差

では、AIを1kHzで回せばいいのでは?

理屈上はそうです。しかし、ここで本サイトが繰り返し扱ってきた「AIインフラの物理的な壁」がそのまま立ちはだかります。

⚡ 壁①:速くする=電力を食う
推論を10倍速くするとは、単位時間あたりの演算回数を10倍にすること。消費電力もおおむねそれに比例して増えます。データセンターなら電源も冷却も潤沢ですが、ロボットは背中の電池だけで動いています。推論を速くした分だけ、稼働時間が削られる。
🧠 壁②:メモリ帯域が効いてくる
ロボットの推論は「1つの入力を、今すぐ」処理するバッチサイズ1の世界。この条件では演算器の性能より、モデルの重みをメモリから読み出す速度(メモリ帯域)が支配的になります。データセンターのGPUがHBMでTB/s級の帯域を確保しているのに対し、エッジのSoCはLPDDR系で数百GB/s級。この差が、そのままレイテンシの差になります。
🔥 壁③:熱がこもる
高負荷を続ければチップは発熱します。密閉されたロボットの筐体は、データセンターのように風も水も自由に使えません。温度が上がればサーマルスロットリング(性能を落として自衛する動作)が働き、速いはずのチップが勝手に遅くなる

つまりレイテンシは、突き詰めるとメモリ帯域と電力と熱の問題です。「もっと速いAIを作ればいい」で片付く話ではありません。

遅れているのはAIだけではない|E2E遅延の内訳

「推論を速くすれば解決」と思われがちですが、実測するとAI推論以外の工程が想像以上に時間を食っています。以下は一般的な構成での試算例です。

⏱️ 時間はどこへ消えるのか(カメラの光→関節が動くまで)
10〜30ms
露光・読み出し
5〜15ms
転送・前処理
30〜100ms
AI推論
5〜10ms
後処理・軌道生成
5〜20ms
通信・機械の遅れ
合計(E2E)
およそ 55〜175ms
※構成・解像度・モデル規模により大きく変動する試算例。実機では必ず計測してください。

この数字が意味することを、身体感覚に翻訳します。時速60kmの車は1秒で約16.7m進みます。100msの遅延は、約1.7m。歩行者を認識してからブレーキ判断が届くまでに、車1台分近く進んでしまう計算です。工場でも、500mm/sで流れるコンベア上のワークは100msで50mmずれます。精密部品のピッキングでは致命傷です。

そしてもう一つ重要なのが、センサー側の遅延は削りにくいという事実。露光時間は物理法則の話で、暗い場所ほど長くかかります。AIをいくら速くしても、この部分は残る。だからセンサーの読み出し速度そのものが競争軸になるのです。

現場が本当に恐れるのは、平均ではなく「たまに遅れる」こと

📘 用語解説:ジッタ(Jitter)
遅延時間の「ばらつき」のこと。平均10msでも、たまに100msかかるならジッタが大きい状態。

制御の世界には、有名な言い方があります。
「常に50ms遅れる」より「普段は10msだが、たまに100ms遅れる」ほうが、はるかに厄介。

一定の遅延なら予測して補正できます。「この画像は50ms前のものだから、対象は今ここにいるはず」と計算に織り込める。しかし予測不能なばらつきは補正できません。突発的な把持ミスや、最悪の場合は衝突につながります。

ハードリアルタイム

締切を1回でも破ると
価値がゼロになる
  • モーターの電流・位置制御
  • 非常停止・安全回路
  • 専用チップやRTOSが担当

ソフトリアルタイム

遅れるほど
徐々に価値が下がる
  • 物体認識・경路計画
  • 言語での指示理解
  • AIチップ(GPU/NPU)が担当

ここが設計の肝です。AIはソフトリアルタイム、モーター制御と安全機能はハードリアルタイム。この2つを混ぜてはいけない。AIが数フレーム遅れても転ばないよう、下位の層が独立して身体を支え続ける構造にする——それが次の話です。

100倍の差をどう埋めるか|二階建てとアクションチャンキング

現在の主流のアプローチは、「速い脳」と「遅い脳」を分けるやり方です。NVIDIAのヒューマノイド向け基盤モデル「GR00T N1」も、この二階建て構造を採用しています。

🧭
System 2:考える脳
見て・理解して・計画する
低い頻度
System 1:反射する脳
滑らかな動きを生成
約120Hz
🦾
サーボ制御
関節を正確に動かす
約1kHz
※GR00T N1の論文(arXiv:2503.14734)では、拡散トランスフォーマ側が約120Hzでモータ指令を生成すると記載。実装環境により実測値は異なります。

鍵は「未来の動きをまとめて出す」アクションチャンキング

📘 用語解説:アクションチャンキング
1回の推論で「次の1手」だけでなく、数十ステップ先までの動作列をまとめて出力する手法。GR00T N1では1回の推論で16ステップ分を生成する。

これは発想の転換です。AIを速くするのではなく、AIが考えている間に実行できる「動きの在庫」を持たせる。カーナビが交差点ごとに再計算するのではなく、数百メートル先までの経路をまとめて渡しておくのに似ています。

これにより、推論が10Hzでも、下位の層は1kHzで滑らかに動き続けられる。ただし代償があります。在庫を使い切る前に状況が変われば、ロボットは「古い計画」で動いてしまう。人が急に手を出したときに止まれるかどうかは、AIではなく下位の安全回路が担保する——だからこそ、ハードリアルタイム層の独立が絶対条件になるのです。

レイテンシを削る企業は、どこにいるのか

この構造を理解すると、「レイテンシ関連銘柄」はAIチップ企業だけではないことがわかります。センサーの読み出し、体内通信、サーボドライバ——遅延はサプライチェーン全体に分散しています。

🔩

上流:半導体・電子部品

  • NVIDIA(NVDA):Jetson Thorでエッジ推論基盤を主導
  • ルネサスエレクトロニクス(6723):産業・車載MCU。制御の実時間性を担う
  • ローム(6963):モータードライバ・SiC。指令を電流に変える最終段
  • Texas Instruments(TXN):モーター制御IC・アナログ
⚙️

中流:センサー・アクチュエータ

  • ソニーグループ(6758):イメージセンサー。露光・読み出し遅延の起点
  • 安川電機(6506):サーボモータ・ドライバ。1kHz級制御の本丸
  • オムロン(6645):FA制御・産業ネットワーク
  • ミネベアミツミ(6479):小型モーター・センサー
🤖

下流:本体・統合

  • ファナック(6954):独自コントローラで制御周期を握る
  • 三菱電機(6503):サーボ・FA・パワー半導体の垂直統合
  • Beckhoff(非上場・独):EtherCATを提唱した体内通信の標準側
  • Figure AI(非上場・米):ヒューマノイド開発。直接投資は不可
⚠️ 注意:フィジカルAI関連は、実際の受注・売上より「テーマ」で株価が動きやすい領域です。上記は構造上その工程を担っている企業の整理であり、業績寄与の大小はまったく別問題。各社IRで、ロボット向けの実需が数字として立っているかを必ず確認してください。特定銘柄の推奨ではありません。
👥 この話は、あなたにとって何を意味するか
💼 投資家へ:「AIチップが速くなればロボットが実用化する」という単線的な見方は危険です。遅延はセンサー・通信・サーボに分散しており、ボトルネックが移動するたびに恩恵を受ける企業も移ります。次に効くのは推論チップか、それとも高速読み出しセンサーか——という視点で決算を読むと、テーマ株の中から実需組を選別しやすくなります。
🎓 学生へ:この領域はAI・制御・半導体の交差点にあり、どれか1つしか知らない人材が多い。「VLAモデルの出力周期とサーボの制御周期の整合」を語れる人は希少です。制御工学と機械学習の両方に足を置くと、進路の選択肢が一気に広がります。
🔧 技術者へ:自社が制御・電源・センサーのどれかを扱っているなら、それはすでにフィジカルAIの一部です。特に「最悪値の保証」という文化を持つ制御系の技術は、AI側にはない資産。この観点で自社技術を説明できると、AI文脈での立ち位置が明確になります。

よくある誤解

❌ 誤解1:「5G/6Gが普及すればクラウドで推論できる」
通信が速くなっても、ベストエフォート網ではジッタ(ばらつき)が消えません。ハードリアルタイム層をネットワーク越しに置くのは、原理的に危険です。

❌ 誤解2:「エッジで処理すれば遅延はゼロ」
通信遅延は消えますが、センサーの露光・読み出しと推論そのものは残ります。E2Eで数十msは避けられません。

❌ 誤解3:「FPSが高い=レイテンシが低い」
別物です。パイプライン処理でFPSは上げられますが、1枚あたりの待ち時間は変わりません。ロボットで効くのはレイテンシのほう

よくある質問(FAQ)

Q. 推論レイテンシとは、ひとことで言うと?
AIが入力を受け取ってから結果を返すまでの待ち時間。単位はms(1/1000秒)。ロボットでは、カメラからモーターまでの全工程を指すE2Eレイテンシのほうが実務的に重要です。
Q. なぜロボットの制御は1kHz(1ms)なのですか?
モーターの電流や関節角度を安定して制御するには、対象の動きより十分速い周期でフィードバックをかける必要があるためです。周期が遅いと制御が発振したり、追従できずガタつきます。AI都合ではなく物理と制御理論から決まる数字です。
Q. AIが10Hzでも、ロボットは滑らかに動けるのですか?
動けます。アクションチャンキングで数十ステップ先までまとめて出力し、下位の高速な層がその間を補間するためです。ただし急な変化への対応は下位の反射・安全回路が担います。
Q. 人間は0.2秒かかるのに、なぜロボットはもっと速く必要?
人間は「認識の遅さ」を、筋肉や腱のしなやかさ(受動的な柔らかさ)と脊髄反射で補っています。ロボットは剛性が高く、その緩衝材がない分、高速なフィードバック制御で代替しているのです。

次に読むべき記事

▶ まずはここから(中心ハブ)
学習はDC、推論は現場|クラウドとエッジの役割分担
なぜ推論をロボットの中で行うのか。本記事のレイテンシの話が、AIインフラ全体のどこに位置するかがわかります。
記事を読む →
▶ 「速くすると電池が減る」の続き
ロボットが動く”電源と熱”の壁|なぜ2時間しか動けないのか
推論を速くした代償は、そのまま稼働時間に跳ね返ります。フィジカルAI最大の物理的制約。
記事を読む →
▶ 「メモリ帯域が効く」の続き
ロボットが積むメモリ|LPDDRとHBMはどう使い分けるか
バッチ1推論を支配するのはメモリ帯域。なぜロボットはHBMを積まないのかを構造で解説します。
記事を読む →
※本記事の数値は、各社公式資料・arXiv掲載論文(GR00T N1:arXiv:2503.14734)・業界一般の設計目安に基づく参考値です。機種・構成により大きく変動します。特定の金融商品の売買を推奨するものではありません。投資判断はご自身の責任でお願いします。

コメント

タイトルとURLをコピーしました