AIの学習（トレーニング）と推論（インファレンス）の違いとは？必要なチップ・メモリ・コスト構造と、投資家が見るべき関連銘柄をわかりやすく解説

公開 2026-09-16

AI の計算には「モデルを作るための学習（トレーニング）」と「できたモデルを使うための推論（インファレンス）」があります。これまでの AI 投資は学習向けの巨大な GPU クラスタが主役でしたが、ChatGPT のような AI が日常的に使われるほど推論の計算量が学習を上回っていくとみられています。両者は必要なハードウェアと儲かる会社が違うため、投資では分けて見る価値があります。

一覧表：学習と推論の違い

項目	学習（トレーニング）	推論（インファレンス）
何をする	大量データからモデルの重みを決める	決まった重みで入力に答える
計算の性質	一度に巨大。数千〜数万 GPU を数週間〜数か月	1 回は小さいが、利用者の数だけ無限に繰り返す
律速するもの	GPU の演算性能と GPU 間の接続（NVLink・ネットワーク）	メモリ帯域（HBM）と遅延、電力あたりのコスト
コストの性格	固定費（作るときに一括）	変動費（使われるほど増える）
主なハード	NVIDIA の最上位 GPU（Blackwell 等）＋高速ネットワーク	GPU に加え、カスタム ASIC（TPU・Trainium 等）、エッジの NPU
勝負の軸	最速で巨大クラスタを作る	1 回あたりのコスト（トークン単価）を下げる

学習 — 「巨大な一回」が必要とするもの

大規模言語モデルの学習は、数兆語のデータを何度も読み込み、数千億〜数兆のパラメータを調整する作業です。1 台の GPU では何百年もかかるため、数万台を高速につないで 1 台のように動かす必要があり、GPU 単体の性能と同じくらいGPU 間の接続（NVLink、InfiniBand／イーサネット、光接続）が重要です。ここで NVIDIA は GPU・接続・ソフトウェア（CUDA）をセットで提供して優位を築きました。学習の需要は最先端モデルを作る少数の企業（OpenAI・Google・Meta・Anthropic 等）に集中し、その投資額の増減が装置・部品の株価を動かします（AI をつなぐ技術、スケーリング則）。

推論 — 「小さな計算を無限に」で効くもの

推論は、利用者の質問ごとにモデルの重み（数百 GB〜）をメモリから読み出して計算します。1 回の計算量は学習より桁違いに小さい一方、重みを毎回読むためメモリ帯域（HBM）が律速になりやすく、利用者が増えるほど総コストが膨らみます。そのため推論では「性能」より「1 回あたりの電力とコスト」が競争の軸になり、汎用 GPU より安い専用チップ（Google の TPU、Amazon の Trainium／Inferentia、カスタム AI チップ）や、端末側で処理するエッジ NPU（エッジ AI）が入り込む余地が生まれます（LLM の推論コストの正体）。

投資家の視点 — 推論の比率が上がると誰が得をするか

領域	学習寄りの恩恵	推論寄りの恩恵
GPU	NVIDIA（NVDA）の最上位品	NVIDIA に加え AMD（AMD）、推論特化の新興
カスタムチップ	限定的	Broadcom（AVGO）・Marvell（MRVL）（ハイパースケーラーの ASIC）
メモリ	HBM	HBM の需要がさらに増える（Micron（MU））
接続	NVLink・InfiniBand・光（Arista・Credo）	スケールアウトの接続は引き続き必要
エッジ	—	スマホ・PC・車の NPU（Qualcomm・Ambarella）
電力・冷却	巨大クラスタの電力（AI 電力）	分散するが総量は増える

「学習から推論へ」は NVIDIA の終わりを意味するわけではありません。NVIDIA は推論向けの製品とソフトウェアも持ち、推論の総量が増えれば GPU の需要も増えます。変わるのはNVIDIA 一強の度合いで、カスタム ASIC・メモリ・エッジの取り分が増える、というのが一般的な見方です。

見分けるための決算のヒント

ハイパースケーラーの設備投資の内訳 — 学習用の大型クラスタか、推論用の分散したサーバーか。Microsoft・Google・Meta は決算で AI 投資の性格に言及することがあります。
NVIDIA の売上の内訳 — 推論向けの比率を会社が示すことがあり、上がっていれば推論の時代への移行を示します。
カスタム ASIC の受注 — Broadcom・Marvell のデザインウィンの多くは推論向けです。
HBM の需要見通し — メモリ各社の HBM 売上比率と価格は、推論の拡大と直結します。

よくある質問

AI の学習と推論はどちらが多くの計算を使いますか？

1 回あたりでは学習が桁違いに大きいですが、推論は利用者の数だけ繰り返されるため、AI の利用が広がるほど推論の合計計算量が学習を上回っていくとみられています。

推論が増えると NVIDIA は不利になりますか？

推論では 1 回あたりのコストが競争の軸になるため、カスタム ASIC やエッジのチップが入り込む余地が増え、NVIDIA 一強の度合いは弱まる可能性があります。ただし推論の総量が増えれば GPU の需要も増えるため、不利と決めつけるのは早計です。

なぜ推論ではメモリ帯域が重要なのですか？

推論では質問のたびにモデルの重み（数百 GB〜）をメモリから読み出すため、計算そのものより「読み出す速さ」が律速になりやすいからです。HBM のような広帯域メモリの需要はこの理由で増えています。

学習と推論で恩恵を受ける銘柄はどう違いますか？

学習は最上位 GPU と高速接続（NVIDIA・Arista・Credo 等）、推論はカスタム ASIC（Broadcom・Marvell）・HBM（Micron）・エッジの NPU（Qualcomm・Ambarella 等）が相対的に恩恵を受けるとみられています。