ニューラルネットからTransformerへ — AIの仕組みとGPU・メモリ需要の爆発

ニューラルネットの基礎 — 「重み」を調整して学ぶ

AIの最小単位は、生物の神経をまねたニューロン（パーセプトロン）です。複数の入力それぞれに「重み」を掛けて足し合わせ、ある閾値を超えたら信号を出す、という単純な計算をします。

• 1個では直線的な単純な判別しかできない
• 多数のニューロンを層状に重ねた「多層ニューラルネット（ディープラーニング）」にすると、複雑なパターンも表現できる

「学習」とは、正解との誤差が小さくなるように、無数の重みを少しずつ調整していく作業です。最初はランダムだった重みが、膨大なデータを何度も通すうちに、入力と正解を結ぶパターンを少しずつ獲得していきます。この重み調整（誤差逆伝播）が、大量の掛け算・足し算の繰り返しであることが、後の計算需要の出発点になります。層を深く・幅を広くするほど表現力は上がりますが、その分だけ調整すべき重みと計算量も増えていく、という関係をまず押さえておきましょう。

画像のCNN、系列のRNN/LSTM

用途に応じて、ニューラルネットには得意な型が生まれました。

• CNN（畳み込み）：画像向け。小さなフィルタを画像上で滑らせ、エッジや形といった局所的な特徴を段階的に抽出する。画像認識で大きく成功した
• RNN / LSTM：文章や音声など「並び（系列）」向け。前の情報を内部の記憶に持ち越しながら、単語を1つずつ順番に処理する

RNN系は、時間の流れを扱える点で言語処理の主役でした。しかし次節の限界が、Transformer登場の伏線になります。

RNNの限界 — 長い文脈と「並列化できない」問題

RNN/LSTMには2つの根本的な弱点がありました。

• 長い文脈が苦手：単語を1つずつ順送りで処理するため、文の最初の情報が後半まで届きにくく、長文での関係づけが弱くなる
• 並列化できない：「前の単語を処理し終えてから次へ」という逐次処理なので、原理的に同時並行で計算できない。GPUのように大量の計算を一斉に走らせるハードと相性が悪い

つまり、データやモデルを大きくしても、計算を素直に並列化して速くできない。この「並列化できない」という制約こそ、次のブレイクスルーが乗り越えた壁です。

2017年、Transformerとアテンションの発想

2017年の論文「Attention Is All You Need」で登場したTransformerは、RNNの逐次処理を捨て、アテンション（Attention）という仕組みに置き換えました。発想はシンプルです。

• 文中のすべての単語の関係を一度に見て、「どの単語がどの単語にどれだけ注目すべきか」を重みとして計算する
• 「川のbank」と「銀行のbank」のように、文脈に応じて各単語の意味を周囲から動的に決められる

順番に依存せず全単語を同時に突き合わせるため、並列化しやすい。長い文脈の遠い単語どうしも直接つなげられる。RNNの2つの弱点（長文の苦手さと逐次処理）を同時に解いたのが決定的でした。当初は機械翻訳のための仕組みでしたが、その汎用性の高さから、やがて言語処理全般の標準的な土台へと広がっていきます。

なぜTransformerは大規模化（LLM）に向くのか

Transformerが「大きくしやすい」のには理由があります。

• 並列計算と相性が良い：アテンションも各層も大量の行列計算（掛け算の塊）で表され、GPUの並列演算をフルに使える
• 構造が均質で積み増せる：同じ形のブロックを縦に積み、各層の幅を広げるだけで規模を拡大できる。設計を変えずに「大きくする」ことができる
• 長い文脈を扱える：膨大なテキストから言語のパターンを丸ごと学べる

この「素直に大きくできる」性質が、数十億〜数兆パラメータの大規模言語モデル（LLM）を現実的にしました。

スケール則 — 大きくすると賢くなる、だから計算が爆発する

Transformer時代の重要な経験則がスケール則（Scaling Laws）です。

• モデルの大きさ・学習データ量・投入計算量を増やすほど、性能が（おおむね予測可能な形で）滑らかに向上する傾向が観測された
• 「アーキテクチャの工夫」より「規模を増やす」方が効きやすい、という方向に開発がシフトした

結果として、各社がモデルとデータを競って巨大化させ、学習に必要な計算量が爆発的に膨らみました。賢さがほぼ計算量で買えるなら、計算資源そのものが競争の核になります。実際、最先端モデルの学習に投じられる計算量は、世代を追うごとに桁違いに増えてきました。ここから先は、技術の話がそのまま半導体・設備投資の話へ直結していきます。誰が大量の計算を確保できるかが、そのままAI開発の優劣を左右する構図です。

計算需要がGPU・HBM・データセンターへ波及する

巨大なTransformerの学習と運用は、特定のハードへ需要を集中させました。

• GPU：大量の行列計算を並列でこなすのに最適。AI計算の中心。仕組みはGPUの仕組みを参照
• HBM（広帯域メモリ）：巨大モデルの重みを高速にGPUへ供給する。帯域がボトルネックになりやすく需要が急増。HBMと関連銘柄へ
• データセンター：大量のGPUを束ね、電力・冷却・高速ネットワークで支える。中身はAIデータセンターの解剖で詳説

チップの種類ごとの役割分担はAIチップの種類も合わせてどうぞ。技術の必然が、そのまま投資テーマの地図になっています。

投資の文脈 — 関連企業と「期待の先行」に注意

この技術連鎖の各層に、代表的な上場企業が並びます（特定銘柄の推奨ではありません）。

• AIアクセラレータ：NVDA（GPU）。カスタムAI半導体やネットワークでAVGO、AMD、MRVL
• メモリ：HBMを供給するMU
• 需要側（クラウド・モデル）：MSFT、GOOGL、META

注意したいのは、強い成長期待が株価に先行して織り込まれやすいこと。PERやPSRが高水準のとき、株価は将来の成長を前提にしています。売上やCAGRといった実態と、株価（＝市場の期待）の乖離を点検する習慣が役立ちます。網羅的な整理はAI半導体銘柄ガイドへ。

学習だけでなく「推論コスト」も需要を押し上げる

需要は学習（モデルを作る）だけでは終わりません。完成したモデルを使い、ユーザーの質問に答え続ける推論（インファレンス）もまた、莫大な計算とメモリを消費します。

• 利用が増えるほど、回答1回あたりの積み重ねが大きなコストになる
• このコスト構造が、各社のAIサービスの採算や設備投資の規模を左右する

推論コストの中身と、それが企業の営業利益率やFCFに与える影響は、別記事LLMの推論コストで詳しく扱います。技術の進化がコスト構造に直結し、それが業績に表れる、という連鎖を意識しておくと読み解きやすくなります。

まとめ — 技術の流れが投資テーマの地図になる

ここまでの流れを一本でつなぐと、AIの投資テーマの構造が見えてきます。

1. ニューラルネットは重みを調整して学ぶ。学習は大量の計算
2. CNN/RNNには限界（特にRNNは並列化できない）があった
3. Transformerとアテンションが、全単語を一度に見て並列化を可能にした
4. スケール則により「大きくすれば賢くなる」が計算需要を爆発させた
5. 需要はGPU・HBM・データセンターへ集中し、学習に加え推論でも続く

技術の必然が半導体・メモリ・クラウドの需要を生み、それが上場企業の業績と株価につながります。だからこそ、期待先行に流されず、実態との乖離を冷静に見ることが大切です。なお本稿は情報提供・教育目的であり投資助言ではありません。