全体像
AIモデルのライフサイクルには2つの段階があります。学習（training）は、モデルが学ぶ段階であり、巨大なデータセンターで行われる大規模な一度きりの取り組みです。推論（inference）は、学習済みのモデルが実際に使われる段階です。質問への回答、メールの作成、契約書のレビュー、生産ラインでの不良品の検出などがこれにあたります。
AI支出の第一波は学習が中心でした。次の波は推論のものです。新たなユーザー、新たなアプリ、そしてバックグラウンドで動くAIエージェントの一つひとつが推論需要を生み出し、しかも学習とは異なり、その需要が止まることはありません。
なぜ今なのか
AIは実験段階から日常のツールへと移行しました。アシスタントはスマートフォン、オフィスソフトウェア、検索に組み込まれ、企業は24時間タスクを実行するエージェントを導入しています。今や計算需要の主な原動力は、モデルの構築ではなく利用です。
機会はどこにあるか
私が調査している領域
効率的な推論用半導体
学習だけでなく、大規模なモデル運用を低コストで行うために設計されたアクセラレーターやカスタムシリコン。
分散型データセンター
ユーザーの近くに置かれた小規模な施設により、リアルタイムAIサービスの遅延を削減。
メモリとネットワーク
モデルを高速に動かすには、広帯域メモリと低遅延の接続が欠かせません。
オンデバイスAI
スマートフォン、PC、自動車がモデルをローカルで実行し、新たなハードウェア買い替えサイクルを生み出します。
注目している兆候
成果を見極める指標
- ↗主要AIプラットフォームにおける1日あたりのアクティブユーザー数とクエリ数の伸び
- ↗AI売上に占める推論の割合が高まっていると報告するクラウド事業者
- ↗AIクエリ1件あたりのコストの低下（歴史的に総利用量を拡大させてきた）
- ↗効率的な推論に特化して設計された半導体の投入
リスク
想定されるリスク
- !急速な効率化により、クエリ1件あたりの支出が利用量の伸びを上回るペースで減少する可能性
- !AI事業者間の価格競争による利益率の圧迫
- !現在の学習用半導体のリーダーが、推論でも主導権を握るとは限らない
私の取り組み方
コンピュート関連のエクスポージャーを、学習中心の銘柄から、利用量の拡大で恩恵を受ける事業へと傾けています。推論に特化したシリコン、メモリ、ネットワーク、そしてAIをクエリ単位で販売するプラットフォームです。
「学習は一度きり。推論は1日に数十億回。次の10年の需要はそこにあります。」
これらは個人的な将来の見通しであり、予測や推奨ではありません。結果的に誤りとなる可能性もあります。