全局视角
AI 模型的生命周期分为两个阶段。训练是模型学习的阶段,在巨型数据中心里进行,投入巨大且是一次性的。推理则是训练好的模型被真正使用的阶段:回答问题、撰写邮件、审阅合同、发现生产线上的缺陷。
第一波 AI 支出以训练为主导。下一波则属于推理。每一个新用户、每一款新应用、每一个在后台工作的 AI 智能体,都会创造更多推理需求,而且与训练不同,它永不停歇。
为何是现在
AI 已从实验走向日常工具。智能助手已内置于手机、办公软件和搜索引擎中;企业正在部署全天候执行任务的智能体。如今,驱动算力需求的主要力量是使用量,而不是模型构建。
机会在哪里
我正在研究的领域
高效推理芯片
专为低成本、大规模运行模型而打造的加速器和定制芯片,而不仅仅用于训练。
分布式数据中心
更靠近用户的小型设施,降低实时 AI 服务的延迟。
存储与网络
模型的高速运行依赖于高带宽内存和低延迟连接。
端侧 AI
手机、电脑和汽车在本地运行模型,推动新一轮硬件升级周期。
我关注的信号
如何判断它正在兑现
- ↗主要 AI 平台的日活跃用户数和查询量增长
- ↗云服务商报告推理在 AI 收入中的占比不断上升
- ↗单次 AI 查询成本下降,历史上这往往会扩大总使用量
- ↗专为高效推理设计的芯片陆续发布
风险
可能出现的问题
- !效率的快速提升可能使单次查询支出的下降速度快于使用量的增长
- !AI 服务商之间的价格竞争可能挤压利润率
- !当今训练芯片的领导者未必能在推理领域保持领先
我的应对方式
我正在把算力敞口从偏重训练的标的,转向受益于使用量的企业:专注推理的芯片、存储、网络,以及按查询量销售 AI 的平台。
“训练只发生一次。推理每天发生数十亿次,而未来十年的需求就在这里。”
以上为个人前瞻性观点,并非预测或推荐,可能被证明是错误的。