展望主题 1 / 5

无处不在的推理

训练造就大脑。推理是大脑在工作,每一天的每一秒。

全局视角

AI 模型的生命周期分为两个阶段。训练是模型学习的阶段,在巨型数据中心里进行,投入巨大且是一次性的。推理则是训练好的模型被真正使用的阶段:回答问题、撰写邮件、审阅合同、发现生产线上的缺陷。

第一波 AI 支出以训练为主导。下一波则属于推理。每一个新用户、每一款新应用、每一个在后台工作的 AI 智能体,都会创造更多推理需求,而且与训练不同,它永不停歇。

为何是现在

AI 已从实验走向日常工具。智能助手已内置于手机、办公软件和搜索引擎中;企业正在部署全天候执行任务的智能体。如今,驱动算力需求的主要力量是使用量,而不是模型构建。

机会在哪里

我正在研究的领域

高效推理芯片

专为低成本、大规模运行模型而打造的加速器和定制芯片,而不仅仅用于训练。

分布式数据中心

更靠近用户的小型设施,降低实时 AI 服务的延迟。

存储与网络

模型的高速运行依赖于高带宽内存和低延迟连接。

端侧 AI

手机、电脑和汽车在本地运行模型,推动新一轮硬件升级周期。

我关注的信号

如何判断它正在兑现

  • ↗主要 AI 平台的日活跃用户数和查询量增长
  • ↗云服务商报告推理在 AI 收入中的占比不断上升
  • ↗单次 AI 查询成本下降,历史上这往往会扩大总使用量
  • ↗专为高效推理设计的芯片陆续发布

风险

可能出现的问题

  • !效率的快速提升可能使单次查询支出的下降速度快于使用量的增长
  • !AI 服务商之间的价格竞争可能挤压利润率
  • !当今训练芯片的领导者未必能在推理领域保持领先

我的应对方式

我正在把算力敞口从偏重训练的标的,转向受益于使用量的企业:专注推理的芯片、存储、网络,以及按查询量销售 AI 的平台。

“训练只发生一次。推理每天发生数十亿次,而未来十年的需求就在这里。”

以上为个人前瞻性观点,并非预测或推荐,可能被证明是错误的。