论证
过去十年的人工智能，是由不断转移的瓶颈所定义的。最初是算力。随着供给改善，约束转向内存。这篇研究认为，该行业如今正处于第三次转变之中，而这一极限已完全不在芯片内部，它位于系统与基础设施层面。 其框架是：人工智能正从一个以芯片为中心的扩展问题，转为一个人工智能工厂的优化问题。所谓人工智能工厂，是指产出人工智能成果所需的整个工业体系：处理器、内存、网络、散热、电力转换，以及围绕它们的数据中心基础设施。其经济性以机架与集群层面的每 token 成本来衡量，而非以任何单一组件的峰值性能来衡量。 三重约束正在汇合。 数据移动。 前沿训练令数千个加速器并行运行，因此互连的带宽与时延决定硬件的利用程度。随着集群规模扩大，铜缆变得更重、更难散热，这正是光互连之所以重要的原因。 电力输送。 约束并非有多少兆瓦可用，而是电力在设施内部如何转换、分配与管理。随着机架密度上升，传统的供电架构变得低效，更高电压的直流设计随之取得进展。 电力弹性。 训练是间歇性的。推理则是持续且波动的。问题从确保稳态发电，转为在不过度建设固定产能的前提下吸收波动性负荷。储能成为一种电力库存，其价值在于延缓基础设施投入，而非在于其单位成本。 因此，人工智能的资本开支远远扩展到半导体之外，进入光学与互连、电力转换、热管理、储能与面向电网的基础设施。尚待回答的问题是，这些支出转化为收入的速度有多快。相关内容
- 人工智能产业有多耗水，支撑这一建设的资源依赖。
- 铀，战略性瓶颈，这些电力预计从何而来。
- 宝瑞发布的内容，本文所属的研究系列。
- 宝瑞在新加坡，发布该系列的实体。
仅供一般参考。本文不构成投资建议，亦不构成招揽或要约。资格条件、服务与条款因司法管辖区与客户而异。凡涉及您自身情况的事项，请与您的银行家联系。
本页面为译文。如本译文与英文版本有任何差异，概以英文版本为准。