論證
過去十年的人工智慧，是由不斷轉移的瓶頸所定義的。最初是運算能力。隨著供給改善，約束轉向記憶體。這篇研究認為，該行業如今正處於第三次轉變之中，而這一極限已完全不在晶片內部。它位於系統與基礎設施層面。 其框架是：人工智慧正從一個以晶片為中心的擴展問題，轉為一個人工智慧工廠的優化問題。所謂人工智慧工廠，是指產出人工智慧成果所需的整個工業體系：處理器、記憶體、網路、散熱、電力轉換，以及圍繞它們的數據中心基礎設施。其經濟性以機架與叢集層面的每個 token 成本來衡量，而非以任何單一組件的峰值性能來衡量。 三重約束正在匯合。 數據移動。 前沿訓練令數千個加速器並行運行，因此互連的頻寬與延遲決定硬體的利用程度。隨著叢集規模擴大，銅纜變得更重、更難散熱，這正是光學互連之所以重要的原因。 電力輸送。 約束並非有多少兆瓦可用，而是電力在設施內部如何轉換、分配與管理。隨著機架密度上升，傳統的供電架構變得低效，更高電壓的直流設計隨之取得進展。 電力彈性。 訓練是間歇性的。推論則是持續且波動的。問題從確保穩態發電，轉為在不過度建設固定產能的前提下吸收波動性負荷。儲能成為一種電力庫存，其價值在於延緩基礎設施投入，而非在於其單位成本。 因此，人工智慧的資本開支遠遠擴展到半導體之外，進入光學與互連、電力轉換、熱管理、儲能與面向電網的基礎設施。尚待回答的問題是，這些支出轉化為收入的速度有多快。相關內容
- 人工智慧產業有多耗水，支撐這一建設的資源依賴。
- 鈾，戰略性瓶頸，這些電力預計從何而來。
- 寶瑞發布的內容，本文所屬的研究系列。
- 寶瑞在新加坡，發布該系列的實體。
僅供一般參考。本文不構成投資建議，亦不構成招攬或要約。資格條件、服務與條款因司法管轄區與客戶而異。凡涉及您自身情況的事項，請與您的銀行家聯繫。
本頁面為譯文。如本譯文與英文版本有任何差異，概以英文版本為準。