論旨
人工知能のこの10年は、移り変わるボトルネックによって形づくられてきました。最初は計算能力でした。その供給が改善すると、制約はメモリーへ移りました。本レポートは、この産業がいま3度目の転換のさなかにあり、その限界はもはやチップの内部にはまったく存在しないと論じています。それはシステムとインフラのレベルに存在します。 その捉え方は、AI がチップを中心としたスケーリングの問題から、AI ファクトリーの最適化という問題へ移りつつあるというものです。AI ファクトリーとは、AI の出力を生み出すために必要な産業システム全体を指します。プロセッサー、メモリー、ネットワーキング、冷却、電力変換、そしてそれらを取り巻くデータセンターのインフラです。その経済性は、個々の部品のピーク性能ではなく、ラックおよびクラスターの単位で見たトークンあたりのコストとして計測されます。 3つの制約が重なり合います。 データの移動。 最先端の学習は数千基のアクセラレーターを並列で動かすため、インターコネクトの帯域幅とレイテンシーが、ハードウェアをどれだけ活かせるかを左右します。クラスターの規模が大きくなるにつれ、銅は重さを増し、冷却も難しくなります。光による接続が重要になるのは、そのためです。 電力の供給。 制約は、利用できる電力が何メガワットあるかではなく、施設の内部で電気をどのように変換し、分配し、管理するかにあります。ラックの密度が高まるにつれ、従来型の電力アーキテクチャーは非効率になり、より高電圧の直流方式が広がりつつあります。 電力の柔軟性。 学習は断続的です。推論は継続的で、しかも変動します。問題は、定常的な発電を確保することから、固定的な設備を過剰に建設することなく変動する負荷を吸収することへと移ります。蓄電は電力の在庫という性格を帯び、単位あたりのコストよりも、インフラ投資を先送りできる点に価値が生じます。 したがって AI の設備投資は、半導体をはるかに超えて広がります。光学部品とインターコネクト、電力変換、熱管理、蓄電、そして送配電網に接する設備へと及びます。未解決の問いは、その支出がどれだけ速く収益へ転換するかです。関連ページ
- AI 産業はどれだけ水を使うのか、この建設の足元にある資源面の依存関係。
- ウラン、戦略的なボトルネック、その電力がどこから来ると見込まれているか。
- Bordier が発行する刊行物、本レポートが属する調査シリーズ。
- シンガポールの Bordier、本シリーズを発行する法人。
一般的な情報提供のみを目的としています。投資助言、勧誘または申込みのいずれにも当たりません。利用資格、サービスおよび条件は、法域および顧客によって異なります。ご自身の状況については、担当のバンカーにお問い合わせください。
本ページは翻訳です。本翻訳と英語版との間に相違がある場合は、英語版が優先します。