논지
지난 10년의 인공지능은 자리를 옮겨 다니는 병목으로 규정되어 왔습니다. 처음에는 연산 능력이었습니다. 공급이 나아지면서 제약은 메모리로 옮겨 갔습니다. 이 글은 업계가 이제 세 번째 전환기에 있으며 그 한계는 더 이상 반도체 내부에 있지 않다고 주장합니다. 그것은 시스템과 인프라 차원에 자리합니다. 이 글의 틀은 인공지능이 반도체 중심의 규모 확장 문제에서 AI 팩토리 최적화 문제로 옮겨 가고 있다는 것입니다. AI 팩토리란 인공지능의 산출물을 만들어 내는 데 필요한 산업 시스템 전체를 뜻합니다. 프로세서와 메모리, 네트워킹, 냉각, 전력 변환, 그리고 그 주위를 둘러싼 데이터센터 인프라입니다. 그 경제성은 개별 부품의 최고 성능이 아니라 랙과 클러스터 단위의 토큰당 비용으로 측정됩니다. 세 가지 제약이 한데 모입니다. 데이터 이동. 최전선의 학습은 수천 개의 가속기를 병렬로 돌리므로, 인터커넥트의 대역폭과 지연시간이 하드웨어를 얼마나 잘 쓰는지를 좌우합니다. 클러스터 규모가 커질수록 구리는 더 무거워지고 냉각하기도 어려워지며, 그래서 광 연결이 중요해집니다. 전력 공급. 제약은 몇 메가와트를 쓸 수 있는가가 아니라, 시설 안에서 전기가 어떻게 변환되고 배분되며 관리되는가에 있습니다. 랙 밀도가 높아지면 기존의 전력 아키텍처는 비효율적이 되고, 더 높은 전압의 직류 설계가 힘을 얻습니다. 전력 유연성. 학습은 간헐적입니다. 추론은 연속적이고 가변적입니다. 문제는 안정적인 발전량을 확보하는 데서, 고정 설비를 과도하게 짓지 않으면서 변동하는 부하를 흡수하는 쪽으로 옮겨 갑니다. 저장 장치는 일종의 전력 재고가 되며, 그 가치는 단위당 비용이 아니라 인프라 투자를 뒤로 미루는 데 있습니다. 따라서 인공지능 자본 지출은 반도체를 훌쩍 넘어 광학과 인터커넥트, 전력 변환, 열 관리, 저장 장치, 그리고 전력망에 접한 인프라로 넓어집니다. 남은 물음은 그 지출이 얼마나 빠르게 매출로 바뀌는가입니다.관련 페이지
- 인공지능 산업은 얼마나 물을 소비하는가, 이 구축의 밑바탕에 있는 자원 의존성.
- 우라늄, 전략적 병목, 그 전력이 어디에서 오리라 예상되는지.
- Bordier가 발행하는 것, 이 글이 속한 리서치 시리즈.
- 싱가포르의 Bordier, 이 시리즈를 발행하는 법인.
일반 정보로만 제공됩니다. 투자 자문이 아니며, 권유나 청약도 아닙니다. 자격 요건과 서비스, 조건은 관할 지역과 고객에 따라 다릅니다. 고객님 자신의 상황에 관한 사항은 담당 뱅커에게 문의하시기 바랍니다.
본 페이지는 번역본입니다. 번역본과 영문본 사이에 차이가 있는 경우 영문본이 우선합니다.