O argumento
A última década da inteligência artificial foi definida por gargalos sucessivos. Primeiro foi a capacidade de processamento. À medida que a oferta melhorou, a restrição deslocou-se para a memória. O estudo sustenta que o setor vive agora uma terceira transição, e que o limite já não se encontra dentro do chip. Ele se encontra no nível do sistema e da infraestrutura. O enquadramento é o de uma IA que deixa de ser um problema de escala centrado no chip para se tornar um problema de otimização da fábrica de IA. Por fábrica de IA entende-se todo o sistema industrial necessário para produzir os resultados da IA: processadores, memória, redes, refrigeração, conversão de energia e a infraestrutura de data center em torno deles. A economia é medida como custo por token no nível do rack e do cluster, e não como desempenho de pico de qualquer componente isolado. Três restrições convergem. A movimentação de dados. O treinamento de fronteira faz milhares de aceleradores operarem em paralelo, de modo que a largura de banda e a latência da interconexão determinam o quanto o hardware é aproveitado. O cobre torna-se mais pesado e mais difícil de refrigerar conforme os clusters crescem, e é por isso que a conectividade óptica importa. A distribuição de energia. A restrição não está em quantos megawatts estão disponíveis, mas em como a eletricidade é convertida, distribuída e gerida dentro da instalação. À medida que a densidade dos racks aumenta, as arquiteturas elétricas tradicionais tornam-se ineficientes e os projetos de corrente contínua em tensão mais alta ganham espaço. A flexibilidade energética. O treinamento é episódico. A inferência é contínua e variável. O problema deixa de ser assegurar geração em regime estável e passa a ser absorver carga volátil sem superdimensionar a capacidade fixa. O armazenamento torna-se uma forma de estoque de energia, valioso por adiar investimentos em infraestrutura, e não por seu custo unitário. Os investimentos em IA, portanto, ampliam-se muito além dos semicondutores, alcançando a óptica e a interconexão, a conversão de energia, a gestão térmica, o armazenamento e a infraestrutura voltada para a rede elétrica. A questão em aberto é a rapidez com que esses gastos se convertem em receita.Leia também
- Qual é a sede da indústria de IA, a dependência de recursos que sustenta essa construção.
- O urânio, o gargalo estratégico, de onde se espera que venha a eletricidade.
- O que o Bordier publica, a série de análise a que este estudo pertence.
- O Bordier em Singapura, a entidade que publica esta série.
Informações de caráter geral apenas. Não constituem aconselhamento de investimento, nem solicitação, nem oferta. A elegibilidade, os serviços e os termos diferem conforme a jurisdição e conforme o cliente. Questões relativas a circunstâncias pessoais devem ser tratadas com o banqueiro responsável pela relação.
Esta página é uma tradução. Em caso de divergência entre esta versão e a versão em inglês, prevalecerá a versão em inglês.