El argumento
La última década de la inteligencia artificial ha estado definida por cuellos de botella cambiantes. Primero fue la capacidad de cálculo. A medida que mejoró la oferta, la restricción se desplazó a la memoria. El estudio sostiene que el sector atraviesa hoy una tercera transición y que el límite ya no se sitúa dentro del chip en absoluto. Se sitúa en el nivel del sistema y de la infraestructura. El marco es el de una IA que pasa de un problema de escalado centrado en el chip a un problema de optimización de la fábrica de IA. Por fábrica de IA se entiende todo el sistema industrial necesario para producir los resultados de la IA: procesadores, memoria, redes, refrigeración, conversión eléctrica y la infraestructura de centro de datos que los rodea. La economía se mide como coste por token a escala de rack y de clúster, y no como rendimiento máximo de un componente aislado. Convergen tres restricciones. El movimiento de datos. El entrenamiento de frontera hace funcionar miles de aceleradores en paralelo, de modo que el ancho de banda y la latencia de la interconexión determinan el aprovechamiento del hardware. El cobre se vuelve más pesado y más difícil de refrigerar a medida que crecen los clústeres, y por eso importa la conectividad óptica. La distribución eléctrica. La restricción no está en cuántos megavatios hay disponibles, sino en cómo se convierte, se distribuye y se gestiona la electricidad dentro de la instalación. A medida que sube la densidad de los racks, las arquitecturas eléctricas tradicionales pierden eficiencia y ganan terreno los diseños de corriente continua a mayor tensión. La flexibilidad eléctrica. El entrenamiento es episódico. La inferencia es continua y variable. El problema pasa de asegurar una generación estable a absorber una carga volátil sin sobredimensionar la capacidad fija. El almacenamiento se convierte en una forma de inventario de electricidad, cuyo valor está en aplazar infraestructura y no en su coste por unidad. La inversión en IA se amplía, por tanto, mucho más allá de los semiconductores, hacia la óptica y la interconexión, la conversión eléctrica, la gestión térmica, el almacenamiento y la infraestructura conectada a la red. La cuestión abierta es con qué rapidez ese gasto se convierte en ingresos.Páginas relacionadas
- Cuánta sed tiene la industria de la IA, la dependencia de recursos que hay bajo esta construcción.
- El uranio, el cuello de botella estratégico, de dónde se espera que salga la electricidad.
- Lo que publica Bordier, la serie de análisis a la que pertenece este estudio.
- Bordier en Singapur, la entidad que publica esta serie.
Información de carácter general únicamente. No constituye asesoramiento en materia de inversión, ni una solicitud, ni una oferta. La elegibilidad, los servicios y las condiciones varían según la jurisdicción y según el cliente. Diríjase a su banquero para tratar su situación personal.
Esta página es una traducción. En caso de discrepancia entre esta versión y la versión inglesa, prevalecerá la versión inglesa.