L’argumentation
La dernière décennie de l’intelligence artificielle a été marquée par des goulets d’étranglement successifs. Ce fut d’abord la puissance de calcul. À mesure que l’offre s’est améliorée, la contrainte s’est déplacée vers la mémoire. L’étude soutient que le secteur connaît aujourd’hui une troisième transition, et que la limite ne se situe plus du tout à l’intérieur de la puce. Elle se situe au niveau du système et de l’infrastructure. Le cadre retenu est celui d’une IA qui passe d’un problème de montée en charge centré sur la puce à un problème d’optimisation de l’usine à IA. Par usine à IA, il faut entendre l’ensemble du système industriel nécessaire à la production des résultats de l’IA : processeurs, mémoire, réseau, refroidissement, conversion électrique et infrastructure de centre de données qui les entoure. L’économie se mesure en coût par token à l’échelle de la baie et du cluster, plutôt qu’en performance de pointe d’un composant isolé. Trois contraintes convergent. Le déplacement des données. L’entraînement des modèles de pointe fait tourner des milliers d’accélérateurs en parallèle : la bande passante et la latence des interconnexions déterminent donc le taux d’utilisation du matériel. Le cuivre devient plus lourd et plus difficile à refroidir à mesure que les clusters grandissent, d’où l’importance de la connectivité optique. La distribution électrique. La contrainte ne tient pas au nombre de mégawatts disponibles, mais à la manière dont l’électricité est convertie, distribuée et gérée à l’intérieur du site. À mesure que la densité des baies augmente, les architectures électriques traditionnelles perdent en efficacité et les conceptions en courant continu à plus haute tension gagnent du terrain. La flexibilité électrique. L’entraînement est épisodique. L’inférence est continue et variable. Le problème passe de la sécurisation d’une production stable à l’absorption d’une charge volatile sans surdimensionner la capacité fixe. Le stockage devient une forme de stock d’électricité, dont la valeur tient au report d’investissements d’infrastructure plutôt qu’à son coût unitaire. Les dépenses d’investissement dans l’IA s’élargissent donc bien au-delà des semi-conducteurs, vers l’optique et les interconnexions, la conversion électrique, la gestion thermique, le stockage et les infrastructures raccordées au réseau. La question ouverte est la vitesse à laquelle ces dépenses se convertissent en revenus.Pages liées
- Quelle est la soif de l’industrie de l’IA, la dépendance en ressources qui sous-tend cette construction.
- L’uranium, le goulet d’étranglement stratégique, d’où l’électricité est censée provenir.
- Ce que Bordier publie, la série de recherche à laquelle appartient cette étude.
- Bordier à Singapour, l’entité qui publie cette série.
Informations générales uniquement. Il ne s’agit ni d’un conseil en investissement, ni d’une sollicitation, ni d’une offre. L’éligibilité, les services et les conditions varient selon la juridiction et selon le client. Adressez-vous à votre banquier pour votre situation personnelle.
Cette page est une traduction. En cas de divergence entre cette version et la version anglaise, la version anglaise fait foi.