Pourquoi l’IA consomme-t-elle autant d’énergie ?

L'IA consomme beaucoup d'énergie, car produire une réponse nécessite de nombreuses opérations numériques sur des puces spécialisées, déplaçant de manière répétée les données du modèle dans la mémoire, puis prenant en charge ce matériel avec la mise en réseau, la conversion d'énergie et le refroidissement. Les modèles volumineux, les invites et les sorties longues nécessitent généralement plus de travail. La formation ajoute un coût énergétique distinct et concentré ; le traitement de millions de demandes ultérieures en ajoute une continue.

Toutes les tâches de l’IA ne sont pas volumineuses. Un petit modèle de texte répondant à une courte question peut utiliser une fraction de wattheure selon les estimations récentes. Le problème réside dans la combinaison de modèles exigeants, d’une utilisation croissante et d’installations construites à une densité de puissance inhabituelle. L'Agence internationale de l'énergie affirme que l'accélération des serveurs, principalement motivée par l'adoption de l'IA, constitue une source majeure de croissance prévue de l'électricité des centres de données dans son pays. Analyse de l'énergie et de l'IA.

Une réponse est une chaîne de calculs

Les modèles de langage stockent les relations numériques apprises dans des paramètres. Lorsqu'une invite arrive, les processeurs combinent l'entrée avec ces paramètres via de grandes opérations matricielles. Le modèle prédit ensuite un jeton, l'ajoute au contexte et répète le processus pour le jeton suivant.

Cette boucle jeton par jeton est la raison pour laquelle la longueur de sortie est importante. Demander une réponse concise et demander un livre n’est pas la même chose. La saisie est également importante : une longue conversation ou un document téléchargé doit être traité avant et pendant la génération. Certains systèmes de raisonnement produisent également des jetons internes que l’utilisateur ne voit jamais.

L’électricité exacte ne dépend pas seulement du nombre de paramètres. L'architecture du modèle, la précision numérique, l'accès à la mémoire, les noyaux logiciels et la génération d'accélérateurs affectent tous la quantité de travail utile fournie par watt.

La puce ne « connaît » pas simplement le modèle sans travail physique. Les paramètres et les valeurs intermédiaires doivent se déplacer entre la mémoire à large bande passante et les processeurs. La capacité mémoire et la bande passante peuvent devenir des contraintes, notamment pour les grands modèles. Alimenter le matériel en données coûte de l'énergie, même lorsque l'arithmétique elle-même est hautement optimisée.

Cela aide à expliquer pourquoi un modèle plus petit ou compressé peut être efficace. Si moins de poids doivent être lus et moins d’opérations effectuées pour chaque jeton, la charge de travail peut diminuer. Les modèles mixtes d'experts peuvent également activer seulement une partie de leurs paramètres totaux pour un jeton, bien que la conception du routage et du service reste importante.

La question pratique est abordée dans les petits modèles d’IA consomment-ils moins d’énergie ?. La taille est un signal important, mais elle ne constitue pas une mesure complète de la puissance.

Le matériel IA est dense en énergie

Les accélérateurs modernes sont conçus pour effectuer un très grand nombre d’opérations en parallèle. Un rack rempli de ces serveurs peut consommer beaucoup plus d'énergie qu'un rack de serveurs conventionnels. La formation et le service connectent également de nombreuses puces via des réseaux rapides, qui ajoutent leur propre demande en électricité.

L’AIE note que les centres de données axés sur l’IA peuvent avoir des charges très importantes et géographiquement concentrées. Cela crée un problème de planification différent de celui d’une même quantité de consommation dispersée dans un pays. Les connexions au réseau, les sous-stations et la production doivent être disponibles au bon endroit et au bon moment.

EPRI Scénarios Powering Intelligence reflètent l’incertitude : la demande future de centres de données aux États-Unis change considérablement en fonction des hypothèses de développement et d’utilisation. Il est donc préférable de lire les prévisions en matière d’électricité comme des trajectoires conditionnelles et non comme des promesses.

Le bâtiment autour des puces consomme également de l'énergie

Les serveurs ne sont qu'une partie d'un centre de données. Le refroidissement élimine la chaleur. Les pompes et les ventilateurs déplacent de l'air ou du liquide. Les systèmes électriques convertissent l’électricité et assurent la sauvegarde. Le stockage, les processeurs conventionnels et les équipements réseau coordonnent la charge de travail.

Les analystes résument souvent ces frais généraux par l'efficacité de la consommation d'énergie, ou PUE : l'électricité totale de l'installation divisée par l'électricité utilisée par l'équipement informatique. Un PUE de 1 signifierait l’absence de frais généraux, ce que les installations réelles ne peuvent pas réaliser. Un PUE inférieur est préférable, mais cela ne dit pas à quel point le modèle d’IA lui-même est efficace.

Cette limite est importante lorsqu’on compare le coût énergétique d'un message d'IA. Une estimation au niveau de la puce uniquement et une estimation au niveau de l'installation peuvent différer même si les deux calculs sont solides en interne.

La formation est importante ; l'inférence est implacable

La formation expose un modèle à d'énormes ensembles de données et met à jour ses paramètres sur de nombreux processeurs. Il peut durer des jours ou plus, avec des expériences et des entraînements abandonnés ajoutant du travail au-delà de l'exécution finale réussie. Les totaux publics sont rares et il est difficile de comparer les chiffres généraux de la formation lorsque les limites matérielles, géographiques et comptables diffèrent.

L'inférence est plus petite par tâche mais se produit chaque fois que quelqu'un le demande. Un modèle très utilisé peut finalement consommer plus par inférence que par formation ; un modèle peu utilisé ne le sera peut-être pas. Les fonctionnalités qui effectuent plusieurs appels (recherche, agents, analyse d'images ou auto-vérification répétée) peuvent transformer une action visible en plusieurs tâches backend.

C’est pourquoi « une seule invite » n’est pas une unité technique durable. Ce que fait le service après l'invite est au moins aussi important que les mots saisis avant lui.

Une IA plus efficace peut encore signifier plus d’électricité

L'efficacité de l'IA s'améliore grâce à de meilleures puces, une meilleure quantification, une parcimonie, un traitement par lots et une conception de modèles. Luccioni, Jernite et Strubell comparaison des charges de travail d'inférence montre également que le choix des tâches et des modèles est important : les systèmes génératifs à usage général peuvent nécessiter beaucoup plus d'énergie que les modèles spécifiques à une tâche pour les tâches évaluées.

Pourtant, une réponse moins coûteuse peut conduire à davantage de réponses. L'IA est ajoutée à la recherche, aux logiciels de bureautique, au codage, au support client et à la génération de médias. La demande totale augmente si le nombre de tâches augmente plus vite que l’énergie par tâche ne diminue. C’est ainsi que l’amélioration de l’efficacité et l’augmentation de la consommation d’électricité peuvent être réalité.

Le scénario de référence de l’AIE prévoit que la consommation mondiale d’électricité des centres de données passera d’environ 415 TWh en 2024 à environ 945 TWh en 2030. Il attribue cette croissance à l’IA ainsi qu’à d’autres services numériques, de sorte que le total ne devrait pas être requalifié uniquement en tant qu’IA.

Ce que les utilisateurs et les services peuvent changer

Au niveau du service, les principaux leviers sont le choix du modèle le plus petit, l'amélioration de l'utilisation, la limitation des appels d'outils inutiles, l'utilisation d'un matériel efficace et la localisation de postes de travail flexibles là où une électricité à faible émission de carbone est disponible. Au niveau de l'utilisateur, des invites concises, des limites de sortie raisonnables et l'utilisation d'un logiciel ordinaire lorsqu'il effectue le travail peuvent éviter des calculs inutiles.

Treechat achemine les questions quotidiennes vers un modèle plus petit et estime l'énergie de chaque réponse à partir de l'utilisation du modèle et des jetons. Le reçu comprend une allocation déclarée pour les frais généraux du centre de données ; cela reste une estimation car les prestataires n'exposent pas de compteur pour chaque réponse. Notre méthodologie énumère les hypothèses actuelles.

L’IA utilise de l’énergie pour des raisons physiques compréhensibles, et non parce que les invites sont mystérieusement converties en pollution. La réponse utile consiste à rendre visible le travail de calcul, à le réduire lorsque cela est possible et à réserver les systèmes plus gros aux travaux qui en ont réellement besoin.