Quanta elettricità consuma l’intelligenza artificiale?

Non esiste un totale globale affidabile per l’elettricità utilizzata dalla sola intelligenza artificiale. L’intelligenza artificiale viene eseguita all’interno dei data center insieme al cloud storage, ai video, ai software convenzionali e ad altri carichi di lavoro, e gli operatori raramente pubblicano dettagli sufficienti per separarli. La migliore risposta onesta quindi inizia al livello superiore.

L'Agenzia internazionale per l'energia stima che tutti i data center utilizzati siano circa 415 terawattora di elettricità nel 2024, circa l’1.5% del consumo globale di elettricità. Il suo scenario di base prevede circa 945 TWh nel 2030 e identifica l’intelligenza artificiale come il motore più importante dell’aumento, insieme alla crescita di altri servizi digitali. Quelli sono dati modellati sui data center, non una lettura dell’”elettricità AI”.

Per un normale messaggio di testo, le stime pubbliche recenti sono molto più piccole – generalmente una frazione di wattora – ma la scelta del modello, il contesto e la lunghezza dell’output possono cambiare sostanzialmente il risultato.

Perché manca il numero AI globale

Un contatore elettrico di un data center rileva server, reti, storage, raffreddamento e conversione di energia. Non etichetta ciascun elettrone come “inferenza AI”, “addestramento del modello” o “e-mail”. Un fornitore può allocare l’energia internamente, ma il reporting pubblico solitamente combina i servizi o riporta i totali a livello aziendale.

Anche la categoria dell’intelligenza artificiale è sfuggente. Un modello di raccomandazione, un modello meteorologico, un generatore di immagini e un chatbot che ragiona a lungo sono carichi di lavoro diversi. Alcuni condividono gli acceleratori con altri clienti. Altri utilizzano cluster dedicati. Un server può anche consumare energia mentre attende il lavoro, che deve essere allocata in qualche modo se l'obiettivo è una cifra per attività.

Questo è il motivo per cui un totale preciso dell’IA globale dovrebbe sollevare domande sui confini e sul metodo. Potrebbe trattarsi di uno scenario, di una stima della capacità o di un sottoinsieme di hardware piuttosto che di un consumo misurato direttamente.

La stima di 415 TWh dell’IEA fornisce una scala senza pretendere che ogni attività del data center sia basata sull’intelligenza artificiale. Mostra anche perché una piccola percentuale globale può coesistere con una forte pressione locale. Le grandi strutture si raggruppano in regioni particolari e si collegano a reti specifiche, quindi il loro effetto non è distribuito uniformemente in tutto il mondo.

Per gli Stati Uniti, Lawrence Berkeley National Laboratory Rapporto sull'energia dei data center 2024 modella l’uso storico e una serie di scenari fino al 2028. L’uso di un intervallo è importante: la domanda futura dipende dalle spedizioni degli acceleratori, dall’utilizzo, dai miglioramenti dell’efficienza e dalla rapidità con cui vengono completati i nuovi siti.

Allo stesso modo l’EPRI pubblica scenari piuttosto che un futuro certo. Suo Potenziare l'analisi dell'intelligence prevede un’ampia diffusione del consumo di elettricità nei data center statunitensi entro il 2030. Le previsioni differiscono perché i loro input e le date limite differiscono, non necessariamente perché una parte ha trovato un contatore nascosto.

Un messaggio non è un'unità fissa

A livello individuale, la domanda diventa più concreta ma necessita ancora di contesto. Un messaggio AI può essere una riscrittura di dieci parole o una richiesta che elabora un documento di grandi dimensioni, effettua una ricerca sul Web e produce diverse migliaia di parole. Ciascuno comporta una diversa quantità di calcoli.

Stime recenti discusse in quanta energia utilizza una query ChatGPT collocare un tipico scambio di testo intorno a una frazione di wattora. Input lunghi, ragionamenti estesi, chiamate multiple a strumenti e generazione di immagini o video possono essere molto più impegnativi. Il costo energetico cambia anche in base al modello, all'hardware, al batching e alle spese generali del data center.

Questa variazione è il motivo per cui moltiplicare una cifra popolare “per query” per tutto l’uso dell’intelligenza artificiale produce un totale fragile. Il presunto mix di messaggi può dominare la risposta.

Sia la formazione che l'inferenza contano

La formazione è il lavoro concentrato che crea o aggiorna sostanzialmente un modello. L'inferenza è il lavoro ripetuto eseguito quando le persone lo utilizzano. La formazione può consumare una grande quantità in un periodo limitato; l'inferenza inizia dopo e cresce con ogni richiesta.

Non è possibile rispondere a quale sia il più grande nel corso della vita di un modello senza sapere quanto spesso viene utilizzato il modello. Un servizio ampiamente distribuito può accumulare un'enorme domanda di inferenza. Un modello addestrato e poi utilizzato raramente può rimanere pesantemente addestrato. L’assegnazione dell’energia di addestramento per messaggio richiede anche di indovinare l’utilizzo nel corso della vita del modello.

La distinzione viene approfondita più avanti Addestramento dell'intelligenza artificiale rispetto alle emissioni di inferenza. Per la pianificazione dell'elettricità, entrambi i carichi di lavoro contribuiscono alla domanda della struttura. Per una ricezione per messaggio, l'inferenza operativa è solitamente il confine più difendibile perché si riferisce al lavoro appena richiesto.

L’efficienza non garantisce totali inferiori

Hardware e software possono fornire più lavoro di intelligenza artificiale per watt. Modelli più piccoli possono ridurre il calcolo, la quantizzazione può ridurre i requisiti di memoria e aritmetici e un utilizzo più elevato può distribuire il sovraccarico di un server su più richieste. L’AIE prevede uno scenario ad alta efficienza proprio perché questi cambiamenti potrebbero ridurre sostanzialmente la domanda futura rispetto al caso base.

Ma l’efficienza per attività e il consumo totale di elettricità sono questioni separate. Se l’intelligenza artificiale diventasse più economica e venisse inserita in più prodotti, il numero e la complessità delle attività potrebbero aumentare più velocemente di quanto diminuisse l’energia per attività. Le nuove funzionalità possono anche creare carichi di lavoro, come agenti persistenti o video generati, che prima non erano comuni.

Questa è la risposta centrale a perché l’intelligenza artificiale utilizza così tanta energia: il calcolo impegnativo sta diventando più efficiente e più ampiamente utilizzato.

Come leggere una richiesta di elettricità AI

Innanzitutto chiediti se il reclamo copre l’intelligenza artificiale, i server accelerati o tutti i data center. Quindi controlla se si tratta di consumo misurato, energia stimata o capacità prevista. Cercare l'anno, l'area geografica, le ipotesi di utilizzo e se sono inclusi il raffreddamento e la conversione dell'alimentazione. Infine, tenete separata l’elettricità dal carbonio: lo stesso wattora può avere emissioni diverse a seconda di dove e quando viene generato.

La ricezione dei messaggi di Treechat è deliberatamente più ristretta di una previsione globale. Stima l'energia operativa dal modello e dall'utilizzo dei token, aggiunge i costi dichiarati del data center e li converte utilizzando un'ipotesi di rete divulgata. Non è una lettura del misuratore di potenza o un'affermazione sull'intero ciclo di vita. Gli input e i limiti attuali sono sui nostri pagina della metodologia.

Quindi quanta elettricità consuma l’intelligenza artificiale? Abbastanza per essere un fattore trainante della crescita dei data center, ma non abbastanza perché le prove pubbliche supportino un totale esatto relativo alla sola intelligenza artificiale. Utilizza gli intervalli a livello di sistema per le domande della griglia e le stime a livello di attività per le scelte individuali e non confondere le due cose.