Quanta energia consuma a ChatGPT uso della query?

La risposta breve è che una normale query di testo probabilmente utilizza una frazione di wattora, ma non esiste un “universale”ChatGPT query". Una richiesta di fissare una frase e un compito di ricerca approfondita che legge dozzine di fonti sono lavori informatici diversi. Trattarli come intercambiabili rende qualsiasi figura dall'aspetto preciso meno utile di quanto sembri.

Ciò non significa che non sappiamo nulla. Nel 2025, OpenAI l'amministratore delegato Sam Altman ha scritto che è una media ChatGPT la query utilizza circa 0.34 wattora. Più o meno nello stesso periodo, ricercatori indipendenti di Epoch AI hanno stimato approssimativamente 0.3 wattora per un tipico GPT-4o domanda. L’accordo è degno di nota, ma non equivale a una misurazione pubblica sottoposta a revisione contabile indipendente. Altman non ha pubblicato il calcolo alla base della sua cifra, mentre Epoch ha dovuto fare ipotesi su modello, hardware, utilizzo e conteggio dei token.

Quindi 0.3–0.34 Wh è un punto di riferimento utile per un normale scambio di testo del tipo descritto da tali stime. Non è una lettura del contatore per il tuo particolare prompt e non dovrebbe essere estesa per coprire ogni modalità o modello.

Perché una query può essere molto diversa da un'altra

Una risposta AI viene generata token per token. In generale, più input da elaborare e più output da generare significano più lavoro. Una breve risposta concreta potrebbe finire rapidamente. Una lunga conversazione porta avanti il ​​contesto precedente. Il caricamento di un documento consistente aggiunge un costo di elaborazione iniziale. Un modello di ragionamento può generare token funzionanti nascosti prima di mostrare una risposta. Gli strumenti di ricerca, generazione di immagini e agenti possono richiamare diversi sistemi anziché uno solo.

Gli esempi concreti di Epoch rendono chiara la portata di questa variazione. Il suo modello inserisce una query con un input di 10,000 token a circa 2.5 Wh e uno con un input di 100,000 token vicino a 40 Wh, secondo i presupposti dichiarati. Queste non sono stime per la chat media. Mostrano perché la parola “query” è di per sé troppo grossolana.

Anche il modello conta. Un modello più piccolo generalmente esegue meno calcoli per token generato rispetto a uno più grande, sebbene architettura, quantizzazione, ottimizzazione hardware e software complichino il confronto. I modelli misti di esperti attivano solo una parte del conteggio totale dei parametri per ciascun token. I moderni acceleratori possono svolgere più lavoro per unità di elettricità rispetto all’hardware più vecchio. Un batch efficiente consente a un server di gestire più utenti insieme, ma un server vuoto o poco utilizzato potrebbe essere meno efficiente per risposta.

Poi c'è il data center attorno ai chip. Anche il raffreddamento, il collegamento in rete e la conversione di potenza consumano elettricità. I ricercatori comunemente tengono conto di questo sovraccarico con un fattore di efficacia del consumo energetico. Il risultato dipende anche da dove e quando viene generata l’elettricità: un wattora ha la stessa energia ovunque, ma le sue emissioni associate variano a seconda del mix di rete.

Cosa viene effettivamente conteggiato?

La maggior parte dei dati per query descrivono l'elettricità operativa per deduzione: l'energia utilizzata mentre il servizio produce una risposta, più una certa tolleranza per le spese generali del data center. Potrebbero non includere il telefono o il laptop dell'utente, la trasmissione di rete, l'archiviazione, l'addestramento del modello, la produzione di chip ed edifici o l'infrastruttura tenuta pronta tra una richiesta e l'altra.

Non esiste un unico limite corretto per ogni domanda. Se stai confrontando due opzioni di inferenza, l'energia operativa per risposta è utile. Se si sta preparando un inventario del carbonio a livello aziendale, potrebbe essere più appropriato un confine del ciclo di vita più ampio. I problemi iniziano quando una stima ristretta viene presentata come l’intero costo ambientale, o quando una stima ampia viene confrontata con una stima ristretta.

La formazione merita una trattazione a parte. Si tratta di un lavoro vasto e occasionale il cui impatto può essere ripartito tra un numero imprecisato di usi futuri. Dividilo per più messaggi e la sua quota per messaggio si ridurrà; includere un modello che viene rapidamente sostituito e si alza. Un'allocazione può aiutare con la contabilità, ma non è l'elettricità prelevata nel momento in cui si preme invio.

La stessa cautela vale per l’acqua e il carbonio. L’utilizzo dell’acqua dipende dalla tecnologia di raffreddamento e dalla catena di fornitura elettrica. Il carbonio dipende dalla posizione, dai tempi e dal fatto che la contabilità utilizzi il mix di rete fisica o gli acquisti contrattuali di energia rinnovabile. Convertire Wh in grammi di carbonio senza dichiarare tali scelte nasconde importanti incertezze.

Come viaggiava la vecchia figura da 3 Wh

Per diversi anni, gli articoli spesso dicevano a ChatGPT richiesta utilizzata circa 3 Wh, a volte abbinata all'affermazione che era dieci volte a Google ricerca. La cifra deriva da una stima iniziale utilizzando il vecchio hardware A100, a GPT-3.5-scale modello e presunti 2,000 token di output. Epoch AI spiega perché considera tali presupposti non rappresentativi dell'uso tipico moderno al suo interno metodologia e confronto.

Aggiornare un preventivo quando cambiano hardware e servizi è una buona pratica. Ciò non dimostra che l’uso energetico dell’IA sia irrilevante. Significa che un numero popolare per query è invecchiato male.

Il confronto con la ricerca sul web è incerto anche per un altro motivo: da dove proviene la cifra di ricerca comunemente citata Google nel 2009. La ricerca ora coinvolge infrastrutture diverse e talvolta include riepiloghi generati. Mettere una stima recente dell'intelligenza artificiale accanto a una vecchia stima di ricerca crea un rapporto apparentemente semplice da misurazioni diverse.

Come i numeri vengono utilizzati in modo improprio in entrambe le direzioni

Un uso improprio è quello di prendere una stima di fascia alta o obsoleta, moltiplicarla per un numero enorme di richieste immaginarie e presentare il risultato come un totale misurato. Ciò può esagerare l’uso normale del testo e distrarre dai carichi di lavoro che in realtà sono più intensivi.

L'abuso opposto inizia con una media bassa e conclude che non c'è nulla da considerare. Una piccola quantità moltiplicata per un utilizzo ampio e crescente costituisce ancora la domanda del sistema. IL Il lavoro dell’Agenzia internazionale per l’energia su energia e intelligenza artificiale esamina la domanda dei data center a quel livello di sistema. L'efficienza per query e la crescita dell'energia elettrica totale possono essere entrambe vere quando l'utilizzo si espande e nuove attività richiedono più elaborazione.

Un altro errore è la falsa precisione. “0.34 Wh” sembra misurato con due cifre decimali, ma la dichiarazione pubblica descrive una media su un mix di richieste non divulgato. È più onesto conservare il contesto e l’incertezza piuttosto che trasformarli in una costante universale.

Come Treechat stima un messaggio

Treechat non è possibile leggere un misuratore di potenza allegato a ogni risposta. I fornitori non espongono tale misurazione. Stimiamo invece ed etichettiamo il risultato come stima.

Il nostro calcolo inizia con il modello utilizzato e i token elaborati e generati. Applica una metodologia energetica basata su un modello pubblico, aggiunge le spese generali del data center e converte l’elettricità in emissioni stimate utilizzando l’intensità media di carbonio della rete. Le ipotesi e le costanti attuali sono riportate sul ns pagina della metodologia.

Indirizziamo le richieste quotidiane a un modello più piccolo per impostazione predefinita perché la scelta del modello è una leva che possiamo effettivamente utilizzare. Mostriamo anche una ricevuta stimata sulla risposta anziché dichiarare una misurazione esatta. Laddove le prove sono incomplete, ci rivolgiamo contro noi stessi. Preferiamo sottostimare un risparmio piuttosto che fare una promessa precisa che i dati sottostanti non possono supportare.

La risposta più difendibile, quindi, non è “a ChatGPT query utilizza esattamente X". E cioè: le normali query di testo sembrano costare circa una frazione di wattora secondo le recenti stime pubbliche, mentre un lungo contesto, un ragionamento e un lavoro pesante con strumenti possono utilizzarne molto di più. Chiedi quale modello, quanti token, quale hardware e quale limite. Senza questi dettagli, il numero è un indicatore, non un dato di fatto su ogni query.