Dire grazie all’IA costa energia?

SÌ. Se invii "grazie" come nuovo messaggio AI, il servizio elabora la conversazione e genera un'altra risposta, quindi utilizza un po' di elettricità aggiuntiva. Per un normale scambio di brevi messaggi, le migliori stime pubbliche suggeriscono che il costo è probabilmente una frazione di wattora, anche se non esiste una cifra universale applicabile a ogni modello e servizio.

Questa è vera energia, ma non è un motivo utile per sentirsi in colpa per la cortesia di base. Risultati lunghi, finestre di contesto enormi, generazioni ripetute, creazione di immagini e video, agenti con molti strumenti e la scelta di instradare ogni attività su un modello di grandi dimensioni possono fare differenze molto maggiori. Se dire grazie rende l’interazione naturale, la risposta responsabile è la prospettiva, non una campagna contro due parole educate.

Cosa succede dopo aver premuto Invia

L’intelligenza artificiale non sperimenta gratitudine, ma il sistema informatico tratta comunque il “grazie” come una richiesta. Impacchetta il nuovo testo con le istruzioni di sistema e una cronologia delle conversazioni, invia l'input a un modello e genera una risposta come "Prego".

I modelli linguistici producono quella risposta token per token. L'output breve aiuta a mantenere il lavoro piccolo, ma l'input può includere più della frase visibile. In una lunga conversazione, il servizio può elaborare nuovamente un contesto considerevole. I provider possono memorizzare nella cache parti di un prompt ripetuto, sebbene l'effetto energetico dipenda dall'implementazione.

Quindi il costo marginale non è semplicemente l’elettricità per due parole di input. È il costo di un'altra inferenza su qualunque contesto il sistema effettivamente fornisca.

Quanta energia è?

OpenAI l'amministratore delegato Sam Altman ha affermato una media ChatGPT la query utilizza circa 0.34 wattora. Epoca AI stimata in modo indipendente intorno 0.3 Wh per un tipico GPT-4o domanda, in base ai suoi presupposti su token, hardware e utilizzo.

Un breve ringraziamento e una breve risposta potrebbero essere inferiori a un'ampia media del servizio, ma non esistono misurazioni pubbliche sufficienti per assegnargli un numero affidabile. Il modello potrebbe essere più piccolo o più grande; la conversazione potrebbe essere breve o enorme; il data center potrebbe essere ben utilizzato o meno.

La nostra spiegazione di il costo energetico di un messaggio AI mostra perché un tipo di richiesta è più utile della sola parola "messaggio".

La cortesia non è la grande leva

La discussione ambientale può stranamente concentrarsi sull’etichetta individuale perché è visibile e facile da moralizzare. L’infrastruttura e la progettazione del prodotto sono meno visibili ma più consequenziali: quale modello viene selezionato, quanto dura, con quanta efficienza viene servito e se con un clic si avvia una catena di chiamate.

Quello dell’Agenzia Internazionale per l’Energia Rapporto su energia e intelligenza artificiale prevede una forte crescita del consumo di elettricità nei data center, trainata soprattutto dall’intelligenza artificiale e da altri servizi digitali. Questo problema a livello di sistema non verrà risolto costringendo gli utenti a interrompere bruscamente le conversazioni.

I servizi possono fare una grande differenza affidando il lavoro di routine a piccoli modelli capaci, limitando i tentativi inutili e dando alle persone un controllo ragionevole sui risultati e sugli strumenti.

Le persone utilizzano le interfacce conversazionali sia socialmente che strumentalmente. La cortesia può mantenere l'abitudine alla scrittura, aiutare i bambini a praticare una comunicazione rispettosa o semplicemente rendere il software meno sgradevole da usare. Un follow-up educato può anche chiarire che l'attività è terminata, il che può avere importanza in un flusso di lavoro in più fasi.

Non c’è bisogno di fingere che questi benefici facciano sparire l’elettricità. Il punto è la proporzionalità. Dedichiamo abitualmente piccole quantità di energia al feedback dell'interfaccia perché aiuta le persone a comprendere e ad avere fiducia in un sistema. L’obiettivo ambientale non è l’assenza di interazione digitale; è un lavoro utile fornito con un impatto meno evitabile.

Questa distinzione è importante anche nei dibattiti su quanta elettricità utilizza l’IA: i messaggi personali e la domanda complessiva di infrastrutture sono correlati, ma non sono la stessa questione politica.

Modi migliori per ridurre il lavoro non necessario dell’intelligenza artificiale

Se vuoi ridurre l'energia senza controllare le buone maniere, combina le istruzioni correlate in un unico messaggio chiaro. Richiedi la lunghezza di output di cui hai effettivamente bisogno. Fermare una generazione che evidentemente sta andando nella direzione sbagliata. Usa la ricerca, una calcolatrice o un normale software quando la generazione non aggiunge nulla. Scegli un modello più piccolo per un lavoro semplice.

Evita di incollare un intero documento quando una sezione è pertinente e avvia una nuova conversazione quando il vecchio contesto non è più d'aiuto. Per lavori complessi, la pianificazione della richiesta può evitare diverse generazioni fallite. Nessuno di questi deve diventare un test di purezza; sono semplicemente modi per allineare il calcolo con il valore.

Lo stesso principio spiega perché i modelli di intelligenza artificiale più piccoli spesso utilizzano meno energia: ridurre il lavoro conta di più quando il risultato soddisfa ancora il bisogno.

Che ne dici di milioni di ringraziamenti?

Qualsiasi piccola azione può diventare materiale su larga scala. Ma moltiplicare una media incerta per messaggio per un conteggio globale immaginario non crea una statistica misurata. Non disponiamo di dati pubblici su quanti messaggi siano di pura cortesia, quali modelli rispondano o quanto contesto portino.

Gli effetti aggregati sono un motivo per cui i fornitori ottimizzano i brevi riconoscimenti, magari con modelli più piccoli, risposte memorizzate nella cache o comportamento dell'interfaccia locale. Non costituiscono una solida base per svergognare un singolo utente. La progettazione di un servizio ampiamente distribuito controlla il costo predefinito in ogni interazione.

È più utile chiedersi se il sistema utilizza un percorso di risposta di dimensioni adeguate piuttosto che se una persona è stata troppo educata.

Come Treechat tratta il messaggio extra

Treechat conta un ringraziamento inviato come qualsiasi altro scambio di assistenti e mostra sulla risposta una ricevuta di impatto stimata. La stima utilizza i conteggi di modelli e token, aggiunge un sovraccarico dichiarato del data center e applica un'ipotesi di rete pubblicata. Non è una misurazione diretta. Il calcolo e i suoi limiti sono disponibili all'indirizzo /methodology.

Se vuoi dire grazie, dillo. Costa un po’ di energia perché si verifica un’altra inferenza. Quindi tieni in considerazione la scala: scegliere modelli proporzionati ed evitare un lavoro ad alto calcolo veramente inutile sono leve migliori che privare il normale calore umano di una conversazione.