Treechat
Meny
Prova gratis
Alla anteckningar

Hur mycket energi tar a ChatGPT fråga användning?

Det ärliga svaret är ett intervall, inte ett enda nummer. Här är vad som är offentligt, vad som uppskattas och vad som utelämnas.

Av Treechat6 min läsning
Ett enda promptband passerar genom en processor och en fysisk energimätare.

Det korta svaret är att en normal textfråga förmodligen använder en bråkdel av en wattimme, men det finns ingen universell "ChatGPT fråga”. En begäran om att fixa en mening och en djupgående forskningsuppgift som läser dussintals källor är olika datorjobb. Att behandla dem som utbytbara gör vilken figur som helst som ser exakt ut mindre användbar än den verkar.

Det betyder inte att vi inte vet någonting. År 2025, OpenAI vd Sam Altman skrev att ett genomsnitt ChatGPT fråga använder om 0.34 wattimmar. Ungefär samtidigt uppskattade oberoende forskare vid Epoch AI ungefär 0.3 wattimmar för en typisk GPT-4o fråga. Avtalet är anmärkningsvärt, men det är inte detsamma som en offentlig, oberoende granskad mätning. Altman publicerade inte beräkningen bakom sin figur, medan Epoch var tvungen att göra antaganden om modellen, hårdvaran, användningen och antalet token.

Så 0.3–0.34 Wh är en användbar referenspunkt för ett vanligt textutbyte av det slag som uppskattningarna beskriver. Det är inte en mätarställning för just din prompt, och den bör inte sträckas ut för att täcka alla lägen eller modeller.

Varför en fråga kan skilja sig mycket från en annan

Ett AI-svar genereras token för token. I stort sett betyder mer input till processen och mer output att generera mer arbete. Ett kort sakligt svar kan avslutas snabbt. Ett långt samtal för tidigare sammanhang vidare. Att ladda upp ett omfattande dokument tillför en förhandsbehandlingskostnad. En resonemangsmodell kan generera dolda arbetstokens innan den visar ett svar. Sök-, bildgenererings- och agentverktyg kan anropa flera system snarare än ett.

Epochs utförda exempel gör storleken på denna variation tydlig. Dess modell ställde en fråga med en 10,000-tokeninmatning vid ca 2.5 Wh och en med en 100,000-token ingång nära 40 Wh, under dess angivna antaganden. Det är inte uppskattningar för den genomsnittliga chatten. De visar varför ordet "fråga" är för grovt i sig.

Modellen spelar också roll. En mindre modell utför i allmänhet färre beräkningar per genererad token än en stor, även om arkitektur, kvantisering, hårdvaru- och mjukvaruoptimering komplicerar jämförelsen. Blandning av expertmodeller aktiverar endast en del av deras totala parameterantal för varje token. Moderna acceleratorer kan göra mer arbete per enhet el än äldre hårdvara. Effektiv batchning låter en server hantera flera användare tillsammans, men en tom eller lätt använd server kan vara mindre effektiv per svar.

Sedan finns det datacentret runt chipsen. Kyla, nätverk och energiomvandling förbrukar också elektricitet. Forskare står vanligtvis för den omkostnaden med en effektivitetsfaktor för energianvändning. Resultatet beror också på var och när elen genereras: en wattimme har samma energi överallt, men dess tillhörande utsläpp varierar med nätmixen.

Vad är det egentligen som räknas?

De flesta siffror per förfrågan beskriver driftel för slutledning: energin som används medan tjänsten ger ett svar, plus viss ersättning för datacenterkostnader. De får inte inkludera användarens telefon eller bärbara dator, nätverksöverföring, lagring, modellutbildning, tillverkning av chips och byggnader eller infrastrukturen som hålls redo mellan förfrågningar.

Det finns ingen korrekt gräns för varje fråga. Om du jämför två slutledningsalternativ är driftenergi per svar användbar. Om du förbereder en företagsomfattande koldioxidinventering kan en bredare livscykelgräns vara lämpligare. Problem börjar när en snäv uppskattning presenteras som hela miljökostnaden – eller när en bred uppskattning jämförs med en smal.

Träning förtjänar separat behandling. Det är ett stort, tillfälligt arbete vars inverkan kan fördelas på ett okänt antal framtida användningar. Dela det med fler meddelanden och dess andel per meddelande krymper; inkluderar en modell som snabbt byts ut och den stiger. En avsättning kan hjälpa till med bokföringen, men det är inte el som dras i det ögonblick du trycker på skicka.

Samma försiktighet gäller för vatten och kol. Vattenanvändningen beror på kylteknik och elförsörjningskedjan. Koldioxid beror på plats, tidpunkt och om redovisningen använder den fysiska nätmixen eller avtalsenliga inköp av förnybar energi. Att omvandla Wh till gram kol utan att ange dessa val döljer viktig osäkerhet.

Hur den gamla 3 Wh-figuren reste

Under flera år sa artiklar ofta a ChatGPT begäran används om 3 Wh, ibland parat med påståendet att detta var tio gånger a Google söka. Siffran kom från en tidig uppskattning med hjälp av äldre A100-hårdvara, en GPT-3.5-scale modell och en antagen 2,000 mata ut tokens. Epoch AI förklarar varför den anser att dessa antaganden inte är representativa för typisk modern användning i sin metodik och jämförelse.

Att uppdatera en uppskattning när hårdvara och tjänster ändras är god praxis. Det bevisar inte att AI energianvändning är irrelevant. Det betyder att ett populärt nummer per fråga har åldrats dåligt.

Jämförelsen med webbsökning är skakig av en annan anledning: den ofta citerade söksiffran kom från Google 2009. Sök involverar nu annan infrastruktur och inkluderar ibland genererade sammanfattningar. Att sätta en ny AI-uppskattning bredvid en gammal sökuppskattning skapar ett till synes enkelt förhållande från olika mätningar.

Hur siffror missbrukas i båda riktningarna

Ett missbruk är att ta en avancerad eller föråldrad uppskattning, multiplicera den med ett stort antal tänkta förfrågningar och presentera resultatet som en uppmätt summa. Det kan överdriva vanlig textanvändning och distrahera från arbetsbelastningen som verkligen är mer intensiv.

Det motsatta missbruket börjar med ett lågt genomsnitt och drar slutsatsen att det inte finns något att ta hänsyn till. En liten mängd multiplicerat med stor och växande användning är fortfarande systemefterfrågan. Den International Energy Agencys arbete med energi och AI tittar på efterfrågan på datacenter på den systemnivån. Effektivitet per fråga och total eltillväxt kan båda vara sant när användningen ökar och nya uppgifter kräver mer beräkning.

Ett annat misstag är falsk precision. "0.34 Wh" låter mätt med två decimaler, men det offentliga uttalandet beskriver ett genomsnitt över en okänd blandning av förfrågningar. Det är ärligare att behålla sammanhanget och osäkerheten än att göra det till en universell konstant.

Hur Treechat uppskattar ett meddelande

Treechat kan inte läsa en effektmätare kopplad till varje svar. Leverantörer exponerar inte den mätningen. Vi uppskattar istället och betecknar resultatet som en uppskattning.

Vår beräkning börjar med modellen som används och de tokens som bearbetas och genereras. Den tillämpar en offentlig modellbaserad energimetod, lägger till datacenterkostnader och omvandlar elektricitet till beräknade utsläpp med hjälp av en genomsnittlig kolintensitet i nätet. Antagandena och strömkonstanter anges på vår metodsida.

Vi skickar vardagliga förfrågningar till en mindre modell som standard eftersom modellvalet är en spak som vi faktiskt kan dra. Vi visar också ett beräknat kvitto på svaret istället för att göra anspråk på en exakt mätning. Där bevisen är ofullständiga rundar vi mot oss själva. Vi vill hellre underkräva en besparing än att ge ett snyggt löfte som underliggande data inte kan stödja.

Det mest försvarbara svaret är alltså inte "a ChatGPT fråga använder exakt X”. Det är: vanliga textfrågor verkar ligga på en bråkdel av en wattimme enligt de senaste offentliga uppskattningarna, medan långa sammanhang, resonemang och verktygstungt arbete kan använda mycket mer. Fråga vilken modell, hur många tokens, vilken hårdvara och vilken gräns. Utan dessa detaljer är siffran en vägvisare, inte ett faktum för varje fråga.