Hur du minskar ditt AI-koldioxidavtryck

För att minska ditt AI-koldioxidavtryck, undvik först AI där ett enklare verktyg fungerar, välj sedan den minsta modellen som kan utföra uppgiften på ett tillförlitligt sätt. Håll uppmaningar och kontextfokuserade, begär bara den utdata du behöver och undvik upprepade generationer. För regelbunden eller organisatorisk användning, gynna tjänster som avslöjar energimetoder, använder effektiv hårdvara och erhåller elektricitet med lägre koldioxidutsläpp på ett trovärdigt sätt.

Den ordningen spelar roll. Att köpa en offset eller finansiera ett träd kan stödja klimatarbetet, men det tar inte bort elektriciteten, vattnet eller hårdvaran som används av den ursprungliga beräkningen. Direkt minskning kommer först. Det finns ingen tillförlitlig universell koldioxidsiffra per prompt, så koncentrera dig på val som minskar det underliggande arbetet och be leverantörerna att visa sina gränser.

Börja med uppgiften, inte modellen

Det lägsta beräkningsalternativet är ofta en sökning, kalkylator, databasfråga, mall eller vanlig mjukvara. Generativ AI är användbar när uppgiften verkligen behöver tolkning, utformning eller syntes; det är slösaktigt när det bara återskapar ett resultat du redan har.

Innan du öppnar en chatt, definiera resultatet. Behöver du en sammanfattning på två meningar, en kontrollerad beräkning eller en slipad rapport? En tydlig slutpunkt förhindrar utforskande uppmaningar från att förvandlas till dussintals engångsversioner. Återanvänd ett bra svar istället för att återskapa det för mindre formuleringsändringar.

Om utforskning är syftet, sätt en gräns i förväg: en tidsgräns, ett antal alternativ eller ett beslut som sessionen måste ta fram.

Detta är inte ett argument för att undvika värdefullt AI-arbete. Det är ett proportionalitetstest. Unescos Rekommendation om etik för artificiell intelligens ber AI-aktörer att gynna data-, energi- och resurseffektiva metoder och att bedöma miljöeffekter över hela livscykeln. Använd tillräckligt med beräkning för att lösa det verkliga problemet, inte det maximala som är tillgängligt som standard.

Välj den minsta modellen som lyckas

Mindre modeller utför i allmänhet färre operationer och flyttar mindre data för varje genererad token. För rutinmässig omskrivning, klassificering, extraktion och enkla frågor kan det minska energin avsevärt. Vår förklaring av små språkmodeller täcker var den fördelen kommer ifrån.

"Minst" är inte detsamma som "liten till varje pris". Om en svag modell ger fel och du kör om uppgiften fem gånger kan det vara mindre effektivt än ett framgångsrikt svar från en starkare modell. Börja smått, kontrollera resultatet och flytta uppåt först när uppgiften visar att den behöver mer kapacitet.

Specialiserade modeller kan också vara bättre än allmänna chatsystem. I en publicerad jämförelse fann forskare det uppgiftsspecifika system förbrukade mindre energi än generella generativa modeller för de uppgifter de utvärderade. Dessa benchmarkresultat är inte en universell produktrankning, men de stöder en praktisk princip: matcha förmåga att fungera.

När en tjänst erbjuder flera modellval, gör det lättare alternativet till din rutinmässiga standard istället för att kräva ett nytt miljöbeslut för varje uppmaning.

Minska tokens och dolt extraarbete

Långa in- och utgångar kräver mer beräkning. Ta bort irrelevant konversationshistorik, bifoga bara de sidor som är viktiga och fråga efter längden du faktiskt kommer att läsa. "Ge mig fem alternativ" är vanligtvis billigare än att be om femtio och kassera fyrtiofem.

En kortfattad uppmaning är användbar när den förhindrar tvetydighet, men korthet ensam är inte målet. En underspecificerad begäran kan orsaka korrigeringar och omförsök. Inkludera nödvändiga fakta en gång, sätt ett tydligt format och sluta när svaret är tillräckligt bra.

Var uppmärksam på lägen som utökar en synlig begäran till flera backend-jobb. Webbforskning, agenter, bildgenerering, video och upprepad självkontroll kan kalla flera modeller eller verktyg. Använd dem när deras mervärde motiverar arbetet. Att förvandla varje vanlig fråga till djupgående forskning är den beräkningsmässiga motsvarigheten till att ta en lastbil för att samla ett kuvert.

Uppladdningar förtjänar samma disciplin. Att beskära en bild eller välja relevanta dokumentsidor kan undvika att bearbeta material som inte har någon betydelse för svaret.

Förbättra systemet, inte bara enskilda uppmaningar

Organisationer har starkare hävstång än enskilda användare. Mät förfrågningar efter modell, uppgift, tokenvolym och framgångsfrekvens. Cachelagra upprepade resultat, batch lämpliga jobb, ta bort dubbletter av anrop och ställ in vettiga utdatagränser. Rikta enkelt arbete till mindre modeller och reservera mer kapabla system för undantag.

Användningen är viktig eftersom förberedd hårdvara kan dra ström i väntan. Effektiv batchning och autoskalning kan sprida stödenergi över mer användbart arbete. Hårdvaruval, numerisk precision, kvantisering och modellarkitektur påverkar också elbehovet per resultat. Blandning av expertmodeller, till exempel, aktivera bara en del av sina parametrar för en token, även om minnes- och nätverkskostnader kvarstår.

Spåra kvalitet vid sidan av energi. En lågenergimodell som inte klarar en säkerhetskontroll eller ger oanvändbar effekt är inte en hållbar förbättring. Använd en stabil utvärderingsuppsättning och jämför kompletta uppgifter, inklusive återförsök, verktygsanrop och mänsklig korrigering.

Sätt budgetar såväl som medelvärden. En maximal tokentillåtelse, gräns för verktygsanrop och månatlig volymvarning kan fånga upp avfall som en bra effektivitetssiffra per begäran döljer.

Föredrar renare el utan att förvirra påståendet

När beräkningen väl har minskat, var och när den körs påverkar det operativa kolet. Samma kilowattimme kan förknippas med väldigt olika utsläpp på olika nät. Flexibel utbildning och gruppslutsatser kan flyttas till regioner eller timmar med mer koldioxidsnål el.

Leverantörsanspråk kräver vård. Internationella energibyrån noterar att matchning av årsförbrukning med förnyelsebara inköp inte innebär att ett datacenter använde förnybar energi varje timme. dess översikt över datacenter skiljer årlig avtalsmatchning från den fysiska leveransen.

Leta efter platsmedveten eller timinformation, ny ren generation och en tydlig beskrivning av kvarvarande elkraft. Vår guide till datacenter för förnybar energi för AI förklarar dessa skillnader. Ren upphandling kan sänka utsläppen; det raderar inte spåntillverkning, konstruktion eller vattenanvändning.

För flexibel organisatorisk arbetsbelastning kan schemaläggning också ha betydelse. Utbildning, indexering och batchanalys kan flyttas bort från perioder med höga koldioxidutsläpp, medan interaktiva förfrågningar vanligtvis har mindre frihet att vänta. Koldioxidmedveten timing bör aldrig äventyra säkerhet, tjänsteskyldigheter eller regler för datauppehållstillstånd.

Mät en definierad enhet och publicera gränserna

Ett användbart fotavtryck har en gräns och en nämnare: per utförd uppgift, per tusen förfrågningar eller per kund, till exempel. Inkludera driftel, den använda kolintensiteten och hårdvarutilldelningen där så är möjligt. Ange om siffror är uppmätta, modellerade eller uppskattade.

Green Software Foundations Mjukvaruspecifikation för kolintensitet kombinerar driftsenergi, platsspecifik kolintensitet och inbyggda hårdvaruutsläpp per funktionell enhet. Det håller också offset utanför poängen. Det är en sund disciplin även när fullständig leverantörsdata inte är tillgänglig: mät konsekvent, avslöja luckor och förbättra det fysiska systemet.

Treechat tillämpar samma hierarki i en smalare konsumentmiljö. Den dirigerar vardagliga frågor till mindre modeller och uppskattar energi från modell- och tokenanvändning. Kvittot inkluderar angivna datacenter- och nätantaganden; det är inte en mätarställning eller ett fotavtryck under hela livscykeln. Den nuvarande metoden publiceras på /methodology.

Att minska ditt AI-koldioxidavtryck handlar därför mindre om perfekt personlig aritmetik än upprepade, försvarbara val: använd AI medvetet, anpassa modellen i rätt storlek, begränsa arbetet, föredra trovärdig infrastruktur med lägre koldioxidutsläpp och behandla alla klimatbidrag som separata från de utsläpp du fortfarande skapar. Det är den praktiska kärnan i grön AI.