Cum să vă reduceți amprenta de carbon AI

Pentru a vă reduce amprenta de carbon AI, evitați mai întâi AI acolo unde va fi un instrument mai simplu, apoi alegeți cel mai mic model care poate finaliza sarcina în mod fiabil. Păstrați solicitările și contextul concentrat, solicitați numai rezultatul de care aveți nevoie și evitați generațiile repetate. Pentru uz obișnuit sau organizațional, favorizați serviciile care dezvăluie metode energetice, utilizează hardware eficient și obține energie electrică cu emisii reduse de carbon într-un mod credibil.

Acea ordine contează. Cumpărarea unei compensații sau finanțarea unui copac poate sprijini lucrările climatice, dar nu elimină electricitatea, apa sau hardware-ul utilizat de calculul inițial. Reducerea directă este pe primul loc. Nu există o cifră universală de încredere a carbonului pentru fiecare prompt, așa că concentrați-vă asupra opțiunilor care reduc activitatea de bază și cereți furnizorilor să-și arate limitele.

Începeți cu sarcina, nu cu modelul

Opțiunea de calcul cu cel mai mic nivel este adesea o căutare, un calculator, o interogare de bază de date, un șablon sau o bucată de software obișnuită. IA generativă este utilă atunci când sarcina are nevoie cu adevărat de interpretare, redactare sau sinteză; este risipitor atunci când doar recreează un rezultat pe care îl aveți deja.

Înainte de a deschide un chat, definiți rezultatul. Aveți nevoie de un rezumat din două propoziții, un calcul verificat sau un raport șlefuit? Un punct final clar împiedică solicitările exploratorii să se transforme în zeci de versiuni de unică folosință. Reutilizați un răspuns bun în loc să îl regenerați pentru modificări minore de formulare.

Dacă scopul este explorarea, stabiliți o limită în avans: o limită de timp, un număr de alternative sau o decizie pe care trebuie să o producă sesiunea.

Acesta nu este un argument pentru evitarea muncii valoroase de AI. Este un test de proporționalitate. ale UNESCO Recomandare privind Etica Inteligenței Artificiale solicită actorilor AI să favorizeze metode eficiente din punct de vedere al datelor, al energiei și al resurselor și să evalueze efectele asupra mediului pe parcursul ciclului de viață. Utilizați suficient calcul pentru a rezolva problema reală, nu maximul disponibil în mod implicit.

Alege cel mai mic model care reuseste

Modelele mai mici efectuează, în general, mai puține operațiuni și mută mai puține date pentru fiecare token generat. Pentru rescrierea de rutină, clasificarea, extragerea și întrebările simple, care pot reduce energia substanțial. Explicația noastră despre modele de limbaj mici acoperă de unde provine acel avantaj.

„Cel mai mic” nu este același lucru cu „mic cu orice preț”. Dacă un model slab produce erori și executați din nou sarcina de cinci ori, poate fi mai puțin eficient decât un răspuns de succes dintr-un model mai puternic. Începeți puțin, verificați rezultatul și treceți în sus numai atunci când sarcina demonstrează că are nevoie de mai multe capacități.

Modelele specializate pot fi mai bune decât sistemele de chat de uz general. Într-o comparație publicată, cercetătorii au descoperit că sistemele specifice sarcinii consumau mai puțină energie decât modelele generative de uz general pentru sarcinile pe care le-au evaluat. Aceste rezultate de referință nu sunt o clasare universală a produselor, dar susțin un principiu practic: potriviți capacitatea de a funcționa.

Atunci când un serviciu oferă mai multe opțiuni de model, alegeți ca opțiunea mai ușoară să vă fie implicită de rutină, mai degrabă decât să solicitați o nouă decizie de mediu pentru fiecare solicitare.

Reduceți jetoanele și munca suplimentară ascunsă

Intrările și ieșirile lungi necesită mai multe calcule. Eliminați istoricul conversațiilor irelevante, atașați doar paginile care contează și cereți lungimea pe care o veți citi efectiv. „Dă-mi cinci opțiuni” este de obicei mai ieftin decât să ceri cincizeci și să renunți la patruzeci și cinci.

Un prompt concis este util atunci când previne ambiguitatea, dar concizia nu este scopul. O solicitare subspecificată poate provoca corecții și reîncercări. Includeți faptele necesare o dată, setați un format clar și opriți-vă când răspunsul este suficient de bun.

Acordați atenție modurilor care extind o solicitare vizibilă în mai multe joburi backend. Cercetarea web, agenții, generarea de imagini, video și autoverificarea repetată pot apela mai multe modele sau instrumente. Folosiți-le atunci când valoarea lor suplimentară justifică munca. Transformarea fiecărei întrebări obișnuite într-o cercetare profundă este echivalentul computațional al luării unui camion pentru a colecta un plic.

Încărcările merită aceeași disciplină. Decuparea unei imagini sau selectarea paginilor relevante ale documentului poate evita procesarea materialului care nu are nicio legătură cu răspunsul.

Îmbunătățiți sistemul, nu doar solicitările individuale

Organizațiile au pârghii mai puternice decât utilizatorii individuali. Măsurați cererile în funcție de model, sarcină, volum de simboluri și rata de succes. Memorați în cache rezultatele repetate, grupați lucrări adecvate, eliminați apelurile duplicate și setați limite sensibile de ieșire. Direcționați munca simplă către modele mai mici și rezervați sisteme mai capabile pentru excepții.

Utilizarea contează deoarece hardware-ul furnizat poate consuma energie în timp ce așteptați. Locurile eficiente și scalarea automată pot răspândi energia de sprijin în lucrări mai utile. Alegerea hardware-ului, precizia numerică, cuantizarea și arhitectura modelului afectează, de asemenea, energia electrică necesară per rezultat. Modele mixte de experți, de exemplu, activează doar o parte din parametrii lor pentru un token, deși rămân costurile de memorie și de rețea.

Urmăriți calitatea pe lângă energie. Un model cu consum mai scăzut de energie care eșuează un control de siguranță sau produce rezultate inutilizabile nu este o îmbunătățire durabilă. Utilizați un set de evaluare stabil și comparați sarcini complete, inclusiv reîncercări, apeluri de instrumente și corecție umană.

Stabiliți bugete, precum și medii. O alocație maximă de token, o limită de apeluri de instrumente și o alertă lunară de volum pot prinde risipa pe care o ascunde o cifră bună de eficiență pe cerere.

Preferă energie electrică mai curată, fără a încurca afirmația

Odată ce calculul este redus, unde și când rulează afectează carbonul operațional. Același kilowatt-oră poate fi asociat cu emisii foarte diferite pe rețele diferite. Formarea flexibilă și inferența pe loturi pot fi deplasate către regiuni sau ore cu mai multă energie electrică cu emisii reduse de carbon.

Afirmațiile furnizorului necesită îngrijire. Agenția Internațională pentru Energie observă că potrivirea consumului anual cu achizițiile de surse regenerabile nu înseamnă că un centru de date a folosit energie regenerabilă în fiecare oră. Ei prezentare generală a centrelor de date distinge potrivirea contractuală anuală de furnizarea fizică.

Căutați informații despre locație sau pe oră, o nouă generație curată și o descriere clară a puterii reziduale din rețea. Ghidul nostru pentru centre de date cu energie regenerabilă pentru IA explică aceste diferențe. Achizițiile curate pot reduce emisiile; nu șterge fabricarea cipurilor, construcția sau utilizarea apei.

Pentru sarcinile de lucru organizaționale flexibile, programarea poate conta și ea. Instruirea, indexarea și analiza loturilor pot fi îndepărtate de perioadele cu emisii ridicate de carbon, în timp ce solicitările interactive au de obicei mai puțină libertate de așteptare. Timpul conștient de carbon nu ar trebui să compromită niciodată siguranța, obligațiile de serviciu sau regulile de rezidență a datelor.

Măsurați o unitate definită și publicați limitele

O amprentă utilă are o limită și un numitor: per sarcină finalizată, la mie de solicitări sau per client, de exemplu. Includeți electricitatea operațională, intensitatea carbonului utilizată și alocarea hardware, acolo unde este posibil. Precizați dacă cifrele sunt măsurate, modelate sau estimate.

Fundația Green Software Specificația Software Carbon Intensity combină energia operațională, intensitatea de carbon specifică locației și emisiile hardware încorporate per unitate funcțională. De asemenea, păstrează offset-urile în afara scorului. Aceasta este o disciplină solidă chiar și atunci când datele complete ale furnizorului nu sunt disponibile: măsurați în mod consecvent, dezvăluiți lacunele și îmbunătățiți sistemul fizic.

Treechat aplică aceeași ierarhie într-un cadru de consum mai restrâns. Acesta direcționează întrebările de zi cu zi către modele mai mici și estimează energia din utilizarea modelului și a simbolurilor. Chitanța include ipotezele declarate ale centrului de date și ale rețelei; nu este o citire a contorului sau amprenta ciclului de viață complet. Metoda actuală este publicată la /methodology.

Prin urmare, reducerea amprentei dvs. de carbon AI se referă mai puțin la o aritmetică personală perfectă decât la alegeri repetate și defensabile: utilizați AI în mod deliberat, dimensionați modelul corect, constrângeți munca, preferați o infrastructură credibilă cu emisii reduse de carbon și tratați orice contribuție la climă ca separat de emisiile pe care încă le creați. Acesta este miezul practic al AI verde.