Este IA generativă dăunătoare pentru mediu?

Inteligența artificială generativă are un cost real de mediu: modelele de antrenament și de funcționare folosesc electricitate, răcirea poate consuma apă, iar hardware-ul are o amprentă de producție. Este adesea mai solicitant din punct de vedere computațional decât un sistem specializat care face o sarcină restrânsă. Dar dimensiunea variază enorm. Un scurt răspuns text de la un model mic nu este echivalent cu un raționament lung, un lot de imagini sau un videoclip generat.

Deci, IA generativă nu este inofensivă pentru mediu, dar nici fiecare utilizare nu este excepțional de dăunătoare. Impactul său devine cel mai îngrijorător atunci când modelele grele generează producție de valoare scăzută sau de unică folosință la un volum mare, în special pe rețelele cu consum intens de carbon sau în locurile cu stres hidric. Comparația corectă este cu o alternativă adecvată și valoarea rezultatului.

Generarea lucrează mai mult decât simpla recuperare

O bază de date tradițională poate returna informațiile stocate. Un clasificator specific unei sarcini poate selecta o etichetă. Un model generativ calculează o nouă secvență de jetoane, pixeli de imagine sau cadre video din modele învățate. Ieșiri mai mari și modalități mai complexe înseamnă, în general, mai multe calcule.

În Procesare cu foame de putere, cercetătorii Luccioni, Jernite și Strubell au comparat 1,000 de inferențe în sarcini reprezentative. Ei au descoperit că arhitecturile generative multifuncționale consumă mult mai multă energie decât modelele specifice sarcinilor, chiar și după ce s-au luat în considerare dimensiunea modelului. Valorile lor măsurate nu trebuie lipite pe fiecare serviciu comercial: hardware-ul, utilizarea și software-ul diferă. Lecția mai durabilă a studiului este că generalitatea are un cost.

Uneori, acest cost merită. Un model capabil poate înlocui mai multe unelte sau poate ajuta o persoană să termine o lucrare valoroasă. Judecata de mediu necesită întreaga sarcină, nu doar eticheta „generativă”.

Antrenamentul este vizibil, dar inferența se acumulează

Antrenarea unui model mare coordonează multe procesoare pe o perioadă extinsă. Poate fi repetat pentru experimente, reglaj fin și executări nereușite. Cardurile de modele publice rareori furnizează suficientă energie, locație și date hardware pentru un total independent al ciclului de viață.

Inferența începe după implementare. Fiecare cerere este mai mică decât o cursă de antrenament, dar un serviciu popular poate gestiona un număr enorm. Contextul lung, simbolurile de raționament ascunse, recuperarea, navigarea pe web și apelurile la instrumente pot multiplica munca din spatele unui răspuns vizibil. Dacă antrenamentul sau inferența domină asupra vieții unui model depinde de trafic și de cât timp rămâne util.

Alocarea de formare în mod egal fiecărei interogări poate fi informativă pentru contabilitate, dar nu este consumat de energie electrică atunci când utilizatorul apasă trimite. Un model tânăr cu un trafic viitor incert face ca această alocare să fie deosebit de instabilă. Raportarea bună păstrează formarea, inferența și hardware-ul încorporat separat înainte de a oferi orice cifră combinată.

Textul, imaginile și videoclipurile nu sunt interschimbabile

„O generație” este o unitate săracă. Textul este produs token cu simbol. Un răspuns concis cu context limitat poate folosi o fracțiune de watt-oră conform estimărilor recente, în timp ce un document lung sau o sarcină de raționament poate folosi mult mai mult. Explicatorul nostru continuă Impactul AI asupra mediului arată de ce contează limitele și volumul de muncă.

Imaginile implică calcul iterativ pe o gamă largă de valori. Utilizatorii creează adesea mai mulți candidați și sporesc un favorit. Videoclipul adaugă multe cadre, consistență temporală și, de obicei, o cerere de calcul mai mare. Furnizorii comerciali publică puține date comparabile privind energia la nivel de produs, astfel încât rapoartele precise între moduri ar fi o presupunere.

Acesta este un loc în care comportamentul ajută. Specificați rezultatul de care aveți nevoie, generați mai puține variante și evitați upscalingul schițelor. Pentru text, solicitați o lungime adecvată și începeți o conversație nouă atunci când contextul vechi este irelevant.

Electricitatea, carbonul și apa spun povești diferite

Electricitatea măsoară energia. Carbonul depinde de modul în care a fost generată acea electricitate. Apa poate fi consumată la fața locului pentru răcire și indirect prin generarea de energie. Un serviciu poate îmbunătăți o dimensiune în timp ce o înrăutățește – de exemplu, răcirea uscată poate economisi apă locală, dar necesită mai multă energie electrică în anumite condiții.

AIE estimează toate centrele de date utilizate aproximativ 415 TWh în 2024, nu numai AI. Se așteaptă ca serverele accelerate bazate pe inteligență artificială să fie o sursă majoră de creștere până în 2030. Totalurile sistemului arată de ce cererea agregată merită atenție chiar și atunci când un mesaj text obișnuit este mic.

Locația contează cel puțin la fel de mult pentru apă. Un litru consumat într-un bazin stresat poate avea consecințe mai mari decât același volum într-o regiune bogată în apă. Mediile globale ascund acele decizii locale. Citiți modul în care AI afectează mediul pentru lantul complet.

Eficiența se îmbunătățește, dar cererea o poate depăși

Noile acceleratoare pot efectua mai multe calcule per unitate de electricitate. Cuantizarea reduce precizia numerică și munca. Modelele de amestec de experți activează doar o parte din parametrii lor pentru fiecare token. Un lot mai bun distribuie puterea serverului la mai mulți utilizatori, iar modelele mai mici pot face față sarcinilor obișnuite.

Acestea sunt îmbunătățiri reale. Nu garantează un consum total mai mic. Generarea mai ieftină și mai rapidă poate atrage mai mulți utilizatori și poate permite produse mai exigente. Aceasta este problema rebound: energia pe ieșire scade în timp ce numărul și dimensiunea ieșirilor cresc mai repede.

Ambele măsuri aparțin aceluiași raport. Furnizorii ar trebui să dezvăluie eficiența pe sarcină de lucru și energia, apa și emisiile absolute. O medie rapidă în scădere nu este dovada că impactul total scade; un total în creștere al centrului de date nu este dovada că fiecare solicitare a devenit mai puțin eficientă.

O modalitate proporțională de a folosi IA generativă

Mai întâi decideți dacă este nevoie de generație. Căutarea este adesea mai bună pentru a găsi o pagină cunoscută; o foaie de calcul este mai bună pentru aritmetică transparentă; un șablon poate depăși regenerarea copiei de rutină. Când AI adaugă valoare, selectați cel mai mic model capabil, în loc să utilizați implicit cel mai puternic.

Păstrați solicitările și atașamentele relevante. Cereți o direcție puternică înainte de a solicita variații. Reutilizați rezultate bune în loc să o luați de la capăt. Salvați generarea de imagini, audio și video pentru rezultatele pe care intenționați să le utilizați. Aceste alegeri nu vor rezolva impactul asupra infrastructurii, dar reduc cererea evitabilă.

Întrebați vânzătorii ce includ numerele lor și dacă sunt măsurate sau modelate. Treechat lui metodologie descrie o estimare bazată pe alegerea modelului, jetoane, costul general al centrului de date și intensitatea medie a carbonului din rețea. Nu poate vedea contorul de putere activ al unui furnizor, sistemul de apă sau ciclul de viață complet al hardware-ului.

Inteligența artificială generativă este suficient de costisitoare din punct de vedere al mediului pentru a fi utilizată în mod deliberat, nu atât de catastrofal încât orice utilizare valoroasă ar trebui să înceteze. Întrebarea mai profundă în cât de proastă este cu adevărat AI este dacă instrumentul, scara și rezultatul justifică resursele. Răspunsul se poate schimba de la o solicitare la alta.