Treechat
Meniu
Încearcă gratuit
Toate articolele

Consumul de apă AI per interogare: ce putem ști de fapt?

Estimările apei AI variază de la 0.26 ml la zeci de mililitri per interogare text. Decalajul provine din sisteme, locații și limite contabile.

De Treechat5 min de citit
Un server se ramifică în mai multe căi posibile de apă de răcire printr-un peisaj împădurit.

Nu există o cifră unică de utilizare a apei pentru o interogare AI. Dezvăluirile recente ale operatorului pun mesajele text obișnuite la aproximativ 0.26 ml pentru mediană Gemini Aplicații prompte și 0.32 ml pentru o medie ChatGPT interogare. Un model academic din 2023 a produs o gamă mult mai mare de aproximativ 10–25 ml per răspuns de model de limbă în anumite locații și limite de sistem.

Aceste estimări nu ar trebui să fie mediate sau tratate ca măsurători ale aceluiași lucru. Acestea acoperă diferite modele, hardware, răcire, grile, date și definiții ale apei. Lungimea unei interogări și instrumentele contează și ele. Cel mai precis răspuns al consumatorului este o gamă de surse cu granița atașată.

Cele două cifre scăzute ale operatorului

Google raportat 0.26 ml apă pentru o mediană Gemini Solicitare de generare a textului aplicațiilor în mai 2025. Analiza sa însoțitoare a raportat, de asemenea, 0.24 Wh de energie și a descris o limită de deservire cuprinzătoare, inclusiv infrastructura de sprijin.

OpenAI directorul executiv Sam Altman a declarat că o medie ChatGPT interogarea folosită 0.000085 US gallons, aproximativ 0.32 ml. Postarea nu a publicat un calcul sau a definit mixul de cereri de bază.

Cifrele sunt apropiate, dar asta nu stabilește o rată universală. Unul este o mediană punctuală măsurată pentru o aplicație numită; celălalt este o medie inexplicabilă a flotei. Mediana și media sunt statistici diferite, iar ambele servicii continuă să se schimbe.

Estimarea de cercetare mai mare

În A face AI mai puțin „însetată”, cercetătorii au modelat răcirea directă și apa indirectă legată de electricitate pentru modele mari de limbaj. Exemplul lor citat pe scară largă a atribuit o sticlă de 500 ml la aproximativ 20–50 de răspunsuri de lungime medie, echivalent cu aproximativ 10–25 ml fiecare.

Acesta a fost un scenariu bazat pe locațiile presupuse de desfășurare, vremea, intensitatea apei din rețea și energia modelului. Nu era o citire a metrului ChatGPT. Valoarea lucrării arată că atunci când și unde rulează un model își poate schimba material amprenta de apă.

Diferența de ordine de mărime cu cifrele ulterioare ale furnizorilor poate reflecta hardware și răcire mai eficiente, energie de model diferită și o contabilitate mai restrânsă sau pur și simplu diferită. Deoarece datele de bază comparabile nu sunt publice, atribuirea decalajului unei singure cauze ar fi speculații.

Un calcul simplu necesită încă intrări grele

În cel mai simplu mod, apa directă per interogare poate fi estimată ca energie de interogare înmulțită cu eficiența utilizării apei a instalației. Apa indirectă adaugă energia înmulțită cu intensitatea apei generată de electricitate. Instruirea și producția necesită alocări separate.

Fiecare intrare se mișcă. Interogați schimbările de energie cu modele, jetoane de intrare și ieșire, loturi, apeluri hardware și instrumente. Apa din instalație se schimbă în funcție de vreme și de modul de răcire. Intensitatea apei din rețea se modifică odată cu generarea. O medie anuală netezește chiar orele în care presiunea locală a apei poate fi cea mai mare.

Berkeley Lab a modelat eficiența medie a utilizării apei pe site-ul din SUA la puțin peste 0.36 litri pe kWh în 2023. Înmulțirea estimării flotei naționale cu o estimare promptă a produsului ar amesteca sisteme care nu au legătură, fără a dezvălui apa reală a furnizorului.

„Interogare” nu este o unitate stabilă

O scurtă completare a textului poate genera câteva zeci de jetoane. O cerere de cercetare poate procesa documente lungi, poate căuta pe web și poate apela un model de mai multe ori. Generarea de imagini și videoclipuri utilizează conducte diferite. Numărarea fiecăreia ca o singură interogare face ca numitorul să fie convenabil, dar slab din punct de vedere al mediului.

Unitatea mai bună include volumul de lucru: model, jetoane de intrare, jetoane de ieșire, modalitatea și activitatea instrumentului. Chiar și atunci, infrastructura de deservire partajată înseamnă că alocarea este aproximativă. Serverele inactive, rețelele și răcirea acceptă mulți utilizatori simultan.

Acesta este motivul pentru care cata apa ChatGPT utilizări nu se poate răspunde numai din numărul de mesaje. Acesta este, de asemenea, motivul pentru care distribuțiile furnizorilor ar fi mai utile decât o medie: cititorii trebuie să vadă separat utilizarea obișnuită, high-end și grea de instrumente.

Apa directă nu reprezintă întreaga amprentă

Consumul la fața locului este important la nivel local și, adesea, ceea ce reglementează permisele. Nu include apa utilizată de sistemul de alimentare. În schimb, un model indirect larg poate atribui apă de la o generație îndepărtată, care este mai puțin relevantă pentru captarea imediată a centrului de date.

Fabricile de așchii folosesc apă ultrapură, iar construcția are impact asupra lanțului de aprovizionare. Aceste etape sunt în mod normal absente din dezvăluirile per interogare, deoarece nicio metodă publică nu poate aloca cu încredere viața unui procesor în întreaga sa activitate. Apa de antrenament are aceeași problemă a numitorului.

Raportarea clară prezintă mai multe straturi, în loc să pretindă că unul este adevărul: operațional direct, electricitate indirectă, alocarea de formare și lanțul de aprovizionare încorporat. Ghidul nostru pentru cum folosește IA apa explică unde apare fiecare strat.

Cum să citați un număr în mod responsabil

Denumiți serviciul și statistica: „Google a raportat 0.26 ml pentru mediana sa Gemini Solicitare text pentru aplicații în mai 2025.” Păstrați „mediana”, „textul” și data. Pentru ChatGPT, spune „Altman a declarat o medie de aproximativ 0.32 ml, fără a publica metoda.”

Când citați lucrările academice, spuneți „modelul a estimat 500 ml în aproximativ 20–50 de răspunsuri în scenariile sale”. Nu scurtați asta la o sticlă per mesaj.

Treechat utilizează o ipoteză fixă de mililitri pe watt-oră pentru a crea estimări consistente din energia mesajului. The metodologie etichetează acest lucru ca o estimare, deoarece răcirea reală și apa de alimentare nu sunt disponibile. Consecvența poate ajuta la comparație Treechat mesaje; nu poate transforma un factor generic într-o măsurătoare a instalației.

Rezultatul practic este de a reduce calculele inutile și de a solicita o dezvăluire mai bună. O gamă transparentă este mai puțin memorabilă decât o sticlă, dar mult mai aproape de ceea ce se știe de fapt.