Să spui mulțumiri AI costă energie?

Da. Dacă trimiteți „mulțumesc” ca un nou mesaj AI, serviciul procesează conversația și generează un alt răspuns, așa că folosește puțină energie electrică suplimentară. Pentru un schimb de text scurt obișnuit, cele mai bune estimări publice sugerează că costul este probabil o fracțiune de watt-oră, deși nicio cifră universală nu se aplică fiecărui model și serviciu.

Aceasta este o adevărată energie, dar nu este un motiv util să te simți vinovat de curtoazia de bază. Ieșiri lungi, ferestre de context uriașe, generații repetate, creare de imagini și videoclipuri, agenți grei de instrumente și alegerea de a direcționa fiecare sarcină către un model mare pot face diferențe mult mai mari. Dacă mulțumirea face ca interacțiunea să pară naturală, răspunsul responsabil este perspectiva – nu o campanie împotriva a două cuvinte politicoase.

Ce se întâmplă după ce apăsați pe trimitere

AI nu experimentează recunoștință, dar sistemul de calcul încă tratează „mulțumesc” ca pe o cerere. Acesta împachetează noul text cu instrucțiuni de sistem și o parte din istoricul conversațiilor, trimite acea intrare la un model și generează un răspuns cum ar fi „Bine ați venit”.

Modelele de limbaj produc acel simbol de răspuns token cu simbol. Ieșirea scurtă ajută la menținerea sarcinii mici, dar intrarea poate include mai mult decât expresia vizibilă. Într-o conversație lungă, serviciul poate procesa din nou un context considerabil. Furnizorii pot stoca în cache părți ale unui prompt repetat, deși efectul energetic depinde de implementare.

Deci costul marginal nu este doar electricitatea pentru două cuvinte de intrare. Este costul unei alte inferențe asupra contextului pe care sistemul îl oferă de fapt.

Câtă energie este asta?

OpenAI directorul executiv Sam Altman a spus o medie ChatGPT interogarea folosește despre 0.34 wați-oră. Epoch AI estimat independent în jur 0.3 Wh pentru un tipic GPT-4o interogare, în baza ipotezelor sale despre token-uri, hardware și utilizare.

Un scurt mulțumire și un răspuns scurt pot fi sub media generală a serviciului, dar nu există suficientă măsurători publice pentru a-i atribui un număr de încredere. Modelul poate fi mai mic sau mai mare; conversația poate fi scurtă sau enormă; centrul de date poate fi bine utilizat sau nu.

Explicația noastră despre costul energiei unui mesaj AI arată de ce un tip de cerere este mai util decât cuvântul „mesaj”.

Politețea nu este marea pârghie

Discuția de mediu poate deveni în mod ciudat concentrată pe eticheta individuală, deoarece este vizibilă și ușor de moralizat. Infrastructura și designul produsului sunt mai puțin vizibile, dar mai importante: ce model este selectat, cât timp rulează, cât de eficient este deservit și dacă un singur clic începe un lanț de apeluri.

Agenția Internațională pentru Energie Raport Energie și AI proiectează o creștere puternică a consumului de energie electrică în centrele de date, determinată în mod important de AI, precum și de alte servicii digitale. Această problemă la nivel de sistem nu va fi rezolvată făcând utilizatorilor să încheie brusc conversațiile.

Serviciile pot face o diferență mai mare prin transferarea prestabilită a lucrărilor de rutină la modele mici capabile, limitând reîncercările risipitoare și oferind oamenilor un control sensibil asupra rezultatelor și instrumentelor.

Oamenii folosesc interfețele conversaționale atât social, cât și instrumental. Politețea poate menține un obicei de scris, îi poate ajuta pe copii să practice comunicarea respectuoasă sau pur și simplu poate face software-ul mai puțin neplăcut de utilizat. O urmărire politicoasă poate, de asemenea, să clarifice că sarcina este finalizată, ceea ce poate conta într-un flux de lucru în mai mulți pași.

Nu este nevoie să pretinzi că aceste beneficii fac ca electricitatea să dispară. Ideea este proporționalitatea. Cheltuim în mod obișnuit cantități mici de energie pe feedback-ul interfeței, deoarece îi ajută pe oameni să înțeleagă și să aibă încredere într-un sistem. Obiectivul de mediu nu este interacțiunea digitală zero; este o muncă utilă furnizată cu un impact mai puțin evitabil.

Această distincție contează și în dezbaterile despre câtă energie electrică folosește IA: mesajele personale și cererea totală de infrastructură sunt legate, dar nu sunt aceeași întrebare de politică.

Modalități mai bune de a reduce munca AI inutilă

Dacă doriți să reduceți energia fără a respecta maniere, combinați instrucțiunile aferente într-un singur prompt clar. Solicitați lungimea de ieșire de care aveți cu adevărat nevoie. Opriți o generație care, evident, merge în direcția greșită. Utilizați căutarea, un calculator sau un software obișnuit atunci când generația nu adaugă nimic. Alegeți un model mai mic pentru o muncă simplă.

Evitați să lipiți un document întreg atunci când o secțiune este relevantă și începeți o conversație nouă când contextul vechi nu mai ajută. Pentru lucrări complexe, planificarea cererii poate preveni mai multe generații eșuate. Niciuna dintre acestea nu trebuie să devină un test de puritate; sunt pur și simplu modalități de a alinia calculul cu valoarea.

Același principiu explică de ce modelele AI mai mici folosesc adesea mai puțină energie: reducerea muncii contează cel mai mult atunci când rezultatul încă satisface nevoia.

Dar milioane de mulțumiri?

Orice acțiune mică poate deveni materială la scară foarte mare. Dar înmulțirea unei medii incerte pe mesaj cu un număr global imaginat nu creează o statistică măsurată. Nu avem date publice despre câte mesaje sunt pură curtoazie, ce modele le răspund sau cât de mult context poartă.

Efectele agregate sunt un motiv pentru ca furnizorii să optimizeze recunoașterile scurte – poate cu modele mai mici, răspunsuri în cache sau comportamentul interfeței locale. Ele nu reprezintă o bază solidă pentru a face de rușine un utilizator individual. Designul unui serviciu implementat pe scară largă controlează costul implicit pentru fiecare interacțiune.

Este mai util să întrebați dacă sistemul folosește o cale de răspuns de dimensiuni adecvate decât dacă o persoană a fost prea politicoasă.

Cum Treechat tratează mesajul suplimentar

Treechat numără un mesaj de mulțumire trimis ca orice alt schimb de asistenți și arată o chitanță de impact estimat asupra răspunsului. Estimarea folosește modelul și numărul de simboluri, adaugă o taxă generală declarată pentru centrul de date și aplică o ipoteză de grilă publicată. Nu este o măsurătoare directă. Calculul și limitele acestuia sunt disponibile la /methodology.

Dacă vrei să-ți mulțumești, spune-o. Costă puțină energie pentru că apare o altă inferență. Atunci ține cont de amploare: alegerea modelelor proporționale și evitarea lucrărilor de calcul cu adevărat inutile sunt pârghii mai bune decât eliminarea căldurii umane obișnuite dintr-o conversație.