Zużycie wody AI na zapytanie: co właściwie możemy wiedzieć?

Nie ma jednej wartości zużycia wody dla zapytania AI. Z niedawnych ujawnień operatorów wynika, że mediana zwykłych podpowiedzi tekstowych wynosi około 0.26 ml Gemini Aplikacje wyświetlają monit i średnio 0.32 ml ChatGPT zapytanie. Model akademicki z 2023 r. dał znacznie większy zakres, około 10–25 ml na odpowiedź modelu językowego w określonych lokalizacjach i granicach systemu.

Szacunków tych nie należy uśredniać ani traktować jako pomiarów tego samego. Obejmują różne modele, sprzęt, chłodzenie, sieci, daty i definicje wody. Długość zapytania i narzędzia również mają znaczenie. Najdokładniejszą odpowiedzią konsumenta jest zakres źródłowy z dołączoną granicą.

Dwie niskie figury operatora

Google zgłoszone 0.26 ml wody dla mediany Gemini Komunikat dotyczący wygenerowania tekstu w aplikacjach w maju 2025 r. Załączona analiza również wykazała 0.24 Wh energii i opisała kompleksowe granice świadczenia usług, w tym infrastrukturę pomocniczą.

OpenAI dyrektor naczelny Sam Altman stwierdził, że średnio ChatGPT użyte zapytanie 0.000085 US gallons, około 0.32 ml. W poście nie opublikowano obliczeń ani nie zdefiniowano podstawowego zestawu żądań.

Liczby są zbliżone, ale nie oznacza to, że stawka jest uniwersalna. Jeden to zmierzona mediana w określonym momencie dla nazwanej aplikacji; drugi to niewyjaśniona średnia floty. Mediana i średnia to różne statystyki, a obie usługi wciąż się zmieniają.

Wyższy szacunek badawczy

w Sprawienie, że sztuczna inteligencja będzie mniej „spragniona”badacze stworzyli modele bezpośredniego chłodzenia i pośredniego wytwarzania energii elektrycznej na potrzeby dużych modeli językowych. W ich szeroko cytowanym przykładzie przypisano butelkę o pojemności 500 ml do około 20–50 odpowiedzi średniej długości, co odpowiada około 10–25 ml każda.

Był to scenariusz oparty na zakładanych lokalizacjach rozmieszczenia, pogodzie, intensywności zużycia wody w sieci i energii modelu. To nie był odczyt licznika ChatGPT. Wartość artykułu pokazuje, że czas i miejsce uruchomienia modelu może znacząco zmienić jego ślad wodny.

Różnica rzędu wielkości w stosunku do późniejszych danych dostawców może odzwierciedlać bardziej wydajny sprzęt i chłodzenie, inny model zużycia energii oraz węższe lub po prostu odmienne rozliczanie. Ponieważ porównywalne dane bazowe nie są publiczne, przypisywanie luki jednej przyczynie byłoby spekulacją.

Proste obliczenia nadal wymagają twardych danych wejściowych

Najprościej mówiąc, bezpośrednią ilość wody na zapytanie można oszacować jako energię zapytania pomnożoną przez efektywność wykorzystania wody w obiekcie. Woda pośrednia dodaje energię pomnożoną przez intensywność wytwarzania energii elektrycznej przez wodę. Szkolenia i produkcja wymagają oddzielnych przydziałów.

Każde wejście się porusza. Zapytaj o zmiany energii za pomocą modelu, tokenów wejściowych i wyjściowych, przetwarzania wsadowego, wywołań sprzętu i narzędzi. Woda w obiekcie zmienia się w zależności od pogody i trybu chłodzenia. Natężenie wody w sieci zmienia się wraz z wytwarzaniem. Średnia roczna wyrównuje godziny, w których lokalne ciśnienie wody może być najwyższe.

W laboratorium Berkeley Lab obliczono, że średnia efektywność wykorzystania wody w zakładach w USA wynosi nieco ponad 0.36 litra na kWh w 2023 r. Pomnożenie szacunków floty krajowej przez szybkie oszacowanie produktu spowodowałoby pomieszanie niepowiązanych systemów, a nie ujawnienie rzeczywistej wody dostawcy.

„Zapytanie” nie jest stabilną jednostką

Uzupełnienie krótkiego tekstu może wygenerować kilkadziesiąt tokenów. Zlecenie badawcze może przetwarzać długie dokumenty, przeszukiwać Internet i kilkakrotnie wywoływać model. Generowanie obrazów i wideo korzysta z różnych potoków. Liczenie każdego jako jednego zapytania sprawia, że ​​mianownik jest wygodny, ale słaby pod względem środowiskowym.

Lepsza jednostka obejmuje obciążenie pracą: model, tokeny wejściowe, tokeny wyjściowe, modalność i aktywność narzędzia. Nawet wtedy współdzielona infrastruktura usługowa oznacza, że ​​alokacja jest przybliżona. Bezczynne serwery, sieci i chłodzenie obsługują wielu użytkowników jednocześnie.

Oto dlaczego ile wody ChatGPT wykorzystuje nie można odpowiedzieć na podstawie samej liczby wiadomości. Z tego też powodu dystrybucje dostawców byłyby bardziej przydatne niż jedna średnia: czytelnicy muszą osobno widzieć zwykłe, zaawansowane i wymagające dużej ilości narzędzi użycie.

Bezpośrednia woda to nie cały ślad

Zużycie na miejscu ma znaczenie lokalne i często to, co regulują pozwolenia. Nie obejmuje wody zużywanej przez system elektroenergetyczny. Z drugiej strony szeroki model pośredni może przypisać wodę z odległego wytwarzania, która jest mniej istotna dla bezpośredniego zlewni centrum danych.

Fabryki chipów wykorzystują ultraczystą wodę, a budownictwo ma wpływ na łańcuch dostaw. Etapy te są zwykle nieobecne w przypadku ujawniania poszczególnych zapytań, ponieważ żadna metoda publiczna nie może w sposób pewny rozdzielić czasu życia procesora na całą jego pracę. Woda treningowa ma ten sam problem z mianownikiem.

Jasne raportowanie przedstawia kilka warstw, zamiast twierdzić, że jedna jest prawdziwa: bezpośrednie działanie, pośrednia energia elektryczna, przydział szkoleń i ucieleśniony łańcuch dostaw. Nasz przewodnik po jak sztuczna inteligencja wykorzystuje wodę wyjaśnia, gdzie występuje każda warstwa.

Jak odpowiedzialnie podać liczbę

Nazwij usługę i statystyki: „Google podano 0.26 ml dla jego mediany Gemini Komunikat tekstowy w aplikacjach w maju 2025 r.”. Zachowaj „medianę”, „tekst” i datę. Dla ChatGPT, powiedzmy „Altman podał średnio około 0.32 ml, nie publikując metody”.

Cytując prace akademickie, powiedz „w ramach swoich scenariuszy model oszacował 500 ml na około 20–50 odpowiedzi”. Nie skracaj tego do butelka za wiadomość.

Treechat wykorzystuje założenie dotyczące stałych mililitrów na watogodzinę, aby tworzyć spójne szacunki na podstawie energii komunikatu. The metodologia określa to jako szacunkowe, ponieważ rzeczywista woda chłodząca i zasilająca jest niedostępna. Spójność może pomóc w porównaniu Treechat wiadomości; nie może przekształcić czynnika ogólnego w pomiar obiektu.

Praktycznym wnioskiem jest ograniczenie niepotrzebnych obliczeń i żądanie lepszego ujawniania informacji. Przezroczysta gama jest mniej zapadająca w pamięć niż butelka, ale znacznie bliższa temu, co faktycznie znane.