Ile prądu zużywa sztuczna inteligencja?

Nie ma wiarygodnej globalnej sumy energii elektrycznej zużywanej wyłącznie przez sztuczną inteligencję. Sztuczna inteligencja działa w centrach danych wraz z pamięcią masową w chmurze, wideo, konwencjonalnym oprogramowaniem i innymi obciążeniami, a operatorzy rzadko publikują wystarczająco dużo szczegółów, aby je rozdzielić. Dlatego najlepsza, szczera odpowiedź zaczyna się o jeden poziom wyżej.

Międzynarodowa Agencja Energetyczna szacuje, że ze wszystkich centrów danych korzystało ok 415 terawatogodzin energii elektrycznej w 2024 r, około 1.5% światowego zużycia energii elektrycznej. W scenariuszu podstawowym prognozuje się, że w 945 r. będzie to około 2030 TWh, i wskazano, że sztuczna inteligencja jest najważniejszym czynnikiem wzrostu, obok wzrostu w zakresie innych usług cyfrowych. Są to modelowane dane dotyczące centrów danych, a nie odczyt „elektryczności AI”.

W przypadku jednej zwykłej wiadomości tekstowej najnowsze publiczne szacunki są znacznie mniejsze — zazwyczaj ułamek watogodziny — ale wybór modelu, kontekst i długość sygnału wyjściowego mogą znacznie zmienić wynik.

Dlaczego brakuje globalnego numeru AI

Licznik energii elektrycznej w centrum danych monitoruje serwery, sieci, pamięć masową, chłodzenie i konwersję mocy. Nie oznacza każdego elektronu jako „wnioskowanie AI”, „trenowanie modelu” lub „e-mail”. Dostawca może wewnętrznie alokować energię, ale sprawozdawczość publiczna zwykle łączy usługi lub podaje sumy ogółem dla całej firmy.

Nawet kategoria AI jest śliska. Model rekomendacji, model pogody, generator obrazów i chatbot rozumujący długoterminowo to różne obciążenia. Niektórzy dzielą się akceleratorami z innymi klientami. Inni korzystają z dedykowanych klastrów. Serwer może również zużywać energię w oczekiwaniu na pracę, którą należy w jakiś sposób przydzielić, jeśli celem jest liczba przypadająca na zadanie.

Dlatego właśnie dokładna globalna suma AI powinna skłonić do pytań o granicę i metodę. Może to być scenariusz, oszacowanie wydajności lub podzbiór sprzętu, a nie bezpośrednio mierzone zużycie.

Szacunki IEA dotyczące 415 TWh zapewniają skalę, bez udawania, że każde zadanie centrum danych to sztuczna inteligencja. Pokazuje także, dlaczego niewielki globalny odsetek może współistnieć z poważną presją lokalną. Duże obiekty skupiają się w określonych regionach i łączą się z określonymi sieciami, przez co ich działanie nie jest równomiernie rozłożone na całym świecie.

W przypadku Stanów Zjednoczonych: Lawrence Berkeley National Laboratory’s Raport dotyczący zużycia energii w centrach danych za rok 2024 modeluje historyczne wykorzystanie i szereg scenariuszy do 2028 r. Wykorzystanie szeregu ma znaczenie: przyszły popyt zależy od dostaw akceleratorów, ich wykorzystania, poprawy wydajności i szybkości budowy nowych lokalizacji.

EPRI podobnie publikuje scenariusze, a nie jedną pewną przyszłość. Jego Analiza inteligencji zasilania przewiduje szeroki rozrzut zużycia energii elektrycznej w centrach danych w USA do roku 2030. Prognozy różnią się ze względu na różne dane wejściowe i daty graniczne, niekoniecznie dlatego, że jedna ze stron znalazła ukryty licznik.

Wiadomość nie jest stałą jednostką

Na poziomie indywidualnym pytanie staje się bardziej konkretne, ale nadal wymaga kontekstu. Wiadomość AI może mieć formę przepisywania dziesięciu słów lub żądania, które przetwarza duży dokument, przeszukuje sieć i generuje kilka tysięcy słów. Każdy z nich wymaga innej ilości obliczeń.

Najnowsze szacunki omówione w ile energii A ChatGPT wykorzystuje zapytanie umieść typową wymianę SMS-ów na poziomie ułamka watogodziny. Długie dane wejściowe, rozszerzone rozumowanie, wiele wywołań narzędzi oraz generowanie obrazów lub wideo mogą być znacznie bardziej wymagające. Koszt energii zmienia się także w zależności od modelu, sprzętu, partii i kosztów ogólnych centrum danych.

Z powodu tej różnicy pomnożenie jednej popularnej liczby „na zapytanie” przez całe wykorzystanie sztucznej inteligencji daje kruchą sumę. Założona mieszanka komunikatów może zdominować odpowiedź.

Liczy się zarówno szkolenie, jak i wnioskowanie

Szkolenie to skoncentrowana praca, która tworzy lub zasadniczo aktualizuje model. Wnioskowanie to powtarzająca się praca wykonywana, gdy ludzie z niego korzystają. Trening może pochłonąć dużą ilość w skończonym okresie; wnioskowanie zaczyna się później i rośnie z każdym żądaniem.

Nie można odpowiedzieć, który z nich jest większy w całym okresie życia modelu, nie wiedząc, jak często model jest używany. Szeroko wdrożona usługa może skumulować ogromne zapotrzebowanie na wnioskowanie. Model wyszkolony, a następnie rzadko używany może nadal wymagać intensywnego szkolenia. Alokacja energii szkoleniowej na wiadomość wymaga również odgadnięcia wykorzystania modelu przez cały okres jego trwania.

Rozróżnienie to zostało omówione dalej w Szkolenie AI a emisje wnioskowań. W przypadku planowania energii elektrycznej oba obciążenia przyczyniają się do zapotrzebowania obiektu. W przypadku odbioru poszczególnych wiadomości wnioskowanie operacyjne jest zazwyczaj granicą łatwiejszą do obrony, ponieważ dotyczy właśnie żądanej pracy.

Wydajność nie gwarantuje niższych sum

Sprzęt i oprogramowanie mogą zapewnić więcej pracy AI na wat. Mniejsze modele mogą ograniczyć obliczenia, kwantyzacja może zmniejszyć wymagania dotyczące pamięci i arytmetyki, a większe wykorzystanie może rozłożyć obciążenie serwera na większą liczbę żądań. IEA uwzględnia scenariusz o wysokiej efektywności właśnie dlatego, że zmiany te mogą znacząco obniżyć przyszły popyt w porównaniu z scenariuszem podstawowym.

Jednak wydajność na zadanie i całkowite zużycie energii elektrycznej to odrębne kwestie. Jeśli sztuczna inteligencja stanie się tańsza i zostanie umieszczona w większej liczbie produktów, liczba i złożoność zadań może rosnąć szybciej niż spada energia przypadająca na zadanie. Nowe możliwości mogą również powodować powstawanie obciążeń — takich jak agenci ciągli lub generowane wideo — które wcześniej nie były powszechne.

To jest główna odpowiedź dlaczego sztuczna inteligencja zużywa tak dużo energii: wymagające obliczenia stają się zarówno wydajniejsze, jak i szerzej stosowane.

Jak czytać roszczenie AI dotyczące energii elektrycznej

Najpierw zapytaj, czy roszczenie obejmuje sztuczną inteligencję, przyspieszone serwery czy wszystkie centra danych. Następnie sprawdź, czy jest to zmierzone zużycie, szacunkowa energia czy przewidywana pojemność. Sprawdź rok, położenie geograficzne, założenia dotyczące wykorzystania oraz to, czy uwzględniono chłodzenie i konwersję mocy. Wreszcie, należy oddzielić energię elektryczną od emisji dwutlenku węgla: ta sama watogodzina może powodować różne emisje w zależności od tego, gdzie i kiedy jest wytwarzana.

Treechat odbiór wiadomości jest celowo węższy niż globalna prognoza. Szacuje energię operacyjną na podstawie modelu i wykorzystania tokena, dodaje określone obciążenie centrum danych i konwertuje je przy użyciu ujawnionych założeń dotyczących sieci. Nie jest to odczyt licznika energii ani twierdzenie dotyczące całego cyklu życia. Aktualne dane wejściowe i limity są na naszej stronie strona metodologiczna.

Ile zatem prądu zużywa sztuczna inteligencja? Wystarczająco, aby stanowić istotny czynnik napędzający rozwój centrów danych, ale nie na tyle, aby publiczne dowody potwierdzały jedną dokładną sumę dotyczącą wyłącznie sztucznej inteligencji. Używaj zakresów na poziomie systemu w przypadku pytań siatki i szacunków na poziomie zadań w przypadku indywidualnych wyborów – i nie myl tych dwóch.