Czy generatywna sztuczna inteligencja jest szkodliwa dla środowiska?

Generacyjna sztuczna inteligencja wiąże się z rzeczywistymi kosztami środowiskowymi: modele szkoleniowe i uruchomieniowe zużywają energię elektryczną, chłodzenie może zużywać wodę, a sprzęt ma ślad produkcyjny. Często wymaga więcej obliczeń niż wyspecjalizowany system wykonujący jedno wąskie zadanie. Ale rozmiar jest bardzo zróżnicowany. Krótka odpowiedź tekstowa od małego modelu nie jest równoznaczna z długim procesem rozumowania, partią obrazów lub wygenerowanym wideo.

Tak więc generatywna sztuczna inteligencja nie jest nieszkodliwa dla środowiska, ale nie każde jej użycie jest wyjątkowo szkodliwe. Jego wpływ staje się najbardziej niepokojący, gdy ciężkie modele generują produkcję o niskiej wartości lub do dyspozycji w ogromnych ilościach, szczególnie w sieciach wysokoemisyjnych lub w miejscach dotkniętych niedoborami wody. Właściwe porównanie dotyczy odpowiedniej alternatywy i wartości wyniku.

Generowanie wykonuje więcej pracy niż proste pobieranie

Tradycyjna baza danych może zwracać zapisane informacje. Klasyfikator specyficzny dla zadania może wybrać jedną etykietę. Model generatywny oblicza nową sekwencję tokenów, pikseli obrazu lub klatek wideo na podstawie wyuczonych wzorców. Większe wyniki i bardziej złożone modalności zazwyczaj oznaczają więcej obliczeń.

w Przetwarzanie energochłonnebadacze Luccioni, Jernite i Strubell porównali 1,000 wniosków dotyczących reprezentatywnych zadań. Odkryli, że wielofunkcyjne architektury generatywne są znacznie bardziej energochłonne niż modele przeznaczone do konkretnych zadań, nawet po uwzględnieniu rozmiaru modelu. Ich zmierzonych wartości nie należy wklejać do każdej usługi komercyjnej: sprzęt, wykorzystanie i oprogramowanie różnią się. Trwalszą lekcją płynącą z badania jest to, że ogólność wiąże się z kosztami.

Czasami ten koszt się opłaca. Jeden sprawny model może zastąpić kilka narzędzi lub pomóc osobie w ukończeniu cennej pracy. Ocena środowiskowa wymaga całego zadania, a nie tylko etykiety „generatywny”.

Trening jest widoczny, ale wnioski kumulują się

Uczenie dużego modelu koordynuje wiele procesorów przez dłuższy czas. Można go powtórzyć w przypadku eksperymentów, dostrajania i nieudanych przebiegów. Karty modeli publicznych rzadko zapewniają wystarczającą ilość danych dotyczących energii, lokalizacji i sprzętu, aby uzyskać niezależny całkowity cykl życia.

Wnioskowanie rozpoczyna się po wdrożeniu. Każde żądanie jest mniejsze niż cykl szkoleniowy, ale popularna usługa może obsłużyć ogromną liczbę. Długi kontekst, ukryte tokeny rozumowania, wyszukiwanie, przeglądanie stron internetowych i wywołania narzędzi mogą zwielokrotnić pracę związaną z jedną widoczną odpowiedzią. To, czy w życiu modelu dominuje szkolenie, czy wnioskowanie, zależy od ruchu i czasu, przez jaki model pozostaje użyteczny.

Przydzielenie szkolenia jednakowo do każdego zapytania może mieć charakter informacyjny dla celów księgowych, ale nie jest to energia pobierana po naciśnięciu przycisku „Wyślij”. Młody model z niepewnym przyszłym ruchem sprawia, że ​​alokacja jest szczególnie niestabilna. Dobre raportowanie oddziela szkolenie, wnioskowanie i ucieleśniony sprzęt przed podaniem jakichkolwiek łącznych danych.

Tekst, obrazy i wideo nie są zamienne

„Jedno pokolenie” to uboga jednostka. Tekst jest tworzony token po tokenie. Według ostatnich szacunków zwięzła odpowiedź w ograniczonym kontekście może wymagać ułamka watogodziny, podczas gdy długi dokument lub zadanie polegające na uzasadnieniu może zużyć znacznie więcej. Nasz objaśnienie na Wpływ sztucznej inteligencji na środowisko pokazuje, dlaczego granice i obciążenie pracą mają znaczenie.

Obrazy wymagają iteracyjnych obliczeń na dużej tablicy wartości. Użytkownicy często tworzą kilku kandydatów i wybierają ulubionego. Wideo dodaje wiele klatek, spójność czasową i zwykle większe wymagania obliczeniowe. Dostawcy komercyjni publikują niewiele porównywalnych danych dotyczących energii na poziomie produktu, więc dokładne proporcje między rodzajami transportu będą kwestią domysłów.

To miejsce, w którym pomaga zachowanie. Określ oczekiwany wynik, wygeneruj mniej wariantów i unikaj skalowania wersji roboczych. W przypadku tekstu poproś o odpowiednią długość i rozpocznij nową rozmowę, gdy stary kontekst stanie się nieistotny.

Energia elektryczna, węgiel i woda opowiadają różne historie

Elektryczność mierzy energię. Węgiel zależy od sposobu wytworzenia energii elektrycznej. Wodę można zużywać na miejscu do celów chłodniczych oraz pośrednio do wytwarzania energii. Usługa może poprawić jeden wymiar, jednocześnie pogarszając inny — na przykład suche chłodzenie może zaoszczędzić lokalną wodę, ale w niektórych warunkach wymaga więcej energii elektrycznej.

IEA szacuje, że wszystkich wykorzystywanych centrów danych jest ok 415 TWh w 2024 r, a nie sama sztuczna inteligencja. Oczekuje, że przyspieszone serwery oparte na sztucznej inteligencji będą głównym źródłem wzrostu do roku 2030. Całkowite dane systemowe pokazują, dlaczego zagregowany popyt zasługuje na uwagę, nawet jeśli zwykły monit tekstowy jest niewielki.

Lokalizacja ma znaczenie co najmniej tak samo w przypadku wody. Litr zużyty w zlewni obciążonej stresem może wiązać się z większymi konsekwencjami niż ta sama objętość w regionie zasobnym w wodę. Średnie globalne ukrywają te lokalne decyzje. Przeczytaj jak sztuczna inteligencja wpływa na środowisko dla całego łańcucha.

Wydajność poprawia się, ale popyt może ją przewyższyć

Nowe akceleratory mogą wykonywać więcej obliczeń na jednostkę energii elektrycznej. Kwantyzacja zmniejsza precyzję numeryczną i pracę. Modele złożone z ekspertów aktywują tylko część swoich parametrów dla każdego tokena. Lepsze przetwarzanie wsadowe rozkłada moc serwera na wielu użytkowników, a mniejsze modele mogą obsługiwać zwykłe zadania.

To są prawdziwe ulepszenia. Nie gwarantują one mniejszego całkowitego zużycia. Tańsza i szybsza generacja może przyciągnąć więcej użytkowników i umożliwić tworzenie bardziej wymagających produktów. Jest to problem odbicia: energia na jednostkę produkcji spada, podczas gdy liczba i wielkość produkcji rosną szybciej.

Obydwa środki należą do tego samego raportu. Dostawcy powinni ujawniać efektywność w przeliczeniu na obciążenie pracą oraz wartość bezwzględną zużycia energii, wody i emisji. Spadająca średnia natychmiastowa nie jest dowodem na to, że całkowity wpływ maleje; rosnąca liczba centrów danych nie jest dowodem na to, że każdy monit stał się mniej wydajny.

Proporcjonalny sposób wykorzystania generatywnej sztucznej inteligencji

Najpierw zdecyduj, czy potrzebne jest wytwarzanie. Wyszukiwanie jest często lepszym sposobem na znalezienie znanej strony; arkusz kalkulacyjny jest lepszy do przejrzystej arytmetyki; szablon może pokonać regenerującą się rutynową kopię. Gdy sztuczna inteligencja dodaje wartość, wybierz najmniejszy, zdolny model, zamiast domyślnie wybierać najpotężniejszy.

Dbaj o to, aby podpowiedzi i załączniki były istotne. Zanim poprosisz o zmiany, poproś o jeden mocny kierunek. Wykorzystaj ponownie dobre wyniki, zamiast zaczynać od nowa. Zapisz generowany obraz, dźwięk i wideo dla wyników, których zamierzasz użyć. Wybory te nie rozwiążą wpływu na infrastrukturę, ale zmniejszą możliwy do uniknięcia popyt.

Zapytaj dostawców, co obejmują ich liczby i czy są mierzone, czy modelowane. Treechat jest metodologia opisuje szacunki oparte na wyborze modelu, tokenach, narzucie centrum danych i średniej intensywności emisji dwutlenku węgla w sieci. Nie może zobaczyć licznika energii na żywo, systemu wodnego ani pełnego cyklu życia sprzętu dostawcy.

Generatywna sztuczna inteligencja jest na tyle kosztowna dla środowiska, że można ją stosować celowo, ale nie na tyle katastrofalna, aby należy zaprzestać wszelkich wartościowych zastosowań. Głębsze pytanie w jak zła jest naprawdę sztuczna inteligencja jest to, czy narzędzie, skala i wynik uzasadniają wykorzystanie zasobów. Ta odpowiedź może się zmieniać w zależności od monitu.