Praktyczny przewodnik po zrównoważonej sztucznej inteligencji

Zrównoważona sztuczna inteligencja zaczyna się przed wyborem modelu. Zdefiniuj wynik, zdecyduj, czy sztuczna inteligencja jest konieczna, ustal wymagania jakościowe i środowiskowe, a następnie użyj najmniejszego systemu, który wykona zadanie. Mierz cały przepływ pracy — łącznie z ponownymi próbami i narzędziami — ograniczaj marnowanie tokenów i bezczynność sprzętu oraz preferuj infrastrukturę o niższej emisji dwutlenku węgla. Raportuj wartości bezwzględne oraz wydajność na wynik.

W niniejszym przewodniku zrównoważony rozwój traktuje się jako praktykę operacyjną, a nie etykietę produktu. Żaden model nie jest pozbawiony skutków i żaden pojedynczy wskaźnik nie uwzględnia energii elektrycznej, emisji dwutlenku węgla, wody, sprzętu, wartości społecznej i ryzyka. Celem jest dokonywanie proporcjonalnych wyborów z widoczną granicą, ulepszanie ich z biegiem czasu i powstrzymywanie się od przekształcania umowy dotyczącej energii odnawialnej lub wkładu klimatycznego w twierdzenie, że zniknęły podstawowe obliczenia.

Krok 1: zdefiniuj potrzebę i scenariusz alternatywny

Zapisz, co system musi osiągnąć i co by się stało bez niego. Alternatywą może być istniejąca reguła, funkcja wyszukiwania, arkusz kalkulacyjny, mniejszy model statystyczny lub osoba korzystająca ze sprawdzonego oprogramowania. Sztuczna inteligencja jest uzasadniona, gdy poprawia wyniki na tyle, aby uzasadnić koszty i ryzyko.

Wybierz jednostkę funkcjonalną, która odzwierciedla użyteczną pracę: jeden prawidłowo sklasyfikowany dokument, jeden rozpatrzony wniosek lub jedno zaakceptowane podsumowanie. Ustaw progi dokładności, bezpieczeństwa, opóźnienia i kontroli ręcznej. Dzięki temu energooszczędny, ale bezużyteczny system nie wydaje się zrównoważony.

UNESCO Zalecenie w sprawie etyki sztucznej inteligencji określa proporcjonalność i ochronę środowiska jako obowiązki w cyklu życia. To szersze spojrzenie ma znaczenie. Zrównoważony rozwój obejmuje to, kto ponosi wpływ na wodę, ziemię i materiały, a nie tylko globalną średnią emisji dwutlenku węgla.

Udokumentuj decyzję nawet w przypadku odrzucenia sztucznej inteligencji. Tworzy to rekord nadający się do ponownego wykorzystania i pomaga zespołom powstrzymać się od późniejszego dodawania generacji po prostu dlatego, że interfejs API stał się tani lub modny.

Notatka powinna być krótka, ale wyraźna.

Krok 2: ustal mierzalny poziom bazowy

Rejestruj model, tokeny wejściowe i wyjściowe, liczbę żądań, wywołania narzędzi, ponowne próby i wskaźnik powodzenia. Jeśli to możliwe, zmierz energię elektryczną i wykorzystanie serwera; w przeciwnym razie użyj udokumentowanego oszacowania. Uwzględnij koszty ogólne centrum danych i intensywność emisji dwutlenku węgla zastosowaną do energii elektrycznej. Jeśli dowody są niekompletne, trzymaj sprzęt i wodę jako osobne pola.

Zmierz zarówno intensywność, jak i sumę. Energia przypadająca na pomyślnie zakończone zadanie może spaść, podczas gdy całkowita energia elektryczna wzrośnie w wyniku wzrostu zużycia. Miesięczny dashboard powinien zatem pokazywać stawkę, liczbę jednostek funkcjonalnych i bezwzględne zużycie.

Użyj tej samej granicy przed i po zmianie. The Specyfikacja intensywności emisji dwutlenku węgla w oprogramowaniu wymaga, aby w systemach bazowych i ulepszonych stosowano metody i założenia dopasowywania. Ta dyscyplina powstrzymuje zespół od domagania się postępu tylko dlatego, że wykluczył sprzęt pomocniczy lub zamienił mianowniki.

Dołącz daty i wersje oprogramowania do linii bazowej. Porównanie dokonane po cichej zmianie przez dostawcę modelu lub systemu obsługi może w przeciwnym razie przypisać poprawę niewłaściwej interwencji.

Krok 3: modele i dane o odpowiedniej wielkości

Zacznij od najmniej złożonego podejścia, które przejdzie ocenę. Klasyfikator lub system wyszukiwania może zastąpić generowanie. Do zadań językowych małe modele językowe radzi sobie z ekstrakcją, przepisywaniem i ukierunkowaną pomocą przy niższych wymaganiach obliczeniowych niż znacznie większe modele.

Eskaluj selektywnie. Router może wysyłać rutynowe przypadki do mniejszego modelu, a trudne przypadki do silniejszego. Testuj rzeczywisty ruch, zamiast polegać tylko na ogólnych testach porównawczych, które mogą nie odzwierciedlać Twojej domeny, języków lub kosztów awarii.

Zmniejsz także ilość odpadów szkoleniowych. Wybieraj przydatne dane, ponownie wykorzystuj odpowiednie modele, dostosowuj tylko wtedy, gdy monit lub pobranie nie jest w stanie zaspokoić potrzeb, i przerwij eksperymenty, które niczego nie uczą. Rekordowe nieudane przebiegi; ukrywanie ich zaniża koszty rozwoju i sprawia, że ​​późniejsze zespoły powtarzają tę samą pracę.

Jeśli potrzebny jest większy model, zawęź tam, gdzie się pojawia. Eskalacja niewielkiej liczby trudnych przypadków może być bardziej proporcjonalna niż aktualizacja ustawień domyślnych dla całego ruchu.

Zapisz, dlaczego nastąpiła eskalacja.

Krok 4: zaprojektuj szczupłą aplikację

Tokeny są zmienną projektową. Usuwaj nieistotną historię, pobieraj tylko istotne fragmenty, ograniczaj dane wyjściowe do użytecznej długości i podsumowuj długotrwałe rozmowy. Buforuj stabilne odpowiedzi i osadzania. Łącz zgodne żądania w partiach, gdy pozwala na to opóźnienie.

Narzędzia zasługują na własny budżet. Wyszukiwanie, agenci i pętle samokontroli mogą zamienić jedno działanie użytkownika w wiele wywołań modeli. Ustaw maksymalne kroki, zakończ, gdy pewność będzie wystarczająca i ujawnij drogie tryby jako świadomy wybór. Lepsze podpowiedzi powinny ograniczać niejednoznaczność, a nie tylko być krótkie; jasne żądanie, które zakończy się sukcesem raz, pokonuje kilka zwięzłych prób.

Oceń cały łańcuch po każdej zmianie. Kwantyzacja, przycinanie i systemy składające się z mieszanki ekspertów może zmniejszyć część mocy obliczeniowej, ale sieć, pamięć, pobieranie i kod aplikacji nadal zużywają zasoby. Zoptymalizuj wąskie gardło, które faktycznie mierzysz.

Doświadczenie użytkownika może również zapobiegać marnotrawstwu. Pokaż, kiedy aktywny jest kosztowny tryb, natychmiast anulowaj i zachowaj ukończoną pracę, aby przerwane zadanie nie zostało wznowione od zera.

Krok 5: wydajnie zarządzaj infrastrukturą

Wybierz sprzęt dostosowany do obciążenia pracą, a następnie zajmij go pożytecznie. Batch, automatyczne skalowanie i wydajne silniki wnioskowania mogą zmniejszyć energię przypadającą na wynik. Unikaj rezerwowania dużych akceleratorów dla sporadycznych zadań, które działają odpowiednio gdzie indziej. Wydłuż żywotność sprzętu, gdy korzyści operacyjne wynikające z wymiany nie uzasadniają nowych efektów.

Lokalizacja i czas zmiany emisji operacyjnych. Zmień elastyczne szkolenia lub zadania wsadowe na godziny o niższej emisji dwutlenku węgla, jeśli nie powoduje to szkód dla społeczności dotkniętych niedoborem wody lub ograniczonymi sieciami. Preferuj dostawców, którzy ujawniają fizyczny wpływ sieci, wydajność obiektu i zaopatrzenie, zamiast oferować pojedynczą zieloną plakietkę.

Centra danych wykorzystujące energię odnawialną może znacząco zmniejszyć emisję dwutlenku węgla, ale roczne certyfikaty nie dowodzą, że każda godzina była wolna od paliw kopalnych. Zaopatrzenie w energię elektryczną, wodę, budownictwo i chipy wymagają własnych roszczeń i dowodów.

Uwzględnij odporność w decyzji dotyczącej infrastruktury. Lokalizacja niskoemisyjna, która powoduje częste awarie i powtarzające się zadania, może nie usprawnić całego przepływu pracy, natomiast niezawodne planowanie może chronić zarówno wyniki, jak i zasoby.

Krok 6: zarządzaj używaniem i unikaj odbicia

Wydajność sprawia, że sztuczna inteligencja jest tańsza i łatwiejsza w dodaniu. Bez ograniczeń więcej funkcji i ruchu może wyeliminować zyski przypadające na zadanie. Nadaj każdemu nowemu przypadkowi użycia właściciela, oczekiwaną wielkość produkcji i datę przeglądu. Wycofaj eksperymenty i wygenerowane treści, które nie służą już żadnemu celowi.

Zespoły zakupowe powinny pytać dostawców o nazwy lub klasy modeli, granice energetyczne, lokalizacje, rozliczanie energii odnawialnej, wskaźniki wody i dane dotyczące cyklu życia sprzętu. Poufne szczegóły mogą pozostać, ale „zastrzeżony” nie powinien usprawiedliwiać braku jakichkolwiek dowodów środowiskowych.

Opublikuj niepewność i poprawki. Oddziel zmierzone wartości od szacunków, emisji opartych na lokalizacji od rachunkowości umownej oraz redukcji z wkładów lub kompensat. Zielona sztuczna inteligencja jest wiarygodna, gdy wydajność i bezwzględny popyt pozostają widoczne razem.

Daj zespołom produktowym regułę zatrzymywania. Jeśli przyjęcie lub powodzenie pozostanie poniżej uzgodnionego progu, usuń tę funkcję i zwolnij jej zarezerwowaną pojemność, zamiast pozwolić, aby pilot stał się trwały przez zaniedbanie. Przejrzyj tę zasadę zgodnie z harmonogramem.

Działaj niezwłocznie.

Prosta praktyka dla codziennych użytkowników

Pojedyncze osoby nie mogą wybrać chłodzenia centrum danych, ale mogą uniknąć niepotrzebnej pracy. Używaj zwykłego oprogramowania, gdy jest to wystarczające. Wybierz mniejszy, wydajny model, zachowaj odpowiedni kontekst, poproś o proporcjonalną odpowiedź i przestań się regenerować, gdy wynik będzie zadowalający. Nasz przewodnik po zmniejszenie śladu węglowego AI zamienia je w szybkie decyzje.

Treechat sprawia, że jedna część tej praktyki staje się widoczna. Kieruje rutynowe pytania do mniejszych modeli i szacuje energię operacyjną na podstawie wykorzystania modelu i tokena, z opublikowanymi limitami kosztów ogólnych centrum danych i emisji dwutlenku węgla w sieci. Nie może zobaczyć licznika obiektu na żywo, przydziału szkoleń ani pełnego cyklu życia sprzętu. Granice te są wyraźne w /methodology.

Zrównoważonej sztucznej inteligencji nie osiąga się raz. Zmieniają się modele, systemy ruchu i energii elektrycznej, dlatego po uruchomieniu wykonaj pomiary ponownie. Utrzymuj stały użyteczny wynik, zmniejszaj zasoby potrzebne do jego osiągnięcia, obserwuj bezwzględny wzrost i jasno opisz pozostałe skutki.

Na użytek osobisty ta recenzja może być prosta: zwróć uwagę, które zadania powodują długie rozmowy lub powtarzające się wyniki, a następnie następnym razem zmień ustawienie domyślne, zamiast próbować samodzielnie obliczać każdy gram.