Warum verbraucht KI so viel Energie?

KI verbraucht viel Energie, da die Erstellung einer Antwort viele numerische Operationen auf speziellen Chips erfordert, wobei Modelldaten wiederholt durch den Speicher verschoben und diese Hardware dann mit Netzwerken, Stromumwandlung und Kühlung unterstützt werden. Große Modelle, lange Eingabeaufforderungen und lange Ausgaben erfordern im Allgemeinen mehr Arbeit. Durch die Schulung fallen separate, konzentrierte Energiekosten an. Durch die Bearbeitung von Millionen späterer Anfragen kommt eine fortlaufende hinzu.

Nicht jede KI-Aufgabe ist groß. Ein kleines Textmodell, das eine kurze Frage beantwortet, kann nach aktuellen Schätzungen einen Bruchteil einer Wattstunde verbrauchen. Besorgniserregend ist die Kombination aus anspruchsvollen Modellen, wachsender Nutzung und Anlagen mit ungewöhnlicher Leistungsdichte. Die Internationale Energieagentur gibt an, dass beschleunigte Server, die hauptsächlich durch die Einführung von KI vorangetrieben werden, eine Hauptquelle für das prognostizierte Stromwachstum in Rechenzentren sind Energie- und KI-Analyse.

Eine Antwort ist eine Kette von Berechnungen

Sprachmodelle speichern erlernte numerische Beziehungen in Parametern. Wenn eine Eingabeaufforderung eintrifft, kombinieren Prozessoren die Eingabe mit diesen Parametern durch große Matrixoperationen. Das Modell sagt dann einen Token voraus, fügt ihn dem Kontext hinzu und wiederholt den Vorgang für den nächsten Token.

Diese Token-für-Token-Schleife ist der Grund, warum die Ausgabelänge wichtig ist. Nach einer prägnanten Antwort zu fragen und nach einem Buch zu fragen, ist nicht dasselbe. Auch die Eingabe ist wichtig: Ein langes Gespräch oder hochgeladenes Dokument muss vor und während der Generierung verarbeitet werden. Einige Argumentationssysteme erzeugen auch interne Token, die der Benutzer nie sieht.

Die genaue Elektrizität hängt nicht nur von der Anzahl der Parameter ab. Modellarchitektur, numerische Präzision, Speicherzugriff, Softwarekerne und die Beschleunigergeneration beeinflussen alle, wie viel nützliche Arbeit pro Watt geliefert wird.

Der Chip „kennt“ das Modell nicht einfach ohne körperliche Anstrengung. Parameter und Zwischenwerte müssen zwischen Speicher mit hoher Bandbreite und Prozessoren verschoben werden. Insbesondere bei großen Modellen können Speicherkapazität und Bandbreite zu Einschränkungen werden. Die Versorgung der Hardware mit Daten kostet Energie, selbst wenn die Arithmetik selbst stark optimiert ist.

Dies hilft zu erklären, warum ein kleineres oder komprimiertes Modell effizient sein kann. Wenn für jeden Token weniger Gewichte gelesen und weniger Operationen durchgeführt werden müssen, kann der Arbeitsaufwand sinken. Mixture-of-Experts-Modelle können auch nur einen Teil ihrer Gesamtparameter für einen Token aktivieren, obwohl Routing und Serving-Design immer noch wichtig sind.

Die praktische Frage wird in behandelt Verbrauchen kleine KI-Modelle weniger Energie?. Die Größe ist ein wichtiges Signal, aber keine vollständige Leistungsmessung.

KI-Hardware ist leistungsstark

Moderne Beschleuniger sind darauf ausgelegt, enorm viele Operationen parallel durchzuführen. Ein damit gefülltes Rack kann weitaus mehr Strom verbrauchen als ein Rack mit herkömmlichen Servern. Training und Service verbinden zudem viele Chips über schnelle Netzwerke, die ihren eigenen Strombedarf hinzufügen.

Die IEA stellt fest, dass KI-fokussierte Rechenzentren sehr große, geografisch konzentrierte Lasten aufweisen können. Dies führt zu einem anderen Planungsproblem, da die gleiche Menge an Verbrauch über ein Land verteilt ist. Netzanschlüsse, Umspannwerke und Erzeugung müssen am richtigen Ort und zur richtigen Zeit verfügbar sein.

EPRIs Powering Intelligence-Szenarien spiegeln die Unsicherheit wider: Die zukünftige Nachfrage nach US-Rechenzentren ändert sich stark, abhängig von Entwicklungs- und Nutzungsannahmen. Stromprognosen sind daher am besten als bedingte Pfade und nicht als Versprechen zu lesen.

Auch das Gebäude rund um die Chips verbraucht Strom

Server sind nur ein Teil eines Rechenzentrums. Durch die Kühlung wird Wärme abgeführt. Pumpen und Ventilatoren bewegen Luft oder Flüssigkeit. Energiesysteme wandeln Strom um und sorgen für Backup. Speicher, herkömmliche Prozessoren und Netzwerkgeräte koordinieren die Arbeitslast.

Analysten fassen diesen Overhead oft mit der Power Usage Effectiveness (PUE) zusammen: Gesamtstrom der Anlage dividiert durch den Stromverbrauch der IT-Geräte. Ein PUE von 1 würde bedeuten, dass es keinen Overhead gibt, den echte Einrichtungen nicht erreichen können. Ein niedrigerer PUE ist besser, sagt aber nicht aus, wie effizient das KI-Modell selbst ist.

Diese Grenze ist beim Vergleich wichtig die Energiekosten einer KI-Nachricht. Eine reine Chip-Schätzung und eine Schätzung auf Anlagenebene können unterschiedlich sein, selbst wenn beide Berechnungen intern solide sind.

Das Training ist groß; Die Schlussfolgerung ist unerbittlich

Durch das Training wird ein Modell riesigen Datensätzen ausgesetzt und seine Parameter auf vielen Prozessoren aktualisiert. Es kann tagelang oder länger laufen, wobei Experimente und verworfene Trainingsläufe über den letzten erfolgreichen Lauf hinaus Arbeit verursachen. Öffentliche Gesamtzahlen sind selten und der Vergleich der wichtigsten Schulungszahlen ist schwierig, wenn Hardware, Standort und Buchhaltungsgrenzen unterschiedlich sind.

Die Schlussfolgerung ist pro Aufgabe geringer, erfolgt jedoch jedes Mal, wenn jemand fragt. Ein stark genutztes Modell kann letztendlich durch Inferenz mehr verbrauchen als durch Training; Bei einem leicht gebrauchten Modell ist dies möglicherweise nicht der Fall. Funktionen, die mehrere Anrufe tätigen – Suche, Agenten, Bildanalyse oder wiederholte Selbstprüfung – können aus einer sichtbaren Aktion mehrere Backend-Jobs machen.

Deshalb ist „eine Eingabeaufforderung“ keine dauerhafte technische Einheit. Was der Dienst nach der Eingabeaufforderung tut, ist mindestens genauso wichtig wie die davor eingegebenen Wörter.

Eine effizientere KI kann immer noch mehr Strom bedeuten

Die KI-Effizienz verbessert sich durch bessere Chips, Quantisierung, Sparsity, Batching und Modelldesign. Luccioni, Jernite und Strubell’s Vergleich der Inferenzarbeitslasten zeigt auch, dass die Auswahl von Aufgaben und Modellen wichtig ist: Generative Systeme für allgemeine Zwecke können für die bewerteten Aufgaben wesentlich mehr Energie benötigen als aufgabenspezifische Modelle.

Doch eine günstigere Antwort kann zu mehr Antworten führen. KI wird zu Suche, Bürosoftware, Codierung, Kundenbetreuung und Medienerstellung hinzugefügt. Der Gesamtbedarf steigt, wenn die Anzahl der Aufgaben schneller wächst als die Energie pro Aufgabe sinkt. So können sowohl eine verbesserte Effizienz als auch ein steigender Stromverbrauch wahr sein.

Das Basisszenario der IEA geht davon aus, dass der weltweite Stromverbrauch von Rechenzentren von etwa 415 TWh im Jahr 2024 auf etwa 945 TWh im Jahr 2030 steigen wird. Das Wachstum wird sowohl auf KI als auch auf andere digitale Dienste zurückgeführt, sodass die Gesamtmenge nicht allein auf KI umgestuft werden sollte.

Welche Benutzer und Dienste sich ändern können

Auf der Serviceebene sind die wichtigsten Hebel die Wahl des kleinsten leistungsfähigen Modells, die Verbesserung der Auslastung, die Begrenzung unnötiger Werkzeugabrufe, der Einsatz effizienter Hardware und die Ansiedlung flexibler Arbeitsplätze dort, wo kohlenstoffärmerer Strom verfügbar ist. Auf Benutzerebene können präzise Eingabeaufforderungen, sinnvolle Ausgabegrenzen und die Verwendung gewöhnlicher Software bei der Ausführung ihrer Aufgabe unnötige Berechnungen vermeiden.

Treechat leitet alltägliche Fragen an ein kleineres Modell weiter und schätzt die Energie jeder Antwort aus der Modell- und Token-Nutzung. Die Quittung enthält eine ausgewiesene Aufwandsentschädigung für das Rechenzentrum; es bleibt eine Schätzung, da die Anbieter nicht für jede Antwort einen Zähler offenlegen. Unser Methodik listet die aktuellen Annahmen auf.

KI verbraucht Energie aus verständlichen physikalischen Gründen, nicht weil Eingabeaufforderungen auf mysteriöse Weise in Umweltverschmutzung umgewandelt werden. Die sinnvolle Reaktion besteht darin, den Rechenaufwand sichtbar zu machen, ihn nach Möglichkeit zu reduzieren und größere Systeme für Arbeiten zu reservieren, die sie wirklich benötigen.