Wat is een datacenter-PUE?

De effectiviteit van het energieverbruik, of PUE, is de totale energie van het datacenter gedeeld door de energie die door de IT-apparatuur wordt gebruikt. Een PUE van 1.2 betekent dat voor elke eenheid die wordt gebruikt door servers, opslag- en netwerkapparatuur, nog eens 0.2 eenheden infrastructuur zoals koeling, stroomdistributie en verlichting ondersteunen.

Lager is beter, en 1.0 is de ideale ondergrens: alle facilitaire energie zou IT bereiken zonder overhead. Echte faciliteiten hebben verliezen en ondersteunende systemen, dus ze blijven boven de 1. De PUE is nuttig voor het volgen van de efficiëntie van gebouwen en het omzetten van schattingen op chipniveau in energie op faciliteitsniveau. Het meet niet of de software efficiënt is, of servers nuttig werk doen, hoe schoon de elektriciteit is of hoeveel waterkoeling verbruikt.

De PUE-formule in duidelijke taal

De formule is:

PUE = totale energie van het datacenter ÷ energie van IT-apparatuur

Het Amerikaanse ministerie van Energie ontwerpgids voor datacenters raadt aan om voor beide onderdelen jaarlijkse energie te gebruiken. De totale energie van de faciliteit omvat de elektriciteit en andere energie die het datacenter binnenkomt. IT-energie omvat computerapparatuur zoals servers, opslag en netwerken.

Stel dat een faciliteit in een bepaalde periode 120 megawattuur verbruikt en dat de IT-apparatuur er 100 gebruikt. Als u 120 door 100 deelt, krijgt u een PUE van 1.2. Het verschil van 20 megawattuur is de overhead van de infrastructuur. Dit is illustratieve rekenkunde, geen bewering over een bepaalde faciliteit.

PUE heeft geen eenheid omdat het een verhouding is. Het is niet “20% efficiënt”: in het voorbeeld ontvangt IT ongeveer 83% van de totale facilitaire energie, terwijl de overhead gelijk is aan 20% van de IT-energie. Het vermelden van de noemer voorkomt een veelvoorkomend misverstand.

Dezelfde rekenkunde werkt op elke energieschaal, op voorwaarde dat beide metingen dezelfde periode en faciliteitsgrens bestrijken.

Wat telt als overhead

Koeling is vaak de meest zichtbare categorie. Ventilatoren, pompen, koelmachines en koeltorens voeren de warmte weg van de apparatuur. Energiesystemen verliezen ook wat energie tijdens het omzetten en distribueren van elektriciteit. Ononderbroken stroomvoorzieningen, batterijen en transformatoren zorgen ervoor dat servers stabiel blijven tijdens storingen.

Verlichting, gebouwbeheersystemen en andere facilitaire systemen kunnen ook worden opgenomen. Meetgrenzen zijn van belang, vooral in gebouwen voor gemengd gebruik waar een serverruimte koel- of stroomapparatuur deelt met kantoren. Twee operators kunnen verschillend ogende verhoudingen rapporteren als de ene de volledige faciliteit meet en de andere zich baseert op schattingen of een smallere grens.

Het ministerie van Energie definieert PUE op basis van totaal jaarlijks facilitaire en IT-energie in zijn koelwatergeleiding. Een korte vermogensmeting kan de bedrijfsvoering ten goede komen, maar weersomstandigheden en belasting kunnen ervoor zorgen dat deze niet representatief is voor een heel jaar. Controleer bij het vergelijken van cijfers de tijdsperiode, het meetniveau en de grens.

Opwekking op locatie en hergebruikte warmte vereisen ook een consistente behandeling; anders delen ogenschijnlijk vergelijkbare verhoudingen mogelijk niet dezelfde teller.

Hoe PUE een AI-schatting verandert

Een schatting die alleen verwerkers bestrijkt, is kleiner dan een schatting die de hele faciliteit bestrijkt. Door IT-energie te vermenigvuldigen met PUE wordt rekening gehouden met de overhead van het datacenter. Als IT-werk wordt geschat op 1 wattuur en de PUE 1.2, wordt de energie van de faciliteit volgens deze vereenvoudigde berekening 1.2 wattuur.

Die aanpassing heeft alleen zin als de startraming al de betreffende IT-apparatuur dekt. Sommige AI-berekeningen tellen een versneller, maar laten host-CPU's, geheugen, opslag of netwerken weg. PUE kan ontbrekende IT-categorieën niet automatisch herstellen, omdat deze in de noemer thuishoren en niet in de overhead van de faciliteit.

Google's Methodologie voor AI-inferentie illustreert de bredere aanpak: het omvat actieve versnellers, inactieve machines, CPU en RAM voordat overhead van het datacenter wordt toegevoegd. Dit is de reden waarom het vergelijken van een schatting op basis van alleen een chip met een cijfer voor het volledige systeem misleidend kan zijn. Wat er gebeurt als je een AI-bericht verzendt laat zien waar deze componenten de workflow binnenkomen.

Wat een lage PUE niet bewijst

Een faciliteit kan een uitstekende PUE hebben terwijl de servers inactief zijn, de software onnodig werk verricht of de elektriciteit afkomstig is van een koolstofrijk elektriciteitsnet. PUE zegt hoeveel overhead IT ondersteunt; er wordt niet gevraagd of het IT-werk nuttig of efficiënt was. Een weinig gebruikte server die energie verbruikt, wordt nog steeds als IT geteld.

PUE zegt ook niets direct over de modelkwaliteit. Een kleiner model verbruikt mogelijk minder IT-energie, maar moet opnieuw worden geprobeerd. Een groter model kan een moeilijke taak ooit oplossen. Verantwoord kiezen vereist samen taaksucces en energie, zoals uitgelegd in een AI-assistent kiezen op basis van energieverbruik.

PUE is ook geen koolstofmetriek. Dezelfde verhouding kan gepaard gaan met verschillende elektriciteitsmixen en emissies. Contracten voor hernieuwbare energie, netomstandigheden per uur en back-upopwekking vallen buiten de berekening. De effectiviteit van koolstofgebruik, of CUE, is ontwikkeld voor een andere vraag, maar er is ook een duidelijk omschreven methode voor nodig.

PUE kan energie ruilen voor water

Sommige koelontwerpen maken gebruik van verdamping om warmte efficiënt te verwijderen. Dat kan de elektriciteitsoverhead verlagen en daardoor de PUE verbeteren, terwijl er ter plaatse meer water wordt verbruikt. Luchtgekoelde systemen kunnen het directe waterverbruik verminderen, maar vereisen in bepaalde klimaten meer energie. Er is geen universele winnaar zonder lokale omstandigheden.

De watergebruikseffectiviteit, of WUE, rapporteert water in verhouding tot IT-energie en vormt een aanvulling op PUE. Er is nog steeds duidelijkheid nodig over de vraag of water direct, indirect, onttrokken of geconsumeerd is. Lokale schaarste en seizoenen zijn van belang op een manier die niet in een mondiale ratio kan worden uitgedrukt.

Dit is één reden precies ChatGPT-water-versus-Google-Zoekverhouding is niet publiekelijk te steunen. Als u weet dat de PUE van een faciliteit de energieoverhead onthult, en niet het water dat aan een van beide producten is toegewezen. Een milieubeoordeling moet ervoor zorgen dat energie, water en koolstof zichtbaar blijven als gerelateerde, maar afzonderlijke maatstaven.

Een goed faciliteitsdashboard koppelt de PUE daarom aan maatregelen voor werklast, water en emissies, in plaats van dat er één verhouding wordt gevraagd om elke vraag te beantwoorden.

Een PUE-claim lezen

Vraag of het getal een ontwerpdoelstelling, een tijdelijke meting of een gemeten jaargemiddelde is. Controleer welke gebouwen en energiebronnen zijn opgenomen, waar IT-energie wordt gemeten en of de gerapporteerde waarde betrekking heeft op één locatie of op een vloot. Een zeer precieze verhouding zonder deze details kan minder communiceren dan een afgeronde, goed gedefinieerde verhouding.

Vraag bij AI ook wat er vóór de PUE-vermenigvuldiger staat: alleen het acceleratorvermogen, het volledige serververmogen of alle IT-apparatuur inclusief inactieve capaciteit. Vraag vervolgens naar de werklast (model, tokens, taak en succesvolle output), zodat de efficiëntie van de faciliteit niet wordt verward met modelefficiëntie.

Treechat maakt gebruik van een vastgestelde PUE-aanname binnen de op modellen gebaseerde operationele schatting; de huidige waarde en andere grenzen worden gepubliceerd op de methodologie pagina. Het is een toelage, geen live lezing van de faciliteit die een antwoord diende. PUE kan het beste precies zo worden gebruikt: als één transparant onderdeel van een energieberekening, nooit als een volledige milieuscore.