I den verdensomspændende indsats for at stoppe klimaforandringerne er Zac Smith en del af en voksende bevægelse for at bygge datacentre, der leverer både høj ydeevne og energieffektivitet.
Han er leder af edge-infrastruktur hos Equinix, en global tjenesteudbyder, der administrerer mere end 240 datacentre og er forpligtet til at blive den første i sin sektor, der er klimaneutral.
"Vi har 10,000 kunder, der regner med, at vi får hjælp til denne rejse. De efterspørger mere data og mere intelligens, ofte med kunstig intelligens, og de vil have det på en bæredygtig måde,” sagde Smith, en Julliard-kandidat, som begyndte på teknologi i begyndelsen af 2000'erne med at bygge hjemmesider for andre musikere i New York City.
Markering af fremskridt i effektivitet
Fra april har Equinix udstedt 4.9 milliarder dollars i grønne obligationer. De er instrumenter af investeringskvalitet, som Equinix vil anvende til at reducere miljøpåvirkningen gennem optimering af strømforbrugseffektivitet (PUE), en branchemåling af, hvor meget af energien et datacenter bruger, der går direkte til computeropgaver.
Datacenteroperatører forsøger at barbere dette forhold stadig tættere på idealet på 1.0 PUE. Equinix-faciliteter har et gennemsnit på 1.48 PUE i dag, hvor de bedste nye datacentre rammer mindre end 1.2.
Som endnu et skridt fremad åbnede Equinix i januar en dedikeret facilitet til at forfølge fremskridt inden for energieffektivitet. En del af det arbejde fokuserer på væskekøling.
Født i mainframe-æraen modnes væskekøling i kunstig intelligensens tidsalder. Det er nu meget brugt i verdens hurtigste supercomputere i en moderne form kaldet direkte-chip-køling.
Væskekøling er næste trin accelereret databehandling til NVIDIA GPU'er, der allerede leverer op til 20 gange bedre energieffektivitet på AI-inferens og højtydende computerjob end CPU'er.
Effektivitet gennem acceleration
Hvis du skiftede alle de CPU-only-servere, der kører AI og HPC på verdensplan, til GPU-accelererede systemer, kan du spare hele 11 billioner watt-timers energi om året. Det svarer til at spare på energien, som mere end 1.5 millioner hjem bruger på et år.
I dag tilføjer NVIDIA sin bæredygtighedsindsats med udgivelsen af vores første datacenter PCIe GPU, der bruger direkte chip-køling.
Equinix er kvalificeret til A100 80GB PCIe væskekølet GPU til brug i dets datacentre som en del af en omfattende tilgang til bæredygtig køling og varmefangst. GPU'erne prøver nu og vil være almindeligt tilgængelige til sommer.
Sparer vand og strøm
"Dette er den første væskekølede GPU introduceret til vores laboratorium, og det er spændende for os, fordi vores kunder er sultne efter bæredygtige måder at udnytte AI på," sagde Smith.
Datacenteroperatører sigter mod at eliminere kølere, der fordamper millioner af gallons om året for at afkøle luften inde i datacentre. Væskekøling lover systemer, der genbruger små mængder væsker i lukkede systemer med fokus på vigtige hot spots.
"Vi forvandler et affald til et aktiv," sagde han.
Samme ydeevne, mindre kraft
I separate test fandt både Equinix og NVIDIA ud af, at et datacenter, der bruger væskekøling, kunne køre de samme arbejdsbelastninger som et luftkølet anlæg, mens det bruger omkring 30 procent mindre energi. NVIDIA vurderer, at det væskekølede datacenter kan nå 1.15 PUE, langt under 1.6 for dets luftkølede fætter.
Væskekølede datacentre kan også pakke dobbelt så meget databehandling på det samme rum. Det skyldes, at A100 GPU'erne kun bruger et PCIe slot; luftkølede A100 GPU'er fylder to.
Mindst et dusin systemproducenter planlægger at inkorporere disse GPU'er i deres tilbud senere på året. De omfatter ASUS, ASRock Rack, Foxconn Industrial Internet, GIGABYTE, H3C, Inspur, Inventec, Nettrix, QCT, Supermicro, Wiwynn og xFusion
En global trend
Forordninger, der fastsætter standarder for energieffektivitet, er under behandling i Asien, Europa og USA. Det motiverer banker og andre store datacenteroperatører til også at evaluere væskekøling.
Og teknologien er ikke begrænset til datacentre. Biler og andre systemer har brug for det til at køle højtydende systemer indlejret i lukkede rum.
Vejen til bæredygtighed
"Dette er starten på en rejse," sagde Smith om debuten af væskekølede mainstream-acceleratorer.
Faktisk planlægger vi at følge op på A100 PCIe-kortet med en version næste år ved hjælp af H100 Tensor Core GPU baseret på NVIDIA Hopper-arkitektur. Vi planlægger at understøtte væskekøling i vores højtydende datacenter-GPU'er og vores NVIDIA HGX-platforme i en overskuelig fremtid.
For hurtig brug leverer dagens væskekølede GPU'er den samme ydeevne for mindre energi. I fremtiden forventer vi, at disse kort vil give en mulighed for at få mere ydeevne for den samme energi, noget brugerne siger, de ønsker.
"Alene måling af watt er ikke relevant, den ydeevne, du får for den kulstofpåvirkning, du har, er det, vi skal køre hen imod," sagde Smith.
Lær mere om vores nye A100 PCIe væskekølede GPU'er.
Stillingen NVIDIA tilføjer væskekølede GPU'er til bæredygtig, effektiv databehandling dukkede først på NVIDIA blog.
