Pradžia / Programavimas / AI infrastruktūros energijos poreikis

AI infrastruktūros energijos poreikis

Prieš kelerius metus duomenų centro elektros sąskaita buvo gana nuobodi tema – kažkur IT skyriaus biudžeto eilutė, apie kurią niekas ypač nekalbėdavo per kavos pertrauką. Šiandien situacija visiškai kitokia. Dirbtinio intelekto modelių treniravimas ir eksploatavimas pavertė energijos suvartojimą viena karščiausių temų technologijų pasaulyje, o kai kurie ekspertai net kalba apie tai, kad AI plėtra gali tapti ne skaičiavimo galios, o tiesiog elektros trūkumo problema.

Verta pažiūrėti, kas iš tikrųjų vyksta po gaubtu, kodėl vienas GPU klasteris gali suvartoti tiek pat energijos kiek mažas miestelis, ir kokie sprendimai šiuo metu svarstomi, kad viskas nesugriūtų.

Kodėl GPU serveriai ryja tiek daug energijos

Tradicinis serveris, kuriame sukasi CPU pagrindu veikiančios aplikacijos, suvartoja gerokai mažiau energijos nei serveris, prigrūstas didelio galingumo grafikos procesorių. NVIDIA H100 čipas viename kortelėje gali suvartoti apie 700 vatų, o naujesni Blackwell architektūros sprendimai jau artėja prie 1000-1200 vatų vienam GPU. Dabar padauginkite tai iš aštuonių ar šešiolikos kortelių viename serveryje, pridėkite tinklo įrangą, atmintį, aušinimą – ir gausite serverio stovą, kuris suvartoja tiek pat, kiek keliolika namų ūkių kartu.

Skirtumas nuo klasikinio skaičiavimo yra tas, kad AI treniravimo procesai veikia beveik nenutrūkstamai, maksimaliu apkrovimu, ilgą laiką. Tai nėra trumpalaikis pikas – tai savaites ar mėnesius trunkantis darbas, kai visi GPU dirba beveik ties fizine riba. Toks nuoseklus, aukštas suvartojimas tinklui yra kur kas sunkesnis iššūkis nei trumpi apkrovos pikai, prie kurių elektros tinklai jau seniai pripratę.

Duomenų centrų skaičiai, kurie verčia susimąstyti

Tarptautinė energetikos agentūra savo ataskaitose jau kelis metus iš eilės pabrėžia, kad duomenų centrų elektros suvartojimas auga daug greičiau, nei buvo prognozuota. Kai kuriose šalyse, pavyzdžiui, Airijoje, duomenų centrai jau dabar sunaudoja daugiau nei penktadalį visos šalies elektros energijos. JAV atveju kalbama apie tai, kad iki šio dešimtmečio pabaigos duomenų centrai gali suvartoti tiek elektros, kiek šiandien suvartoja visa pramoninė gamyba tam tikruose regionuose.

Įdomu tai, kad problema nebe vien apie bendrą suvartojimą – ji apie geografinį pasiskirstymą ir tinklo pralaidumą konkrečiose vietose. Virdžinijos valstijoje, kur susikoncentravusi didžiulė dalis pasaulio duomenų centrų (vadinamoji „Data Center Alley”), vietos elektros tinklo operatoriai jau atvirai kalba, kad naujų projektų prijungimo eilė nusidriekia iki 2030-ųjų. Tai reiškia, kad techniškai galima pastatyti duomenų centrą per metus, bet elektros prijungti nebus kur dar penkerius metus.

Kas konkrečiai suvartoja daugiausiai

  • GPU ir AI greitintuvai – patys skaičiavimo branduoliai, sudarantys apie 60-70% viso stovo suvartojimo
  • Aušinimo sistemos – priklausomai nuo klimato ir technologijos, gali sudaryti nuo 15% iki 40% papildomo suvartojimo
  • Tinklo infrastruktūra ir tarpusavio ryšiai tarp GPU – dažnai nepakankamai įvertinama dalis, ypač didelio masto klasteriuose
  • Atmintis ir saugykla – santykinai mažesnė dalis, bet auga kartu su modelių dydžiu

Aušinimas – tylusis energijos vartotojas

Kai žmonės galvoja apie AI energijos poreikį, dažniausiai įsivaizduoja tik patį skaičiavimą. Tačiau aušinimas yra atskira, be galo svarbi tema. Tradicinis oro aušinimas tampa nebeefektyvus, kai vienas stovas generuoja 30-100 kilovatų šilumos – tokiu atveju paprasčiausiai nebeįmanoma pakankamai greitai pašalinti karščio vien ventiliatoriais.

Todėl pramonė sparčiai persiorientuoja į skysčio aušinimą – tiek tiesioginį aušinimą per plokšteles ant lustų (direct-to-chip), tiek panardinimo technologijas, kai visas serveris paskandinamas specialiame dielektriniame skystyje. Skysčio aušinimas gali sumažinti energijos sąnaudas aušinimui net 30-40 procentų, palyginti su tradiciniu oro srautu, tačiau jis reikalauja visiškai kitokios infrastruktūros – vamzdynų, siurblių, šilumokaičių. Tai nėra paprastas atnaujinimas, o iš esmės naujas duomenų centro projektavimo požiūris.

Įdomus faktas – kai kurios kompanijos jau eksperimentuoja su liekamosios šilumos panaudojimu. Suomijoje ir Švedijoje veikia duomenų centrai, kurių generuojama šiluma nukreipiama į miesto šildymo tinklus. Tai gražus pavyzdys, kaip technologinė problema gali tapti dalimi sprendimo kitai sričiai.

Elektros tinklų realybė: kodėl viskas nevyksta taip greitai, kaip norėtųsi

Vienas dažniausiai nepastebimų aspektų – tai, kad AI plėtros greitis ir elektros infrastruktūros plėtros greitis skiriasi radikaliai. Naują duomenų centrą su reikalinga IT įranga galima pastatyti per 12-18 mėnesių. O naują aukštos įtampos elektros perdavimo liniją ar pastotę – dažnai 5-10 metų, atsižvelgiant į leidimus, aplinkosaugos vertinimus ir bendruomenių pasipriešinimą.

Ši laiko takoskyra sukuria realų kaklo siaurėjimą. Kompanijos, tokios kaip Microsoft, Google ar Amazon, jau pradėjo tiesiogiai investuoti į energijos gamybą, kad apeitų šią problemą. Microsoft pasirašė sutartį dėl branduolinės energetikos atgaivinimo Three Mile Island objekte – tai simboliška, nes vietoj laukimo, kol valstybinis tinklas išsiplės, kompanija tiesiog užsitikrina savo energijos šaltinį.

Panaši tendencija matoma ir su mažaisiais moduliniais reaktoriais (SMR) – keletas didžiųjų technologijų kompanijų jau pasirašė ilgalaikes sutartis su SMR kūrėjais, tikėdamosios, kad iki dešimtmečio pabaigos šie reaktoriai galės tiekti stabilų, be anglies dioksido energijos šaltinį tiesiai duomenų centrams.

Atsinaujinanti energija – dalis atsakymo, bet ne visas

Saulės ir vėjo energija yra pigiausi naujos generacijos šaltiniai, tačiau jų nepastovumas kertasi su AI duomenų centrų poreikiu turėti nuolatinį, prognozuojamą maitinimą. Būtent todėl pramonė vis dažniau kalba apie hibridinius sprendimus – saulės ar vėjo jėgaines derinant su baterijų saugyklomis arba dujų generatoriais kaip atsargine sistema. Tai nėra idealu klimato požiūriu, bet realybėje būtent taip dažniausiai ir sprendžiama, kai reikia užtikrinti 24/7 veikimą.

Kaip modelių efektyvumas keičia žaidimą

Ne viskas apie energiją sukasi vien apie infrastruktūrą – didelė dalis sprendimo slypi ir pačių modelių architektūroje. Pastaraisiais metais matome aiškią kryptį link efektyvesnių modelių, kurie pasiekia panašų ar geresnį rezultatą su mažesniu skaičiavimo poreikiu.

Mixture-of-experts architektūra, kvantizacija, distiliavimas – visa tai leidžia sumažinti energijos poreikį vienai užklausai apdoroti. Pavyzdžiui, kai modelis naudoja „expert” pomodulius ir aktyvuoja tik dalį parametrų kiekvienai užklausai, bendras energijos suvartojimas gali sumažėti kelis kartus, palyginti su tuo, jei būtų aktyvuojami visi parametrai vienu metu.

Taip pat verta paminėti, kad inferencijos (modelio naudojimo, o ne treniravimo) energijos poreikis ilgainiui gali viršyti treniravimo poreikį, nes treniravimas vyksta vieną kartą, o inferencija – milijardus kartų per dieną, visame pasaulyje. Todėl kompanijos, tokios kaip OpenAI ar Anthropic, aktyviai investuoja į specializuotą inferencijos aparatūrą, kuri optimizuota būtent greitam, energetiškai efektyviam atsakymų generavimui, o ne treniravimui.

Ką visa tai reiškia įmonėms, planuojančioms savo AI infrastruktūrą

Jei jūsų organizacija svarsto diegti savo AI infrastruktūrą – ar tai būtų vietinis GPU klasteris, ar debesijos paslaugų naudojimas didesniu mastu – energijos klausimas nebėra kažkas, ką galima ignoruoti planavimo etape. Keletas praktinių dalykų, į kuriuos verta atkreipti dėmesį:

  • Prieš pasirašant sutartį su duomenų centro operatoriumi, patikrinkite PUE (Power Usage Effectiveness) rodiklį – kuo arčiau 1.0, tuo efektyvesnis aušinimas ir mažiau energijos švaistoma šalutiniams procesams
  • Jei planuojate didelio masto treniravimą, verta iš anksto derėtis dėl elektros prieinamumo garantijų – kai kurie regionai jau šiandien negali garantuoti papildomos galios naujiems projektams
  • Debesijos paslaugų teikėjai (AWS, Azure, Google Cloud) vis dažniau siūlo pasirinkti regionus pagal energijos šaltinio tipą – jei svarbu tvarumo ataskaitos, tai reali ir naudinga funkcija
  • Mažesni, efektyvesni modeliai konkrečiai užduočiai dažnai atlieka darbą geriau nei universalus milžiniškas modelis – verta įvertinti, ar tikrai reikia didžiausio dostupno modelio kiekvienai užduočiai

Vietoj taško – ką reikia stebėti artimiausiais metais

Energijos klausimas AI srityje neišnyks – jis tik taps dar aktualesnis, kai modeliai augs, o naudotojų skaičius didės. Verta stebėti kelis konkrečius signalus, kurie parodys, kuria linkme viskas krypsta.

Pirma, kaip greitai branduolinės energetikos projektai (tiek klasikiniai reaktoriai, tiek SMR) realiai pradės tiekti energiją duomenų centrams – čia daug pažadų, bet dar mažai realiai veikiančių objektų. Antra, ar aušinimo technologijų revoliucija (skysčio aušinimas, panardinimo sistemos) taps standartu, ar liks nišine praktika didžiausiems žaidėjams. Trečia, kaip greitai modelių efektyvumo tyrimai atsvers augantį modelių dydį – galbūt ateityje mažesni, protingiau suprojektuoti modeliai taps norma, o ne išimtis.

Ir galiausiai – verta stebėti, kaip valstybės reaguoja reguliaciniu lygmeniu. Kai kurios šalys jau svarsto specialius tarifus ar apribojimus duomenų centrams, kad apsaugotų vietinius elektros vartotojus nuo kainų šuolių. Tai tema, kuri iš technologinės greitai virsta politine, ir kompanijos, kurios tai supranta anksti, turės aiškų pranašumą planuodamos savo infrastruktūrą ateinantiems metams.

Trumpai tariant – AI ateitis priklauso ne tik nuo to, kas sukurs protingiausią modelį, bet ir nuo to, kas sugebės tą modelį maitinti stabiliai, efektyviai ir, tikėkimės, be per didelio poveikio planetai.