Kai paklausi ChatGPT kokio nors klausimo arba paprašai Midjourney sugeneruoti paveikslėlį, retai pagalvoji, kad tas atsakymas kainuoja realią elektrą, vandenį ir gan konkrečią pinigų sumą kažkur duomenų centre. AI energijos suvartojimo tema pastaruoju metu tapo viena karščiausių IT sektoriuje – ir ne be reikalo. Kalbame apie technologiją, kuri per pastaruosius kelerius metus iš nišinio įrankio tapo kasdienybe šimtams milijonų žmonių, o jos energetinis apetitas auga sparčiau nei bet kas kitas skaitmeninėje pramonėje.
Kodėl šis klausimas išvis iškilo
Dar prieš kokius penkerius metus dirbtinio intelekto energijos sąnaudos buvo daugiau akademinio susidomėjimo objektas – tyrėjai skaičiavo, kiek CO2 išmeta vieno didelio modelio treniravimas, ir straipsniai apie tai pasirodydavo kartą per metus. Šiandien situacija visiškai kitokia. ChatGPT aptarnauja šimtus milijonų užklausų kasdien, Google į kiekvieną paiešką bando įpinti AI apžvalgas, o generatyvūs paveikslėlių ir video modeliai tapo standartine dalimi darbo procesų dizaino, rinkodaros ir net kino industrijose. Kai technologija pereina iš eksperimento į masinį naudojimą, jos energetinis pėdsakas nustoja būti abstrakcija ir tampa realiu iššūkiu elektros tinklams.
International Energy Agency (IEA) savo ataskaitose jau įtraukia atskirą skyrių apie duomenų centrus ir AI – tai pats geriausias ženklas, kad tema peržengė techninių entuziastų ratą ir pasiekė energetikos politikos formuotojus. Prognozuojama, kad iki 2026 metų pasaulinis duomenų centrų elektros suvartojimas gali padvigubėti, o didžioji dalis to augimo bus susieta būtent su AI apkrova.
Treniravimas prieš inferenciją – kur iš tikrųjų dingsta energija
Yra dvi visiškai skirtingos AI energijos suvartojimo fazės, ir jas verta atskirti, nes žiniasklaidoje jos dažnai susimaišo. Pirma – modelio treniravimas (training), kai neuroninis tinklas mokomas iš milžiniškų duomenų kiekių. Antra – inferencija (inference), tai yra kiekvienas kartas, kai jau apmokytas modelis atsako į vartotojo užklausą.
GPT-3 dydžio modelio treniravimas, pasak įvairių skaičiavimų, sunaudoja apie 1 300 megavatvalandžių elektros – tai apytiksliai tiek, kiek sunaudoja 130 amerikiečių namų ūkių per metus. Didesniems, naujesnės kartos modeliams skaičiai dar ženklesni, nors tikslių duomenų kompanijos nesidalina – tai jau tapo komercine paslaptimi lygiai taip pat, kaip ir patys treniravimo duomenys.
Bet čia yra svarbus niuansas: treniravimas įvyksta vieną kartą (arba kelis kartus, jei modelis atnaujinamas). Inferencija vyksta nuolat, milijonus kartų per dieną, ir būtent ji ilgainiui sudaro didžiąją bendro energijos suvartojimo dalį. Vienas tekstinis ChatGPT atsakymas, priklausomai nuo modelio dydžio ir užklausos ilgio, sunaudoja apytiksliai 10 kartų daugiau energijos nei įprasta Google paieška. Skaičius atrodo nedidelis, kol nepadauginame jo iš šimtų milijonų kasdienių užklausų.
GPU karštligė ir duomenų centrų realybė
Visa ši skaičiavimo galia kažkur turi fiziškai vykti, o ten vyksta ji Nvidia H100 ar naujesniuose Blackwell čipuose, kurių kiekvienas suvartoja kelis šimtus vatų vien darbo metu, o dar reikia aušinimo. Vienas standartinis AI treniravimo serverių stovas duomenų centre gali suvartoti tiek elektros, kiek nedidelis kaimo gyvenvietė.
Didieji technologijų žaidėjai – Microsoft, Google, Meta, Amazon – dabar stato duomenų centrus tokiu tempu, kad kai kuriuose regionuose vietinės elektros tinklo operatoriai atvirai sako negalintys užtikrinti pakankamos galios naujiems projektams. Airija yra puikus pavyzdys: duomenų centrai ten jau suvartoja apie penktadalį visos šalies elektros, ir vietinė valdžia laikinai stabdo naujų centrų statybas kai kuriuose regionuose, nes tinklas tiesiog nebeatlaiko apkrovos.
Aušinimas – atskira problema. Serverių salėse temperatūra turi būti griežtai kontroliuojama, o tradiciniai oro kondicionavimo sprendimai jau nebepakankami tokiam čipų tankumui. Todėl vis dažniau naudojamas skysčio aušinimas (liquid cooling), kai aušinimo skystis teka tiesiai per procesorių radiatorius – tai efektyviau energetiškai, bet reikalauja visiškai kitokios infrastruktūros nei buvo prieš dešimtmetį.
Vanduo – tylusis AI kaina komponentas
Apie elektrą kalbama daug, bet vandens suvartojimas dažnai lieka šešėlyje, nors jis ne mažiau svarbus. Daugelis duomenų centrų aušinimui naudoja garinamojo aušinimo sistemas (evaporative cooling), kurios sunaudoja realų geriamą vandenį. Tyrimai rodo, kad vienas pokalbis su ChatGPT, susidedantis iš kelių dešimčių klausimų ir atsakymų, gali „suvartoti“ apytiksliai puslitrio vandens ekvivalentą – tiek reikia atvėsinti serverius, kurie tą pokalbį apdorojo.
Microsoft savo aplinkosaugos ataskaitose pripažino, kad vandens suvartojimas jų duomenų centruose pastaraisiais metais išaugo dešimtimis procentų būtent dėl AI plėtros. Tai ypač jautru sausringuose regionuose, tokiuose kaip Arizona ar dalis Ispanijos, kur vietos gyventojai ir duomenų centrai konkuruoja dėl to paties vandens šaltinio.
Ar tikrai tai tiek pat blogai, kiek atrodo
Verta pridėti sveiko skepticizmo. Palyginimai su „skrydžiu per Atlantą“ ar „automobilio kelione“ dažnai pasirodo be konteksto ir be paaiškinimo, kokia metodika naudota skaičiuojant. Skirtingi tyrimai duoda gerokai skirtingus skaičius, nes priklauso nuo to, koks modelis naudojamas, kokioje šalyje veikia duomenų centras (ir kokia ten elektros gamybos šaltinių struktūra), ir ar skaičiuojama tik pati GPU apkrova, ar visa infrastruktūra kartu su aušinimu.
Taip pat naudinga palyginti AI su kitomis pramonės šakomis. Visas pasaulio duomenų centrų sektorius (įskaitant ir tradicinius, ne tik AI) sudaro apie 1-1.5% viso pasaulio elektros suvartojimo. Tai nemažai, bet, pavyzdžiui, oro kondicionavimas pastatuose ar geležies-plieno pramonė sunaudoja gerokai daugiau. AI dalis šiame kontekste kol kas yra mažuma, nors sparčiausiai auganti.
Ką daro kompanijos, kad sumažintų sąnaudas
Čia yra ir gana daug pozityvių dalykų. Pirma, čipų efektyvumas nuolat gerėja – kiekviena Nvidia karta suteikia daugiau skaičiavimo galios vatui elektros. Antra, patys modeliai tampa efektyvesni: technikos, tokios kaip kvantizacija (modelio parametrų tikslumo mažinimas), distiliacija (mažesnio modelio mokymasis iš didesnio) ir „mixture of experts“ architektūra (kai užklausai apdoroti aktyvuojama tik dalis viso modelio, o ne visas jis) leidžia gauti panašią kokybę su ženkliai mažesnėmis sąnaudomis.
Google DeepMind pranešė, kad jų naujesni Gemini modeliai per inferenciją suvartoja žymiai mažiau energijos nei ankstesnės versijos, teikdami panašų ar geresnį rezultatą. Panašiai elgiasi ir OpenAI su „mini“ bei „nano“ versijomis savo modelių – ne kiekvienai užduočiai reikia didžiausio galimo modelio.
Trečia strategija – lokacijos pasirinkimas. Duomenų centrai vis dažniau statomi ten, kur elektra pigi ir žalia: šalia hidroelektrinių Skandinavijoje, vėjo parkų prie Šiaurės jūros ar saulės elektrinių JAV pietvakariuose. Microsoft, Google ir Amazon investuoja į branduolinę energetiką bei net į mažuosius modulinius reaktorius (SMR), kad turėtų stabilų, be anglies dvideginio veikiantį elektros šaltinį savo AI infrastruktūrai.
Praktinis požiūris: ką gali padaryti vartotojas ar įmonė
Nors atskiro vartotojo indėlis atrodo lašas jūroje, sąmoningesnis AI naudojimas turi prasmę, ypač įmonėms, kurios integruoja AI dideliu mastu:
- Rinkis tinkamo dydžio modelį užduočiai. Paprastam tekstų redagavimui ar klasifikavimui nereikia galingiausio ir brangiausio modelio rinkoje – mažesni, specializuoti modeliai dažnai atlieka darbą taip pat gerai ir sunaudoja gerokai mažiau resursų.
- Venk nereikalingų pakartotinių užklausų. Jeigu žinai, ko nori paklausti, suformuluok klausimą aiškiai iš karto, o ne po dešimt kartų perklausk tą patį kitaip.
- Naudok caching sprendimus. Jei sistema kartoja panašias užklausas, atsakymų kešavimas leidžia išvengti pakartotinio skaičiavimo tam pačiam rezultatui.
- Domėkis, iš kur imama energija. Renkantis debesijos paslaugų teikėją AI projektams, verta pasidomėti, kokiuose regionuose jų duomenų centrai veikia ir kokia yra elektros šaltinių struktūra.
- Neautomatizuok visko be reikalo. Ne kiekviena užduotis realiai reikalauja AI – kartais paprastas skriptas ar taisyklėmis pagrįstas sprendimas atlieka darbą efektyviau ir su mažesniu energetiniu pėdsaku.
Įmonėms, kurios rimtai integruoja AI į savo produktus, verta atlikti ir energijos audito tipo analizę – kiek realiai kainuoja kiekviena API užklausa, ar galima ją optimizuoti batch processing būdu, ar reikia realaus laiko atsako, ar galima leisti sistemai apdoroti duomenis ne piko valandomis, kai elektros tinklas mažiau apkrautas.
Vietoje taško – kur šita istorija veda toliau
AI energijos suvartojimo tema nėra apie tai, ar reikia atsisakyti technologijos – tai jau neįmanoma ir nereikalinga. Klausimas yra kitas: ar mes sugebėsime augti protingai, nesileisdami, kad entuziazmas dėl naujų galimybių aplenktų infrastruktūros ir energetikos realybę. Šiuo metu matome įdomų paradoksą – patys AI kūrėjai investuoja į efektyvumo sprendimus tuo pačiu metu, kai jų produktai sunaudoja vis daugiau resursų absoliučiais skaičiais. Tai panašu į situaciją su automobilių pramone prieš dešimtmetį: varikliai tapo efektyvesni, bet automobilių ir nuvažiuotų kilometrų padaugėjo tiek, kad bendras kuro suvartojimas vis tiek augo.
Kitas dešimtmetis parodys, ar branduolinė energetika, saulės ir vėjo plėtra bei protingesnė čipų architektūra sugebės neatsilikti nuo AI apetito, ar teks rinktis tarp technologinės pažangos tempo ir aplinkos apsaugos tikslų. Kol kas geriausia, ką gali padaryti kiekvienas iš mūsų – nuo pavienio vartotojo iki didelės korporacijos IT skyriaus – tai naudoti AI sąmoningai, klausti klausimų apie skaidrumą ir nebijoti reikalauti, kad kompanijos, kuriančios šias technologijas, atskleistų tikrus skaičius, o ne tik gražius pažadus apie „žalią AI ateitį“. Skaidrumas šioje srityje kol kas yra deficitinė prekė, ir būtent to labiausiai trūksta, norint priimti pagrįstus sprendimus – ar tai būtų politikos formuotojas, verslo vadovas, ar tiesiog žmogus, kasdien rašantis promptus savo mėgstamam čatbotui.
