Egy mesterséges intelligencia iszonyatos mennyiségű adatfeldolgozásra képes, de ennek ára van. A működéséhez szükséges hardverek rengeteg energiát fogyasztanak, ami egyre kritikusabb kérdéseket vet fel.
Alex de Vries fintech szakértő és blokklánc influencer a Joule című folyóiratban publikált tanulmányában fejti ki, hogy napjainkban és a közeljövőben mekkora energiafogyasztást jelent a mesterséges intelligenciák üzemeltetése. Összehasonlításképpen: a ChatGPT viszonylag kis energiafogyasztónak számít (egyelőre, de folyamatosan növekszik), azzal, hogy a 10.000 darab Nvidia GPU, amelyen fut, 1287 MWh elektromos áramot használ fel. Ez nagyjából 121 amerikai háztartás éves fogyasztásával egyenlő. Nem sok, de csak egyelőre, és fontos leszögezni, hogy messze nem az OpenAI az egyetlen vállalat, ami egyre fejlettebb (ergo egyre több energiát felemésztő) AI-t üzemeltet.
Miközben az egyik legnagyobb technológiai fejlesztés, amit az ember valaha elért, egyre gyorsabban terjed, ideje feltenni a kérdést, hogy milyen árat fogunk fizetni érte? És nem csak a munkaerőpiacon, hanem a működéséhez szükséges energiainfrastruktúra szintjén is.
„2021-ben a Google teljes villamosenergia-fogyasztása 18,3 TWh volt, amelynek 10-15 százalékát már a mesterséges intelligenciára fordították. A legrosszabb forgatókönyv szerint csak a Google AI-ja annyi villamos energiát fogyaszthat, mint például Írország (évi 29,3 TWh), ami jelentős növekedés a korábbi, mesterséges intelligenciával kapcsolatos energiafogyasztáshoz képest” – magyarázta Vries. Ami azt illeti, a Google AI-ja abban a tempóban, ahogy a szakértő szerint növekszik, a magyarországi energiafogyasztással is (2022-ben kb. 45,7 TWh) versenyre kelhet. És még egyszer: ez még csak egy tech cég, ami AI-fejlesztéssel is foglalkozik.
A közelmúltban megfigyelhető volt, hogy egyre több vállalat fejleszt saját chipeket, hogy megfeleljen a magas AI-követelményeknek. A Google és az Amazon rendelkezik saját AI-chipekkel, míg a pletykák szerint a Microsoft a jövő hónapban mutatja be a sajátját. A Microsoft komoly befektetője tesz az OpenAI-nak is, ami a potenciáljának még csak egy kezdeti szakaszánál tart. Mindez azt jelenti, hogy az AI-ipar energiaigénye jelentősen növekedni fog. Vries szerint „az olyan vállalatok, mint például az Alphabet (Google), jelentősen megnövelhetik az energiaigényüket, ha a generatív AI beépül minden Google-keresésbe”. A félvezetőkkel és AI-val foglalkozó SemiAnalysis blog meg is becsülte, hogy ebben az esetben mekkora energiafogyasztást igényelnének, csupán a Google-keresések. Úgy számoltak, hogy 512.820 darab NVIDIA A100 HGX szerverre és több mint 4 millió GPU-ra lenne szükség. Ez szerverenként 6,5 kW-os teljesítményigény mellett napi 80 GWh, éves szinten pedig 29,2 TWh áramfogyasztást jelentene.
„Az OpenAI-nak 3617 darab NVIDIA HGX A100 szerverre és 28.936 darab GPU-ra volt szüksége a ChatGPT beindításához, ami napi 564 MWh energiaigényt jelentett - még azelőtt, hogy akár csak egy ember is elkezdte volna ténylegesen használni” – mutatott rá Vries.
A szerző végül megjegyezte, hogy túlzott optimizmus arra számítani, hogy a hardver- és szoftverhatékonyság javulása teljes mértékben ellensúlyozni fogja a mesterséges intelligenciával kapcsolatos villamosenergia-fogyasztás hosszú távú változásait. Törekvések azonban vannak. Az MIT kutatócsoportja például épp’ a múlt héten számolt be arról, hogy elkezdték keresni az AI modellek energiafogyasztás-csökkentésének lehetőségeit. A mesterséges intelligencia alkalmazások mögött duruzsoló GPU-k fogyasztásának optimalizálásával 12-15 százalékkal tudták visszafogni a felhasznált energiát. Az ehhez hasonló megoldásokkal vagy például a kriptovaluta bányászatból kikerülő GPU-k újrahasznosításával sokat lehetne csökkenteni az AI-k egyre inkább elszálló fogyasztásán és karbonlábnyomán.
Gábor János
Főoldali kép: Glen Cooper - MIT
A legutóbbi kivitelezési fázisban több mint kétezer köbméter beton került az 5. blokki nukleáris sziget épületeinek alaplemezébe – számolt be a paks2.hu.