Csak a Google AI-ja annyi energiát fogyaszthat majd, mint Írország

Csak a Google AI-ja annyi energiát fogyaszthat majd, mint Írország
2023. 10. 11., 16:08

Egy mesterséges intelligencia iszonyatos mennyiségű adatfeldolgozásra képes, de ennek ára van. A működéséhez szükséges hardverek rengeteg energiát fogyasztanak, ami egyre kritikusabb kérdéseket vet fel.

Alex de Vries fintech szakértő és blokklánc influencer a Joule című folyóiratban publikált tanulmányában fejti ki, hogy napjainkban és a közeljövőben mekkora energiafogyasztást jelent a mesterséges intelligenciák üzemeltetése. Összehasonlításképpen: a ChatGPT viszonylag kis energiafogyasztónak számít (egyelőre, de folyamatosan növekszik), azzal, hogy a 10.000 darab Nvidia GPU, amelyen fut, 1287 MWh elektromos áramot használ fel. Ez nagyjából 121 amerikai háztartás éves fogyasztásával egyenlő. Nem sok, de csak egyelőre, és fontos leszögezni, hogy messze nem az OpenAI az egyetlen vállalat, ami egyre fejlettebb (ergo egyre több energiát felemésztő) AI-t üzemeltet.

Miközben az egyik legnagyobb technológiai fejlesztés, amit az ember valaha elért, egyre gyorsabban terjed, ideje feltenni a kérdést, hogy milyen árat fogunk fizetni érte? És nem csak a munkaerőpiacon, hanem a működéséhez szükséges energiainfrastruktúra szintjén is.

„2021-ben a Google teljes villamosenergia-fogyasztása 18,3 TWh volt, amelynek 10-15 százalékát már a mesterséges intelligenciára fordították. A legrosszabb forgatókönyv szerint csak a Google AI-ja annyi villamos energiát fogyaszthat, mint például Írország (évi 29,3 TWh), ami jelentős növekedés a korábbi, mesterséges intelligenciával kapcsolatos energiafogyasztáshoz képest” – magyarázta Vries. Ami azt illeti, a Google AI-ja abban a tempóban, ahogy a szakértő szerint növekszik, a magyarországi energiafogyasztással is (2022-ben kb. 45,7 TWh) versenyre kelhet. És még egyszer: ez még csak egy tech cég, ami AI-fejlesztéssel is foglalkozik.

Gyorsan duzzad az AI-piac

A közelmúltban megfigyelhető volt, hogy egyre több vállalat fejleszt saját chipeket, hogy megfeleljen a magas AI-követelményeknek. A Google és az Amazon rendelkezik saját AI-chipekkel, míg a pletykák szerint a Microsoft a jövő hónapban mutatja be a sajátját. A Microsoft komoly befektetője tesz az OpenAI-nak is, ami a potenciáljának még csak egy kezdeti szakaszánál tart. Mindez azt jelenti, hogy az AI-ipar energiaigénye jelentősen növekedni fog. Vries szerint „az olyan vállalatok, mint például az Alphabet (Google), jelentősen megnövelhetik az energiaigényüket, ha a generatív AI beépül minden Google-keresésbe”. A félvezetőkkel és AI-val foglalkozó SemiAnalysis blog meg is becsülte, hogy ebben az esetben mekkora energiafogyasztást igényelnének, csupán a Google-keresések. Úgy számoltak, hogy 512.820 darab NVIDIA A100 HGX szerverre és több mint 4 millió GPU-ra lenne szükség. Ez szerverenként 6,5 kW-os teljesítményigény mellett napi 80 GWh, éves szinten pedig 29,2 TWh áramfogyasztást jelentene.

„Az OpenAI-nak 3617 darab NVIDIA HGX A100 szerverre és 28.936 darab GPU-ra volt szüksége a ChatGPT beindításához, ami napi 564 MWh energiaigényt jelentett - még azelőtt, hogy akár csak egy ember is elkezdte volna ténylegesen használni” – mutatott rá Vries.

A szerző végül megjegyezte, hogy túlzott optimizmus arra számítani, hogy a hardver- és szoftverhatékonyság javulása teljes mértékben ellensúlyozni fogja a mesterséges intelligenciával kapcsolatos villamosenergia-fogyasztás hosszú távú változásait. Törekvések azonban vannak. Az MIT kutatócsoportja például épp’ a múlt héten számolt be arról, hogy elkezdték keresni az AI modellek energiafogyasztás-csökkentésének lehetőségeit. A mesterséges intelligencia alkalmazások mögött duruzsoló GPU-k fogyasztásának optimalizálásával 12-15 százalékkal tudták visszafogni a felhasznált energiát. Az ehhez hasonló megoldásokkal vagy például a kriptovaluta bányászatból kikerülő GPU-k újrahasznosításával sokat lehetne csökkenteni az AI-k egyre inkább elszálló fogyasztásán és karbonlábnyomán.

Gábor János

Főoldali kép: Glen Cooper - MIT

Ha tetszett a cikk, kövesse az ÜZLETEMET
a Facebookon!

Még több friss hír

2024. 09. 06., 15:06
Az előző hónaphoz képest a 95-ös benzin átlagára 7 forinttal, 605 forintra, a gázolajé 10 forinttal, 611 forintra csökkent augusztusban a statisztikai hivatal jelentése szerint; a benzin átlagára 7 forinttal a szomszédos országok átlagára alatt maradt, a gázolajé megegyezett a szomszédos országokéval.
2024. 09. 05., 19:05
Nyár végéig a Balatoni Hajózási Zrt. kompjai 1 millió 229 ezer, a személyhajók pedig 791 ezer utast szállítottak, a társaság így tavalyhoz képest már 2 hónappal korábban, augusztus végére elérte a 2 milliós utasszámot.

  BIZNISZPLUSZ PODCAST

A legtöbb munkavállaló nem díjazná, ha a home office határait szűkebbre szabná a munkahelyük, de a felük csak emiatt azért nem mondana fel – legalábbis rögtön. A cégek nem kapkodnak a keretek módosításával, amit valószínűleg jól tesznek, pedig az alkalmazottakat aligha érné váratlanul. Milyen arányban morzsolódnának le a dolgozók a távmunka elvételével? Milyen előnyeit és hátrányait érzik a pandémiából örökölt gyakorlatnak napjainkban? A Profession.hu felmérte, Dencső Blanka piackutatási és üzletfejlesztési szakértő pedig összefoglalta, mire érdemes számítani home office fronton a közeljövőben.
2024. 08. 16., 22:15
epizód: 2024 / 16   |   hossz: 22:09
Az Edinburgh-i Egyetem magyar docense nem csak azt mesélte el, hogyan vezetett az útja egy hazai egyetemről a tengerentúli Caltech-re, majd Skóciába, hanem azt is, hogy jelenlegi kutatási területe ígéretes jövőképet fest a szív- és érrendszeri betegek hatékonyabb gyógyítása számára. A kémiai és biomérnök tudós egy pakisztáni kollégájával együtt fejlesztett 3D nyomtatással készülő véreret, aminek még az alapanyagát is ők állítják elő, olcsó nyersanyagokból. A forradalmi megoldás véglegesítéséhez nemzetközi együttműködésre is nyitott tudósok szerint a találmányuk egy napon humán betegekbe is beültethető lesz, jelentősen csökkentve a fertőzések veszélyét és gyorsítva a felépülést.
Hosszútávon döbbenetesen kevés cég éli túl a generációváltást. A lehetséges megoldásokról kritikusan fontos beszélni ezekben az években, amikor nagyon nagy létszámú hazai vállalatvezető éri el a nyugdíjkorhatárt, és nem biztos, hogy van koncepciója a gyeplő átadására. Laczkó Péter, a Lawrence & Bennet tulajdonos-vezérigazgatója bemutatja, milyen alapvető stratégiákat kell alkalmazni, hogy megmeneküljenek az évtizedek alatt felépített családi vállalkozások és az élethosszig végzett munkával összeszedett örökségek. A szakembernek arra is van válasza, hogy milyen módon folytassa a munkát egy cég, ha a leköszönő vezetőt már biztosan nem követi családtag.

  Rovathírek: GUSTO

  Rovathírek: ATOMBUSINESS