Csak a Google AI-ja annyi energiát fogyaszthat majd, mint Írország

Csak a Google AI-ja annyi energiát fogyaszthat majd, mint Írország
2023. 10. 11., 16:08

Egy mesterséges intelligencia iszonyatos mennyiségű adatfeldolgozásra képes, de ennek ára van. A működéséhez szükséges hardverek rengeteg energiát fogyasztanak, ami egyre kritikusabb kérdéseket vet fel.

Alex de Vries fintech szakértő és blokklánc influencer a Joule című folyóiratban publikált tanulmányában fejti ki, hogy napjainkban és a közeljövőben mekkora energiafogyasztást jelent a mesterséges intelligenciák üzemeltetése. Összehasonlításképpen: a ChatGPT viszonylag kis energiafogyasztónak számít (egyelőre, de folyamatosan növekszik), azzal, hogy a 10.000 darab Nvidia GPU, amelyen fut, 1287 MWh elektromos áramot használ fel. Ez nagyjából 121 amerikai háztartás éves fogyasztásával egyenlő. Nem sok, de csak egyelőre, és fontos leszögezni, hogy messze nem az OpenAI az egyetlen vállalat, ami egyre fejlettebb (ergo egyre több energiát felemésztő) AI-t üzemeltet.

Miközben az egyik legnagyobb technológiai fejlesztés, amit az ember valaha elért, egyre gyorsabban terjed, ideje feltenni a kérdést, hogy milyen árat fogunk fizetni érte? És nem csak a munkaerőpiacon, hanem a működéséhez szükséges energiainfrastruktúra szintjén is.

„2021-ben a Google teljes villamosenergia-fogyasztása 18,3 TWh volt, amelynek 10-15 százalékát már a mesterséges intelligenciára fordították. A legrosszabb forgatókönyv szerint csak a Google AI-ja annyi villamos energiát fogyaszthat, mint például Írország (évi 29,3 TWh), ami jelentős növekedés a korábbi, mesterséges intelligenciával kapcsolatos energiafogyasztáshoz képest” – magyarázta Vries. Ami azt illeti, a Google AI-ja abban a tempóban, ahogy a szakértő szerint növekszik, a magyarországi energiafogyasztással is (2022-ben kb. 45,7 TWh) versenyre kelhet. És még egyszer: ez még csak egy tech cég, ami AI-fejlesztéssel is foglalkozik.

Gyorsan duzzad az AI-piac

A közelmúltban megfigyelhető volt, hogy egyre több vállalat fejleszt saját chipeket, hogy megfeleljen a magas AI-követelményeknek. A Google és az Amazon rendelkezik saját AI-chipekkel, míg a pletykák szerint a Microsoft a jövő hónapban mutatja be a sajátját. A Microsoft komoly befektetője tesz az OpenAI-nak is, ami a potenciáljának még csak egy kezdeti szakaszánál tart. Mindez azt jelenti, hogy az AI-ipar energiaigénye jelentősen növekedni fog. Vries szerint „az olyan vállalatok, mint például az Alphabet (Google), jelentősen megnövelhetik az energiaigényüket, ha a generatív AI beépül minden Google-keresésbe”. A félvezetőkkel és AI-val foglalkozó SemiAnalysis blog meg is becsülte, hogy ebben az esetben mekkora energiafogyasztást igényelnének, csupán a Google-keresések. Úgy számoltak, hogy 512.820 darab NVIDIA A100 HGX szerverre és több mint 4 millió GPU-ra lenne szükség. Ez szerverenként 6,5 kW-os teljesítményigény mellett napi 80 GWh, éves szinten pedig 29,2 TWh áramfogyasztást jelentene.

„Az OpenAI-nak 3617 darab NVIDIA HGX A100 szerverre és 28.936 darab GPU-ra volt szüksége a ChatGPT beindításához, ami napi 564 MWh energiaigényt jelentett - még azelőtt, hogy akár csak egy ember is elkezdte volna ténylegesen használni” – mutatott rá Vries.

A szerző végül megjegyezte, hogy túlzott optimizmus arra számítani, hogy a hardver- és szoftverhatékonyság javulása teljes mértékben ellensúlyozni fogja a mesterséges intelligenciával kapcsolatos villamosenergia-fogyasztás hosszú távú változásait. Törekvések azonban vannak. Az MIT kutatócsoportja például épp’ a múlt héten számolt be arról, hogy elkezdték keresni az AI modellek energiafogyasztás-csökkentésének lehetőségeit. A mesterséges intelligencia alkalmazások mögött duruzsoló GPU-k fogyasztásának optimalizálásával 12-15 százalékkal tudták visszafogni a felhasznált energiát. Az ehhez hasonló megoldásokkal vagy például a kriptovaluta bányászatból kikerülő GPU-k újrahasznosításával sokat lehetne csökkenteni az AI-k egyre inkább elszálló fogyasztásán és karbonlábnyomán.

Gábor János

Főoldali kép: Glen Cooper - MIT

Ha tetszett a cikk, kövesse az ÜZLETEMET
a Facebookon!

Még több friss hír

2023-12-01 18:40:00
Az MNB összesen 15 millió forint bírságot szabott ki a K&H Biztosító Zrt.-re, többek között a kötelező gépjármű-felelősségbiztosítási szerződések állománykezelésével összefüggő, egyes élet- és nem-életbiztosítási termékek biztosítási feltételeihez kapcsolódó informatikai biztonsági, illetve a vállalatirányítási területet érintő hiányosságok miatt.
2023-12-01 17:55:00
„Az AI rendszerek kiváló eszközök lehetnek az auditori munka során, mivel segíthetnek a hatékonyabb kommunikációban, információgyűjtésben és problémamegoldásban – a szakértő könnyvizsgálót azonban nem tudják helyettesíteni.”

  BIZNISZPLUSZ PODCAST

Egyetlen vállalkozás sem építi fel önmagát, és a legfőbb erőforrása a vezető, aki – pláne egy új üzlet megalapozása közben – sajátos támogatást igényel. A többféle vállalkozás- és vezetőfejlesztő tréninget szervező SEED Alapítvány az ügyvezető igazgató szerint még frissebb módszerekkel, gyakorló vállalkozókkal mentorálja a kezdőket. Lakatosné Lukács Zsuzsanna ebben az epizódban világít rá, hányféle teendő van egy üzleti ötlettel, mire az működő vállalkozássá alakul. Ezen az úton tereli végig az újdonsült cégeket a RajtUp programjuk is.
Ebben az epizódban Pataki Tamás, a Canon Business Development Managere segítségével mutatjuk be, hogy milyen eszközök és mesterséges intelligencia megoldások lehetnek az orvosok segítségére – már nem is a jövőben, hanem akár napjainkban. Az elöregedő társadalmakban egyre több pácienst kell ellátnia az egészségügynek, így olyan technológiák nélkül, amiket például a Canon Medical Solutions képalkotó rendszerei nyújtanak, egyre nehezebb megfelelő számú és pontosságú diagnózist felállítani. De mi köze mindennek a ReCaptcha internet-felhasználó azonosításhoz és az önvezető autókhoz? Ez is kiderül a beszélgetésből.
2023. 10. 25., 09:33
epizód: 2023 / 16   |   hossz: 24:08
Az országos munkaerőhiány nagyon jól leszűkíthető adott gazdasági szegmensekre, és nem feltétlenül az elvándorlás okozza - mondta a BizniszPlusz podcastnak Somodi Bettina. A Beck and Partners nemzetközi HR tanácsadó cég üzletágvezetője szerint egy jó szabályozással a külföldi munkavállalók is szépen belesimulhatnának a rendszerbe, és kellenek, mert a nehéz fizikai munkahelyeket a magyarok már évek óta nem töltik be. A szakemberrel azt is megfejtettük, miért és milyen szempontok fontosak a ma már jóval bátrabban váltó munkaerőnek, különösen a fiataloknak.

  Rovathírek: GUSTO

A gamay a jelek szerint 129-szer izgalmasabb fajta a portugizinél, még akkor is, ha anno Merész Fülöp, Burgundia hercege hitvány fajtának titulálta és irtotta, mintha gyomnövény volna.

  Rovathírek: ATOMBUSINESS