Hivatalosan is bejelentette a Facebook, Instagram, WhatsApp tulajdonosa, hogy új AI-chip megjelentetésével jelenik meg abban a piaci szegmensben, aminek ma szinte egyeduralkodója az Nvidia. Már idén elkészül, két új chip.
A Meta megerősítette, hogy a Meta Training and Inference Accelerator, vagyis MTIA v1 és v2 névre hallgató chipjei gyártásban vannak, és még ebben az évben – egyelőre házon belül – bevezetésre is kerülnek. A közösségi médiaóriás második generációs mesterséges intelligencia chipjei a vállalat nagyobb tervének részei – fejtegeti a Reuters: a Meta elsősorban saját AI-infrastruktúrát akar építeni, hogy olyan szolgáltatásokban használja, mint a Facebook, az Instagram és a WhatsApp.
A vállalat először 2023 májusában beszélt az MTIA 1-es verziójáról, és akkor azzal számoltak, hogy a gyártás 2025-ben indulhat. Ez az időablak került előrébb legalább egy évvel, részben éppen az Nvidiának köszönhetően, ami H100-as processzorokat szállított be a vállat AI-műveletekhez szükséges energiaellátására. A Meta 350 ezer H100-as chip beszerzését tervezi AI-alkalmazásokhoz, de végül 600 ezer AI-chip fogja működtetni a szolgáltatásait.
Mark Zuckerberg cége nyilván csökkenteni szeretné az Nvidiától való függőségét azzal, hogy még az idén áttér a saját fejlesztésű chipekre. Az MTIA v1 és v2-eseket főleg az adatközpontjaiknak szánják, de nyilvánvaló, hogy szeretnének betörni az AI-alapú chipek jelenleg Nvidia által uralt piacára, amin a chipgyártó nagyrészt monopolhelyzetben terpeszkedik.
A következő generációs MTIA chipek 5 nm-es architektúrát használnak, és 8×8 feldolgozóelem (PE) rácsából állnak, ami 3,5-szeres fejlődés a v1-hez képest. A Meta lényegében megháromszorozta a helyi PE-tároló méretét, és megduplázta a chipen lévő SRAM méretét is. 256 MB-ra, miközben 3,5-szeresére növelte a sávszélességet – foglalja össze az erről szóló sajtóközlemény. A Meta a chipek támogató infrastruktúráján is dolgozik: a szakemberei kifejlesztettek egy 72 gyorsítót befogadni képes hardverállványt. Ez a rack három vázból áll, amelyekben 12 lap helyezkedik el. A 90 wattos fogyasztású chipek 1,35 GHz-es órajelre képesek, szemben elődjük 800 MHz-es órajelével.
A kialakítás célja az, hogy nagyobb sávszélességet, memóriakapacitást és számítási teljesítményt biztosítson a chipeknek. A Meta célja kezdetben olyan következtetési funkciók elvégzése volt, mint a rangsorolás és a felhasználói kérésekre adott válaszok generálása, de most már azt tervezi, hogy a chipeket intenzívebb műveletekre, például nagy adathalmazok felhasználásával mesterséges intelligenciamodellek képzésére használja fel.
A Meta chipjeire való áttéréssel a Meta évente sokmillió dolláros energiaköltségeket takaríthat meg - a több milliárd másik dollár mellett, amit jelenleg az Nvidia chipjeinek megvásárlására költ.
Nem a Meta az egyetlen technológiai vállalat, ami saját AI-chipeket szeretne tervezni és gyártani: a hagyományos gyártó Intel, ami eddig lemaradt az AI-chipek iránti iparági igények kielégítésében, szintén ezen a héten jelentette be új Gaudi chipjeit. Az Intel állítása szerint a dedikált AI-chip háromszor gyorsabban képes AI-modelleket betanítani, mint az Nvidia H100-as processzorai, és gyorsabban generál válaszokat, mint az Nvidia megfelelője. A vállalat legújabb chipje, a Gaudi 3 szintén az 5 nm-es architektúrát használja, és két fő processzorból áll, amelyek összeolvasztva kétszer akkora teljesítményt nyújtanak, mint az elődjük.
Az Nvidia processzorának legjelentősebb konkurenciája jelenleg nem a Meta, de nem is az Intel, hanem Google Tensor Processing Unitja, viszont a keresőóriás nem értékesíti ezeket a processzorokat, hanem bérbe adja - elsősorban fejlesztőknek, egy felhőplatformon keresztül. Ugyanilyen megoldással készül reklámszatyorba dugni új, Axion nevű központi feldolgozóegységét, aminek feldolgozási teljesítménye a Google szerint 50 százalékkal haladja meg az Nvidia-féle x86-os chipekét és 30 százalékkal az általános Arm-chipeket.
Gábor János
Főoldali kép: Meta
A HIPA támogatásával megvalósuló 1,9 millió eurós beruházás révén az amerikai NI egyebek mellett új generációs tesztelési megoldásokat fejleszt.
Pályakezdők és évtizedes tapasztalattal rendelkezők is csatlakozhatnak a Paks II. szakembergárdájához. Az aktuális lehetőségeket a tavaszi állásbörzéken is meg lehet ismerni.