Tizenegymillió forintba kerül egy darab a most bejelentett forradalmi MI-chipből, a Blackwell B200-ból
Az elmúlt másfél-két évben, ahogyan egyre többen ismerkedtek meg a mesterséges intelligencia nyújtotta lehetőségekkel, és egyre több vállalat kezdett ilyen irányú fejlesztésekbe, hatalmasra nőtt az igény a kifejezetten a gépi tanulásra tervezett chipekre. A legnépszerűbb ilyen termék az Nvidia H100 nevű grafikus egysége, azaz GPU-ja, ami egészen mostanáig a világ legerősebbje volt, nyolcvanmilliárd tranzisztorral. Ennek köszönhetően gyorsan, a hagyományos processzorokkal ellentétben párhuzamosan tud feldolgozni hatalmas mennyiségű adatot. Ez elengedhetetlen a ChatGPT-hez hasonló rendszerek mögötti nagy nyelvi modellek trenírozásához, de akár az önvezető autókban vagy orvosi szoftverekben használt, MI-alapú képfeldolgozáshoz is.
Most a cég vezetője, Jensen Huang bemutatta az utódot, ami nyolcvanmilliárd helyett kétszáznyolcmilliárd tranzisztorral rendelkezik.
A The Verge-ön olvasható cikk szerint a B200 darabját tizenegy és tizennégymillió forint közé fogják árazni - és az ilyen chipekből nem néhány darabot szokás vásárolni. Huang azt nyilatkozta, hogy míg korábban egy 1,8 billió paraméterrel dolgozó modell, mint például a GPT-4, trenírozásához nyolcezer H100-as és tizenöt megawatt energia kellett, a Blackwell esetében elég lesz kétezer GPU, miközben a fogyasztás szintén a negyedére esik vissza. Ugyanakkor egy eggyel kisebb, a GPT3-hoz közelebb álló, 175 milliárd paraméteres modellnél a huszonötszörös energia- és költségmegtakarítás már csak hétszeres lenne.
A fenti, látványos előrelépés két tényezőnek köszönhető a cég szerint: egyrészt az úgynevezett transzformerekért, azaz a bemeneti információkból kimeneti információkat készítő, a kontextust értelmező elemekért felelős motor kétszer gyorsabban dolgozik, mert neurononként nyolc helyett csak négy bitet használ; másrészt ha többszáz GPU-t összekötünk, akkor egy hálózati eszköz segítségével gyorsabban tudnak kommunikálni egymással. Korábban ha tizenhat GPU összedolgozott, akkor az idejük hatvan százalékát a kommunikáció kötötte le, most már ötszázhetvenhat ilyen chip is hatékonyabban képes ezt megoldani.
Az Nvidia azt állítja, hogy az Amazon, a Google, a Microsoft és az Oracle is rendelni fog olyan csomagokat, mint a harminchat processzort és hetvenkét grafikus egységet tartalmazó NVL72, majd ezeket elérhetővé teszik a felhőn keresztül az ügyfeleik számára. Vagyis az Nvidiának a több mint kétbillió dolláros cégérték lehet, hogy nem az MI-nek köszönhető értéknövekedés vége, hanem sokkal inkább az eleje.
