A mesterséges intelligencia körüli hardveres fejlesztésekből sokan csak annyit érzékelnek, hogy az Nvidia egészen elképesztő cégértéket ért el gyorsítóinak köszönhetően, tehát elvileg ez egy keresett, forradalmi technológia, illetve a Microsoft egyre többet beszél az ún. Copilot+ PC-kről. Pedig arról már korábban említést tettünk, hogy a gépi tanulás, a neurális hálók használata és az AI-alapú számítások egyáltalán nem újak, évtizedes múlt áll mögöttük, csak épp időszerű volt már berobbantani az egészet, hogy extra lendületet kapjon az IT-iparág.
Nincsen ezzel baj (egyelőre), bár a fejlődési görbe továbbra is túl meredek, ilyenkor pedig kódolva van a trendbe kisebb-nagyobb kudarc is: szabályozások, technológiai korlátok, na és persze a felhasználói kör befogadási hajlandósága. Már pusztán egy hardver vagy szoftver AI-képességének említése is bődületes félreértéseket képes okozni. Tesztünk nem arról szól, hogyan ébredt öntudatára egy-egy NPU, ezt az anyagot sem valamely generatív segéd írta meg; célunk, hogy adjunk egyfajta képet arról, miként értelmezhető egy hagyományos PC AI-tudása.
CPU, NPU, AI - amikor túl sok a rövidítés
A fenti három mozaikszó említése sokaknál komoly fejtörést és képzavart okoz, ami leginkább az NPU-nak (Neural Processing Unit) köszönhető. Mi is ez pontosan, és miért lett hirtelen ennyire fontos? Egyre meghatározóbb elemként jelenik meg, a 24H2-es Windows frissítés követelményei között pedig egészen konkrét számítási teljesítmény szerepel mellette. Egy újabb processzor a processzorban? Vagy egy különálló egység, és ha ez nincs, akkor a mesterséges intelligencia "le lesz tiltva"?
A PC-s piacot érintő AI-fejlesztések és specifikációk kapcsán egy egész cikket lehet írni már csak a kérdésekből is, nemhogy a válaszokból. Erre hirtelen egy szimpla notebookban megjelenik a csúcstechnológia, de ha nem szólnak, észre sem veszed. Ezt a nagyon hétköznapi felhasználói érzést kerestük két tesztgépünk segítségével, amik egyébként visszafogottan ugyan, de büszkén hirdetik az AI-tudás meglétét. Az ASUS ZenBook párosa tökéletes tesztkörnyezetet teremtett, mert külsőre azt sem könnyű megmondani, pontosan melyik típusról van szó, de azt természetesen tudtuk, hogy az Intel és AMD legújabb platformjaira épülnek.
Aki használt már ZenBookot, pontosan tudja, hogy a körítés kifogástalan, a főbb paraméterekben nem találni kivetnivalót. Már csak azt kellene eldönteni, hogy az Intel Core Ultra vagy az AMD Ryzen 7 a jövőbiztosabb megoldás; különösen akkor, ha az AI-számítások mindenki számára a mindennapok fontos elemeivé válnak - pár hónapon belül.
Mire is képes az NPU?
Egyszerű válaszunk van a kérdésre, a két processzorgyártó e tekintetben világos kommunikációt folytat. A Core Ultra központi egység alapját nyújtó Meteor Lake kódnevű lapka fontos fejlesztés, hiszen teljesítményben, gyártástechnológiában és felépítésben is szintet lépett az Intel. A tile elrendezésű, több chipből felépülő központi egység több modulból áll, így a CPU és az integrált grafikus chip mellett ott található az NPU is. Utóbbi az Intel első, széleskörben elérhető gyorsítója, ami legfeljebb 11 TOPS (billió művelet másodpercenként) számítási kapacitással bír.
Ezzel szemben a Hawk Point kódnevű AMD Ryzen 7 8840HS processzor egy darab lapkából áll, ami tartalmaz egy igen erős integrált Radeon vezérlőt, egy XDNA-alapokon nyugvó NPU-t, és legfeljebb 8 db processzormagot. Érdekesség, hogy nem ez az első AI-képes APU a gyártótól, a 7000-es sorozatban debütált a részegység, ám az új verzió 60%-kal gyorsabb. Ezzel némileg megelőzi az Intelt, a 16 TOPS érték szemmel látható különbség, más kérdés, hogy egyáltalán mérhető-e ez valahogyan.
Problémás tesztelés
Ott talán még nem tartunk, hogy egy-egy PC vagy notebook dobozán konkrét TOPS-számadatok jelenjenek meg, de ha csak azt nézzük, mennyire komolyan veszi a Copilot+ PC-kategóriát a Microsoft, akkor azért csak tisztában kellene lenni az egyes gépek teljesítményével. A gyártóknak egy pontig mindig mindent el lehet hinni, de láttunk már olyat, hogy 1-2 év alatt a méregdrága laptop ereje egyszerűen kevés lett bármihez is.
Az NPU ugyan hasznos elem a különféle nyelvi modellek, keretrendszerek futtatásában, de ezeket a számításokat a CPU-magok és a GPU-k is képesek elvégezni. Sőt, utóbbi lapkák dedikált videokártyaként messze túlszárnyalnak bármilyen NPU-t, így pedig nincs értelme agyonaggódni magadat, ha épp nincs NPU a gépben. Arról már lehet vitatkozni, hogy milyen energiahatékonyság mellett generálsz képeket, futtatsz szövegfelismerő algoritmusokat vagy használsz intelligens funkciókat tartalomgyártás során; egy notebook esetében nem mindegy, milyen üzemidő mellett teljesíthetők ezek a feladatok. A másik aggályos kérdés, hogy vajon a szoftverek, de legfőképp a Microsoft mennyire támogatja az adott hardvert.
A két ZenBook akkor képes megmutatni az erejét igazán, ha az adott alkalmazásréteg ki tudja használni az NPU erejét, és nem egy összevont feladatvégzést ró a processzorra. Ezt egyébként nem lehet látni felhasználóként, nincsen egy apró LED, ami kigyullad, amint az NPU dolgozni kezd. A mérésekhez használt programokban ugyan itt-ott már kiválasztható az egyes részegységek (CPU, IGP és NPU) terhelése, de ha például a Copilot a PC-erőforrások segítségével generál képet, nem tudni, melyik részegység mennyire lesz leterhelve. Ami tesztünk során is jól látszott, az a tény, hogy az Intel és az AMD egészen eltérő módon képzelik el a hardveresen gyorsított AI-t. Az XDNA-tudáshoz egyelőre nem érhető el olyan SDK vagy felület, ami könnyedén mérhetővé tenné a Ryzen AI NPU-t, ám ebben talán hamarosan változás jöhet az XDNA2 megjelenésével. A Windows Feladatkezelőben sem látszik még, a hamarosan megjelenő 24H2-es frissítés viszont elvileg láthatóvá teszi az egység kihasználtságát.
Ezzel szemben az Intel felkészültebb, és az OpenVINO nyílt-forráskódú keretrendszer támogatásával és gyorsításával jól mérhető az első generációs NPU-k ereje.
Tapasztalatok és elszomorító hibák
A két notebook belseje jelentősen eltér egymástól, ami nem gond, a képgenerálásra hangolt tesztfutások azonban megmutatták, hogy a rendszermemória kapacitását innentől fogva komolyan kell venni. A Procyon Benchmark csomag AI Inference (következtetési számítások) része mellett megjelent a képalkotás gyorsítását mérő tesztkör is, ám ennek követelményeit bizony kevés notebook képes jelenleg teljesíteni. A 32 GB-nyi rendszermemória és a 8 GB VRAM-követelmény combos, de a Stable Diffusion XL-nél kért 16 GB-nyi videomemória sem könnyű falat. Egyedül ezt a tesztet tudta teljesíteni az inteles ZenBook, a rendszermemóriából allokálva az elvárt VRAM-mennyiséget az IGP számára, így maradt még 16 GB a rendszer többi komponensének. Minden más képgenerálási tesztben elvéreztek a gépek, vagy a teszt nem is engedte az indítást.
Ehhez képest a különféle nyelvi modellekre és algoritmusokra hangolt számításokat mindkét laptop teljesítette, és bár az AMD platformjának erejét nem tudtuk részegységenként feltérképezni, az eredmény így is izgalmas. Odáig jutottunk a tesztelés során, hogy a CPU és a GPU tesztelhető a Windows ML rétegen keresztül, ám azt nem tudni, hogy bármelyik futásba besegít-e az NPU valamilyen formában. Gyaníthatóan nem, mert a kapott számok közti eltérés nagyon hasonlít az AI-rutinokat nem futtató programokban mértekhez.
Az AI Boost azonban látványos a Meteor Lake oldalán, de ezzel az a probléma, hogy egy tesztprogram ugyan képes kimutatni, ám a valós alkalmazásokban nehéz meglátni a gyorsulás ezen mértékét. Mint ahogy azt sem gondoljuk, hogy a Ryzen AI ennyire buta lenne, csupán az látszik, hogy egyelőre kevés programban mérhető az ereje.
Nem rossz, de legyen nálad a laptoptöltő
Ha már notebookok, akkor adta magát az akkumulátoros teszt, hiszen ez a PC-kategória egyébként is a mobilizált használatról szól. Kíváncsiak voltunk arra, mi történik akkor, ha a központi lapka tipikus fogyasztási kerete minimálisra csökken. Értelemszerűen a CPU és GPU teljesítménye érezhetően csökkent, egy-egy tesztkör már-már kínosan sokáig tartott, ami viszont érdekes, hogy az Intel NPU eredményei nem változtak érdemben. Pici csökkenés mérhető volt, de úgy tűnik, az NPU-k energiahatékonysága remek. A Ryzennél ezt csak feltételezzük, minden bizonnyal a 4 nm-es gyártástechnológia és az NPU modul lapkán belül elfoglalt helye együttesen roppant alacsony fogyasztást generál.
Napról napra fejlődik
Nem lenne fair azt állítani, hogy a tesztünkben használt két, egyébként pazar ZenBook már most a múltat képviselik, hiszen remek gépekről van szó, amik az AI-felhajtáson túl évekre bebiztosítják a kifogástalan felhasználói élményt. De ha készpénznek vesszük az NPU-k fényes jövőjét, akkor bizony a nemrég bejelentett Qualcomm SoC-k mindkét processzort alaposan lehagyták, az év második felében pedig az Intel és AMD az újgenerációs Core Ultrákkal és Ryzenekkel küldi majd idő előtt nyugdíjba a 2024 elején megjelent laptopokat.
A 11-16 TOPS számítási kapacitás helyett a Snapdragon X Elite SoC 45-60 TOPS sebességre képes, és ezen adottságát a marketingosztály is erőteljesen ki fogja hangsúlyozni. Ennek első jeleit már most is látni lehet, a Copilot+ kategória került fókuszba a Microsoftnál és a PC-gyártóknál is, de azért érdemes józan ésszel szemlélni a történéseket, és a valós felhasználási igény alapján fejleszteni vagy vásárolni. Szuper az AI, erősödnek az NPU-k, még gyorsabban számolnak a grafikus vezérlők, de még mind a hardverek, mind a szoftverek gyerekcipőben járnak.
