Danas u vrijeme implementacije elemenata umjetne inteligencije u računala dobili smo procesore nove generacije koji imaju naziv Neural Processing Units ili skraćeno NPU. Oni se razlikuju u odnosu na klasične procesore u mogućnosti AI procesuiranja i predstavljaju budućnost računala koja polako napušta stare standarde.
Vodeći proizvođači procesora – Intel, AMD i Qualcomm – već su duboko ušli u proizvodnju NPU-a i nova računala koja se pojavljuju na tržištu sve ih više uključuju te stavljaju naglasak na nove razine učinkovitosti u radnim zadacima koje dosad još nismo vidjeli.
Što stoji iza svega i koje su specifičnosti NPU-a kod ova tri proizvođača procesora?
NPU ima svoje mjesto u novim računalima
Vjerojatno ste čuli kako se već neko vrijeme često spominje izraz „AI PC“ koji označava računala nove generacije koja imaju implementirane AI elemente pa su samim time njihove mogućnosti postavljene na razinu više.
Vrlo važan, možda i ključni, dio novih AI PC-jeva su novi NPU procesori koji zapravo predstavljaju dodatak starijim (CPU) procesorima i izrađeni su za obavljanje specifične funkcije – AI procesuiranja.
Vodeći proizvođači procesora – Intel, AMD i Qualcomm – brzo su uvidjeli da budućnost uspjeha na tržištu leži u čipovima koji omogućuju AI procesuiranje pa se sva njihova nova ulaganja zapravo slijevaju u to područje.
Qualcommov Snapdragon X Elite bio je prvi plasirani NPU procesor, no Intel i AMD su ubrzo plasirali na tržište i svoje inačice koje su donijele novu moć procesuiranja i specifičnu arhitekturu dizajna.
Svi od triju proizvođača imaju liniju procesora koja je posebno dizajnirana kako bi pokretala tzv. Copilot+PC računala koja trenutno promoviraju Microsoftovog AI asistenta.
Zasad je upotreba NPU-a primarno vezana uz laptope, no to ne znači kako ubuduće nećemo vidjeti njihove desktop verzije.
Intelova nova generacija NPU-a: NPU 4
Intelovi najnoviji čipovi integriraju NPU zajedno s nekoliko vrlo zanimljivih dodataka, a sve to zajedno čini AI procesuiranje još efikasnijim.
NPU 4 je kao nova generacija ovih procesora uključena u Intelovu Lunar Lake arhitekturu.
Intel tvrdi da spomenuta nova generacija NPU-a ima mogućnost procesuiranja 48 tera operacija u sekundi (TOPS) pa je to smješta u kategoriju najmoćnije NPU inovacije do danas i, u odnosu na NPU 3 generaciju, ima četiri puta snažniju moć procesuiranja zadataka.
Ono što NPU 4 procesorima daje takve mogućnosti je specifična arhitektura. Čip pokreću dva paralelna NPU-a od kojih svaki ima zaseban rad i tako se bolje interpretiraju podaci i radni zadaci.
Svaka jedinica ima tzv. „multiply-accumulate array“ značajku (MAC) koja pomaže u izvođenju kompleksnih operacija. Još jedna značajka koju koristi svaka jedinica je tzv. „SHAVE DSP“ i ona zapravo generira spomenutu četiri puta snažniju moć procesuiranja zbog koje se i najzahtjevniji zadaci izuzetno brzo rješavaju.
Posebna odlika Lunar Lake arhitekture je vrlo efikasno trošenje energije i s novim NPU 4 procesorima korisnici će ga još dodatno reducirati jer AI jedinice sada još više racionaliziraju procese računala i njihovu potrošnju resursa.
AMD-ova nova generacija NPU-a: XDNA 2
Intelova nova generacija NPU-a snažno je odjeknula u javnosti i samo se čekao odgovor velikog rivala AMD-a.
Njegova najnovija verzija NPU-a ima naziv XDNA 2.
Tvrtka AMD je obećala da XDNA 2 može imati još bolju izvedbu od Intelovog NPU-a 4 i osnovni pokazatelj ove tvrdnje je vrijednost tera operacija u sekundi (TOPS) koja je 50. Iako bi se ovdje radilo o najmoćnijoj NPU inovaciji dosad, to još uvijek nije službeno i potrebno je provesti dodatna testiranja kako bi se potkrijepilo AMD-ovo obećanje.
AMD je dodatno povećao broj specifičnih jedinica procesora pod nazivom „engine tiles“ s 20 na 32 pa je i to doprinijelo još boljim mogućnostima AI procesuiranja.
XDNA arhitektura temelji se na dizajnu prostora koji je fleksibilan i prilagodljiv te omogućuje vrlo dinamično procesuiranje. Kod XDNA 2 verzije NPU-a to je još više izraženo jer sve jedinice unutar procesora imaju neovisnu obradu podataka, a sam čip je napravljen kako bi mogao podnositi standardno i AI procesuiranje.
AMD je već objavio prvu seriju laptopa s novom XDNA 2 arhitekturom pa možete provjeriti Ryzen AI 300 uređaje.
Qualcommova nova generacija NPU-a: Snapdragon X Elite
Već smo spomenuli da je Snapdragon X Elite NPU koji se najranije pojavio na tržištu. Qualcomm je tvrtka poznata po čipovima za pametne telefone, no ovo predstavlja njen izlet na tržište laptopa i Snapdragon serija zapravo ima mnogo resursa kako bi se nametnula konkurenciji.
S druge strane, u usporedbi s Intelovim i AMD-ovim NPU-ima, ima neke nedostatke. Prvi je u činjenici da Snapdragon X Elite ima maksimalnu snagu procesuiranja od 45 tera operacija u sekundi pa je vidljivo da se radi o nešto slabijoj vrijednosti u odnosu na konkurenciju. U vrijeme plasiranja na tržište je ovaj NPU bio vodeći zbog toga što je bio i jedini, a kasnije se pokazalo kako Intel i AMD ipak mogu pružiti znatno bolju izvedbu kod svojih inačica.
Još jedan nedostatak Qualcommovog NPU-a je što troši mnogo više resursa u odnosu na konkurenciju koja je isto znatno bolje optimizirala.
Snapdragon X Elite je temeljen na procesorskoj jezgri pod nazivom „Oryon“ i zaista se radi o impresivnoj inovaciji, no Qualcomm balansira između dva polja (pametni telefoni i računala) pa zna doći do manjih problema u kompatibilnosti završnih proizvoda. Primjerice, Snadragon procesori imali su greške u radu kod Windows-on-Arm softvera.
Laptopi sa Snadragom X Elite NPU-om plasirani su na tržište još u travnju ove godine pa na internetu možete naći više detalja o njihovim specifikacijama.
NPU predstavlja budućnost računala
AI je danas pojam koji se usko veže uz računala i pitanje je koliko ćemo se u narednom periodu osvrtati na klasična računala čije vrijeme ubrzano prolazi.
Implementacija AI elemenata znači produktivnost modernog doba, a jedino što to omogućuje su NPU procesori. Oni su zapravo postali simbolom generacije novih računala i jednostavno nam ništa ne preostaje nego da pratimo njihov razvoj i pomicanje granica koje su do pred malo bile nezamislive.
Ervin Mičetić
