Az új Snapdragon processzorok fejlesztése során kiemelt szerepet kapott a mesterséges intelligencia technológiák támogatása.

A Qualcomm újabb részleteket árult el a következő csúcskategóriás mobilprocesszorairól, amelyek hivatalosan szeptember 22-én mutatkoznak be a Snapdragon Summiton. A vállalat ezúttal a Snapdragon 8 Elite Gen 6 Pro egyik legfontosabb komponensére, a Hexagon NPU-ra koncentrált, amelyet elsősorban az új generációs, ágensi mesterséges intelligencia kiszolgálására fejlesztettek tovább.

Az új NPU egyik legfontosabb újdonsága a Transformer-központú Element Accelerator, amelyet kifejezetten a modern generatív és ágensi MI-modellek futtatásához terveztek. A Qualcomm szerint az új gyorsító a skaláris, vektoros és mátrixos feldolgozási képességekkel együtt hatékonyabban képes kezelni a nagy nyelvi modellek számára fontos számítási feladatokat.

50 százalékkal több megosztott memória

A Qualcomm az NPU megosztott memóriáját is jelentősen megnövelte: az előző generációhoz képest 50 százalékkal nagyobb kapacitás áll rendelkezésre.

Ennek célja, hogy a gyakran használt modelladatok közelebb maradjanak az NPU-hoz, ezáltal csökkenjen az adatmozgatásból származó késleltetés. Ez különösen fontos lehet akkor, amikor az MI-ügynökök hosszabb kontextussal dolgoznak, több eszközt használnak, vagy egyszerre több feladatot hajtanak végre.

A Qualcomm szerint mindez gyorsabb és reszponzívabb ágensi MI-élményeket eredményezhet anélkül, hogy jelentősen növelné a mobil eszközök energiafogyasztását.

50 százalékkal gyorsabb lehet az INT4 modellek előtöltése

A teljesítmény terén is komoly előrelépést ígér a Qualcomm. A vállalat szerint az új Hexagon NPU akár 50 százalékkal gyorsabb előtöltést biztosíthat az INT4 modellek esetében.

A fejlesztés a Mixture-of-Experts, vagyis MoE modellek számára is különösen érdekes lehet. Ezeknél a rendszereknél egy-egy feladat feldolgozásakor nem a teljes modell aktiválódik, hanem annak csak egy része, így jelentős számítási kapacitás és energia takarítható meg.

Az új NPU-t a Qualcomm kifejezetten olyan feladatokra optimalizálta, mint a folyamatosan futó mesterséges intelligencia, a hosszú kontextusú érvelés, a multimodális modellek, az egyszerre működő MI-ügynökök és az alacsony késleltetésű műveleti ciklusok.

A Snapdragon 8 Elite Gen 6 Pro tehát nem egyszerűen gyorsabb mobilchipnek készül: a Qualcomm egyértelműen arra törekszik, hogy az okostelefonokon helyben futó mesterséges intelligencia egyre összetettebb feladatokat tudjon ellátni, miközben az energiahatékonyság is elfogadható marad.

A teljesítményről és az új Snapdragon chipek további képességeiről szeptember 22-én, a Snapdragon Summiton derülhetnek ki a legfontosabb részletek.