Купувачите на нови лаптопи сѐ почесто ќе го сретнат називот NPU во спецификациите. Станува збор за Neural Processing Unit, односно специјализиран дел од чипот наменет за обработка на задачи со невронски мрежи. Иако веќе е вообичаен кај моделите од средната и повисоката класа, за голем дел од корисниците неговата искористеност засега останува многу мала.
Главната предност на NPU е енергетската ефикасност. Тој е создаден за операции како множење матрици и нелинеарни активации, кои се клучни при извршување на готови модели. Процесорот и графичкиот чип можат да ги обработуваат истите задачи, но со значително поголема потрошувачка, повеќе топлина и поголемо влијание врз батеријата.
Практичен пример е заматувањето на заднината за време на видеоповик. Кога ваквата функција работи преку CPU или GPU, таа може да ја зголеми потрошувачката и да ги активира вентилаторите. NPU може да ја одржува активна со многу помала потрошувачка. Истото важи за сузбивање шум во разговори, превод во реално време, ефекти за веб-камера и локално индексирање за пребарување.
Причината за брзото ширење на оваа компонента е и сертификацијата Copilot+ PC на Microsoft. За неа, лаптопот мора да има NPU со најмалку 40 TOPS, 16 GB RAM и 256 GB простор за складирање. TOPS е мерка за брзината со која чипот извршува вакви математички операции, а потребниот резултат мора да доаѓа токму од NPU, не од графичкиот процесор.
Qualcomm прв понуди 45 TOPS со Snapdragon X Elite и X Plus, по што следуваа Intel Lunar Lake со до 48 TOPS и AMD Ryzen AI 300 со 50 TOPS. Intel Core Ultra Series 3, познат и како Panther Lake, исто така достигнува 50 NPU TOPS, додека Snapdragon X2 Elite оди до 85 TOPS.
Сепак, бројот на програми што навистина го користат овој хардвер е краток. Меѓу нив се Windows Studio Effects, Live Captions, Recall, Click to Do, функции во Teams и Zoom, како и дел од алатките во Adobe Creative Cloud. NPU не е замена за моќна дискретна графика при тренирање модели или за големи локални модели, но може да ослободи ресурси за останатите задачи на лаптопот.