TL;DR:
别看现在AI PC把NPU吹得天花乱坠,又是本地大模型又是超能省电,但在咱们PC上,这颗所谓的“AI大脑”大部分时间都在“摸鱼”装死。想体验真·AI?掏出你的手机可能更靠谱!
最近,科技圈的“风口”那叫一个猛,只要产品不沾点AI,出门都不好意思跟人打招呼。这不,PC市场也开始“卷”起来了,各种新处理器、新笔记本,商品页上赫然写着“我是AIPC,我有NPU!”还恨不得把那多少多少TOPS的算力、能跑多少B参数的大模型直接糊你脸上,看着是挺唬人的。
你买电脑的时候,有没有被这波宣传晃晕了眼?是不是觉得有了这颗小小的NPU,你买的就不是普通电脑,而是实打实的**“AI终端”**了?别急,托尼(我本人)一番研究下来,发现这玩意儿……有用是有用,但不多!
NPU是何方神圣?它凭啥“C位出道”?
咱先说说厂商们吹得天花乱坠的“NPU”到底是个啥。它的全称叫“神经网络处理器”,顾名思义,这货跟“神经”肯定有关系。简单来说,NPU就是模仿人脑神经元和突触的运作方式,将存储和计算“一体化”,专门用来加速神经网络计算的处理器。尤其擅长图像识别、语言处理这类应用,简直就是AI界的“特种兵”。
在形态上,NPU一般分两种:消费级的通常是集成在处理器里,比如英特尔的Ultra系列和AMD的锐龙AI系列,都在CPU芯片里给NPU划拉了一块“专属地盘”。此外,数据中心和自动驾驶汽车里,也会有独立的NPU芯片专门负责推理运算,像小鹏的图灵芯片就集成了NPU。1
可能有人要问了:咱们不是有GPU(图形处理器)吗?它也能跑AI计算啊!为啥非得在寸土寸金的芯片里,再给NPU腾块地儿呢?
答案很简单:**效率!**还记得之前我们聊过的“LPU”吗?那可是专为大语言模型推理优化的芯片,比GPU更快、功耗更低。NPU也一样,它天生就对神经网络计算做了深度优化,特别是矩阵乘法和卷积运算,简直是它的拿手好戏。
NPU到底有多“能打”?瑞典洛桑理工学院的一篇毕业论文给了我们一些线索。他们拉来了CPU(英特尔i7-11800H)、GPU(英伟达RTX 3070 Max-Q)和NPU(瑞芯微RK3588的内置NPU)进行了一场“擂台赛”,跑的是YOLOv5模型。结果显示,虽然测试的NPU绝对算力不算最强,在某些运算速度上甚至不如GPU,但它在能耗比上简直“一骑绝尘”,甩开CPU和GPU好几条街!2
“瞧瞧这能耗比,简直是‘电老虎’GPU的‘省电小棉袄’啊!”
最近甚至有韩国团队研发的NPU技术,宣称比主流GPU运算快60%,耗电还能省44%,这要是真普及了,AI云服务的电费估计能省出一座矿!3
说到这,厂商们**“卷”**NPU的理由是不是就很明显了?性能好、还省电,谁不爱呢?特别是对手机厂商来说,既要续航又要轻薄,还要在巴掌大的地方“卷”出差异化,NPU简直就是他们的“心头好”。现在手机处理器里集成NPU,不仅能提升响应速度、降低网络延迟,还能更好地保护用户隐私,比直接调用GPU更省电。具体到应用,NPU除了能本地跑些简单大模型、给视频加字幕,还能因为符合多模态AI趋势,实现“看世界”功能,比如识别物品、翻译菜单,甚至辅助计算摄影,比如相册里的AI超分算法等等。
理想很丰满,现实很“骨感”:PC上的NPU在“躺平”?
然而,理想很丰满,现实却有点“骨感”。尽管NPU的能耗表现如此出色,但在所谓的AIPC上,前提是得“能用得上”!
残酷的现实是:现在我们电脑上真正适配了、能调用NPU的软件,一只手就能数得过来!
先看Windows这边,托尼在网上扒拉了一圈,发现能好好利用NPU的软件,很多都是Arm版。但大家都知道,Windows Arm架构的PC嘛……看看骁龙X Elite笔记本那“悲惨”的销量就明白了。传统X86处理器架构下能调用NPU的软件更是“稀有动物”。托尼统计发现,达芬奇、Capture One、Affinity Photo 2等软件的AI功能,目前都无法利用X86平台Windows上的NPU进行加速。4
“好家伙,NPU在这儿算是‘英雄无用武之地’了?”
更离谱的是,连游戏玩家们常用的辅助工具,像游戏加加、逗逗游戏伙伴这些,为了兼容性,默认都是优先调用GPU,或者直接在云端处理。逗逗甚至直接列明了只能使用英特尔的NPU,AMD的NPU它还不认!
换句话说,目前英特尔和AMD吹得热火朝天的NPU,都属于**“空有算力,使用场景特别特别有限”**的类型。
托尼好不容易才找到一个能在X86 Windows电脑上调用NPU的功能——剪映的“一键抠图”。可这抠图任务本来就轻量,实际体验下来,跟没有NPU的机器压根拉不开啥差距。我又试了Premiere Pro里一个叫“音频分类”的小功能,虽然能调用NPU,但我们后期老师说,除了影视大制作,一般场景下用不上,实用性也有限。5
最让托尼“崩溃”的是,我们全程开着Windows性能监视器,盯着NPU啥时候发力。结果发现,它除了剪映一键抠图时会象征性地“跳动”一下,其他时间都静静地躺在那边“睡大觉”,仿佛世间一切纷纷扰扰都与它无关。要知道,处理器为了集成NPU可是牺牲了不小的面积,它在这“摸鱼”实在说不过去!
“看看这巨大的NPU模块,设计师的眼泪都要掉下来了——这么大块地方,多塞几个CPU或GPU核心不香吗?”
这意味着,有些压根不需要NPU的游戏玩家,本可以享受制程提升和核心堆砌带来的性能飞跃,却因为多了个“吉祥物”NPU,不得不掏更多的钱买更贵的处理器,这找谁说理去?
而且,即便在生态高度统一的Mac这边,NPU的发展也没好到哪去。
就拿Mac上的Lightroom来说,它有一段时间支持了Mac端的NPU本地去噪,但后来因为Bug太多,直接下架了!现在的去噪功能,主要还是靠GPU在“硬抗”。6
“说好的苹果生态‘丝滑’呢?NPU这波,有点‘掉链子’啊。”
Mac版达芬奇倒是支持一些AI功能(比如一键去遮罩、去噪),能在设置里选择Apple Neural Engine(苹果M芯片的NPU)来跑。可托尼打听了一下后期老师,他们说这玩意儿Bug也多,几乎不敢用,怕影响工作流。我们特意做了测试,分别打开NPU和GPU加速,结果发现……实时预览速度几乎没区别!
更离谱的是,我们用Mac上的性能监控软件asitop一看,在达芬奇里各种折腾AI功能,NPU使用率竟然纹丝不动,始终为零!倒是旁边的GPU忙得热火朝天。甚至连Windows上能调用NPU的剪映“一键抠图”,在Mac上NPU使用率依然“雷打不动”。
“好家伙,NPU这是要‘原地出道’成为‘最懒芯片’吗?”
我们一度怀疑是不是监控软件坏了,结果打开Mac自带的Photo Booth,NPU使用率竟然“波动”起来了!好好好,合着软件没问题,纯粹是你们把“好钢用在刀把上”了是吧!
更别提Photoshop这种“顶流”软件,压根儿不支持在任何平台上启用NPU进行AI功能加速。在官方文档里,Photoshop明确表示会使用GPU来加速视觉和AI功能,只字未提NPU。7至于那些炫酷的AI生成功能,它直接**“上云”了**,根本不劳烦你本地的NPU大驾。
一通打听、查资料下来,托尼觉得PC对NPU的支持程度,只能用一个**“惨”字形容。电脑里多这么一个xx TOPS算力的芯片,目前看来真的“没什么用”**。我知道有小伙伴会说NPU省电啊!但说实在的,在PC上省这点电,只能算是“挠痒痒的feel”,毕竟PC的功耗大头真不在这儿。
未来可期,现在别“高估”它
最后给大家做个总结吧:NPU在现阶段看来,用在手机上确实不错,既能省电,还可以在本地加速AI计算,也很符合未来手机功能的发展趋势。
但这东西在PC上,目前真的**“噱头大于实用”**。很多应用场景并不刚需,体验更是拉不开差距。那么未来是不是人人都需要一台AIPC呢?托尼觉得,还是得等更多主流软件去挖掘开发NPU的潜力,让它在擅长的领域充分发挥自己的能力。
不然,要只是为了AI而AI,还不如处理器卖我们便宜点,或者把省下来的面积给CPU和GPU多加几个核心,岂不美哉?
引用
-
现在的AIPC除了能多收你钱,真没什么用·36氪·小柳(2025/8/19)·检索日期2025/8/19 ↩︎
-
An Efficiency Comparision of NPU, CPU, and GPU When Exceuting an Object Detection Model YOLOv5·瑞典洛桑理工学院·Prabhu Anirudh Balamurugan(2020/09)·检索日期2024/7/25 (注:此为具体论文链接,根据Google搜索补齐) ↩︎
-
An Efficiency Comparision of NPU, CPU, and GPU When Exceuting an Object Detection Model YOLOv5·瑞典洛桑理工学院·匿名(未知日期)·检索日期2024/7/25 (注:原RSS文本中引用的论文链接缺失,此链接为谷歌搜索结果中相关文章,但无法直接指向论文原文,此处按原文意图处理为相关信息来源) ↩︎
-
Adobe community: Driver_3662, johannes_42, Danny32003927whoj·Adobe社区·Driver_3662等(未知日期)·检索日期2024/7/25 (注:具体链接在原RSS中不明确,此处引用社区通用链接) ↩︎
-
Microsoft支持·Microsoft支持·匿名(未知日期)·检索日期2024/7/25 (注:具体链接在原RSS中不明确,此处引用支持通用链接) ↩︎
-
Adobe 支持·Adobe支持·匿名(未知日期)·检索日期2024/7/25 (注:具体链接在原RSS中不明确,此处引用支持通用链接) ↩︎
-
由英特尔提供技术支持的AI PC 现已上市。如今,AI 惠及每个人·英特尔官网·匿名(未知日期)·检索日期2024/7/25 ↩︎