2024年第一季度还没有过去，PC市场最热门的关键词已经是“AI”。
最新消息，继联想和荣耀之后，微软首款人工智能个人电脑即将推出。
据Windows Central报道，微软将于3月21日发布新的Surface Pro和Surface Laptop。
围绕人工智能打造的两款新产品:
在硬件方面，英特尔版本搭载了被称为“AI CPU”的全新英特尔酷睿Ultra，而arm版本则采用了高通骁龙X Elite，可以将130亿参数的大型模型装进一台PC。
在软件方面，这两款新产品都将率先支持Windows 11的“下一代”人工智能体验。包括一个新的AI功能内部称为“AI资源管理器”。
有消息称，AI Explorer将“完全区分AI PC和非AI PC”，用户可以依靠自然语言交互，在PC上完成所有事情。
(贾维斯体内的气味，不是要来了吗?)
这还没有结束，各种资深PC玩家不能坐着不动，并发布了关于他们的第一个AI PC的消息。
在大模型技术风暴造成的“模具时代”，我们每天使用的生产工具正在加速变化。
这一趋势现在变得越来越明显。终端产品的转型也意味着，对于人们日常的工作和生活，新一代的办公和学习姿势已经在酝酿之中。
那么，问题来了
对于普通工人来说，产品概念很浮华，但什么样的PC才是真正的AI PC呢?
个人电脑能做什么样的人工智能?
终端端AI趋势开始后，终端、芯片、应用厂商逐渐用生成式AI的芯片完成AI PC的定义。
第一个勾勒出想象力的是微软。
去年9月，Colpilot正式进入Windows 11系统，成为计算机系统的人工智能助手。
这完全开启了PC上的自然语言交互，改变设置，组织桌面，打开软件，这些都可以通过聊天来实现。
联想紧随其后，推出了首款AI PC，表明大型机型在本地运行后，可以为用户带来更加定制化的体验。
根据用户的个性化信息创建本地知识库，以完成一系列针对用户需求的新任务。
例如，根据电脑上的家庭照片和视频创建一个“智能剪辑”。
或者它可以成为一个更加本地化的工作助手，帮助编写文档，总结知识点，提高工作效率。
同时，最关键的底层芯片也进行了重大更新艾德。
高通在发布骁龙X Elite时，从底层的角度给出了一系列关于AI PC的思考。
这款4nm制程CPU支持130亿个参数的大型模型的本地操作，70亿个参数的模型每秒可以生成30个令牌。
AI引擎的计算能力可以达到75TOPS, AI处理速度可以达到竞品的4.5倍。
CPU和GPU性能是同类产品的2倍，相同峰值性能下功耗比同类产品低68%。
此外，在刚刚结束的MWC 2024上，高通还展示了一个在PC上本地运行的多模态大型模型的例子。
它可以理解音频并进行推理，通过语音输入实现多回合对话。
这意味着AI PC趋势和多模态趋势正在交汇融合，传统的PC交互方式将发生更彻底的变化。
通过厂商的实际行动，一些关于AI PC的初步共识逐渐清晰。
也就是说，AI PC应该成为用户专属的个人助理。它拥有强大的人工智能能力和底层计算能力，将人类从日常生活中常规、重复和看似琐碎的任务中解放出来，转而从事更有意义的任务。创造性的、变化导向的工作。
但问题是，今天的传统个人电脑是如何做到这一点的?哪些地方悄然发生了变化?
技术趋势提供了某些答案。
人工智能将如何重塑个人电脑?
面对生成式人工智能，个人电脑正在经历一场新的计算架构革命。从底层硬件到上层应用程序，一切都在变化。
因为生成式人工智能出现的典型场景对计算连接等提出了新的要求。
高通最新白皮书《通过NPU和异构计算实现终端端生成AI》总结道，生成AI用例可分为三类:
按需:由用户发起，需要立即响应。例如，您可以在PC上生成会议摘要，并在开车时使用语音查询最近的加油站。
连续型:运行时间较长。例如，使用手机进行实时对话翻译，在PC上玩游戏时运行逐帧超分辨率。
泛在型:后天继续运行。比如永远在线的预测性人工智能助手。
这些情况面临两个关键挑战。
首先，考虑到终端的功耗和散热问题，通用cpu和gpu很难满足这些AI任务的计算需求。
第二，生成式人工智能应用不断丰富，无法部署在功能完全固定的硬件上。
在硬件方面，NPU和异构计算已经成为应对挑战的关键。
在终端端AI趋势兴起之后，原本在手机芯片上更为常见的NPU，也开始在电脑芯片上发挥更重要的作用。
NPU (Neural Processing Unit)是专门为加速神经网络和AI任务而设计的，可以快速处理AI推理任务。它不容易编程，但可以实现更高的峰值性能，功率和面积效率，以运行机器学习所需的标量，矢量和张量数学。
随着人工智能趋势的发展，NPU的设计也发生了一系列变化。例如在2015年，NPU主要是为音频和语音AI设计的，用于简单的CNN，主要需要标量和向量的数学运算。
后来，随着AI在摄影和视频中的应用越来越多，以及Transformer、RNN、LSTM和高维CNN模型的出现，NPU增加了张量加速器和卷积加速，可以减少内存带宽的使用和能耗。
在大机型时代，在低延迟、电池寿命、内存等因素的普遍要求下，NPU往往表现出比GPU更好的能效和性能。这也使得NPU成为生成式AI终端不可或缺的一部分。
例如，骁龙X Elite上集成的Hexagon NPU的计算能力为45TOPS。
在不损失太多精度的情况下，快速稳定扩散能够在0.6秒内生成512 x 512分辨率的图像。
然而，随着生成式AI终端的逐步发展，在终端端运行的模型规模可能会继续扩大。多式联运趋势已经出现，可能会装备多个大型车型。
仅依靠NPU来支持生成式AI任务可能不是最佳解决方案。
目前，厂商已经开始使用异构计算，让不同的处理器处理自己擅长的任务，即让所有的处理器都支持生成式AI任务。这一直是高通坚持并擅长的一条轨道。
GPU不仅用于处理图像任务，还可以用于高精度格式的AI并行处理，支持FP32、FP16和INT8操作。
CPU可用于低计算、低延迟的AI任务。例如，Qualcomm Oryon CPU的性能是竞争产品的两倍，功耗降低了三分之二。
处理器之间的合作可以进一步释放AI引擎的性能，超越单个NPU的效果。
同时，由于人工智能的影响，软件层面也发生了变化。
一方面，生成式AI终端需要软硬件结合，才能充分释放性能;另一方面，开发人员还需要能够更快地将大型模型添加到应用程序中的当前工具。
在MWC 2024上，高通宣布的AI Hub正是这样一个平台。
它是一个综合性的模型优化库，为开发者提供了超过75个主流模型，如Stable Diffusion, ControlNet, Baichuan-7B等。这些模型都经过了优化，充分利用了高通AI引擎中所有核心的硬件加速能力，实现了4倍的推理速度提升。开发人员可以快速无缝地将大型模型集成到应用程序中，从而缩短上市时间。
同时，这些优化的模型也在GitHub和hug Face上同时在线。开发人员可以在高通和骁龙平台支持的云托管终端上运行自己的模型。
早前推出的Qualcomm AI Stack，可以全面支持主流AI框架(如TensorFlow、PyTorch、onNX和Keras)和运行时。集成高通神经网络SDK不同版本的Android, Linux和Windows。
此外，还提供了一系列量化和压缩开发工具，可以在不降低模型精度的前提下尽可能压缩模型。因此，一些生成式AI模型可以量化为INT4。
简而言之，从底层硬件到上层软件，以生成式人工智能为中心的快速变化正在发生。
这些巨头正一致行动起来，加速推进All in AI，使生成式AI带来的变化更加引人入胜。
人工智能革命将如何影响每个人的生活?
AI PC展示的进化过程有一些轻微的剧透。
在哪儿AI PC领先吗?
从这个角度来看，从人工智能个人电脑作为概念出现到最初的产品发布，只有半年的时间。
高通公司产品管理高级副总裁兼人工智能负责人Ziad Asghar将其比作“人们只能通过手机上网”的阶段:数十亿人能够通过手机连接到网络，这为未来移动互联网应用的爆发奠定了基础。
我认为如果我们能够在终端端实现AI的发展，我们可以充分发挥生成式AI的能力和优势，打破所有的界限，用生成式AI的能力让我们在生活、工作、娱乐、医疗等方面都能使用它。在各方面获得更好的体验。
换句话说，人工智能现在正处于重塑个人电脑的基础阶段。
从上述各大厂商的行动中，可以梳理出几个关键环节:
云大模型功能向终端端的迁移
生成式AI的芯片+ AI开发平台
基于AI+5G技术的设备互联
前两种不作详细描述。设备互联关系到生成式AI从第一阶段发展到第二阶段的本质:
在哪儿只要有数据，就会执行人工智能推理。
从短期来看，终端生成式AI基础能力的构建，可以带来手机、pc等生产力终端应用的爆炸式增长，提高生产效率，带来新的创新机会——
对于普通用户来说，人机交互的方式已经完全改变了。自然语言操作一切，带来更高的终端使用效率。
对于开发者来说，新一轮的AI原生应用爆发的机会已经开始。人工智能搜索应用程序Perplexity刚刚被披露估值超过10亿美元，成为独角兽之一。
对于终端厂商来说，从底层芯片到操作系统的变化也将带来重塑市场结构的机会。
从长远来看，更显著的影响是，在AI pc和AI手机的背后，将出现真正的个人AI助手:用户可以在本地创建自己的代理，通过终端设备的互联，AI代理将能够渗透到生活的方方面面。
工业革命的核心是生产力的突破和生产方式的变革。人工智能掀起的技术风暴也不例外。
就像从纸质办公到网络办公的过渡，我们还无法看到未来的全貌，但可以预见的是，以人为中心，AI自然会流入手机、pc、智能汽车、AR/VR，甚至基于新的AI硬件，构建真正的万物互联。
在这样一个时代，对于面临风暴的科技制造商来说，高通这样的先行者已经给出了如何跟上潮流的参考。
对我们每个人来说更重要的是，现在是认真考虑如何接受新的变化的时候了。
毕竟，最先拥抱新潮流的人最先享受世界。
