今天分享的是AI PC系列深度研究报告:《AI PC行业深度报告:格局演变、发展趋势、产业链及相关公司深度梳理》。
(报告出品方:慧博智能投研)
报告共计:21页
1、端侧 AI 是 AI 发展下一阶段
端侧智能化的核心在于数据、底层软硬件、智能力三个方面。端侧设备搭载的传感器、芯片、算法模型赋予其数据采集、计算、分析与推理能力,使其能够在端侧完成数据处理闭环,形成感知、计算、推理个智能力。
当前云侧AI呈现向 AI 的转型。运行具备四大优:
(1)通过终端独立运行以及云-端协同承担计算负载,可大大降低云端算力需求及能耗成本;
(2)解决“弱网”“溢云”等极端场景使用难题,保证低时延、高可靠性;
(3)强隐私保护性和强定制性,可生成专有用户画像;
(4)具有自然语言语音交瓦的天然优势,可以便捷地获取图片、照片、视频、位置等信息,优化使用体验。
2、端侧AI 在于 Al Phone 与 AI PC
2023 年 2月,在于巴塞罗那举行的世界移动通信大会(MWC)上,高通展示了全球首个在安卓手机上跑AI画图大模型的能力。高通 AI Research 利用高通 AI 软件栈 (Qualcomm AI Stack) 执行全栈AI优化,并且首次在 Android 智能手机上部署 Stable Diffusion。
到 5 月份微软 Build2023 开发者大会期间,高通展示了其最新的终端侧 AI 能力,包括骁龙平台上运行生成式AI 以及支持在下一代 Windows 11 PC 上开发生成式 AI的工具。
能够认为 PC 端相比手机端算力更强,能够同时也与更多大模型需求场景契合,成为最先搭载端侧大模型的智能设备。
3、AI PC 的本质是本地端和云端混合协作
AIPC本质是云端与本地端协作,利用云端的大数据处力本地端 PC用场景,依托云算力来提升本地性能平衡。
AI PC 是能够创建本地知识库,运行个人大模型,支持人工智能计算,运用自然交瓦的更强大、更具备创造能力的智能生产力工具。AI PC 最重要特点使用本地知识库,保护用户隐私的同时满足用户个性化需求。
1)AI PC 通过内置知识库实现本地的智化。在持续学习及个性化方面,AI PC 能够根据用户使用习惯、行为和喜好进行自适应和优化为用户在操作过程中提供更多的个性化建议和支持。据第九届联想创新科技大会,AI PC 内置了本地知识库,用以更好地理解用户。
2)AI PC 通过个人大模型提开安全性。在保护隐私方面,AI PC 中个人大模型将使用存储在设备或家庭服务器上的个人数据进行推理,同时确保用户的个人数据不会被共享或发送至公有云,以维护个人隐私和数据安全。
3)AI PC有助于进一步提升数据应用效率。AI PC 在终端侧进行运算,能够提供多的情境信息如用户的移动状态、个人偏好和设备上的多媒体信息。
4、AI PC 或为 PC 产业提供重要发展动力
PC 市场较为成熟,增速受多重因素影响。PC 自 90 年代快速推广以来,市场逐步成熟。从美国 PC 市 场的发展历程中可以看出,近 20 年来 PC 市场增速波动逐步降低,增速周期性特征减弱。能够认为, 增速波动降低主要由于随着 PC 渗透率提升,市场整体趋于稳定,周期性特征减弱主要由于影响因素更 加多元化,有以下几方面:
1)宏观经济:PC 具备消费品,受宏观经济波动影响;
2)产品迭代:重要 的产品更新、技术迭代;
3)线上化需求:如疫情期间线上办公需求爆发推动的 PC 市场增速回升;
4) 自然换机周期:PC 换机周期一般约为 5 年左右。
技术革新或成为重要的 PC 市场推动力。从全球 PC 出货量的变化看,据 IDC,2021Q1 至 2023Q1,全 球 PC 市场出货量同比增速呈现下降趋势,近两个季度全球 PC 出货量同比增速有所回升。能够认为, 2020-2021 年疫情推动线上化需求释放为上一波增速高点出现的重要原因,展望未来,技术革新或成为 PC 市场成长的重要推动力,其中 AI PC 通过 AI 能力的本地化部署,有望进一步提升交互体验与工作效率,看好 AI PC 成为 PC 市场下一波增长的重要推动力。
5、2024 年各品牌 AIPC 产品将陆续上市
轻量化模型和开源模型生态的壮大为 AI PC 的推出提供了可能,各大 PC 厂商与微软、高通、AMD、英特尔等合作共同推动 AI PC 的研发设计,预计 2024 年各品牌的 AI PC产品将陆续上市。2024 年有望成为 AIPC 的元年。
2023 年 10 月14 日,联想在 Tech World2023 上展示了 AI PC,它能够创建个性化的本地知识库,通过模型压缩技术运行个人大模型,实现 AI 自然交。联想 AI PC 预计在 2024 年 g 月以后正式上市。
惠普、宏基等 PC 厂商也表示将在 2024-2025 年推出全新 AIPC 方案。
PC AI智能化的早期尝试。不少公司在早期就做过个人电脑 AI 智能化的尝试。微软于 2015 年在Windows 中植入AI 语音助手 Cortana。201g 年技嘉发布了全球首款 AI笔记本电脑“Aorus15”,基于微软 AzureA云端方案对 CPU 和 GPU 进行负载分配,并对键盘灯光和风扇进行智能控制,旨在提升笔记本性能。2021 年英特尔 11代酷容处理器的发布使 AI 技术开始出现在 PC 的日常使用场景中,该芯片搭载了 DLBoost:VNNI,DLBoost:DP4a,GNA2.0 三项技术,实现了 PC 端的 AI降噪、AI背景虚化和AI收音功能,显著优化了远程办公的使用体验。
PC 端 AI 发展由软硬件协同驱动。2022 年 ChatGPT 开启了 AI 大模型浪潮,AI 应用场景日渐丰富。微 软于今年发布的 Microsoft 365 Copilot 和 Windows Copilot 有望给 PC 的使用体验带来质变。个人电脑 的 AI 智能化由硬件和软件协同驱动。一方面,AI 应用的稳定运行需要硬件提供充足地算力支持。另一 方面,软件层可以提升 AI 应用的使用体验。经过近几年的不断发展,目前硬件端和软件端共同趋于成 熟,预计 PC 端 AI 智能化进程将进入快车道。
AIPC 将颠PC 传统硬软件等形式。在算力端,端侧相比云端在计算资源上有一定限制,因此需要算力层针对 AI场景进行针对性优化,持续提升端侧 AI 芯片的运算效率,降低能耗并且提升性能。在算法层,需要持续优化压缩模型,如联想创新科技大会中提及的模型压缩技术,可以评估普通大模型中数百亿参数不同耦合结构的重要性,从而动态分配性能资源,以降低基础模型的大小,将大模型应用端侧化。
此外还需要整机厂商进一步优化硬件架构,云服务与 AI PC 合作,提供更大规模的数据存储和处理能力, 推动更加深入的 AI 功能使用。
1、AI PC 硬件的变化
(1)架构:强调“计算+存储+传感”架构AIPC将带来生产力的变革。作为设备、边计算和云技术的合体,AI PC 将不仅具有强大的计算能力和先进的 AI 技术,还带来了新的交式觉体验,满新的生成式AI,同时还可为用户提供量身定制的体验。
AI PC 的功能将扩展至“计算+存储+传感”。在架构设计上,AI PC 最重要的是入了 AI芯片,形成“CPU+GPU+NPU”的异构方案。通过嵌入独立 NPU 的强算力性能,大幅提升终端 AI能力,并更好地提升性能、控制功耗:为了适配 AI 应用和越来越强的 NPU 算力,CPU 和 GPU 的性能也会有相应提升:同时在 AI深度学习应用中三者有不同分工,训练阶段会使用 CPU 或 GPU 执行通用计算任务,而推理阶段或利用专门的 NPU 来提高效率。此外,通过配备丰富的传感器,来实现更好的人机交互体验:在计算和传感性能大幅提升的同时,存储特别是内存也将拓展至更大的容量,以满足大算力缓存等需求。
(2)芯片:大型企业在 AI PC 芯片上的做法联想在 PC 中嵌入AI芯片,在CPU 基础上引入 NPU,大幅提升 PC 的AI能力,实现更好地管理 AI工作量、提升性能、控制电池消耗等目的:装备传感器,实现更多的交互功能。未来或将采用“CPU+GPU+NPU+DPU”的芯片架构,以提升算力,同时在存储、散热方面亦有更新。
英特尔 12 月 14 日将发布代号 Meteor Lake 的酷容 Utra 处理器,这是首款配备集成式的神经网络加速单元(NPU)的酷睿处理器,用于在 PC 上带来高能效的 AI 加速和本地推理体验。Meteor Lake 是首个采用 3D Foveros 封装技术的客户端芯粒设计,采用Intel4 制程(7nm 工艺),集成Intel 锐炫显卡,带来了独立显卡级别的性能。
高通推出用于 PC 端的骁龙 X Elite 芯片平台,由台积电 4nm 工艺代工,基于其自研的 Nuvia 构架的OryonCPU 内核,具有低功耗高性能特点,并支持本地运行超过 13B 参数的生成式AILLM。骁龙8Gen 3 升级 AI引擎,支持设备运行生成式 AI模型,其处理器基于 Qualcomm Kryo 64 位架构 (4nm工艺),性能和能效大幅提升,并支持 100 亿参数大模型。
AMD 继于今年第二季推出 Phoenixe 平台的 Ryzen 7040 系列处理器后,也预告将于下一代 8050 系列进一步增强 AI功能。
苹果也于 10 月 30 日发布 M3、M3 Pr 和M3 Max系列芯片,为首批采用业界领先 3 纳米工艺打造的个人电脑芯片,可将更多晶体管封装于更小的芯片空间中,实现速度和能效的双重提升。
(3)Chiplet: 英特尔和 AMD 新一代 PC 处理器全面导入
Chiplet 使英特尔新一代PC处器得以内置AI引英特尔采用基于 Chiplet 的 SoC 设计带来更先进的 IP 和更前沿的制程工艺,带来更强的性能和更低能耗。同时 AMD 的 PC 芯片也采用 Chiplet 工艺Chiplet 在异构集成 AI 加速引擎上优势明显,是 PC 处理器加强 AI能力的关键一环。
Chiplet (芯粒)实现原理如同搭积木,把一些预先在工艺线上生产好的实现特定功能的芯片裸片,通过先进的集成技术(如3D 集成等) 封装在一起以形一个系统芯片。
Chiplet 由于已经被英特尔和 AMD 全面使用,而英特尔和 AMD 又是 PC 处理器市场的寡头。无论AIPC 的渗透率如何,Chiplet 在最新 PC 处理器中将会全面使用,而 AIPC 的渗透有望提升整体 PC 市场的天花板带来 Chiplet 封装需求的进一步提升。Chiplet 代表企业有: 通富微电、长电科技等。
(4)存储: DRAM 存储也是升级要素之一
生成式 AI模型植入到端侧设备中运行一个很重要指标是平均数据速率,这需要消耗大量内存计算,对于终端设备的 DRAM 等内存硬件设备要求较高。例如,70 亿参数规模的 LLaMA 模型,其 FP16 版本大小为 14GB,而移动设备仅有不到 10GB 内存,因此通过训练时间优化来压缩相关模型才能使其运行在移动设备中,而衡量其性能指标的平均数据速率提升,涉及到 DRAM到 SRAM 等一系列读取的过程。
Snorkel 与斯坦福大学曾提出 FlashAttention,通过优化 DRAM 等内存使用策略,相较于传统的Pytorch 而言,模型效果有明显提升。因此,未来若要在手机、PC 端运行成百上千亿参数量的大模型,DRAM 等存储升级必不可少。
(5) 外观件及功能件:受益行业设计改变和产品升级外观件和结构件除了受益于 PC 行业整体的销量外,还受益于 PC 行业的产品结构升级以及内部设计的改变。
结构件受益AIPC 有望带来的产业高端化机遇。当前铝合金外壳、碳纤维、镁合金外壳等结构件虽然在散热、轻量化和质感上优势明显,但是由于之前 PC行业由于高端化受阻,高端 PC 所有的外观件升级趋势较为缓慢,AI PC 浪潮有望促进 PC 行业整体单机价值量的提升,加速结构件的创新和升级。同时显示相关产品也将受益行业整体复苏。结构件相关公司包含光大同创、春秋电子、福蓉科技、瀚博高新、菜宝高科等。
AI PC 处理器算力要求大幅提升,PC 处理器频率、功率和功耗都大幅提升。对应充电器功率、电池容量敢热能力要求有望明显提升。元件数量和精密度增加,以及笔记本主板重新设计,对电磁屏蔽材料的散热和屏蔽效能的要求也会明显提升。相关公司包含奥海科技、领益智造、安洁科技、飞荣达等
(6)代工环节:出货量将带动 PC 整机代工环节收益明年开始 AI PC 将会进入市场,作为大新的第一代产品有望激发大量的存量 PC 替换需求,出货量有望在短时间呈现高增长态势,PC 整机代工环节也将充分受益。相关代工企业包含:闻泰科技、华勤技术等。
2、AI PC 软件的变化
(1)整合轻量化 Al模型,AI 应用可商线运行
AI PC 在软件上最大的变化是整合了轻量化 AI型并各种生成式AI 应用都能在 AI PC 上顺利地运行。早期 AI PC 的 AI 应用主要集中在工作生活助手、图像生成等解决方案上。
AI模型,受制于本地算力、存储、通信等性能限制,与 PC 结合的 AI模型走轻量化路线,参数普遍在100 亿级别,甚至要求能离线稳定运行
模型压缩主要包括模型量化(Model Quantization)、知识蒸馏 (knowledge distillation)模型剪枝(Model Pruning)、低秩适应 (Low-Rank Adaptation) 、权值共享 (weight sharing) 、结构搜索(architecture search) 等方式。目前,多个大模型均已推出“小型化”和“场景化”版本,其轻量化提供了端侧运行基础。目前主流的轻量化 AI 模型是谷歌的 PaLM2 (Gecko 版本) 和 Meta 的 Llama2.。
另外,“小型化”大模型加速生成式 AI垂直方向发展,加速大模型商业化场景落地。“小型化”大模型的优势包括:
(1)可降低训练门槛,降低高算力高投入,吸引更多公司参与;
(2) 聚焦专业领域,利于提高数据集质量,加速生成式 AI 训练品质;
(3)更容易将大模型与垂直行业需求结合,发挥出行业应用价值。
AI 应用:以微软为例。微软将 AI Copilot 整合到 Windows 11 当中,Windows 11 更新 Copilot 后将拥有 150 多项新功能,用户可以体验 Copilot 和全新的 AI 功能,包括画图、照片、剪贴板等应用程序。同时, 微软将于 2025 年 10 月终止 Windows 10 的支持服务,从而变相推动用户转向使用 Windows Copilot。 微软与联想合作开发个人及企业 AI Twin,这是针对 AI PC 的 AI 助手解决方案。
(2)部分大型企业在 A PC 软件上的做法
联想集团。提出了三个大模型框架概念--公共大模型、企业级私域大模型和个人大模型。其中公共大模型即为当前最流行的公共通用大模型,企业级私域大模型布局在企业端,可以接入企业私有数据库,与企业原有业务融合共通,制定个性化企业大模型。个人大模型,则是根据不同用户将通用大模型进行个性化设置,融入 PC、智能手机等智能终端设备,使每位用户拥有自己的大模型。
基于大模型压缩技术,把 LLM压到多个小入,联AIPC个人大的能力本地运行不涉及云端操作,保证个人隐私和数据安全。AI PC 建有本地知识库,个人大模型将使用存储在设备或家庭服务器上的个人数据进行推理,个人数据只有在得到授权的情况下才会上传至云端。这些设备甚至可以根据用户的思维模式来预测任务,并自主寻找解决方案。因此,这些设备就像用户的数字延伸,就像用户的双胞胎一样,将其称为个人AI李生(PersonalAITwin)。很快,每个人的AI PC上用户将能够创建本地知识库,运行个人基础模型,支持人工智能计算,并进行自然交互。
AITwin 的企业版本 Enterprise AITwin 从企业内部设备、边缘和私有云中提取相关信息,做出本地化推理,提出相应解决方案。如可以利用 Enterprise AI Twin 规划供应链情况,保证企业数据的隐私性以及更好的制定出匹配企业自身情况 (数据)的方案。
宏善,将把 AIGC 或其他 AI 应用导入到终端设备上;与英特尔合作通过 OpenVINO 工具包共同开发了套宏基 AI 库。
英特尔:英特尔推出了 AI推理和部署运行工具套件 OpenVINO,在客户端和边缘平台上为开发人员提供了选择。该版本包括针对跨操作系统和各种不同云解决方案的集成而优化的预训练模型,包括多个生成式AI模型,例如 Meta 的 Llama2 模型。