NVIDIA大力推动DPU“出圈”,搅动中国AI基础设施市场

NVIDIA大力推动DPU“出圈”,搅动中国AI基础设施市场_第1张图片

自大模型AI横扫全球以来,DPU数据处理器越来越为人所熟知。作为AI数据中心基础设施的新三驾马车之一,DPU与CPU和GPU共同支撑起了大模型AI的加速计算需求。从2020年开始,NVIDIA创始人兼CEO黄仁勋就在公开场合不断强调,DPU将成为未来数据中心的关键和支柱之一。

据赛迪顾问《中国DPU行业发展白皮书》对全球市场统计,预计2025年全球DPU产业市场规模将超过245.3亿美元,复合增速达51.73%,全球市场的爆发式增长阶段将出现在2023-2024年。另据头豹研究院数据,近年来在国内DPU市场中,国际三大巨头NVIDIA、Broadcom、Intel的份额分别达到55%、36%和9%。

NVIDIA BlueField DPU是市场上多种数据处理器之一,采用了ARM CPU和数据路径加速器,能彻底解耦数据中心基础设施与业务应用程序,加速网络、存储和安全等性能突破,实现软件定义、硬件加速的数据中心基础设施。

NVIDIA在2019年以69亿美元的价格收购网络芯片公司Mellanox,并于次年推出BlueField-2 DPU。2023年,NVIDIA推出了集成了16个Arm A78 CPU核心的BlueField-3 DPU,相比上一代产品具有2倍的网络带宽、4倍的计算能力以及4倍的IPsec加密速度,BlueField-3 DPU也是首款支持第五代PCIe总线并提供数据中心时间同步加速的DPU。

NVIDIA为BlueField DPU配套推出了DOCA软件开发包,为开发者提供一个完整、开放的软件平台,可在BlueField DPU上开发软件定义和硬件加速的网络、存储、安全和管理等应用。与之前大名鼎鼎的CUDA不同,CUDA是NVIDIA GPU的软件开发包,基于CUDA可以开发消费级应用,例如消费类视频或游戏等,也可以开发企业级应用,例如生成式人工智能和大模型训练,这些都可使用CUDA进行计算加速。而DOCA主要面向数据中心基础设施加速,属于企业级应用,能够与 CUDA 配合支撑加速计算和人工智能工作负载。

DPU与DOCA对于大模型和生成式AI来说,意义重大。而根据Gartner,预计在 2026 年,超过80%的企业将使用生成式AI应用程序编程接口(API)或模型,或者在相关生产环境中部署支持生成式AI的应用程序。据统计,这一比例在2023年还不到5%,这意味着在短短三年内,采用或创建生成式AI模型的企业数量预计将会增长16倍。

也就是说,未来3年是生成式AI爆发的窗口期,也是普及BlueField DPU和DOCA的机遇期。如何让BlueField DPU和DOCA在开发者中“出圈”?2023年10月17日,由NVIDIA公司撰写的《数据处理器: DPU编程入门》一书正式上市发行,成为NVIDIA的全球首部 DPU 处理器编程入门书籍。该书由机械工业出版社出版,为使用BlueField系列DPU和DOCA开发环境的开发者提供实用指南,帮助开发者快速上手DPU编程。

NVIDIA大力推动DPU“出圈”,搅动中国AI基础设施市场_第2张图片

《数据处理器: DPU编程入门》一书集合了NVIDIA十余位资深系统架构师,历经数月编写,为全球最大DOCA开发者社区的中国开发者提供了官方的参考书籍,以便他们入门学习DPU和DOCA。目前,全球DOCA开发者中将近一半来自中国,DOCA开发者迫切需要一本由浅入深、化繁为简的入门书籍。

《数据处理器: DPU编程入门》一书定位为NVIDIA BlueField系列DPU和DOCA开发环境的入门学习参考,内容涵盖 DPU简介、技术优势及未来技术发展路径,包括BlueField系列DPU的前景展望、DOCA软件开发环境配置以及相关开发实践案例。

NVIDIA于2021年6月发布了NVIDIA DOCA中国开发者社区。对本地没有DPU的DOCA 开发环境问题,NVIDIA选择了丽台(上海)信息科技有限公司、上海信弘智能科技有限公司和联泰集群(北京)科技有限责任公司等合作伙伴设立NVIDIA授权合作伙伴DPU & DOCA卓越中心,为开发者提供本地的DOCA开发软硬件环境。

NVIDIA DOCA开发者社区提供了丰富的学习资源和交流机会,包括DOCA开发者训练营、DOCA开发者发展计划等,DPU中国黑客松竞赛就是DOCA开发者发展计划的一个重要活动。2022年第一届DPU中国黑客松竞赛的冠军团队凭借“基于DPU的分布式内存池系统的研究与实现”,从参赛队伍中脱颖而出,获得冠军。

当前,全球云服务供应商都在使用BlueField DPU进行加速,如百度、京东和UCloud。BlueField DPU生态系统也在不断扩大,包括:服务器制造商戴尔、联想和超微;混合云平台合作伙伴Canonical、Red Hat和VMware;头部网络安全提供商Fortinet、Guardicore;存储供应商DDN、NetApp和WekaIO;以及边缘平台供应商Cloudflare、F5和Juniper Networks等。

在NVIDIA的大力推动下,将有更多的人才加入AI基础设施市场,抓住生成式AI的窗口期红利,在数字经济时代获得更强的竞争力。(文/宁川)

你可能感兴趣的:(人工智能)