探讨DPU驱动的高效AI大模型算力底座 中科驭数亮相中国IDC产业（长三角）年度大典

8月31日，以“AI造物 算引变革”为主题的第十八届中国IDC产业（长三角）年度大典今日在上海隆重召开。大会由中国IDC产业年度大典组委会、上海市通信学会“算力浦江”专委会、中国通信工业协会数据中心委员会联合主办。中科驭数产品运营部副总经理曹辉受邀在主会场发表主题演讲——《基于DPU的高效AI大模型算力底座》。

▲ 中科驭数产品运营部副总经理曹辉应邀发表主题演讲

随着人工智能的不断发展，传统算力底座已成为制约AI算力提升的瓶颈。曹辉在演讲中强调，以ChatGPT为代表的大规模AI模型应用对算力的渴求，正在推动算力底座向着大带宽和低延迟的方向演进。在这一背景下，数据处理单元（DPU）的出现为AI算力底座的升级提供了关键支持，为其提供了必要的大带宽和低时延能力。

曹辉提到，三U一体（CPU/GPU/DPU）成为智算中心的新型算力基座，可以实现通用算力、智能算力、基础算力的硬件协同融合，使得智算中心不仅能够应对复杂多样的任务，还能够为日益挑战性的AI应用需求提供解决方案。

曹辉也提到了“Iaas on DPU”，即在DPU中融合各种基础设施层的加速，包括计算加速、存储加速、网络加速、安全加速、云原生加速等等，公司也据此形成了丰富的产品矩阵布局，不仅仅能够助力AI算力底座的整体性能提升，也为用户提供了更高效更完整的基础设施解决方案。

中科驭数将继续秉持着技术创新和开放合作的理念，欢迎服务器厂商、CPU/GPU厂商、操作系统厂商等上下游合作伙伴加入驭数DPU生态，共同推动AI算力底座的发展，为AI产业繁荣做出积极贡献。