思腾云计算

今年以来，AI大模型在全球掀起一轮开发热潮，眼下正处于快速应用落地的关键期。月初在上海举办的世界人工智能大会集中展示了国内外总计30余款大模型，突显大模型赋能各行各业的多元生态。展会上的火热程度仅仅是国内大模型快速发展的一隅。据不完全统计，从三月的文心一言拉开大幕算起，截止目前国内已经有上百个大模型产品问世。毫不夸张地说“百模大战”已然开启。

从短期来看，AI大模型无疑将成为人工智能核心产业发展“新引擎”。IDC预测，2026年中国人工智能软件及应用市场规模将达到211亿美元，人工智能将进入大规模落地应用关键期。未来在算力中心或者其他的细分领域，AI大模型必然是一个趋势。

AI大模型对于底层算力需求与日俱增

算力是人工智能产业创新的基础，大模型的持续创新，驱动算力需求爆炸式增长。可以说，大模型训练的效率或者是创新的速度，根本上取决于算力的大小。

在训练阶段，单次GPT-3 Small(1.25亿)计算量 2.6PFlops*天；单次GPT-3XL计算量为 27.5 Pflops*天；单次GPT-3(175B)计算量 3640 PFLops*天；PalM 模型(5400亿) 29600 Pflops*天。在推理阶段（日常运营），2023年1月ChatGPT官网总访问量6.16亿次，单月运营算力约为4874.4 Pflop/s。

有消息称，GPT-4达到了100万亿的参数规模，其对应的算力需求同比大幅增加。数据显示，大模型参数数量的增长与算力的平方成正比。