深度学习系列57: 清华大模型MiniCPM上手

MiniCPM 是面壁智能与清华大学自然语言处理实验室共同开源的系列端侧大模型,主体语言模型 MiniCPM-2B 仅有 24亿(2.4B)的非词嵌入参数量

1. 上手对比测试

mps比cpu大概快了9倍左右。
深度学习系列57: 清华大模型MiniCPM上手_第1张图片
也可以在modelspore上测试:
深度学习系列57: 清华大模型MiniCPM上手_第2张图片

你可能感兴趣的:(深度学习系列,python)