LLaMA-33B

【AI实战】从零开始搭建中文 LLaMA-33B 语言模型 Chinese-LLaMA-Alpaca-33B

【AI实战】从零开始搭建中文LLaMA-33B语言模型Chinese-LLaMA-Alpaca-33B简介环境配置环境搭建依赖安装代码及模型权重拉取拉取Chinese-LLaMA-Alpaca拉取llama
szZack·2023-08-17 00:08

【AI实战】llama.cpp 量化部署 llama-33B

【AI实战】llama.cpp量化部署llama-33Bllama.cpp量化介绍环境配置安装llama.cpp拉取llama.cpp仓库代码编译llama.cpp生成量化版本模型模型准备将上述.pth模型权重转换为ggml的FP16格式对FP16模型进行4-bit量化推理速度测试加载并启动模型量化方法选择及推理速度33B推理速度表格参考llama.cpp量化介绍量化模型是将模型中的高精度浮点数转
szZack·2023-07-24 14:16
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他