【deepseek】deepseek-r1本地部署-第三步:下载模型

一、背景

        建议的模型有1.5B、8B、32B三种。其中1.5B轻量级,适合无独显的环境;8B适合带独显的环境;32B的超大杯适合专业开发环境,其推算准度比gpt弱10%。
二、操作
1、LM Studio开发模式切换

模式名字

Power User

【deepseek】deepseek-r1本地部署-第三步:下载模型_第1张图片

 2、下载模型

模型名字

DeepSeek-R1-Distill-Llama-8B-GGUF

【deepseek】deepseek-r1本地部署-第三步:下载模型_第2张图片

3、下载完成

【deepseek】deepseek-r1本地部署-第三步:下载模型_第3张图片

三、总结

        按需选择合适的bit的模型,否则会跑不动。

你可能感兴趣的:(ai,deepseek)