DeepSeek 本地部署详细教程

一、环境准备

1.1 硬件要求

• GPU：推荐NVIDIA显卡（RTX 3090/4090或更高）
• 显存：至少16GB（根据模型版本调整）
• 内存：32GB及以上
• 存储：50GB可用空间

1.2 软件依赖

• 操作系统：Linux/Windows WSL2（推荐Ubuntu 20.04+）
• Python 3.8+
• CUDA 11.7+ & cuDNN
• PyTorch 2.0+

bash

复制代码

# 示例：安装CUDA工具包 sudo apt-get install nvidia-cuda-toolkit nvidia-smi # 验证驱动安装（应显示GPU信息）

---

二、获取模型文件

2.1 官方渠道下载

1. 访问DeepSeek官方仓库（https://github.com/deepseek-ai/）
2. 申请模型权重访问权限
3. 下载对应模型版本（如deepseek-7b-base）

2.2 使用Hugging Face

python

复制代码

from huggingface_hub import snapshot_download snapshot_download(re