rk3588部署deepseek

也是终于部署上了,过程不难,下面简单叙述:

111我的方法肯定有很多漏洞,但是我其他手段要么加载不出来,要么网络超时,呜呜呜,大伙如果有别的好方法,请求各位指导我,不甚感激!!!!

我们使用docker代替安装(要下东西的,等待一下~)

# 安装 Docker
sudo apt install docker.io
# 拉取 Ollama 镜像
sudo docker pull ollama/ollama
# 启动容器(数据持久化到 ~/.ollama)
sudo docker run -d -v ~/.ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

rk3588部署deepseek_第1张图片

上述是结果,和我一样就行(我期间加了一些依赖,但是这些依赖您可以通过ai解决的)

然后,我们通过docker使用客户端(ctrl+d就可以退出来啦~)

# 通过 Docker 执行客户端命令(需指定容器名称)
docker exec -it ollama ollama run deepseek-r1:1.5b

 嗯,没错,就可以了
我的输出如下(当然,1.5b的大模型,咱不指望他多么厉害)

你可能感兴趣的:(rk3588)