使用Ollama部署deepseek,并支持浏览器访问

使用docker配置后快速简单部署deepseek,如果没有,先自行安装好docker,以下我安装的ollama实在arm上运行的(香橙派aipro)

1、安装ollama
docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/ollama/ollama:0.3.6-linuxarm64
2、启动ollama
docker run -d  -v ollama:/root/.ollama -p 11434:11434 --name ollama swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/ollama/ollama:0.3.6-linuxarm64
3、进入docker容器
docker exec -it ollama bash
# 后台运行并保存日志,上面命令只能在脚本操作,后台运行后可以通过11434端口操作
nohup ollama run deepseek-r1:1.5b > /var/log/deepseek.log 2>&1 &
4、在容器内下载并启动deepseek镜像
ollama run deepseek-r1:1.5b

使用11434端口访问deepseek,以下是测试命令

curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:1.5b",
  "prompt": "Hello, how are you?"
}'

open-webui配置使用,以支持浏览器访问使用

# 使用Docker安装运行
docker run -d -p 4000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

配置后浏览器访问地址

http://localhost:4000

你可能感兴趣的:(AI,deepseek,ai,openwebui,ollama,docker)