Ollama容器+打造DeepSeek-R1-7B大模型

1、获取Ollama官方镜像

1.1 在线拉取镜像

# dokcer pull ollama/ollama:0.5.7

1.2 导入离线镜像

# tar -zxf ollama0.5.7_x86.tar.gz

# dokcer load -i ollama0.5.7.tar

2、执行以下命令创建与启动ollama

# docker run -dp 8880:11434 --name ollama \

-e OLLAMA_HOST=0.0.0.0:11434 -e OLLAMA_ORIGINS=* \

-v /model/deepseek-r1-7b:/root/.ollama/models ollama/ollama:0.5.7

3、通过IP+端口访问ollama

你可能感兴趣的:(AI大模型,docker,运维,语言模型)