【大模型对话 的界面搭建-Open WebUI】

Open WebUI 前身就是 Ollama WebUI,为 Ollama 提供一个可视化界面,可以完全离线运行,支持 Ollama 和兼容 OpenAI 的 API。

github网址

https://github.com/open-webui/open-webui

安装

第一种 docker安装

如果ollama 安装在同一台服务器上:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果不在同一台服务器上:

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果有NVIDIA的GPU:

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

还有一些安装细节,可以参考https://docs.openwebui.com/ 查看

其他安装方法

pip

注意这个有版本要求:
Python 3.11 is required for this method

安装

pip install open-webui

使用:

open-webui serve

从open webui的github repo

要求:

Node.js >= 20.10
Python >= 3.11

在linux或者macos

git clone https://github.com/open-webui/open-webui.git
cd open-webui/

# Copying required .env file
cp -RPp .env.example .env

# Building Frontend Using Node
npm install
npm run build

cd ./backend

# Optional: To install using Conda as your development environment, follow these instructions:
# Create and activate a Conda environment
conda create --name open-webui-env python=3.11
conda activate open-webui-env

# Install dependencies
pip install -r requirements.txt -U

# Start the application
bash start.sh

在windows下:

git clone https://github.com/open-webui/open-webui.git
cd open-webui

copy .env.example .env

npm install
npm run build

cd .\backend

# Optional: To install using Conda as your development environment, follow these instructions:
# Create and activate a Conda environment
conda create --name open-webui-env python=3.11
conda activate open-webui-env

pip install -r requirements.txt -U

start.bat

安装完成后, openwebui运行在http://localhost:8080/上了

完全离线安装

上面是比较推荐的方法,如果完全离线可以从python官网下载python,然后官网下载open webui

  • python

https://www.python.org/downloads/
linux版本通常是source 版本 到linux安装

  • open webui
    https://pypi.org/project/open-webui/#files

运行起来后,可以跟chatgpt一样的界面进行对话了,另外WebUI 还天然支持RAG,可以尝试上传资料等
【大模型对话 的界面搭建-Open WebUI】_第1张图片

你可能感兴趣的:(人工智能,深度学习,人工智能,llama,语言模型)