大模型应用开发平台dify安装部署

1、dify简介

        dify是苏州语灵开发的,完全开源,支持私有化部署,适合搭建自己的大模型平台,但是其不支持多智能体,主要核心集中在工作流搭建,以及大模型集成,支持开发者开发自己的大模型应用。类似的平台还有字节跳动的 coze、环界公司 FastGPT等,读者可自行查阅相关官网了解各个平台特点。

2、dify安装

        dify安装比较容易,开源社区已经将整个安装通过使用docker compose 编排,只需要安装docker即可快速安装dify。docker安装详见:https://blog.csdn.net/zwl2220943286/article/details/147026043?spm=1011.2415.3001.5331

2.1、下载

开源地址:https://github.com/langgenius/dify

将项目拉取到本地,或者下载zip包到本地解压,(建议使用git拉取到本地,这样后续更新比较容易)

# 1、使用git 拉取到本地
git clone https://github.com/langgenius/dify.git
# 2、下载zip包
dify-main.zip
2.2、安装
# 1、解压
unzip dify-main.zip
# 2、进入docker 目录
cd dify/docker
# 3、修改配置文件
mv .env.example .env
# 4、添加配置
CUSTOM_MODEL_ENABLED=true                # 允许集成自定义的大模型
OLLAMA_API_BASE_URL=192.168.0.66:11434   # ollama地址
2.3、运行
# 1、进入dify/docker目录
docker compose up -d  # 等待所有镜像拉取之后就可以直接启动
3、测试结果

        在成功运行dify之后,使用浏览器访问 http://ip/install 即可访问dify管理页面。

大模型应用开发平台dify安装部署_第1张图片

你可能感兴趣的:(dify,ollama,docker,llama,docker)