ChatGLM-webui-本地安装部署,初试

ChatGLM-webui

1.硬件

系统:
	Window10
CPU:
	Intel(R) Xeon(R) CPU E5-2680 v4 @ 2.40GHz
 
内存:
	64G,运行试了下,最少要26G内存,不然电脑卡死
显卡:
	无
	(使用CPU版,没使用显卡)

2.安装Anaconda

下载Anaconda
	加速地址:http://mirrors.aliyun.com/anaconda/archive/
	我下载
	Anaconda3-2022.05-Windows-x86_64

配置PATH新增
	F:\Anaconda3
	F:\Anaconda3\Scripts
	F:\Anaconda3\Library\bin

测试
	python -v
	
	Python 3.9.12

3.下载模型

百度网盘
	https://pan.baidu.com/s/1m8XxRhz1byvDPA46R_IfLw?pwd=8888
	或者GitHUB
	https://github.com/THUDM/ChatGLM-6B
	https://hub.nuaa.cf/Akegarasu/ChatGLM-webui

解压
E:\ChatGLM-webui

4.安装配置

依据:README.md安装配置

下载依赖
进入E:\ChatGLM-webui\ChatGLM-webui
1.pip install torch==1.13.1+cu117 torchvision==0.14.1+cu117 --extra-index-url https://download.pytorch.org/whl/cu117
	也可以手动下载安装
		下载:
			https://download.pytorch.org/whl/cu117/torch-1.13.1+cu117-cp39-cp39-win_amd64.whl
			
		安装(进入文件目录)
			pip install torch-1.13.1+cu117-cp39-cp39-win_amd64.whl

2.pip install --upgrade -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

5.启动

E:\ChatGLM-webui\ChatGLM-webui\0-使用CPU运行.bat
可以选择其他模式启动,我没有显卡,使用CPU模式运行

6.访问

http://127.0.0.1:17860/
可以使用了
CPU比较慢,有的问题要60%CPU1,2分钟

你可能感兴趣的:(python,人工智能)