【GPT】如何拥有离线版本的GPT以及部署过程中的问题

【背景】

目前很多公司由于数据安全的问题,不能使用OpenAI的GPT,同时也没有必要非得使用如此泛用化的GPT。很多公司因此有训练自己的离线GPT的需求,这样的GPT只需要具备专业知识即可。
要使这个成为可能,首先就需要能够让GPT的Model在本地运行。
【GPT】如何拥有离线版本的GPT以及部署过程中的问题_第1张图片

【工具】

GPT4ALL就是这样一个应运而生的工具。
官网地址:https://gpt4all.io/index.html
如果官网速度慢,可以下我存的百度:
链接:https://pan.baidu.com/s/1QodbiPxnK0RSYDcDc65sPg?pwd=dff3
提取码:dff3
–来自百度网盘超级会员V7的分享

【部署方法】

  1. 第一种部署方法最简单,在官网首页下载对应平台的可执行文件,直接运行即可。这种方式的优点在于方便,配有UI,UI集成了包括Model下载,训练等在内的所有功能。缺点是这种方法只能本机使用GPT功能,个人培训个人的GPT,学习和实验的成分多一些,如果要拿这个能力做局域网应用,还是需要别的部署方式。
  2. 第二种推荐的部署方式就是Python部署。这里有几个注意点,如果你用的Anaconda+Pycharm,注意保证GPT相应的编译器环境是3.8以上的,不然install package会报错。且Anaconda需要是64位。我一开始64位OS装了32bitAnaconda也会

你可能感兴趣的:(ai,gpt,AI,离线GPT,信息安全,gpt4all)