玩转 GPT4All

目录

什么是Chatgpt

什么是gpt4all

如何使用

第一步:下载LLM模型

第二步:下载代码

第三步:将模型替换到

第四步:执行启动命令

第五步:生成自己的客户端

第六步:启动

第七步:配置UI


玩转 GPT4All_第1张图片

什么是Chatgpt

        ChatGPT是一个由OpenAI开发的大型语言模型。其基于GPT-4架构(Generative Pretrained Transformer 4)进行训练,目的是理解和生成人类语言。它可以回答问题、撰写文章、翻译语言、编写代码等。

ChatGPT在训练过程中,学习了大量的文本数据,其中包括了书籍、网站和其他类型的文本。然而,它并没有直接访问互联网,因此不能获取实时信息,也不能存储与个人相关的任何信息。

什么是gpt4all

        GPT4All是Nomic AI公司开源的一个类似ChatGPT的模型,它是基于MetaAI开源的LLaMA微调得到的其最大的特点是开源,并且其4-bit量化版本可以在CPU上运行!gpt4all是在大量干净数据上训练的一个开源聊天机器人的生态系统。它不用科学上网!甚至可以不联网!本地就能用。接下来咱们就是实战一下如何体验gpt4all。支持的系统包括Mac/OSX、Windows、Ubuntu市面上常用的所有操作系统。

        GPT4All模型是一个3GB - 8GB的文件,您可以下载并插入GPT4All开源生态系统软件。特别强调是GPT4All是遵循非商业化协议,所以不能用于商业用途。

如何使用

第一步:下载LLM模型

        浏览器打开这个地址: https://the-eye.eu/public/AI/models/nomic-ai/gpt4all/gpt4all-lora-quantized.bin, 下载模型文件,文件大小是3.92GB。这个模型下载需要科学上网,我这边下载好了大语言模型,因为CSDN上直接粘贴网盘地址审核不通过,所以需要的同学可以私信或者留言我发你。

玩转 GPT4All_第2张图片

第二步:下载代码

玩转 GPT4All_第3张图片

第三步:将模型替换到

        将gpt4all-lora-quantized.bin放进gpt4all-main下的chat文件夹,注意项目路径为:“gpt/gpt4all-main/gpt4all-training/chat”。

玩转 GPT4All_第4张图片

第四步:执行启动命令

        在当前目录下执行启动命令,我的电脑是mac,Intel 我使用的最后一个命令。但是我的电脑操作系统版本太低,报错。如下图,要解决这个case有两种方式,一个是升级我电脑系统,需要升级到13版本。 一个是重新生成一个新的客户端。我采用的是后一种方式。

  • M1 Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-m1
  • Linux: cd chat;./gpt4all-lora-quantized-linux-x86W
  • indows (PowerShell): cd chat;./gpt4all-lora-quantized-win64.exe
  • Intel Mac/OSX: cd chat;./gpt4all-lora-quantized-OSX-intel

玩转 GPT4All_第5张图片

第五步:生成自己的客户端

        如果不想升级电脑的操作系统(也有可能是无奈之举电脑太旧不适合升级)就自定义客户端吧。采用如下命令就可以生成适合自己的客户端。

git clone https://github.com/zanussbaum/gpt4all.cpp
cd gpt4all.cpp
make chat
cp chat ../gpt4all/chat/gpt4all-lora-quantized-OSX-intel-old

玩转 GPT4All_第6张图片

第六步:启动

        采用如下命令就可以启动了“./gpt4all-lora-quantized-OSX-intel-old*”,奈何本人电脑确实配置太低,直接卡死。就不做演示截图了,感兴趣的同学可以自己尝试练习。

第七步:配置UI

        如果你觉得使用终端不舒服可以配合UI尝试。网页打开gpt4all点io 下载安装包。打开安装包点击这个”绿U盘“打开安装程序,选择安装路径安装。(”此组件大约占用您硬盘驱动器3.95GB的空间“)安装之后在你的安装路径下,有一个叫GPT4ALL的文件夹,在里面找到bin 文件夹,打开里面的chat.app,就能用UI交互啦!

玩转 GPT4All_第7张图片

玩转 GPT4All_第8张图片

https://github.com/nomic-ai/gpt4all 

https://github.com/nomic-ai/gpt4all/issues/70 

你可能感兴趣的:(人工智能,深度学习,ai)