用Gradio做一个ai-chat应用

背景

上半年国内的大模型还没遍地开花的时候，笔者花巨资购了两台云服务器及给OpenAI充了20$，给身边的亲友给做了一个可使用的ai-chat。

代码实现

起先笔者 基于openai的api接口文档 API Reference - OpenAI API ，自己编写web后台，找朋友做界面，做出了一个版本。

后来Gradio发布了 ChatInterface() 方法，事情又变得简单了许多，实现一个带界面的ai-chat应用，只需要如下代码：

运行代码后，通过浏览器访问，效果如下：

问题解决

权限控制

由于笔者提供的ai-chat服务，是一个公网可访问的界面。为了简单对访问权限进行控制，笔者参考官方提供的样例 Gradio Examples Docs 给lanuch()方法，传入auth参数，设置了访问应用所需的账户、密码。

api调用

其实这个小应用的完成，最大的难点是 为上述代码中的 OpenAI(base_url="https://xxxxx/v1/") 设置一个可调通的API地址。由于一些特殊原因，我们是无法直接调过 openai提供的服务的。

为解决这个问题，笔者是通过一台海外服务器上面的nginx实现的服务连接。这里就不展开讲了，nginx配置示例如下：