ChatGPT 体验 - 写代码（GoLang）
ChatGPT 体验 - 写代码（GoLang）
1. golang + gin 整合 chatGPT API
要将ChatGPT API整合到Golang和Gin中，你可以使用Gin框架的路由和处理程序来接受聊天请求，然后调用ChatGPT API进行响应。以下是一个简单的示例代码，演示如何使用Gin和ChatGPT API构建聊天API：
import (
"bytes"
"encoding/json"
"fmt"
"io/ioutil"
"net/http"
"github.com/gin-gonic/gin"
)
type GPT3Request struct {
Prompt string `json:"prompt"`
}
type GPT3Response struct {
Choices []struct {
Text string `json:"text"`
} `json:"choices"`
}
func main() {
apiKey := "<你的API密钥>"
engine := gin.Default()
// 处理聊天API请求
engine.POST("/chat", func(c *gin.Context) {
// 从请求中获取聊天内容
prompt := c.PostForm("prompt")
// 准备请求数据
requestData := GPT3Request{
Prompt: prompt,
}
requestBody, err := json.Marshal(requestData)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "请求数据序列化失败",
})
return
}
// 发送API请求
client := &http.Client{}
req, err := http.NewRequest("POST", "https://api.openai.com/v1/engines/davinci-codex/completions", bytes.NewBuffer(requestBody))
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "创建API请求失败",
})
return
}
req.Header.Set("Content-Type", "application/json")
req.Header.Set("Authorization", "Bearer "+apiKey)
resp, err := client.Do(req)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "发送API请求失败",
})
return
}
defer resp.Body.Close()
// 处理API响应
body, err := ioutil.ReadAll(resp.Body)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "读取API响应失败",
})
return
}
var responseData GPT3Response
err = json.Unmarshal(body, &responseData)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "API响应数据解析失败",
})
return
}
// 提取聊天回复并返回响应
if len(responseData.Choices) > 0 {
reply := responseData.Choices[0].Text
c.JSON(http.StatusOK, gin.H{
"reply": reply,
})
return
}
c.JSON(http.StatusInternalServerError, gin.H{
"error": "未能提取聊天回复",
})
})
// 启动HTTP服务器
engine.Run(":8080")
}
这个例子中，我们使用了Gin框架处理来自客户端的聊天API请求，接受聊天请求后，我们准备请求数据并使用ChatGPT API发送请求。然后，我们处理API响应，提取聊天回复并将其返回给客
2. 请对以上的代码做实战优化
当涉及到实战优化时，可以考虑以下几个方面来提高性能和可靠性：
- 使用连接池：在与ChatGPT API建立连接时，使用连接池管理HTTP客户端连接，以避免频繁地创建和销毁连接，提高性能。可以使用
net/http包中的Transport类型并设置MaxIdleConnsPerHost和MaxIdleConns字段来控制连接池的大小。 - 异步请求：可以使用Go协程（goroutine）并发地发送聊天API请求，以便同时处理多个请求，提高并发性能。可以使用Go的
sync.WaitGroup来等待所有请求完成。 - 请求超时：在与ChatGPT API进行通信时，设置适当的超时时间，以避免请求长时间无响应而阻塞其他请求。可以使用
context.WithTimeout来设置请求的超时时间，并使用http.Client的Do方法的WithContext参数传入该上下文。 - 错误处理：在与ChatGPT API通信的过程中，要适当处理各种可能的错误情况，例如网络连接错误、API响应错误等。可以在错误处理中返回适当的错误响应或采取适当的重试机制。
- 日志记录：添加适当的日志记录来跟踪请求和响应，以便进行故障排除和监控。可以使用Gin框架的日志中间件或自定义日志库进行记录。
- 性能优化：对于长期运行的应用程序，可以考虑使用缓存机制来存储ChatGPT API的响应，以减少重复请求并提高响应速度。可以使用适当的缓存库（如Redis）来实现缓存。
- 安全性考虑：确保在与ChatGPT API进行通信时，使用安全的方式存储和传输API密钥。可以考虑使用环境变量或配置文件来存储敏感信息，并使用适当的加密机制保护密钥。
这些是一些常见的实战优化建议，具体的优化策略取决于你的应用程序需求和场景。根据实际情况进行调整和扩展，以实现更好的性能和可靠性。
3. 请给出优化后的代码
下面是对之前的代码进行了一些优化的示例：
import (
"bytes"
"encoding/json"
"fmt"
"io/ioutil"
"net/http"
"time"
"github.com/gin-gonic/gin"
)
type GPT3Request struct {
Prompt string `json:"prompt"`
}
type GPT3Response struct {
Choices []struct {
Text string `json:"text"`
} `json:"choices"`
}
func main() {
apiKey := "<你的API密钥>"
engine := gin.Default()
// 创建HTTP客户端并配置连接池和超时时间
client := &http.Client{
Transport: &http.Transport{
MaxIdleConnsPerHost: 100,
},
Timeout: 5 * time.Second,
}
// 处理聊天API请求
engine.POST("/chat", func(c *gin.Context) {
// 从请求中获取聊天内容
prompt := c.PostForm("prompt")
// 准备请求数据
requestData := GPT3Request{
Prompt: prompt,
}
requestBody, err := json.Marshal(requestData)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "请求数据序列化失败",
})
return
}
// 发送API请求
req, err := http.NewRequest("POST", "https://api.openai.com/v1/engines/davinci-codex/completions", bytes.NewBuffer(requestBody))
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "创建API请求失败",
})
return
}
req.Header.Set("Content-Type", "application/json")
req.Header.Set("Authorization", "Bearer "+apiKey)
resp, err := client.Do(req)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "发送API请求失败",
})
return
}
defer resp.Body.Close()
// 处理API响应
body, err := ioutil.ReadAll(resp.Body)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "读取API响应失败",
})
return
}
var responseData GPT3Response
err = json.Unmarshal(body, &responseData)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "API响应数据解析失败",
})
return
}
// 提取聊天回复并返回响应
if len(responseData.Choices) > 0 {
reply := responseData.Choices[0].Text
c.JSON(http.StatusOK, gin.H{
"reply": reply,
})
return
}
c.JSON(http.StatusInternalServerError, gin.H{
"error": "未能提取聊天回复",
})
})
// 启动HTTP服务器
engine.Run(":8080")
}
这里做了以下优化：
-
创建了一个全局的HTTP客户端，并设置了连接池和超时时间，以避免在每次请求时创建和销毁客户端。这样可以更好地利用连接池和重用HTTP连接，提高性能。
-
从每个请求处理程序中移出了 …
-
通过将HTTP客户端的创建和配置移到程序的顶部，可以避免在每次请求处理程序调用时重复创建HTTP客户端，提高性能。
-
将HTTP请求的超时时间设置为5秒钟，以便在ChatGPT API请求超时时能够及时返回错误响应，提高可靠性。
这些优化可以改进性能和可靠性，但具体的优化策略可能因应用程序的需求和场景而异。根据实际情况进行调整和扩展，以实现最佳性能和可靠性。
4. 请再次对以上优化后的代码，再次优化，实现高可用
以下是对之前代码的再次优化，以实现更高的可用性：
import (
"bytes"
"encoding/json"
"fmt"
"io/ioutil"
"net/http"
"os"
"time"
"github.com/gin-gonic/gin"
)
type GPT3Request struct {
Prompt string `json:"prompt"`
}
type GPT3Response struct {
Choices []struct {
Text string `json:"text"`
} `json:"choices"`
}
var client *http.Client
func init() {
// 创建HTTP客户端并配置连接池和超时时间
client = &http.Client{
Transport: &http.Transport{
MaxIdleConnsPerHost: 100,
MaxIdleConns: 100,
MaxConnsPerHost: 100,
IdleConnTimeout: 90 * time.Second,
TLSHandshakeTimeout: 10 * time.Second,
ExpectContinueTimeout: 1 * time.Second,
},
Timeout: 10 * time.Second,
}
}
func main() {
apiKey := os.Getenv("GPT3_API_KEY")
if apiKey == "" {
fmt.Println("未设置GPT3_API_KEY环境变量")
return
}
engine := gin.Default()
// 处理聊天API请求
engine.POST("/chat", func(c *gin.Context) {
// 从请求中获取聊天内容
prompt := c.PostForm("prompt")
// 准备请求数据
requestData := GPT3Request{
Prompt: prompt,
}
requestBody, err := json.Marshal(requestData)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "请求数据序列化失败",
})
return
}
// 发送API请求
req, err := http.NewRequest("POST", "https://api.openai.com/v1/engines/davinci-codex/completions", bytes.NewBuffer(requestBody))
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "创建API请求失败",
})
return
}
req.Header.Set("Content-Type", "application/json")
req.Header.Set("Authorization", "Bearer "+apiKey)
resp, err := client.Do(req)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "发送API请求失败",
})
return
}
defer resp.Body.Close()
// 处理API响应
body, err := ioutil.ReadAll(resp.Body)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "读取API响应失败",
})
return
}
var responseData GPT3Response
err = json.Unmarshal(body, &responseData)
if err != nil {
c.JSON(http.StatusInternalServerError, gin.H{
"error": "API响应数据解析失败",
})
return
}
// 提取聊天回复并返回响应
if len(responseData.Choices) > 0 {
reply := responseData.Choices[0].Text
c.JSON(http.StatusOK, gin.H{
"reply": reply,
})
return
}
c.JSON(http.StatusInternalServerError, gin.H{
"error": "未能提取聊天回复",
})
})
// 启动HTTP服务器
engine.Run(":8080")
}
这里的再次优化主要包括：
- 使用环境变量来获取GPT3 API的密钥，确保密钥安全并且不直接暴露在代码中。
- 优化了HTTP客户端的配置参数，包括连接池大小、闲置连接超时时间以及其他超时时间。这有助于提高连接复用和性能，并避免长时间占用连接。
- 移除了在每个请求处理程序中重复创建HTTP客户端的代码，而是将其作为全局变量在初始化函数中进行创建。
通过这些优化，代码的性能和可用性得到了改善。但仍然建议根据实际需求进行调整和扩展，例如增加日志记录、错误处理和故障恢复机制，以进一步提高系统的稳定性和可靠性。
总结：
1.首先chatGPT，是可以写一些简单的业务需求代码
2.他会先根据你的需求，写出一些简单的测试Dome
3.做一些基础的优化，但是在实际项目中，还得是需要一些专业的开发人员去做相应的业务处理
大家对于ChatGPT写代码怎么看？