给ChuanhuChatGPT 配上讯飞星火spark大模型V2.0(一)

ChuanhuChatGPT 拥有多端、比较好看的Gradio界面,开发比较完整;
刚好讯飞星火非常大气,免费可以领取大概20w(!!!)的token,这波必须不亏,整上。

重要参考:

  • 川虎 Chat Chuanhu Chat
  • 讯飞星火认知大模型

文章目录

  • 1 讯飞星火大模型
    • 1.1 web api申请
    • 1.2 web api调用
  • 1.3 一些报错
  • 2 川虎 Chat Chuanhu Chat
    • 2.1 配置要求


1 讯飞星火大模型

1.1 web api申请

给ChuanhuChatGPT 配上讯飞星火spark大模型V2.0(一)_第1张图片
基本上实名认证后,可以申请个人免费包,然后来到控制台
给ChuanhuChatGPT 配上讯飞星火spark大模型V2.0(一)_第2张图片
开启应用,把APPID、APISerect、APIKey记下就可以去开启API了。
这里星火大模型有两个版本:V1.5 V2 免费Token都非常多

1.2 web api调用

给ChuanhuChatGPT 配上讯飞星火spark大模型V2.0(一)_第3张图片
因为官方给到的一直报错,这里也可以使用别人已经封装好的,
需要安装:

!pip install websocket 
!pip install websocket-client

参考这个开源:sparkdesk_api,安装:

pip install sparkdesk-api==1.3.0

直接流式调用:

from sparkdesk_api.core import SparkAPI
# 默认api接口版本为1.5,开启v2.0版本只需指定 version=2.1 即可
sparkAPI = SparkAPI(
    app_id=app_id,
    api_secret=api_secret,
    api_key=api_key,
    # version=2.1
)

# 流式调用
sparkAPI.chat_stream()

# 一次性问答调用
sparkAPI.chat("你想问什么?")

1.3 一些报错

{"message":"HMAC signature does not match"

之前笔者报错过,原来是apikey和api_secret写反了…


2 川虎 Chat Chuanhu Chat

2.1 配置要求

一定需要python3.10,而且window/linux/mac都是可以的
笔者之前尝试的是直接使用chuanhu的docker,参考:使用 Docker 部署

创建存放 川虎Chat 配置和聊天记录的文件夹,例如 ~/ChuanhuChatGPT。

你可能感兴趣的:(LLM大模型,fastapi,大模型,讯飞,chuanhu,部署)