豆包大模型API接入

1.安装JDK

pip install volcengine

2.API接入

from volcengine.maas.v2 import MaasService

maas = MaasService('maas-api.ml-platform-cn-beijing.volces.com', 'cn-beijing')

maas.set_ak('###access_key###')

maas.set_sk('###secret_key###')

req = {

    "stream": True,

    "parameters": {

        "max_new_tokens": 0,

        "temperature": 0.7,

    },

    "messages": [

                    {

                        "role": "user",

                        "content": "你好"

                    }

                ]

}

text = ""

for resp in maas.stream_chat("###端点ID###", req):

    if resp.error == None:

        chunk = resp.choices[0].message.content

        text += chunk

        print({"error_code": 0, "text": text})

    else:

        data = {

            "error_code": 500,

            "text": f"请求方舟 API 时发生未知的错误: {resp}"

        }

        print(data)

        break

返回结果:

{'error_code': 0, 'text': '你'}

{'error_code': 0, 'text': '你好!有'}

{'error_code': 0, 'text': '你好!有什么我可以帮助'}

{'error_code': 0, 'text': '你好!有什么我可以帮助你的?'}

你可能感兴趣的:(python,人工智能,豆包,API)