百度智能云“千帆大模型平台”升级：大模型最多，Prompt模板最全

‍♂️ 个人主页：@艾派森的个人主页

✍作者简介：Python学习者
希望大家多多支持，我们一起进步！
如果文章对你有帮助的话，
欢迎评论 点赞 收藏 加关注+

---

目录

前言

一、千帆大模型平台

二、体验分享

2.1服务申请

2.2Prompt模板

2.3Prompt模板的使用

2.4API获取Prompt模版教程

三、总结

---

前言

        当谈到人工智能领域时，我们不得不提到ChatGPT。许多人都在积极尝试利用它来提高工作效率或解决各种问题。然而，要使用ChatGPT，我们必须克服一些使用门槛。首先，我们需要“科学上网”才能访问它，其次，GPT4的价格相对较高。

        值得庆幸的是，国内也有一些优秀的大模型平台供我们使用。与ChatGPT相比，这些平台的价格更为经济实惠，而且不需要像“科学上网”这样的额外准备。更重要的是，它们支持的功能也更加全面。

        最近，我偶然发现了百度智能云推出的文心千帆大模型平台公有版测试服务（官方申请地址：https://cloud.baidu.com/survey/qianfan.html），便立刻决定体验一番。而我所体验到的效果也让我非常满意。接下来，我将分享一下我的体验过程。

一、千帆大模型平台

        千帆大模型平台是百度智能云推出的全球首个一站式企业级大模型平台。它可以为企业提供大模型开发全流程工具链和整套环境。用户不但可以在千帆上直接调用文心一言服务，也可以在千帆上开发、部署和调用自己的大模型服务。值得一提的是，大模型平台不仅提供全套文心大模型服务，还支持各类第三方大模型，成为大模型生产和分发的集散地。

平台最新进展：

①千帆大模型平台全面接入LLaMA2全系列、ChatGLM2-6B、RWKV-4-World、MPT-7B-Instruct、Falcon-7B等33个大模型，成为国内拥有大模型最多的平台。同时支持性能+安全的双重增强，模型推理成本可降低50%。

②千帆大模型平台上线国内最全预置Prompt模板，模板数量多达103个。包含对话、游戏、编程、写作等十余个场景。

二、体验分享

2.1服务申请

点击千帆服务体验申请，提交信息后大约3小时后便会通过

通过之后来到首页（https://cloud.baidu.com/）点击右上角的控制台

接着点击左上角的三条杠→产品服务→百度智能云千帆大模型平台

最后就可以按照概览页的操作指引，正式开始使用千帆大模型平台

2.2Prompt模板

        Prompt（提示词）是通过自然语言向大模型提出命令或指令，指示大模型生成相应的内容。Prompt对于大模型的使用效果非常重要，优质的Prompt提问能得到更高质量的回答。通过优化和改进Prompt的提问方式，可以提高模型的针对性和准确度，从而生成更高质量的内容。

        千帆大模型平台发布103款Prompt模板，包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个场景。其中既有基于百度智能云在产业实践中积累的Prompt模板，也有来源于文心一言高频用户的Prompt模板。这些模版均可直接输出给大模型,让大模型快速理解我们的需求。好的Prompt可以大大提高模型的交互效率、输出质量。

例：不同Prompt效果对比

①原始Prompt：“长安三万里好看吗？”

②Prompt模板+原始Prompt：“我希望你充当一个电影评论家。你将编写一篇引人入胜和有创意的影评。你可以涵盖诸如情节、主题和基调、演技和角色、方向、配乐、电影摄影、制作设计、特效、剪辑、节奏、对话等主题。但最重要的方面是强调电影给你的感觉。什么是真正引起你的共鸣。你也可以对电影进行批评。请避免剧透。电影名称《长安三万里》”

①原始Prompt：“长安三万里好看吗？”，文心一言会返回一个比较泛化的结果

②Prompt模板+原始Prompt，文心一言就会返回一个更符合预期的内容

2.3Prompt模板的使用

预置模板

平台已预置百余款Prompt模板供大家调用，大家可根据自身详情，选取引用适合自己的Prompt模板。

自制模板

如果预置模板无法满足大家业务的需求，还可以在自制模板模块，进行模板的创建。

填写好模版名称后，在范围内选择/新建模板标签，模版内容的填写即可，可以直接填入引用的内容，也可以用“{}”注入变量。

查看Prompt模板

在Prompt模版列表中，点击模版名称可以查看Prompt模板详情。

无变量Prompt模板

有变量Prompt模板

所有类型Prompt模板均自动生成接口地址，可以被业务方调用。

操作Prompt模板

在Prompt模板列表中可对指定模版进行如下操作：

• 编辑：重新编辑Prompt模板内容，包括模型名称、标签和内容。可查看创建Prompt模板相关内容。
• 删除：删除Prompt模板，一旦删除不可恢复。
• 复制ID：复制Prompt模版的ID，可以在后续API中或者检索备份中留有标识认证。

我的收藏

预置模板和自制模板均支持收藏，方便大家对相近属性的Prompt模板进行同一管理或引用。同时如果对某项Prompt模板不再需要您可以直接操作，取消收藏。

2.4API获取Prompt模版教程

①创建应用

找到应用接入，点击创建应用，填写好信息后直接点击创建即可

接着我们在应用列表里便会看见刚才创建的应用，点击详情可以查看应用的API Key和Secret Key，记住这两个Key后面会用到！

②获取access_token

百度AI开放平台使用OAuth2.0授权调用开放API，调用API时必须在URL中带上Access_token参数，获取Access_token的流程如下：

请求URL数据格式

向授权服务地址https://aip.baidubce.com/oauth/2.0/token发送请求（推荐使用POST），并在URL中带上以下参数：

• grant_type： 必须参数，固定为client_credentials；
• client_id： 必须参数，应用的API Key；
• client_secret： 必须参数，应用的Secret Key；

这里我以python语言为大家进行演示：

def get_access_token():
    """
    使用 API Key，Secret Key 获取access_token，替换下列示例中的应用API Key、应用Secret Key
    """
    url = "https://aip.baidubce.com/oauth/2.0/token?"
    headers = {
        'Content-Type': 'application/json',
        'Accept': 'application/json'

    }
    params = {
        'grant_type':'client_credentials',
        'client_id':'应用API Key',
        'client_secret':'应用Secret Key'
    }
    response = requests.request("POST", url, headers=headers,params=params)
    return response.json().get("access_token")

if __name__ == '__main__':

    print(get_access_token())

③模板api调用

基本信息

请求地址： https://aip.baidubce.com/rest/2.0/wenxinworkshop/api/v1/template/info

请求方式： GET

 

下面我用Python代码进行示范（以预制模板中的电影评论为例）： 

import requests

def main():
    url = "https://aip.baidubce.com/rest/2.0/wenxinworkshop/api/v1/template/info?"
    access_token = get_access_token()
    params = {
        'access_token':access_token,
        'id':1968,  # 模板的id
        'content':'战狼2'  # 变量
    }
    headers = {
        'Content-Type': 'application/json'

    }
    response = requests.get(url,params=params,headers=headers)
    print(response.text)

def get_access_token():
    """
    使用 API Key，Secret Key 获取access_token，替换下列示例中的应用API Key、应用Secret Key
    """
    url = "https://aip.baidubce.com/oauth/2.0/token?"
    headers = {
        'Content-Type': 'application/json',
        'Accept': 'application/json'

    }
    params = {
        'grant_type':'client_credentials',
        'client_id':'WLSVxQVfznIgAscDDLF1IQAs',
        'client_secret':'dIpD8QmKpyql7mEANnNvXohi2KbbOzCL'

    }
    response = requests.request("POST", url, headers=headers,params=params)
    return response.json().get("access_token")

if __name__ == '__main__':
    main()

         到这里为止，我们学会使用了千帆大模型平台中的Prompt模板，以后使用chatgpt的时候再也不用担心不会提示词了！

三、总结

        经过了一天的探索，我发现千帆大模型平台功能丰富，上手也非常容易，操作界面对使用者友好。该平台也为企业提供了全流程工具链和环境，覆盖大模型研发的全生命周期，包括数据管理、模型训练、评估&优化、预测服务和Prompt工程和插件服务。平台还提供内容安全的机制，使大模型内容安全可控。

其中，千帆大模型平台的核心优势有以下几点：

1. 更全面：覆盖大模型全生命周期，提供全面功能服务，帮助用户高效地开发和部署大模型应用，并降低大模型技术门槛。
2. 更高效：训练与推理性能大幅提升，MLPerf榜单训练性能世界领先，端到端训练时间和吞吐均超越其他框架。
3. 更开放：支持快速应用编排与插件集成，预置百度文心大模型与第三方大模型，让用户能够更好地应用大模型。
4. 更安全：平台具有完善的鉴权与流控安全机制，自带敏感词过滤，实现机审与人审双重保障。

此外，千帆大模型平台还提供公有云和私有化部署两种交付模式：

1. 公有云提供三种服务模式：推理、微调、托管，适用于不同开发能力和需求的企业和开发者。
2. 私有化部署支持纯软件平台和软硬一体两种交付模式，让企业可以根据自身需求选择合适的部署方式。

感兴趣的小伙伴快快点击链接（https://cloud.baidu.com/survey/qianfan.html）进行申请试用吧！