百度千帆大模型初体验，接入30+大模型、100+提示词模版、插件最丰富，国内最强

大家好，我是二哥呀。

作为国内的头部大厂，百度在大模型这块的投入力度可以说非常大，3 月 16 号发布的大模型——文心一言可以说在业界激起了巨浪。

有支持的，当然也有怀疑的，但无论如何，百度勇敢的迈出去了第一步。讲真，国内想要追赶上 OpenAI，需要这种决心和投入。

这不，百度又发布了千帆大模型平台，支持第三方大模型的定制开发和训练，可以说覆盖了智能问答、内容创作、代码编写等多种应用场景。

那文心一言和千帆之间的关系到底是什么，下面这张图可以说是一目了然。

二哥一向对新鲜事物持有敏锐的嗅觉，这不，千帆出来的第一时间，我就体验了一波，下面就把我的使用体验分享出来，也是希望能给感兴趣的小伙伴踩踩坑、探探路，毕竟 AI 时代，我们不能掉队啊。

01、使用体验

千帆大模型平台测试网址：https://cloud.baidu.com/survey/qianfan.html

申请时需要填写公司名称、联系人、联系电话等，提交申请后，很快就能收到通过的消息。

目前已经预制了非常多大模型，包括业内知名的⼤语⾔模型BLOOMZ-7B、由BigScience研发并开源，能够以46种语⾔和13种编程语⾔输出⽂本。

还有 LLaMA2 全系列、ChatGLM2、RWKV、MPT、Dolly、OpenLLaMA、Falcon 等 33 个大模型，成为国内拥有大模型最多的平台。同时支持性能+安全的双重增强，模型推理成本可降低50%。

使用起来也非常方便，直接点击部署，然后点击下一步，选择后付费开通就可以了。

然后我们在应用接入这里创建一个“沉默王二狗腿子”的应用。

我们先用「在线测试」来体验一下。输入问题“请用 Java 帮我写一个冒泡排序”，选择服务“百度trubo 大模型”和应用“沉默王二狗腿子”。

我把代码复制到 Intellij IDEA 在本地检验了一下，并且把代码和 Copilot 生成的冒泡排序做了一个对比，一起来看一下。

public static void bubbleSortCopilot(int[] arr) {
    for (int i = 0; i < arr.length; i++) {
        boolean flag = false;
        for (int j = 0; j < arr.length - i - 1; j++) {
            int temp;
            if (arr[j] > arr[j + 1]) {
                flag = true;
                temp = arr[j + 1];
                arr[j + 1] = arr[j];
                arr[j] = temp;
            }
        }
        if (!flag) {
            break;
        }
    }
}

public static void bubbleSort(int[] arr) {
    int n = arr.length;
    for (int i = 0; i < n - 1; i++) {
        for (int j = 0; j < n - i - 1; j++) {
            if (arr[j] > arr[j + 1]) {
// 交换元素位置
                int temp = arr[j];
                arr[j] = arr[j + 1];
                arr[j + 1] = temp;
            }
        }
    }
}

如果你想使用 API 调用的方式，可以通过下面这个文档查看。

https://cloud.baidu.com/doc/WENXINWORKSHOP/s/flfmc9do2

千帆是目前国内拥有最多第三方大模型的平台，模型推理成本可降低50%

02、Prompt 模板

千帆大模型平台发布了 103 款 Prompt 模板，包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个场景。

Prompt 是什么？

可能有一些小伙伴第一次看到这个词会觉得比较陌生，Prompt 就是提示词的意思，Prompt 是通过自然语言向大模型提出命令或指令，引导大模型生成相应的内容。

优质的 Prompt 更能得到高质量的回答。

我这里收藏了四个编程方面的 Prompt 模板，分别是 SQL 终端、Linux 终端、JavaScript 控制台和编程专家。

点击在线测试，选择编程专家，我们来测试一下。

我们来问一个 Stack Overflow 上非常高赞的 Java 问题：Java 是值传递还是引用传递。

进入在线测试，选择 BLOOMZ-7B 大模型（我们前面提到过），然后在键入 “/” 选择提示词。

卧槽，回答的真不错！这个问题还是非常能考验大模型的，讲真，如果大模型比较傻瓜，那这个问题几乎都会答错。

再来一个 Linux 终端，服务选择 RENIE-Bot-turbo。 结果真不错，完全符合真实的 Linux 场景。

03、插件功能

6 月份的时候，千帆已经上线了插件功能，是国内首家提供插件服务的大模型平台。

插件功能非常强大，意味着我们可以把一些基础的数据导入到千帆大模型平台。

首先，我们需要一份 doc 文档，可以通过 typora 导出，比如说我们把面渣逆袭-分布式篇导出一份 word 文档。

然后，进入千帆大模型的插件编排页面，配置模型，并且安装域内知识检索增强插件。

选择上面导出的 word 文档。

查看上传进度。

然后我们来问他：说说CAP原则？为什么CAP不可兼得呢？等面渣逆袭上的内容，他都可以轻松应对。

也就意味着，企业或者个人完全可以定制一个属于自己的数字人，喂他的知识越多，他就回答的越专业。然后我们再调用千帆大模型平台，就可以为自己的应用服务了。

如果能把插件集成到办公场景中，就可以实现文档搜索、会议纪要、会议室预定、饭卡充值、休假申请等功能，可以以大大提升办公效率。

ending

千帆大模型平台目前提供的功能可以说非常强大，覆盖了大模型研发的全生命周期，包括：数据管理、模型训练、评估&优化、预测服务和Prompt工程和插件服务，端到端地帮助用户高效地开发和部署大模型应用，极大地降低大模型的技术门槛。

来看一下文心大模型的家族一览图吧，可以说非常的牛逼了。

对于想做大模型的企业来说，也值得去参考和借鉴，以及深度合作。

对于我们个人开发者来说，如果想从事大模型相关的工作（高薪），也一定要多了解一下千帆大模型平台的业务和功能。

AI 时代，绝不能掉队！