《探索文心千帆大模型平台： 代码编写从此变得轻松》
文章目录
- 前言
- 一、初识文心千帆
-
- 1.1 功能丰富
- 1.2 注册登录
- 二、内置第三方大模型
-
- 2.1 ERNIE-Bot模型
- 2.2 ERNIE-Bot-turbo模型
- 2.3 BLOOMZ-7B模型
- 2.4 Llama模型全家桶
- 2.5 在线体验
-
- 2.5.1 代码编写能力
-
- 简单提问
- 复杂提问
- 报错解决
- 添加注释
- 2.5.2 逻辑判断
-
- 先有鸡还是先有蛋？
- 鸡兔同笼问题
- 三、Prompt工程初体验
-
- 3.1 什么是Prompt
- 3.2 Python解析器
- 3.3 Linux终端
- 3.4 电影评论
- 3.5 AI医生
- 3.6 饮食计划
- 3.7 路线规划
- 3.8 自定义模板
- 四、插件应用
-
- 4.1 插件有什么用？
- 4.2 安装配置
- 4.3 配置插件
- 4.4 插件测试
-
- 先有鸡还是先有蛋？
- 鸡兔同笼问题
- 五、总结
前言
今年人工智能技术的快速发展和广泛应用，正在改变着我们的生活和工作方式。生成式人工智能（AIGC）作为一项前沿技术，在代码编写、艺术创作、内容生成等领域，正逐渐崭露头角。百度在率先发布了国内第一款人工智能大语言模型“文心一言”后，又推出了文心千帆大模型平台，帮助企业和开发者加速大模型应用落地。
咱作为AI爱好者，经常用GPT帮忙写代码，也是迫不及待的申请了文心千帆的体验资格，下面将给小伙伴们讲述我对文心千帆的体验感受以及对其中强大功能的介绍。
一、初识文心千帆
据我了解，文心千帆是全球首款一站式企业级大模型平台，可视化界面实现模型全生命周期管理，简化从数据到服务的大模型实施过程，易于上手与理解。其中最吸引我的特色功能就是内置了33种大模型（包括：文心一言、BLOOMZ-7B、Llama模型全家桶等等）和103个Prompt工程模板。
1.1 功能丰富
一站式大模型部署平台果然不是吹嘘的，从数据管理 -》 模型训练 -》评估&优化 -》预测服务 -》Prompt工程 -》插件服务功能，应有尽有：
下面就跟着我一起注册登录来体验一番吧！
1.2 注册登录
打开文心千帆的官网，点击左上角的免费注册：https://cloud.baidu.com/product/wenxinworkshop?track=csdn
大概需要审核3个小时，通过后还会送20元代金卷，可以白嫖内心狂喜：
申请通过后就可以去登录使用了：
二、内置第三方大模型
登录到文心千帆大模型操作台，在左侧功能列模型管理中选择预置模型，查看平台预置模型列表。平台预置了33款大语言模型供你直接使用，包括文心一言及业内知名的开源大模型：
目前已经支持了以上33款预置大模型，这些预置模型都是目前排名前沿的大模型，有国内领先的文心系列和国外领先的Llama系统模型，中英文大模型互补，选择面广泛，后续还会有更多的大模型接入。
2.1 ERNIE-Bot模型
ERNIE-Bot（中文名称文心一言）是百度自行研发的大语言模型，覆盖海量中文数据，具有更强的对话问答、内容创作生成等能力。它位于模型层，能够在人工智能的四层架构中全栈布局，包括底层的芯片、深度学习框架、大模型以及最上层的搜索等应用。
在SuperCLUE最新测评榜单中，百度文心一言总分超GPT-3.5-Turbo，仅次于GPT4，领跑国内大模型：
八项核心指标（算法模型、通用能力、创新能力、平台能力、生态合作、行业覆盖、能源行业、服务能力）与国内其他大模型对比，其具体的表现如下：
2.2 ERNIE-Bot-turbo模型
ERNIE-Bot-turbo和ERNIE-Bot的主要区别在于他们的响应速度和性能。总的来说，ERNIE-Bot-turbo在响应速度上比ERNIE-Bot更快，两者都具有强大的对话问答和内容创作生成能力。
2.3 BLOOMZ-7B模型
BLOOMZ-7B是由BigScience研发的一个大型预训练语言模型，具有46种语言的理解能力，并且能够用13种编程语言进行文本输出。它采用了Transformer架构，并通过大规模语料库进行了训练，以便为各种自然语言处理任务提供强大的支持。
BLOOMZ-7B模型还具有生成文本、文本分类、实体识别等能力，可用于各种应用场景，如问答系统、文本生成、聊天机器人等。该模型在公开数据集上进行了训练，并且已经被许多开发者和研究人员使用和验证。
2.4 Llama模型全家桶
| 模型名称 | 模型描述 |
|---|---|
| Llama-2-7b-chat | 由Meta AI研发并开源，在编码、推理及知识应用等场景表现优秀，Llama-2-7b-chat是高性能版本。 |
| Llama-2-13b-chat | 由Meta AI研发并开源，在编码、推理及知识应用等场景表现优秀，Llama-2-13b-chat是性能与效果均衡版本。 |
| Llama-2-70b-chat | 由Meta AI研发并开源，在编码、推理及知识应用等场景表现优秀，Llama-2-70b-chat是高精度效果版本。 |
其他的模型大家可以自行去了解了解，这里就不一一介绍了。
2.5 在线体验
介绍了那么多模型，不如测试体验一番，我这边测试的ERNIE-Bot模型，其他模型小伙伴们自行上号体验。
2.5.1 代码编写能力
作为程序员那必须第一个就是测试大模型的代码编写能力呀，首先声明并不是为了偷懒！
简单提问
首先用“Python实现选择排序”为例测试模型在简单编程问题上的表现，文心一言大模型给出了正确代码和注释，算法思路，时间复杂度，还有最后的建议，能够在解决问题的同时让我们获得灵感和指导：
复杂提问
我们来测试一下经典问题“Python实现水仙花数”，文心一言大模型介绍了水仙花数是什么，正确的代码和思路：
报错解决
刚好最近有个困扰我很久的一个报错bug，翻找了很多资料都没有解决，抱着试一试的态度，问问文心一言大模型，结果出乎意料给出了正确的报错原因和解决方法，帮我快速定位问题和解决问题：
添加注释
最近前同事离职了，他写的一些Python脚本代码又没有注释，我需要维护他的代码真的是苦不堪言，下面测试一下让文心一言大模型给我添加代码注释：
文心一言大模型给出的结果，效果蛮不错的每行代码都加上了对应的注释：
2.5.2 逻辑判断
文心一言大模型的的代码能力我给9分，还有一分怕它骄傲，接下来给它上点难度的逻辑判断：
先有鸡还是先有蛋？
经典问题：先有鸡还是先有蛋？对于这种有争议的问题，文心一言大模型的回答特别聪明，给出两种不同的主张观点：
鸡兔同笼问题
问：现有一笼子，里面有鸡和兔子若干只，数一数，共有头14个，腿38条。
求：鸡和兔子各有多少只？
文心大模型思维逻辑完全没有问题：
三、Prompt工程初体验
3.1 什么是Prompt
Prompt工程是指针对Prompt进行结构、内容等维度进行优化的AI技术，把大模型的输入限定在特定的范围之中，更好地控制模型的输出。它可以应用于对话沟通、内容创作、分析控制、政务服务、金融服务、旅行服务等多种场景。
简单来说就是提示词能力，让模型回答更符合我们的预期，目前文心千帆平台内置了103个Prompt模板，涉及了各个领域：
下面我们测试一下Prompt模板体验如何。
3.2 Python解析器
当我们出差的时候，身边有电脑中没有Python环境又着急测试代码的时候，就可以用这个内置“Python解析器”模板。比如这里同事给我了一个字符串提取代码但是有问题，让我帮忙改下，下面我就用Prompt模板测试输出一下：
3.3 Linux终端
当我们没有Linux环境，又想测试Linux命令输出结果的时候就可以使用“Linux终端”模板，下面我测试了几个命令运行结果都是正确的：
除了编码相关的Prompt模板，还有其他各种领域的模板咱们也去试试。
3.4 电影评论
最近新出的电影《八角笼中》挺火的，我们让文心一言大模型写一篇电影评论
可以看出AI写出的情节、主题、背景等等都非常贴切：
3.5 AI医生
“AI医生”就是人工智能医生的意思，医疗与技术深度融合，为群众就医带来了更多便利，为疾病诊断提供支持。下面我们来测试了假装得了感冒，AI医生怎么回复的呢：
可以看到给出的回复涉及很多方面，比较客观。
3.6 饮食计划
当代年轻人每天都在纠结吃什么，除了点外卖就是点外卖，我们用Prompt模板安排一周健康饮食试试：
可以看出每日饮食均衡搭配，摄入的营养素应包括蛋白质、碳水化合物、脂肪、纤维、维生素和矿物质。看着还不错哟！！！
3.7 路线规划
假期到了，很多小伙伴都想出去旅游，我们让文心一言大模型写一个旅游路线规划看看：
给出了两条路线，全长多少，自驾游耗时多少蛮详细的！
还有很多很有趣的模板，大家可以自行去测试体验！
3.8 自定义模板
当然如果内置的Prompt模板没有想要的，咱也是可以看下面操作自定义模板
（1）创建模板：
（2）创建后，我们就可以去在线测试那引用模板进行测试了，这里我创建的总结模板：
（3）这里我们随意找了一个新闻，以十个字总结：
锦里古街是成都最古老也是最现代的步行街，拥有超多的酒吧、闻名全国的餐饮店等等，晚上八点之后那灯光效果可以说是超赞的。锦里古街位于武侯区，是当地非常知名的商业街，建筑都是仿照明清时期的风格而建。在这里，你可以尽情感受西蜀文化，一进锦里大门仿佛来到了另一个世界。锦里古街集吃、喝、游、购为一体，是成都人悠闲适宜的生活态度完全展示出来的。无论是吃、穿、住、行，在锦里都能找到绝佳的去处。
总结的效果简单明了：
四、插件应用
4.1 插件有什么用？
插件应用(Plugin)是大语言模型(LLM)的应用构建工具，帮助用户快速构建LLM应用或将LLM应用到自建程序中。开发者可以通过LLM API 以及内置的模块等快速的启动LLM应用的创建工作。
上面的话可能很难理解，我举个很简单例子比如文心一言里面就百度搜索插件和ChatFile插件，支持实时信息生成和文档检索：
简单来说就是可以添加其他的功能提高大模型数据的实时性和方便我们的工作。
目前支持的插件较少，只有一个“域内知识搜索增强插件”，后续插件生态还会不断完善。
4.2 安装配置
（1）创建插件任务：
（2）安装插件：
（3）安装成功后可以看到输入框左上角就会出现插件图标：
4.3 配置插件
配置插件可以通过我们提供的数据集，智能的搜索和结果组合，返回更加符合预期的结果
（1）点击配置：
（2）这里我就刚才测试的两个逻辑问题准备了一个答案Excel文档，我们先上传文件到插件：
4.4 插件测试
使用“域内知识搜索增强插件”后，我们对刚才测试的两个逻辑问题再提问试试，看看有什么变化？
先有鸡还是先有蛋？
可以看到使用插件后，会根据我们给的答案和文心一言大模型的结果相互组合，实现对输出结果的微调：
鸡兔同笼问题
我们再次测试一下刚才问过的鸡兔同笼问题：
增强前我测试过两次都文字描述，增强后已经可以自动列出方程式，很明显的数学能力的提高。
五、总结
在使用文心千帆大模型平台给我的体验，我首先感到它简单便捷，第一次使用跟着操作文档一次创建成功。提供一站式服务，涵盖数据集管理、模型训练、服务发布与监管。通过可视化界面实现模型全生命周期管理，简化从数据到服务的大模型实施过程，易于上手与理解。
其次，文心千帆大模型平台中内置了33个不同的大模型，后续还会有更多的开源大模型接入，用户可以根据自己需求选择最合适自己的模型。
其次是Prompt工程，内置了103个Prompt模板，涉及了各个领域，就目前而言Prompt模板最多最丰富的平台！
最后，新出的插件功能特别实用，目前插件还较少，期待插件体系的不断更新完善。
如果你对人工智能和大模型也感兴趣，可以申请试用文心千帆，亲自上手感受其强大功能！！！