ChatGPT - 横看成岭侧成峰

定义

ChatGPT 是什么?
ChatGPT是由OpenAI开发的一个人工智能聊天机器人程序,由 OpenAI 公司于2022年11月推出。该程序使用基于GPT-3.5架构的大型语言模型并通过强化学习进行训练。

ChatGPT以对话方式进行交互,可以用于包括自动文本生成、自动问答、自动摘要等在内的多种任务。如:在自动文本生成方面,ChatGPT可以根据输入的文本自动生成类似的文本,在自动问答方面,ChatGPT可以根据输入的问题自动生成答案。

这是 ChatGPT 自己的介绍:
ChatGPT - 横看成岭侧成峰_第1张图片
注:自我介绍不错,但是 “转移学习”, 应该翻译为 “迁移学习” 才精准。

ChatGPT 背后的技术是 OpenAI 公司的 GPT 大型语言模型框架,OpenAI 也得到了微软公司的大力投资,ChatGPT 是这样回答 “你怎么分析微软公司持续投资 OpenAI 公司?” 这个问题的:

微软公司持续投资 OpenAI 公司,可能是因为以下原因:
先进技术: OpenAI 是一家先进的人工智能研究机构,其研究成果和技术在人工智能领域具有高度的创新性和潜力,微软公司可能希望能够通过投资获得这些先进技术。
市场机会: 随着人工智能技术的不断发展,人工智能市场机会也在不断增加,微软公司可能希望能够通过投资 OpenAI 来获得这些市场机会。
合作机会: OpenAI 和微软公司在人工智能领域有着高度的互补性,微软公司可能希望

嗯,chatGPT 最后一句话没有讲完,它也没有解释。

网上流传了 chatGPT 能做的各种事情,我们的博主也写了不少博客: https://blog.csdn.net/nav/advanced-technology/chatgpt

它可以生成各种内容,可以回答不少技术问题,大家对它的态度刚开始是好奇,惊艳,随后就有不同的反应,特别是在问答,教育领域 –

------

限制、禁止 chatGPT

英文 IT 界最大的问答平台 StackOverflow 禁止在它的平台上使用 ChatGPT 生成的内容。 主要原因是ChatGPT 生成的回答 看起来非常高质量,非常容易生成,但是准确度低。这会导致很多用户大量生产此类内容,对平台和想得到正确答案的用户都是有害的。

这是 StackOverflow 官网的解释截屏:
ChatGPT - 横看成岭侧成峰_第2张图片
一个用户 (Alex Poole)的评论得到了很多赞:(我翻译成中文)
不管 AI 生成的答案正确与否,“StackOverflow是一个面向专业程序员和热心编程爱好者的问答网站" 这句话同时适用于 【提问】 和【回答】的部分。在我看来,那些只是将提问粘贴到 AI 那里,然后把 AI 的回答再复制回来的人, 不算是专业程序员,也不算是热心编程爱好者。也许这些人对 AI 的回答进行了检查和测试,如果他们真的能够验证这是一个好的正确答案,他们应该能够自己写出来。这并不一定意味着互联网上没有(或不会有)人工智能提供服务的地方,但它并不属于 StackOverflow。

下面是我用 deepl.com 服务得到的翻译:
ChatGPT - 横看成岭侧成峰_第3张图片

美国的一些学校也禁止学生使用学校的网络连到 ChatGPT,主要原因是:“虽然该工具可能能够提供快速和简单的问题答案,但它并不能培养批判性思维和解决问题的能力,而这些能力对学术和终身成功至关重要” (报道链接) 但是,学校防止不了学生用其他方式连到 ChatGPT,这样, 自己有手机流量的,就能用,没有手机流量的,就不能用。 或者是,某个地区的学生,可以通过某种方式上网的少部分学生,就能得到这种服务,这是否造成了一种不公平呢?

------

出错了怎么办?

在大约 10 年前,我在研究院的同事就开发了一个 AI 的写作助手,你输入上一句, 写作助手就会根据上下文建议下一句,当时的 AI 技术和数据量还是比较初级,所以它的一些建议看起来很幼稚可笑。这个研究项目在小范围演示后,就停下来了, 十年后,大不一样了,这是我刚才随手给 ChatBot 出的题目:

ChatGPT - 横看成岭侧成峰_第4张图片
如果 ChatBot 聊天聊出问题了怎么办? 这也是实际发生的情况。 我试着和她聊 “在犯罪的边缘试探” 的笑话,ChatGPT 倒是很冷静:
在这里插入图片描述

2016 年,微软就发布过一个有感情的聊天机器人 – Tay,但是 16 小时之后,就把她下线了。因为她在和用户聊天的过程中,从用户那里学到了很多骂人、歧视、以及其他恶劣的行为。 这个聊天机器人有 “自觉” 和 “良心” 么,知道自己的言语会伤害别人么? 要找机会直接问她。

从我有限的测试来看, ChatGPT (他背后的高人) 很明智地吸取了前人的教训,给自己画了一些红线,不敢越雷池半步。

------

共存

ChatGPT 能快速地给出看起来很有信心的答案,学生拷贝就好了,这是作弊么? 也有老师说,这就像 20 年前 Google 出现的时候一样,当时也有老师不让学生从 Google 上直接找答案,后来怎么样了呢?

打不过你,就加入你好了。

这其实反映了 人工智能 (简单或复杂的算法) 辅助人类工作的一个趋势。 下面是一些例子:

  • Word 编辑器的文字拼写自动纠错功能(这算作弊么)?以及后续不断提高的语法建议功能,Excel 的自动数据自动填充、计算功能, PowerPoint 的 “幻灯片自动排版” 功能
  • 以前初学者翻译文章,要一个词一个词地查纸板的字典,后来,有网络上的词典,便携式的电子词典,手机 app,现在,很多的翻译工具能翻译整段话,而且效果不错,就像本文上面用的 deepl.com 的例子。
  • 代码编辑器中的 IntelliSence 自动完成变量名和函数名的功能,自动生成函数API 的注释,演化到最近的自动生成测试用例,自动完成函数功能,等。
  • wolframalpha.com 网站的自动解题并列出步骤画出优美的图形…
  • 艺术创造中的美颜,AI 作画等。
  • 更不用说在股市交易中的 AI 算法的作用 …

这些进步,在当时都引起一些争议,现在看来,都好像是挺自然的了。

当然,AI 从解决单个离散的任务,发展到可以完成一整套考试,这是极大的飞跃 – 最近世界著名的沃顿商学院的教授 Christian Terwiesch 让 ChatGPT 做课程的期末试卷,AI 居然得了大约是 B 或者 B- 的分数。 考虑到 AI 的发展速度,我们不难想象不久的将来, AI 在 MBA 课程中碾压人类,就像 AlphaGO 碾压人类围棋手那样… 那么,上 MBA 学院的价值是增加了还是减少了呢?

在我们软件工程师的面试中, 我们经常要考察基本的算法,例如快速排序,红黑树,等,如果一个候选人说, 这些算法都有 API 和别人经过考验的算法库,我只管调用就好了! 你作为面试官,你怎么办呢? 我们在考试和面试中,经常要考察这个人的 “技能”, 那么,会用 ChatGPT,算是一个有价值的技能么? 技能的反面是什么呢?

------

鼓励使用 ChatGPT

打不过你,就加入你好了,而且还要充分利用这个工具。 我今天看到这个 npr.org 的报道,有老师要求所有学生都用 ChatGPT 来做作业, 他认为,在讨论和创意阶段,这个工具还是很不错的。

这位老师说,他对于 AI 工具对于教学的影响,又激动,又焦虑,但是,还是要跟上时代啊!

------

分清楚 【参考】还是 【作弊】

在一些人抱怨 ChatGPT 导致作弊的时候,他们可能忘了,作弊是人类有史以来就有的行为,现在也不例外,可以搜索一下 “论文代写” 或者是 “毕业设计 源码” – 搜索这些东西的人,收集资料呢,还是直接拿现成的方案去当作自己的作品呢? 这就不得而知了。

这个 BBC的报道 也提到肯尼亚的大型作业代写的服务。 一旦开始了作弊,大家就从 “学术道德” 的高地上走下来了,随之而来的是各种环节的作弊行为:

  • 这些代写作业的人,都是在肯尼亚一带的非洲同胞,但是他们都头像都是白人
  • 这些代写作业的账户上面的五星好评,也是假的,这也有一个假账号和假评价的交易市场
  • 这给了顾客(欧美的学生)一种印象,是 “高水平的西方人在替我写文章,老子的钱花得值”!

从报道中的数据可以推导出,一个一周工作七天的代写文章者,可以挣到相当于当地成年人的平均工资。 这对于很多接受了高等教育但是在当地找不到工作的年轻人来说,这是一个很不错的出路。

当然,人们也开发了各种检测作弊的工具,对于 ChatGPT,也有检测工具出现了 GPTZero!

如果所有人都能用上 ChatGPT,而且,检测 ChatGPT 的技术也在提高,那么,对肯尼亚一带的人肉论文代写行业,有什么影响呢? 我们能训练 ChatGPT 去检测作弊行为么?

-----

AI 贵有自知之明

ChatGPT 是怎么看自己产生的内容被学生使用的呢? 请看它的直接回答:
ChatGPT - 横看成岭侧成峰_第5张图片

理论上,ChatGPT 属于哪个层次的 AI 呢? 如果低层次的 AI 都这么厉害了,高级的 AI 出现后,我们怎么办呢?
ChatGPT - 横看成岭侧成峰_第6张图片
(图片来自:汪军教授的演讲)

当然,人和 AI 在各个领域的较量才刚刚开始,魔高一尺,道高一丈,双方的较量的过程和结果是合作,共存,融合,还是对抗?最终谁能胜出?让我们 拭目以待 (说到拭目以待,说不定有人正在做机器眼睛接入人脑的实验咧)!

你可能感兴趣的:(人工智能实战,chatgpt,人工智能,职场和发展,大数据,软件工程)