ChatGPT如何颠覆我们——底层技术-发展-影响-应对

ChatGPT

近期，ChatGPT相关信息与雨后春笋般增长，大多数人都在惊叹它将会改变世界，他的出现就颠覆现有生活，风头过后，大家又似乎不以为然，终于有时间整理下ChatGPT的工作原理，以及站在自身角度思考下，ChatGPT将如何改变普通人的生活。

心怀疑虑

1. 它是如何工作的？
2. 它和搜索引擎有什么区别？
3. 它和聊天机器人有什么质的差别？
4. 它会给社会带来什么样子的变革？
5. 我们普通人应当如何应对，保持自己的竞争力？

1、GPT技术原理

其实GPT没有那么神通广大，它没有欲望，没有意识，没有情绪。甚至不知道自己说了什么。
实质功能——单字接龙
给它任意长的上文，它会用自己模型去生成下一个字，整合生成后的字后，进一步进行生成（自回归生成），其模型本身能做的就是生成下一个字。
模型训练——学习材料
根据材料学习，不断调整模型，是得模型可以根据上文生成符合学习材料的下文。如果遇到内容相同的上文，则根据概率分布进行抽样生成下文（每次的回答不完全相同）。
回答问题——问答组合
提问和回答整合为问答组合，供模型进行学习。但是提问的方式千奇百怪，它可以利用所学的规律来处理从没记忆过的提问（泛化），训练出针对不同提问方式的通用模型来实现泛化。
生成模型——不保存数据
搜索引擎通过记忆既有数据后，提供搜索后的数据给用户，而ChatGPT通过对既有数据进行学习后，处理生成全新的回答。所以说它利用既有数据进行训练模型后，使得模型变成通用模型，每次回答，都是模型根据上文生成的，因此它也被成为生成模型，与搜索引擎有质的区别。
缺点——更新效率低，高度依赖数据
正因为它的生成特性，它有可能生成现实并不存在的内容，任何符合它逻辑的内容均有可能被生成，有时候会混淆现实生成胡说八道的内容。因此当产生不正确的内容我们无法直接进行增删修改，只能修改模型进行调整，导致更新效率低下。而且模型高度依赖数据，需要大量优秀的学习资料进行训练。

2、ChatGPT壮大之旅

上述GPT还不足以处理日常事务，它经过三轮壮大之后变成ChatGPT才足够强大。

无监督学习——大量数据

同一个词在不同场景下会有不用含义，因此它需要学习语法规律和语义关系。通过学习大量的语言范例，以应对从未见过的语言，具备举一反三的能力，专业称之为预训练。

监督学习——懂规矩

经过大量学习材料和语言范例的训练后，它已经可以回答绝大部分内容，但是各种丑闻，脏话等内容也可能被它生成，无法指挥它生成对我们有帮助的内容。因此采用优质的对话范例（对话模板）来进行训练，当问题有误或者时事新闻时，它可以明确的指出错误和回答不知道。让它学会什么该说什么不该说。当有足够多的模板规范后，它也具备了根据例子生成新内容的功能，理解例子的要求（语境学习）。在该阶段通过对代码的大量学习后，它也学会了人类的分治思想，形成思维链。

强化学习——创意试探

在经历前两轮调整后，它的回答有可能变得僵化死板，为了克服这个问题，又对它进行创意引导，类似宠物食物诱导训练法，当它意外的回答出符合人类创意认可的内容时，给予奖励，利用人类评分来调整模型。

至此，ChatGPT 3.5诞生。

3、对普通人的影响

目前ChatGPT的表现其实远达不到可以改变世界的能力，但它的诞生无疑给大家指明了方向，也让大家看到了大语言模型的可行性。大语言模型今后将达到大力发展，也会变得更好用、更便宜、更高效。

精通语法

ChatGPT对语言语法的遵守能力已经超越绝大多数人，它可以帮助人类校对拼写、检查语法、转换句式、翻译外语。

世界知识

人类之所以强大，是因为语言的发明让经验知识在群体中扩散，代代继承发展，最终在千万物种中突颖而出。当代我们语言中流传的知识更多了，传统的纸质文件，甚至电子文件的处理都占据了人类大量的精力，不同的格式排版、信息分类、总结等工作，早已成为大机构们重点解决的问题。NLP（自然语言处理）应用而生，让机器理解自然语言，协助人类处理繁琐的语言处理类工作。通过大语言模型，有望真正实现让机器理解自然语言。使得普通人快速获得各行各业平均水平的知识，根据个人经验直接使用这些知识。
智能搜索引擎，智能笔记，智能办公软件，辅助培训系统，辅助编码调试工具，7*24小时智能客服，智能会议记录，行业顾问，个性化推荐等等

4、对社会的影响

教育模式单纯既有知识记忆的教育模式在未来会遇到巨大的挑战，难以适应时代发展，所有人都需要学习新的知识，教育需要教会我们学习能力和创新能力，而且是非大语言模型的创新，需要更高级的创新。
网络安全大语言模型对生成内容的判断不完善，有可能生成诱导犯罪的内容，从而使防范犯罪变得困难；同时，在使用时难免泄露工作内容，进而泄露商业或者国家秘密，大语言模型需要规模效应，不可能每个机构都部署一套自己的模型，因此，如何在保证各机构数据安全的前提下，实现联邦学习，迎来了新的挑战。

5、普通人如何应对

对面新的变化，我们应当继续发挥人类最本质的特征——善于使用工具。
利用其优点，避免其缺点，使其最大限度的帮助人类完成复杂的工作。
克服抵触心理既然新工具无法消失，抵触只会让我们更晚的接触工具，最后不得不使用工具，更晚的获得工具的好处。
终生学习意识要加强终生学习的意识，不出意外，在ChatGPT之后仍然会有新的工具出现，增强自我思考能力。只有学习才是应对未来变化的唯一方式。