关于大模型对未来影响的一点看法

人们总是高估了未来一到两年的变化，低估了未来十年的变革。 ---比尔盖茨

近来OpenAI的GPT技术可以说在全球都带来了巨大的影响，也让大家看到了什么叫大力出奇迹。chatGPT和GPT4的能力给了大家很大的震撼，其流畅自如、逻辑清晰、出众的能力，给使用过的人都留下了深刻的印象，同时也让无数人对这项技术产生了担忧和畏惧，其中就包含即将踏入互联网行业的我。

起初在chatGPT刚出来的那段时间，我是抱着了解但未尝试的态度的，知道这项技术很先进，但是不知道其对未来的影响，或许是因为没有亲身去使用导致了对其能力的低估吧。后来其越来越火，GPT4相继问世，我使用之后的感受，我切身感受到了这一技术的变革性。

**gpt是个什么样的技术呢？**生成式预训练的模型，主要用在自然语言生成上，能够处理各种语种的输入和输出，如中文，英文等各种主流语言，不知道是否支持世界上所有有文字资料的语种。

目前gpt的技术主要应用在对话中，即人与计算机进行对话 — chatGPT，能够记忆多轮对话的内容，并结合上下文给出相应的答案，且生成的文本逻辑上，语法上都有很好的准确性。对话的内容不限，从生活常识，到百科，到文学，到各行各业的知识，学术界的，工业界的，都能给出不错的答案。目前关于垂直领域的知识，主要是关于计算机的，不知道其他工科的怎么样。但也并不是毫无缺点，生成的文本可能会有一些事实性错误，编造一些不存在的东西，不能确保准确性，有些泛泛而谈。

综合以上，可以对chatGPT做一个总结：一个拥有强大文本生成能力的模型，能够处理各种问题，理解语言中较复杂的语义，但也存在一些缺点。

现在发展到的gpt4，不仅可以处理文本，还具有了多模态的能力，能够理解图像，生成图像。或许以后能够输入输出更加的自由，可以是文本，语音，图像，视频等，输出亦然。

**关于未来的大模型。**可以沿着发展趋势展开一下想象，在未来的某天：大模型技术取得了更大的进步，其理解人类世界的能力愈发强大，不仅能够以显而易见的方式接收信息，如视、听，或许还能触摸，再加上对现实的理解，AI能做到的事或许和人类没有很大差距，甚至能够在某些方面（很多方面）超越人类。在工作中，你大部分时间在与AI系统打交道，你的上下游是AI系统，你接受AI的任务，解决一些AI暂时不能解决的问题后交给下游的AI来完成；生活中，可能有一个能力超强、且很懂你的AI助手、管家、甚至伴侣，管家能够接管你生活中的绝大部分安排，为你指定各种计划，替你规划、决策，为你的孩子辅导功课；商店里、饭店里，与你交流的可能是服务员。

要实现这样的未来，我们还有多远的，什么样的了路要走呢？

作为一名即将进入互联网行业的学生来说，AI的发展确实让我对自己的职业发展着实担忧了一把。未来AI技术的强大，一些方面的工作会很快被AI技术取代，目前已知的发展空间会被压缩，进而影响自己的工作待遇、职业发展方向。毕竟，未来的变动需要我们花费时间、精力去学习、去适应，还参杂很多不确定性。如果这真的是一场革命，那么肯定会有现在所不知的机会和机遇出现。干好当下的事很重要，但我现在能为未来做什么呢？接下来分析一下发模型对未来的行业的影响。

数据隐私一定是一个首要考虑的因素，因此很多商业化场景中会以安全，隐私为重要的考虑，可能会导致很多公司构建自己的大模型，不一定要达到最优的水平，但能在自己的垂直场景中达到一定的壁垒。各个公司如何构建自己的大模型呢？没有这个能力怎么办？虽然现在很多巨头都在往这个方向发展，但是真正做的好，能商业化的并没有那么多，市场还是一片蓝海。可以想到，这么多的巨头尚不能做的很好，其他的行业、公司有怎么做呢？当然，以后会有更多的公司能够做好，但是还是存在一个分水岭，岭以上的公司有能力做好自己的大模型，以下的公司不会自研或者说会另辟蹊径。有能力的公司可以把自己的大模型以服务的形式向外提供，并以此开展自己的产品。

在大模型掀起的这场革命（如果有）中，未来的软件会是什么样子的呢？现在的软件开发过程，通常需要人来沟通和理解需求，开发完成后进行迭代修改，并进行维护。如果AI能快速、准确地实现需求，或者小的需求块，那我们可能主要负责对需求的划分、细化、整理使其标准化（AI能理解的形式），具体的开发将由AI自动完成，最后再加以测试和人工检查和测试。这个时候可能很多低级（简单，容易被流程化）的开发会被取缔，程序员的工作重点更多放在整体流程的把控和分解上。那个时候，或许我们能开发出更大规模的软件，以更快的速度，类似于流浪地球2中MOSS自动生成操作系统。这个时候的程序员还需要具备手撕代码的能力吗？整体架构、流程的把控和理解或许是更为重要的能力，对技术的广度有更高的要求。

当然，并不是所有地方都会上大模型，但是很可能大家都会使用它。一种方式是对大模型的小型化，或者使小模型同样拥有足够的能力，一种是API的形式，把大模型作为一项服务，在有一种可能是二者的结合，在共有大模型的基础上产品有自己的私有模型。大模型的小型化，这也是业界和学界一直在做的事情，模型的量化、压缩、剪枝、蒸馏等，以及在各种硬件平台上适配。API的形式就不赘述了。我觉得目前还未出现，但是将来很有可能出现的就是第三种情况：共用大模型+私有模型。同样是处于对数据安全性考虑，也是维护自身产品壁垒。依赖大模型构建的产品，数据是其灵魂，也是其壁垒所在，也包括安全问题。如何在这样的约束下用好大模型？个人的一个想法：对大模型的拆解、分析，大模型的扩展能力，大模型与小模型（私有模型很有可能就是小模型）的融合，最好能够做到大模型是一个大软件，小模型则是一个插件，能够很好的借助大模型的能力。

最令我期待的是具身智能 — 我们接触的是具有实体的AI。当前AI技术在很多领域都有了很大的发展，CV、NLP、语音等，但更多的是以工具的形式出现在我们的生活中。但这些技术很多终究是没能达到流程与人类进行交互的能力，但现在我们看到希望了，GPT正在逐步实现（已经？）这一点。以上技术的融合是很有可能出现一个能够数字人的，能够具身，就看未来硬件和机器人技术的发展了。

希望未来不需要担心以上问题。

再放几张《Bicentennial Man》的剧照，希望我以后也能有机器管家（当然不是安德鲁那样的）。

关于gpt的几篇参考论文：

• Improving Language Understanding by Generative Pre-Training（GPT1）；
• Language Models are Unsupervised Multitask Learners（GPT2）；
• Language Models are Few-Shot Learners（GPT3）；
• Training language models to follow instructions with human feedback（InstructGPT）；
• GPT-4 Technical Report；