比尔盖茨和奥特曼对话:GPT5在内的模型,未来五到十年内,将会变得“愚蠢”

比尔盖茨和奥特曼对话:GPT5在内的模型,未来五到十年内,将会变得“愚蠢”_第1张图片

比尔·盖茨最近邀请OpenAI的CEO Sam Altman(萨姆·奥尔特曼)参与了他的播客节目,他们在这期节目中讨论了人工智能(AI)的未来和挑战。奥尔特曼和盖茨探讨了AI技术的快速发展,以及社会如何适应这些变化。

他们讨论了AI在提高生产力、医疗保健、教育等领域的潜力,同时也提到了对AI可能失控的担忧,以及如何确保AI的安全和负责任发展。此外,他们还讨论了AI技术的可解释性,以及如何通过全球监管机构来管理未来可能出现的超级强大的AI系统。对话中,奥尔特曼分享了他对AI技术进步的乐观态度,以及OpenAI团队在推动AI技术发展方面的工作和挑战。

快加入我们的企业AIGC大模型落地交流社群,您将与各行业AI精英交流企业专属大模型的落地案例,还能够接触到各种AI工具包,其中包括聊天机器人ChatGPT等,这些工具将帮助您更加高效地完成工作。

企业申请Azure OpenAI绿色通道

→记得评论私信~还可加入试用交流群~

比尔盖茨和奥特曼(Open AI)都谈了什么?

整个采访也并不是很长,含金量也是比较足的。

一、未来人工智能会发展到什么水平?

答案:几乎你能想象的一切

比尔·盖茨:我非常确信,在接下来的五年内,我们会理解它。就训练效率和准确性而言,这种理解将让我们做得比今天能做的好得多。

奥特曼:有一天,也许会有一个人工智能,你可以对它说:“帮我建立并运营这家公司”。然后有一天,也许会有一个人工智能,你可以对它说:“去发现新的物理学”。我们现在看到的东西既令人兴奋又美妙,但我认为把它放在这项技术的背景下是值得的,至少在未来的五年或十年内,这项技术将处于一个非常陡峭的成长曲线上。现有这些模型都将变成最愚蠢的模型。

比尔盖茨和奥特曼对话:GPT5在内的模型,未来五到十年内,将会变得“愚蠢”_第2张图片

二、人工智能最可怕的地方在哪里?

答案:技术进步太快了,人类社会不容易适应。

比尔·盖茨:有点令人生畏的是,与以往的技术改进不同,这项技术的改进速度非常快,而且没有上限。它可以在很多工作领域达到人类的水平,即使做不出独特的科学研究,它也可以打客服电话和销售电话。

奥特曼:我们已经经历过这些大规模的技术变革,人们所从事的大量工作可能在几代人的时间里发生变化,而在几代人的时间里,我们似乎可以很好地吸收这些变化。在过去那些伟大的技术革命中,我们已经看到了这一点。每一次技术革命都会变得更快,而这次将是迄今为止最快的一次。这就是我觉得有点可怕的地方,我们的社会需要以何种速度去适应它的发展,以及劳动力市场将发生的变化。

三、人工智能对于社会形态的改变

答案:如何面对一个没有“稀缺”的世界

比尔·盖茨:我们的思维如此依赖于稀缺性,教师、医生和好的想法的稀缺,部分原因是,我确实在想,如果一代人在没有这种稀缺的情况下成长,他们会对如何组织社会以及要做什么这个哲学概念会产生什么看法,也许他们会想出一个解决方案。我担心我的思维如此受到稀缺性的影响,以至于我甚至很难思考这个问题。

奥特曼:如果我们能进入这个“后稀缺”世界,我们将会找到新的事情去做。它们会感觉非常不同。也许你不是在解决疟疾问题,而是在决定你喜欢哪个星系,以及你打算如何处理它。我相信我们永远不会缺少问题,不会缺少获得满足感和为彼此做事的方式,不会缺少对我们如何为其他人玩人类游戏的方式的理解,这将仍然非常重要。

比尔盖茨和奥特曼对话:GPT5在内的模型,未来五到十年内,将会变得“愚蠢”_第3张图片

四、人工智能的未来的成本会如何?

答案:智能的成本降低到接近于零的程度。

比尔·盖茨:就公平性而言,技术通常很昂贵,比如个人电脑或互联网连接,而降低成本需要时间。我想,运行这些人工智能系统的成本看起来很不错,每次评估的成本会降低很多吗?

奥特曼:GPT-3是我们推出时间最长、优化最久的模型,在它推出的三年多时间里,我们已经将成本降低了40倍。对于三年的时间来说,这是一个很好的开始。至于GPT-3.5版,我敢打赌,目前我们已经将其成本降低了近10倍。GPT-4是新产品,所以我们还没有那么多时间来降低成本,但我们会继续。我认为,在我所知道的所有技术中,我们的成本下降曲线是最陡峭的,优于摩尔定律。

五、对年轻人的建议。

答案:做一份有目标感的工作。

奥特曼:关于大多数人对风险的误判。他们害怕离开舒适的工作,去做他们真正想做的事情。实际上,如果他们不这样做,他们回顾自己的一生时就会想,“天啊,我从来没有去创办我想创办的公司,或者我从未尝试成为一名人工智能研究员。”我认为实际上这样风险更大。与此相关的是,明确自己想要做什么,并向别人提出自己的要求,会有意想不到的收获。很多人受困于把时间花在自己不想做的事情上,而我最常给的建议可能就是想办法解决这个问题。

比尔盖茨和奥特曼对话:GPT5在内的模型,未来五到十年内,将会变得“愚蠢”_第4张图片

比尔·盖茨:如果你能让人们从事一份让他们感到有目标的工作,那会更有趣。有时,他们就是这样产生巨大影响的。

Sam Altman提及的最重要的10点关于AI发展的观点

  1. AI模型的可解释性:萨姆·奥尔特曼认为,尽管目前对AI模型的理解还很有限,但随着时间的推移,我们将能够更好地理解这些网络。

  2. AI技术的进步:他预测在未来五年内,我们将对AI有更深入的理解,这将使我们在训练效率和准确性方面取得显著进步。

  3. 多模态AI的重要性:奥尔特曼强调了多模态(包括语音输入、语音输出、图像和视频)在未来AI发展中的重要性。

  4. 推理能力的提高:他提到GPT-4的推理能力有限,未来的AI需要在推理能力上取得显著进步。

  5. 可靠性和定制化:奥尔特曼认为,提高AI的可靠性和实现可定制化、个性化的AI系统将是关键的发展方向。

  6. 自适应计算的需求:他指出,当前的AI算法在处理不同复杂度的任务时,计算资源的分配是固定的,未来可能需要更复杂的自适应计算逻辑。

  7. 全球监管机构的必要性:奥尔特曼支持建立一个全球监管机构来管理超级强大的AI系统,类似于国际原子能机构(IAEA)。

  8. AI对社会的影响:他讨论了AI如何帮助解决社会问题,如减少两极分化和提高生产力。

  9. AI与人类目的的关系:奥尔特曼对未来AI可能取代人类解决复杂问题的情况表示乐观,认为人类将找到新的目标和满足感。

  10. AI成本的降低:他提到OpenAI正在努力降低AI的成本,使其更加普及,这对提高全球生活质量至关重要。

以下为对话完整实录:

比尔·盖茨:今天我们有幸邀请到山姆·奥特曼先生作为我们的嘉宾,他是OpenAI的首席执行官。山姆长期以来一直在科技行业担任创业者和领导者的角色,曾经经营过Y Combinator,该公司在支持Reddit、Dropbox、Airbnb等方面做出了杰出的贡献。

值得一提的是,在我录制本期节目后不久,山姆被解除了OpenAI首席执行官的职务,这对我来说是个完全意外的消息,至少是一个短暂的震惊。在解雇后的几天里,发生了很多事情,包括几乎所有OpenAI员工联名支持山姆回归。现在,山姆已经回来了。因此,在您听取我们的对话之前,我们先来了解一下山姆,看看他目前的状态如何。

比尔·盖茨:嘿,萨姆。

山姆·奥特曼:嘿,比尔。

比尔·盖茨:你好吗?

山姆·奥特曼:哦,天哪。这真的太疯狂了,我还好。这是一个非常激动人心的时期。

比尔·盖茨:团队情况怎么样?

山姆·奥特曼:我想,你知道很多人都注意到了这样一个事实,那就是团队从未如此高效、乐观、出色。所以,我猜这也正是藏在所有事情背后的一线希望。

在某种意义上,这是我们成长的真正时刻,我们非常有动力变得更好,变成一个为我们所面临的挑战做好准备的公司。

比尔·盖茨:太棒了。

所以,我们在对话中不会讨论那件事;然而,你会听到萨姆致力于建立一个安全和负责任的人工智能的承诺。我希望你喜欢这次对话。

欢迎来到《为自己解惑》。我是比尔·盖茨。

比尔·盖茨:今天我们将主要关注人工智能,因为它如此令人兴奋,人们同时也对它感到担忧。欢迎,萨姆。

山姆·奥特曼:非常感谢你邀请我来参加节目。

比尔·盖茨:我有幸见证了你们工作的进展,但开始的时候我是非常怀疑的,我也没期待过 ChatGPT 能做得这么好。它让我十分惊讶,我们实际上并不懂这种编码方式。我们知道数字,我们可以看到它相乘,但如何把莎士比亚的作品编码?你认为我们能对这种表示有更深的理解吗?

山姆·奥特曼:绝对可以。在人脑中实现这一点非常困难,你可以将其类比为神经元之间相互连接的问题。然而,这些连接是变化的,我们无法切开你的大脑来观察其演化。尽管我们无法直接观察,但我们能够以完美的方式进行透视。当前,在可解释性方面已经有一些出色的研究,我相信随着时间的推移,会有更多的解释出现。我们将能够更好地理解这些神经网络,尽管我们目前的理解水平仍然有限。正如你所喜欢的那样,我们已经对其有了一些了解,这些了解对于改进这些技术非常有帮助。除了科学上的好奇心之外,我们都有动力去真正深入了解它们,即使它们的规模非常庞大。我们还可以思考莎士比亚的作品是如何在大脑中编码以及表现的。

比尔·盖茨:我们不知道。

山姆·奥特曼:我们确实不知道,甚至可以说在这些我们本应能够完美透视、观察并进行任何测试的大量数字中我们还是找不到答案,这就更让人缺少满足感。

比尔·盖茨:我非常确信,在接下来的五年内,我们会理解它。就训练效率和准确性而言,这种理解将让我们做得比今天能做的好得多。

山姆·奥特曼:百分之百同意。你会在许多经验性发现的技术发展史中看到这一点。他们虽然不知道发生了什么,但显然它行得通。然后,随着科学理解的加深,他们可以使它变得更好。

比尔·盖茨:是的,在物理学、生物学中,有时只是随便一通乱试,然后就“哇”的一声——这究竟是怎么实现的?

山姆·奥特曼:在我们的案例中,构建 GPT-1 的那个人自己解决了这个“哇”的问题,这有些令人印象深刻,但并没有深入理解它是如何工作的,以及为什么它是有效的。然后我们有了拓展规律,可以预测它会变得多好。这就是为什么当我们告诉你可以做一个演示时,我们相当有信心它会成功。我们还没有训练模型,但我们很有信心。这让我们做了大量尝试,对正在发生的事情有了越来越科学的认识。但这确实源于经验结果先行。

比尔·盖茨:当你展望未来两年,你认为会有哪些重要的里程碑?

山姆·奥特曼:多模态肯定会很重要。

比尔·盖茨:你指的是语音输入、语音输出?

山姆·奥特曼:语音输入、语音输出,然后是图像,最终是视频。显然,人们真的需要这些。我们已经推出了图像和音频,反响比我们的预期要强烈得多。我们能够将其推进得更远,但也许最重要的进步领域将围绕推理能力展开。现在,GPT-4 的推理能力还非常有限。还有可靠性,如果你问 GPT-4 大部分问题 10000 次,这 10000 次中可能有一次回答得很好,但它不一定知道是哪一次。而你却希望每次都能得到这 10000 次中最好的回答,因此可靠性的提升将非常重要。

可定制性和个性化也将非常重要。人们对 GPT-4 的需求各不相同:不同的风格,不同的假设集,我们将使所有这些成为可能,然后还能让它使用你自己的数据。它能够了解你、你的电子邮件、你的日历、你喜欢的预约方式,并与其他外部数据源连接,所有这些都将是最重要的改进领域。

比尔·盖茨:在目前的基础算法中,它只是在做简单的前馈、乘法,所以为了生成每一个新词,它本质上都在做同样的事情。我会很感兴趣的是,你们能够像解决复杂的数学方程式那样,可能需要任意次数的应用变换,那么用于推理的控制逻辑可能需要比我们今天所做的复杂得多。

山姆·奥特曼:至少,我们似乎需要某种形式的自适应计算。现在,我们在每个标记上都花费同样多的计算资源,不管它是一个简单的标记,还是解决一些复杂的数学问题。

比尔·盖茨:是的,比如说,“解决黎曼假设……”

山姆·奥特曼:那需要大量的计算。

比尔·盖茨:但它用的计算资源跟说个“The”一样。

山姆·奥特曼:对,我们至少得让它能用。我们可能还需要在它之上更复杂的东西。

比尔·盖茨:你和我都参加过一个参议院的教育会议,我很高兴有大约 30 名参议员参加了那次会议,并帮助他们快速跟上进展,因为这是一个重大的变革推动者。我不认为我们为了吸引政客已经做的过多。然而,当他们说,“哦,我们在社交媒体上搞砸了,我们应该做得更好”——这是一个巨大的挑战,在两极分化方面有非常负面的因素。即使是现在,我也不确定我们该如何应对。

山姆·奥特曼:我不明白为什么政府在社交媒体方面不能更有效,但这似乎值得作为一个研究案例去理解,因为他们现在将要面临的是与 AI 相关的挑战。

比尔·盖茨:这是一个很好的研究案例,那么当你谈论监管时,你是否清楚该构建哪种类型的监管?

山姆·奥特曼:我认为我们开始弄清楚了。在这个领域进行过度监管是非常容易的,你也可以看到过去许多此类事情的发生。但同样的,如果我们是对的,可能结果却显示我们错了,但如果在最后我们是对的,这项技术发展到我们认为它会达到的程度,它将影响社会,影响地缘政治力量的平衡,以及其他许多事物。对于这些仍然是假设性的,但未来极其强大的系统——不是说 GPT-4,而是针对计算能力是其 10 万倍或 100 万倍的系统,我们已经接受了一个全球监管机构的想法,这个机构将紧盯这些超级强大的系统,因为它们确实会产生如此大的全球影响。我们谈到的一个模式就是类似国际原子能机构的模式。对于核能,我们的决定也是如此。由于其潜在的全球影响,它需要一个全球性的机构,我认为这是合理的。会有很多短期问题,比如这些模式可以说什么,不可以说什么?我们如何看待版权问题?不同的国家会有不同的考虑,这没问题。

比尔·盖茨:有些人认为,如果一些模型非常强大,我们就会对它们感到害怕——全球核监管之所以行之有效,基本上是因为至少在民用方面,每个人都希望共享安全实践,而且这一点做得非常好。当你涉及核武器方面时,就没有这种情况了。如果关键在于阻止整个世界做危险的事情,你会希望有一个全球政府,但今天对于许多问题,如气候问题、恐怖主义,可以看到我们很难合作。人们甚至援引中美竞争来解释为什么任何放缓的想法都是不恰当的。难道任何放慢脚步的想法,或者说放慢脚步到足够谨慎的程度,都难以实施吗?

山姆·奥特曼:是的,我认为要求其放慢速度是非常困难的。如果改成“做你想做的事,但任何计算集群都不能超过一个特定的、极高的功率门槛”——鉴于这里的成本,我们可能只会看到五个这样的集群——像这样的任何集群都必须接受类似国际武器检查员的审查。那里的模型必须接受安全审计,通过训练期间的一些测试,并在部署前通过审计和测试。对我来说,这似乎是可能的。我之前不太确定,但今年我进行了一次环球之旅,与需要参与这一计划的许多国家的元首进行了交谈,他们几乎都表示了支持。这不会让我们免于所有事情,仍然会有一些问题出现在规模较小的系统上,有些情况可能会出现相当严重的错误,但我认为这可以帮助我们应对最高层面的风险。

比尔·盖茨:我确实认为,在最好的情况下,人工智能可以帮助我们解决一些难题。

山姆·奥特曼:当然可以。

比尔·盖茨:包括两极分化的问题,因为它可能会破坏民主,而那将是一个极其糟糕的事情。现在,我们看到人工智能带来了很多生产力的提升,这是非常好的事情。你最兴奋的领域是哪些?

山姆·奥特曼:首先,我始终认为值得记住的是,我们正处在这一长期、连续的曲线上。现在,我们有能够完成任务的人工智能系统。它们当然不能完成一个完整的工作(岗位所做的事情),但它们可以做些任务,并且在那里有生产力的提升。最终,它们将能够做更多类似今天人类工作的事情,我们人类当然也会找到新的、更好的工作。我完全相信,如果你给人们更强大的工具,他们不仅仅可以工作得更快,还可以做一些本质上不同的事情。现在,我们或许可以将程序员的工作速度提高三倍。这就是我们所看到的,也是我们最兴奋的领域之一,它运行得非常好。但是,如果你能让程序员的效率提高三倍,那就不仅仅是他们能做的事情多了三倍,而是他们能在更高的抽象层次上、使用更多的脑力去思考完全不同的事情。这就好比从打孔卡到更高级的语言,不仅仅是让我们的编程速度快了一点,而是让我们得到了质的提升。我们确实看到了这一点。

当我们看向这些能够完成更完整任务的下一代人工智能时,你可以将它想象成一个小代理,你可以对它说:“帮我写这整个程序,我会在过程中问你几个问题,但它不仅仅是一次只写几个函数”,这样就会有很多新生事物出现。然后,它还能做更复杂的事情。有一天,也许会有一个人工智能,你可以对它说:“帮我建立并运营这家公司”。然后有一天,也许会有一个人工智能,你可以对它说:“去发现新的物理学”。我们现在看到的东西既令人兴奋又美妙,但我认为把它放在这项技术的背景下是值得的,至少在未来的五年或十年内,这项技术将处于一个非常陡峭的成长曲线上。现有这些模型都将变成最愚蠢的模型。

编程可能是我们今天感到最兴奋的一个提高生产力的领域。目前,它已经被大规模部署和使用。医疗保健和教育也是另外两个我们非常期待的快速发展的领域。

比尔·盖茨:有点令人生畏的是,与以往的技术改进不同,这项技术的改进速度非常快,而且没有上限。它可以在很多工作领域达到人类的水平,即使做不出独特的科学研究,它也可以打客服电话和销售电话。我想你和我确实有一些担忧,尽管这是一件好事,但它将迫使我们比以往任何时候都要更快地适应。

山姆·奥特曼:这才是可怕的地方。这并不是说我们必须适应,并不是说人类没有超强的适应能力。我们已经经历过这些大规模的技术变革,人们所从事的大量工作可能在几代人的时间里发生变化,而在几代人的时间里,我们似乎可以很好地吸收这些变化。在过去那些伟大的技术革命中,我们已经看到了这一点。每一次技术革命都会变得更快,而这次将是迄今为止最快的一次。这就是我觉得有点可怕的地方,我们的社会需要以何种速度去适应它的发展,以及劳动力市场将发生的变化。

比尔·盖茨:人工智能的一个方面是机器人技术(学),或者说蓝领工作,当你得到具有人类水平能力的手和脚时。ChatGPT 令人难以置信的突破是让我们开始关注白领工作,这完全没问题,但我担心人们会失去对蓝领工作的关注。你如何看待机器人技术?

山姆·奥特曼:我对此非常兴奋。我们太早开始研究机器人了,所以不得不搁置那个项目。它也因为错误的原因而变得困难,无助于我们在机器学习研究的困难部分取得进展。我们一直在处理糟糕的模拟器和肌腱断裂之类的问题。随着时间的推移,我们也越来越意识到,我们首先需要的是智能和认知,然后才能想办法让它适应物理特性。从我们构建这些语言模型的方式来看,从那开始更容易。但我们一直计划回到这个问题上来。

我们已经开始对一些机器人公司进行投资。在物理硬件方面,我终于第一次看到了真正令人兴奋的新平台被建立起来。到时候,我们就能利用我们的模型,就像你刚才说的,利用它们的语言理解能力和未来的视频理解能力,说:“好吧,让我们用机器人做一些了不起的事情吧。”

比尔·盖茨:如果那些已经把腿部做得很好的硬件人员真的把手臂、手掌和手指做出来,然后我们再把它们组合起来,而且价格也不会贵得离谱,那么这将会迅速改变很多蓝领类工作的就业市场。

山姆·奥特曼:是的。当然,如果我们回溯七到十年,共识性的预测是其影响的首先是蓝领工作,其次是白领工作,创造力可能永远不会,起码是最后一个,因为那是魔法和人类的强项。

显然,现在的情况正好相反。我认为这其中有很多有趣的原因能够解释它为什么会发生。创造性工作,GPT 模型的幻觉是一个特性,而不是缺陷,它能让你发现一些新事物。而如果你要让机器人移动重型机械,你最好能做到非常精确。我认为这只是一个你必须跟随技术发展的案例。你可能有一些先入为主的观念,但有时科学并不往那个方向发展。

比尔·盖茨:那么你手机上最常用的应用是什么?

山姆·奥特曼:Slack。

比尔·盖茨:真的吗?

山姆·奥特曼:是的,我希望我能说是 ChatGPT。

比尔·盖茨:【笑】甚至比电子邮件还多?

山姆·奥特曼:远远超过电子邮件。我认为唯一可能超过它的是 iMessages,但确实 Slack 比 iMessages 还多。

比尔·盖茨:在 OpenAI 内部,有很多协调工作要做。

山姆·奥特曼:是的,那你呢?

比尔·盖茨:我是 Outlook。我是传统的电子邮件派,要么就是浏览器,因为,当然,我的许多新闻都是通过浏览器看来的。

山姆·奥特曼:我没有把浏览器算作一个应用,有可能我使用它的频率更高,但我仍然打赌是 Slack,我整天都在使用它。

比尔·盖茨:不可思议。

比尔·盖茨:好吧,我们这里有一个黑胶唱片机。我像对其他嘉宾那样,要求萨姆带来一张他最喜欢的唱片。那么,你今天带来了什么?

山姆·奥特曼:我带来了马克斯·里希特重新编曲的维瓦尔第的《新四季》。我工作时喜欢无歌词的音乐,这张唱片既保留了维瓦尔第原作的舒适感,也有我非常熟悉的曲子,但又有足够多新的音符带来完全不同的体验。有些音乐作品,你会因为在人生的关键时期大量地听它们而形成强烈的情感依恋,而《新四季》正是我在我们初创 OpenAI 时经常听的东西。

我认为这是非常美妙的音乐,它高亢而乐观,完美适配我工作时的需求,我觉得新版本非常棒。

比尔·盖茨:这是由交响乐团演奏的吗?

山姆·奥特曼:是的,是由 Chineke!乐团演奏的。

比尔·盖茨:太棒了。

山姆·奥特曼:现在就播吗?

比尔·盖茨:是的,我们来听听。

山姆·奥特曼:这是我们要听的乐章的序曲。

比尔·盖茨:你戴耳机吗?

山姆·奥特曼:我戴。

比尔·盖茨:你的同事们会因为你听古典音乐而取笑你吗?

山姆·奥特曼:我不认为他们知道我在听什么,因为我确实戴着耳机。在寂静中工作对我来说非常困难,我可以做到,但这不是我的自然状态。

比尔·盖茨:这很有趣。我同意,带歌词的歌曲会让我觉得分心,但这更多是一种情绪类型的东西。

山姆·奥特曼:是的,而且我把它调得很轻,我也不能听响亮的音乐,不知为何这是我一直以来的习惯。

比尔·盖茨:太棒了,感谢你带来美妙的音乐。

比尔·盖茨:现在,对我来说,如果你真的借助人工智能达到了令人难以置信的能力,AGI(通用人工智能),AGI+(超级通用人工智能),

我担心的有三件事:一是坏人控制了系统,如果我们有好人拥有同样强大的系统,这有希望能最小化那个问题;

二是系统控制一切的可能性,出于某些原因,我不太担心这个问题,但我很高兴其他人关注这个问题;最让我感到困惑的是人类的目的,我对这点感到非常兴奋,我很擅长研究疟疾和根除疟疾,也很擅长召集聪明人并为此投入资源。当机器人对我说:“比尔,去打匹克球吧,我能根除疟疾。你只是个思维迟钝的人。”那时它就是一个哲学上令人困惑的事情。

我们如何组织社会?是的,我们要改善教育,但教育要做什么,如果你走向极端,我们仍然有很大的不确定性。第一次,这种情况可能在未来 20 年内发生的机会不为零。

山姆·奥特曼:从事技术工作有很多心理上的困难,但你说的这些对我来说是最困难的,因为我也从中获得了很多满足感。

比尔·盖茨:你确实带来了价值。

山姆·奥特曼:从某种意义上来说,这可能是我做的最后一件难事。

比尔·盖茨:我们的思维如此依赖于稀缺性,教师、医生和好的想法的稀缺,部分原因是,我确实在想,如果一代人在没有这种稀缺的情况下成长,他们会对如何组织社会以及要做什么这个哲学概念会产生什么看法,也许他们会想出一个解决方案。我担心我的思维如此受到稀缺性的影响,以至于我甚至很难思考这个问题。

山姆·奥特曼:这也是我告诉自己的,而且我真心相信,虽然我们在某种意义上放弃了一些东西,但我们将会拥有比我们人类更聪明的东西。如果我们能进入这个“后稀缺”世界,我们将会找到新的事情去做。它们会感觉非常不同。也许你不是在解决疟疾问题,而是在决定你喜欢哪个星系,以及你打算如何处理它。我相信我们永远不会缺少问题,不会缺少获得满足感和为彼此做事的方式,不会缺少对我们如何为其他人玩人类游戏的方式的理解,这将仍然非常重要。这肯定会有所不同,但我认为唯一的出路就是走下去。我们必须去做这件事,它必将会发生,且现在已经是一个不可阻挡的技术进程,因为其价值太大了。我非常非常有信心,我们会成功的,但感觉确实会很不一样。

比尔·盖茨:将这项技术应用于某些当前问题,比如为孩子们提供家教,帮助激发他们的动力,或发现治疗阿尔茨海默症的药物,我认为如何做是非常清楚的。无论人工智能能否帮助我们减少战争,减少分化。你会认为随着智能的提升,不分化是常识,不发动战争也是常识,但我确实认为很多人会持怀疑态度。我很愿意让人们致力于解决最困难的人类问题,比如我们是否能和睦相处。如果我们认为人工智能可以帮助人类更好地相处,我认为那将是非常积极的。

山姆·奥特曼:我相信它会在这方面给我们带来意外的惊喜。这项技术会让我们惊讶于它能做的事情有多么多。我们还得拭目以待,但我非常乐观。我同意你的看法,这将是非常大的贡献。

比尔·盖茨:就公平性而言,技术通常很昂贵,比如个人电脑或互联网连接,而降低成本需要时间。我想,运行这些人工智能系统的成本看起来很不错,每次评估的成本会降低很多吗?

山姆·奥特曼:它已经降低了很多。GPT-3 是我们推出时间最长、优化最久的模型,在它推出的三年多时间里,我们已经将成本降低了 40 倍。对于三年的时间来说,这是一个很好的开始。至于 GPT-3.5 版,我敢打赌,目前我们已经将其成本降低了近 10 倍。GPT-4 是新产品,所以我们还没有那么多时间来降低成本,但我们会继续。我认为,在我所知道的所有技术中,我们的成本下降曲线是最陡峭的,优于摩尔定律。这不仅是因为我们想出了如何让模型更高效的方法,还因为我们对研究有了更好的理解,我们可以在更小的模型中获得更多的知识和能力。我认为,我们将把智能的成本降低到接近于零的程度,这对社会来说将是一个改头换面的转变。

现在,我的世界基本模型由智能成本和能源成本组成。【比尔笑了】这是影响生活质量的两个最大因素,尤其是对穷人而言,但总体来看也是如此。如果你能同时降低这两方面的成本,你能拥有的东西就会更多,你能为人们带来的改善就会更大。我们正走在一条曲线上,至少在智能方面,我们将真正实现这一承诺。即使按照目前的价格(这也是有史以来最高的价格,而且远远超出了我们的预期),每月 20 美元,你就能获得大量的 GPT-4 访问权限,而且价值远远超过 20 美元。我们已经降得很低了。

比尔·盖茨:那竞争呢?很多人一下子同时挤进这个赛道是不是一件有趣的事情?

山姆·奥特曼:既令人讨厌,又充满动力和乐趣,【比尔笑了】我相信你也有过类似的感觉。这确实促使我们做得更快、更好,我们对自己的方法很有信心。我们有很多人,我认为他们都在往冰球所在的地方滑,而我们也在往冰球要去的地方滑,这感觉很好。

比尔·盖茨:我认为人们会对 OpenAI 的规模之小感到惊讶。你们有多少员工?

山姆·奥特曼:大约 500 人,所以我们比以前稍微大一些。

比尔·盖茨:但那很小,【笑】要是以谷歌、微软、苹果的标准来看。

山姆·奥特曼:确实很小,我们不仅要经营研究实验室,现在还要经营一家真正的企业和两款产品。

比尔·盖茨:你所有能力的扩展,包括与世界上所有的人交谈,倾听所有支持者的声音,这对你来说一定很有趣。

山姆·奥特曼:非常令人着迷。

比尔·盖茨:这是一家员工都很年轻的公司吗?

山姆·奥特曼:比平均年龄要大一些。

比尔·盖茨:好的。

山姆·奥特曼:这里不是一群 24 岁的程序员。

比尔·盖茨:的确,我的视角有些扭曲了,因为我已经 60 多岁了。我看到你,你比我年轻,但你说得对,你们有很多人四十多岁了。

山姆·奥特曼:三十多岁、四十多岁、五十多岁(的人)。

比尔·盖茨:这不像早期的苹果、微软,那时我们真的还是孩子。

山姆·奥特曼:不是的,我也反思过这个问题。我认为公司普遍变老了,我不知道该如何看待这个问题。我认为这在某种程度上对社会是个不好的迹象,但我在 YC(Y Combinator)追踪过这个问题。随着时间的推移,最优秀的创始人年龄都呈增长趋势。

比尔·盖茨:这很有意思。

山姆·奥特曼:就我们的情况而言,甚至还比平均年龄还要大一些。

比尔·盖茨:你在 YC 扮演的角色帮助这些公司学到了很多,我想这对你现在的工作也是很好的锻炼。【笑】

山姆·奥特曼:那非常有帮助。

比尔·盖茨:包括看到错误。

山姆·奥特曼:完全可以这么说。OpenAI 做了很多与 YC 建议的标准相反的事情。我们花了四年半时间才推出我们的第一个产品。公司成立之初,我们对产品没有任何概念,我们没有与用户交流。我仍然不建议大多数公司这样做,但在 YC 学习和见识过这些规则后,我觉得自己明白了何时、如何以及为什么我们可以打破这些规则,我们所做的事情真的与我见过的其他公司大相径庭。

比尔·盖茨:关键是你集结的人才团队,让他们专注于大问题,而不是某些短期的收益问题。

山姆·奥特曼:我认为硅谷的投资者不会在我们需要的水平上支持我们,因为我们必须在研究上花费如此多的资金才能推出产品。我们只是说:“最终模型会足够好,我们知道它会对人们有价值。”但我们非常感激与微软的合作,因为这种超前投资并不是风险投资行业擅长的。

比尔·盖茨:确实不是,而且资本成本相当可观,几乎达到了风险投资所能承受的极限。

山姆·奥特曼:可能已经超过了。

比尔·盖茨:确实可能。我非常赞同萨蒂亚对于“如何将这个杰出的人工智能组织与大型软件公司结合起来?”的思考,甚至可以说一加一远远大于二。

山姆·奥特曼:是的,这很棒。你真说到点上了,这也是我从 YC 学到的。我们可以说要找世界上最好的人来做这件事。我们要确保我们的目标和 AGI 的使命是一致的。但除此之外,我们要让人们做自己的事情。我们会意识到这将经历一些曲折,需要一段时间。

我们有一个大致正确的理论,但一路上的很多策略都被证明是大错特错的,我们只是试图遵循科学。

比尔·盖茨:我记得我去看了演示,也确实想过这个项目的收入途径是什么?是什么样的?在这个狂热的时代,你仍然手握一个令人难以置信的团队。

山姆·奥特曼:是的,优秀的人都希望与优秀的同事共事。

比尔·盖茨:那是一种吸引力。

山姆·奥特曼:那里有一个很深的引力中心。此外,这听起来很陈词滥调,每家公司都这么说,但人们感受到了深深地使命感,每个人都想参与 AGI 的创建。

比尔·盖茨:那一定很激动人心。当你再次用演示震撼我时,我可以感受到那股能量。我看到了新的人,新的想法,而你们仍以非常不可思议的速度前进着。

山姆·奥特曼:你最常给出的建议是什么?

比尔·盖茨:才能可以分很多种,在我职业生涯的早期,我认为只有纯粹的智商,比如工程智商,当然,你可以将其应用于金融和销售。但这种想法被证明是如此错误,建立一个拥有正确技能组合的团队是如此重要。针对他们的问题,引导他们思考应该如何建立一个拥有所有不同技能的团队,这可能是我认为最有帮助的建议之一。是的,告诉孩子们,数学、科学很酷,如果你喜欢的话,但真正让我惊讶的是才能的混合。

那你呢?你给出的建议是什么?

山姆·奥特曼:关于大多数人对风险的误判。他们害怕离开舒适的工作,去做他们真正想做的事情。实际上,如果他们不这样做,他们回顾自己的一生时就会想,“天啊,我从来没有去创办我想创办的公司,或者我从未尝试成为一名人工智能研究员。”我认为实际上这样风险更大。

与此相关的是,明确自己想要做什么,并向别人提出自己的要求,会有意想不到的收获。很多人受困于把时间花在自己不想做的事情上,而我最常给的建议可能就是想办法解决这个问题。

比尔·盖茨:如果你能让人们从事一份让他们感到有目标的工作,那会更有趣。有时,他们就是这样产生巨大影响的。

山姆·奥特曼:当然。

比尔·盖茨:感谢你的到来,这是一次精彩的对话。在未来的日子里,我相信我们还会有更多的交流,因为我们正努力以最好的方式塑造人工智能。

山姆·奥特曼:非常感谢你的邀请,我真的很享受与你对话。

比尔·盖茨:《为自己解惑》是盖茨笔记的一个节目。特别感谢我今天的嘉宾山姆·奥特曼

比尔·盖茨:告诉我你的第一台电脑是什么?

山姆·奥特曼:是 Mac LC2。

比尔·盖茨:不错的选择。

山姆·奥特曼:是个好东西,我还留着它,它到现在还能用。

你可能感兴趣的:(人工智能)