无需任何训练,AI可用任何语言编程。
作者 | Frederik Bussler
译者 | 弯月,责编 | 晋兆雨
头图 | CSDN 下载自东方 IC
来源 | CSDN
以下为译文:
2017年的时候,曾有研究人员问:到2040年人工智能是否承担起大多数的编程工作?如今OpenAI的GPT-3已进入Beta测试阶段,它能够使用任何语言进行编程。机器主导编程领域已近在咫尺。
GPT-3经过了整个互联网数千亿个单词的训练,它能够使用CSS、JSX、Python等任何一种语言编程。
此外,GPT-3无需针对各种语言任务进行“训练”,因为它的训练数据包罗万象。只需要给出一些非常简单的指示,该网络就能专注于当前的语言任务。
GPT结合了监督学习与无监督的预训练(即将无监督训练的参数作为监督训练的起点),在语言任务方面达到了最先进的水平。与后续产品相比,GPT很小。它仅在几千本书和一台8 GPU机器上进行了训练。
GPT-2的规模扩大了许多,包含的参数是GPT的10倍,使用的训练数据也超过了10倍。尽管如此,这个数据集还是相对有限,并且它的训练专门针对的任务是:“来自Reddit且威望值至少为3的链接”。GPT-2被称为“变色龙一样”的合成文本生成器,但对于问答、总结或翻译之类的下游任务,它并不是最先进的技术。
GPT-3是AI世界最新、最强大的工具,它在一系列任务中都达到了最先进的水平。它的主要突破是不再需要针对特定任务进行微调。在规模方面,这个模型再次大幅扩展,达到了1,750亿个参数,是其前身的116倍。
虽然GPT-3完全不需要训练(这是一个零样本学习的例子),但经过一次或几次学习后,原本就已出类拔萃的性能会更加登峰造极。
目前的形式是:具备了基本知识的Beta测试人员正在使用GPT-3来生成有效的代码。从按钮到数据表,甚至可以重新创造Google主页。这些示例都是通过零样本学习完成的。
除了AI的飞速发展外,还有另外两个主要的技术趋势会让程序员倍感不安:无代码编程和AutoML。
无代码编程指的是一种可视化工具,任何人都可以通过这种可视化工具轻松地构建新产品,无论是网站、设计、数据分析还是模型都没问题。WordPress、Wix和Shopify都是无代码工具的典范,数以百万计的人利用这些工具完成了自己的开发,而不必雇用开发人员或设计师。
第二个趋势是AutoML,即自动机器学习,它大大缩短了AI投入生产的时间。
Apteo等工具结合了这些趋势,即便是没有任何编程技术的人都可以通过这些工具部署AI模型。
GPT-3将再一次掀起无代码编程和AutoML工具的热潮。许多雇主可能会用这些工具来取代昂贵的程序员。
当然,技术水平最差的程序员将首当其冲,而专家的工作则会持续得更长一些,任何领域都一样。
如果想将GPT-3应用到特定的语言任务,你只需提供一个希望实现的示例。因此,你不仅可以指导GPT-3编写代码,而且还可以指导它编写诗歌、音乐、社交媒体评论或任何其他文本。
例如,如果你想编写一篇新闻文章,则只需输入标题或副标题即可。
就像人类一样,只需一个例子就可以教会GPT-3一个新单词。例如,提供以下示例:
“Burringo”是一款加速非常快的汽车。下面请用Burringo造句:____________
GPT-3的输出为:
我们家的车库里有一辆Burringo,父亲每天开着它去上班。
这个结果令人震惊。人工智能的发展势不可挡,任何针对当前性能的批评都将烟消云散。
GPT可以编写代码,可以编写任何东西,而且它还可以生成图像。
这怎么可能?
同一个模型体系结构不仅可以用于处理文本,还可在像素序上进行训练,从而生成新的图像。实际上,GPT的表现出人意料,甚至可与顶级的CNN媲美。
我之所以提及这一点,是因为这表明了GPT(及其后续产品)不仅具有取代程序员的潜力,而且鉴于其通用性,还可以取代所有行业。
GPT-3令人惊叹的性能已让许多人相信,超级人工智能近在咫尺,人工智能编写程序的日子比我们想像得还要近。这款模型具有丰富的创造力,能够创建有见地、深刻乃至美丽的内容。
对此,你怎么看?
原文:https://towardsdatascience.com/will-gpt-3-kill-coding-630e4518c04d
推荐阅读
Python, C++和Java代码互翻,Facebook开发首个自监督神经编译器
残差网络的前世今生与原理 | 赠书
适合 Python 入门的 8 款强大工具!
MongoDB 计划从“Data Sprawl”中逃脱
离岸密码的未来:概述