gpt-3

clip预训练模型综述

Learningtransferablevisualmodelsfromnaturallanguagesupervisionpaper：https://arxiv.org/pdf/2103.00020代码：https://github.com/OpenAI/CLIP2021开年，顶着地表最强语言模型GPT
nocol.·2022-10-27 17:29

必须要GPT-3吗？不，BERT的MLM模型也能小样本学习

©PaperWeekly原创·作者｜苏剑林单位｜追一科技研究方向｜NLP、神经网络大家都知道现在GPT-3风头正盛，然而，到处都是GPT-3、GPT-3地推，读者是否记得GPT-3论文的名字呢？
PaperWeekly·2022-10-22 22:30

深挖Cerebras：世界上最大AI芯片的架构设计

作者｜SeanLie翻译｜胡燕君、程浩源近年来，神经网络模型规模呈指数级增长，从2018年拥有超1亿参数的Bert到2020年拥有1750亿个参数GPT-3，短短两年模型的参数量增加了3个数量级，而且这种增长还看不到尽头
OneFlow深度学习框架·2022-10-13 15:28

CUDA入门教程；Transformer太火不是好事？；探求GPU极限性能的利器｜AI系统前沿动态...

1.PyTorch创始人：Transformer的流行可能是一把双刃剑要说Transformer有多厉害，比如OpenAI重磅推出的GPT-3，就是基于Transformer实现的。
OneFlow深度学习框架·2022-10-13 15:28

深挖Cerebras：世界上最大AI芯片的架构设计

作者｜SeanLie翻译｜胡燕君、程浩源近年来，神经网络模型规模呈指数级增长，从2018年拥有超1亿参数的Bert到2020年拥有1750亿个参数GPT-3，短短两年模型的参数量增加了3个数量级，而且这种增长还看不到尽头
·2022-09-30 12:10

AI开始卷高考了，英语已被卷到134分？？

近期，来自CMU两位学者提出的重构预训练模型（reStructuredPre-training,RST）在只有GPT-3十六分之一参数量的情况下，在2022年高考全国英语卷上豪取134分，碾压GPT-3
夕小瑶·2022-09-29 07:38

【NLP】第7章 使用 GPT-3 引擎的Suprahuman Transformers的崛起

大家好，我是Sonhhxg_柒，希望你看完之后，能对你有所帮助，不足请指正！共同学习交流个人主页－Sonhhxg_柒的博客_CSDN博客欢迎各位→点赞+收藏⭐️+留言系列专栏-机器学习【ML】自然语言处理【NLP】深度学习【DL】foreword✔说明⇢本人讲解主要包括Python、机器学习（ML）、深度学习（DL）、自然语言处理（NLP）等内容。如果你对这个系列感兴趣的话，可以关注订阅哟2020
Sonhhxg_柒·2022-09-26 07:52

【NLP】第9章 匹配分词器和数据集

我们探索了原始的Transformer，微调了类似BERT的模型，训练了RoBERTa模型，探索了GPT-3模型，训练了GPT-2模型，实现了T5模型等等。我们还完成了主要的基准测试任务和数据集。
Sonhhxg_柒·2022-09-26 07:52

加速100倍，性能媲美SOTA，浙大提出无数据知识蒸馏新方法FastDFKD

随着自然语言处理模型等进入了预训练模型的时代，模型的规模也在极速增长，例如GPT-3参数量达到1750亿。如何在
机器学习社区·2022-09-25 01:08

｜GPT-3的生成能力

想要什么变一个出来？那先变一段“无界社区”的介绍？Input=“无界社区”Output:无界社区，也就是这个山头。这里的生存地理位置和人口不同。一共有九个部落。其中大部分是人数超过三十多米的，而大部份则是普通农民。无界社区，也正是因为我的一生，才导致了这样的变动。“你不能让他知道那个人到底有何事？”无界社区，在这个时候，我们的人已经是不少了。“这些年来我总想着要做个什么？我们可以从你那种能力的状态
shadowcz007·2022-09-13 10:49

经验分享：如何在自己的创业中，用上GPT-3等AI大模型

本文约3900字，建议阅读10分钟本文介绍了在创业中使用GPT-3的AI模型。随着机器学习技术的逐渐成熟并从学术走向工业，支持大规模机器学习所需的方法和基础设备也在不断发展。
数据派THU·2022-09-13 10:19

GPT-3和AlphaFold 2震撼2020，2021年AI最大看点在哪儿？

尤其是GPT-3，它展示了人工智能即将以全新的方式深入我们的日常生活。这些进步赋予了未来很多可能，预测未来变得并不容易，但伴随着技术应用的成熟，另一些领域的突破也是可预见的。
人工智能学家·2022-09-13 10:19

GPT-3组合DALL·E，60秒内搞定游戏设定和原型动画！网友看后：这游戏想玩

没错，这就是GPT-3和DALL·E强强联合之后的效果。最初给GPT-3的输入是：写一篇关于一群浣熊去抢劫的电脑游戏描述。然后，GPT-3“设计”了一款名为《浣熊打劫》的游戏。
QbitAl·2022-09-13 10:48

买卖 DALL·E、GPT-3 提示词赚钱，结果还是要被 AI “抢饭碗”？

整理|郑丽媛出品|CSDN（ID：CSDNnews）近来，一位借用AI绘画工具拿下美术大赛第一的人引起了AI圈和艺术圈内的广泛讨论，DALL·E和Midjourney等AI绘画工具也一度成为热议焦点。在多数人将重点放在“AI生成的作品究竟算不算艺术”时，部分人却认为，能用准确的文字提示让AI生成优质图像，也不失为一种天赋——但如果说，这个提示可以买卖，甚至也可以由AI生成呢？AI提示买卖平台相信许
CSDN资讯·2022-09-13 10:18

GPT-3：是富人的游戏，还是未来的电力？

GPT-3：是富人的游戏，还是未来的电力？人工智能将是未来核心生产力，这一观点在科技届几乎无人会反对。
大囚长·2022-09-13 10:18

中文稀疏GPT大模型落地 — 通往低成本&高性能多任务通用自然语言理解的关键里程碑

以OpenAI推出的1750亿的GPT-3为例，在1024张A100GPU上预估需要34天，一万亿参数的GPT-3在3072张A100显卡上也至少
·2022-09-05 12:22

乐府 ——预训练语言模型在诗词对联生成中的应用

公众号系统之神与我同在背景简介中文传统诗歌对联生成：在格律、平仄、押韵方面具有严格的要求常规的诗歌对联生成模型加入规则对格式进行限制GPTGPT（包括GPT-2、GPT-3）是由OpenAI推出的大规模预训练语言模型
Necther·2022-09-05 07:39

GPT-3模型为何难以复现？这也许是分布式AI框架的最优设计

作者|成诚头图|下载于视觉中国2020年，最轰动的AI新闻莫过于OpenAI发布的GPT-3了。它的1750亿参数量及其在众多NLP任务上超过人类的出众表现让大家坚信：大模型才是未来。
AI科技大本营·2022-09-01 07:01

GPT-3难以复现，为什么说PyTorch走上了一条“大弯路”？

来源：OneFlow投稿责编：欧阳姝黎2020年，最轰动的AI新闻莫过于OpenAI发布的GPT-3了。它的1750亿参数量及其在众多NLP任务上超过人类的出众表现让人们开始坚信：大模型才是未来。
人工智能学家·2022-09-01 07:00

“自然”语言编程（NLC）的到来比你想象的要快

在其出现之后，使用GPT-3作诗、作曲甚至作画的应用纷至沓来。AI编程其实也并非是新鲜事了，之前的AI自动辅助编程工具Copilot也是一个。实际上，Codex更像是Copilot的一个全面升级。
禅与计算机程序设计艺术·2022-08-30 16:13

终于来了！这份NLP算法工程师学习路线yyds！

大家都知道NLP近几年非常火，而且相关技术发展也特别快，像BERT、GPT-3、图神经网络、知识图谱等技术被大量应用于项目实践中，这也推动了NLP在产业中的持续落地，以及行业对相关人才的需求。
zenRRan·2022-08-14 14:59

“AI 不是‘人’，不能成为‘发明家’！”

整理|郑丽媛出品|CSDN（ID：CSDNnews）上个月，一位瑞典AI研究人员帮GPT-3争取论文“一作”的事件还没有下文，这个月美国联邦巡回法院已经确认：AI系统不能为其发明申请专利，因为它们不是“
CSDN资讯·2022-08-12 09:50

Making Pre-trained Language Models Better Few-Shot Learners

AbstractIntroductionMethodslabelwordsPrompttemplateDemonstrationsExperimentsAbstract使用自然语言prompt和taskdemonstrations作为额外信息插入到输入文本中很好的利用了GPT
hithithithithit·2022-08-11 07:22

大模型训练难于上青天？效率超群、易用的“李白”模型库来了

自2018年BERT诞生，到GPT-3、ViT等拥有数以亿计的参数规模的模型不断涌现，AI模型参数量的爆发式增长已不足为奇，让炼丹师无暇顾及甚至感到麻木。
OneFlow深度学习框架·2022-07-22 14:36

Codex 会取代程序员么？

埃隆马斯克的人工智能公司叫OpenAI，近期释放了Codex，Codex是一种生成软件源代码的深度学习模型，在GPT-3的基础上构建而成。什么是GPT-3[1]？
somenzz·2022-07-20 15:42

轮到你了，AI下一步是取代程序员？

然而，在这个同样被魔幻化的2020年，一项再次震惊业内的AI新技术出现了，它就是—GPT-3，简单理解就是文本生成器，旨在从起始输入开始生成单词，代码或其他数据的序列。
网易智能·2022-07-20 14:24

谷歌、斯坦福联合发文：我们为什么一定要用大模型？

例如，GPT-3[1]可以写情书、写剧本和解决复杂的数据数学推理问题，PaLM[2]可以解释笑话。上面的例子只是大模型能力的冰山一角，现在利用大模型能力已经开发了许多应用，在OpenAI的网站[3
夕小瑶·2022-07-18 10:40

图解BERT、ELMo（NLP中的迁移学习）| The Illustrated BERT, ELMo, and co.

看我看我这是我翻译这位大佬的第二篇文章了，我计划是翻译四篇，（Transformer、BERT、GPT-2、GPT-3），翻译授权见最后。
LolitaAnn·2022-07-18 07:40

大模型训练难于上青天？效率超群、易用的“李白”模型库来了

自2018年BERT诞生，到GPT-3、ViT等拥有数以亿计的参数规模的模型不断涌现，AI模型参数量的爆发式增长已不足为奇，让炼丹师无暇顾及甚至感到麻木。
·2022-07-15 16:03

2 小时写了篇论文，凭什么 GPT-3 不配拥有姓名？

整理|郑丽媛出品|CSDN（ID：CSDNnews）自OpenAI推出具有1750亿参数的AI文本生成模型GPT-3后，这两年它便开始在各种不同的领域内“大显身手”：写小说、编剧本、敲代码、与人聊天、设计网页
CSDN资讯·2022-07-13 09:15

微软获GPT-3独家授权，OpenAI创始人马斯克：与初衷相悖

就在微软官宣GPT-3后一天，马斯克在社交媒体上吐槽此事：“这看起来像是与‘开放’相悖。OpenAI本质上已经被微软‘控制’了。”这件事情的起因，还得从微软与OpenAI的关系说起。
喜欢打酱油的老鸟·2022-06-28 12:17

文本一键生成图像？OpenAI新模型打破自然语言与视觉次元壁

今天，其博客宣布，推出了两个结合计算机视觉和NLP结合的多模态模型：DALL-E和CLIP，它们可以通过文本，直接生成对应图像，堪称图像版「GPT-3」。
派派AI学院·2022-06-24 08:36

代码自动生成：Github Copilot

2021年，Github和OpenAI合作，基于GPT-3模型推出了可以代码自动编码的插件：githubcopilot。
洛克-李·2022-06-22 17:51

马斯克炮轰微软：OpenAI不是你的工具人

就在微软官宣GPT-3后一天，马斯克在社交媒体上吐槽此事：“这看起来像是与‘开放’相悖。OpenAI本质上已经被微软‘控制’了。”这件事情的起因，还得从微软与OpenAI的关系说起。
QbitAl·2022-06-08 09:14

最优的纯文本模型？GPT-4蓄势待发

作者｜AlbertoRomero来源｜机器之心2020年5月，在GPT-2发布一年后，GPT-3正式发布，而GPT-2也是在原始GPT论文发表一年后发布的。
OneFlow深度学习框架·2022-06-02 14:08

吴恩达：这些 AI 大事件让我无法忘怀...

贝爽编辑|青暮转自|AI科技评论日前，吴恩达在圣诞节之际回顾了2020年AI的一些重大事件，包括AI应对新冠疫情、数据集存在种族偏见、对抗虚假信息算法、AlphaFold预测蛋白质三维结构、1750亿参数的GPT
code小生_·2022-06-01 16:55

中国最大AI预训练模型发布：113亿参数！北京智源研究院、阿里、清华等联手打造

金磊发自凹非寺量子位报道|公众号QbitAI不久前，OpenAI的GPT-3成功跨界，摇身一变成为“设计师”，名曰DALL·E。
喜欢打酱油的老鸟·2022-05-31 14:41

对标GPT-3、AlphaFold，智源研究院发布超大规模智能模型系统“悟道1.0”

出品|AI科技大本营（ID:rgznai100）3月20日，北京智源人工智能研究院发布我国首个超大规模智能模型系统“悟道1.0”。“悟道1.0”由智源研究院学术副院长、清华大学唐杰教授领衔，带领来自北京大学、清华大学、中国人民大学、中国科学院等单位的100余位AI科学家团队联合攻关，取得了多项国际领先的AI技术突破，形成超大规模智能模型训练技术体系，训练出包括中文、多模态、认知、蛋白质预测在内的系
AI科技大本营·2022-05-31 14:11

最优的纯文本模型？GPT-4蓄势待发

作者｜AlbertoRomero来源｜机器之心2020年5月，在GPT-2发布一年后，GPT-3正式发布，而GPT-2也是在原始GPT论文发表一年后发布的。
·2022-05-20 11:24

最新最全GPT-3模型网络结构详细解析

最近，GPT3很火，现在有很多讲GPT-3的文章，比如讲解它可以做什么，思考它的带来的影响，可视化其工作方式。看了这些文章并不足以详细了解GPT-3模型，仍然需要认真研究相关论文和博客。
喜欢打酱油的老鸟·2022-05-17 09:41

超越GPT-3，DeepMind推出新宠Gato，却被质疑“换汤不换药”？

整理|彭慧中责编|屠敏出品|CSDN（ID：CSDNnews）受大规模语言建模的启发，Deepmind应用类似的方法构建了一个单一的「通才」智能体Gato，它具有多模态、多任务、多具身（embodiment）特点，能够执行600多个不同的任务。而这款人工智能，可以说是世界上迄今为止最令人印象深刻的一体式机器学习套件。DeepMind在官方博客中解释道：“Gato是作为一个多模式、多任务、多组件的通
CSDN资讯·2022-05-17 09:11

GPT-3是什么？OpenAI GPT-3大白话指南：对未来的影响 -Fahri Karakas

如今，每个人都在谈论GPT-3，这是一种由旧金山的OpenAI开发的AI工具。TheVerge刚刚将GPT-3称为“一项可能最终定义未来十年的发明”。
ac.char·2022-05-17 09:11

GPT、GPT-2、GPT-3论文精读笔记

GPT：使用通用的预训练提升自然语言的理解能力使用没有标号的文本来预训练模型，最后在子任务上微调模型。GPT使用的目标函数1是通过前k个词来预测第k+1个词，任务难度要比BERT的完形填空（根据上下文信息来预测中间被mask的词）要难很多，当然如果能够训练起来，能力也要强大很多。由于是通过前k个词来预测，因此GPT使用的是transformer的解码器（只在当前及之前的特征上做自注意力，之后的都被
irony_202·2022-05-17 09:40

独家 | OpenAI的DALL·E模型使人类更接近通用人工智能（附链接）

作者：OrhanG.Yalçın翻译：欧阳锦校对：詹好本文约2300字，建议阅读6分钟本文通过对OpenAI新发表的关于基于GPT-3的DALL·E新模型的概括介绍，让读者对这个表现惊人的模型有了初步的了解
数据派THU·2022-05-16 14:52

带你进⼊ OpenAI 的世界

2021年11⽉的MicrosoftIgnite，微软带来了全新的AzureOpenAIService，通过新的Azure认知服务能够访问OpenAI强⼤的GPT-3模型。
·2022-05-09 10:49

【前沿】陈丹琦团队最新论文：受GPT-3启发，用小样本学习给语言模型做微调，性能最高提升30%...

鱼羊发自凹非寺量子位报道|公众号QbitAI2020年，GPT-3可谓火出了圈。
zenRRan·2022-05-09 10:07

广告行业中那些趣事系列20：GPT、GPT-2到GPT-3，你想要的这里都有

本文主要分享本篇主要介绍了GPT系列模型，主要包括GPT、GPT-2和GPT-3。对GPT系列模型感兴趣的小伙伴可以一起沟通交流。
数据拾光者·2022-05-09 10:36

字节跳动成立抖音集团或在香港上市；微信公众号上线“快捷私信”功能；Facebook开源挑战GPT-3的语言模型|极客头条

「极客头条」——技术人员的新闻圈！CSDN的读者朋友们早上好哇，「极客头条」来啦，快来看今天都有哪些值得我们技术人关注的重要新闻吧。整理|梦依丹出品|CSDN（ID：CSDNnews）一分钟速览新闻点！字节跳动多公司更名“抖音集团”引发上市猜测微信公众号上线“快捷私信”功能，可在文章底部给作者发消息今日头条回应腾讯起诉侵权索赔1000万：相关视频已下架，会积极应诉贾跃亭微博IP属地为北京，相关人士
极客日报·2022-05-09 10:35

训练一个1750亿参数量的模型，需要几个算法工程师？

昨天突然被刷屏了，一句话概括就是MetaAI开源了一个1750亿参数的模型，暗戳戳直指Closed-AI的GPT-3。
李rumor·2022-05-07 16:57

人工智能和自然智能能否交汇？李飞飞对话斯坦福神经生物学教授Bill Newsome

人脑只需要20瓦的功耗就可以处理运动、视觉、推理、规划、情感等复杂任务，GPT-3功耗400瓦也只能处理语言任务，这种差距
人工智能学家·2022-05-02 07:37
上一页 15 16 17 18 19 20 21 22 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他