E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Illustrated
Transformer详解
起因参考链接:https://jalammar.github.io/
illustrated
-transformer/pytorch实现教程:http://nlp.seas.harvard.edu/2018
昨日啊萌
·
2022-09-05 21:49
学习笔记
transformer
深度学习
自然语言处理
图解连续学习中的蓄水池抽样算法(The
Illustrated
Reservoir sampling)
图解连续学习中的蓄水池抽样算法TheIllustratedReservoirsampling前言什么是ReservoirSampling?蓄水池抽样算法(Reservoirsampling)具体实现:AlgorithmR:证明AlgorithmR每个样本被取到概率相同:Distributed/ParallelReservoirSampling(并行蓄水池抽样算法)[^3]相关代码(后面用到时会补充
等待戈多。
·
2022-09-03 18:10
连续学习
深度学习
我的教程
算法
学习
python
图解 Transformer
本文翻译自:http://jalammar.github.io/
illustrated
-transformer/。
张贤同学
·
2022-08-29 07:40
NLP
自然语言处理
pytorch
神经网络
深度学习
图解transformer | The
Illustrated
Transformer
文章目录写在最前边正文从高层面看图解张量现在我们来看一下编码器自注意力细说自注意力机制用矩阵计算self-attention多头注意力使用位置编码表示序列的位置残差解码器最后的线性层和softmax层训练过程概述损失函数更多内容JayAlammar'sBlog写在最前边看transformer相关文章的时候发现很多人用了相同的图。直到我搜到作者的原文……于是厚着脸皮照找作者表示我要翻译他的文章。(
LolitaAnn
·
2022-07-18 07:28
人工智能
人工智能
机器学习
深度学习
Trans
attention
The
Illustrated
BERT, ELMo, and co中文翻译
原文链接:TheIllustratedBERT,ELMo,andco.(HowNLPCrackedTransferLearning)作者:JayAlammarBERT论文地址:BERT:Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding前言2018年可谓是自然语言处理(NLP)的元年,在我们如何以最能捕捉潜在语义关
麻木的程序猿
·
2022-07-18 07:57
NLP
nlp
神经网络
图解BERT、ELMo(NLP中的迁移学习)| The
Illustrated
BERT, ELMo, and co.
看我看我这是我翻译这位大佬的第二篇文章了,我计划是翻译四篇,(Transformer、BERT、GPT-2、GPT-3),翻译授权见最后。之前的工作:图解transformer|TheIllustratedTransformer图解GPT-2|TheIllustratedGPT-2(VisualizingTransformerLanguageModels)这部分内容为我主观注释,和原作无关。文章目
LolitaAnn
·
2022-07-18 07:40
人工智能
自然语言处理
bert
深度学习
attention is all you need --transformer中的细节
,由于讲解transformer结构的视频、博客很多,推荐阅读以下内容:李宏毅2021ML课程self-attention&&transformerhttp://jalammar.github.io/
illustrated
-transformer
GY-赵
·
2022-05-13 17:28
机器学习
transformer
深度学习
自然语言处理
Attention注意力机制
://blog.csdn.net/m0_37565948/article/details/85111700来源:csnd第二篇参考的英文原文地址:https://jalammar.github.io/
illustrated
-tra
雾缭钟
·
2022-02-14 12:29
注意力机制
teansform
注意力机制
详细
teansform
Attention
Reading list_The Elements of Style (
illustrated
):Section 1
艺术的概念不仅在绘画,音乐,运动等领域得到发扬,在文学尤其是写作的领域也有着充分的体现。我以为一篇好的文章的具体表现为:在逻辑清晰,安排合理的框架中使用合理、优美的语句和字词雕砌,最大化地使作者的情感和思维被读者理解并产生共鸣。本书在英语写作和文学中具有较高的认可度,其最初的版本为1919年ProfWilliamStrunkJR所著,后来在其学生E.B.White1979年的版本中编辑了部分内容;
培风歌余声
·
2022-02-09 16:01
Unity风格化场景之:The
Illustrated
Nature (一)
Unity风格化场景之:TheIllustratedNature(一)资源地址:TheIllustratedNatureUnity编辑器下截图:PineForest.pngForest2.pngForest3.pngTheIllustratedNature是非常风格化的一个场景,并且作者提供了轻量管线的版本,我十分喜欢。这个场景主要吸引我的是植物部分。而草是非常有代表性的植物,下面我们来看看如此风
恶毒的狗
·
2021-04-26 10:24
图解GPT-2(完整版)!
审稿人:Jepson,Datawhale成员,毕业于中国科学院,目前在腾讯从事推荐算法工作结构总览前言这篇文章翻译自http://jalammar.github.io/
illustrated
-gpt2/
zenRRan
·
2020-11-10 22:28
python
机器学习
人工智能
深度学习
编程语言
中国部分淡水生有壳软体动物化石图鉴(
illustrated
handbook of some chinese shell species fossils that lived in freshw...
由于我国对淡水和陆生软体动物类化石(无亚化石)的涉及较少,故笔者用三个多月的时间阅读此类书籍,在互联网上查阅大量资料,并将其编辑成册,希望与有相同爱好的朋友们共享,大家可以相互学习,共同丰富此类化石相关知识。这是笔者第一次尝试独立编写知识集册,如有不甚准确之处希望大家多多指教。本册很多资料来源于“螺蛳皇”,《中国古生物常见化石》和各种其它的网络资源,在此一并感谢。2018年8月25日大部分淡水贝类
贝壳小行家
·
2020-10-09 17:32
Reading list_The Elements of Style (
illustrated
):Section 2
本书第2部分读书笔记III.AFewMattersofFormColloquialisms口语如果使用口语化的句子或者俚语,不要使用引用的格式。Exclamations感叹(词,句)不要在简单陈述句上就使用感叹号。Headings如果文章需要提交和发表的话,需要在文章标题之上留有空余;留有适当空余以便他人记录修改。Hyphen连词号通常在两个(或以上)的词语组成的复合词中需要连词号;但是如果是一个
培风歌余声
·
2020-09-28 12:34
TCP/IP
Illustrated
学习笔记(1)
这是我写得第一篇博客,是一篇读书笔记。前段时间,从网上买了W.Richard.Stevens的两本书《APUE》与《TCP/IP详解卷1:协议》,前一本粗略的翻了一遍,算是对Linux系统有了直观上的了解,比如说文件操作、进程、线程等知识,准备这几天开始把《APUE》认真地看一遍,每天消化一点内容。而后一本书还在看,已经看到11章UDP的前半部分了,这里我把前10章的内容做一个总结,当做是知识的再
lunaticweiiii
·
2020-09-15 00:12
TCP/IP
笔记
读书笔记
TCPIP
【简单理解】Transformer
Transformer详解推荐这篇文章:https://jalammar.github.io/
illustrated
-trans
雾行
·
2020-09-10 20:30
自然语言处理
自然语言处理
深度学习
机器学习
神经网络
机器翻译
GPT-2 详解
和BERT的Transformer-encoder相比区别是有AttentionMask,GPT准确的讲内部是Decoder-OnlyBlock,http://jalammar.github.io/
illustrated
-gpt2
guotong1988
·
2020-08-25 00:56
【笔记】tcp/ip
illustrated
【7 ping】
一、参考TCP/IP详解卷1:协议(英文版)TCP/IP详解卷1:协议二、名词解释RR,recordroute,记录路由三、内容1.概要ping原本定义为声纳定位物体,ping程序是MikeMuuss编写,用于测试某个主机是否可以到达ping程序发送一个ICMP回显请求报文到指定主机,并等待返回ICMP回显应答一般,如果不能Ping到某台主机,就不能Telnet,FTP到那台主机,如果不能Teln
一曲广陵散
·
2020-08-24 15:08
ping
【笔记】tcp/ip
illustrated
【IP】
一、参考TCP/IP详解卷1:协议(英文版)TCP/IP详解卷1:协议理解字节序IP数据报首部校验和算法二、名词解释TOS,type-of-service服务类型SNMP,simplenetworkmanagementprotocol简单网络管理协议NNTP,networknewstransferprotocol网络新闻传输协议NFS,networkfilesystem网络文件系统TTL,time
一曲广陵散
·
2020-08-24 15:22
ip
networking
【笔记】tcp/ip
illustrated
<2 link layer>
一、参考TCP/IP详解卷1:协议(英文版)TCP/IP详解卷1:协议二、名词解释MTU:maximumtransmissionunit,最大传输单元IEEE:instituteofElectricalandElectronicsEngineers电气与电子工程师学会LLC:logicallinkcontrol逻辑链路控制SNAP:sub-networkaccessprotocol子网接入协议DS
一曲广陵散
·
2020-08-24 15:22
tcp-ip
network
【笔记】tcp/ip
illustrated
<1 introduction>
一、参考TCP/IP详解卷1:协议(英文版)TCP/IP详解卷1:协议二、名词解释WAN:wideareanetwork广域网LAN:localareanetwork局域网IP:internetprotocol网际协议ICMP:internetcontrolmessageprotocol互联网控制报文协议IGMP:internetgroupmanagementprotocol互联网组管理协议tcp
一曲广陵散
·
2020-08-24 15:20
tcp
network
【笔记】tcp/ip
illustrated
【11 UDP】
一、参考TCP/IP详解卷1:协议(英文版)TCP/IP详解卷1:协议二、名词解释三、正文3.1引言3.2UDP首部3.3UDP校验和3.4实例3.5IP分片3.6ICMP不可达差错3.7用Traceroute确定路径MTU3.8采用UDP路径MTU发现3.9UDP和ARP之间的交互作用3.10最大UDP数据报长度3.11ICMP源站抑制差错
一曲广陵散
·
2020-08-24 15:42
networking
network
udp
【笔记】tcp/ip
illustrated
<5 RARP>
一、参考二、名词解释TFTP:trivialfiletransferprotocol,普通文件传输协议三、内容1.概要操作系统通常在启动时候,从硬盘中读取配置文件,获取IP地址,但是如果主机没有硬盘,则需要通过其他方式获取IP地址网络中的每个系统拥有唯一标识的硬件地址,通常硬件地址由制造商分配RARP原理:读取网卡中唯一标识的硬件地址,发送一个RARP请求,等待其他主机响应,响应中包含该主机IP地
一曲广陵散
·
2020-08-24 15:43
networking
Attention is all your need
NIPS2017的paper,但是文中介绍比较简单这里有详细解释:http://jalammar.github.io/
illustrated
-transformer/
依海之燕
·
2020-08-24 04:47
菜鸟从零开始学习Deep
learning
self-attention原理详解
该博客讲解的极其清晰,强烈推荐https://jalammar.github.io/
illustrated
-transformer/以下内容源于此博客(转载翻译分享)1、让我们首先将模型看作一个黑盒子。
jinjiajia95
·
2020-08-24 04:46
NLP
【笔记】tcp/ip
illustrated
<4 ARP>
一、参考二、名词解释ARP:addressresolutionprotocol地址解析协议RARP:reverseaddressresolutionprotocol反向地址解析协议三、内容1.概要IP地址仅仅在TCP/IP协议栈中被使用,如果一个数据链路层是以太网或者令牌环,则它们有自己的寻址结构(48位)网络中可能存在多种网络层协议同时运行当以太网数据帧从某个主机发送到局域网中的另一台主机,48
一曲广陵散
·
2020-08-22 12:34
arp
network
[blog] The
Illustrated
Transformer 2
part1:https://blog.csdn.net/zongza/article/details/88852461原文:https://jalammar.github.io/
illustrated
-transformer
ASR_THU
·
2020-08-16 10:07
论文笔记
[blog] The
Illustrated
Transformer 1
原文:https://jalammar.github.io/
illustrated
-transformer/part2:https://blog.csdn.net/zongza/article/details
ASR_THU
·
2020-08-16 10:07
论文笔记
The
Illustrated
Transformer【译】
前言翻译一篇非常赞的解释Transformer的文章,原文链接。在之前的文章中,Attention成了深度学习模型中无处不在的方法,它是种帮助提升NMT(NeuralMachineTranslation)的翻译效果的思想。在本篇博客中,我们解析下Transformer,该模型扩展Attention来加速训练,并且在特定任务上transformer表现比GoogleNMT模型还要好。然而,其最大的好
于建民
·
2020-08-16 10:21
技术博客
The
Illustrated
Transformer【译】
前言翻译一篇非常赞的解释Transformer的文章,原文链接。在之前的文章中,Attention成了深度学习模型中无处不在的方法,它是种帮助提升NMT(NeuralMachineTranslation)的翻译效果的思想。在本篇博客中,我们解析下Transformer,该模型扩展Attention来加速训练,并且在特定任务上transformer表现比GoogleNMT模型还要好。然而,其最大的好
于建民
·
2020-08-16 10:17
技术博客
The
Illustrated
Transformer 翻译
最近研究NLP,同事推荐了这篇文章,无奈英语水平有限,连续看三行英文就不知所云了。。。无奈怒翻了这篇文章,一边翻译一边研究,要学的东西还很多啊。TheIllustratedTransformerInthepreviouspost,welookedatAttention–aubiquitousmethodinmoderndeeplearningmodels.Attentionisaconceptth
xinming31
·
2020-08-16 10:17
NLP
图文并茂解释Transformer--The
Illustrated
Transformer翻译精简
原文链接https://jalammar.github.io/
illustrated
-transformer/所需知识储备:RNN,Seq2Seq序列模型,Residual残差计算...自从AttentionisAllyouneed
顶峰猛跑的H
·
2020-08-16 08:32
学习Transformer(The
Illustrated
Transformer)
复制链接中文版在上一篇文章中(previouspost),我们研究了注意力机制-一种在现代深度学习模型中无处不在的(ubiquitous)方法。注意力是一个有助于提高神经机器翻译(neuralmachinetranslation)应用程序性能的概念。在这篇文章中(Inthispost),我们将介绍TheTransformer–一个使用注意力来提高(boost)这些模型训练速度的模型。TheTran
BruceCheen
·
2020-08-16 04:41
NLP
【转】图解Transformer,一文读懂self-attention
https://jalammar.github.io/
illustrated
-transformer/https://blog.csdn.net/qq_41664845/article/details/
zhidao_wenge
·
2020-08-16 04:08
机器学习
Network Security Hacks: Tips & Tools for Protecting Your Privacy [
ILLUSTRATED
]
版权声明:原创作品,允许转载,转载时请务必以超链接形式标明文章原始出版、作者信息和本声明。否则将追究法律责任。http://blog.csdn.net/topmvp-topmvpInthefast-movingworldofcomputers,thingsarealwayschanging.Sincethefirsteditionofthisstrong-sellingbookappearedtw
topmvp
·
2020-08-10 21:07
Network
详细说说Transformer (超详细图解,一图胜千言)
本文解析来源:https://blog.csdn.net/longxinchen_ml/article/details/86533005原英文链接:https://jalammar.github.io/
illustrated
-transformer
喜欢打酱油的老鸟
·
2020-08-10 08:23
人工智能
完全图解GPT-2:看完这篇就够了(一)
其中,GPT-2由于其稳定、优异的性能吸引了业界的关注https://zhuanlan.zhihu.com/p/79714797https://jalammar.github.io/
illustrated
-gpt2
维尼弹着肖邦的夜曲
·
2020-08-04 08:51
GPT
C++11 bind函数实现原理图
本文内容来自http://blog.think-async.com/2010/04/bind-
illustrated
.html,基本上是对该篇博文的翻译.bind函数的返回值是一个函数对象/仿函数,统一的一致性语法
zhouguoqionghai
·
2020-07-30 18:02
C++
LEARNING
DIARY
Unity风格化场景之:The
Illustrated
Nature (三)
Unity风格化场景之:TheIllustratedNature(三)资源地址:TheIllustratedNature前文介绍了风格化场景TheIllustratedNature的后处理做法,但是还差最重要的一步:ColorGrading。让我们对比一下ColorGrading关闭和打开后,最终画面的差异:除了ColorGrading,全部打开.png效果全开.png乔碧萝殿下现身。线性空间+H
恶毒的狗
·
2020-07-29 22:32
(转)
Illustrated
: Efficient Neural Architecture Search ---Guide on macro and micro search strategies i.
Illustrated
:EfficientNeuralArchitectureSearch---GuideonmacroandmicrosearchstrategiesinENAS2019-03-2709
a1424262219
·
2020-07-27 18:51
深度聚类的可视化解释
许多自监督方法使用[pretexttasks](https://amitness.com/2020/02/
illustrated
-selfsupervision-learning/)来生成代理标签,并将无监督学习问题转化为有监督学习的问题
喜欢打酱油的老鸟
·
2020-07-12 12:33
人工智能
Attention Is All You Need 一些好的资料
yettheydonotshareweights).Eachoneisbrokendownintotwosub-layers:https://kexue.fm/archives/4765https://jalammar.github.io/
illustrated
-transformer
anqiu4023
·
2020-07-11 02:19
【新书推荐】【2019.09】C++图解(第一版)
【2019.09】C++图解(第一版)C++
Illustrated
1stEdition,共800页。
梅花香——苦寒来
·
2020-07-10 10:20
Illustrated
C# 7, 5th Edition 免积分下载
图书说明:快速使用C#,使用独特的简洁和可视化格式来呈现C#7.0语言。无论您是第一次掌握C#还是努力加深理解,您都会发现本书对语言的各个方面都是清晰而新颖的。数字在本书中是最重要的。在教授编程研讨会时,DanielSolis发现,当他在白板上绘制数字时,他几乎可以看到学生头上的灯泡。在本文中,他将每个重要概念提炼为简单但准确的插图。对于这个最新版本,Dan加入了经验丰富的老师和程序员CalSch
qq_41845555
·
2020-07-05 08:21
C#
Apress
Unity风格化场景之:The
Illustrated
Nature (二)
Unity风格化场景之:TheIllustratedNature(二)资源地址:TheIllustratedNature上文说到,这个风格化场景的ColorGrading可以媲美乔碧萝殿下的美颜,其实光说ColorGrading并不确切,应该说整个后处理。本文就来学习一下他的后处理是怎么做的。打开和关闭后处理,效果对比如下:卸妆前.png卸妆后.png关闭后处理的场景明显平了很多,雾没了,另外整个
恶毒的狗
·
2020-07-05 06:37
Gopher Daily (2020.04.08) ʕ◔ϖ◔ʔ
•慕课实战课:k8s实战-https://coding.imooc.com/class/284.html1.图解git原理的几个关键概念-https://tonybai.com/2020/04/07/
illustrated
-tale-of-git-internal-key-concepts
Tony Bai
·
2020-07-01 18:21
NLP系列(7)_Transformer详解
审校:百度NLP、龙心尘翻译:张驰、毅航、Conrad原作者:JayAlammar原链接:https://jalammar.github.io/
illustrated
-transformer/编者按:前一段时间谷歌推出的
寒小阳
·
2020-06-30 06:40
自然语言处理
深度学习与自然语言处理
神经网络
NLP系列(10)_词向量之图解Word2vec
张秋玥、毅航、高延https://blog.csdn.net/longxinchen_ml/article/details/89077048原文链接:https://jalammar.github.io/
illustrated
-word2vec
寒小阳
·
2020-06-30 06:40
自然语言处理
深度学习与自然语言处理
神经网络
Attention is all you need 代码笔记
主要依据:http://jalammar.github.io/
illustrated
-transformer/写作原因:文章太长,我必须总结做笔记。
TinaO-O
·
2020-06-27 06:55
神经网络
深度学习
深度聚类的可视化解释
许多自监督方法使用[pretexttasks](https://amitness.com/2020/02/
illustrated
-selfsupervision-learning/)来生成代理标签,并将无监督学习问题转化
ronghuaiyang
·
2020-06-27 02:41
Oracle Essentials: Oracle Database 11g (Essentials) [
ILLUSTRATED
]
版权声明:原创作品,允许转载,转载时请务必以超链接形式标明文章原始出版、作者信息和本声明。否则将追究法律责任。http://blog.csdn.net/topmvp-topmvpOracleisanenormoussystem,withmyriadtechnologies,options,andreleases.Mostusers-evenexperienceddevelopersanddatab
topmvp
·
2020-06-26 20:20
Oracle
上一页
1
2
3
4
5
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他