注意力机制

目录

1.引言

2.attention机制


1.引言

注意力机制_第1张图片

因为encoder-decoder的预测精度有限,容易导致眉毛胡子一把抓,无法抓住重点

注意力机制_第2张图片

注意力机制_第3张图片

2.attention机制

attention机制就是将之前encode-decode中间只输入一个C变为在每个时间输入不同的C

注意力机制_第4张图片

注意力机制_第5张图片

注意力机制_第6张图片

注意力机制_第7张图片

注意力机制_第8张图片

注意力机制_第9张图片

注意力机制_第10张图片

注意力机制_第11张图片

注意力机制_第12张图片

 Conditional Generation by RNN & Attention_哔哩哔哩_bilibili(李宏毅)

注意力机制_第13张图片

你可能感兴趣的:(循环神经网络,p2p,蓝桥杯,gnu)