Neural Transducer——李宏毅人类语言学习

CTC,RNA,RNN-T每次只读一个声学特征进来。
Neural Transducer——李宏毅人类语言学习_第1张图片
而Neural Transducer则是每次读多个声学特征进去,然后通过attention来选择读那些特征。
Neural Transducer——李宏毅人类语言学习_第2张图片

Neural Transducer的运作方式

累积一定数目的声学特征后, 构成一个window
Neural Transducer——李宏毅人类语言学习_第3张图片
接下来开始做decode,产生输出。输出的时候只在window的这个小范围内做attention。
Neural Transducer——李宏毅人类语言学习_第4张图片
Neural Transducer——李宏毅人类语言学习_第5张图片
Neural Transducer——李宏毅人类语言学习_第6张图片

这个window应该开多大呢?

Neural Transducer——李宏毅人类语言学习_第7张图片

你可能感兴趣的:(李宏毅人类语言处理,学习,语音识别,人工智能)