End-To-End Memory Network 学习整理

一、什么是端到端

相对于深度学习,传统机器学习的流程往往由多个独立的模块组成,比如在一个典型的自然语言处理(Natural Language Processing)问题中,包括分词、词性标注、句法分析、语义分析等多个独立步骤,每个步骤是一个独立的任务,其结果的好坏会影响到下一步骤,从而影响整个训练的结果,这是非端到端的。

而深度学习模型在训练过程中,从输入端(输入数据)到输出端会得到一个预测结果,与真实结果相比较会得到一个误差,这个误差会在模型中的每一层传递(反向传播),每一层的表示都会根据这个误差来做调整,直到模型收敛或达到预期的效果才结束,这是端到端的。

两者相比,端到端的学习省去了在每一个独立学习任务执行之前所做的数据标注,为样本做标注的代价是昂贵的、易出错的。

------------------------------------------------------------------------------------------来源:知乎 张旗

二、论文理解

主要是这个图了

End-To-End Memory Network 学习整理_第1张图片

End-To-End Memory Network 学习整理_第2张图片

 End-To-End Memory Network 学习整理_第3张图片

 嵌入矩阵是为了映射到同一空间

三、学习资源

论文地址:https://arxiv.org/abs/1503.08895v5
代码地址:https://github.com/facebook/MemNN

end-to-end

你可能感兴趣的:(深度学习,end-to-end)