深度学习之五（递归神经网络--Recursive Neural Networks，RvNNs）

概念

递归神经网络（Recursive Neural Networks，RvNNs）是一类神经网络，其结构允许数据之间的递归性关系。与循环神经网络（RNNs）专注于序列数据不同，递归神经网络更适用于树状或递归结构的数据，例如自然语言中的语法树、分子结构等。在递归神经网络中，网络结构能够递归地应用于自身，以捕获层次结构或递归结构中的信息。

递归神经网络的主要特点：

1. 递归结构： 允许网络自身递归应用于数据，以处理树状或递归结构的信息。
2. 层次性信息提取： 能够有效地提取层次化的信息，对于包含嵌套结构的数据具有较强的表征能力。
3. 应用范围： 主要用于处理树状结构或递归结构的数据，比如自然语言中的句法分析、分子结构的表示等。

递归神经网络的结构：

递归神经网络通常包含两个主要组成部分：

1. 递归单元（Recursive Unit）： 定义了网络如何递归地组合数据。这可能是将两个节点组合成一个新节点的函数。
2. 根节点处理（Root Node Processing）： 在递归过程中，需要对根节点进行特殊处理，通常是将所有递归结果组合起来生成最终输出。

递归神经网络的应用：

• 自然语言处理： 在语法分析、句法树的表示中应用较多