Trick

1.Problem:    ubutu "sudo pip command not found"

  Solution: For python3, please use "sudo apt-get install python3-pip";

                  For python2, please use "sudo apt-get install python-pip".

2.一般，自然语言处理任务，使用Glove预训练词向量，效果要好。

3.每一个神经元都有一个bias。

4. 使用单向RNN时，可以使用“Target Delay”，即标签右移几个，使网络多输入几个时刻后再做判断，这样可以在更多 上下文信息情况下做出判断，使结果更准确。

5.Train LSTM is faster than RNN。

6.在LSTM中，三个门的重要程度排序：forget > input > output。