51 序列模型【动手学深度学习v2】(笔记)

一、序列模型

1、什么是序列数据?数据是有时序结构的,比如电影的评价随时间变化变化

51 序列模型【动手学深度学习v2】(笔记)_第1张图片

 2、还有更多的序列数据

51 序列模型【动手学深度学习v2】(笔记)_第2张图片

3、在b发生的情况下,a也发生的概率

51 序列模型【动手学深度学习v2】(笔记)_第3张图片

 4、反序:用未来的事情推测过去的事情,但有时在物理上是不可行的,因为时间上总是顺序发展的,但是RNN可以做到

51 序列模型【动手学深度学习v2】(笔记)_第4张图片

 5、自回归模型,就是上个状态模型的输出当做下个状态模型的输入,进行迭代

51 序列模型【动手学深度学习v2】(笔记)_第5张图片

 6、A: 马尔科夫假设,当前数据只跟前面某几个数据点相关

51 序列模型【动手学深度学习v2】(笔记)_第6张图片

 7、B: 潜变量模型 潜变量ht

51 序列模型【动手学深度学习v2】(笔记)_第7张图片

 8、总结

51 序列模型【动手学深度学习v2】(笔记)_第8张图片

二、代码 

1、从第5个时刻开始,每个时刻的label是该时刻的x值,该时刻的输入是前4个时刻组成的一个整体向量。所以训练数据的输入共有996个4维数据,输入是996个值

2、样本是—T-tau是因为,再往前的样本的feature数不够吧

3、首先这里构建了一个1000*4的矩阵,每行是4个时刻,在这里沐神分别在每行存放了1234,2345等数据,可以看做是从5开始每个时刻的前四位

三、问答

1、tau是不是越大越好呢?并不是,根据数据量进行权衡

2、潜变量模型 隐马尔科夫模型

你可能感兴趣的:(动手学深度学习,机器学习,人工智能)