torch.nn.RNN基本用法

#torch.nn.RNN

CLASS torch.nn.RNN(*args, **kwargs)
**实现的功能:**实现一个用tanh或者ReLU作为非线性成分的Elman RNN(两种RNN中的一种)
对输入序列中的每个元素做下面的计算。
在这里插入图片描述
torch.nn.RNN基本用法_第1张图片
参数说明:

input_size: 输入x的feature个数,比如x是5*1维向量,那么input_size就是5

hidden_size: 隐层的feature个数,比如h是5*1维向量,那么hidden_size就是5

num_layers: 你想要使用的循环层的个数,你可以搭建多层循环的RNN。默认是1nonlinearity: 选择你想要使用的非线性成分,'tanh' or 'relu'bias: 是否使用bias,如果是False,那么就不适用上面图中的b。默认是True。

batch_first: 如果是True,那么输入和输出张量使用格式(batch, seq, feature)而不是(seq, batch, feature)

dropout:0值则表示,除了最后一层外,给每一层都添加一个Dropout层,默认是0bidirectional: 如果为Ture,则表示建立的是双向RNN。默认是False。

输入:input, h_0

input: 不使用batch,则输入的tensor是(seq_len, input_size)
	   使用batch,则输入的tensor是(seq_len, batch_size, input_size)
	   这里的input_size就是上面参数说明时候的x的feature。
	   为了记忆方便,我们选取首字母,简记为:
	   不使用batch就是SI, 使用batch就是SBI(傻逼哎)。
h_0:   不使用batch,则初始隐层h_0就是(D * num_layers, hidden_size)
	   使用batch,则初始隐层h_0就是(D * num_layers, batch_size, hidden_size)
	   这里的D取值和是否构建的是双向RNN有关,双向RNND2,否则D1
	   同样为了记忆方便,我们选取首字母,简记为:
	   不使用batch就是NH,使用batch就是NBH(牛逼吼)。
	   
	   注意:一般我们都会用batch的方法

输出:output, h_n

output: 不使用batch,则输出就是(seq_len, D * hidden_size)
		使用batch,则输出就是(seq_len, batch_size, D * hidden_size)!这里不用batchfirst
		同样为了记忆方便,我们选取首字母,简记为:
		不使用batch就是SH,使用batch就是SBH(傻逼吼)。
h_n:  	不使用batch,则输出就是(D* num_layers, hidden_size)
		使用batch,则输出就是(D * num_layers, batch_size, hidden_size)

其余不常使用的细节请参考文档:torch.nn.RNN

你可能感兴趣的:(深度学习,神经网络,rnn,pytorch)