torch.nn.init

函数 描述
torch.nn.init.calculate_gain(nonlinearity,param=None) 对于给定的非线性函数,返回推荐的增益值
torch.nn.init.normal(tensor, mean=0, std=1)

从给定均值和标准差的正态分布N(mean, std)中生成值,填充输入的张量或变量

torch.nn.init.constant(tensor, val)

val的值填充输入的张量或变量
torch.nn.init.eye(tensor) 用单位矩阵来填充2维输入张量或变量
torch.nn.init.dirac(tensor) 用Dirac $\delta$ 函数来填充{3, 4, 5}维输入张量或变量
torch.nn.init.xavier_normal(tensor, gain=1) 用一个正态分布生成值,填充输入的张量或变量
torch.nn.init.xavier_uniform(tensor, gain=1) 用一个均匀分布生成值,填充输入的张量或变量
torch.nn.init.kaiming_uniform(tensor, a=0, mode='fan_in') 用一个均匀分布生成值,填充输入的张量或变量
torch.nn.init.kaiming_normal(tensor, a=0, mode='fan_in') 用一个正态分布生成值,填充输入的张量或变量
torch.nn.init.orthogonal(tensor, gain=1) 用(半)正交矩阵填充输入的张量或变量
torch.nn.init.sparse(tensor, sparsity, std=0.01) 将2维的输入张量或变量当做稀疏矩阵填充,其中非零元素根据一个均值为0,标准差为std的正态分布生成。

原始文档:https://pytorch-cn.readthedocs.io/zh/latest/package_references/torch-nn/#torchnn

你可能感兴趣的:(torch,pytorch)