pytorch的F.cross_entropy交叉熵函数

F.cross_entropy计算交叉熵损失，代码为：

loss=F.cross_entropy(out, y)

其中out是网络输出的概率向量，y是真实标签，注意y是标量。使用这个函数时应该特别注意out是没有经过softmax处理过的。因为调用F.cross_entropy函数时会通过log_softmax和nll_loss来计算损失，也就是说使用F.cross_entropy函数时，程序会自动先对out进行softmax，再log，最后再计算nll_loss。

换句话说，执行F.cross_entropy时，相当于执行以下代码：

soft_out = F.softmax(out)
log_soft_out = torch.log(soft_out)
loss = F.nll_loss(log_soft_out, y)

如果out是已经经过了softmax处理过的，则不能使用F.cross_entropy计算损失，而是通过F.nll_loss函数来计算：

log_soft_out = torch.log(out)
loss = F.nll_loss(log_soft_out, y)

其中y也是标量。