交叉熵与对数似然分析

信息论(Information Theory) “信息”是指一组消息的集合。 假设在一个噪声通道上发送消息,我们需要考虑如何对每一个信息进行编码、传输以及解码,使得接收者可以尽可能准确地重构出消息。 信息论将信息的传递看作一种统计现象。 信息传输 信息压缩 熵(Entropy) 在信息论中,熵用来衡

你可能感兴趣的:(交叉熵与对数似然分析)