什么是信息量大(信息论)

信息说到底是用于降低或是消除不确定性的。如果讲的事情大部分大家都知道,信息量就很少。

        信息的价值如何衡量?

一是信息的重要性很高,这个信息对你很重要,知道了就能帮你解决问题

二是信息量大,你暂时不知道这些新信息有什么用,但是给你提供了一些新思路


        那什么是信息量大呢?

对于一条信息,重要的是找出其中有多少信息量,要搞清楚“信息量”,就要对信息进行量化的度量,所以首先要引入一个对信息进行量化的量度单位“比特”

“比特”是这样定义的:如果一个黑盒子中有A和B两种可能性,它们出现的概率相同,那么要搞清楚到底是A还是B,所需要的信息量就是一比特如果我们对这个黑盒子有一点知识,知道A的概率比B大,那么解密它们所需要的信息就不到一比特。

那么如果是多于A、B这两种可能性,更复杂的黑盒子,要消除它的不确定性需要多少信息呢?

使用二分法,第一步先确认我们的想法对不对,然后在对我们的可能选择进行归类判断,而不是我们每一个选择都逐个进行判断。


Reference:罗胖精选 | 世界上有稳赚不赔的生意吗?

你可能感兴趣的:(什么是信息量大(信息论))