吴军老师的《信息论》学习笔记-3

一、信息正交性

同一条信息，使用一次就没有用了，使用信息时，要选用彼此垂直的正交信息。

1、不同的信息要来自不同的信息源；

2、避免反复使用相互嵌套或者相互包含的信息。

3、改变观察的角度。

信息处理

1、不断叠加

2、不断删除

二、互信息

世界上很多事情彼此相光，如果它们之间有确定的因果关系，那样的信息就是等价的，如果大部分相光的信息只是动态的相互关联的关系，但是没有因果关系，而互信息就给出了一种量化度量各种不同信息相关性的方法。

三、条件熵和信息增益

增益最大的信息就是一开始出现的。第一个说出看法的，就会成为意见领袖，最开始在某项课题中发表的论文，也是信息增益最大的、影响力最大的。

四、置信度

我们把自己有多么确定一件事情能够量化一下，这就是置信度。提高置信度的方法就是要增加所统计样本的数量。如果忽视它，我们就往往会把完全随机的事情，当成必然的事情。世界上很多道理其实很难验证，毕竟有些事情是无法多次重复。

五、交叉熵

如何避免制定出与事实相反的计划？

1、如果你的猜测和真实情况完全一致，你不损失任何东西，但是只要猜测和真实情况不一致，就会或多或少有损失。

2、你的猜测和真实情况相差越大，损失越大。

3、任何硬性的决定都要损失信息。

六、复盘误导人的错误信息

误导人的信息三大特征：

1、刻意引起注意的人，经常用耸人听闻的信息；

2、这样的信息一般都没有出处，也就是无法验证；

3、缺乏上下文的信息，不同的时间维度、环境，都是我们容易忽略的事实。

几个方法：

1、将这些信息放在更大的时空来考量；

2、信息的一致性；

3、信息的失真率；

小结反思

1、投资不要道听途说，或者“内幕消息”，因为这样的信息肯定是过了N多手多，没有信息增益了，于事无济，还可能让自己做了接盘侠。

2、成功有其偶然性，同样的方法在不同的环境下效果不一样，就是使用了正确的方法也得靠运气。

3、不要轻易All in 一个领域，多经历、多尝试，长见识。

4、不要过度揣测领导的心思，猜对和猜错，得失不成比例。

5、最重要的资源要用于最频繁熵事情上，时间要花在最重要的事情上，事情要有优先级。

6、大部分事情是渐变的，增量改进、不断迭代才是解决问题相对靠谱的方法。