《数学之美》

注：本来准备以后用英文写博客的，但是最近一直在读数学之美，可是my english is poor
这本书中不同与其他一些书的地方，本书中加入了许多作者的个人感悟，和一些对中国当代教育和其他领域的一些看法。同时，也介绍了许多在数学界或者工程界的泰斗级人物。

贾里尼克
布尔
欧拉

书籍推荐

从一到无穷大　
时间简史

节目推荐

穿越虫洞

自然语言处理从规则到统计

1.语言模型：

 p(S)=p(w1,w2,w3,w4,w5,…,wn)
    =p(w1)p(w2|w1)p(w3|w1,w2)...p(wn|w1,w2,...,wn-1)//链规则
p(S)被称为语言模型，即用来计算一个句子概率的模型。

2.马尔科夫模型，马尔科夫链，隐马尔科夫模型

P(Xn+1=x∣X0,X1,X2,…，Xn)=P(Xn+1=x∣Xn) 这里x为过程中的某个状态。上面这个恒等式可以被看作是马尔可夫性质。

信息论

１． 信息的度量（香农–熵，即不确定性）

H(x)=−∑xP(x)logP(x)

2. 信息是消除系统不确定性的唯一方法
3. 二元模型的不确定性小于一元模型（条件熵）

H(x|y)=−∑x,yP(x,y)logP(x|y)

       可证明

H(x)≥H(x|y)

4. 互信息（两个事件相关性的量化度量,用于消除歧义）

I(X;Y)=H(X)−H(X|Y)

5. 相对熵（衡量两个取值为正数的函数的相似性）

PageRank网页排名算法

网页排名高的网站贡献的链接权重大（布林，二维矩阵相乘？）
　　不是特别的理解

TF-IDF(词频-逆文本频率指数)

1. 找到每个词在文中的词频
2. 为每个词添加权重
3. 停止词的权重为零

地图

1. 地址的定位
   　　使用有限状态自动机，其中基于概率进行模糊匹配
2. 路线的规划
   　　动态规划

新闻的向量分类法

信息指纹

网络爬虫中url的存储转化
1. 把字符串转化为一个正数
2. 转化为特定长度的伪随机数（梅森螺旋算法）
3. 信息指纹具有不可逆性

最大熵

1. 最大熵指出，需要对一个随机事件的概率分布进行预测时，我们的预测应当满足全部的已知条件，而对未知的情况不要做任何的主观假设。
2. 对于一组不自相矛盾的信息，最大熵存在且唯一－－希萨

布隆分析器

集合判重

文本自动分类问题

期望最大化算法