Adversarial Machine Learning（intro）

Adversarial Machine Learning

无意从一位老师的主页上看到了adversarial machine learning

该老师Benjamin Rubinstein（墨尔本大学）的个人主页
http://www.bipr.net/ 

传统的统计机器学习（人工只能，数据挖掘，机器学习和统计）被成功的应用与很多产品中，并加强了大数据（数据科学和分析）的产业化趋势。经典的统计机器学习的任务包含了分类，回归，密度估计和聚类。衡量统计机器学习性能的标准主要是精度（统计角度）和运行时间/存储（计算角度）。如今，统计机器学习逐渐被应用于恶意行为狂妄蔓延的系统。此时，在统计机器学习中对数据的假设（比如，平稳，独立，又或者随机性）就和数据篡改或误用这一现实不匹配。

现在的大数据的确很火，大家都在想着如何从海量数据中学习有效的知识，但这同时引起了很多人对用户隐私安全担忧。

顺应这个潮流，adversarial  machine learning（对抗机器学习？） 出现了。系统的袭击者总是希望破坏其的完整性，有效性和私密性，这激发我们以下两点研究兴趣：

1）评价已有机器学习的安全性和私密性

2）如何改进已有的机器学习，让其更加安全

Benjamin利用了很多技术，如kernel methods，bayesian statistics，online learning theory，robust statistics，differential privacy，将其应用与网络安全，风险管理和数据隐私。

作者从08年就开始这项工作了，

曾经一位大牛说过，自己一个人忽悠一件事是不行的，得有一大堆人帮你一起忽悠。

15年还出了一本书

Adversarial Machine Learning: Computer Security and Statistical Machine Learning

可以吸引更多的人一起忽悠了

用户隐私的确是一个极具现实意义的问题，让机器学习自己实现自我保护，也是很有意思的想法。

道理都会说，实现起来还是蛮困难的