《大数据时代》读后感

通过读ViktorMayer-Schonberger的《大数据时代》重新认真思考了大数据，全书以数据为核心，引导人们用数据的思维去理解世界，用数据的思维去解决问题，是推荐读物。但个人认为本书叫《数据时代》更为合适，因其讲了不少统计学、数据收集的故事，“大数据”的故事只占一小部分。

维基百科说大数据由巨型数据集组成，这些数据集大小常超出常用软件在可接受时间下的收集、庋用、管理和处理能力，或称巨量数据、海量数据、大资料，大数据的常见特点是3V：Volume、Velocity、Variety。

规模巨大的数据未必是大数据，需满足她的三个特点。以研究掷硬币概率的实验为例，当传统实验次数达到一定规模后就能帮助实验者分析正反面出现的概率，随着实验次数的增加，数据大量积累可能越来越支持这一结论，数据达到一定量，它的边际效应就出现了，数据继续增加对分析概率还有多少意义呢？按照现代概率学伯努利试验去带入函数计算就好了，这仅算是概率学或者是统计学吧。故大数据不是因为单纯体积大而大，是因为杂而大，研究硬币正反面的概率如引入天文学、心理学、材料学、物理学等领域的数据而使之变大，进而研究关联关系（或因果关系，注：本书不认同因果关系的重要性），从而得出概率的分布，然而大量相关数据的引入，按照传统分析过程的时间是不可接受的，需利用高效计算资源，迅速把杂而大的处理结果呈现出来，并且实验者对结果的预期不能要求100%的精确。大数据并不是数据本身，而是一种思维方式。

大数据令人着迷的地方在于用“科学”的办法挑战了“预测学”，帮助人们发现未知，帮忙人们进行决策。然而本书作者Viktor Mayer-Schonberger强调“大数据不是因果关系，而是相关关系，相关关系比因果关系更重要”，此观点不能认同，因果关系是宇宙的基本定律，且不说种瓜得瓜、善有善报之类哲学命题，若商家在发现电容器、钉子、高压锅有关联购买关系而去做大量营销的话岂不是有可能发生更多的波士顿爆炸案①。关联关系在大数据中被提取出来使用，而不去关心因果关系是一种粗暴的、倒退的处理方式，是作者理解的现代社会浮躁的心里体现。我认为的大数据应该是把看起来不相干的数据放到一起分析，找到某些跨领域的关联关系，进而推论因果关系，发现其中价值。作者引用了安德森的观点“现在已经是一个有海量数据的时代，应用数学已经取代了其他的所有学科工具，而且只要数据足够，就能说明问题”，数据和所有科学的关系，我觉得有点像现在互联网和其他所有行业的关系一样，互联网终究还是一个工具。作者举了沃尔玛“尿布与啤酒”③的故事，这也是大家熟知的一个数据分析的故事，但是沃尔玛真的是这么做的吗？大家可以去沃尔玛的时候留意一下。一家大型的超市，如果为了这种所谓相关关系，所有商品用这种关联关系去摆放，天哪，这将是一家多么混乱的超市，顾客进去将难以区分食品在哪、生活用品在哪！有人可能说这种关联关系更适合电子商务，是的，但是我还是比较看好已知原因的关联关系，比如婴幼儿智力玩具和孕妇减肥放到一起，比如在线播放器旁边放卫生纸的广告（哈哈哈，你懂的）。本书用美国折扣零售店塔吉特与怀孕预测②来佐证他的观点，但恰恰是知道因果关系后商业价值才能更多的体现出来，未知因果关系前顾客的父亲生气并要求赔偿，知道因果关系后才使得这种广告理所应当并让客户接受。

互联网信息时代数据的积累以及BI、数据仓库、人工智能、HADOOP、NOSQL等技术的流行，使得人们考虑问题的方式已经发生变化，接下来我们要做的只有接受拥抱数据时代、大数据时代。软件行业程序上线的变更差错率是一个考核IT水平的指标，为此很多公司引进了CMMI体系，以求他保障软件的质量，为此也收集了大量的过程数据。若用数据的思维，是否可能根据之前的各种相关数据预测下次投产变更的成功率？若用大数据的思维，是否可以根据CMMI数据以及程序员开发期间上下班考勤数据、工资发放时间、上线当天天气情况来综合预测投产变更的成功率？用大数据的思维，订餐网站不仅根据之前你定的是咸的还是辣的来给你推荐菜单，可能因为你微博上发了一句“每个月总有那么几天”修改了订餐的推荐菜单（哈哈）！故在数据时代，提议童鞋们检查公司的信息系统，是否有定期删除“垃圾”日志、数据的机制（Viktor说，即使最平凡的信息业可以具有特殊的价值），为了日益廉价的存储而删除日益昂贵的数据，请三思后行吧。

 

①  波士顿爆炸案：一件发生于2013年4月15日北美东部时间下午2时50分的爆炸事件，发生地点位在美国马萨诸塞州波士顿科普里广场。有两枚炸弹分别于终点线附近观众区及一家体育用品店先后引爆。此次爆炸造成3人死亡，183人受伤，17人情况危急。爆炸装置所用材料像轴承滚珠和钉子碎片的东西，金属容器、电线、电池、高压锅。

②  塔吉特与怀孕预测：曾经有一位男性顾客到一家塔吉特店中投诉，商店竟然给他还在读书的女儿寄婴儿用品的优惠券。经过这位父亲与女儿进一步沟通，才发现自己女儿真的已经怀孕了。塔吉特的分析团队首先查看了签署婴儿礼物登记簿的女性的消费记录。他们注意到，登记簿上的妇女会在怀孕大概第三个月的时候买很多无香乳液。几个月之后，她们会买一些营养品，比如镁、钙、锌。公司最终找出了大概20多种关联物，这些关联物可以给顾客进行“怀孕趋势”评分。这些数据甚至使得零售商能够比较准确地预测预产期，这样就能够在孕期的每个阶段给客户寄送相应的优惠券。

③  尿布与啤酒故事：在一家超市中，人们发现了一个特别有趣的现象：尿布与啤酒这两种风马牛不相及的商品居然摆在一起。但这一奇怪的举措居然使尿布和啤酒的稍量大幅增加了。这可不是一个笑话，而是一直被商家所津津乐道的发生在美国沃尔玛连锁超市的真实案例。原来，美国的妇女通常在家照顾孩子，所以她们经常会嘱咐丈夫在下班回家的路上为孩子买尿布，而丈夫在买尿布的同时又会顺手购买自己爱喝的啤酒。