大数据测试之初识Hadoop1

大数据测试之初识Hadoop

       POPTEST老李认为测试开发工程师是面向测试的开发，也就是说，写代码就是为完成测试任务服务的，写自动化测试（性能自动化，功能自动化，安全自动化，接口自动化等等）的case或者开发测试工具完成不同类型的测试。其实自动化测试涉及面非常之广，目前来讲，case基本都可以写成自动化，而性能测试的脚本开发要围绕业务和协议特点来完成开发，并测试完成后依靠软件分析工具对被测试系统进行评估测试。

      未来的技术趋势是云测试，大数据测试，安全性测试，这些要完成测试都需要自动化来完成，而自动化测试的case和工具需要测试开发工程师来完成。 poptest为了适应未来的测试人员的能力要求，寻找bat的一线测试专家开发了大数据测试的课程，课程的提纲可以到www.poptest.cn上查看，由于海量数据的增多，大数据会引起未来人的生活变化，也会出现新的商业模式，我觉得以下三个方向会有机会：1、数据源方向，国内一些政府部门的信息采集公司，如移动、统计局等，这些部门的数据是很丰富的，但是要经过专业的分类及数据采集才会有用，那么大数据会在这一领域产生大量的采集公司；2、数据加工方向，大数据的亮点就是在数据加工后能找到便捷有效的管理、营销、精准推销的方法和人群。也指数据分析；3、数据分析报告及推广。大数据有证据显示可有效地为政府提供决策支持，为企业提供有效的营销指导。但是这些报告的真实性有效性需要有权威的机构去证明和核实。所以报告的出台及报告的推广也会是大数据行业里的又一细分领域。后续我会普及一些大数据测试方面的测试，今天先讲讲hadoop.  

• Hadoop历史

        雏形开始于2002年的Apache的Nutch，Nutch是一个开源Java 实现的搜索引擎。它提供了我们运行自己的搜索引擎所需的全部工具。包括全文搜索和Web爬虫。

        随后在2003年Google发表了一篇技术学术论文谷歌文件系统（GFS）。GFS也就是google File System，google公司为了存储海量搜索数据而设计的专用文件系统。

        2004年Nutch创始人Doug Cutting基于Google的GFS论文实现了分布式文件存储系统名为NDFS。

        2004年Google又发表了一篇技术学术论文MapReduce。MapReduce是一种编程模型，用于大规模数据集（大于1TB）的并行分析运算。

        2005年Doug Cutting又基于MapReduce，在Nutch搜索引擎实现了该功能。

        2006年，Yahoo雇用了Doug Cutting，Doug Cutting将NDFS和MapReduce升级命名为Hadoop，Yahoo开建了一个独立的团队给Goug Cutting专门研究发展Hadoop。

        不得不说Google和Yahoo对Hadoop的贡献功不可没。 

• Hadoop核心

        Hadoop的核心就是HDFS和MapReduce，而两者只是理论基础，不是具体可使用的高级应用，Hadoop旗下有很多经典子项目，比如HBase、Hive等，这些都是基于HDFS和MapReduce发展出来的。要想了解Hadoop，就必须知道HDFS和MapReduce是什么。

• HDFS

HDFS（Hadoop Distributed File System，Hadoop分布式文件系统），它是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，适合那些有着超大数据集（large data set）的应用程序。

HDFS的设计特点是：

1、大数据文件，非常适合上T级别的大文件或者一堆大数据文件的存储，如果文件只有几个G甚至更小就没啥意思了。

2、文件分块存储，HDFS会将一个完整的大文件平均分块存储到不同计算器上，它的意义在于读取文件时可以同时从多个主机取不同区块的文件，多主机读取比单主机读取效率要高得多得都。

3、流式数据访问，一次写入多次读写，这种模式跟传统文件不同，它不支持动态改变文件内容，而是要求让文件一次写入就不做变化，要变化也只能在文件末添加内容。

4、廉价硬件，HDFS可以应用在普通PC机上，这种机制能够让给一些公司用几十台廉价的计算机就可以撑起一个大数据集群。

5、硬件故障，HDFS认为所有计算机都可能会出问题，为了防止某个主机失效读取不到该主机的块文件，它将同一个文件块副本分配到其它某几个主机上，如果其中一台主机失效，可以迅速找另一块副本取文件。