【Hadoop 复习笔记】hadoop入门

一、Hadoop背景  

    Hadoop最早起源于Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎，包括网页抓取、索引、查询等功能，但随着抓取网页数量的增加，遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。

    2003年、2004年谷歌发表的两篇论文为该问题提供了可行的解决方案。

    ——分布式文件系统（GFS），可用于处理海量网页的存储

    ——分布式计算框架MAPREDUCE，可用于处理海量网页的索引计算问题。

    Nutch的开发人员完成了相应的开源实现HDFS和MAPREDUCE，并从Nutch中剥离成为独立项目HADOOP，到2008年1月，HADOOP成为Apache顶级项目，迎来了它的快速发展期。

 

   1、Hadoop是apache旗下的一套开源平台
   2、Hadoop提供的功能，利用服务器集群，根据用户自定义的业务逻辑，对海量数据进行分布式处理
   3、Hadoop的核心组件有：
        HDFS：分布式文件系统，解决海量数据存储
        YARN：作业调度和集群资源调度系统，
        MapReduce：分布式运算编程框架，解决海量数据计算
   4、广义上来说，Had