Hadoop生态圈

  • Common: 一组分布文件系统和通用 I/O 组件与接口(序列化、Java RPC 和持久化数据结构)。
  • MapReduce: 分布式数据处理模型和执行环境、运行于大型商用机集群。
  • ZooKeeper: 一个分布式、高可用的协调服务。ZooKeeper 提供分布式锁之类的基本服务用于构建分布式应用。
  • HDFS:   分布式文件系统,运行于大型商用机集群。 Hadoop体系最底层的一个模块。 为Hadoop各子项目提供各种工具,如:配置文件和日志操作等。 
  • HBase: 一个分布式、按列存储的数据仓库。HBase 使用 HDFS 作为底层存储,同时支持 MapReduce 的批量式计算和点查询(随机读取)。
  • Pig: 一种数据流语言和运行环境,用以检索非常大的数据集。Pig 运行在 MapReduce 和 HDFS 的集群上。
  • Hive: 一个分布式、按列存储的数据仓库。 Hive 管理 HDFS 中存储的数据,并提供基于 SQL 的查询语言(由运行时引擎翻译成 MapReduce作业)用以查询数据。
  • Mahout :一个可扩展的机器学习和数据挖掘库
  • Avro: 一种支持高效、跨语言的 RPC 以及永久存储数据的序列化系,主要负责数据的序列化。

  • Hadoop生态圈_第1张图片



  • Hadoop生态圈_第2张图片
    Hadoop生态圈_第3张图片

你可能感兴趣的:(hadoop,hadoop生态圈)