Hadoop基础与电商行为日志分析 新手入门大数据

• 第1章 大数据概述

  本章将从故事说起，让大家明白大数据是与我们的生活息息相关的，并不是遥不可及的，还会介绍大数据的特性，以及大数据对我们带来的技术变革，大数据处理过程中涉及到的技术以及大数据典型应用。

  • 1-1 课程导学
  • 1-2 课程目录
  • 1-3 从一个案例说起
  • 1-4 什么是大数据以及大数据的4V特征
  • 1-5 大数据带来的技术变革
  • 1-6 大数据现存的模式
  • 1-7 大数据的技术概念
  • 1-8 大数据带来的挑战
  • 1-9 如何对大数据进行存储和分析
  • 1-10 大数据典型应用

• 第2章 初识Hadoop

  本章节将带领大家认识Hadoop以及Hadoop生态系统、Hadoop的发展史、Hadoop的优势、Hadoop的三个核心组件、Hadoop发行版的选择，为后续深入讲解Hadoop打下坚实的基础。

  • 2-1 课程目录
  • 2-2 Hadoop概述
  • 2-3 Hadoop核心组件之HDFS概述
  • 2-4 Hadoop核心组件之MapReduce
  • 2-5 Hadoop核心组件之YARN
  • 2-6 Hadoop优势
  • 2-7 Hadoop发展史
  • 2-8 Hadoop生态圈
  • 2-9 Hadoop发行版选型
  • 2-10 OOTB环境的使用

• 第3章 分布式文件系统HDFS

  本章将从Hadoop的设计目标、架构及文件系统命令空间出发，快速搭建单节点伪分布式HDFS的实验环境，通过讲解使用hdfs shell以及Java API的方式操作HDFS文件系统，详细分析HDFS文件的读写流程，并通过HDFS API来实现词频统计案例，使得大家对Hadoop分布式文件系统HDFS有深刻的认识以及实战。 ...

  • 3-1 HDFS概述
  • 3-2 HDFS设计目标
  • 3-3 HDFS架构详解
  • 3-4 文件系统NameSpace详解
  • 3-5 HDFS副本机制
  • 3-6 本课程使用的Linux环境介绍
  • 3-7 Hadoop部署前置介绍
  • 3-8 JDK1.8部署详解
  • 3-9 ssh无密码登陆部署详解
  • 3-10 Hadoop安装目录详解及hadoop-env配置
  • 3-11 HDFS格式化以及启动详解
  • 3-12 HDFS常见文件之防火墙干扰
  • 3-13 Hadoop停止集群以及如何单个进程启动
  • 3-14 Hadoop命令行操作详解
  • 3-15 深度剖析Hadoop文件的存储机制
  • 3-16 HDFS API编程之开发环境搭建
  • 3-17 HDFS API编程之第一个应用程序的开发
  • 3-18 HDFS API编程之jUnit封装
  • 3-19 HDFS API编程之查看HDFS文件内容
  • 3-20 HDFS API编程之创建文件并写入内容
  • 3-21 HDFS API编程之副本系数深度剖析
  • 3-22 HDFS API编程之重命名
  • 3-23 HDFS API编程之copyFromLocalFile
  • 3-24 HDFS API编程之带进度的上传大文件
  • 3-25 HDFS API编程之下载文件
  • 3-26 HDFS API编程之列出文件夹下的所有内容
  • 3-27 HDFS API编程之递归列出文件夹下的所有文件
  • 3-28 HDFS API编程之查看文件块信息
  • 3-29 HDFS API编程之删除文件
  • 3-30 HDFS项目实战之需求分析
  • 3-31 HDFS项目实战之代码框架编写
  • 3-32 HDFS项目实战之自定义上下文
  • 3-33 HDFS项目实战之自定义处理类实现
  • 3-34 HDFS项目实战之功能实现
  • 3-35 HDFS项目实战之使用自定义配置文件重构代码
  • 3-36 HDFS项目实战之使用反射创建自定义Mapper对象
  • 3-37 HDFS项目实战之可插拔的业务逻辑处理
  • 3-38 HDFS Replica Placement Policy
  • 3-39 HDFS写数据流程图解
  • 3-40 HDFS读数据流程图解
  • 3-41 HDFS Checkpoint详解
  • 3-42 HDFS SaveMode

• 第4章 分布式计算框架MapReduce

  本章将从架构、编程模型等角度带大家认识Hadoop的分布式计算框架MapReduce，掌握MapReduce各个核心组件编程，并通过两个案例让大家深入掌握MapReduce编程的方方面面。

  • 4-1 课程目录
  • 4-2 MapReduce概述
  • 4-3 MapReduce编程模型详解
  • 4-4 MapReduce编程模型核心概念详解
  • 4-5 词频统计之自定义Mapper实现
  • 4-6 词频统计之自定义Reducer实现
  • 4-7 词频统计之自定义Driver类实现
  • 4-8 词频统计之本地方式运行
  • 4-9 词频统计之通过Debug方式进一步了解偏移量以及重构代码
  • 4-10 词频统计升级之Combiner操作
  • 4-11 流量统计实战之需求
  • 4-12 流量统计实战之自定义复杂数据类型
  • 4-13 流量统计实战之自定义Mapper类
  • 4-14 流量统计实战之自定义Reducer实现
  • 4-15 流量统计实战之Driver开发
  • 4-16 流量统计实战之代码重构及NullWritable的使用
  • 4-17 流量统计实战升级之自定义Partitioner

• 第5章 资源调度框架YARN

  本章将从YARN的产生背景、YARN的架构及执行流程的角度带大家认知Hadoop的资源调度框架YARN，快速搭建单节点伪分布式YARN的实验环境并掌握如何提交MapReduce作业提交到YARN上运行。

  • 5-1 课程目录
  • 5-2 YARN产生背景
  • 5-3 YARN概述
  • 5-4 YARN架构详解
  • 5-5 YARN执行流程
  • 5-6 YARN环境部署
  • 5-7 提交example案例到YARN上运行
  • 5-8 提交流量统计案例到YARN上运行

• 第6章 电商项目实战Hadoop实现

  本章将通过电商用户行为日志分析的项目实战，来将前面几个章节讲解的知识点串联起来，综合使用Hadoop的技术进行离线统计分析。

• 第7章 数据仓库Hive

  本章将从Hive的产生背景、体系架构、Hive部署、DDL以及DML来掌握Hive使用的方方面面。

• 第8章 电商项目实战Hive实现

  本章将使用Hive对电商用户行为日志分析进行重新实现，让大家对MapReduce编程和Hive实现的方式进行对比，体会Hive在生产上使用的便捷性。

• 第9章 Hadoop分布式集群搭建

  本章将带领大家搭建一个三个节点的分布式Hadoop集群环境，让大家对于Hadoop集群的安装有更深入的认识，并将项目实战案例运行在分布式集群环境中。

下载地址：

百度网盘