Hadoop综合大作业

Hadoop综合大作业 要求:

1.用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)词频统计。

启动hadoop

Hadoop综合大作业_第1张图片

用hdfs创建文件夹

Hadoop综合大作业_第2张图片

上传自己找的英文文章到hdfs上

Hadoop综合大作业_第3张图片

启动hive,创建novels原始文档表

Hadoop综合大作业_第4张图片

导入文件内容到表docs并查看

Hadoop综合大作业_第5张图片

用HQL进行词频统计,结果放在表word_count里

Hadoop综合大作业_第6张图片

查看统计结果

Hadoop综合大作业_第7张图片

Hadoop综合大作业_第8张图片

 

 

 

2.用Hive对爬虫大作业产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果。

爬虫大作业爬取的结果是如图所示

Hadoop综合大作业_第9张图片

 

 

将统计好的文件number.txt和number.csv放置wc文件夹中

 

启动hdfs

1
2
start - all .sh
jps

Hadoop综合大作业_第10张图片

 

Hadoop综合大作业_第11张图片

 

将文件上传至hdfs,并显示前十条

Hadoop综合大作业_第12张图片

 

启动mysql

 

启动hive

 

创建数据库

1
create database numbercount;

  Hadoop综合大作业_第13张图片

 

创建表

 

导入数据

 

查看数据

 

你可能感兴趣的:(Hadoop综合大作业)