hadoop综合大作业

作业来源:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/3363

 

1、把python爬取的数据传到linux

hadoop综合大作业_第1张图片

 

 

2、去除数据的标题

hadoop综合大作业_第2张图片

 

3、把数据的逗号代替为 \t转义字符

hadoop综合大作业_第3张图片

 

4、启动hadoop集群

 hadoop综合大作业_第4张图片

 

 

5、把数据文件上传到hdfs

hadoop综合大作业_第5张图片

 

6、启动hive

 

 

7、创建数据库

hadoop综合大作业_第6张图片

 

 

8、创建表并把hdfs的数据导入表中

hadoop综合大作业_第7张图片

 

 9、统计数据一共有1011条

hadoop综合大作业_第8张图片

 

 10、统计出不是同一用户评论的条数

 hadoop综合大作业_第9张图片

 

11、列出前10名观众分数和时间

hadoop综合大作业_第10张图片

 

12、列出前10名观众的评论

hadoop综合大作业_第11张图片

 

13、统计评论分数大于4分(总5分)的评论条数,大部分是大于4分,说明

《何以为家》的好评率很高。

hadoop综合大作业_第12张图片

 

14、统计出男女人数(1男 2女 3未知)

hadoop综合大作业_第13张图片

 

15、列出各城市的评论数

hadoop综合大作业_第14张图片

 

 16、统计北京的评论数

hadoop综合大作业_第15张图片

 

17、统计上海的评论数 

hadoop综合大作业_第16张图片

 

18、统计广州的评论数

hadoop综合大作业_第17张图片

 

19、统计深圳的评论数

 hadoop综合大作业_第18张图片

 

你可能感兴趣的:(hadoop综合大作业)