Hadoop综合大作业

 要求：

1.用Hive对爬虫大作业产生的文本文件（或者英文词频统计下载的英文长篇小说）进行词频统计。

 

网上下载经典长篇英文小说The Old Man and Sea，保存到wc文件中，命名为sea.txt。

　　启动hadoop集群

将wc文件夹的sea.txt上传文件至hdfs的data文件夹

启动hive,创建数据库和文档表，

　　

　　导入文件内容并查看

　　

 

　　用HQL进行词频统计，结果放在表sea_count里

　　

　　查看统计结果的前30个

　　

2.用Hive对爬虫大作业产生的csv文件进行数据分析，写一篇博客描述你的分析过程和分析结果。

对虎扑网关于巴塞罗那的新闻进行爬取数据分析，并根据新闻进行词频统计，产生的csv如下：

 

 

创建表bas并将csv数据导入到表中

 

显示前20个数据

结果分析：梅西作为巴萨的头号球星，在新闻中基本会被提及，C罗、皇马是梅西和巴萨的竞争对手，巴萨每年都是西甲冠军的热门，最近格列兹曼与巴萨转会绯闻。