大数据技术之SparkSQL介绍

1 什么是Spark SQL

Spark SQL是Spark用来处理结构化数据的一个模块,它提供了2个编程抽象:DataFrame和

DataSet,并且作为分布式SQL查询引擎的作用。

我们已经学习了Hive,它是将Hive SQL转换成MapReduce然后提交到集群上执行,大大简化了编写MapReduc的程序的复杂性,由于MapReduce这种计算模型执行效率比较慢。所有Spark SQL的应运而生,它是将Spark SQL转换成RDD,然后提交到集群执行,执行效率非常快!

2 Spark SQL的特点

1)易整合

大数据技术之SparkSQL介绍_第1张图片

2)统一的数据访问方式

大数据技术之SparkSQL介绍_第2张图片

3)兼容Hive

大数据技术之SparkSQL介绍_第3张图片

4)标准的数据连接

大数据技术之SparkSQL介绍_第4张图片

想要了解跟多关于大数据培训课程内容欢迎关注尚硅谷大数据培训,尚硅谷除了这些技术文章外还有免费的高质量大数据培训课程视频供广大学员下载学习。

你可能感兴趣的:(大数据,hadoop,hive)