python_day12_pyspark

安装pyspark库

from pyspark import SparkConf, SparkContext

创建sparkconf类对象，链式调用

conf = SparkConf().setMaster("local[*]").setAppName("test_spark_app")

基于sparkConf类对象创建SparkContext对象（入口对象）

sc = SparkContext(conf=conf)

打印pyspark版本号

print(sc.version)

停止sparkContext对象的运行

sc.stop()

通过pyspark代码加载数据，即数据输入

通过parallelize方法将python对象加载到spark内，成为RDD对象

# 导包
from pyspark import SparkConf, SparkContext

conf = SparkConf().setMaster("local[*]").setAppName("test_spark")
sc = SparkContext(conf=conf)

# 通过parallelize方法将python对象加载到spark内，成为RDD对象
rdd_1 = sc.parallelize([1, 2, 3, 4])
rdd_2 = sc.parallelize((1, 2, 3, 4))
rdd_3 = sc.parallelize({1, 2, 3, 4})
rdd_4 = sc.parallelize("123,ads")
rdd_5 = sc.parallelize({"key_1": "value_1", "key_2": "value_2"})
# 查看RDD内容，需使用collect()方法
print(rdd_1.collect())
print(rdd_2.collect())
print(rdd_3.collect())
print(rdd_4.collect())
print(rdd_5.collect())


# 停止spark
sc.stop()

用textFile方法，读取文件数据，加载到spark内，成为RDD对象

"""
通过pyspark代码加载数据，即数据输入
"""
# 导包
from pyspark import SparkConf, SparkContext

conf = SparkConf().setMaster("local[*]").setAppName("test_spark")
sc = SparkContext(conf=conf)

# 用textFile方法，读取文件数据，加载到spark内，成为RDD对象
rdd = sc.textFile("D:/abc.txt")
print(rdd.collect())

# 停止spark
sc.stop()