Spark中删除HDFS文件路径

1. 查看hdfs文件中前几行

随机返回指定行数的样本数据

hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | shuf -n 5

返回前几行的样本数据

hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | head -100

返回最后几行的样本数据

hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | tail -5

查看文本行数

hadoop fs -cathdfs://172.16.0.226:8020/test/sys_dict/sysdict_case_type.csv|wc -l

查看文件大小(单位byte)

hadoop fs -duhdfs://172.16.0.226:8020/test/sys_dict/*

hadoop fs -counthdfs://172.16.0.226:8020/test/sys_dict/*

2. spark 中删除HDFS文件

在写spark代码的时候，经常会遇到文件夹路径存在的情况，一般有以下的解决方式

1.在shell脚本中 直接调用hadoop fs -rm path

2.通过设置可直接覆盖文件路径，此方法我没有测试

yourSparkConf.set("spark.hadoop.validateOutputSpecs","false")val sc = SparkContext(yourSparkConf)

可参考：http://stackoverflow.com/questions/27033823/how-to-overwrite-the-output-directory-in-spark

3.通过Hadoop方式删除已存在的文件目录

val hdfs= FileSystem.get(newjava.net.URI("hdfs://xxx"),newConfiguration())
if(hdfs.exists(newPath(dstPath))){
   println("delete exits files")
   hdfs.delete(newPath(dstPath),true)
}

4.通过spark自带的hadoopconf方式删除

val hadoopConf = sparkContext.hadoopConfiguration
val hdfs = org.apache.hadoop.fs.FileSystem.get(hadoopConf)
if(hdfs.exists(path)){
    //禁止递归删除
   hdfs.delete(path,false)
}

#