Hadoop权威指南 NCDC 天气数据样本下载

网址:ftp://ftp.ncdc.noaa.gov/pub/data/noaa

Linux_Wget:https://blog.csdn.net/qq_40794973/article/details/89208416


下载所有日志文件到当前文件下 

#!/bin/bash
uri=ftp://ftp.ncdc.noaa.gov/pub/data/noaa/ 
start=1901
end=2019
tmp
for((i=start; i <= end ; i++))
do
	tmp=mydownload/$i
	mkdir $tmp
	wget -r $uri$i/
done

不中断的在后台执行脚本 

nohup bash 脚本名.sh & 

可以使用命令 ps -ef | grep 脚本名.sh查看脚本在后台的运行状态

或者 tail -f  nohup.out

查看:

  • du -sh * | sort -n 统计当前文件夹(目录)大小,并按文件大小排序

https://blog.csdn.net/qq_40794973/article/details/86485597


参考:

https://blog.csdn.net/lzslywl/article/details/26678731/

https://blog.csdn.net/u010469490/article/details/73549197

你可能感兴趣的:(Hadoop权威指南 NCDC 天气数据样本下载)