快速入门Shell脚本(5)——Shell的这些工具你都知道了吗？
上一篇博客已经给大家讲了计较复杂的操作（常用的函数操作）。 本篇博客，给讲一下shell的工具，学会写工具会让你的面试加分的偶。（喜欢shell脚本的可以关注专栏）
1.Shell中的cut
1.1介绍
cut的工作就是“剪”，具体的说就是在文件中负责剪切出数据用的。cut命令从文件的每一行剪切出字节、字符和字段将这些字节、字符和字段输出。
1.2 基本用法
cut[参数] filename
说明：默认分割符是制表符
1.3 选项参数说明
- -f：列行,提取第几列
- -d: 分割符，按照指定分隔符列分割列
1.4 案例实操
数据准备
[root@node01 shell]# vim cut.txt
hello word
hello Hadoop
hello spark
hello flink
hello flume
hello kafka
hello java
切割cut.txt 第一列
[root@node01 shell]# cut -d " " -f 1 cut.txt
hello
hello
hello
hello
hello
hello
hello
切割cut.txt第二、三列
[root@node01 shell]# cut -d " " -f 2,3 cut.txt
word
Hadoop
spark
flink
flume
kafka
java
在cut.txt 文件中切割出spark
[root@node01 shell]# cat cut.txt | grep "spark"
hello spark
[root@node01 shell]# cat cut.txt | grep "spark" | cut -d " " -f 2
spark
选取系统PATH的变量值，第2个“：”开始后的所有路径
[root@node01 shell]# echo $PATH
/usr/lib64/qt-3.3/bin::/export/servers/kafka-eagle-bin-1.3.2/kafka-eagle-web-1.3.2/bin:/sbin:/bin:/export/servers/hbase-1.1.1/bin::/export/servers/hadoop-2.6.0-cdh5.14.0/bin:/export/servers/hadoop-2.6.0-cdh5.14.0/sbin:/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/export/servers/hive-1.1.0-cdh5.14.0/bin:/export/servers/jdk1.8.0_144/bin:/export/servers/spark-2.2.0-bin-2.6.0-cdh5.14.0/bin:/export/servers/zookeeper-3.4.5-cdh5.14.0/bin:/root/bin
[root@node01 shell]# echo $PATH | cut -d : -f 2-
:/export/servers/kafka-eagle-bin-1.3.2/kafka-eagle-web-1.3.2/bin:/sbin:/bin:/export/servers/hbase-1.1.1/bin::/export/servers/hadoop-2.6.0-cdh5.14.0/bin:/export/servers/hadoop-2.6.0-cdh5.14.0/sbin:/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/export/servers/hive-1.1.0-cdh5.14.0/bin:/export/servers/jdk1.8.0_144/bin:/export/servers/spark-2.2.0-bin-2.6.0-cdh5.14.0/bin:/export/servers/zookeeper-3.4.5-cdh5.14.0/bin:/root/bin
切割ifconfig后打印的IP地址
[root@node01 shell]# ifconfig eth0 | grep "inet addr" | cut -d: -f 2 |cut -d" " -f 1
192.168.100.201
2.shell中的sed
2.1介绍
sed是一种流编辑器，他一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”,接着用sed命令处理缓冲区的内容，处理完成后，吧缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件的末尾。文件内容并没有改变，除非你是用重定向存储输出。
2.2 基本用法
sed[选项参数] ’command‘ filename
2.3选项参数说明
- -e 直接在指令列模式进行sed的动作编辑。
- a 新增，a的后面可以接字符串，在下一行出现
- d 删除
- s 查找并替换
2.4 案例实操
数据准备
[root@node01 shell]# vim sed.txt
hello word
hello Hadoop
hello spark
hello flink
hello flume
hello kafka
hello java
将’hello sed’ 这个单词插入到sed.txt第二行，打印。
[root@node01 shell]# sed '2a hello sed' sed.txt
hello word
hello Hadoop
hello sed
hello spark
hello flink
hello flume
hello kafka
hello java
[root@node01 shell]# cat sed.txt
hello word
hello Hadoop
hello spark
hello flink
hello flume
hello kafka
hello java
# 发现文件并没有修改
删除sed.txt文件所有包含fl的行
[root@node01 shell]# sed '/fl/d' sed.txt
hello word
hello Hadoop
hello spark
hello kafka
hello java
将sed.txt文件中fl替换为 FL
[root@node01 shell]# sed 's/fl/FL/g' sed.txt
hello word
hello Hadoop
hello spark
hello FLink
hello FLume
hello kafka
hello java
# 'g' 表示global 全部替换
将sed.txt 文件中的第二行删除并将fl替换为FL
[root@node01 shell]# sed -e '2d' -e 's/fl/FL/g' sed.txt
hello word
hello spark
hello FLink
hello FLume
hello kafka
hello java
3.Shell中的awk
一个强大的文本分析工具，把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行分析处理。
3.1. 基本用法
awk [选项参数] ‘pattern1{action1} pattern2{action2}…’ filename
- pattern：表示AWK在数据中查找的内容，就是匹配模式
- action：在找到匹配内容时所执行的一系列命令
3.2. 选项参数说明
- -F: 指定输入文件折分隔符
- -v: 赋值一个用户定义变量
3.3. 案例实操
(0)数据准备
[root@node01 shell]# cp /etc/passwd .
(1)搜索passwd文件已root关键字开头的所有行,并输出该行第6列
[root@node01 shell]# awk -F: '/^root/{print $6}' passwd
/root
(2)搜索passwd文件以root关键字开头的所有行，并输出该行的第1列和第7列，中间以“，”号分割。
[root@node01 shell]# awk -F: '/^root/{print $1","$7}' passwd
root,/bin/bash
注意：只有匹配了pattern的行才会执行action
(3)只显示/etc/passwd的第一列和第七列，以逗号分割，且在所有行前面添加列名user，shell在最后一行添加"dashuju，/bin/NB"。
[root@node01 shell]# awk -F: 'BEGIN{print"user,shell"}{print $1","$7}END{print "dashuju,/bin/NB"}' passwd
user,shell
root,/bin/bash
bin,/sbin/nologin
daemon,/sbin/nologin
注意：BEGIN 在所有数据读取行之前执行；END 在所有数据执行之后执行。
(4)将passwd文件中的用户id增加数值1并输出(-v v=1 赋值一个用户定义变量，将外部变量传递给awk)
[root@node01 shell]# awk -v i=1 -F: '{print $3+1}' passwd
1
2
3
4
3.4. awk的内置变量
- FILENAME :文件名
- NR: 已读的记录数
- NF:浏览记录的域的个数（切割后，列的个数）
3.4.1案例实操
（1）统计passwd文件名，每行的行号，每行的列数
[root@node01 shell]# awk -F: '{print "filename:" FILENAME ",linenumber: " NR ",columns:" NF}' passwd
filename:passwd,linenumber: 1,columns:7
filename:passwd,linenumber: 2,columns:7
filename:passwd,linenumber: 3,columns:7
filename:passwd,linenumber: 4,columns:7
（2）切割IP
[root@node01 shell]# ifconfig eth0 | grep "inet addr" | awk -F: '{print $2}' | awk -F " " '{print $1}'
192.168.100.201
（3）查询sed.txt中空行所在的行号
[root@node01 shell]# awk '/^$/{print NR}' sed.txt
8
4.Shell中的sort
4.1介绍
sort命令是在Linux里非常有用，它将文件进行排序，并将排序结果标准输出。
4.2. 基本语法
sort(选项)(参数)
- -n: 依照数值的大小排序
- -r: 以相反的顺序来排序
- -t:设置排序时所用的分隔字符
- -k:指定需要排序的列
4.3. 案例实操
（0）数据准备
[root@node01 shell]# vim sort.sh
bb:40:5.4
bd:20:4.2
xz:50:2.3
cls:10:3.5
ss:30:1.6
（1）按照“：”分割后的第三列倒序排序。
[root@node01 shell]# sort -t : -nrk 3 sort.sh
bb:40:5.4
bd:20:4.2
cls:10:3.5
xz:50:2.3
ss:30:1.6