linux 中cut, sed,sort ,awk等流式处理工具

前提:所谓linux的流处理就大概是 前一个命令结果保存在缓存区中,向水流一样供管道后面的命令使用

cut
cut的工作就是“剪”，具体的说就是在文件中负责剪切数据用的。cut 命令从文件的每一行剪切字节、字符和字段并将这些字节、字符和字段输出

1.基本用法
cut [选项参数] filename
说明：默认分隔符是制表符

2.选项参数说明
选项参数 功能
-f 列号，提取第几列 注意序号从 1 开始
-d 分隔符，按照指定分隔符分割列, 分隔符一般不用加单引号或者双引号,除非分隔符是空格
-c 指定具体的字符

3.案例实操

[root@hadoop-01 ~]# ifconfig | grep Bcast | cut -d : -f 2
192.168.23.201  Bcast
[root@hadoop-01 ~]# ifconfig | grep Bcast | cut -d : -f 2 | cut -d  " " -f1 
192.168.23.201
[root@hadoop-01 ~]# ifconfig | grep Bcast | cut -d : -f 2 | cut -d  " " -f2 

[root@hadoop-01 ~]# ifconfig | grep Bcast | cut -d : -f 2 | cut -d  " " -f3
Bcast
[root@hadoop-01 ~]# ifconfig | grep Bcast | cut -d : -f 2 | cut -c 1-14
192.168.23.201

4.注意事项
cut 和java split方法有很大不同哦,自己可以尝试

sed
sed是一种流编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”，接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。
接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有改变，除非你使用重定向存储输出。

1.基本用法
sed [选项参数] ‘command’ filename
简单就是sed + '处理行范围+处理规则’

2.选项参数说明
选项参数 功能
-e 直接在指令列模式上进行sed的动作编辑。-e 可以接很多操作
-i 直接编辑文件

3.命令功能描述
命令 功能描述
a 新增，a的后面可以接字串，在下一行出现
d 删除
s 查找并替换

4. 使用案例

--- ifconfig 的前四行
[root@hadoop-02 ~]# ifconfig
eth0      Link encap:Ethernet  HWaddr 00:0C:29:20:D2:06  
          inet addr:192.168.23.202  Bcast:192.168.23.255  Mask:255.255.255.0
          inet6 addr: fe80::20c:29ff:fe20:d206/64 Scope:Link
          UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
          
--- ifconfig 的结果第二行后加一行12345678'
[root@hadoop-02 ~]# ifconfig | sed '2a12345678'
eth0      Link encap:Ethernet  HWaddr 00:0C:29:20:D2:06  
          inet addr:192.168.23.202  Bcast:192.168.23.255  Mask:255.255.255.0
12345678
          inet6 addr: fe80::20c:29ff:fe20:d206/64 Scope:Link
          UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
          
--- ifconfig 的结果删除第二行   
[root@hadoop-02 ~]# ifconfig | sed '2d'
eth0      Link encap:Ethernet  HWaddr 00:0C:29:20:D2:06  
          inet6 addr: fe80::20c:29ff:fe20:d206/64 Scope:Link
          UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
          RX packets:36658 errors:0 dropped:0 overruns:0 frame:0        
          
--- sed　处理的范围可以用正则表达式，用／／中间放正则表达式
--- 删除待inet 的行
[root@hadoop-02 ~]# ifconfig | sed '/inet/d'
eth0      Link encap:Ethernet  HWaddr 00:0C:29:20:D2:06  
          UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
          RX packets:37445 errors:0 dropped:0 overruns:0 frame:0

awk
一个强大的文本分析工具，把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行分析处理。

1.基本用法
awk [选项参数] ‘pattern1{action1} pattern2{action2}…’ filename
pattern：表示AWK在数据中查找的内容，就是匹配模式
action：在找到匹配内容时所执行的一系列命令

对文本内容逐行匹配操作

2.选项参数说明
选项参数 功能
-F 指定输入文件折分隔符
-v 赋值一个用户定义变量
3.案例实操

[root@hadoop-02 ~]# ll /bin/awk
lrwxrwxrwx. 1 root root 4 8月  27 21:13 /bin/awk -> gawk

（0）数据准备
[atguigu@hadoop102 datas]$ sudo cp /etc/passwd ./
（1）搜索passwd文件以root关键字开头的所有行，并输出该行的第7列。
[atguigu@hadoop102 datas]$ awk -F: '/^root/{print $7}' passwd 
/bin/bash
（2）搜索passwd文件以root关键字开头的所有行，并输出该行的第1列和第7列，中间以“，”号分割。
[atguigu@hadoop102 datas]$ awk -F: '/^root/{print $1","$7}' passwd 
root,/bin/bash
注意：只有匹配了pattern的行才会执行action
（3）只显示/etc/passwd的第一列和第七列，以逗号分割，且在所有行前面添加列名user，shell在最后一行添加"dahaige，/bin/zuishuai"。
[atguigu@hadoop102 datas]$ awk -F : 'BEGIN{print "user, shell"} {print $1","$7} END{print "dahaige,/bin/zuishuai"}' passwd
user, shell
root,/bin/bash
bin,/sbin/nologin
。。。
atguigu,/bin/bash
dahaige,/bin/zuishuai
注意：BEGIN 在所有数据读取行之前执行；END 在所有数据执行之后执行。
(4）将passwd文件中的用户id增加数值1并输出
[atguigu@hadoop102 datas]$ awk -v i=1 -F: '{print $3+i}' passwd
1
2
3
4

4.awk的内置变量
变量 说明
FILENAME 文件名
NR 已读的记录数
NF 浏览记录的域的个数（切割后，列的个数）
5.案例实操

（1）统计passwd文件名，每行的行号，每行的列数
[atguigu@hadoop102 datas]$ awk -F: '{print "filename:"  FILENAME ", linenumber:" NR  ",columns:" NF}' passwd 
filename:passwd, linenumber:1,columns:7
filename:passwd, linenumber:2,columns:7
filename:passwd, linenumber:3,columns:7
（2）切割IP
[atguigu@hadoop102 datas]$ ifconfig eth0 | grep "inet addr" | awk -F: '{print $2}' | awk -F " " '{print $1}' 
192.168.1.102
（3）查询sed.txt中空行所在的行号
[atguigu@hadoop102 datas]$ awk '/^$/{print NR}' sed.txt 
5