该系列是基于牛客Shell题库,针对具体题目进行查漏补缺,学习相应的命令。
刷题链接:牛客题霸-Shell篇。
该系列文章都放到专栏下,专栏链接为:《专栏:Shell》。欢迎关注专栏~
本文知识预告:
sort
、awk
、cut
、sed
、grep
等命令的相关用法;假设netstat命令运行的结果我们存储在nowcoder.txt里,格式如下:
Proto Recv-Q Send-Q Local Address Foreign Address State
tcp 0 0 0.0.0.0:6160 0.0.0.0:* LISTEN
tcp 0 0 127.0.0.53:53 0.0.0.0:* LISTEN
tcp 0 0 0.0.0.0:22 0.0.0.0:* LISTEN
tcp 0 0 172.16.56.200:41856 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49822 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49674 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:42316 172.16.34.143:3306 ESTABLISHED
tcp 0 0 172.16.56.200:44076 172.16.240.74:6379 ESTABLISHED
tcp 0 0 172.16.56.200:49656 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:58248 100.100.142.4:80 TIME_WAIT
tcp 0 0 172.16.56.200:50108 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41944 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:35548 100.100.32.118:80 TIME_WAIT
tcp 0 0 172.16.56.200:39024 100.100.45.106:443 TIME_WAIT
tcp 0 0 172.16.56.200:41788 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:58260 100.100.142.4:80 TIME_WAIT
tcp 0 0 172.16.56.200:41812 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41854 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:58252 100.100.142.4:80 TIME_WAIT
tcp 0 0 172.16.56.200:49586 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41754 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:50466 120.55.222.235:80 TIME_WAIT
tcp 0 0 172.16.56.200:38514 100.100.142.5:80 TIME_WAIT
tcp 0 0 172.16.56.200:49832 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:52162 100.100.30.25:80 ESTABLISHED
tcp 0 0 172.16.56.200:50372 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:50306 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49600 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41908 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:60292 100.100.142.1:80 TIME_WAIT
tcp 0 0 172.16.56.200:37650 100.100.54.133:80 TIME_WAIT
tcp 0 0 172.16.56.200:41938 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49736 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41890 172.16.34.144:3306 ESTABLISHED
udp 0 0 127.0.0.1:323 0.0.0.0:*
udp 0 0 0.0.0.0:45881 0.0.0.0:*
udp 0 0 127.0.0.53:53 0.0.0.0:*
udp 0 0 172.16.56.200:68 0.0.0.0:*
udp6 0 0 ::1:323 :::*
raw6 0 0 :::58 :::* 7
现在需要你查看和本机3306端口建立连接并且状态是established的所有IP,按照连接数降序排序。你的脚本应该输出
10 172.16.0.24
9 172.16.34.144
1 172.16.34.143
grep
:强大的文本搜索工具grep
来自于英文词组“global search regular expression and print out the line”的缩写,意思是用于全面搜索的正则表达式,并将结果输出。人们通常会将grep
命令与正则表达式搭配使用,参数作为搜索过程中的补充或对输出结果的筛选,命令模式十分灵活。
与之容易混淆的是egrep
命令和fgrep
命令。如果把grep
命令当作是标准搜索命令,那么egrep
则是扩展搜索命令,等价于“grep -E
”命令,支持扩展的正则表达式。而fgrep
则是快速搜索命令,等价于“grep -F
”命令,不支持正则表达式,直接按照字符串内容进行匹配。
语法格式: grep [参数] 文件
常用参数:
参数 | 功能 |
---|---|
-i |
忽略大小写 |
-c |
只输出匹配行的数量 |
-l |
只列出符合匹配的文件名,不列出具体的匹配行 |
-n |
列出所有的匹配行,显示行号 |
-h |
查询多文件时不显示文件名 |
-s |
不显示不存在、没有匹配文本的错误信息 |
-v |
显示不包含匹配文本的所有行 |
-w |
匹配整词 |
-x |
匹配整行 |
-r |
递归搜索 |
-q |
禁止输出任何结果,已退出状态表示搜索是否成功 |
-b |
打印匹配行距文件头部的偏移量,以字节为单位 |
-o |
与-b 结合使用,打印匹配的词据文件头部的偏移量,以字节为单位 |
-F |
匹配固定字符串的内容 |
-E |
支持扩展的正则表达式 |
awk
:文本和数据进行处理的编程语言awk
命令来自于三位创始人”Alfred Aho,Peter Weinberger, Brian Kernighan “的姓氏缩写,其功能是用于对文本和数据进行处理的编程语言。使用awk
命令可以让用户自定义函数或正则表达式对文本内容进行高效管理,与sed
、grep
并称为Linux系统中的文本三剑客。
语法格式:awk 参数 文件
常用参数:
参数 | 功能 |
---|---|
-F |
指定输入时用到的字段分隔符 |
-v |
自定义变量 |
-f |
从脚本中读取awk 命令 |
-m |
对val 值设置内在限制 |
常用的awk
内置变量:
awk
语法由一系列条件和动作组成,在花括号内可以有多个动作,多个动作之间用分号分隔,在多个条件和动作之间可以有若干空格,也可以没有。
变量名称 | 说明 |
---|---|
FILENAME |
当前输入文档的文件名 |
FNR |
当前输入文档的当前行号,尤其当多个输入文档时有用 |
FS |
设置字段分隔符,默认为空格或制表符 |
NF |
当前记录(行)的字段(列)个数 |
NR |
输入数据流的当前记录数(行号) |
OFS |
输出字段分隔符,默认为空格 |
ORS |
输出记录分隔符,默认为换行符 |
RS |
输入记录分隔符,默认为换行符 |
awk
是一种处理文本文件的编程语言,文件的每行数据都被称为记录,默认以空格或制表符为分隔符,每条记录被分成若干字段(列),awk
每次从文件中读取一条记录。
sort
:对文件内容进行排序sort
命令的功能是对文件内容进行排序。有时文本中的内容顺序不正确,一行行地手动修改实在太麻烦了。此时使用sort
命令就再合适不过了,它能够对文本内容进行再次排序。
语法格式:sort [参数] 文件
常用参数:
-b |
忽略每行前面开始出的空格字符 |
---|---|
-c |
检查文件是否已经按照顺序排序 |
-d |
除字母、数字及空格字符外,忽略其他字符 |
-f |
将小写字母视为大写字母 |
-i |
除040至176之间的ASCII字符外,忽略其他字符 |
-m |
将几个排序号的文件进行合并 |
-M |
将前面3个字母依照月份的缩写进行排序 |
-n |
依照数值的大小排序 |
-o <输出文件> |
将排序后的结果存入制定的文件 |
-r |
以相反的顺序来排序 |
-t <分隔字符> |
指定排序时所用的栏位分隔字符 |
-k |
指定需要排序的栏位 |
-s |
通过禁用最后的比较来稳定排序 |
sed
:批量编辑文本文件sed
命令来自于英文词组“stream editor”的缩写,其功能是用于利用语法/脚本对文本文件进行批量的编辑操作。sed
命令最初由贝尔实验室开发,后被众多Linux系统接纳集成,能够通过正则表达式对文件进行批量编辑,让需要重复的工作不再浪费时间。
sed
是非交互式的编辑器。它不会修改文件,除非使用shell重定向来保存结果。默认情况下,所有的输出行都被打印到屏幕上。sed
编辑器逐行处理文件(或输入),并将结果发送到屏幕。
sed
命令行格式为:
sed [-nefri] ‘command’ 输入文本
常用选项:
-n
:使用安静(silent)模式。在一般 sed 的用法中,所有来自 STDIN的资料一般都会被列出到萤幕上。但如果加上 -n 参数后,则只有经过sed 特殊处理的那一行(或者动作)才会被列出来。-e
:直接在指令列模式上进行 sed 的动作编辑;-f
:直接将 sed 的动作写在一个档案内, -f filename 则可以执行 filename 内的sed 动作;-r
:sed 的动作支援的是延伸型正规表示法的语法。(预设是基础正规表示法语法)-i
:直接修改读取的档案内容,而不是由萤幕输出。常用命令:
a
:新增, a 的后面可以接字串,而这些字串会在新的一行出现(目前的下一行)~c
:取代, c 的后面可以接字串,这些字串可以取代 n1,n2 之间的行!d
:删除,因为是删除啊,所以 d 后面通常不接任何咚咚;i
:插入, i 的后面可以接字串,而这些字串会在新的一行出现(目前的上一行);p
:列印,亦即将某个选择的资料印出。通常 p 会与参数 sed -n 一起运作~s
:取代,可以直接进行取代的工作哩!通常这个 s 的动作可以搭配正规表示法!例如 1,20s/old/new/g!
g
:是行内进行全局替换常用参数:
参数 | 功能 |
---|---|
-e |
以指定的脚本来处理输入的文本文件 |
-f |
以指定的脚本文件来处理输入的文本文件 |
-h |
显示帮助 |
-n |
仅显示script 处理后的结果 |
-V |
显示版本信息 |
cut
:按列提取文件内容cut
命令的功能是用于按列提取文件内容。常用的grep
命令仅能对关键词进行按行提取过滤,而cut
命令则是可以根据指定的关键词信息,针对特定的列内容进行过滤。
语法格式:cut [参数] 文件
常用参数:
-c |
以字符为单位进行分割 |
---|---|
-b |
以字节为单位进行分割 |
-d |
自定义分隔符,默认为制表符”TAB” |
-f |
显示指定字段的内容 |
-n |
取消分割多字节字符 |
--complement |
补足被选择的字节、字符或字段 |
--out-delimiter |
指定输出内容是的字段分割符 |
grep
+awk
+sort
一步一步来即可。
3306
”的行:lucky@LAPTOP-G2DIO3FV:~$ grep "3306" nowcoder.txt
tcp 0 0 172.16.56.200:41856 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49822 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49674 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:42316 172.16.34.143:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49656 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:50108 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41944 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41788 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41812 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41854 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49586 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41754 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49832 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:50372 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:50306 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49600 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41908 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41938 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49736 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41890 172.16.34.144:3306 ESTABLISHED
ESTABLISHED
”的行:lucky@LAPTOP-G2DIO3FV:~$ grep "3306" nowcoder.txt | grep "ESTABLISHED"
tcp 0 0 172.16.56.200:41856 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49822 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49674 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:42316 172.16.34.143:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49656 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:50108 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41944 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41788 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41812 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41854 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49586 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41754 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49832 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:50372 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:50306 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49600 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41908 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41938 172.16.34.144:3306 ESTABLISHED
tcp 0 0 172.16.56.200:49736 172.16.0.24:3306 ESTABLISHED
tcp 0 0 172.16.56.200:41890 172.16.34.144:3306 ESTABLISHED
lucky@LAPTOP-G2DIO3FV:~$ grep "3306" nowcoder.txt | grep "ESTABLISHED" | awk '{print $5}'
172.16.34.144:3306
172.16.0.24:3306
172.16.0.24:3306
172.16.34.143:3306
172.16.0.24:3306
172.16.0.24:3306
172.16.34.144:3306
172.16.34.144:3306
172.16.34.144:3306
172.16.34.144:3306
172.16.0.24:3306
172.16.34.144:3306
172.16.0.24:3306
172.16.0.24:3306
172.16.0.24:3306
172.16.0.24:3306
172.16.34.144:3306
172.16.34.144:3306
172.16.0.24:3306
172.16.34.144:3306
:
作为分隔符,提取第一列的IP地址,并且利用数组对IP地址进行计数:lucky@LAPTOP-G2DIO3FV:~$ grep "3306" nowcoder.txt | grep "ESTABLISHED" | awk '{print $5}' | awk -F: '{a[$1]++}END {for(k in a) print a[k]" "k}'
10 172.16.0.24
1 172.16.34.143
9 172.16.34.144
lucky@LAPTOP-G2DIO3FV:~$ grep "3306" nowcoder.txt | grep "ESTABLISHED" | awk '{print $5}' | awk -F: '{a[$1]++}END {for(k in a) print a[k]" "k}' | sort -nrk1
10 172.16.0.24
9 172.16.34.144
1 172.16.34.143
所以,最终的代码如下:
grep "3306" nowcoder.txt | grep "ESTABLISHED" | awk '{print $5}' | awk -F: '{
a[$1]++
}END {
for(k in a)
print a[k]" "k
}' | sort -nrk1
awk
+sed
+sort
这个方法和第一个方法类似。
awk
命令筛选出3306
和ESTABLISHED
的行:lucky@LAPTOP-G2DIO3FV:~$ awk ' { if($5 ~ /3306/){ if($6 == "ESTABLISHED"){ a[$5]++ } } } END{ for(x in a){ print a[x], x } }' nowcoder.txt
9 172.16.34.144:3306
1 172.16.34.143:3306
10 172.16.0.24:3306
sed
命令删除:3306
lucky@LAPTOP-G2DIO3FV:~$ awk ' { if($5 ~ /3306/){ if($6 == "ESTABLISHED"){ a[$5]++ } } } END{ for(x in a){ print a[x], x } }' nowcoder.txt | sed 's/:3306//'
9 172.16.34.144
1 172.16.34.143
10 172.16.0.24
lucky@LAPTOP-G2DIO3FV:~$ awk ' { if($5 ~ /3306/){ if($6 == "ESTABLISHED"){ a[$5]++ } } } END{ for(x in a){ print a[x], x } }' nowcoder.txt | sed 's/:3306//' | sor
t -nrk1
10 172.16.0.24
9 172.16.34.144
1 172.16.34.143
所以,最终的代码如下:
awk ' {
if($5 ~ /3306/){
if($6 == "ESTABLISHED"){
a[$5]++
}
}
} END{
for(x in a){
print a[x], x
}
}' nowcoder.txt | sed 's/:3306//' | sort -nrk1
awk
+sort
与上面的方法都类似,不多说了。
awk '{
if ($5 ~ /3306$/ && $6 == "ESTABLISHED") {
print($5)
}
}' nowcoder.txt | awk -F ':' '{
map[$1] += 1
}
END {
for (key in map) {
print(map[key], key)
}
}' | sort -nrk1
grep
+cut
+awk
+sort
cut
过滤出链接的ip,然后使用ip地址作为下标,然后进行统计,最后使用sort
进行排序。
grep 3306 nowcoder.txt | grep ESTABLISHED | cut -d : -f 2 | awk '{
a[$2]++
};END{
for (i in a)
print a[i],i
}' | sort -nrk1