awk使用及案例精选
目录
1、什么是awk
2、awk的命令和选项
命令格式
3、awk变量
awk的内置变量（预定义变量）
自定义变量
② 在执行动作print后定义变量
4、awk流程控制语句
1、awk控制语句（if-else）
2、awk控制语句（while循环）
3、awk控制语句（do-while循环）
4、awk控制语句（for循环）
特殊用法：遍历数组中的元素
5、其他语句
5、awk数组
关联数组：array[index-expression]
1、数组使用
1、数组的基本使用案例
2、数组遍历
6、awk脚本编写
1、将awk程序直接编为脚本，用于调用或者执行
2、向awk脚本进行参数传递
1、什么是awk
awk 是一种编程语言，用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入(stdin)、一个或多个文件，或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能，是linux/unix下的一个强大编程工具。它在命令行中使用，但更多是作为脚本来使用。awk有很多内建的功能，比如数组、函数等，这是它和C语言的相同之处，灵活性是awk最大的优势。
2、awk的命令和选项
命令格式
awk [options] 'script' var=value file(s)
awk [options] -f scriptfile var=value file
基本用法
# 输出a.txt中的每一行
awk '{print $0}' a.txt
# 多个代码块，代码块中多个语句
# 输出每行之后还输出两行：hello行和world行
awk '{print $0}{print "hello";print "world"}' a.txt
命令选项
1. -F fs：**fs指定输入分隔符，fs可以是字符串或正则表达式，如-F:，默认的分隔符是连续的空格或制表符。
2. -v var=value：**赋值一个用户定义变量，将外部变量传递给awk。
3. -f scripfile：**从脚本文件中读取awk命令。
4. -m[fr] val：**对val值设置内在限制，-mf选项限制分配给val的最大块数目；-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能，在标准awk中不适用。
3、awk变量
awk变量分为内置变量和自定义变量，变量前加-v选项
awk的内置变量（预定义变量）
格式：
-
FS ：输入字段分隔符，默认为空白字符
-
OFS ：输出字段分隔符，默认为空白字符
-
RS ：输入记录分隔符，指定输入时的换行符，原换行符仍有效
-
ORS ：输出记录分隔符，输出时用指定符号代替换行符
-
NF ：字段数量，共有多少字段， $NF引用最后一列，$(NF-1)引用倒数第2列
-
NR ：行号，后可跟多个文件，第二个文件行号继续从第一个文件最后行号开始
-
FNR ：各文件分别计数, 行号，后跟一个文件和NR一样，跟多个文件，第二个文件行号从1开始
-
FILENAME ：当前文件名
-
ARGC ：命令行参数的个数
-
ARGV ：数组，保存的是命令行所给定的各参数，查看参数
实例：
[root@along ~]# cat awkdemo
hello:world
linux:redhat:lalala:hahaha
along:love:youou
[root@along ~]# awk -v FS=':' '{print $1,$2}' awkdemo #FS指定输入分隔符
hello world
linux redhat
along love
[root@along ~]# awk -v FS=':' -v OFS='---' '{print $1,$2}' awkdemo #OFS指定输出分隔符
hello---world
linux---redhat
along---love
[root@along ~]# awk -v RS=':' '{print $1,$2}' awkdemo
hello
world linux
redhat
lalala
hahaha along
love
you
[root@along ~]# awk -v FS=':' -v ORS='---' '{print $1,$2}' awkdemo
hello world---linux redhat---along love---
[root@along ~]# awk -F: '{print NF}' awkdemo
2
4
3
[root@along ~]# awk -F: '{print $(NF-1)}' awkdemo #显示倒数第2列
hello
lalala
love
[root@along ~]# awk '{print NR}' awkdemo awkdemo1
1
2
3
4
5
[root@along ~]# awk END'{print NR}' awkdemo awkdemo1
5
[root@along ~]# awk '{print FNR}' awkdemo awkdemo1
1
2
3
1
2
[root@along ~]# awk '{print FILENAME}' awkdemo
awkdemo
awkdemo
awkdemo
[root@along ~]# awk 'BEGIN {print ARGC}' awkdemo awkdemo1
3
[root@along ~]# awk 'BEGIN {print ARGV[0]}' awkdemo awkdemo1
awk
[root@along ~]# awk 'BEGIN {print ARGV[1]}' awkdemo awkdemo1
awkdemo
[root@along ~]# awk 'BEGIN {print ARGV[2]}' awkdemo awkdemo1
awkdemo1自定义变量
自定义变量( 区分字符大小写)
（1）-v var=value
① 先定义变量，后执行动作print
[root@along ~]# awk -v name="along" -F: '{print name":"$0}' awkdemo
along:hello:world
along:linux:redhat:lalala:hahaha
along:along:love:you② 在执行动作print后定义变量
[root@along ~]# awk -F: '{print name":"$0;name="along"}' awkdemo
:hello:world
along:linux:redhat:lalala:hahaha
along:along:love:you（2）在program 中直接定义
可以把执行的动作放在脚本中，直接调用脚本 -f
[root@along ~]# cat awk.txt
{name="along";print name,$1}
[root@along ~]# awk -F: -f awk.txt awkdemo
along hello
along linux
along along4、awk流程控制语句
1、awk控制语句（if-else）
if(condition){statement;…}[else statement] 单/双分支
if(condition1){statement1}else if(condition2){statement2}else{statement3} 多分支
2、awk控制语句（while循环）
while (condition){statement;…}
使用场景
对一行内的多个字段逐一类似处理时使用
对数组中的各元素逐一处理时使用
3、awk控制语句（do-while循环）
do{statement;…}while(condition)
意义：无论真假，至少执行一次循环体
4、awk控制语句（for循环）
for(expr1;expr2;expr3) {statement;…}
特殊用法：遍历数组中的元素
for(var in array){statement;...}
5、其他语句
-
break 当 break 语句用于 while 或 for 语句时，导致退出程序循环。
-
continue 当 continue 语句用于 while 或 for 语句时，使程序循环移动到下一个迭代。
-
next 能能够导致读入下一个输入行，并返回到脚本的顶部。这可以避免对当前输入行执行其他的操作过程。
-
exit 语句使主输入循环退出并将控制转移到END,如果END存在的话。如果没有定义END规则，或在END中应用exit语句，则终止脚本的执行
5、awk数组
数组是awk的灵魂，处理文本中最不能少的就是它的数组处理。因为数组索引（下标）可以是数字和字符串在awk中数组叫做关联数组(associative arrays)。awk 中的数组不必提前声明，也不必声明大小。数组元素用0或空字符串来初始化，这根据上下文而定。
关联数组：array[index-expression]
（1）可使用任意字符串；字符串要使用双引号括起来
（2）如果某数组元素事先不存在，在引用时，awk 会自动创建此元素，并将其值初始化为“空串”
（3）若要判断数组中是否存在某元素，要使用“index in array”格式进行遍历
（4）若要遍历数组中的每个元素，要使用for 循环**：for(var in array)** {for-body}
1、数组使用
1、数组的基本使用案例
[root@along ~]# cat awkdemo2
aaa
bbbb
aaa
123
123
123
---去除重复的行
[root@along ~]# awk '!arr[$0]++' awkdemo2
aaa
bbbb
123
---打印文件内容，和该行重复第几次出现
[root@along ~]# awk '{!arr[$0]++;print $0,arr[$0]}' awkdemo2
aaa 1
bbbb 1
aaa 2
123 1
123 2
123 3
把每行作为下标，第一次进来，相当于print ias…一样结果为空，打印空，!取反结果为1，打印本行，并且++变为不空，下次进来相同的行就是相同的下标，本来上次的值，！取反为空，不打印，++变为不空，所以每次重复进来的行都不打印。
2、数组遍历
[root@along ~]# awk 'BEGIN{abc["ceo"]="along";abc["coo"]="mayun";abc["cto"]="mahuateng";for(i in abc){print i,abc[i]}}'
coo mayun
ceo along
cto mahuateng
[root@along ~]# awk '{for(i=1;i<=NF;i++)abc[$i]++}END{for(j in abc)print j,abc[j]}' awkdemo2
aaa 2
bbbb 1
123 3
6、awk脚本编写
1、将awk程序直接编为脚本，用于调用或者执行
[root@along ~]# cat f1.awk
{if($3>=1000)print $1,$3}
[root@along ~]# cat f2.awk
#!/bin/awk -f
{if($3 >= 1000)print $1,$3}
[root@along ~]# chmod +x f2.awk
[root@along ~]# ./f2.awk -F: /etc/passwd
along 1000
2、向awk脚本进行参数传递
awkfile var=value var2=value2... Inputfile
在BEGIN 过程 中不可用。直到 首行输入完成以后，变量才可用 。可以通过“-v 参数”，让awk 在执行BEGIN 之前得到变量的值。命令行中每一个指定的变量都需要一个-v。