linux awk命令详解一

linux awk命令详解一

一.AWK简介

    awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时

，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部

分再进行各种分析处理。

    awk有3个不同版本: awk、nawk和gawk，未作特别说明，一般指gawk，gawk 是 AWK 的 GNU 版本。

awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言 ， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。

格式  awk '{pattern + action}' {filenames}

示例:df -hP|awk  '{print $1} '  显示文件系统的第一个字段

二.awk内置变量

awk有许多内置变量用来设置环境信息，这些变量可以被改变，下面给出了最常用的一些变量。

ARGC               命令行参数个数

ARGV               命令行参数排列

ENVIRON            支持队列中系统环境变量的使用

FILENAME           awk浏览的文件名

FNR                浏览文件的记录数

FS                 指定字段分隔符，等价于命令行 -F选项

NF                 浏览记录的域的个数

NR                 已读的记录数

OFS                指定输出字段分隔符

ORS                输出记录分隔符

RS                 控制记录分隔符

其中，NF,OFS,ORS,FS最为常用。

三.AWK选项

-F  指定字段分隔符    

    cat /etc/passwd |awk  -F ':'  '{print $1}'    显示系统中所有的用户的第一个字段

    awk -F:  '{print $1，$7}' /etc/passwd   显示系统中所有的用户的第一个和第七个字段

    如果每一行的字段数不相同，又需要输出每一行的第一个和第七个字段时，则需要使用系统中  

    的内置变量NF

    awk -F:  '{print $1，$NF}' /etc/passwd

-v  声明一个变量

    awk -v FS=:   '{print $1，$7}' /etc/passwd  

    awk -v OFS=:  '{print $1，$7}' /etc/passwd 

四.AWK输出重定向

print items > file   输出到文件（覆盖）

print items >> file  追加到文件

print items | command  输出的结果通过管道给另外一个命令

**特殊的文件描述符

/dev/stdin    标准输入

/dev/stdout   标准输出

/dev/stderr   标准输出

/dev/fd/N     某特定文件描述符，如/dev/stdin相当于/dev/fd/0

示例：

awk -F: '{printf "%-15s %i\n",$1,$3>"/dev/stderr"}' >/tmp/error.log

五.AWK模式

1. regexp:正则表达式，格式/regulai expression/

示例:打印匹配到的含有bash的行的第一和七个字段显示出来

awk -F: '/bash/{print $1,$7}'  /etc/passwd  

   

2.expression:表达式，其值为0或者非空是满足条件。如$1 ~ /foo/或者$!=="foo"用运算符~和~

！匹配。

示例:

打印id号大于等于500的用户名和ID

awk -F:  '$3>=500{print $1，$3}'  /etc/passwd

3.Ranges:指定匹配范围，格式为pat1,pat2

4.BEGIN/END  :特殊模式，

示例:打印/etc/passwd文件中的用户名和UID。

awk -F:  'BEGIN{print "username     uid"}{printf "%-13s%s\n",$1,$3} END{print "print complete "}'  /etc/passwd

5.empty ：匹配任意输入行

六.awk入门实例

1. 显示最近登录的5个帐号.

   last -n 5 | awk  '{print $1}'

2. 显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以逗号分割,而且在所有行添加列名name,shell,在最后一行添加"blue,/bin/nosh"。

   cat /etc/passwd |awk  -F ':'  'BEGIN {print "name,shell"}  {print $1","$7} END {print "blue,/bin/nosh"}'

3. 搜索/etc/passwd有root关键字且以root开头的所有行

   awk -F: '/^root/' /etc/passwd

4. 统计/etc/passwd:文件名，每行的行号，每行的列数，对应的完整行内容:

   方法一:awk  -F ':'  '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd

   方法二:awk  -F ':' '{printf("filename:%10s,linenumber:%s,columns:%s,linecontent:%s\n",FILENAME,NR,NF,$0)}' /etc/passwd