linux的awk和sed等命令比较

对于文本的操作分为两种操作，一种是按行操作，一种是按列操作。
简单的命令有grep（行操作）和cut（列操作）。
复杂点的有sed（行操作）和awk（列操作）。
样例文本

hello tom
hi marry
how are you

什么是行操作：简单的例子就是，获取上面文本中带有hello的行就是行操作。
什么是列操作：简单的例子就是获取上面文本中的第一列操作。

grep

package com.zzrenfeng.linux;
/**
 * grep命令
 * 
 * @author hanlipeng
 *
 */
public class Grep {


/**
 * [options]主要參数：
 * －c：仅仅输出匹配行的计数。
 * －I：不区分大 小写(仅仅适用于单字符)。
 * －h：查询多文件时不显示文件名称。
 * －l：查询多文件时仅仅输出包括匹配字符的文件名称。
 * －n：显示匹配行及 行号。
 * －s：不显示不存在或无匹配文本的错误信息。
 * －v：显示不包括匹配文本的全部行。
 * 
 * 命令正則表達式:

 * . 匹配单个字符 如..X  yiX能查出来
 * ^ 匹配行首 ^d 每行第一个字符为d
 * $ 匹配行尾 T$ 每行最后一个字符为T
 * 匹配随意字符串
 * \ 屏蔽特殊字符的含义
 * A\{2\}B 字母A出现两次
 * A\{2,\}B 至少出现两次
 * A\{2,4\}B 出现2到4次
 * [0-9]\{4\}xx[0-9]\{4\} 前四个是数字，中间是xx,后四个是数字
 * 
 * 简单实用
 * 过滤出行里面有hello的行
 * grep 'hello' filename.txt
 * 
 * 过滤出所有行里面不含hello的行 
 * grep -v 'hello' filename.txt
 * 
 */

}

cut（里面附带了sort，wc，uniq操作）

package com.zzrenfeng.linux;
/**
 * cut用法
 * 命令可以从一个文本文件或者文本流中提取文本列。
 * 
 * sort wc uniq
 * @author rf
 *
 */
public class Cut {
/**
 * cut的用法：cut是对列进行截取的 相当于awk的用法
 * 
 * 将 PATH 变量取出，我要找出第五个路径。
 * echo $PATH | cut -d ':' -f 5
 * 
 * 将 PATH 变量取出，我要找出第三和第五个路径。
 * echo $PATH | cut -d ':' -f 3,5
 * 
 * 将 PATH 变量取出，我要找出第三到最后一个路径。
 * echo $PATH | cut -d ':' -f 3-
 * 
 * 将 PATH 变量取出，我要找出第一到第三个路径。
 * echo $PATH | cut -d ':' -f 1-3
 */

/**
 * wc的命令
 * 
 * wc主要是进行统计的
 * wc -l /etc/passwd   #统计行数，在对记录数时，很常用
 * wc -w /etc/passwd  #统计单词出现次
 * wc -m /etc/passwd  #统计文件的字符数
 */

/**
 * sort [-fbMnrtuk] [file or stdin]
 * 
 * 选项与参数：
 * -f  ：忽略大小写的差异，例如 A 与 a 视为编码相同；
 * -b  ：忽略最前面的空格符部分；
 * -M  ：以月份的名字来排序，例如 JAN, DEC 等等的排序方法；
 * -n  ：使用『纯数字』进行排序(默认是以文字型态来排序的)；
 * -r  ：反向排序；
 * -u  ：就是 uniq ，相同的数据中，仅出现一行代表；
 * -t  ：分隔符，默认是用 [tab] 键来分隔；
 * -k  ：以那个区间 (field) 来进行排序的意思
 * 
 * sort 是默认以第一个数据来排序，而且默认是以字符串形式来排序,所以由字母 a 开始升序排序。
 * 
 * 内容是以 : 来分隔的，我想以第三栏来排序，该如何
 * cat /etc/passwd | sort -t ':' -k 3
 * 
 * 默认是以字符串来排序的，如果想要使用数字排序：
 * cat /etc/passwd | sort -t ':' -k 3n
 * 
 * 默认是升序排序，如果要倒序排序，如下
 * cat /etc/passwd | sort -t ':' -k 3nr
 * 
 * 如果要对/etc/passwd,先以第六个域的第2个字符到第4个字符进行正向排序，再基于第一个域进行反向排序。
 * cat /etc/passwd |  sort -t':' -k 6.2,6.4 -k 1r 
 * 
 * 查看/etc/passwd有多少个shell:对/etc/passwd的第七个域进行排序，然后去重:
 * cat /etc/passwd |  sort -t':' -k 7 -u
 */

/**
 * uniq [-icu]
 * 
 * 选项与参数：
 * -i   ：忽略大小写字符的不同；
 * -c  ：进行计数
 * -u  ：只显示唯一的行
 * 
 * 注意：去重需要先排序，也就是只有两行是一块的才能去重
 */
}

sed

package com.zzrenfeng.linux;
/**
 * sed 是一种在线编辑器，它一次处理一行内容
 * 
 * @author hanlipeng
 *
 */
public class Sed {


/**
 * sed用法
 * 
 * 删除：d命令
 * sed '2d' example-----删除example文件的第二行。
 * sed '2,$d' example-----删除example文件的第二行到末尾所有行。
 * sed '$d' example-----删除example文件的最后一行。
 * sed '/test/'d example-----删除example文件所有包含test的行。
 * sed -i '2d' example-----删除会被回写到文件，不加-i不会改变源文件
 * 
 * 替换：s命令
 * sed 's/test/mytest/g' example-----在整行范围内把test替换为mytest。如果没有g标记，则只有每行第一个匹配的test被替换成mytest。
 * sed -n 's/^test/mytest/p' example-----(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说，如果某一行开头的test被替换成mytest，就打印它。
 * sed 's/^192.168.0.1/&localhost/' example-----&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加 localhost，变成192.168.0.1localhost。
 * sed -n 's/\(love\)able/\1rs/p' example-----love被标记为1，所有loveable会被替换成lovers，而且替换的行会被打印出来。
 * sed 's#10#100#g' example-----不论什么字符，紧跟着s命令的都被认为是新的分隔符，所以，“#”在这里是分隔符，代替了默认的“/”分隔符。表示把所有10替换成100。
 * 选定行的范围：逗号
 * 
 * 
 * 多点编辑：e命令
 * sed -e '1,5d' -e 's/test/check/' example-----(-e)选项允许在同一行里执行多条命令。如例子所示，第一条命令删除1至5行，第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令，那么第一个替换命令将影响第二个替换命令的结果。
 * 
 * 从文件读入：r命令
 * sed '/test/r file' example-----file里的内容被读进来，显示在与test匹配的行后面，如果匹配多行，则file的内容将显示在所有匹配行的下面。
 * 
 * 写入文件：w命令
 * sed -n '/test/w file' example-----在example中所有包含test的行都被写入file里。
 * 
 * 追加命令：a命令
 * sed '/^test/a\\--->this is a example' example    '----->this is a example'被追加到以test开头的行后面，sed要求命令a后面有一个反斜杠。
 * 
 * 插入：i命令
 * sed '/test/i\\
 * 
 * 
 * 后面的命令看help吧
 */

}

awk

package com.zzrenfeng.linux;
/**
 * awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。
 * 
 * @author hanlipeng
 *
 */
public class Awk {

/**
 * awk
 * 
 * 如果只是显示最近登录的5个帐号
 * last -n 5 | awk  '{print $1}'
 * 
 * 如果只是显示/etc/passwd的账户
 * cat /etc/passwd |awk  -F ':'  '{print $1}'
 * 
 * 如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以tab键分割
 * cat /etc/passwd |awk  -F ':'  '{print $1"\t"$7}'
 * 
 * 如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以逗号分割,而且在所有行添加列名name,shell,在最后一行添加"blue,/bin/nosh"。
 * cat /etc/passwd |awk  -F ':'  'BEGIN {print "name,shell"}  {print $1","$7} END {print "blue,/bin/nosh"}'
 * 
 * 搜索/etc/passwd有root关键字的所有行
 * awk -F: '/root/' /etc/passwd
 * 
 * 搜索支持正则，例如找root开头的: awk -F: '/^root/' /etc/passwd
 * 
 * 搜索/etc/passwd有root关键字的所有行，并显示对应的shell
 * awk -F: '/root/{print $7}' /etc/passwd
 * 
 * awk内置变量
 * awk有许多内置变量用来设置环境信息，这些变量可以被改变，下面给出了最常用的一些变量。
 * 
 *  
 * ARGC               命令行参数个数
 * ARGV               命令行参数排列
 * ENVIRON            支持队列中系统环境变量的使用
 * FILENAME           awk浏览的文件名
 * FNR                浏览文件的记录数
 * FS                 设置输入域分隔符，等价于命令行 -F选项
 * NF                 浏览记录的域的个数
 * NR                 已读的记录数
 * OFS                输出域分隔符
 * ORS                输出记录分隔符
 * RS                 控制记录分隔符
 * 
 * 统计/etc/passwd:文件名，每行的行号，每行的列数，对应的完整行内容:
 * 
 * #awk  -F ':'  '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd
 * filename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bash
 * filename:/etc/passwd,linenumber:2,columns:7,linecontent:daemon:x:1:1:daemon:/usr/sbin:/bin/sh
 * filename:/etc/passwd,linenumber:3,columns:7,linecontent:bin:x:2:2:bin:/bin:/bin/sh
 * filename:/etc/passwd,linenumber:4,columns:7,linecontent:sys:x:3:3:sys:/dev:/bin/sh
 * 
 * 
 * 使用printf替代print,可以让代码更加简洁，易读
 * awk  -F ':'  '{printf("filename:%s,linenumber:%s,columns:%s,linecontent:%s\n",FILENAME,NR,NF,$0)}' /etc/passwd
 * 
 * 
 * 
 * 高级awk编程
 * 除了awk的内置变量，awk还可以自定义变量
 * 
 * 下面统计/etc/passwd的账户人数
 * awk '{count++;print $0;} END{print "user count is ", count}' /etc/passwd
 * root:x:0:0:root:/root:/bin/bash
 * ......
 * user count is  40
 * 
 * 这里没有初始化count，虽然默认是0，但是妥当的做法还是初始化为0:
 * awk 'BEGIN {count=0;print "[start]user count is ", count} {count=count+1;print $0;} END{print "[end]user count is ", count}' /etc/passwd
 * [start]user count is  0
 * root:x:0:0:root:/root:/bin/bash
 * ...
 * [end]user count is  40
 * 
 * 
 * 统计某个文件夹下的文件占用的字节数
 * ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size}'
 * [end]size is  8657198
 *  
 * 
 * 如果以M为单位显示:
 * ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size/1024/1024,"M"}' 
 * [end]size is  8.25889 M
 * 注意，统计不包括文件夹的子目录。
 * 
 * 
 */

/**
 * 条件语句以后需要了再进行学习

 awk中的条件语句是从C语言中借鉴来的，见如下声明方式：


if (expression) {
    statement;
    statement;
    ... ...
}

if (expression) {
    statement;
} else {
    statement2;
}

if (expression) {
    statement1;
} else if (expression1) {
    statement2;
} else {
    statement3;
}



统计某个文件夹下的文件占用的字节数,过滤4096大小的文件(一般都是文件夹):

ls -l |awk 'BEGIN {size=0;print "[start]size is ", size} {if($5!=4096){size=size+$5;}} END{print "[end]size is ", size/1024/1024,"M"}' 
[end]size is  8.22339 M


循环语句

awk中的循环语句同样借鉴于C语言，支持while、do/while、for、break、continue，这些关键字的语义和C语言中的语义完全相同。



数组

  因为awk中数组的下标可以是数字和字母，数组的下标通常被称为关键字(key)。值和关键字都存储在内部的一张针对key/value应用hash的表格里。由于hash不是顺序存储，因此在显示数组内容时会发现，它们并不是按照你预料的顺序显示出来的。数组和变量一样，都是在使用时自动创建的，awk也同样会自动判断其存储的是数字还是字符串。一般而言，awk中的数组用来从记录中收集信息，可以用于计算总和、统计单词以及跟踪模板被匹配的次数等等。



显示/etc/passwd的账户


awk -F ':' 'BEGIN {count=0;} {name[count] = $1;count++;}; END{for (i = 0; i < NR; i++) print i, name[i]}' /etc/passwd
0 root
1 daemon
2 bin
3 sys
4 sync
5 games
......

这里使用for循环遍历数组
 */

}