19. awk 命令详解

awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。

awk命令形式 ： awk [-F|-f|-v] ‘BEGIN{} // {command1; command2} END{}’ file

awk语法解释

[-F|-f|-v] 大参数。-F指定分隔符，-f调用脚本，-v定义变量 var=value

' '  引用代码块。
BEGIN  初始化代码块。在对每一行进行处理之前，初始化代码，主要是引用全局变量，设置FS分隔符
//  匹配代码块。可以是字符串或正则表达式
{}  命令代码块。包含一条或多条命令，多条命令使用分号分隔
END  结尾代码块。在对每一行进行处理之后再执行的代码块，主要是进行最终计算或输出结尾摘要信息

一般使用方法 ： awk '{pattern + action}' {filenames}

尽管操作可能会很复杂，但语法总是这样，其中 pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式，用斜杠括起来。

awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。

awk内置变量

ARGC 命令行参数个数
ARGV 命令行参数排列
ENVIRON 支持队列中系统环境变量的使用
FILENAME awk浏览的文件名
FNR 浏览文件的记录数
FS 设置输入域分隔符，等价于命令行 -F选项
NF 浏览记录的域的个数
NR 已读的记录数
OFS 输出域分隔符
ORS 输出记录分隔符
RS 控制记录分隔符
$0变量是指整条记录。$1表示当前行的第一个域,$2表示当前行的第二个域,......以此类推。
1
$NF是number finally,表示最后一列的信息，跟变量NF是有区别的，变量NF统计的是每行列的总数

awk擅长列输出

1）搜索/etc/passwd有root关键字的所有行

awk '/root/' /etc/passwd  ///【这种是pattern的使用，匹配了pattern(这里是root)的行才会执行action(没有指定action，默认输出每行的内容)】

2) 搜索/etc/passwd有root关键字的所有行，并显示对应的shell

awk -F: '/root/ {print $7}' /etc/passwd

3）统计/etc/passwd:文件名，每行的行号，每行的列数，对应的完整行内容:

awk -F ':' '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd

使用printf替代print,可以让代码更加简洁，易读

awk -F: '{printf ("filename:%10s, linenumber:%3s,column:%3s,content:%3f\n",FILENAME,NR,NF,$0)}' /etc/passwd

4）打印/etc/passwd/的第二行信息

awk -F: 'NR==2{print "filename: "FILENAME, $0}' /etc/passwd

5）awk的过滤使用方法

ls -laF | awk '/^d/'

6)指定特定的分隔符，查询第一列 ;指定特定的分隔符，查询最后一列; 指定特定的分隔符，查询倒数第二列

awk -F ":" '{print $1}' /etc/passwd ; awk -F ":" '{print $NF}' /etc/passwd ; awk -F ":" '{print $NF -1}' /etc/passwd

7) 获取第21到30行的第一列的信息

awk -F ":"  '{if(NR<30 && NR >21) print $1}' /etc/passwd

8)多分隔符的使用

awk -F "[/]" 'NR == 4 {print $0,"\n",$1}' /etc/passwd  //这里以/为分隔符，多个分隔符利用[]然后在里面写分隔符即可

9)使用BEGIN 和 END

cat /etc/passwd | awk -F: 'BEGIN{print "name, shell"} {print $1,$NF} END{print "hello  world"}'

10）查看最近登录最多的IP信息

last | awk '{S[$3]++} END{for(a in S ) {print S[a],a}}' |uniq| sort -rh