linux命令三剑客

1. 正则表达式

正则表达式，又称规则表达式。（英语：Regular Expression，在代码中常简写为regex、regexp或RE），计算机科学的一个概念。正则表达式是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。

要想真正的用好正则表达式，正确的理解元字符是最重要的事情。下表列出了所有的元字符和对它们的一个简短的描述。

\ 将下一个字符标记符、或一个向后引用、或一个八进制转义符。例如，“\\n”匹配\n。“\n”匹配换行符。序列“\\”匹配“\”而“\(”则匹配“(”。即相当于多种编程语言中都有的“转义字符”的概念。

^ 匹配输入字符串的开始位置。如果设置了RegExp对象的Multiline属性，^也匹配“\n”或“\r”之后的位置。

$ 匹配输入字符串的结束位置。如果设置了RegExp对象的Multiline属性，$也匹配“\n”或“\r”之前的位置。

* 匹配前面的子表达式任意次。例如，zo*能匹配“z”，也能匹配“zo”以及“zoo”。

+ 匹配前面的子表达式一次或多次(大于等于1次）。例如，“zo+”能匹配“zo”以及“zoo”，但不能匹配“z”。+等价于{1,}。

? 匹配前面的子表达式零次或一次。例如，“do(es)?”可以匹配“do”或“does”中的“do”。?等价于{0,1}。

{n} n是一个非负整数。匹配确定的n次。例如，“o{2}”不能匹配“Bob”中的“o”，但是能匹配“food”中的两个o。

{n,} n是一个非负整数。至少匹配n次。例如，“o{2,}”不能匹配“Bob”中的“o”，但能匹配“foooood”中的所有o。“o{1,}”等价于“o+”。“o{0,}”则等价于“o*”。

{n,m} m和n均为非负整数，其中n<=m。最少匹配n次且最多匹配m次。例如，“o{1,3}”将匹配“fooooood”中的前三个o为一组，后三个o为一组。“o{0,1}”等价于“o?”。请注意在逗号和两个数之间不能有空格。

? 当该字符紧跟在任何一个其他限制符（*,+,?，{n}，{n,}，{n,m}）后面时，匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串，而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如，对于字符串“oooo”，“o+”将尽可能多的匹配“o”，得到结果[“oooo”]，而“o+?”将尽可能少的匹配“o”，得到结果 [‘o’, ‘o’, ‘o’, ‘o’]

. 点,匹配除“\r\n”之外的任何单个字符。要匹配包括“\r\n”在内的任何字符，请使用像“[\s\S]”的模式。

(pattern) 匹配pattern并获取这一匹配。所获取的匹配可以从产生的Matches集合得到，在VBScript中使用SubMatches集合，在JScript中则使用$0…$9属性。要匹配圆括号字符，请使用“\(”或“\)”。

(?:pattern) 非获取匹配，匹配pattern但不获取匹配结果，不进行存储供以后使用。这在使用或字符“(|)”来组合一个模式的各个部分时很有用。例如“industr(?:y|ies)”就是一个比“industry|industries”更简略的表达式。

(?=pattern) 非获取匹配，正向肯定预查，在任何匹配pattern的字符串开始处匹配查找字符串，该匹配不需要获取供以后使用。例如，“Windows(?=95|98|NT|2000)”能匹配“Windows2000”中的“Windows”，但不能匹配“Windows3.1”中的“Windows”。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。

(?!pattern) 非获取匹配，正向否定预查，在任何不匹配pattern的字符串开始处匹配查找字符串，该匹配不需要获取供以后使用。例如“Windows(?!95|98|NT|2000)”能匹配“Windows3.1”中的“Windows”，但不能匹配“Windows2000”中的“Windows”。

(?<=pattern) 非获取匹配，反向肯定预查，与正向肯定预查类似，只是方向相反。例如，“(?<=95|98|NT|2000)Windows”能匹配“2000Windows”中的“Windows”，但不能匹配“3.1Windows”中的“Windows”。

(?<!pattern) 非获取匹配，反向否定预查，与正向否定预查类似，只是方向相反。例如“(?<!95|98|NT|2000)Windows”能匹配“3.1Windows”中的“Windows”，但不能匹配“2000Windows”中的“Windows”。这个地方不正确，有问题

此处用或任意一项都不能超过2位，如“(?<!95|98|NT|20)Windows正确，“(?<!95|980|NT|20)Windows 报错，若是单独使用则无限制，如(?<!2000)Windows 正确匹配

x|y 匹配x或y。例如，“z|food”能匹配“z”或“food”(此处请谨慎)。“[z|f]ood”则匹配“zood”或“food”或”|ood”。

[xyz] 字符集合。匹配所包含的任意一个字符。例如，“[abc]”可以匹配“plain”中的“a”。

[^xyz] 负值字符集合。匹配未包含的任意字符。例如，“[^abc]”可以匹配“plain”中的“plin”。

[a-z] 字符范围。匹配指定范围内的任意字符。例如，“[a-z]”可以匹配“a”到“z”范围内的任意小写字母字符。

注意:只有连字符在字符组内部时,并且出现在两个字符之间时,才能表示字符的范围; 如果出字符组的开头,则只能表示连字符本身.

[^a-z] 负值字符范围。匹配任何不在指定范围内的任意字符。例如，“[^a-z]”可以匹配任何不在“a”到“z”范围内的任意字符。

\b 匹配一个单词边界，也就是指单词和空格间的位置（即正则表达式的“匹配”有两种概念，一种是匹配字符，一种是匹配位置，这里的\b就是匹配位置的）。例如，“er\b”可以匹配“never”中的“er”，但不能匹配“verb”中的“er”。

\B 匹配非单词边界。“er\B”能匹配“verb”中的“er”，但不能匹配“never”中的“er”。

\cx 匹配由x指明的控制字符。例如，\cM匹配一个Control-M或回车符。x的值必须为A-Z或a-z之一。否则，将c视为一个原义的“c”字符。

\d 匹配一个数字字符。等价于[0-9]。grep 要加上-P，perl正则支持

\D 匹配一个非数字字符。等价于[^0-9]。grep要加上-P，perl正则支持

\f 匹配一个换页符。等价于\x0c和\cL。

\n 匹配一个换行符。等价于\x0a和\cJ。

\r 匹配一个回车符。等价于\x0d和\cM。

\s 匹配任何不可见字符，包括空格、制表符、换页符等等。等价于[ \f\n\r\t\v]。

\S 匹配任何可见字符。等价于[^ \f\n\r\t\v]。

\t 匹配一个制表符。等价于\x09和\cI。

\v 匹配一个垂直制表符。等价于\x0b和\cK。

\w 匹配包括下划线的任何单词字符。类似但不等价于“[A-Za-z0-9_]”，这里的”单词”字符使用Unicode字符集。

\W 匹配任何非单词字符。等价于“[^A-Za-z0-9_]”。

\xn 匹配n，其中n为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如，“\x41”匹配“A”。“\x041”则等价于“\x04&1”。正则表达式中可以使用ASCII编码。

\num 匹配num，其中num是一个正整数。对所获取的匹配的引用。例如，“(.)\1”匹配两个连续的相同字符。

\n 标识一个八进制转义值或一个向后引用。如果\n之前至少n个获取的子表达式，则n为向后引用。否则，如果n为八进制数字（0-7），则n为一个八进制转义值。

\nm 标识一个八进制转义值或一个向后引用。如果\nm之前至少有nm个获得子表达式，则nm为向后引用。如果\nm之前至少有n个获取，则n为一个后跟文字m的向后引用。如果前面的条件都不满足，若n和m均为八进制数字（0-7），则\nm将匹配八进制转义值nm。

\nml 如果n为八进制数字（0-7），且m和l均为八进制数字（0-7），则匹配八进制转义值nml。

\un 匹配n，其中n是一个用四个十六进制数字表示的Unicode字符。例如，\u00A9匹配版权符号（©）。

\p{P} 小写 p 是 property 的意思，表示 Unicode 属性，用于 Unicode 正表达式的前缀。中括号内的“P”表示Unicode 字符集七个字符属性之一：标点字符。

其他六个属性：

L：字母；

M：标记符号（一般不会单独出现）；

Z：分隔符（比如空格、换行等）；

S：符号（比如数学符号、货币符号等）；

N：数字（比如阿拉伯数字、罗马数字等）；

C：其他字符。

*注：此语法部分语言不支持，例：javascript。

\<

\>

匹配词（word）的开始（\<）和结束（\>）。例如正则表达式\<the\>能够匹配字符串”for the wise”中的”the”，但是不能匹配字符串”otherwise”中的”the”。注意：这个元字符不是所有的软件都支持的。

( ) 将( 和 ) 之间的表达式定义为“组”（group），并且将匹配这个表达式的字符保存到一个临时区域（一个正则表达式中最多可以保存9个），它们可以用 \1 到\9 的符号来引用。

| 将两个匹配条件进行逻辑“或”（Or）运算。例如正则表达式(him|her) 匹配”it belongs to him”和”it belongs to her”，但是不能匹配”it belongs to them.”。注意：这个元字符不是所有的软件都支持的。

在linux中，通配符是由shell解释的，而正则表达式则是由命令解释的，下面我们就为大家介绍三种文本处理工具/命令：grep、sed、awk，它们三者均可以解释正则。

• Awk讲解

2. Awk介绍

awk 是一种编程语言，用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入、一个或多个文件，或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能，是linux/unix下的一个强大编程工具。它在命令行中使用，但更多是作为脚本来使用。awk的处理文本和数据的方式是这样的，它逐行扫描文件，从第一行到最后一行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。如果没有指定处理动作，则把匹配的行显示到标准输出 (屏幕)，如果没有指定模式，则所有被操作所指定的行都被处理。awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人，分别是Alfred Aho、Brian Kernighan、Peter Weinberger。gawk是awk的GNU版本，它提供了Bell实验室和GNU的一些扩展。下面介绍的awk是以GUN的gawk为例的，在 linux系统中已把awk链接到gawk，所以下面全部以awk进行介绍。

3. awk的内置变量

 

$0：当前记录

$1~$n：当前记录的第n个字段

FS：输入字段分隔符，默认是空格

RS：输入记录分割符，默认为换行符

NF：当前记录中的字段个数，就是有多少列

NR：已经读出的记录数，就是行号，从1开始

OFS：输出字段分隔符，默认也是空格

ORS：输出的记录分隔符，默认为换行符

例如：

awk -F ‘:’ ‘{print “username:” $1 “\t\tuid:” $3}’ /etc/passwd

awk ‘BEGIN{FS=”\t+”}{print $1,$2,$3}’ tab.txt

awk -F [” “:]+ ‘{print $1,$2,$3}’ /etc/passwd

awk -F “:” ‘NF==7{print $0}’ /etc/passwd

ifconfig eth0| awk -F [” “:]+ ‘NR==2{print $4}’

4. 模式和操作

awk脚本是由模式和操作组成的：

awk option ‘pattern {action}‘ file如$ awk ‘/root/’ test，或$ awk ‘$3 < 100’ test

两者是可选的，如果没有模式，则action应用到全部记录，如果没有action，则输出匹配全部记录。默认情况下，每一个输入行都是一条记录，但用户可通过RS变量指定不同的分隔符进行分隔。

pattern(模式)

模式可以是以下任意一个：

• /正则表达式/：使用通配符的扩展集。

netstat -na|awk ‘/^tcp/ {s[$NF]++}END{for (key in s) print s[key]”\t”key}’|sort -rn

• 关系表达式：可以用下面运算符表中的关系运算符进行操作，可以是字符串或数字的比较，如$2>%1选择第二个字段比第一个字段长的行。

awk ‘$2!=$3 || $3!=$4 {print $0}’ table_size/*/*

• 模式匹配表达式：用运算符~(匹配)和~!(不匹配)。

cat pv.`date +%Y%m%d%H`.txt|awk -F’|’ ‘{if ($1 ~ /^-/) {print $3} print $1}’

• 模式，模式：指定一个行的范围。该语法不能包括BEGIN和END模式。
• BEGIN：让用户指定在第一条输入记录被处理之前所发生的动作，通常可在这里设置全局变量。
• END：让用户在最后一条输入记录被读取之后发生的动作。

action（操作）

操作由一人或多个命令、函数、表达式组成，之间由换行符或分号隔开，并位于大括号内。主要有四部份：

• 变量或数组赋值
• 输出命令
• 内置函数
• 控制流命令

5. 运算符

运算符	描  述
=、+=、-=、*=、/=、%=、^=、**=	赋值语句
||、&&	逻辑或、逻辑与
~ 、!~	匹配正则表达式和不匹配正则表达式
< <= > >= != ==	关系运算符
+、-、*、/、&、^、***	加减乘除求余幂
+、-、!	一元加，减和逻辑非
++、–	增加或减少，作为前缀或后缀
$	字段引用
空格	字符串链接符
?	三目运算符
in	数组成员

• 范例：

[root@mysql ~]# awk ‘BEGIN{a=5;a+=5;print a}’     #算术运算符

10

[root@mysql ~]# awk ‘BEGIN{a=1;b=2;print (a>2&&b>1,a=1||b>1)}’      #逻辑运算符

0 1

[root@mysql ~]# awk ‘BEGIN{a=”100testaaa”;if(a~/100/){print “ok”}}’   #正则运算符

ok

[root@mysql ~]# awk ‘BEGIN{a=11;if(a>=9){print “ok”}}’       #关系运算符

ok

[root@mysql ~]# awk ‘BEGIN{a=”b”;print a++,++a}’     #算术运算符

0 2

[root@mysql ~]# awk ‘BEGIN{a=”20b4″;print a++,++a}’

20 22

[root@mysql ~]# awk ‘BEGIN{a=”b”;print a==”b”?”ok”:”err”}’  #三目运算符

ok

[root@mysql ~]# awk ‘BEGIN{a=”b”;print a==”c”?”ok”:”err”}’

err

6. 记录和域

• 记录

awk把每一个以换行符结束的行称为一个记录。

记录分隔符：默认的输入和输出的分隔符都是回车，保存在内建变量ORS和RS中。

$0变量：它指的是整条记录。如awk ‘{print $0}’ test将输出test文件中的所有记录。

变量NR：一个计数器，每处理完一条记录，NR的值就增加1。如$ awk ‘{print NR,$0}’ test将输出test文件中所有记录，并在记录前显示记录号

• 域

记录中每个单词称做“域”，默认情况下以空格或tab分隔。awk可跟踪域的个数，并在内建变量NF中保存该值。如$ awk ‘{print $1,$3}’ test将打印test文件中第一和第三个以空格分开的列(域)。

7. awk正则

元字符	功能	示例	解释
^	行首定位符	/^root/	匹配所有以root开头的行
$	行尾定位符	/root$/	匹配所有以root结尾的行
.	匹配任意单个字符	/r..t/	匹配字母rxxt的行
*	匹配0个或多个前导字符(包括回车)	/a*ool/	匹配0个或多个a之后紧跟着ool的行，比如ool，aaaaool等
+	匹配1个或多个前	/a+b/	匹配1个或多个a加b的行，比如ab,aab等
?	匹配0个或1个前导字符	/a?b/	匹配b或ab的行
[]	匹配指定字符组内的任意一个字符	/^[abc]/	匹配以字母a或b或c开头的行
[^]	匹配不在指定字符组内任意一个字符	/^[^abc]/	匹配不以字母a、b或c开头的行
()	子表达式组合	/(rool)+/	表示一个或多个rool组合，当有一些字符需要组合时，使用括号括起来
|	或者的意思	/(root)|B/	匹配root或者B的行
\	转义字符	/a\/\//	匹配a//
~,!~	匹配，不匹配的条件语句	$1~/root/	匹配第一个字段包含字符root的所有记录
x{m}	x重复m次	/(root){3}	需要注意一点的是，root加括号和不加括号的区别，x可以表示字符串也可以只是一个字符
x{m,}	x重复至少m次	/(root){3,}/
X{m,n}	x重复至少m次,但不超过n次	/(root){5,6}/