测试人社区

测试开发实战|一文轻松入门 Linux 三剑客与正则表达式(一)

image

《测试利器 Shell 教程(一)》文章中,我们学习了 Linux 文本处理三剑客 grep,awk 和 sed 的基本使用方法,本文将详细介绍正则表达式的规则。本文作者 @deerchao,原文链接见文末,略有删改。

正则表达式是什么?

在编写处理字符串的程序或网页时,经常会有查找符合某些复杂规则的字符串的需要。正则表达式就是用于描述这些规则的工具。换句话说,正则表达式就是记录 文本规则 的代码。

很可能你使用过 Windows/Dos 下用于文件查找的 通配符 (wildcard),也就是* 和 ?。如果你想查找某个目录下的所有的 Word 文档的话,你会搜索 *.doc 。在这里, * 会被解释成任意的字符串。

和通配符类似,正则表达式也是用来进行文本匹配的工具,只不过比起通配符,它能更精确地描述你的需求。当然,代价就是更复杂:比如你可以编写一个正则表达式,用来查找所有以 0 开头,后面跟着 2-3 个数字,然后是一个连字号 “-”,最后是 7 或 8 位数字的字符串 (像 010-12345678 或 0376-7654321)。

正则表达式入门

学习正则表达式的最好方法是从例子开始,理解例子之后再自己对例子进行修改,实验。下面给出了不少简单的例子,并对它们作了详细的说明。

假设你在一篇英文小说里查找 hi,你可以使用正则表达式 hi

这几乎是最简单的正则表达式了,它可以精确匹配这样的字符串:由两个字符组成,前一个字符是 h, 后一个是 i。通常,处理正则表达式的工具会提供一个忽略大小写的选项,如果选中了这个选项,它可以匹配 hi,HI,Hi,hI 这四种情况中的任意一种。

不幸的是,很多单词里包含 hi 这两个连续的字符,比如 him,history,high 等等。用 hi 来查找的话,这里边的 hi 也会被找出来。如果要精确地查找 hi 这个单词的话,我们应该使用 \bhi\b

\b 是正则表达式规定的一个特殊代码(好吧,某些人叫它 元字符 ,metacharacter),代表着单词的开头或结尾,也就是单词的分界处。虽然通常英文的单词是由空格,标点符号或者换行来分隔的,但是\b 并不匹配这些单词分隔字符中的任何一个,它只 匹配一个位置

假如你要找的是 hi 后面不远处跟着一个 Lucy,你应该用 \bhi\b.*\bLucy\b 。这里, . 是另一个元字符,匹配除了换行符以外的任意字符。 * 同样是元字符,不过它代表的不是字符,也不是位置,而是数量。它指定 * 前边的内容可以连续重复使用任意次以使整个表达式得到匹配。因此, .* 连在一起就意味着任意数量的不包含换行的字符。

现在 \bhi\b.*\bLucy\b 的意思就很明显了:先是一个单词 hi, 然后是任意个任意字符 (但不能是换行),最后是 Lucy 这个单词。

如果同时使用其它元字符,我们就能构造出功能更强大的正则表达式。比如下面这个例子:

0\d\d-\d\d\d\d\d\d\d\d 匹配这样的字符串:以 0 开头,然后是两个数字,然后是一个连字号 “-”,最后是 8 个数字 (也就是中国的电话号码。当然,这个例子只能匹配区号为 3 位的情形)。

这里的 \d 是个新的元字符,匹配一位数字 (0,或 1,或 2,或……)。 - 不是元字符,只匹配它本身。

为了避免那么多烦人的重复,我们也可以这样写这个表达式: 0\d{2}-\d{8} 。这里\d 后面的{2}({8}) 的意思是前面\d 必须连续重复匹配 2 次 (8 次)。

测试正则表达式

如果你不觉得正则表达式很难读写的话,要么你是一个天才,要么,你不是地球人。正则表达式的语法很令人头疼,即使对经常使用它的人来说也是如此。由于难于读写,容易出错,所以找一种工具对正则表达式进行测试是很有必要的。

不同的环境下正则表达式的一些细节是不相同的,本教程介绍的是微软 .Net Framework 4.5 下正则表达式的行为,所以,这里向你推荐我编写的.Net下的工具 Regester。请参考文末链接和说明来安装和运行该软件。

下面是 Regester 运行时的截图:

元字符

现在你已经知道几个很有用的元字符了,正则表达式里还有更多的元字符,比如 \s 匹配任意的空白符,包括空格,制表符 (Tab),换行符,中文全角空格等。 \w 匹配字母或数字或下划线或汉字等。

下面来看看更多的例子:

  • \ba\w*\b 匹配以字母 a 开头的单词——先是某个单词开始处 (\b),然后是字母 a, 然后是任意数量的字母或数字 (\w*),最后是单词结束处 (\b)。
  • \d+ 匹配 1 个或更多连续的数字。这里的 + 是和 * 类似的元字符,不同的是 * 匹配重复任意次 (可能是 0 次),而 + 则匹配重复 1 次或更多次。
  • \b\w{6}\b 匹配刚好 6 个字符的单词。
代码 解释
. 匹配除换行符以外的任意字符
\w 匹配字母或数字或下划线或汉字
\s 匹配任意的空白符
\d 匹配数字
\b 匹配单词的开始或结束
^ 匹配字符串的开始
$ 匹配字符串的结束

^ 代表从字符串头开始匹配, $ 表示从字符串结尾开始匹配,比如 “abcdefg”, ^abc 可以匹配上 abc, efg$ 匹配上 efg,但是 ^bcd 不可以匹配,因为 “abcdefg” 不是以 bcd 开头。这两个代码在验证输入的内容时非常有用,比如一个网站如果要求你填写的 QQ 号必须为 5 位到 12 位数字时,可以使用: ^\d{5,12}$

这里的{5,12}和前面介绍过的{2}是类似的,只不过{2}匹配只能不多不少重复 2 次,{5,12}则是重复的次数不能少于 5 次,不能多于 12 次,否则都不匹配。

因为使用了 ^$ ,所以输入的整个字符串都要用来和\d{5,12}来匹配,也就是说整个输入必须是 5 到 12 个数字,因此如果输入的 QQ 号能匹配这个正则表达式的话,那就符合要求了。和忽略大小写的选项类似,有些正则表达式处理工具还有一个处理多行的选项。如果选中了这个选项, ^$ 的意义就变成了匹配行的开始处和结束处。

字符转义

如果你想查找 元字符本身 的话,比如你查找 . , 或者 * , 就出现了问题:你没办法指定它们,因为它们会被解释成别的意思。

这时你就得使用\来取消这些字符的特殊意义。因此,你应该使用 \.\* 。当然,要查找 \ 本身,你也得用 \\

例如: testerhome\.net 匹配 testerhome.netC:\\Windows 匹配 C:\Windows

重复

你已经看过了前面几个匹配重复的方式。下面是正则表达式中所有的限定符 (指定数量的代码,例如*,{5,12}等):

代码 / 语法 说明
* 重复零次或更多次
+ 重复一次或更多次
? 重复零次或一次
{n} 重复 n 次
{n,} 重复 n 次或更多次
{n,m} 重复 n 到 m 次

下面是一些使用重复的例子:

  • Windows\d+ 匹配 Windows 后面跟 1 个或更多数字。
  • ^\w+ 匹配一行的第一个单词 (或整个字符串的第一个单词,具体匹配哪个意思得看选项设置)。

字符类

要想查找字母,数字或空白是很简单的,因为已经有了对应这些字符集合的元字符,但是如果你想匹配没有预定义元字符的字符集合 (比如元音字母 a,e,i,o,u), 应该怎么办?

很简单,你只需要在方括号里列出它们就行了,像 [aeiou] 就匹配任何一个英文元音字母, [.?!] 匹配标点符号 (. 或 ? 或 !)。

我们也可以轻松地指定一个字符范围,像 [0-9] 代表的含意与 \d 就是完全一致的:一位数字;同理 [a-z0-9A-Z_] 也完全等同于 \w (如果只考虑英文的话)。

下面是一个更复杂的表达式: \(?0\d{2}[)-]?\d{8}

这个表达式可以匹配几种格式的电话号码,像 (010)88886666,或 022-22334455,或 02912345678 等。我们对它进行一些分析吧:首先是一个转义字符(, 它能出现 0 次或 1 次 (?), 然后是一个 0,后面跟着 2 个数字 (\d{2}),然后是) 或-或空格中的一个,它出现 1 次或不出现 (?),最后是 8 个数字 (\d{8})。

分歧条件

不幸的是,刚才那个表达式也能匹配 010)12345678 或 (022-87654321 这样的 “不正确” 的格式。要解决这个问题,我们需要用到分枝条件。正则表达式里的分枝条件指的是有几种规则,如果满足其中任意一种规则都应该当成匹配,具体方法是用|把不同的规则分隔开。听不明白?没关系,看例子:

  • 0\d{2}-\d{8}|0\d{3}-\d{7}

这个表达式能匹配两种以连字号分隔的电话号码:一种是三位区号,8 位本地号 (如 010-12345678),一种是 4 位区号,7 位本地号 (0376-2233445)。

  • \(0\d{2}\)[-]?\d{8}|0\d{2}[-]?\d{8}

这个表达式匹配 3 位区号的电话号码,其中区号可以用小括号括起来,也可以不用,区号与本地号间可以用连字号或空格间隔,也可以没有间隔。你可以试试用分枝条件把这个表达式扩展成也支持 4 位区号的。

  • \d{5}-\d{4}|\d{5}

这个表达式用于匹配美国的邮政编码。美国邮编的规则是 5 位数字,或者用连字号间隔的 9 位数字。之所以要给出这个例子是因为它能说明一个问题:使用分枝条件时,要注意各个条件的顺序。

如果你把它改成 \d{5}|\d{5}-\d{4} 的话,那么就只会匹配 5 位的邮编 (以及 9 位邮编的前 5 位)。原因是匹配分枝条件时,将会从左到右地测试每个条件,如果满足了某个分枝的话,就不会去再管其它的条件了。

分组

我们已经提到了怎么重复单个字符(直接在字符后面加上限定符就行了);但如果想要重复多个字符又该怎么办?你可以用 小括号 来指定子表达式 (也叫做分组),然后你就可以指定这个子表达式的重复次数了,你也可以对子表达式进行其它一些操作 (后面会有介绍)。

  • (\d{1,3}\.){3}\d{1,3} 是一个简单的 IP 地址匹配表达式。要理解这个表达式,请按下列顺序分析它: \d{1,3} 匹配 1 到 3 位的数字, (\d{1,3}\.){3} 匹配三位数字加上一个英文句号 (这个整体也就是这个分组) 重复 3 次,最后再加上一个一到三位的数字 ( \d{1,3} )。

不幸的是,它也将匹配 256.300.888.999 这种不可能存在的 IP 地址。如果能使用算术比较的话,或许能简单地解决这个问题,但是正则表达式中并不提供关于数学的任何功能,所以只能使用冗长的分组,选择,字符类来描述一个正确的 IP 地址: ((2[0-4]\d|25[0-5]|[01]?\d\d?)\.){3}(2[0-4]\d|25[0-5]|[01]?\d\d?)

理解这个表达式的关键是理解 2[0-4]\d|25[0-5]|[01]?\d\d? ,这里我就不细说了,你自己应该能分析得出来它的意义。

反义

有时需要查找不属于某个能简单定义的字符类的字符。比如想查找除了数字以外,其它任意字符都行的情况,这时需要用到反义。

代码 / 语法 说明
\W 匹配任意不是字母,数字,下划线,汉字的字符
\S 匹配任意不是空白符的字符
\D 匹配任意非数字的字符
\B 匹配不是单词开头或结束的位置
[^x] 匹配除了 x 以外的任意字符
[^aeiou] 匹配除了 aeiou 这几个字母以外的任意字符

例子: \S+ 匹配不包含空白符的字符串。 <a[^>]+> 匹配用尖括号括起来的以 a 开头的字符串。

后向引用

使用小括号指定一个子表达式后,匹配这个子表达式的文本 (也就是此分组捕获的内容) 可以在表达式或其它程序中作进一步的处理。默认情况下,每个分组会自动拥有一个组号,规则是:从左向右,以分组的左括号为标志,第一个出现的分组的组号为 1,第二个为 2,以此类推。

后向引用用于重复搜索前面某个分组匹配的文本。例如, \1 代表分组 1 匹配的文本。难以理解?请看示例:

\b(\w+)\b\s+\1\b 可以用来匹配重复的单词,像 go go, 或者 kitty kitty。这个表达式首先是一个单词,也就是单词开始处和结束处之间的多于一个的字母或数字 ( \b(\w+)\b ),这个单词会被捕获到编号为 1 的分组中,然后是 1 个或几个空白符 ( \s+ ),最后是分组 1 中捕获的内容(也就是前面匹配的那个单词)( \1 )。

你也可以自己指定子表达式的组名。要指定一个子表达式的组名,请使用这样的语法: (?<Word>\w+) (或者把尖括号换成 ’ 也行: (?'Word'\w+) ), 这样就把 \w+ 的组名指定为 Word 了。要反向引用这个分组捕获的内容,你可以使用 \k<Word> , 所以上一个例子也可以写成这样: \b(?<Word>\w+)\b\s+\k<Word>\b

使用小括号的时候,还有很多特定用途的语法。下面列出了最常用的一些:

分类 代码 / 语法 说明
捕获 (exp) 匹配 exp, 并捕获文本到自动命名的组里
捕获 (?exp) 匹配 exp, 并捕获文本到名称为 name 的组里,也可以写成 (?'name’exp)
捕获 (?:exp) 匹配 exp, 不捕获匹配的文本,也不给此分组分配组号
零宽断言 (?=exp) 匹配 exp 前面的位置
零宽断言 (?<=exp) 匹配 exp 后面的位置
零宽断言 (?!exp) 匹配后面跟的不是 exp 的位置
零宽断言 (?<!exp) 匹配前面不是 exp 的位置
注释 (?#comment) 这种类型的分组不对正则表达式的处理产生任何影响,用于提供注释让人阅读

我们已经讨论了前两种语法。第三个 (?:exp) 不会改变正则表达式的处理方式,只是这样的组匹配的内容不会像前两种那样被捕获到某个组里面,也不会拥有组号。

零宽断言

接下来的四个用于查找在某些内容 (但并不包括这些内容) 之前或之后的东西,也就是说它们像 \b , ^ , $ 那样用于指定一个位置,这个位置应该满足一定的条件 (即断言),因此它们也被称为零宽断言。最好还是拿例子来说明吧:

(?=exp) 也叫零宽度正预测先行断言,它断言自身出现的位置的后面能匹配表达式 exp。比如 \b\w+(?=ing\b) ,匹配以 ing 结尾的单词的前面部分 (除了 ing 以外的部分),如查找 I’m singing while you’re dancing. 时,它会匹配 sing 和 danc。

(?<=exp) 也叫零宽度正回顾后发断言,它断言自身出现的位置的前面能匹配表达式 exp。比如 (?<=\bre)\w+\b 会匹配以 re 开头的单词的后半部分 (除了 re 以外的部分),例如在查找 reading a book 时,它匹配 ading。

假如你想要给一个很长的数字中每三位间加一个逗号 (当然是从右边加起了),你可以这样查找需要在前面和里面添加逗号的部分:

((?<=\d)\d{3})+\b ,用它对 1234567890 进行查找时结果是 234567890。

下面这个例子同时使用了这两种断言:

(?<=\s)\d+(?=\s) 匹配以空白符间隔的数字 (再次强调,不包括这些空白符)。

总结

Linux 三剑客和正则表达式是程序员的基础能力,也是检验一位测试工程师技能水平的侧面指标,因为主流服务器都是 Linux,服务器测试必然成为刚需。在本次学习中,我们以几个小例子入门,对三剑客和正则有了初步了解,在接下来的学习中,还要勤查,勤练,勤动手,因为命令最终是敲出来的,不是看出来的。

参考资料

  • 【正则表达式30分钟入门教程】

https://deerchao.net/tutorials/regex/regex.htm#mission

  • 【Regester 地址】

https://deerchao.net/tools/regester/index.htm