[toc]

正则表达式基本概述

正则历史

正则表达式，简写：re，全拼：（regular expression）
在某些地区，管它叫做，正规表达式、规则表达式

正则表达式的”祖先”可以一直上溯至对人类神经系统如何工作的早期研究。Warren McCulloch 和 Walter Pitts 这两
位神经生理学家研究出一种数学方式来描述这些神经网络。

1956 年, 一位叫 Stephen Kleene 的数学家在 McCulloch 和 Pitts 早期工作的基础上，发表了一篇标题为”神经网事
件的表示法”的论文，引入了正则表达式的概念。正则表达式就是用来描述他称为”正则集的代数”的表达式，因此采
用”正则表达式”这个术语。

随后，发现可以将这一工作应用于使用 Ken Thompson 的计算搜索算法的一些早期研究，Ken Thompson 是 Unix
的主要发明人。正则表达式的第一个实用应用程序就是 Unix 中的 qed 编辑器。

如他们所说，剩下的就是众所周知的历史了。从那时起直至现在正则表达式都是基于文本的编辑器和搜索工具中的一
个重要部分。

为什么使用正则

主要目的

1.方便处理文本和字符串内容
2.处理有规律的内容（手机号，身份证等等有规律的内容）
3.正则一般给高级的开发语言使用

例如：python，GO，C++，JAVA
awk和sed也是一门语言

搜索和替换操作

但是一般的命令，搜索和替换缺乏灵活性，基本写死。
所以我们可以通过正则表达式，灵活的动态匹配文本。

例如：
1.可以测试输入字符串
以查看字符串内是否出现电话号码模式或信用卡号码模式。这称为数据验证。
2.替换文本。
可以使用正则表达式来识别文档中的特定文本，完全删除该文本或者用其他文本替换它。
3.基于模式匹配从字符串中提取字符串
4.查找文档内或输入域内特定的文本

正则表达式在Linux中的分类

在正则表达式的语法中，主要有两个部分修饰符和元字符。

  • 修饰符：它主要不写在正则中，要写在正则的外面。

  • 元字符：

    • 基础正则：在Linux中，有些命令支持直接使用。如： grep/sed/awk/高级开发语言
      • 简写：bre
      • 全拼：basic regular expression
    1
    2
    3
    4
    5
    6
    ^   	# 以...开头
    $   	# 以...结尾
    .   	# 匹配任意字符
    *   	# 前面的字符出现0次或者多次（.* 配合使用）
    []  	# 字符集合，匹配所包含的任意一个字符。主要是一些范围 [0-9] [a-z]
    [^] 	# 字符集合的取反
    • 拓展正则：需要在命令后加一些选项才能使用。如：grep -E或者egrep / sed -r /awk
      • 简写：ere
      • 全拼：extended regular expression
    1
    2
    3
    4
    5
    6
    +  		# 前面的一个字符出现1次或多次（贪婪匹配）。例：(cat 1.txt | awk -F '[ :]+' '{print $5}')
    |  		# 或者的意思
    () 		# 被括起来的内容提供看做是一个整体
       		# 也可以在sed命令中后项引用
    {} 		# 中间写一个非负整数，表示大括号前面的内容出现指定次数。例：(grep -E 'z{1,3}')
    ? 		# 前面的内容，出现0次或1次。例：(grep -E 'z?')

扩展正则其实也是元字符中的一部分，只不过在linux中，有些命令不能直接使用某些元字符，需要用一些参
数，才能使用。

通配符

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
# 常用通配符
* 		# 代表所有内容
{} 		# 生成序列
?   	# 匹配任意一个字符，站位符
[]  	# 字符集合，匹配所包含的任意一个字符。主要是一些范围 [0-9] [a-z]
[^] 	# 字符集合的取反

# {}示例
## 示例一：打印1-10 间的数字
echo {1..10}
## 示例二：打印1-10间的数字并按照两个数字递增
echo {1..10..2}
1 3 5 7 9
## 示例三：备份nginx.server为nginx.server.bak
cp /usr/lib/systemd/system/nginx.service{,.bak}

# ?示例
## 示例一：使用"?"匹配文件名
touch check_1.txt
ls -l /tmp/c?eck_1.txt
ls -l /tmp/c?eck_?????
ls -l /tmp/c?eck_?*
ls -l /tmp/???????????
## 示例二：使用"[]"和"?"匹配文件名
touch check_{1..10}.txt
ls -l /tmp/check_[0-9][0-9].txt
ls -l /tmp/check_[0-9]?.txt
check_10.txt

正则表达式使用误区

正则表达式使用注意事项

  1. 所有符号皆为英文符号
  2. 使用三剑客时加引号
  3. 注意字符集，如果出现字符集问题，那么将字符集修改为C（小概率事件）
  4. 像素眼（空格，换行符，tab键）
  5. 测试的时候，推荐使用grep -E或者egrep，因为过滤出来的内容会加颜色
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
# 示例
check10.txt
check1.txt
check 2.txt
check 3.txt
check4.txt
check5.txt
check6.txt
check7.txt
check8.txt
check9.txt

cat 1.txt | awk '/\t/{print}
check 3.txt
cat 1.txt | awk '/ /{print}'
check 2.txt

正则表达式-修饰符（标记）

1
2
3
4
5
6
7
8
9
/pattern/flags
/元字符/修饰符

awk '/[a-z]_[0-9]+.txt/i{print}' a.txt
/tmp/check_1.txt
/tmp/CHECK_1.txt

s#匹配内容#要替换的内容#g# s查找的意思
sed -i 's#查找的内容#替换的内容#g'
修饰符 含义 描述
i ignore - 不区分大小写 将匹配设置为不区分大小写，搜索时不区分大小写: A 和 a 没有区别。
g global - 全局匹配 查找所有的匹配项
m multi line - 多行匹配 使边界字符 ^ 和 $ 匹配每一行的开头和结尾，记住是多行，而不是整个字 符串的开头和结尾
s 特殊字符圆点 . 中包含 换行符 \n 默认情况下的圆点 . 是 匹配除换行符 \n 之外的任何字符，加上 s修饰符 之后, 中包含换行符 \n

零宽断言

1
2
3
4
(?=exp)  		# 匹配exp前面的位置
(?<=exp) 		# 匹配exp后面的位置
(?!exp)  		# 匹配后面跟的不是exp的位置
(?<!exp) 		# 匹配前面不是exp的位置

正则支持表

字符 说明 Basic RegEx Extended RegEx python RegEx Perl regEx
转义 \ \ \ \
^ 匹配行首，例如’^dog’匹配以字符串dog开头的行（注意：awk 指令中，’^’则是匹配字符串的开始） ^ ^ ^ ^
$ 匹配行尾，例如：’^、dog匹配以字符串为结尾的行（注意：指令中，’则是匹配字符串的结尾） $ $ $ $
^$ 匹配空行 ^$ ^$ ^$ ^$
^string$ 匹配行，例如：’^dog$’匹配只含一个字符串 dog 的行 ^string$ ^string$ ^string$ ^string$
< 匹配单词，例如：’<frog’ （等价于’\bfrog’），匹配以 frog 开头的单词 < < 不支持 不支持（但可以使用\b来匹配单词，例如：’\bfrog’）
> 匹配单词，例如：’frog>’（等价于’frog\b ‘），匹配以 frog 结尾的单词 > > 不支持 不支持（但可以使用\b来匹配单词，例如：’frog\b’）
匹配一个单词或者一个特定字符，例如：’‘（等价于’\bfrog\b’）、’‘ 不支持 不支持（但可以使用\b来匹配单词，例如：’\bfrog\b’
() 匹配表达式，例如：不支持’（frog）’ 不支持（但可以使用，如：dogdog () () ()
匹配表达式，例如：不支持’（frog）’ 不支持（同()) 不支持（同()) 不支持（同())
？ 匹配前面的子表达式 0 次或 1 次（等价于{0,1}），例如：where(is)?能匹配”where” 以及”whereis” 不支持（同?) ？ ？ ？
? 匹配前面的子表达式 0 次或 1 次（等价于’{0,1}’），例如：’whereisis? ‘能匹配 “where”以及”whereis” ? 不支持（同?) 不支持（同?) 不支持（同?)
? 当该字符紧跟在任何一个其他限制符（*, +, ?, {n},{n,}, {n,m}） 后面时，匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串，而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如，对于字符串 “oooo”，’o+?’ 将匹配单个”o”，而 ‘o+’ 将匹配所有 ‘o’ 不支持 不支持 不支持 不支持
. 匹配除换行符（’\n’）之外的任意单个字符（注意：awk 指令中的句点能匹配换行符） . .（如果要匹配包括“\n”在内的任何一个字符，请使用：’(^$)|（.） . .（如果要匹配包括“\n”在内的任何一个字符，请使用：’ [.\n] ‘
* 匹配前面的子表达式 0 次或多次（等价于{0, }），例如：zo* 能匹配 “z”以及 “zoo” * * * *
+ 匹配前面的子表达式 1 次或多次（等价于’{1, }’），例如：’whereisis+ ‘能匹配 “whereis”以及”whereisis” + 不支持（同+) 不支持（同+) 不支持（同+)
+ 匹配前面的子表达式 1 次或多次（等价于{1, }），例如：zo+能匹配 “zo”以及 “zoo”，但不能匹配 “z” 不支持（同+) + + +
{n} n 必须是一个 0 或者正整数，匹配子表达式 n 次，例如：zo{2}能匹配 不支持（同{n}) {n} {n} {n}
{n,} “zooz”，但不能匹配 “Bob”n 必须是一个 0 或者正整数，匹配子表达式大于等于 n次，例如：go{2,} 不支持（同{n,}) {n,} {n,} {n,}
{n,m} 能匹配 “good”，但不能匹配 godm 和 n 均为非负整数，其中 n <= m，最少匹配 n 次且最多匹配 m 次 ，例如：o{1,3}将配”fooooood” 中的前三个 o（请注意在逗号和两个数之间不能有空格） 不支持（同{n,m}) {n,m} {n,m} {n,m}
x|y 匹配 x 或 y，例如： 不支持’z|（food）’ 能匹配 “z” 或”food”；’（z|f）ood’ 则匹配”zood” 或 “food” 不支持（同x|y) x|y x|y x|y
[0-9] 匹配从 0 到 9 中的任意一个数字字符（注意：要写成递增） [0-9] [0-9] [0-9] [0-9]
[xyz] 字符集合，匹配所包含的任意一个字符，例如：’[abc]’可以匹配”lay” 中的 ‘a’（注意：如果元字符，例如：. *等，它们被放在[ ]中，那么它们将变成一个普通字符） [xyz] [xyz] [xyz] [xyz]
[^xyz] 负值字符集合，匹配未包含的任意一个字符（注意：不包括换行符），例如：’[^abc]’ 可以匹配 “Lay” 中的’L’（注意：[^xyz]在awk 指令中则是匹配未包含的任意一个字符+换行符） [^xyz] [^xyz] [^xyz] [^xyz]
[A-Za-z] 匹配大写字母或者小写字母中的任意一个字符（注意：要写成递增） [A-Za-z] [A-Za-z] [A-Za-z] [A-Za-z]
[^A-Za-z] 匹配除了大写与小写字母之外的任意一个字符（注意：写成递增） [^A-Za-z] [^A-Za-z] [^A-Za-z] [^A-Za-z]
\d 匹配从 0 到 9 中的任意一个数字字符（等价于 [0-9]） 不支持 不支持 \d \d
\D 匹配非数字字符（等价于 [^0-9]） 不支持 不支持 \D \D
\S 匹配任何非空白字符（等价于[^\f\n\r\t\v]） 不支持 不支持 \S \S
\s 匹配任何空白字符，包括空格、制表符、换页符等等（等价于[ \f\n\r\t\v]） 不支持 不支持 \s \s
\W 匹配任何非单词字符 (等价于[^A-Za-z0-9_]) \W \W \W \W
\w 匹配包括下划线的任何单词字符（等价于[A-Za-z0-9_]） \w \w \w \w
\B 匹配非单词边界，例如：’er\B’ 能匹配 “verb” 中的’er’，但不能匹配”never” 中的’er’ \B \B \B \B
\b 匹配一个单词边界，也就是指单词和空格间的位置，例如： ‘er\b’ 可以匹配”never” 中的 ‘er’，但不能匹配 “verb” 中的’er’ \b \b \b \b
\t 匹配一个横向制表符（等价于 \x09和 \cI） 不支持 不支持 \t \t
\v 匹配一个垂直制表符（等价于 \x0b和 \cK） 不支持 不支持 \v \v
\n 匹配一个换行符（等价于 \x0a 和\cJ） 不支持 不支持 \n \n
\f 匹配一个换页符（等价于\x0c 和\cL） 不支持 不支持 \f \f
\r 匹配一个回车符（等价于 \x0d 和\cM） 不支持 不支持 \r \r
\ 匹配转义字符本身”” \ \ \ \
\cx 匹配由 x 指明的控制字符，例如：\cM匹配一个Control-M 或回车符，x 的值必须为A-Z 或 a-z 之一，否则，将 c 视为一个原义的 ‘c’ 字符 不支持 不支持 \cx
\xn 匹配 n，其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长，例如：’\x41’ 匹配 “A”。’\x041’ 则等价于’\x04’ & “1”。正则表达式中可以使用 ASCII 编码 不支持 不支持 \xn
\num 匹配 num，其中 num是一个正整数。表示对所获取的匹配的引用 不支持 \num \num
[:alnum:] 匹配任何一个字母或数字（[A-Za-z0-9]），例如：’[[:alnum:]] ‘ [:alnum:] [:alnum:] [:alnum:] [:alnum:]
[:alpha:] 匹配任何一个字母（[A－Za－z]）， 例如：’ [[:alpha:]] ‘ [:alpha:] [:alpha:] [:alpha:] [:alpha:]
[:digit:] 匹配任何一个数字（[0-9]），例如：’[[:digit:]] ‘ [:digit:] [:digit:] [:digit:] [:digit:]
[:lower:] 匹配任何一个小写字母（[a-z]）， 例如：’ [[:lower:]] ‘ [:lower:] [:lower:] [:lower:] [:lower:]
[:upper:] 匹配任何一个大写字母（[A-Z]） [:upper:] [:upper:] [:upper:] [:upper:]
[:space:] 任何一个空白字符： 支持制表符、空格，例如：’ [[:space:]] ‘ [:space:] [:space:] [:space:] [:space:]
[:blank:] 空格和制表符（横向和纵向），例如：’[[:blank:]]’ó’[\s\t\v]’ [:blank:] [:blank:] [:blank:] [:blank:]
[:graph:] 任何一个可以看得见的且可以打印的字符（注意：不包括空格和换行符等），例如：’[[:graph:]] ‘ [:graph:] [:graph:] [:graph:] [:graph:]
[:print:] 任何一个可以打印的字符（注意：不包括：[:cntrl:]、字符串结束符’\0’、EOF 文件结束符（-1）， 但包括空格符号），例如：’[[:print:]] ‘ [:print:] [:print:] [:print:] [:print:]
[:cntrl:] 任何一个控制字符（ASCII 字符集中的前 32 个字符，即：用十进制表示为从 0 到31，例如：换行符、制表符等等），例如：’ [[:cntrl:]]’ [:cntrl:] [:cntrl:] [:cntrl:] [:cntrl:]
[:punct:] 任何一个标点符号（不包括：[:alnum:]、[:cntrl:]、[:space:]这些字符集） [:punct:] [:punct:] [:punct:] [:punct:]
[:xdigit:] 任何一个十六进制数（即：0-9，a-f，A-F） [:xdigit:] [:xdigit:] [:xdigit:] [:xdigit:]