正则表达式
在 2.2 节中，我们已经可以用 requests 库来获取网页的源代码，得到 HTML 代码。但我们真正想要的数据是包含在 HTML 代码之中的，要怎样才能从 HTML 代码中获取想要的信息呢?正则表达式就是其中一个有效的方法。
本节我们将了解一下正则表达式的相关用法。正则表达式是用来处理字符串的强大工具，它有自己特定的语法结构，有了它，实现字符串的检索、替换、匹配验证都不在话下。
当然，对于爬虫来说，有了它，从 HTML 里提取想要的信息就非常方便了。
实例引入
说了这么多，可能我们对正则表达式到底是什么还是比较模糊，下面就用几个实例来看一下它的用法。
打开开源中国提供的正则表达式测试工具 http://tool.oschina.net/regex/ 或 https://regex101.com/ ，输入待匹配的文本，然后选择常用的正则表达式，就可以得出相应的匹配结果了。例如，这里输入如下待匹配的文本。
Hello, my phone number is 010-86432100 and email is cqc@cuiqingcai.com, and my website is https://cuiqingcai.com
这段字符串中包含一个电话号码、一个 E-mail 地址和一个 URL，接下来就尝试用正则表达式将这些内容提取出来。
在网页右侧选择 “匹配 Email 地址”，就可以看到下方出现了文本中的 E-mail，如图 2-11 所示。
如果选择 “匹配网址URL”，可以看到下方出现了文本中的 URL，如图 2-12 所示。
(省略)
是不是非常神奇？
其实，这里就是用了正则表达式匹配，也就是用一定的规则将特定文本提取出来。例如，E-mail 地址的开头是一段字符串，然后是一个 @ 符号，最后是某个域名，这是有特定的组成格式的。另外，对于 URL，开头是协议类型，然后是冒号加双斜线，最后是域名加路径。
对于 URL 来说，可以用下面的正则表达式匹配。
[a-zA-z]+://[>s]*
用这个正则表达式去匹配一个字符串，如果这个字符串中包含类似 URL 的文本，那么这部分就会被提取出来。
正则表达式看上去虽然是乱糟糟的一团，但里面其实是有特定语法规则的。例如，a-z 代表匹配任意的小写字母，\s 代表匹配任意的空白字符，* 代表匹配前面的任意多个字符，那一长串正则表达式就是这么多匹配规则的组合。
写好正则表达式后，就可以拿它去一个长字符串里匹配查找了。不论这个字符串里面有什么，只要符合我们写的规则，统统可以找出来。对于网页来说，如果想找出网页源代码里有多少URL，只要用匹配 URL 的正则表达式去匹配即可。
上面我们介绍了几个匹配规则，表 2-2 列出了常用的一些匹配规则。
表 2-2 常用的匹配规则
| 模式 | 描述 |
|---|---|
|
匹配字母、数字及下划线 |
|
匹配不是字母、数字及下划线的字符 |
|
匹配任意空白字符，等价于`[ \f\n\r\t\v]` |
|
匹配任意非空白字符 |
|
匹配任意数字，等价于`[0-9]` |
|
匹配任意非数字的字符 |
|
匹配字符串开头 |
|
匹配字符串结尾。如果存在换行，只匹配到换行的结束字符串 |
|
匹配字符串结尾。如果存在换行，同时还会匹配换行符 |
|
匹配最后匹配完成的位置 |
|
匹配一个换行符 |
|
匹配一个制表符 |
|
匹配一行字符串的开头 |
|
匹配一行字符串的结尾 |
|
匹配任意字符，除了换行符，当 |
|
用来表示一组字符，单独列出，例如 |
|
匹配不在 |
|
匹配 0 个或多个表达式 |
|
匹配 1 个或多个表达式 |
|
匹配 0 个或 1 个前面的正则表达式定义的片段，非贪婪方式 |
|
精确匹配 |
|
匹配 |
|
匹配 |
|
匹配括号内的表达式，也表示一个组 |
看完这个表之后，可能有点晕晕的吧，不用担心，后面我们会详细讲解一些常见规则的用法。
其实正则表达式并非 Python 独有，它也可以用在其他编程语言中。但是 Python 的 re 库提供了整个正则表达式的实现，利用这个库，可以在 Python 中方便地使用正则表达式。用 Python 编写正则表达式时几乎都会使用这个库，下面就来了解它的一些常用方法。
match
这里首先介绍第一个常用的匹配方法一一 match，向它传入要匹配的字符串以及正则表达式，就可以检测这个正则表达式是否和字符串相匹配。
match 方法会尝试从字符串的起始位置开始匹配正则表达式，如果匹配，就返回匹配成功的结果；如果不匹配，就返回 None。实例如下：
import re
content = 'Hello 123 4567 World_This is a Regex Demo'
print(len(content))
result = re.match('^Hello\s\d\d\d\s\d{4}\s\w{10}', content)
print(result)
print(result.group())
print(result.span())运行结果如下：
41
<re.Match object; span=(0, 25), match='Hello 123 4567 World_This'>
Hello 123 4567 World_This
(0, 25)这个实例首先声明了一个字符串，其中包含英文字母、空白字符、数字等。接着写了一个正则表达式：
^Hello\s\d\d\d\s\d{4}\s\w{10}
用它来匹配声明的那个长字符串。开头的 ^ 表示匹配字符串的开头，也就是以 Hello 开头；然后 \s 表示匹配空白字符，用来匹配目标字符串里 Hello 后面的空格：\d 表示匹配数字，3 个 \d 用来匹配 123；紧接着的 1 个 \s 表示匹配空格；目标字符串的后面还有 4567，我们其实依然可以用 4 个 \d 来匹配，但是这么写比较烦琐，所以可以用 \d 后面跟 {4} 的形式代表匹配 4 次数字；后面又是 1 个空白字符，最后 \w{10} 则表示匹配 10 个字母及下划线。我们注意到，这里其实并没有把目标字符串匹配完，不过这样依然可以进行匹配，只是匹配结果短一点而已。
在 match 方法中，第一个参数是传入了正则表达式，第二个参数是传入了要匹配的字符串。
将输出结果打印出来，可以看到结果是 SRE_Match 对象，证明匹配成功。该对象包含两个方法：group 方法可以输出匹配到的内容，结果是 Hello 123 4567 World_This，这恰好是正则表达式按照规则匹配的内容；span 方法可以输出匹配的范围，结果是（0, 25），这是匹配到的结果字符串在原字符串中的位置范围。
通过上面的例子，我们基本了解了如何在 Python 中使用正则表达式来匹配一段文字。
匹配目标
用 match 方法可以实现匹配，如果想从字符串中提取一部分内容，该怎么办呢？就像上一节的实例一样，从一段文本中提取出 E-mail 地址或电话号码。
可以使用括号 () 将想提取的子字符串括起来。() 实际上标记了一个子表达式的开始和结束位置，被标记的每个子表达式依次对应每个分组，调用 group 方法传入分组的索引即可获取提取结果。实例如下：
import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^Hello\s(\d+)\sWorld',content)
print(result)
print(result.group())
print(result.group(1))
print(result.span())通过这个实例，我们把字符串中的 1234567 提取出来了，可以看到其中数字部分的正则表达式被 () 括了起来。然后调用 group(1) 获取了匹配结果。
运行结果如下：
<re.Match object; span=(0, 19), match='Hello 1234567 World'>
Hello 1234567 World
1234567
(0, 19)可以看到，我们成功得到了 1234567。这里用的是 group(1)，它与 group() 有所不同，后者会输出完整的匹配结果，前者会输出第一个被 () 包围的匹配结果。假如正则表达式后面还有用 () 包围的内容，那么可以依次用 group(2)、group(3) 等获取。
通用匹配
刚才我们写的正则表达式其实比较复杂，只要出现空白字符就需要写 \s 匹配，出现数字就需要写 \d 匹配，这样的工作量非常大。其实完全没必要这么做，因为还有一个万能匹配可以用，就是 .*。其中，可以匹配任意字符（除换行符），* 代表匹配前面的字符无限次，所以它们组合在一起就可以匹配任意字符了。有了它，我们就不用挨个字符进行匹配了。
接着上面的例子，我们利用 .* 改写一下正则表达式：
import re
content = 'Hello 123 4567 World_This is a Regex Demo'
result = re.match('^Hello.*Demo$',content)
print(result)
print(result.group())
print(result.span())这里我们直接省略中间部分，全部用 .* 来代替，并在最后加一个结尾字符串。运行结果如下：
<re.Match object; span=(0, 41), match='Hello 123 4567 World_This is a Regex Demo'>
Hello 123 4567 World_This is a Regex Demo
(0, 41)可以看到，group 方法输出了匹配的全部字符串，也就是说我们写的正则表达式匹配到了目标字符串的全部内容；span 方法输出(0, 41)，这是整个字符串的长度。
因此，使用 .* 能够简化正则表达式的书写。
贪婪与非贪婪
使用通用匹配 .* 匹配到的内容有时候并不是我们想要的结果。看下面的例子：
import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*(\d+).*Demo$', content)
print(result)
print(result.group(1))这里我们依然想获取目标字符串中间的数字，所以正则表达式中间写的依然是（\d+）。而数字两侧由于内容比较杂乱，所以想省略来写，于是都写成 .*。最后，组成 ^He.*(\d+).*Demo$，看样子没什么问题。可我们看下运行结果：
<re.Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>
7奇怪的事情发生了，只得到了 7 这个数字，这是怎么回事？
这里涉及贪婪匹配和非贪婪匹配的问题。在贪婪匹配下，.* 会匹配尽可能多的字符。正则表达式中 .* 后面是 \d+，也就是至少一个数字，而且没有指定具体几个数字，因此，.* 会匹配尽可能多的字符，这里就把 123456 都匹配了，只给 \d+ 留下一个可满足条件的数字 7，因此最后得到的内容就只有数字 7。
但这很明显会给我们带来很大的不便。有时候，匹配结果会莫名其妙少一部分内容。其实，这里只需要使用非贪婪匹配就好了。非贪婪匹配的写法是 .*?，比通用匹配多了一个 ?，那么它可以起到怎样的效果？我们再用实例看一下：
import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*?(\d+).*Demo$', content)
print(result)
print(result.group(1))这里我们只是将第一个 .* 改成了 .*?，贪婪匹配就转变为了非贪婪匹配。结果如下：
<re.Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>
1234567此时便可以成功获取 1234567 了。原因可想而知，贪婪匹配是匹配尽可能多的字符，非贪婪匹配就是匹配尽可能少的字符。当 .*? 匹配到 Hello 后面的空白字符时，再往后的字符就是数字了，而 \d+ 恰好可以匹配，于是这里 .*? 就不再进行匹配了，而是交给 \d+ 去匹配。最后 .*? 匹配了尽可能少的字符，\d+ 的结果就是 1234567。
所以说，在做匹配的时候，字符串中间尽量使用非贪婪匹配，也就是用 .*? 代替 .*，以免出现匹配结果缺失的情况。
但这里需要注意，如果匹配的结果在字符串结尾，.*? 有可能匹配不到任何内容了，因为它会匹配尽可能少的字符。例如：
import re
content = 'http://weibo.com/comment/kEraCN'
result1 = re.match('http.*?comment/(.*?)', content)
result2 = re.match('http.*?comment/(.*)', content)
print('result1', result1.group(1))
print('result2', result2.group(1))运行结果如下：
result1 result2 kEraCN
可以观察到，.*? 没有匹配到任何结果，而 .* 则是尽量多匹配内容，成功得到了匹配结果。
修饰符
在正则表达式中，可以用一些可选标志修饰符来控制匹配的模式。修饰符被指定为一个可选的标志。我们用实例来看一下：
import re
content = '''Hello 1234567 World_This
is a Regex Demo
'''
result = re.match('^He.*?(\d+).*?Demo$', content)
print(result.group(1))和上面的例子相仿，我们在字符串中加了换行符，正则表达式还是一样的，用来匹配其中的数字。看一下运行结果：
Traceback (most recent call last):
File "D:\BaiduSyncdisk\sourceCode\python\python_learn_roadmap\src\Python3WebScrapyDevelopInAction\chapter02\ch02-02.py", line 7, in <module>
print(result.group(1))
AttributeError: 'NoneType' object has no attribute 'group'发现运行直接报错，也就是说正则表达式没有匹配到这个字符串，返回结果为 None，而我们又调用了 group 方法，导致 AttributeError。
那么，为什么加了一个换行符，就匹配不到了呢？这是因为匹配的内容是除换行符之外的任意字符，当遇到换行符时，.*? 就不能匹配了，所以导致匹配失败。这里只需加一个修饰符 re.S，即可修正这个错误：
result=re.match(^He.*?(\d+).*?Demo$', content, re.S)
这个修饰符的作用是使匹配内容包括换行符在内的所有字符。此时运行结果如下：
1234567
这个 re.S 在网页匹配中经常用到。因为 HTML 节点经常会有换行，加上它，就可以匹配节点与节点之间的换行了。
另外，还有一些修饰符，在必要的情况下也可以使用，如表 2-3 所示。
| 修饰符 | 描述 |
|---|---|
|
使匹配对大小写不敏感 |
|
实现本地识别 (locale-aware) 匹配 |
|
多行匹配，影响 |
|
使匹配包括换行符在内的所有字符 |
|
根据 Unicode 字符集解析字符。这个标志会影响 |
|
该标志能够给予你更灵活的格式，以便将正则表达式写得更易于理解 |
在网页匹配中，较为常用的有 re.S 和 re.I。
转义匹配
我们知道正则表达式定义了许多匹配模式，如 . 用于匹配除换行符以外的任意字符。但如果目标字符串里面就包含 . 这个字符，那该怎么办呢？
这时需要用到转义匹配，实例如下：
import re
content = '(百度) www.baidu.com'
result = re.match('\(百度\) www\.baidu\.com', content)
print(result)当在目标字符串中遇到用作正则匹配模式的特殊字符时，在此字符前面加反斜线 \ 转义一下即可。
例如，\. 就可以用来匹配 . ，运行结果如下：
<re.Match object; span=(0, 18), match='(百度) www.baidu.com'>可以看到，这里成功匹配到了原字符串。
以上这些是写正则表达式时常用的几个知识点，熟练掌握它们对后面非常有帮助。
search
前文提到过，match 方法是从字符串的开头开始匹配的，意味着一旦开头不匹配，整个匹配就失败了。我们看下面的例子：
import re
content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
result = re.match('Hello.*?(\d+).*?Demo', content)
print(result)这里的字符串以 Extra 开头，正则表达式却以 Hello 开头，其实整个正则表达式是字符串的一部分，但这样匹配是失败的。运行结果如下：
None
因为 match 方法在使用时需要考虑目标字符串开头的内容，因此在做匹配时并不方便。它更适合检测某个字符串是否符合某个正则表达式的规则。
这里就有另外一个方法 search，它在匹配时会扫描整个字符串，然后返回第一个匹配成功的结果。也就是说，正则表达式可以是字符串的一部分。在匹配时，search 方法会依次以每个字符作为开头扫描字符串，直到找到第一个符合规则的字符串，然后返回匹配内容；如果扫描完还没有找到符合规则的字符串，就返回 None。
我们把上面代码中的 match 方法修改成 search，再看下运行结果：
<re.Match object; span=(13, 53), match='Hello 1234567 World_This is a Regex Demo'>这时就得到了匹配结果。
因此，为了匹配方便，尽量使用 search 方法。
下面再用几个实例来看看 search 方法的用法。
首先，这里有一段待匹配的 HTML 文本，接下来写几个正则表达式实例实现相应信息的提取：
html='''<div id="songs-list"> <h2 class="title">经典老歌</h2> <p class="introduction">
经典老歌列表 </p>
<ul id="list" class="list-group"> <li data-view="2">一路上有你</li> <li data-view="7">
<a href="/2.mp3" singer="任贤齐">沧海一声笑</a> </li>
<li data-view="4" class="active">
<a href="/3.mp3" singer="齐秦">往事随风</a> </li>
<li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li> <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li> <li data-view="5">
<a href="/6.mp3" singer="邓丽君">但愿人长久</a>
</li> </ul>
</div>'''可以观察到，ul 节点里有许多 li 节点，这些 li 节点中有的包含 a 节点，有的不包含。a 节点还有一些相应的属性一超链接和歌手名。
首先，我们尝试提取 class 为 active 的 li 节点内部的超链接包含的歌手名和歌名，也就是说需要提取第三个 li 节点下 a 节点的 singer 属性和文本。
此时正则表达式可以以 li 开头，然后寻找一个标志符 active，中间的部分可以用 .*? 来匹配。接下来，因为要提取 singer 这个属性值，所以还需要写入 singer="(.*?)"，这里把需要提取的部分用小括号括了起来，以便用 group 方法提取出来，小括号的两侧边界是双引号。然后还需要匹配 a 节点的文本，此文本的左边界是 >，右边界是 </a>。然后目标内容依然用 (.*?) 来匹配，所以最后的正则表达式就变成了：
<li.*?active.*?singer="(.*?)">(.*?)</a>
再调用 search 方法，它会搜索整个 HTML 文本，找到符合上述正则表达式的第一个内容并返回。
另外，由于代码中有换行，所以 search 方法的第三个参数需要传入 re.S。于是整个匹配代码如下：
result = e.search('<li.*?active.*?singer="(.*?)">(.*?)</a>',html,re.S)
if result:
print(result.group(i), result.group(2))由于需要获取的歌手和歌名都已经用小括号包围，所以可以用 group 方法获取。
运行结果如下：
齐秦 往事随风
可以看到，这正是 class 为 active 的 li 节点内部的超链接包含的歌手名和歌名。
如果正则表达式不加 active（也就是匹配不带 class 为 active 的节点内容），会怎样呢？我们将正则表达式中的 active 去掉，代码改写如下：
result=re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S))
if result:
print(result.group(1),result.group(2))由于 search 方法会返回第一个符合条件的匹配目标，于是这里结果就变了：
任贤齐 沧海一声笑
把 active 标签去掉后，从字符串开头开始搜索，此时符合条件的节点就变成了第二个 li 节点，后面的就不再匹配，所以运行结果就变成第二个 li 节点中的内容。
注意，在上面的两次匹配中，search 方法的第三个参数都加了 re.S，这使得 .*? 可以匹配换行所以含有换行的 li 节点被匹配到了。如果我们将其去掉，结果会是什么？去掉 re.S 的代码如下：
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)
if result:
print(result.group(1), result.group(2))运行结果如下：
beyond 光辉岁月
可以看到，结果变成了第四个 li 节点的内容。这是因为第二个和第三个 li 节点都包含换行符，去掉 re.S 之后，.*? 已经不能匹配换行符，所以正则表达式不会匹配这两个 li 节点，而第四个 li 节点中不包含换行符，可以成功匹配。
由于绝大部分 HTML 文本包含换行符，所以需要尽量加上 re.S 修饰符，以免出现匹配不到的问题。
findall
介绍完了 search 方法的用法，它可以返回与正则表达式相匹配的第一个字符串。如果想要获取与正则表达式相匹配的所有字符串，该如何处理呢？这就要借助 findall 方法了。
还是用上面的 HTML 文本，如果想获取其中所有 a 节点的超链接、歌手和歌名。可以将 search 方法换成 findall 方法。其返回结果是列表类型，需要通过遍历来依次获取每组内容。代码如下：
results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)
print(results)
print(type(results))
for result in results:
print(result)
print(result[0], result[1], result[2])运行结果如下：
[('/2.mp3', '任贤齐', '沧海一声笑'), ('/3.mp3', '齐秦', '往事随风'), ('/4.mp3', 'beyond', '光辉岁月'), ('/5.mp3', '陈慧琳', '记事本'), ('/6.mp3', '邓丽君', '但愿人长久')]
<class 'list'>
('/2.mp3', '任贤齐', '沧海一声笑')
/2.mp3 任贤齐 沧海一声笑
('/3.mp3', '齐秦', '往事随风')
/3.mp3 齐秦 往事随风
('/4.mp3', 'beyond', '光辉岁月')
/4.mp3 beyond 光辉岁月
('/5.mp3', '陈慧琳', '记事本')
/5.mp3 陈慧琳 记事本
('/6.mp3', '邓丽君', '但愿人长久')
/6.mp3 邓丽君 但愿人长久
可以看到，返回的列表中的每个元素都是元组类型，我们用索引依次取出每个条目即可。
总结一下，如果只想获取匹配到的第一个字符串，可以用 search 方法；如果需要提取多个内容，可以用 findall 方法。
sub
除了使用正则表达式提取信息，有时候还需要借助它来修改文本。例如，想要把一串文本中的所有数字都去掉，如果只用字符串的 replace 方法，未免太烦琐了，这时可以借助 sub 方法。实例如下：
import re
content = '54aK54yr5oiR54ix5L2g'
content = re.sub('\d+', '', content)
print(content)运行结果如下：
aKyroiRixLg
这里往 sub 方法的第一个参数中传入 \d+ 以匹配所有的数字，往第二个参数中传入把数字替换成的字符串（如果去掉该参数，可以赋值为空），第三个参数是原字符串。
在上面的 HTML 文本中，如果想获取所有 li 节点的歌名，直接用正则表达式来提取可能比较烦锁。例如，写成这样：
results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>',html, re.S)
for result in results:
print(result[1])运行结果如下：
一路上有你 沧海一声笑 往事随风 光辉岁月 记事本 但愿人长久
而此时借助 sub 方法就比较简单了。可以先用 sub 方法将 a 节点去掉，只留下文本，然后再利用 findall 提取就好了：
html = re.sub('<a.*?>|</a>', '', html)
print(html)
results = re.findall('<li.*?>(.*?)</li>', html, re.S)
for result in results:
print(result.strip())运行结果如下：
<div id="songs-list">
<h2 class="title">经典老歌</h2>
<p class="introduction">经典老歌列表</p>
<ul id="list" class="list-group">
<li data-view="2">一路上有你</li>
<li data-view="7">沧海一声笑</li>
<li data-view="4" class="active">往事随风</li>
<li data-view="6">光辉岁月</li>
<li data-view="5">记事本</li>
<li data-view="5">但愿人长久</li>
</ul>
</div>
一路上有你
沧海一声笑
往事随风
光辉岁月
记事本
但愿人长久
可以看到，经过 sub 方法处理后，a 节点就没有了，然后通过 findall 方法直接提取即可。可以发现，在适当的时候借助 sub 方法，可以起到事半功倍的效果。
compile
前面所讲的方法都是用来处理字符串的方法，最后再介绍一下 compile 方法，这个方法可以将正则字符串编译成正则表达式对象，以便在后面的匹配中复用。实例代码如下：
import re
content1 = '2019-12-15 12:00'
content2 = '2019-12-1712:55'
content3 = '2019-12-2213:21'
pattern = re.compile('\d{2}:\d{2}')
result1 = re.sub(pattern, '', content1)
result2 = re.sub(pattern, '', content2)
result3 = re.sub(pattern, '', content3)
result3 = re.sub(pattern, '', content3)
print(result1, result2, result3)这个实例里有 3 个日期，我们想分别将这 3 个日期中的时间去掉，这时可以借助 sub 方法。该方法的第一个参数是正则表达式，但是这里没有必要重复写 3 个同样的正则表达式，此时就可以借助 compile 方法将正则表达式编译成一个正则表达式对象，以便复用。
运行结果如下：
2019-12-15 2019-12-17 2019-12-22
另外，compile 还可以传入修饰符，例如 re.S 等修饰符，这样在 search、findall 等方法中就不需要额外传了。所以，可以说 compile 方法是给正则表达式做了一层封装，以便我们更好地复用。