Python爬虫解析神器-正则表达式如何正确运用？案例详解

「爱情、让人受尽委屈。」 2023-02-13 11:12 1阅读 0赞

# 先详细的整理一下Python中的正则表达式的相关内容。正则表达式在Python爬虫中的作用就像是老师点名时用的花名册一样，是必不可少的神兵利器。 #

![format_png][]

**一、 正则表达式基础**

**1.1.概念介绍**

正则表达式是用于处理字符串的强大工具，它并不是Python的一部分。

其他编程语言中也有正则表达式的概念，区别只在于不同的编程语言实现支持的语法数量不同。

它拥有自己独特的语法以及一个独立的处理引擎，在提供了正则表达式的语言里，正则表达式的语法都是一样的。

下图展示了使用正则表达式进行匹配的流程：

正则表达式的大致匹配过程是：

1.依次拿出表达式和文本中的字符比较，

2.如果每一个字符都能匹配，则匹配成功；一旦有匹配不成功的字符则匹配失败。3.如果表达式中有量词或边界，这个过程会稍微有一些不同。

**3.**光理论是不够的。这里顺便送大家一套2020最新python入门到高级项目实战视频教程，可以去小编的Python交流.裙 ：七衣衣九七七巴而五（数字的谐音）转换下可以找到了，还可以跟老司机交流讨教！

**1.2. 数量词的贪婪模式与非贪婪模式**

正则表达式通常用于在文本中查找匹配的字符串。

贪婪模式，总是尝试匹配尽可能多的字符；

非贪婪模式则相反，总是尝试匹配尽可能少的字符。

Python里数量词默认是贪婪的。

例如：正则表达式"ab\*"如果用于查找"abbbc"，将找到"abbb"。

而如果使用非贪婪的数量词"ab\*?"，将找到"a"。

**1.3. 反斜杠的问题**

与大多数编程语言相同，正则表达式里使用""作为转义字符，这就可能造成反斜杠困扰。

假如你需要匹配文本中的字符""，那么使用编程语言表示的正则表达式里将需要4个反斜杠"\\"：

第一个和第三个用于在编程语言里将第二个和第四个转义成反斜杠，

转换成两个反斜杠后再在正则表达式里转义成一个反斜杠用来匹配反斜杠。

这样显然是非常麻烦的。

Python里的原生字符串很好地解决了这个问题，这个例子中的正则表达式可以使用r""表示。

同样，匹配一个数字的"d"可以写成r"d"。

有了原生字符串，妈妈再也不用担心我的反斜杠问题~

**二、 介绍re模块**

**2.1. Compile**

Python通过re模块提供对正则表达式的支持。

使用re的一般步骤是：

Step1：先将正则表达式的字符串形式编译为Pattern实例。

Step2：然后使用Pattern实例处理文本并获得匹配结果（一个Match实例）。

Step3：最后使用Match实例获得信息，进行其他的操作。

我们新建一个re01.py来试验一下re的应用：

代码如下:

可以看到控制台输出了匹配的三个结果：

下面来具体看看代码中的关键方法。

★ re.compile(strPattern\[, flag\]):

这个方法是Pattern类的工厂方法，用于将字符串形式的正则表达式编译为Pattern对象。

第二个参数flag是匹配模式，取值可以使用按位或运算符'|'表示同时生效，比如re.I | re.M。

另外，你也可以在regex字符串中指定模式，

比如re.compile('pattern', re.I | re.M)与re.compile('(?im)pattern')是等价的。

可选值有：

re.I(全拼：IGNORECASE): 忽略大小写（括号内是完整写法，下同）

re.M(全拼：MULTILINE): 多行模式，改变'^'和'$'的行为（参见上图）

re.S(全拼：DOTALL): 点任意匹配模式，改变'.'的行为

re.L(全拼：LOCALE): 使预定字符类 w W B s S 取决于当前区域设定

re.U(全拼：UNICODE): 使预定字符类 w W B s S d D 取决于unicode定义的字符属性

re.X(全拼：VERBOSE): 详细模式。这个模式下正则表达式可以是多行，忽略空白字符，并可以加入注释。

以下两个正则表达式是等价的：

代码如下:

<table> 
 <tbody> 
 <tr> 
 <td> 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 </td> 
 <td> <code>#&nbsp;-*-&nbsp;coding:&nbsp;utf-8&nbsp;-*-&nbsp;</code> <code>#两个等价的re匹配,匹配一个小数&nbsp;</code> <code>import&nbsp;re&nbsp;</code> <code>a&nbsp;=&nbsp;re.compile(r</code><code>""</code><code>"d&nbsp;+&nbsp;#&nbsp;the&nbsp;integral&nbsp;part&nbsp;</code> <code>.&nbsp;#&nbsp;the&nbsp;decimal&nbsp;point&nbsp;</code> <code>d&nbsp;*&nbsp;#&nbsp;some&nbsp;fractional&nbsp;digits</code><code>""</code><code>",&nbsp;re.X)&nbsp;</code> <code>b&nbsp;=&nbsp;re.compile(r</code><code>"d+.d*"</code><code>)&nbsp;</code> <code>match11&nbsp;=&nbsp;a.match(</code><code>'3.1415'</code><code>)&nbsp;</code> <code>match12&nbsp;=&nbsp;a.match(</code><code>'33'</code><code>)&nbsp;</code> <code>match21&nbsp;=&nbsp;b.match(</code><code>'3.1415'</code><code>)&nbsp;</code> <code>match22&nbsp;=&nbsp;b.match(</code><code>'33'</code><code>)&nbsp;</code> <code>if</code>&nbsp;<code>match11:&nbsp;</code> <code>#&nbsp;使用Match获得分组信息&nbsp;</code> <code>print</code>&nbsp;<code>match11.group()&nbsp;</code> <code>else</code><code>:&nbsp;</code> <code>print</code>&nbsp;<code>u</code><code>'match11不是小数'</code>&nbsp; <code>if</code>&nbsp;<code>match12:&nbsp;</code> <code>#&nbsp;使用Match获得分组信息&nbsp;</code> <code>print</code>&nbsp;<code>match12.group()&nbsp;</code> <code>else</code><code>:&nbsp;</code> <code>print</code>&nbsp;<code>u</code><code>'match12不是小数'</code>&nbsp; <code>if</code>&nbsp;<code>match21:&nbsp;</code> <code>#&nbsp;使用Match获得分组信息&nbsp;</code> <code>print</code>&nbsp;<code>match21.group()&nbsp;</code> <code>else</code><code>:&nbsp;</code> <code>print</code>&nbsp;<code>u</code><code>'match21不是小数'</code>&nbsp; <code>if</code>&nbsp;<code>match22:&nbsp;</code> <code>#&nbsp;使用Match获得分组信息&nbsp;</code> <code>print</code>&nbsp;<code>match22.group()&nbsp;</code> <code>else</code><code>:&nbsp;</code> <code>print</code>&nbsp;<code>u</code><code>'match22不是小数'</code> </td> 
 </tr> 
 </tbody> 
</table>

re提供了众多模块方法用于完成正则表达式的功能。

这些方法可以使用Pattern实例的相应方法替代，唯一的好处是少写一行re.compile()代码，

但同时也无法复用编译后的Pattern对象。

这些方法将在Pattern类的实例方法部分一起介绍。

如一开始的hello实例可以简写为：

代码如下:

<table> 
 <tbody> 
 <tr> 
 <td> 1 2 3 4 5 </td> 
 <td> <code>#&nbsp;-*-&nbsp;coding:&nbsp;utf-8&nbsp;-*-&nbsp;</code> <code>#一个简单的re实例，匹配字符串中的hello字符串&nbsp;</code> <code>import&nbsp;re&nbsp;</code> <code>m&nbsp;=&nbsp;re.match(r</code><code>'hello'</code><code>,&nbsp;</code><code>'hello&nbsp;world!'</code><code>)&nbsp;</code> <code>print</code>&nbsp;<code>m.group()</code> </td> 
 </tr> 
 </tbody> 
</table>

**2.2. Match**

Match对象是一次匹配的结果，包含了很多关于此次匹配的信息，可以使用Match提供的可读属性或方法来获取这些信息。

属性：

string: 匹配时使用的文本。

re: 匹配时使用的Pattern对象。

pos: 文本中正则表达式开始搜索的索引。值与Pattern.match()和Pattern.seach()方法的同名参数相同。

endpos: 文本中正则表达式结束搜索的索引。值与Pattern.match()和Pattern.seach()方法的同名参数相同。

lastindex: 最后一个被捕获的分组在文本中的索引。如果没有被捕获的分组，将为None。

lastgroup: 最后一个被捕获的分组的别名。如果这个分组没有别名或者没有被捕获的分组，将为None。

方法：

group(\[group1, …\])：

获得一个或多个分组截获的字符串；指定多个参数时将以元组形式返回。group1可以使用编号也可以使用别名；编号0代表整个匹配的子串；不填写参数时，返回group(0)；没有截获字符串的组返回None；截获了多次的组返回最后一次截获的子串。

groups(\[default\])：

以元组形式返回全部分组截获的字符串。相当于调用group(1,2,…last)。default表示没有截获字符串的组以这个值替代，默认为None。

groupdict(\[default\])：

返回以有别名的组的别名为键、以该组截获的子串为值的字典，没有别名的组不包含在内。default含义同上。

start(\[group\])：

返回指定的组截获的子串在string中的起始索引（子串第一个字符的索引）。group默认值为0。

end(\[group\])：

返回指定的组截获的子串在string中的结束索引（子串最后一个字符的索引+1）。group默认值为0。

span(\[group\])：

返回(start(group), end(group))。

expand(template)：

将匹配到的分组代入template中然后返回。template中可以使用id或g、g引用分组，但不能使用编号0。id与g是等价的；但10将被认为是第10个分组，如果你想表达1之后是字符'0'，只能使用g<1>0。

下面来用一个py实例输出所有的内容加深理解：

代码如下:

<table> 
 <tbody> 
 <tr> 
 <td> 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 </td> 
 <td> <code>#&nbsp;-*-&nbsp;coding:&nbsp;utf-8&nbsp;-*-&nbsp;</code> <code>#一个简单的match实例&nbsp;</code> <code>import&nbsp;re&nbsp;</code> <code>#&nbsp;匹配如下内容：单词+空格+单词+任意字符&nbsp;</code> <code>m&nbsp;=&nbsp;re.match(r</code><code>'(w+)&nbsp;(w+)(?P.*)'</code><code>,&nbsp;</code><code>'hello&nbsp;world!'</code><code>)&nbsp;</code> <code>print</code>&nbsp;<code>"m.string:"</code><code>,&nbsp;m.string&nbsp;</code> <code>print</code>&nbsp;<code>"m.re:"</code><code>,&nbsp;m.re&nbsp;</code> <code>print</code>&nbsp;<code>"m.pos:"</code><code>,&nbsp;m.pos&nbsp;</code> <code>print</code>&nbsp;<code>"m.endpos:"</code><code>,&nbsp;m.endpos&nbsp;</code> <code>print</code>&nbsp;<code>"m.lastindex:"</code><code>,&nbsp;m.lastindex&nbsp;</code> <code>print</code>&nbsp;<code>"m.lastgroup:"</code><code>,&nbsp;m.lastgroup&nbsp;</code> <code>print</code>&nbsp;<code>"m.group():"</code><code>,&nbsp;m.group()&nbsp;</code> <code>print</code>&nbsp;<code>"m.group(1,2):"</code><code>,&nbsp;m.group(1,&nbsp;2)&nbsp;</code> <code>print</code>&nbsp;<code>"m.groups():"</code><code>,&nbsp;m.groups()&nbsp;</code> <code>print</code>&nbsp;<code>"m.groupdict():"</code><code>,&nbsp;m.groupdict()&nbsp;</code> <code>print</code>&nbsp;<code>"m.start(2):"</code><code>,&nbsp;m.start(2)&nbsp;</code> <code>print</code>&nbsp;<code>"m.end(2):"</code><code>,&nbsp;m.</code><code>end</code><code>(2)&nbsp;</code> <code>print</code>&nbsp;<code>"m.span(2):"</code><code>,&nbsp;m.span(2)&nbsp;</code> <code>print</code>&nbsp;<code>r</code><code>"m.expand(r'g&lt;2&gt;&nbsp;g&lt;1&gt;g&lt;3&gt;'):"</code><code>,&nbsp;m.expand(r</code><code>'2&nbsp;13'</code><code>)&nbsp;</code> <code>###&nbsp;output&nbsp;###&nbsp;</code> <code>#&nbsp;m.string:&nbsp;hello&nbsp;world!&nbsp;</code> <code>#&nbsp;m.re:&nbsp;&lt;_sre.SRE_Pattern&nbsp;object&nbsp;at&nbsp;0x016E1A38&gt;&nbsp;</code> <code>#&nbsp;m.pos:&nbsp;0&nbsp;</code> <code>#&nbsp;m.endpos:&nbsp;12&nbsp;</code> <code>#&nbsp;m.lastindex:&nbsp;3&nbsp;</code> <code>#&nbsp;m.lastgroup:&nbsp;sign&nbsp;</code> <code>#&nbsp;m.group(1,2):&nbsp;(</code><code>'hello'</code><code>,&nbsp;</code><code>'world'</code><code>)&nbsp;</code> <code>#&nbsp;m.groups():&nbsp;(</code><code>'hello'</code><code>,&nbsp;</code><code>'world'</code><code>,&nbsp;</code><code>'!'</code><code>)&nbsp;</code> <code>#&nbsp;m.groupdict():&nbsp;{ </code><code>'sign'</code><code>:&nbsp;</code><code>'!'</code><code>}&nbsp;</code> <code>#&nbsp;m.start(2):&nbsp;6&nbsp;</code> <code>#&nbsp;m.</code><code>end</code><code>(2):&nbsp;11&nbsp;</code> <code>#&nbsp;m.span(2):&nbsp;(6,&nbsp;11)&nbsp;</code> <code>#&nbsp;m.expand(r</code><code>'2&nbsp;13'</code><code>):&nbsp;world&nbsp;hello!</code> </td> 
 </tr> 
 </tbody> 
</table>

**2.3. Pattern**

Pattern对象是一个编译好的正则表达式，通过Pattern提供的一系列方法可以对文本进行匹配查找。

Pattern不能直接实例化，必须使用re.compile()进行构造，也就是re.compile()返回的对象。

Pattern提供了几个可读属性用于获取表达式的相关信息：

pattern: 编译时用的表达式字符串。

flags: 编译时用的匹配模式。数字形式。

groups: 表达式中分组的数量。

groupindex: 以表达式中有别名的组的别名为键、以该组对应的编号为值的字典，没有别名的组不包含在内。

可以用下面这个例子查看pattern的属性：

代码如下:

<table> 
 <tbody> 
 <tr> 
 <td> 1 2 3 4 5 6 7 8 9 10 11 12 13 </td> 
 <td> <code>#&nbsp;-*-&nbsp;coding:&nbsp;utf-8&nbsp;-*-&nbsp;</code> <code>#一个简单的pattern实例&nbsp;</code> <code>import&nbsp;re&nbsp;</code> <code>p&nbsp;=&nbsp;re.compile(r</code><code>'(w+)&nbsp;(w+)(?P.*)'</code><code>,&nbsp;re.DOTALL)&nbsp;</code> <code>print</code>&nbsp;<code>"p.pattern:"</code><code>,&nbsp;p.pattern&nbsp;</code> <code>print</code>&nbsp;<code>"p.flags:"</code><code>,&nbsp;p.flags&nbsp;</code> <code>print</code>&nbsp;<code>"p.groups:"</code><code>,&nbsp;p.groups&nbsp;</code> <code>print</code>&nbsp;<code>"p.groupindex:"</code><code>,&nbsp;p.groupindex&nbsp;</code> <code>###&nbsp;output&nbsp;###&nbsp;</code> <code>#&nbsp;p.pattern:&nbsp;(w+)&nbsp;(w+)(?P.*)&nbsp;</code> <code>#&nbsp;p.flags:&nbsp;16&nbsp;</code> <code>#&nbsp;p.groups:&nbsp;3&nbsp;</code> <code>#&nbsp;p.groupindex:&nbsp;{ </code><code>'sign'</code><code>:&nbsp;3}</code> </td> 
 </tr> 
 </tbody> 
</table>

**最后注意**：光理论是不够的。这里顺便送大家一套2020最新python入门到高级项目实战视频教程，可以去小编的Python交流.裙 ：七衣衣九七七巴而五（数字的谐音）转换下可以找到了，还可以跟老司机交流讨教！

*本文的文字及图片来源于网络加上自己的想法,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。*

[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly93d3cueWh0Ny5jb20vdXBsb2FkL2ltYWdlLzIwMjAwMTE0LzVkMGMzZTdmOThkNDczOTEuanBn?x-oss-process=image/format,png