04—小白学Python爬虫之正则入门及使用

喜欢ヅ旅行 2022-05-30 09:59 269阅读 0赞

## 正则表达式简介 ##

### 前言 ###

简而言之，爬虫分为四步：

*  明确目标(爬取网站)
 *  爬取页面
 *  按照规则提取有用数据
 *  存储和使用数据

在前面的示例中，我们仅仅做了第一 二步，并且对所爬取的页面内容完整保存，没有对数据进行提取和处理，这样容易造成数据混乱且庞大，因此，我们需要按照规则对内容进行匹配和过滤，得到有效数据。

对文本进行过滤和匹配，最强大的就是正则，是爬虫(不限python)世界里不可缺少的神兵利器。

### 概念 ###

*  又称规则表达式，通常被用来检索、替换那些符合某个模式(规则)的文本
 *  是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。

给定一个正则表达式和另一个字符串，我们可以达到如下目的：

> 给定的字符串是否符合正则表达式的过滤逻辑（“匹配”）；  
> 通过正则表达式，从文本字符串中获取我们想要的特定部分（“过滤”）

![这里写图片描述][70]

### 匹配规则 ###

![这里写图片描述][70 1]

## Python中re模块使用 ##

在python中，使用内置的re模块来使用正则表达式。  
需要注意一下，正则使用对特殊字符进行转椅，需要在加前缀r，以便保证完整性，如下：

content = r'hell\t\n123'

### 使用步骤 ###

1.  使用compile方法将正则表达式的字符串形式编译成pattern对象
2.  通过pattern对象提供的方法对目标字符串进行匹配查找，返回match对象
3.  利用match对象提供的属性和方法，获取数据信息

### compile ###

> compile函数用于编译正则表达式，生成Pattern对象

使用如下：

import re
    
    p1 = re.compile(r'^\d+')

### parttern ###

> 通过compile函数将正则表达式编译成Parttern对象后，就可以使用其提供的方法对指定字符串匹配查找了，主要方法如下：

*  match()：从起始位置开始查找，一次匹配
 *  search()：从任何位置开始查找，一次匹配
 *  findall()：全部匹配，返回列表
 *  finditer()：全部匹配，返回迭代器
 *  split()：对字符串分割，返回列表
 *  sub()：替换

### match ###

用于查找字符串的头部(也可以指定位置)，一次匹配，只要找到一个匹配结果即返回，而不是返回所有的匹配结果。一般使用如下：

match(string[, pos[, endpos]])

其中，string 是待匹配的字符串，pos 和 endpos 是可选参数，指定字符串的起始和终点位置，默认值分别是 0 和 len (字符串长度)。因此，当不指定 pos 和 endpos 时，match 方法默认匹配字符串的头部。

当匹配成功时，返回一个 Match 对象，如果没有匹配上，则返回 None。

#### 示例一 ####

import re
    
    
    def demo():
        p1 = re.compile(r'\d+')
        content = 'hello 123 world'
        # 查找头部 没有匹配，返回None
        m1 = p1.match(content)
        print(m1)
        # 从角标6到角标9的位置进行查找，此时有值，返回Match对象
        m2 = p1.match(content, 6, 9)
        print(m2)
        # group 用于获得一个或多个分组匹配的字符串，当获取整个匹配的子串时，可以直接使用group()或group(0)
        print(m2.group())
        # start 获取分组匹配的子串在整个字符串中的起始位置
        print(m2.start())
        # end 获取分组匹配的子串在整个字符串中的结束位置
        print(m2.end())
        # span 返回(start,end)
        print(m2.span())

输出结果为：

None
    <_sre.SRE_Match object; span=(6, 9), match='123'>
    123
    6
    9
    (6, 9)

#### 示例二 ####

def demo2():
        # re.I表示忽略大小写
        pattern = re.compile(r'([a-z]+) ([a-z]+)', re.I)
        content = 'hello world hello python'
        m = pattern.match(content)
        # 打印匹配成功的整个字符串
        print(m.group())
        # 打印整个匹配字符串的起始和结束位置
        print(m.span())
        # 打印第一个分组匹配成功字符串的起始和结束位置
        print(m.span(1))
        # 打印第一个分组匹配成功字符串的起始和结束位置
        print(m.span(2))
        # 打印第一个分组匹配成功的子串
        print(m.group(1))
        # 打印第二个分组匹配成功的子串
        print(m.group(2))
        # 打印所有的分组
        print(m.groups())

输出结果为：

hello world
    (0, 11)
    (0, 5)
    (6, 11)
    hello
    world
    ('hello', 'world')

### search ###

用于查找字符串的任何位置，也是一次匹配，只要找到了一个匹配的结果就返回，而不是查找所有匹配的结果，它的一般使用形式如下：

search(string[, pos[, endpos]])

其中，string 是待匹配的字符串，pos 和 endpos 是可选参数，指定字符串的起始和终点位置，默认值分别是 0 和 len (字符串长度)。

当匹配成功时，返回一个 Match 对象，如果没有匹配上，则返回 None。

#### 示例一 ####

def demo():
        p = re.compile(r'\d+')
        content = 'hello123world'
        m = p.search(content)  # 此时match匹配返回None
        # 打印匹配到的数据
        print(m.group())
        # 打印匹配到的字符串在整串中的起始位置
        print(m.start())
        # 打印匹配到的字符串在整串中的结束位置
        print(m.end())
        # 打印匹配到的字符串在整串中的起始和结束位置
        print(m.span())

输出结果为：

123
    5
    8
    (5, 8)

#### 示例二 ####

def demo2():
        p = re.compile(r'\d+')
        content = 'hello123world'
        m = p.search(content)
        if m:
            print('match str:' + m.group())
            print('position:', m.span())

输出结果为：

match str:123
    position: (5, 8)

### findall ###

上面的 match 和 search 方法都是一次匹配，只要找到了一个匹配的结果就返回。然而，在大多数时候，我们需要搜索整个字符串，获得所有匹配的结果。

findall 方法的使用形式如下：

findall(string[, pos[, endpos]])

其中，string 是待匹配的字符串，pos 和 endpos 是可选参数，指定字符串的起始和终点位置，默认值分别是 0 和 len (字符串长度)。

findall 以列表形式返回全部能匹配的子串，如果没有匹配，则返回一个空列表。

#### 示例一 ####

def demo():
        p = re.compile(r'\d+')
        m = p.findall('123hello412as999')
        print(m)

输出为：

['123', '412', '999']

#### 示例二 ####

def demo2():
        p = re.compile(r'\d+.\d*')
        m = p.findall("3.141,'asv',4.1,12,'aaa9.9vvv'")
        print(m)

输出结果为：

['3.141', '4.1', '12,', '9.9']

### finditer ###

finditer 方法的行为跟 findall 的行为类似，也是搜索整个字符串，获得所有匹配的结果。但它返回一个顺序访问每一个匹配结果（Match 对象）的迭代器。

#### 示例一 ####

import re
    
    
    def demo():
        p = re.compile(r'\d+')
        m = p.finditer('123hello412as999')
        for item in m:
            print(item.group(), item.span())
    
    
    if __name__ == '__main__':
        demo()

输出结果为：

123 (0, 3)
    412 (8, 11)
    999 (13, 16)

### split ###

split 方法按照规则将字符串分割后返回列表，它的使用形式如下：

split(string[, maxsplit])

其中，maxsplit 用于指定最大分割次数，不指定将全部分割。

#### 示例一 ####

import re
    
    
    def demo():
        p = re.compile(r'[\s,\t;]+')
        m = p.split('a, k b;;cd\tuu')
        print(m)
    
    
    if __name__ == '__main__':
        demo()

输出结果为：

['a', 'k', 'b', 'cd', 'uu']

### sub ###

sub 方法用于替换。它的使用形式如下：

sub(repl, string[, count])

其中，repl 可以是字符串也可以是一个函数：

*  如果 repl 是字符串，则会使用 repl 去替换字符串每一个匹配的子串，并返回替换后的字符串，另外，repl 还可以使用 id 的形式来引用分组，但不能使用编号 0；
 *  如果 repl 是函数，这个方法应当只接受一个参数（Match 对象），并返回一个字符串用于替换（返回的字符串中不能再引用分组）。
 *  count 用于指定最多替换次数，不指定时全部替换。

#### 示例一 ####

import re
    
    
    def demo():
        p = re.compile(r'(\w+) (\w+)')
        str = 'hello 123,hello 456'
        # sub 使用'hello python' 替换匹配到的 'hello' '123'
        print(p.sub('hello python', str))
        # 引用分组
        print(p.sub(r'\2 \1', str))
        print('*' * 20)
        print(p.sub(fun_demo, str))
        # 最多替换一次
        print(p.sub(fun_demo, str, 1))
    
    
    def fun_demo(m):
        return 'hi ' + m.group(2)
    
    
    if __name__ == '__main__':
        demo()

输出为：

hello python,hello python
    123 hello,456 hello
    ********************
    hi 123,hi 456
    hi 123,hello 456

### 匹配中文 ###

在某些情况下，我们想匹配文本中的汉字，有一点需要注意的是，中文的 unicode 编码范围 主要在 \[u4e00-u9fa5\]，这里说主要是因为这个范围并不完整，比如没有包括全角（中文）标点，不过，在大部分情况下，应该是够用的。

#### 示例 ####

假设现在想把字符串 title = u’你好，hello，世界’ 中的中文提取出来

import re
    
    title = u'你好，hello，世界'
    pattern = re.compile(r'[\u4e00-\u9fa5]+')
    result = pattern.findall(title)
    
    print(result)

输出为：

['你好', '世界']

## 小结 ##

### 贪婪模式和非贪婪模式 ###

#### 概念 ####

*  贪婪模式：在整个表达式匹配成功的前提下，尽可能多的匹配 ( \* )；
 *  非贪婪模式：在整个表达式匹配成功的前提下，尽可能少的匹配 ( ? )；
 *  Python里数量词默认是贪婪的。

#### 示例一 ####

源字符串：abbbc

*  使用贪婪的数量词的正则表达式 ab\* ，匹配结果： abbb
    
    > \* 决定了尽可能多匹配 b，所以a后面所有的 b 都出现了
 *  使用非贪婪的数量词的正则表达式ab\*?，匹配结果： a
    
    > 即使前面有 \*，但是 ? 决定了尽可能少匹配 b，所以没有 b

#### 示例二 ####

源字符串：

aa<div>test1</div>bb<div>test2</div>cc

*  使用贪婪的数量词的正则表达式：`<div>.*</div>`，匹配结果：`<div>test1</div>bb<div>test2</div>`
    
    > 这里采用的是贪婪模式。在匹配到第一个`</div>`时已经可以使整个表达式匹配成功，但是由于采用的是贪婪模式，所以仍然要向右尝试匹配，查看是否还有更长的可以成功匹配的子串。匹配到第二个`</div>`后，向右再没有可以成功匹配的子串，匹配结束，匹配结果为`<div>test1</div>bb<div>test2</div>`
 *  使用非贪婪的数量词的正则表达式：`<div>.*?</div>`，匹配结果：`<div>test1</div>`
    
    > 正则表达式二采用的是非贪婪模式，在匹配到第一个`</div>`时使整个表达式匹配成功，由于采用的是非贪婪模式，所以结束匹配，不再向右尝试，匹配结果为`<div>test1</div>`

### 正则表达式测试网址 ###

[点此直达][Link 1]

至此，正则初步介绍就到这了，下一篇将会实战使用正则过滤网页数据。

[70]: /images/20220530/ea9465465f8048ef90ab3194bb4d9c13.png
[70 1]: /images/20220530/1fb3ce3a4577478db083ebfc0411ab05.png
[Link 1]: http://tool.oschina.net/regex/