爬虫的原理和数据抓取

待我称王封你为后i 2023-07-08 09:26 35阅读 0赞

**为什么要做爬虫？**  
都说现在是"大数据时代"，那数据从何而来？

*  企业产生的用户数据：百度指数、阿里指数、TBI腾讯浏览指数、新浪微博指数
 *  数据平台购买数据：数据堂、国云数据市场、贵阳大数据交易所
 *  政府/机构公开的数据：中华人民共和国国家统计局数据、世界银行公开数据、联合国数据、纳斯达克。
 *  数据管理咨询公司：麦肯锡、埃森哲、艾瑞咨询
 *  爬取网络数据：如果需要的数据市场上没有，或者不愿意购买，那么可以选择招/做一名爬虫工程师，自己动手丰衣足食。拉勾网Python爬虫职位

**通用爬虫和聚焦爬虫**  
根据使用场景，网络爬虫可分为 通用爬虫 和 聚焦爬虫 两种.  
**通用爬虫**  
通用网络爬虫 是 捜索引擎抓取系统（Baidu、Google、Yahoo等）的重要组成部分。主要目的是将互联网上的网页下载到本地，形成一个互联网内容的镜像备份。  
**通用搜索引擎（Search Engine）工作原理**  
通用网络爬虫 从互联网中搜集网页，采集信息，这些网页信息用于为搜索引擎建立索引从而提供支持，它决定着整个引擎系统的内容是否丰富，信息是否即时，因此其性能的优劣直接影响着搜索引擎的效果。  
**第一步：抓取网页**  
搜索引擎网络爬虫的基本工作流程如下：

*  首先选取一部分的种子URL，将这些URL放入待抓取URL队列
 *  取出待抓取URL，解析DNS得到主机的IP，并将URL对应的网页下载下来，存储进已下载网页库中，并且将这些URL放进已抓取URL队列。
 *  分析已抓取URL队列中的URL，分析其中的其他URL，并且将URL放入待抓取URL队列，从而进入下一个循环…  
    \[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-DdBkrK0z-1582683001555)(http://139.9.100.75/showdoc/server/…/Public/Uploads/2019-10-31/5dbaa3fc79ce7.png)\]  
    搜索引擎如何获取一个新网站的URL：

1.  新网站向搜索引擎主动提交网址：（如百度http://zhanzhang.baidu.com/linksubmit/url）
2.  在其他网站上设置新网站外链（尽可能处于搜索引擎爬虫爬取范围）
3.  搜索引擎和DNS解析服务商(如DNSPod等）合作，新网站域名将被迅速抓取。  
    **但是搜索引擎蜘蛛的是被输入了一定的规则的，它需要遵从一些命令或文件的内容，如标注为nofollow的链接，或者是Robots协议。**  
    Robots协议（也叫爬虫协议、机器人协议等），全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取，例如：  
    淘宝网：https://www.taobao.com/robots.txt  
    腾讯网： http://www.qq.com/robots.txt

**第二步：数据存储**  
搜索引擎通过爬虫爬取到的网页，将数据存入原始页面数据库。其中的页面数据与用户浏览器得到的HTML是完全一样的。

搜索引擎蜘蛛在抓取页面时，也做一定的重复内容检测，一旦遇到访问权重很低的网站上有大量抄袭、采集或者复制的内容，很可能就不再爬行。  
**第三步：预处理**  
搜索引擎将爬虫抓取回来的页面，进行各种步骤的预处理。

*  提取文字
 *  中文分词
 *  消除噪音（比如版权声明文字、导航条、广告等……）
 *  索引处理
 *  链接关系计算
 *  特殊文件处理
 *  …  
    除了HTML文件外，搜索引擎通常还能抓取和索引以文字为基础的多种文件类型，如 PDF、Word、WPS、XLS、PPT、TXT 文件等。我们在搜索结果中也经常会看到这些文件类型。

但搜索引擎还不能处理图片、视频、Flash 这类非文字内容，也不能执行脚本和程序。  
**第四步：提供检索服务，网站排名**  
搜索引擎在对信息进行组织和处理后，为用户提供关键字检索服务，将用户检索相关的信息展示给用户。

同时会根据页面的PageRank值（链接的访问量排名）来进行网站排名，这样Rank值高的网站在搜索结果中会排名较前，当然也可以直接使用 Money 购买搜索引擎网站排名，简单粗暴。

**但是，这些通用性搜索引擎也存在着一定的局限性：**

*  通用搜索引擎所返回的结果都是网页，而大多情况下，网页里90%的内容对用户来说都是无用的。
 *  不同领域、不同背景的用户往往具有不同的检索目的和需求，搜索引擎无法提供针对具体某个用户的搜索结果。
 *  万维网数据形式的丰富和网络技术的不断发展，图片、数据库、音频、视频多媒体等不同数据大量出现，通用搜索引擎对这些文件无能为力，不能很好地发现和获取。
 *  通用搜索引擎大多提供基于关键字的检索，难以支持根据语义信息提出的查询，无法准确理解用户的具体需求。  
    **针对这些情况，聚焦爬虫技术得以广泛使用。**  
    **聚焦爬虫**  
    聚焦爬虫，是"面向特定主题需求"的一种网络爬虫程序，它与通用搜索引擎爬虫的区别在于： 聚焦爬虫在实施网页抓取时会对内容进行处理筛选，尽量保证只抓取与需求相关的网页信息。

**urllib2库的基本使用**  
所谓网页抓取，就是把URL地址中指定的网络资源从网络流中读取出来，保存到本地。 在Python中有很多库可以用来抓取网页，我们先学习urllib2。  
urllib2 官方文档：https://docs.python.org/2/library/urllib2.html

urllib2 源码：https://hg.python.org/cpython/file/2.7/Lib/urllib2.py  
**urlopen**  
我们先来段代码：  
\# urllib2\_urlopen.py

# 导入urllib2 库
    import urllib.request
    
    # 向指定的url发送请求，并返回服务器响应的类文件对象
    response = urllib.request.urlopen("http://www.baidu.com")
    
    # 类文件对象支持 文件对象的操作方法，如read()方法读取文件全部内容，返回字符串
    html = response.read()
    
    # 打印字符串
    print(html)

实际上，如果我们在浏览器上打开百度主页， 右键选择“查看源代码”，你会发现，跟我们刚才打印出来的是一模一样。也就是说，上面的4行代码就已经帮我们把百度的首页的全部代码爬了下来。

一个基本的url请求对应的python代码真的非常简单。  
**Request**  
在我们第一个例子里，urlopen()的参数就是一个url地址；

但是如果需要执行更复杂的操作，比如增加HTTP报头，必须创建一个 Request 实例来作为urlopen()的参数；而需要访问的url地址则作为 Request 实例的参数。

# urllib2_request.py
    
    import urllib.request
    
    # url 作为Request()方法的参数，构造并返回一个Request对象
    request = urllib.request.Request("http://www.baidu.com")
    
    # Request对象作为urlopen()方法的参数，发送给服务器并接收响应
    response = urllib.request.urlopen(request)
    
    html = response.read()
    
    print(html)

运行结果是完全一样的：  
新建Request实例，除了必须要有 url 参数之外，还可以设置另外两个参数：

data（默认空）：是伴随 url 提交的数据（比如要post的数据），同时 HTTP 请求将从 "GET"方式 改为 "POST"方式。

headers（默认空）：是一个字典，包含了需要发送的HTTP报头的键值对。

**User-Agent**  
但是这样直接用urllib2给一个网站发送请求的话，确实略有些唐突了，就好比，人家每家都有门，你以一个路人的身份直接闯进去显然不是很礼貌。而且有一些站点不喜欢被程序（非人为访问）访问，有可能会拒绝你的访问请求。

但是如果我们用一个合法的身份去请求别人网站，显然人家就是欢迎的，所以我们就应该给我们的这个代码加上一个身份，就是所谓的User-Agent头。

*  浏览器 就是互联网世界上公认被允许的身份，如果我们希望我们的爬虫程序更像一个真实用户，那我们第一步，就是需要伪装成一个被公认的浏览器。用不同的浏览器在发送请求的时候，会有不同的User-Agent头。  
    urllib2默认的User-Agent头为：Python-urllib/x.y（x和y是Python主版本和次版本号,例如 Python-urllib/2.7）

import urllib.request
    
    url = "http://www.baidu.cn"
    
    #IE 9.0 的 User-Agent，包含在 ua_header里
    ua_header = {"User-Agent" : "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;"}
    
    #  url 连同 headers，一起构造Request请求，这个请求将附带 IE9.0 浏览器的User-Agent
    request = urllib.request.Request(url, headers = ua_header)
    
    # 向服务器发送这个请求
    response = urllib.request.urlopen(request)
    
    html = response.read()
    print(html)

**添加更多的Header信息**  
在 HTTP Request 中加入特定的 Header，来构造一个完整的HTTP请求消息。

*  可以通过调用Request.add\_header() 添加/修改一个特定的header 也可以通过调用Request.get\_header()来查看已有的header。  
    添加一个特定的header

# urllib2_headers.py
    
    import urllib.request
    
    url = "http://www.baidu.com"
    
    #IE 9.0 的 User-Agent
    header = {"User-Agent" : "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;"}
    request = urllib.request.Request(url, headers = header)
    
    #也可以通过调用Request.add_header() 添加/修改一个特定的header
    request.add_header("Connection", "keep-alive")
    
    # 也可以通过调用Request.get_header()来查看header信息
    # request.get_header(header_name="Connection")
    
    response = urllib.request.urlopen(request)
    
    print(response.code)     #可以查看响应状态码
    html = response.read()
    
    print(html)

随机添加/修改User-Agent  
\# urllib2\_add\_headers.py

import urllib.request
    import random
    
    url = "http://www.itcast.cn"
    
    ua_list = [
        "Mozilla/5.0 (Windows NT 6.1; ) Apple.... ",
        "Mozilla/5.0 (X11; CrOS i686 2268.111.0)... ",
        "Mozilla/5.0 (Macintosh; U; PPC Mac OS X.... ",
        "Mozilla/5.0 (Macintosh; Intel Mac OS... "
    ]
    
    user_agent = random.choice(ua_list)
    
    request = urllib.request.Request(url)
    
    #也可以通过调用Request.add_header() 添加/修改一个特定的header
    request.add_header("User-Agent", user_agent)
    
    # 第一个字母大写，后面的全部小写
    request.get_header("User-agent")
    
    response = urllib.request.urlopen(request)
    
    html = response.read()
    print(html)

**urllib2默认只支持HTTP/HTTPS的GET和POST方法**  
**urllib.urlencode()**  
urllib 和 urllib2 都是接受URL请求的相关模块，但是提供了不同的功能。两个最显著的不同如下：

*  urllib 仅可以接受URL，不能创建 设置了headers 的Request 类实例；
 *  但是 urllib 提供 urlencode 方法用来GET查询字符串的产生，而 urllib2 则没有。（这是 urllib 和 urllib2 经常一起使用的主要原因）
 *  编码工作使用urllib的urlencode()函数，帮我们将key:value这样的键值对转换成"key=value"这样的字符串，解码工作可以使用urllib的unquote()函数。（注意，不是urllib2.urlencode() )

import urllib.parse
    word = {"wd" : "爬虫"}
    # 通过urllib.parse.urlencode()方法，将字典键值对按URL编码转换，从而能被web服务器接受。
    word=urllib.parse.urlencode(word)
    print(word)
    
    # 通过urllib.parse.unquote()方法，把 URL编码字符串，转换回原先字符串。
    word=urllib.parse.unquote(word)
    print(word)

**一般HTTP请求提交数据，需要编码成 URL编码格式，然后做为url的一部分，或者作为参数传到Request对象中。**

**Get方式**  
GET请求一般用于我们向服务器获取数据，比如说，我们用百度搜索爬虫：https://www.baidu.com/s?wd=爬虫  
在其中我们可以看到在请求部分里，http://www.baidu.com/s? 之后出现一个长长的字符串，其中就包含我们要查询的关键词爬虫，于是我们可以尝试用默认的Get方式来发送请求。

import urllib.parse      #负责url编码处理
    import urllib.request
    
    url = "http://www.baidu.com/s"
    word = {"wd":"爬虫"}
    word = urllib.parse.urlencode(word) #转换成url编码格式（字符串）
    newurl = url + "?" + word    # url首个分隔符就是 ?
    
    headers={ "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36"}
    
    request = urllib.request.Request(newurl, headers=headers)
    
    response = urllib.request.urlopen(request)
    
    print(response.read())

**批量爬取贴吧页面数据**  
首先我们创建一个python文件, tiebaSpider.py，我们要完成的是，输入一个百度贴吧的地址，比如：

百度贴吧LOL吧第一页：http://tieba.baidu.com/f?kw=lol&ie=utf-8&pn=0

第二页： http://tieba.baidu.com/f?kw=lol&ie=utf-8&pn=50

第三页： http://tieba.baidu.com/f?kw=lol&ie=utf-8&pn=100

发现规律了吧，贴吧中每个页面不同之处，就是url最后的pn的值，其余的都是一样的，我们可以抓住这个规律。  
**简单写一个小爬虫程序，来爬取百度LOL吧的所有网页。**

*  先写一个main，提示用户输入要爬取的贴吧名，并用urllib.urlencode()进行转码，然后组合url，假设是lol吧，那么组合后的url就是：http://tieba.baidu.com/f?kw=lol
    
    # 模拟 main 函数 #
    
    import urllib.parse \#负责url编码处理  
    import urllib.request  
    if **name** == “**main**”:
    
        kw = input("请输入需要爬取的贴吧:")
          # 输入起始页和终止页，str转成int类型
          beginPage = int(input("请输入起始页："))
          endPage = int(input("请输入终止页："))
        
          url = "http://tieba.baidu.com/f?"
          key = urllib.parse.urlencode({"kw" : kw})
        
          # 组合后的url示例：http://tieba.baidu.com/f?kw=lol
          url = url + key
 *  接下来，我们写一个百度贴吧爬虫接口，我们需要传递3个参数给这个接口， 一个是main里组合的url地址，以及起始页码和终止页码，表示要爬取页码的范围。
    
        def tiebaSpider(url, beginPage, endPage):
              """
                  作用：负责处理url，分配每个url去发送请求
                  url：需要处理的第一个url
                  beginPage: 爬虫执行的起始页面
                  endPage: 爬虫执行的截止页面
              """
        
              for page in range(beginPage, endPage + 1):
                  pn = (page - 1) * 50
        
                  filename = "第" + str(page) + "页.html"
                  # 组合为完整的 url，并且pn值每次增加50
                  fullurl = url + "&pn=" + str(pn)
                  # print fullurl
        
                  # 调用loadPage()发送请求获取HTML页面
                  html = loadPage(fullurl, filename)
                  # 将获取到的HTML页面写入本地磁盘文件
 *  我们已经之前写出一个爬取一个网页的代码。现在，我们可以将它封装成一个小函数loadPage，供我们使用。  
    def loadPage(url, filename):  
    def loadPage(url, filename):  
    ‘’’  
    作用：根据url发送请求，获取服务器响应文件  
    url：需要爬取的url地址  
    filename: 文件名  
    ‘’’  
    print(“正在下载” + filename)
    
        headers = {"User-Agent": "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;"}
        
              request = urllib.request.Request(url, headers=headers)
              response = urllib.request.urlopen(request)
              return response.read()
 *  最后如果我们希望将爬取到了每页的信息存储在本地磁盘上，我们可以简单写一个存储文件的接口。
    
        def writeFile(html, filename):
              """
                  作用：保存服务器响应文件到本地磁盘文件里
                  html: 服务器响应文件
                  filename: 本地磁盘文件名
              """
              print("正在存储" + filename)
              with open(filename, 'wb') as f:
                  f.write(html)
              print("-" * 20)

其实很多网站都是这样的，同类网站下的html页面编号，分别对应网址后的网页序号，只要发现规律就可以批量爬取页面了。