如何爬取动态网页的数据？Python实战案例

╰+哭是因爲堅強的太久メ 2023-02-11 08:44 53阅读 0赞

## 前言 ##

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。

## 一、什么是动态网页 ##

所谓的动态网页，是指跟静态网页相对的一种网页编程技术。静态网页，随着html代码的生成，页面的内容和显示效果就基本上不会发生变化了——除非你修改页面代码。而动态网页则不然，页面代码虽然没有变，但是显示的内容却是可以随着时间、环境或者数据库操作的结果而发生改变的。——来源百度百科

动态网页具有减少工作量、内容更新快、可完成功能多等特点，被很多公司所采用，比如狗东、某宝、某瓣、某乎等等。

## 二、什么是AJAX ##

随着人们对动态网页加载速度的要求越来越高，AJAX技术应运而生并成为许多站点的首选。AJAX是一种用于创建快速动态网页的技术，通过在后台与服务器进行少量数据交换，使网页实现异步更新。这意味着在不重新加载整个网页的情况下，可以对网页的某部分进行更新。

## 三、如何爬取AJAX动态加载网页 ##

**1. 解析接口**

只要是有数据发送过来，那肯定是有发送到服务器的请求的吧。我们只需找出它悄悄加载出的页面的真实请求即可。特点：爬取速度快，爬取的数据干净，有些网站解析难度较大。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70]

**2. Selenium**

selenium是什么呢？它本来是个自动化测试工具，但是被广泛的用户拿去爬虫了。它是一个工具，这个工具可以用代码操作浏览器，比如控制浏览器的下滑、模拟鼠标点击等。特点：代码较简单，爬取速度慢，容易被封ip。

## 项目实操 ##

法院历年公示的开庭信息、执行信息等。  
长这样：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 1]  
然后，成功提取了第一页  
紧接着，加了个for循环，想着花个几分钟时间把此网站2164页共计32457条开庭公告数据提取到excel里。  
然后，也就没有然后了。各位看了前面的理论部分应该也知道了，这是 AJAX动态加载的网页。无论你怎么点击下一页，url是不会变化的。你不信我点给你看看，左上角的url像山一样矗立在那：![在这里插入图片描述][20200522142226963.gif]

## 一、解析接口 ##

既然如此，那我们就开启爬虫的正确姿势吧，先用解析接口的方法来写爬虫。

首先，找到真实请求。右键检查，点击Network，选中XHR，刷新网页，选择Name列表中的jsp文件。没错，就这么简单，真实请求就藏在里面。  
![在这里插入图片描述][20200522143009193.gif]  
我们再仔细看看这个jsp，这简直是个宝啊。有真实请求url，有请求方法post，有Headers，还有Form Data，而From Data表示给url传递的参数，通过改变参数，咱们就可以获得数据！  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 2]  
我们再仔细看看这些参数，pagesnum参数不就是代表页数嘛！我们尝试点击翻页，发现只有pagesnum参数会变化。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 3]  
既然发现了它，那就赶紧抓住它。  
![在这里插入图片描述][20200522143154219.png]  
构造真实请求，添加Headers。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 4]  
构建get\_page函数，自变量为page，也就是页数。以字典类型创建表单data，用post方式去请求网页数据。这里要注意要对返回的数据解码，编码为’gbk’，否则返回的数据会乱码！另外我还加了异常处理优化了下，以防意外发生。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 5]  
构建parse\_page函数，对返回的网页数据进行解析，用Xpath提取所有字段内容，保存为csv格式。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 6]  
最后，遍历一下页数，调用一下函数。OK，搞定！  
![在这里插入图片描述][20200522143618904.png]  
我们来看一下最终效果：  
![在这里插入图片描述][20200522143635857.gif]  
总结一下，对于AJAX动态加载网页爬虫，一般就两种方式：解析接口；Selenium。推荐解析接口的方式，如果解析的是json数据，就更好爬了。实在没辙了再用Selenium吧。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200522144441408.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20200522141503356.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0,size_16,color_FFFFFF,t_70
[20200522142226963.gif]: https://img-blog.csdnimg.cn/20200522142226963.gif
[20200522143009193.gif]: https://img-blog.csdnimg.cn/20200522143009193.gif
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20200522143036845.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 3]: https://img-blog.csdnimg.cn/20200522143105432.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0,size_16,color_FFFFFF,t_70
[20200522143154219.png]: https://img-blog.csdnimg.cn/20200522143154219.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 4]: https://img-blog.csdnimg.cn/20200522143304945.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 5]: https://img-blog.csdnimg.cn/20200522143441965.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0_size_16_color_FFFFFF_t_70 6]: https://img-blog.csdnimg.cn/20200522143541676.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ2NjE0MTU0,size_16,color_FFFFFF,t_70
[20200522143618904.png]: https://img-blog.csdnimg.cn/20200522143618904.png
[20200522143635857.gif]: https://img-blog.csdnimg.cn/20200522143635857.gif