Scrapy -- 04

亦凉 2022-01-14 07:27 219阅读 0赞

[2019独角兽企业重金招聘Python工程师标准>>> ][2019_Python_] ![hot3.png][]

翻译的官网文档质量不错啊，在看自己翻的，TAT。

### Spider ###

*  ***class* scrapy.spider.Spider \#官网手册后面还有几个，例如CrawlSpider，但感觉还是这个用的多，github上的使用比例为30000对4300。如果CrawlSpider更好用，还望大神告知。**  
    
 *  Spider是最简单的spider。每个其他的spider必须继承自该类(包括Scrapy自带的其他spider以及您自己编写的spider)。 Spider并没有提供什么特殊的功能。 其仅仅请求给定的 start\_urls/start\_requests ，并根据返回的结果(resulting responses)调用spider的 parse 方法。
    
     *  closed(*reason*)
     *  当spider关闭时，该函数被调用。 该方法提供了一个替代调用signals.connect()来监听 [spider\_closed][spider_closed] 信号的快捷方式。
     *  log(*message*\[, *level*, *component*\])
     *  使用 [scrapy.log.msg()][scrapy.log.msg] 方法记录(log)message。 log中自动带上该spider的 [name][] 属性。 更多数据请参见 [*Logging*][Logging] 。
     *  ***parse(response)***
     *  当response没有指定回调函数时，该方法是Scrapy处理下载的response的默认方法。
        
        parse 负责处理response并返回处理的数据以及(/或)跟进的URL。[Spider][] 对其他的Request的回调函数也有相同的要求。
        
        该方法及其他的Request回调函数必须返回一个包含[Request][] 及(或) [Item][]的可迭代的对象。
        
        <table> 
         <tbody> 
          <tr> 
           <th>参数:</th> 
           <td><strong>response</strong> (<a href="http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/request-response.html#scrapy.http.Response" rel="nofollow">Response</a>) – 用于分析的response</td> 
          </tr> 
         </tbody> 
        </table>
     *  ***make\_requests\_from\_url(url)***
     *  该方法接受一个URL并返回用于爬取的 [Request][] 对象。 该方法在初始化request时被 [start\_requests()][start_requests] 调用，也被用于转化url为request。
        
        默认未被复写(overridden)的情况下，该方法返回的Request对象中，[parse()][parse] 作为回调函数，dont\_filter参数也被设置为开启。 (详情参见 [Request][]).
     *  ***start\_requests()*** （处理需要登陆验证的注意：整点小号，小心封号！！）
     *  该方法必须返回一个可迭代对象(iterable)。该对象包含了spider用于爬取的第一个Request。
        
        当spider启动爬取并且未制定URL时，该方法被调用。 当指定了URL时，[make\_requests\_from\_url()][make_requests_from_url] 将被调用来创建Request对象。 该方法仅仅会被Scrapy调用一次，因此您可以将其实现为生成器。
        
        该方法的默认实现是使用 [start\_urls][start_urls] 的url生成Request。
        
        如果您想要修改最初爬取某个网站的Request对象，您可以重写(override)该方法。 例如，如果您需要在启动时以POST登录某个网站，你可以这么写:
        
            def start_requests(self):
                return [scrapy.FormRequest("http://www.example.com/login",
                                           formdata={'user': 'john', 'pass': 'secret'},
                                           callback=self.logged_in)]def logged_in(self, response):
                # here you would extract links to follow and return Requests for
                # each of them, with another callback
                pass
     *  ***start\_urls***
     *  URL列表。当没有制定特定的URL时，spider将从该列表中开始进行爬取。 因此，第一个被获取到的页面的URL将是该列表之一。 后续的URL将会从获取到的数据中提取。
     *  ***allowed\_domains***
     *  可选。包含了spider允许爬取的域名(domain)列表(list)。 当 [OffsiteMiddleware][] 启用时， 域名不在列表中的URL不会被跟进。（一定要注意，要不然你怎么跪的都不知道，DEBUG的提示很坑爹的。）
     *  ***name***
     *  定义spider名字的字符串(string)。spider的名字定义了Scrapy如何定位(并初始化)spider，所以其必须是唯一的。 不过您可以生成多个相同的spider实例(instance)，这没有任何限制。 name是spider最重要的属性，而且是必须的。
        
        如果该spider爬取单个网站(single domain)，一个常见的做法是以该网站(domain)(加或不加 [后缀][Link 1] )来命名spider。 例如，如果spider爬取 mywebsite.com ，该spider通常会被命名为 mywebsite 。

以上是Scrapy.spider的组成。这里要说一下parse方法，这个方法必须返回Request和Item的可迭代对象。返回Item可以理解，为何要返回Request呢？事实上Scrapy调用了spider的parse方法，然后迭代得到的对象，并执行对象自身的callback函数。关于Scrapy架构的更详细情况，推荐这篇blog：[http://blog.csdn.net/frylion/article/details/8558538][http_blog.csdn.net_frylion_article_details_8558538]。

利用上述特性，我们就可以执行**递归抓取**等操作。例如像http://www.newxue.com/gkmz/sgyy/这种，我们想要抓取每章的内容，就可以通过parse函数中抓取所有的章节url，然后生成request对象，url为章节url，回调函数为parse2，并编写parse2对章节内容进行抓取。就像这样：

#待完善，老板不让说抓的细节T_T
    def parse(self, response):
        for i in response.xpath(xpath表达式):
            url = 章节url
            yield scrapy.Request(url,callback=self.parse_page2)
    def parse_page2(self, response):
        # this would log http://www.example.com/some_page.html
        self.log("Visited %s" % response.url)

此外，如果需要在父页面抓取一些信息，在子页面另外抓取一些信息，可以利用scrapy.Request的meta字段：meta是一个字典，它会被浅拷贝到子parse的response.meta之中。你可以将items在父parse函数添加到meta之中，而在子parse函数中利用response.meta提取items。示例如下：

#这个暂时没用到。。。
    def parse_page1(self, response):
        item = MyItem()
        item['main_url'] = response.url
        request = scrapy.Request("http://www.example.com/some_page.html",
                                 callback=self.parse_page2)
        request.meta['item'] = item
        return request
    def parse_page2(self, response):
        item = response.meta['item']
        item['other_url'] = response.url
        return item

待续

转载于:https://my.oschina.net/u/1242185/blog/324562

[2019_Python_]: https://my.oschina.net/u/2663968/blog/3061697
[hot3.png]: /images/20220114/33ad372250f542479ddc6eb760288ae5.png
[spider_closed]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/signals.html#std:signal-spider_closed
[scrapy.log.msg]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/logging.html#scrapy.log.msg
[name]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/spiders.html#scrapy.spider.Spider.name
[Logging]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/logging.html#topics-logging
[Spider]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/spiders.html#scrapy.spider.Spider
[Request]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/request-response.html#scrapy.http.Request
[Item]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/items.html#scrapy.item.Item
[start_requests]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/spiders.html#scrapy.spider.Spider.start_requests
[parse]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/spiders.html#scrapy.spider.Spider.parse
[make_requests_from_url]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/spiders.html#scrapy.spider.Spider.make_requests_from_url
[start_urls]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/spiders.html#scrapy.spider.Spider.start_urls
[OffsiteMiddleware]: http://scrapy-chs.readthedocs.org/zh_CN/0.24/topics/spider-middleware.html#scrapy.contrib.spidermiddleware.offsite.OffsiteMiddleware
[Link 1]: http://en.wikipedia.org/wiki/Top-level_domain
[http_blog.csdn.net_frylion_article_details_8558538]: http://blog.csdn.net/frylion/article/details/8558538