【重磅推荐】在Pycharm中调试scrapy爬虫的两种方法（有坑，务必注意）

逃离我推掉我的手 2021-09-18 03:06 298阅读 0赞

第二种方式：参考链接：[https://www.jianshu.com/p/6f7cf38d5792][https_www.jianshu.com_p_6f7cf38d5792]

pycharm调试scrapy常用的命令配置：

**`scrapy crawl <scrapy_name> （scrapy_name不是文件名，而是Spider的属性name的值）`**

**`scrapy runspider scrapy_first/spider/book.py`**

### **第一种模式（常用模式）.使用scrapy.cmdline的execute方法** ###

首先，在项目文件**scrapy.cfg**的同级建立**main.py**文件（注意，必须是同级建立），在其中键入如下代码：  
在其余爬虫文件中设置断点后，运行**main.py**,即可实现在pycharm中的调试。

from scrapy.cmdline import execute
    import sys
    import os
    
    sys.path.append(os.path.dirname(os.path.abspath(__file__)))
    
    单文件调试模式一：runspider+需要执行的spider的name.py文件
    execute(['scrapy', 'runspider', 'scrapy_first/spiders/book.py'])
    
    单文件调试模式二：crawl+需要执行的spider_name！！
    这里的spider_name不是文件名,而是继承scrapy.spiders.Spider子类的name属性名字(必须是唯一的)
    # execute(['scrapy', 'crawl', "spider_name"])
    execute(['scrapy', 'crawl', 'test'])

class Test1Spider(Spider):
    
        name属性就是spider_name,【scrapy crawl spider_name】执行的文件名(必须是唯一)
        name = 'test'
     
        def parse(self, response):
            pass

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzM0MzE0NA_size_16_color_FFFFFF_t_70][]

[https_www.jianshu.com_p_6f7cf38d5792]: https://www.jianshu.com/p/6f7cf38d5792
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MzM0MzE0NA_size_16_color_FFFFFF_t_70]: /images/20210812/cd2ddfb30a1948e2932175e27aa36c6d.png