Scrapy配置代理过程详解

爱被打了一巴掌 2023-10-07 12:11 85阅读 0赞

> 最近在学习过程中，遇到了网站的反爬机制，由于不是很严格，所以使用代理即可解决，并把自己的具体配置过程总结如下：

**第一步：修改middlewares文件**

from .settings import USER_AGENTS
    from .settings import PROXIES
    import random
    import base64
    # 随机浏览器
    class RandomUserAgent:
        def process_request(self,request,spider):
            useragent = random.choice(USER_AGENTS) #随机选择一个代理
            request.headers.setdefault("User-Agent",useragent) #代理
    # 随机代理
    class RandomProxy:
        def process_request(self,request,spider):
            proxy = random.choice(PROXIES)
            # 没有代理用户密码
            if proxy["user_passwd"] is None:
                request.meta["proxy"] = "http://" + proxy["ip_port"]
            else:
                # 账户密码进行编码操作
                base64_userpasswd = base64.b64encode(proxy["user_passwd"].encode("utf-8"))
                request.headers["Proxy-Authorization"] = "Basic " + base64_userpasswd.decode("utf-8")
                request.meta["proxy"] = "http://" + proxy["ip_port"]

（注：这里主要用于随机生成代理浏览器和地址，对于随机代理这块，如果代理有用户名密码，需要使用base64进行加密处理）  
**第二步：修改setting配置文件**  
1.设置默认代理

USER_AGENT = 'Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;'

（这个只需要将注释打开，后面修改为代理浏览器即可）

2.修改`ROBOTSTXT_OBEY`属性为false

# Obey robots.txt rules
    ROBOTSTXT_OBEY = False

3.禁止cookie

# Disable cookies (enabled by default)
    COOKIES_ENABLED = False

4.启用下载中间组件

# Enable or disable downloader middlewares
    # See https://docs.scrapy.org/en/latest/topics/downloader-middleware.html
    DOWNLOADER_MIDDLEWARES = {
        
       # 配置代理
       'csdn.middlewares.RandomUserAgent': 100,
       'csdn.middlewares.RandomProxy': 200,
    }

（注：这里的代理是第一步中配置的，后面的数值100，200为官方默认数值）  
5.添加浏览器和ip的代理列表

PROXIES = 
    [
    	{
        "ip_port":"192.168.17.2","user_passwd":None}
    ]
    USER_AGENTS = [
        'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.0)',
        'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.2)',
        'Opera/9.27 (Windows NT 5.2; U; zh-cn)',
        'Opera/8.0 (Macintosh; PPC Mac OS X; U; en)',
        'Mozilla/5.0 (Macintosh; PPC Mac OS X; U; en) Opera 8.0',
        'Mozilla/5.0 (Linux; U; Android 4.0.3; zh-cn; M032 Build/IML74K) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30',
        'Mozilla/5.0 (Windows; U; Windows NT 5.2) AppleWebKit/525.13 (KHTML, like Gecko) Chrome/0.2.149.27 Safari/525.13'
    ]

（注：这个主要是用来第一步中随机生成代理ip和浏览器，我这里只用了一个ip，如果你有多个可以随意添加）

*经过以上的配置，scrapy就会经过代理去访问页面从而获取数据了*