python爬取盘搜的有效链接实现代码

ゝ一纸荒年。 2023-07-21 11:30 8阅读 0赞

这篇文章主要介绍了python爬取盘搜的有效链接，本文通过实例代码给大家介绍的非常详细，具有一定的参考借鉴价值 ,需要的朋友可以参考下  
因为盘搜搜索出来的链接有很多已经失效了，影响找数据的效率，因此想到了用爬虫来过滤出有效的链接，顺便练练手~

这是本次爬取的目标网址http://www.pansou.com，首先先搜索个python，之后打开开发者工具，

可以发现这个链接下的json数据就是我们要爬取的数据了，把多余的参数去掉，

剩下的链接格式为http://106.15.195.249:8011/search\_new?q=python&p=1，q为搜索内容，p为页码![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hhb3h1bjEy_size_16_color_FFFFFF_t_70]  
以下是代码实现：

import requests
    import json
    from multiprocessing.dummy import Pool as ThreadPool
    from multiprocessing import Queue
    import sys
    headers = { 
      "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36"
    }
    q1 = Queue()
    q2 = Queue()
    urls = [] # 存取url列表
    # 读取url
    def get_urls(query):
      # 遍历50页
      for i in range(1,51):
        # 要爬取的url列表，返回值是json数据，q参数是搜索内容，p参数是页码
        url = "http://106.15.195.249:8011/search_new?&q=%s&p=%d" % (query,i)
        urls.append(url)
    # 获取数据
    def get_data(url):
      print("开始加载，请等待...")
      # 获取json数据并把json数据转换为字典
      resp = requests.get(url, headers=headers).content.decode("utf-8")
      resp = json.loads(resp)
      # 如果搜素数据为空就抛出异常停止程序
      if resp['list']['data'] == []:
        raise Exception
      # 遍历每一页数据的长度
      for num in range(len(resp['list']['data'])):
        # 获取百度云链接
        link = resp['list']['data'][num]['link']
        # 获取标题
        title = resp['list']['data'][num]['title']
        # 访问百度云链接，判断如果页面源代码中有“失效时间：”这段话的话就表明链接有效，链接无效的页面是没有这段话的
        link_content = requests.get(link, headers=headers).content.decode("utf-8")
        if "失效时间：" in link_content:
          # 把标题放进队列1
          q1.put(title)
          # 把链接放进队列2
          q2.put(link)
          # 写入csv文件
          with open("wangpanziyuan.csv", "a+", encoding="utf-8") as file:
            file.write(q1.get()+","+q2.get() + "\n")
      print("ok")
    if __name__ == '__main__':
      # 括号内填写搜索内容
      get_urls("python")
      # 创建线程池
      pool = ThreadPool(3)
      try:
        results = pool.map(get_data, urls)
      except Exception as e:
        print(e)
      pool.close()
      pool.join()
      print("退出")

总结

以上所述是小编给大家介绍的python爬取盘搜的有效链接实现代码希望对大家有所帮助，  
非常感谢你的阅读  
大学的时候选择了自学python，工作了发现吃了计算机基础不好的亏，学历不行这是没办法的事，只能后天弥补，于是在编码之外开启了自己的逆袭之路，不断的学习python核心知识，深入的研习计算机基础知识，整理好了，我放在我们的Python学习扣qun：250933691，如果你也不甘平庸，那就与我一起在编码之外，不断成长吧！

其实这里不仅有技术，更有那些技术之外的东西，比如，如何做一个精致的程序员，而不是“屌丝”，程序员本身就是高贵的一种存在啊，难道不是吗？[\[点击加入\]][Link 1]想做你自己想成为高尚人，加油！

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hhb3h1bjEy_size_16_color_FFFFFF_t_70]: /images/20230528/81f88f533feb474bb97c727096da197d.png
[Link 1]: https://jq.qq.com/?_wv=1027&k=5cb1kUZ