半小时实现Java手撸网络爬虫框架！！（附完整源码，建议收藏）

素颜马尾好姑娘i 2021-09-08 20:04 384阅读 0赞

**大家好，我是冰河~~**

最近在做一个搜索相关的项目，需要爬取网络上的一些链接存储到索引库中，虽然有很多开源的强大的爬虫框架，但本着学习的态度，自己写了一个简单的网络爬虫，以便了解其中的原理。今天，就为小伙伴们分享下这个简单的爬虫程序！！

**小伙伴们如果觉得文章不错，点赞、收藏、评论，分享走一起呀，记得给冰河来个一键三连~~**

说干就干，我们开始吧！

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2wxMDI4Mzg2ODA0_size_16_color_FFFFFF_t_70_pic_center][]

**首先介绍每个类的功能**：

*  DownloadPage.java的功能是下载此超链接的页面源代码.
 *  FunctionUtils.java 的功能是提供不同的静态方法，包括：页面链接正则表达式匹配,获取URL链接的元素,判断是否创建文件,获取页面的Url并将其转换为规范的Url,截取网页网页源文件的目标内容。
 *  HrefOfPage.java 的功能是获取页面源代码的超链接。
 *  UrlDataHanding.java 的功能是整合各个给类，实现url到获取数据到数据处理类。
 *  UrlQueue.java 的未访问Url队列。
 *  VisitedUrlQueue.java 已访问过的URL队列。

**下面介绍一下每个类的源代码：**

DownloadPage.java 此类要用到HttpClient组件。

package com.sreach.spider;
    
    import java.io.IOException;
    import org.apache.http.HttpEntity;
    import org.apache.http.HttpResponse;
    import org.apache.http.client.ClientProtocolException;
    import org.apache.http.client.HttpClient;
    import org.apache.http.client.methods.HttpGet;
    import org.apache.http.impl.client.DefaultHttpClient;
    import org.apache.http.util.EntityUtils;
    
    /** * @author binghe */
    public class DownloadPage { 
    
    	/** * 根据URL抓取网页内容 * * @param url * @return */
    	public static String getContentFormUrl(String url) { 
    		/* 实例化一个HttpClient客户端 */
    		HttpClient client = new DefaultHttpClient();
    		HttpGet getHttp = new HttpGet(url);
    
    		String content = null;
    
    		HttpResponse response;
    		try { 
    			/* 获得信息载体 */
    			response = client.execute(getHttp);
    			HttpEntity entity = response.getEntity();
    
    			VisitedUrlQueue.addElem(url);
    
    			if (entity != null) { 
    				/* 转化为文本信息 */
    				content = EntityUtils.toString(entity);
    
    				/* 判断是否符合下载网页源代码到本地的条件 */
    				if (FunctionUtils.isCreateFile(url)
    						&& FunctionUtils.isHasGoalContent(content) != -1) { 
    					FunctionUtils.createFile(
    							FunctionUtils.getGoalContent(content), url);
    				}
    			}
    
    		} catch (ClientProtocolException e) { 
    			e.printStackTrace();
    		} catch (IOException e) { 
    			e.printStackTrace();
    		} finally { 
    			client.getConnectionManager().shutdown();
    		}
    
    		return content;
    	}
    
    }

FunctionUtils.java 此类的方法均为static方法

package com.sreach.spider;
    
    import java.io.BufferedWriter;
    import java.io.File;
    import java.io.FileOutputStream;
    import java.io.IOException;
    import java.io.OutputStreamWriter;
    import java.util.regex.Matcher;
    import java.util.regex.Pattern;
    /** * @author binghe */
    public class FunctionUtils { 
    
    	/** * 匹配超链接的正则表达式 */
    	private static String pat = "http://www\\.oschina\\.net/code/explore/.*/\\w+\\.[a-zA-Z]+";
    	private static Pattern pattern = Pattern.compile(pat);
    
    	private static BufferedWriter writer = null;
    
    	/** * 爬虫搜索深度 */
    	public static int depth = 0;
    
    	/** * 以"/"来分割URL,获得超链接的元素 * * @param url * @return */
    	public static String[] divUrl(String url) { 
    		return url.split("/");
    	}
    
    	/** * 判断是否创建文件 * * @param url * @return */
    	public static boolean isCreateFile(String url) { 
    		Matcher matcher = pattern.matcher(url);
    
    		return matcher.matches();
    	}
    
    	/** * 创建对应文件 * * @param content * @param urlPath */
    	public static void createFile(String content, String urlPath) { 
    		/* 分割url */
    		String[] elems = divUrl(urlPath);
    		StringBuffer path = new StringBuffer();
    
    		File file = null;
    		for (int i = 1; i < elems.length; i++) { 
    			if (i != elems.length - 1) { 
    
    				path.append(elems[i]);
    				path.append(File.separator);
    				file = new File("D:" + File.separator + path.toString());
    
    			}
    
    			if (i == elems.length - 1) { 
    				Pattern pattern = Pattern.compile("\\w+\\.[a-zA-Z]+");
    				Matcher matcher = pattern.matcher(elems[i]);
    				if ((matcher.matches())) { 
    					if (!file.exists()) { 
    						file.mkdirs();
    					}
    					String[] fileName = elems[i].split("\\.");
    					file = new File("D:" + File.separator + path.toString()
    							+ File.separator + fileName[0] + ".txt");
    					try { 
    						file.createNewFile();
    						writer = new BufferedWriter(new OutputStreamWriter(
    								new FileOutputStream(file)));
    						writer.write(content);
    						writer.flush();
    						writer.close();
    						System.out.println("创建文件成功");
    					} catch (IOException e) { 
    						e.printStackTrace();
    					}
    
    				}
    			}
    
    		}
    	}
    
    	/** * 获取页面的超链接并将其转换为正式的A标签 * * @param href * @return */
    	public static String getHrefOfInOut(String href) { 
    		/* 内外部链接最终转化为完整的链接格式 */
    		String resultHref = null;
    
    		/* 判断是否为外部链接 */
    		if (href.startsWith("http://")) { 
    			resultHref = href;
    		} else { 
    			/* 如果是内部链接,则补充完整的链接地址,其他的格式忽略不处理,如：a href="#" */
    			if (href.startsWith("/")) { 
    				resultHref = "http://www.oschina.net" + href;
    			}
    		}
    
    		return resultHref;
    	}
    
    	/** * 截取网页网页源文件的目标内容 * * @param content * @return */
    	public static String getGoalContent(String content) { 
    		int sign = content.indexOf("<pre class=\"");
    		String signContent = content.substring(sign);
    
    		int start = signContent.indexOf(">");
    		int end = signContent.indexOf("</pre>");
    
    		return signContent.substring(start + 1, end);
    	}
    
    	/** * 检查网页源文件中是否有目标文件 * * @param content * @return */
    	public static int isHasGoalContent(String content) { 
    		return content.indexOf("<pre class=\"");
    	}
    
    }

HrefOfPage.java 此类为获取页面的超链接

package com.sreach.spider;
    /** * @author binghe * */
    public class HrefOfPage { 
    	/** * 获得页面源代码中超链接 */
    	public static void getHrefOfContent(String content) { 
    		System.out.println("开始");
    		String[] contents = content.split("<a href=\"");
    		for (int i = 1; i < contents.length; i++) { 
    			int endHref = contents[i].indexOf("\"");
    
    			String aHref = FunctionUtils.getHrefOfInOut(contents[i].substring(
    					0, endHref));
    
    			if (aHref != null) { 
    				String href = FunctionUtils.getHrefOfInOut(aHref);
    
    				if (!UrlQueue.isContains(href)
    						&& href.indexOf("/code/explore") != -1
    						&& !VisitedUrlQueue.isContains(href)) { 
    					UrlQueue.addElem(href);
    				}
    			}
    		}
    
    		System.out.println(UrlQueue.size() + "--抓取到的连接数");
    		System.out.println(VisitedUrlQueue.size() + "--已处理的页面数");
    
    	}
    
    }

UrlDataHanding.java 此类主要是从未访问队列中获取url,下载页面，分析url，保存已访问url等操作，实现Runnable接口

package com.sreach.spider;
    /** * @author binghe * */
    public class UrlDataHanding implements Runnable { 
    	/** * 下载对应页面并分析出页面对应的URL放在未访问队列中。 * * @param url */
    	public void dataHanding(String url) { 
    		HrefOfPage.getHrefOfContent(DownloadPage.getContentFormUrl(url));
    	}
    
    	public void run() { 
    		while (!UrlQueue.isEmpty()) { 
    			dataHanding(UrlQueue.outElem());
    		}
    	}
    }

UrlQueue.java 此类主要是用来存放未访问的URL队列

package com.sreach.spider;
    
    import java.util.LinkedList;
    /** * @author binghe * */
    public class UrlQueue { 
    	/** 超链接队列 */
    	public static LinkedList<String> urlQueue = new LinkedList<String>();
    
    	/** 队列中对应最多的超链接数量 */
    	public static final int MAX_SIZE = 10000;
    
    	public synchronized static void addElem(String url) { 
    		urlQueue.add(url);
    	}
    
    	public synchronized static String outElem() { 
    		return urlQueue.removeFirst();
    	}
    
    	public synchronized static boolean isEmpty() { 
    		return urlQueue.isEmpty();
    	}
    
    	public static int size() { 
    		return urlQueue.size();
    	}
    
    	public static boolean isContains(String url) { 
    		return urlQueue.contains(url);
    	}
    
    }

VisitedUrlQueue.java 主要是保存已访问过的URL，使用HashSet来保存，主要是考虑到每个访问过的URL是不同。HashSet刚好符合这个要求

package com.sreach.spider;
    
    import java.util.HashSet;
    
    /** * 已访问url队列 * @author binghe * */
    public class VisitedUrlQueue { 
    	public static HashSet<String> visitedUrlQueue = new HashSet<String>();
    
    	public synchronized static void addElem(String url) { 
    		visitedUrlQueue.add(url);
    	}
    
    	public synchronized static boolean isContains(String url) { 
    		return visitedUrlQueue.contains(url);
    	}
    
    	public synchronized static int size() { 
    		return visitedUrlQueue.size();
    	}
    }

Test.java 此类为测试类

import java.sql.SQLException;
    
    import com.sreach.spider.UrlDataHanding;
    import com.sreach.spider.UrlQueue;
    /** * @author binghe * */
    public class Test { 
    	public static void main(String[] args) throws SQLException { 
    		String url = "http://www.oschina.net/code/explore/achartengine/client/AndroidManifest.xml";
    		String url1 = "http://www.oschina.net/code/explore";
    		String url2 = "http://www.oschina.net/code/explore/achartengine";
    		String url3 = "http://www.oschina.net/code/explore/achartengine/client";
    
    		UrlQueue.addElem(url);
    		UrlQueue.addElem(url1);
    		UrlQueue.addElem(url2);
    		UrlQueue.addElem(url3);
    
    		UrlDataHanding[] url_Handings = new UrlDataHanding[10];
    
    		for (int i = 0; i < 10; i++) { 
    			url_Handings[i] = new UrlDataHanding();
    			new Thread(url_Handings[i]).start();
    		}
    
    	}
    }

说明一下：由于我抓取的是针对oschina的，所以里面的url正则表达式不适合其他网站，需要自己修改一下。你也可以写成xml来配置。

## 写在最后 ##

**如果你想进大厂，想升职加薪，或者对自己现有的工作比较迷茫，都可以私信我交流，希望我的一些经历能够帮助到大家~~**

**推荐阅读：**

*  《[三天撸完了MyBatis，各位随便问！！（冰河吐血整理，建议收藏）][MyBatis]》
 *  《[奉劝那些刚参加工作的学弟学妹们：要想进大厂，这些核心技能是你必须要掌握的！完整学习路线！！（建议收藏）][Link 1]》
 *  《[奉劝那些刚参加工作的学弟学妹们：这些计算机与操作系统基础知识越早知道越好！万字长文太顶了！！（建议收藏）][Link 2]》
 *  《[我用三天时间开发了一款老少皆宜的国民级游戏，支持播放音乐，现开放完整源代码和注释（建议收藏）！！][Link 3]》
 *  《[我是全网最硬核的高并发编程作者，CSDN最值得关注的博主，大家同意吗？（建议收藏）][CSDN]》
 *  《[毕业五年，从月薪3000到年薪百万，我掌握了哪些核心技能？（建议收藏）][3000]》
 *  《[我入侵了隔壁妹子的Wifi，发现。。。（全程实战干货，建议收藏）][Wifi]》
 *  《[千万不要轻易尝试“熊猫烧香”，这不，我后悔了！][Link 4]》
 *  《[清明节偷偷训练“熊猫烧香”，结果我的电脑为熊猫“献身了”！][Link 5]》
 *  《[7.3万字肝爆Java8新特性，我不信你能看完！（建议收藏）][7.3_Java8]》
 *  《[在业务高峰期拔掉服务器电源是一种怎样的体验？][Link 6]》
 *  《[全网最全Linux命令总结！！（史上最全，建议收藏）][Linux]》

**好了，今天就到这儿吧，小伙伴们点赞、收藏、评论，一键三连走起呀，我是冰河，我们下期见~~**

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2wxMDI4Mzg2ODA0_size_16_color_FFFFFF_t_70_pic_center 1][]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2wxMDI4Mzg2ODA0_size_16_color_FFFFFF_t_70_pic_center]: /images/20210901/f5a20f619428482888080737f8b80bbc.png
[MyBatis]: https://blog.csdn.net/l1028386804/article/details/118079011
[Link 1]: https://blog.csdn.net/l1028386804/article/details/116081409
[Link 2]: https://blog.csdn.net/l1028386804/article/details/115923034
[Link 3]: https://blog.csdn.net/l1028386804/article/details/116191713
[CSDN]: https://blog.csdn.net/l1028386804/article/details/116280491
[3000]: https://blog.csdn.net/l1028386804/article/details/115677451
[Wifi]: https://blog.csdn.net/l1028386804/article/details/116477701
[Link 4]: https://blog.csdn.net/l1028386804/article/details/115450665
[Link 5]: https://blog.csdn.net/l1028386804/article/details/115607742
[7.3_Java8]: https://blog.csdn.net/l1028386804/article/details/115547910
[Link 6]: https://blog.csdn.net/l1028386804/article/details/115576102
[Linux]: https://blog.csdn.net/l1028386804/article/details/117917710
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2wxMDI4Mzg2ODA0_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20210901/4d08732a67cc47919d1f9371f66c1a5f.png