java1234开源博客系统
博客信息

htmlunit 使用代理IP

0
发布时间:『 2017-04-10 10:06』  博客类别:htmlunit  阅读(4792)

有时候频繁的爬取第三方站点内容,会被站点的防火墙拦截,IP拉黑,所以这时候,就要用到代理IP,拉黑一个就换一个;


htmlunit实用代理的方式比较简单,WebClient重载构造方法就有提供,我们看下演示代码:

package com.open1111;


import java.io.IOException;
import java.net.MalformedURLException;

import com.gargoylesoftware.htmlunit.BrowserVersion;
import com.gargoylesoftware.htmlunit.FailingHttpStatusCodeException;
import com.gargoylesoftware.htmlunit.WebClient;
import com.gargoylesoftware.htmlunit.html.HtmlPage;

public class HtmlUnitTest3 {

	public static void main(String[] args) {
		WebClient webClient=new WebClient(BrowserVersion.FIREFOX_52,"202.106.16.36",3128); // 实例化Web客户端	
		try {
			HtmlPage page=webClient.getPage("http://www.java1234.com"); // 解析获取页面
			System.out.println("网页html:"+page.asXml()); // 获取Html
			System.out.println("====================");
			System.out.println("网页文本:"+page.asText()); // 获取文本
		} catch (FailingHttpStatusCodeException e) {
			// TODO Auto-generated catch block
			e.printStackTrace();
		} catch (MalformedURLException e) {
			// TODO Auto-generated catch block
			e.printStackTrace();
		} catch (IOException e) {
			// TODO Auto-generated catch block
			e.printStackTrace();
		}finally{
			webClient.close(); // 关闭客户端,释放内存
		}
	}
		
}


这里代理IP如何找 ,很多网站都有提供的,我们介绍一个,http://www.66ip.cn


QQ鎴浘20170410095900.jpg


运行效果和前面一样,只是速度会慢点 毕竟用了代理;


关键字:   htmlunit     代理IP  
关注Java1234微信公众号
博主信息
Java1234_小锋
(知识改变命运,技术改变世界)
Powered by Java1234 V3.0 Copyright © 2012-2016 Java知识分享网 版权所有