首页>软件开发>java语言>用Java从网上抓取指定URL源码的方案

回复

« 返回列表

111111

精灵王

精灵王

注册日期2010-12-08
发帖数640
QQ
火币1103枚
粉丝120
关注75

加关注写私信打招呼

阅读：3290回复：0

用Java从网上抓取指定URL源码的方案

楼主^#

更多发布于：2010-12-15 12:30

[] 1


	在做无线项目的时候，和通讯公司的数据通讯有一部分是通过ＸＭＬ交互的，所以必须要动态抓取通讯公司提供的固定的internet上的数据，便研究了一下怎么抓取固定url上的数据，现和大家分享一下。　　类名GetPageCode，有一个方法GetSource，通过属性传递参数，入参控制的是要取得URL的地址，代理服务器的设置及输出方式的控制，这里大家能再扩展自己的需要，我这里只提供了两种方式，一种是直接写到本地的某个文件中，另外一种就是返回字符串的。类里已作了比较周详的注释，我想大家非常容易就看明白了。调用方式： #region 测试获取远程网页 GetPageCode gpc = new GetPageCode(); gpc.Url="http://ppcode.com"; gpc.ProxyState=1;//使用代理服务器，0为不使用，设置为1后下面的代理设置才起作用 gpc.ProxyAddress="http://proxyName.com";//代理服务器地址 gpc.ProxyPort="80";//代理服务器的端口 gpc.ProxyAccount="proxy";//代理服务器账号 gpc.ProxyPassword="password";//代理服务器密码 gpc.ProxyDomain="bqc";//代理服务器域 gpc.OutFilePath=filePath;//设置输出文件路径的地方，如果不设置，则返回字符串 gpc.GetSource();//处理 string tempErr=gpc.NoteMessage;//如果出错，这里会提示 string tempCode=gpc.OutString;//返回的字符串 #endregion 类代码： using System; using System.Collections; using System.ComponentModel; using System.Data; using System.Drawing; using System.IO; using System.Net; using System.Text; using System.web; namespace Test.Com { /// < summary > /// 功能：取得Internet上的URL页的源码 /// 创建：2004-03-22 /// 作者：Rexsp MSN:yubo@x263.net /// < /summary > public class GetPageCode { #region 私有变量 /// < summary > /// 网页URL地址 /// < /summary > private string url=null; /// < summary > /// 是否使用代码服务器：0 不使用 1 使用代理服务器 /// < /summary > private int proxyState=0; /// < summary > /// 代理服务器地址 /// < /summary > private string proxyAddress=null; /// < summary > /// 代理服务器端口 /// < /summary > private string proxyPort=null; /// < summary > /// 代理服务器用户名 /// < /summary > private string proxyAccount=null; /// < summary > /// 代理服务器密码 /// < /summary > private string proxyPassword=null; /// < summary > /// 代理服务器域 /// < /summary > private string proxyDomain=null; /// < summary > /// 输出文件路径 /// < /summary > private string outFilePath=null; /// < summary > /// 输出的字符串 /// < /summary > private string outString=null; /// < summary > /// 提示信息 /// < /summary > private string noteMessage; #endregion #region 公共属性 /// < summary > /// 欲读取的URL地址 /// < /summary > public string Url { get{return url;} set{url=value;} } /// < summary > /// 是否使用代理服务器标志 /// < /summary > public int ProxyState { get{return proxyState;} set{proxyState=value;} } /// < summary > /// 代理服务器地址 /// < /summary > public string ProxyAddress { get{return proxyAddress;} set{proxyAddress=value;} } /// < summary > /// 代理服务器端口 /// < /summary > public string ProxyPort { get{return proxyPort;} set{proxyPort=value;} } /// < summary > /// 代理服务器账号 /// < /summary > public string ProxyAccount { get{return proxyAccount;} set{proxyAccount=value;} } /// < summary > /// 代理服务器密码 /// < /summary > public string ProxyPassword { get{return proxyPassword;} set{proxyPassword=value;} } /// < summary > /// 代理服务器域 /// < /summary > public string ProxyDomain { get{return proxyDomain;} set{proxyDomain=value;} } /// < summary > /// 输出文件路径 /// < /summary > public string OutFilePath { get{return outFilePath;} set{outFilePath=value;} } /// < summary > /// 返回的字符串 /// < /summary > public string OutString { get{return outString;} } /// < summary > /// 返回提示信息 /// < /summary > public string NoteMessage { get{return noteMessage;} } #endregion #region 构造函数 public GetPageCode() { } #endregion #region 公共方法 /// < summary > /// 读取指定URL地址，存到指定文件中 /// < /summary > public void GetSource() { WebRequest request = WebRequest.Create(this.url); //使用代理服务器的处理 if(this.proxyState==1) { //默认读取80端口的数据 if(this.proxyPort==null) this.ProxyPort="80"; WebProxy myProxy=new WebProxy(); myProxy = (WebProxy)request.Proxy; myProxy.Address = new Uri(this.ProxyAddress+":"+this.ProxyPort); myProxy.Credentials = new NetworkCredential(this.proxyAccount, this.proxyPassword, this.ProxyDomain); request.Proxy = myProxy; } try { //请求服务 WebResponse response = request.GetResponse(); //返回信息 Stream resStream = response.GetResponseStream(); StreamReader sr = new StreamReader(resStream, System.Text.Encoding.Default); string tempCode= sr.ReadToEnd(); resStream.Close(); sr.Close(); //如果输出文件路径为空，便将得到的内容赋给OutString属性 if(this.outFilePath==null) { this.outString=tempCode; } else { FileInfo fi = new FileInfo(this.outFilePath); //如果存在文件则先干掉 if(fi.Exists) fi.Delete(); StreamWriter sw = new StreamWriter(this.outFilePath,true,Encoding.Default); sw.Write(tempCode); sw.Flush(); sw.Close(); } } catch { this.noteMessage="出错了，请检查网络是否连通;"; } } #endregion }

喜欢0 评分0

回复

发帖回复

« 返回列表

您需要登录后才可以回帖，登录或者注册