北大青鸟光谷校区

北大青鸟光谷校区

  • 北大青鸟徐东校区
  • 北大青鸟光谷校区
  • 北大青鸟宏鹏IT校区
  • 荆州青鸟之家
  • 襄阳青鸟之家

15902769092

百日千才

asp.net 抓取网页源码实现

2013-05-05 14:30来源:武汉北大青鸟光谷校区作者:027hpit

   写法1 比较

  ///

 

 

 

  /// 用HttpWebRequest取得网页源码

  /// 对于带BOM的网页很有效,不管是什么编码都能正确识别

  ///

 

 

 

  /// 网页地址"

  /// 返回网页源文件

  public static string GetHtmlSource2(string url)

  {

  //处理内容

  string html = "";

  HttpWebRequest request = (HttpWebRequest)WebRequest.Create(url);

  request.Accept = "*/*"; //接受任意文件

  request.UserAgent = "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.2; .NET CLR 1.1.4322)"; // 模拟使用IE在浏览 http://www.52mvc.com

  request.AllowAutoRedirect = true;//是否允许302

  //request.CookieContainer = new CookieContainer();//cookie容器,

  request.Referer = url; //当前页面的引用

  HttpWebResponse response = (HttpWebResponse)request.GetResponse();

  Stream stream = response.GetResponseStream();

  StreamReader reader = new StreamReader(stream, Encoding.Default);

  html = reader.ReadToEnd();

  stream.Close();

  return html;

  }

  写法2

  using System;

  using System.Collections.Generic;

  using System.Linq;

  using System.Web;

  using System.IO;

  using System.Text;

  using System.Net;

  namespace MySql

  {

  public class GetHttpData

  {

  public static string GetHttpData2(string Url)

  {

  string sException = null;

  string sRslt = null;

  WebResponse oWebRps = null;

  WebRequest oWebRqst = WebRequest.Create(Url);

  oWebRqst.Timeout = 50000;

  try

  {

  oWebRps = oWebRqst.GetResponse();

  }

  catch (WebException e)

  {

  sException = e.Message.ToString();

  }

  catch (Exception e)

  {

  sException = e.ToString();

  }

  finally

  {

  if (oWebRps != null)

  {

  StreamReader oStreamRd = new StreamReader(oWebRps.GetResponseStream(), Encoding.GetEncoding("utf-8"));

  sRslt = oStreamRd.ReadToEnd();

  oStreamRd.Close();

  oWebRps.Close();

  }

  }

  return sRslt;

  }

  }

  }

关闭

只为了方便您就学 北大青鸟光谷校区 北大青鸟光谷校区

武汉市江夏区华泰街武昌理工学院对面

全真项目实战 入学签就业协议

Copyright (c) 2006-2021 武汉宏鹏教育咨询有限公司 版权所有 All Rights Reserved.