asp.net下数据采集方法及示例

 

一，思路。采集其实是很简单的事，主要是猎取内容后，数据的处理方式难点。按面向对象思想，我将采集的方法封装为一个公用的类中，供调用

。代码较长，我打包放在符件里。如果对这个类不太了解，可不看，会调用的方法就可以。其作用就是传入的url，会返回网页的内容.

二，代码：以采集[url]http://music.yahoo.com.cn/mp3list.php?cat=%C8%AB%B2%BF%C4%D0%B8%E8%CA%D6[/url]，(采集地址示例)为例。
public void GetPage()
{


string str=bll.GetPage(Url);
str=bll.GetList(str,Lstar.Trim().ToLower(),Listend.Trim().ToLower());//Lstar,Listend为开始和结束的代

码
str=str.Replace("/"","");
str=str.Replace("'","");

string u=bll.getNewsContentUrl(str,"");//用正则
u=u.Replace("u=u.Replace("target=_blank>","");
string n=bll.getNewsContentUrl(str,"target=_blank>.*?");
n=n.Replace("target=_blank>","");
n=n.Replace("","");
string [] uu =u.Split ( new Char[] {','} );
string [] nn =n.Split ( new Char[] {','} );
for(int i=0;i{
if(this.ck(uu[i])==false)
{
string sql="ｉｎｓｅｒｔ INTO gs_name (m_name,m_url,addtime) VALUES ('"+nn[i]+"','"+uu[i]

+"','"+DateTime.Now+"')";
obj.SqlFunction(sql); //写入数据库
}


}


}

这样你就得到该页所有歌手名及url.同理得到其它页面内容，都入库

下面采该库中所有歌手的歌曲

ListText.Text="";
OleDbDataReader dr=obj.GetDataReader("ｓｅｌｅｃｔ * from gs_name ");
while(dr.Read())
{




string mx_url=dr["m_url"].ToString(); //其中一个歌手的url
string str=bll.GetPage(mx_url);
str=bll.GetList(str,"连通速度".Trim().ToLower(),"热门歌手榜".Trim().ToLower());
str=str.Replace("/"","");
str=str.Replace("'","");
str=str.ToLower();
string u=bll.getNews(str,"来源网址：.*? 请注意：此内容可能受到版权保护");

u=u.Replace("来源网址：","");
u=u.Replace("请注意：此内容可能受到版权保护","");


string n=bll.getNews(str,"此内容可能受到版权保护>.*?");

n=n.Replace("此内容可能受到版权保护>","");
n=n.Replace("","");

string [] uu =u.Split ( new Char[] {'~'} );
string [] nn =n.Split ( new Char[] {'~'} );
for(int i=0;i{
try
{
string sql="ｉｎｓｅｒｔ INTO gs_list (NAMEID,Title,url,addtime,isshow) VALUES

('"+Convert.ToInt32(dr["NAMEID"].ToString())+"','"+nn[i]+"','"+uu[i]+"','"+DateTime.Now+"',0)";
obj.SqlFunction(sql); //写入数据库
}
catch{}



}

}
dr.Close();


至此：所有歌曲都采完

我采所有男歌手和女歌手用的4个小时.有数据就好办了，你自己再处理一下：

比如查歌曲url,后缀为.mp3,格式设为mp3,为.rm，，，，

string InfoType="其它格式";
if(ds.Tables["a"].Rows[i]["url"].ToString().IndexOf(".mp3")>-1)InfoType="mp3";
if(ds.Tables["a"].Rows[i]["url"].ToString().IndexOf(".rm")>-1)InfoType="rm";
if(ds.Tables["a"].Rows[i]["url"].ToString().IndexOf(".wav")>-1)InfoType="wav";
if(ds.Tables["a"].Rows[i]["url"].ToString().IndexOf(".flash")>-1)InfoType="flash";
if(ds.Tables["a"].Rows[i]["url"].ToString().IndexOf(".swf")>-1)InfoType="swf";
if(ds.Tables["a"].Rows[i]["url"].ToString().IndexOf(".wma")>-1)InfoType="wma";
if(ds.Tables["a"].Rows[i]["url"].ToString().IndexOf(".mpeg")>-1)InfoType="mpeg";
if(ds.Tables["a"].Rows[i]["url"].ToString().IndexOf(".mid")>-1)InfoType="mid";

等等

做小偷就是不用入库，比这个要简单一些，但原理是一样的.