采集入库程序原理

php开发通用采集程序（一）

php采集程序构建基本步骤：
采集程序是什么？获取远程数据（文字、图片、图片）并快速保存到本地或指定地址。
如天气预报（小偷程序）：
远程获取--》替换内容--》展示给用户
如实时更新的新闻（采集内容）：
远程获取--》提取内容--》分类存储--》读取内容---》展示内容

*************************
设计PHP采集入库UML
列表正则：
终端正则：
**************************
file_get_contents()获取远程页面内容
preg_match_all()匹配列表
preg_match()匹配终端
preg_replace() :过滤终端
**************************
新建一个列表文件：lb.php
echo $con=file_get_cotents($_GET[url]);
$preg ="#<h1><a href='(.*)' target='_blank'>(.*)</a><span>#iUs";

preg_match_all($preg,$conn,$arr);
foreach($arr[1] as $id=>$v){
echo $v." "arr[2][$id]."<br>";
}

新建vi。php获取标题

vi.php

$con=file_get_contents();
$preg="<title>(.*)</title>/iUs";//大小写不敏感，防止贪婪匹配，防止换行
echo zz($preg,$con);
function zz($preg,$con,$num=1){
preg_match($preg,$con,$arr);
return $arr[$num];
}


echo $arr[1];//获取标题
echo "<a href=vi.php?url=".$v.">".arr[2][$id]."<br>";
======================================
php100:83:采集程序

lb.php
<?php
if($_GET[id]){
$con=file_get_cotents($_GET[url].$_GET[id]."shtml");
$preg ="/<h1><a href='(.*)' target='_blank'>(.*)</a><span>/iUs";

perg_match_all($preg,$conn,$arr);
foreach($arr[1] as $id=>$v){
echo $v." "arr[2][$id]."<br>";
}
$_GET[id]++;

echo "<script>location.href='lb.php?id='.$_GET[id]."</script>";
}
?>

http://www.xinhuanet.com/finance/tzxx.htm

===============================================================
操作步骤：
1.新建一个数据库caiji,tep_url表，id,title,content,11 ,100,150
2.新建一个conn.php,插入的语句可以通过phpmyadmin插入一个语句简单的获得
3.新建一个vi.php
4.单条入库获取下一条。

临时的路径列表：
完善我的入库表。

假设删删除了其中的一条Id值，怎么办？删除了第9条！
多加一条语句
$sql2="select * from tmp_url where id>'$gid'order by id asc limit 1

code:

ls.php

 

<?php
include_once('conn.php');
if(@$_GET['id']<=6 && @$_GET['id']){
  if(@$_GET['id']==1){
$con=file_get_contents("http://www.php100.com/html/shipinjiaocheng/PHP100shipinjiaocheng/");
}else{
$con=file_get_contents("http://www.php100.com/html/shipinjiaocheng/PHP100shipinjiaocheng/".@$_GET['id'].".html");
}
$preg="#<td height=\"25\"><img src=\"(.*)\"> <a href=\"(.*)\" style=\"font-size:14px\"><strong><b>(.*)</b></strong></a></td>#iUs";

preg_match_all($preg,$con,$arr);

foreach ($arr[2] as $id=>$v){
 echo "<a href=vi.php?url=".$v.">".$arr[3][$id]."</a><br>";
 
 $sql="INSERT INTO `caiji` (`id`, `title`, `url`) VALUES (NULL, '".$arr[3][$id]."', '".$v."')";
 mysql_query($sql);
    }
    @$_GET['id']++;
   
    echo "正在采集列表....".@$_GET['id'];
    echo "<script>location.href='ls.php?id=".@$_GET['id']."'</script>";
}else{
 echo "采集结束";
}
?>

 

 

vi.php

<?php

include_once('conn.php');
$gid=(int)@$_GET['id'];
$sql="select * from `caiji` where `id`='$gid'";
$query=mysql_query($sql);
$row=mysql_fetch_array($query);

    $con=file_get_contents($row['url']);
    echo $title=zz("#<title>(.*)</title>#iUs",$con);
    echo $con=zz("#<ul class=\"downurllist\">(.*)</ul>#iUs",$con);
    $content=addslashes($con);
    $intosql="INSERT INTO `caiji`.`news` (`id`, `title`, `content`) VALUES (NULL,'$title','$content')";
    mysql_query($intosql);

$sql2="select * from `caiji` where `id`>'$gid' order by `id` asc limit 1";
$query2=mysql_query($sql2);
$row2=mysql_fetch_array($query2);
if($row2[0]){
echo "<script>location.href='vi.php?id=".$row2[0]."'</script>";
}

function zz($preg,$con,$num=1){
    preg_match($preg,$con,$arr);
    return $arr[$num]; 
    }

?>