最近在开发一套淘宝客系统软件,在解决各种的问题,导致没有空写文章,看了很多朋友都问这个数据如何导入到数据库里面,那么今天我就以同步大淘客的数据作为例子,讲解一下如何把数据同步到本地数据库中。如果对我这个课程感兴趣的话,可以订阅我的头条号:一点热,也欢迎大家在下方的讨论区讨论。
既然是以大淘客的数据为例子,那么我们需要的就是大淘客的appkey,具体申请地址可以到这里查看
http://www.dataoke.com/ucenter/appkey_apply.asp
那么我们就开始我们要同步的数据了,由于我开始设计的数据库的字段和大淘客返回的数据的字段有一些不一样,那么我们需要对我们的数据库进行改造,改造后的数据库语句如下
DROP TABLE IF EXISTS `yeehot_taobaoke_product`;
CREATE TABLE `yeehot_taobaoke_product` (
`shopid` varchar(255) CHARACTER SET utf8 NOT NULL,
`name` varchar(255) CHARACTER SET utf8 NOT NULL,
`image` varchar(255) CHARACTER SET utf8 NOT NULL,
`detail` varchar(255) CHARACTER SET utf8 NOT NULL,
`type` varchar(255) CHARACTER SET utf8 NOT NULL,
`tbk_link` varchar(255) CHARACTER SET utf8 NOT NULL,
`price` varchar(255) CHARACTER SET utf8 NOT NULL,
`product_sale_count` varchar(255) CHARACTER SET utf8 NOT NULL,
`product_rate` varchar(255) CHARACTER SET utf8 NOT NULL,
`product_earn` varchar(255) CHARACTER SET utf8 NOT NULL,
`wangwang_name` varchar(255) CHARACTER SET utf8 NOT NULL,
`saler_id` varchar(255) CHARACTER SET utf8 NOT NULL,
`shop_name` varchar(255) CHARACTER SET utf8 NOT NULL,
`product_from` varchar(255) CHARACTER SET utf8 NOT NULL,
`card_id` varchar(255) CHARACTER SET utf8 NOT NULL,
`card_num` varchar(255) CHARACTER SET utf8 NOT NULL,
`card_own` varchar(255) CHARACTER SET utf8 NOT NULL,
`card_money` varchar(255) CHARACTER SET utf8 NOT NULL,
`card_begin` varchar(255) CHARACTER SET utf8 NOT NULL,
`card_end` varchar(255) CHARACTER SET utf8 NOT NULL,
`card_link` varchar(255) CHARACTER SET utf8 NOT NULL,
`card_share` varchar(255) CHARACTER SET utf8 NOT NULL,
`short_title` varchar(255) DEFAULT NULL,
`cid` varchar(255) DEFAULT NULL,
`quan_price` varchar(255) DEFAULT NULL,
`dsr` varchar(255) DEFAULT NULL,
`Commission_jihua` varchar(255) DEFAULT NULL,
`Commission_queqiao` varchar(255) DEFAULT NULL,
`Jihua_link` varchar(255) DEFAULT NULL,
`Jihua_shenhe` varchar(255) DEFAULT NULL,
`Introduce` varchar(255) DEFAULT NULL,
`Quan_m_link` varchar(255) DEFAULT NULL,
`Quan_link` varchar(255) DEFAULT NULL,
`id` int(10) unsigned NOT NULL AUTO_INCREMENT,
`Quan_condition` varchar(255) NOT NULL,
`after_price` varchar(255) NOT NULL,
PRIMARY KEY (`id`)
) ENGINE=MyISAM DEFAULT CHARSET=gbk;
SET FOREIGN_KEY_CHECKS = 1;
注意:如果这里不知道怎么操作更新的话,可以重新导入daogou.sql
使用PHP需要访问数据,一般都是使用curl函数来实现的,简单的几个步骤就可以进行get操作了,代码如下:
function getinfo($url) {
$ch = curl_init();
//设置选项,包括URL
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HEADER, 0);
//执行并获取HTML文档内容
$output = curl_exec($ch);
//释放curl句柄
curl_close($ch);
return $output;
}
有了这个网络访问链接,那么我们就可以进行数据的采集。
对比大淘客的全站领券商品API接口
http://api.dataoke.com/index.php?r=Port/index&type=total&appkey=”你的APPKEY”&v=2&page=”当前页数”
基本就是两个参数,一个是刚刚我们说到的KEY,还有一个页数。
了解这个接口后,我们就可以开发采集的功能了
采集这里,基本就是解析大淘客的数据,然后查询一下数据库是否有这个商品,如果存在的话,我们就更新它,如果不存在,我们就插入这个数据。具体代码如下:
function SysInfo($page) {
$caijiurl =”http://api.dataoke.com/index.php?r=Port/index&type=total&appkey=”. tk_key .”&v=2&page=”. $page;
$url = $caijiurl;
$info = getinfo($url);
$info = preg_replace(‘/\s/’,”, $info);
$info = str_replace(”,”, $info);
$resultinfo = json_decode($info, TRUE);
$totolnum = $resultinfo[‘data’][‘total_num’];
$page_all = $totolnum / 200 + 1;
$pnum = count($resultinfo[‘result’]);
echo”正在同步第”.$page.”页…
”.”总页数:”.$page_all.”
”;
echo”请稍等,同步需要时间,如果长时间没有响应,返回链接数据库超时,请将参数的page的数字记录下来再同步”;
$nd = array();
for ($i = 0; $i < $pnum; $i++) {
$info = $resultinfo[‘result’][$i];
$nd[$i][‘name’] = $info[‘D_title’];
$nd[$i][‘shopid’] = $info[‘GoodsID’];
$nd[$i][‘image’] = $info[‘Pic’];
$nd[$i][‘detail’] = $info[‘GoodsID’];
$nd[$i][‘short_title’] = $info[‘D_title’];
$nd[$i][‘cid’] = $info[‘Cid’];
$nd[$i][‘Quan_link’] = $info[‘Quan_link’];
$nd[$i][‘Quan_m_link’] = $info[‘Quan_m_link’];
$nd[$i][‘Introduce’] = $info[‘Introduce’];
$nd[$i][‘Jihua_shenhe’] = $info[‘Jihua_shenhe’];
$nd[$i][‘Jihua_link’] = $info[‘Jihua_link’];
$nd[$i][‘Commission_queqiao’] = $info[‘Commission_queqiao’];
$nd[$i][‘Commission_jihua’] = $info[‘Commission_jihua’];
$nd[$i][‘dsr’] = $info[‘Dsr’];
$nd[$i][‘quan_price’] = $info[‘Quan_price’];
$nd[$i][‘card_share’] = $info[‘Quan_m_link’];
$nd[$i][‘card_link’] = $info[‘Quan_link’];
$nd[$i][‘card_begin’] = $info[‘Quan_time’];
$nd[$i][‘card_end’] = $info[‘Quan_time’];
$nd[$i][‘card_money’] = $info[‘Quan_price’];
$nd[$i][‘card_own’] = $info[‘Quan_surplus’];
//$nd[$i][‘card_num’] = $info[‘card_num’];
$nd[$i][‘card_id’] = $info[‘Quan_id’];
$nd[$i][‘Quan_condition’] = $info[‘Quan_condition’];
$nd[$i][‘product_from’] = $info[‘IsTmall’] == 1 ?”天猫”:”淘宝”;
$nd[$i][‘saler_id’] = $info[‘SellerID’];
$nd[$i][‘product_sale_count’] = $info[‘Sales_num’];
$nd[$i][‘price’] = $info[‘Org_Price’];
$nd[$i][‘after_price’] = $info[‘Price’];
$nd[$i][‘product_rate’] = $info[‘Commission_jihua’];
$values =”‘”. implode(“‘,'”, array_values($nd[$i])) .”‘”;
$keys =”`”. implode(“`,`”, array_keys($nd[$i])) .”`”;
$shopid_1 = $nd[$i][‘shopid’];
$query = mysql_query(“select * from yeehot_taobaoke_product where shopid=’$shopid_1′”);
//var_dump(“select * from yeehot_taobaoke_product where shopid='”.$shopid_1.”‘”);
$num = mysql_num_rows($query);
//var_dump($num);
if ($num > 0) {
$sql =’update `yeehot_taobaoke_product` set ‘;
for ($m = 0; $m < count(array_keys($nd[$i])); $m++) {
if($m== (count(array_keys($nd[$i]))-1)){
$sql.=array_keys($nd[$i])[$m].”= ‘”.array_values($nd[$i])[$m].”‘”;
}
else{
$sql.=array_keys($nd[$i])[$m].”= ‘”.array_values($nd[$i])[$m].”‘, “;
}
}
$sql.=” where shopid =”.$shopid_1;
} else {
$sql =’insert into `yeehot_taobaoke_product` ‘;
$sql .='(‘. $keys .’) ‘;
$sql .=’values ‘;
$sql .='(‘. $values .’) ‘;
}
//var_dump($sql);
mysql_query($sql);
}
return $page_all;
}
最好,我们需要调用这个数据,这里,我想调用第一页,然后在根据第一页返回总的页数。然后通过循环更新页数
$page_all=SysInfo(1);
for ($j=1; $j <$page_all ; $j++) {
SysInfo($j);
sleep(5);
}
echo”
同步完成”;
这样,我们的同步商品优惠券的页面就开发完毕了