node抓去html页面元素

用node写脚本的时候经常会遇到需要抓取页面的信息,网上搜索一些资料,利用cheerio是非常方便的

抓取网页的时候一定要加UA,有一些特定网页没有UA是打不开的

var request = require('request');
var cheerio = require('cheerio');
	var options = {
    'method': 'GET',
    'url': 'https://www.baidu.com',
    'headers': {
      "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36",
    }
  };

  request(options, function (error, response,body) {
    if (error) throw new Error(error);
    getdom(body)
  });

function getdom(html){
  var $ = cheerio.load(html);
  //后面就像用jq一样获取页面元素就可以了
}

你可能感兴趣的:(node,脚本)