就是想读个研究生
就是想读个研究生

爬虫 解析 笔记1

解析:xpath

  • xpath
  • 案例1：获取百度网站的百度一下
  • 案例2：爬取站长素材的图片

xpath

xpath基本语法：

  1. 路径查询
    //：查找所有子孙节点，不考虑层级关系
    /：找直接子节点
  2. 谓词查询
    //div[@id]
    //div[@id=“mainontent”]
  3. 属性查询
    //@class
  4. 模糊查询
    //div[contains(@id, “he”)]
    //div[starts-with(@id, “he”)]
  5. 内容查询
    //div/h1/text()
  6. 逻辑运算
    //div[@id=“head” and @class=“s_down”]
    //title | //price
    注意：xpath既可以解析本地文件也可以解析服务器响应的文件
DOCTYPE html>
<html lang="en">
<head>
    <meta charset="UTF-8"/>
    <title>Titletitle>
head>
<body>
    <ul>
        <li>北京li>
        <li>上海li>
        <li>广州li>
        <li>深圳li>
    ul>
    <ul>
        <li id="l1" class="c1">大连li>
        <li id="l2">哈尔滨li>
        <li id="c3">沈阳li>
        <li id="c4">长春li>
    ul>
body>
html>

from lxml import etree

#xpath解析
# （1）本地文件
# （2）服务器响应的数据response.read().decode('utf-8')

# 解析本地文件etree.parse()
tree = etree.parse('spider_test.html')

#tree.xpath('xpath路径')
#查找ul下面的li
li_list = tree.xpath("//body/ul/li")
print(li_list)
print(len(li_list))
#查找所有有id的属性的li标签
li_list = tree.xpath("//ul/li[@id]/text()") #路径查询
print(li_list)
print(len(li_list))
#查找id为l1的标签
li_list = tree.xpath("//ul/li[@id='l1']/text()") #谓词查询
print(li_list)
print(len(li_list))
#查找到id为l1的li标签的class的属性值
li_list = tree.xpath("//ul/li[@id='l1']/@class") #属性查询
print(li_list)
print(len(li_list))
#查询id中包含l的li标签
li_list =tree.xpath('//ul/li[contains(@id, "l")]/text()') #模糊查询
print(li_list)
print(len(li_list))
#查询id的值以l开头的li标签
li_list =tree.xpath('//ul/li[starts-with(@id, "c")]/text()') #模糊查询
print(li_list)
print(len(li_list))
#查询id为l1和class为c1的li标签
li_list =tree.xpath('//ul/li[@id="l1" and @class="c1"]/text()') #逻辑运算
print(li_list)
print(len(li_list))
#查找到id为l1的li标签以及id为c3的li标签
li_list =tree.xpath('//ul/li[@id="l1"]/text() | //ul/li[@id="c3"]/text()') #逻辑运算
print(li_list)
print(len(li_list))

案例1：获取百度网站的百度一下

from lxml import etree
import urllib.request

# （1）获取网页源码 （2）解析 （3）打印结果
url = 'http://www.baidu.com'
headers = {
    'User-Agent':'xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx'
}
#请求对象的定制
request = urllib.request.Request(url=url, headers=headers)
#模拟浏览器访问服务器
response = urllib.request.urlopen(request)
#获取网页源码
content = response.read().decode('utf-8')
#解析网页源码
tree = etree.HTML(content)
#获取想要的数据,xpath的返回值是一个列表类型的数据
result = tree.xpath('//input[@id="su"]/@value')

print(result[0])

案例2：爬取站长素材的图片

#（1）获取网页源码 （2）解析 （3）下载

#url = 'https://sc.chinaz.com/tupian/shengdanjietupian.html' 第一页
#url = ’https://sc.chinaz.com/tupian/shengdanjietupian_2.html‘ 第二页
#url = ’https://sc.chinaz.com/tupian/shengdanjietupian_3.html‘ 第三页

#请求对象的定制
def create_request(page):
    if page == 1:
        url = 'https://sc.chinaz.com/tupian/shengdanjietupian.html'
    else:
        url = 'https://sc.chinaz.com/tupian/shengdanjietupian_' + str(page) + '.html'
    headers = {
        'User-Agegnt':'xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx'
    }

    request = urllib.request.Request(url=url, headers=headers)
    return request

def get_content(request):
    # 模拟浏览器访问服务器
    response = urllib.request.urlopen(request)
    #获取网页源码
    content = response.read().decode('utf-8')
    return content

def download_jpg(content):
    #解析网页源码
    tree = etree.HTML(content)
    name_list = tree.xpath('//body//div[@class="container"]//div[@class="item"]/img/@alt')
    #一般涉及到图片的网站，会使用懒加载
    data_original = tree.xpath('//body//div[@class="container"]//div[@class="item"]/img/@data-original')
    for i in range(len(name_list)):
        name = name_list[i]
        jpg = data_original[i]
        url = 'https:' + jpg
        urllib.request.urlretrieve(url=url, filename='./Christmas_img/' + name + '.jpg')


if __name__ == '__main__':
    start_page = int(input("请输入起始页码："))
    end_page = int(input("请输入结束页码："))
    for page in range(start_page, end_page+1):
        #请求对象的定制
        request = create_request(page)
        #获取网页源码
        content = get_content(request)
        #下载图片
        download_jpg(content)

你可能感兴趣的:(爬虫,爬虫)

  • 【Python爬虫实战】深入解析 Scrapy 管道：数据清洗、验证与存储的实战指南 易辰君 python爬虫python爬虫开发语言
    个人主页：易辰君-CSDN博客系列专栏：https://blog.csdn.net/2401_86688088/category_12797772.html目录前言一、了解ScrapyShell二、配置文件settings.py（一）为什么需要配置文件（二）配置文件的使用方法（三）常用字段及其含义三、管道的深入使用（一）管道的常用方法（二）管道的实现（三）启用管道四、管道的常见应用场景五、管道使用
  • 【Python爬虫实战】轻量级爬虫利器：DrissionPage之SessionPage与WebPage模块详解 易辰君 python爬虫python爬虫开发语言
    个人主页：易辰君-CSDN博客系列专栏：https://blog.csdn.net/2401_86688088/category_12797772.html目录前言一、SessionPage（一）SessionPage模块的基本功能（二）基本使用（三）常用方法（四）页面元素定位和数据提取（五）Cookie和会话管理（六）SessionPage的优点和局限性（七）SessionPage和Driver
  • 【Python爬虫实战】全面解析 DrissionPage：简化 Python 浏览器自动化的三种模式 易辰君 python爬虫python爬虫开发语言
    个人主页：易辰君-CSDN博客系列专栏：https://blog.csdn.net/2401_86688088/category_12797772.html目录前言一、DrissionPage简介（一）ChromiumPage（二）WebPage（三）SessionPage（四）三大模块总结二、ChromiumPage（一）初始化ChromiumPage（二）基本操作（三）等待元素加载（四）执行J
  • 如何运用Python爬虫快速获得1688商品详情数据 小爬虫程序猿 APIpython爬虫开发语言
    在数字化时代，数据的价值日益凸显，尤其是在电商领域。对于企业来说，获取竞争对手的商品信息是分析市场趋势、制定营销策略的重要手段。1688作为中国领先的B2B电商平台，拥有海量的商品数据。本文将介绍如何使用Python编写爬虫程序，以合法合规的方式快速获取1688商品详情，为电商企业提供数据支持。1.环境准备在开始编写代码之前，我们需要准备以下开发环境：Python3.x：确保已安装Python3.
  • 如何使用Java爬虫获取阿里巴巴热卖商品推荐：代码示例与实践指南 小爬虫程序猿 Javajava爬虫python
    在电商领域，获取热卖商品推荐对于商家和开发者来说至关重要。阿里巴巴提供了热卖商品推荐API接口，能够根据消费者的购买历史、浏览行为、搜索习惯等数据，自动推荐符合其需求的商品。以下将详细介绍如何使用Java爬虫获取阿里巴巴热卖商品推荐，并提供相关的代码示例。一、阿里巴巴热卖商品推荐API接口简介阿里巴巴热卖商品推荐API接口是一种基于人工智能算法的推荐系统，能够根据消费者的购买历史、浏览行为、搜索习
  • python微博 关键词 爬虫 嵌入式开发项目 2025年爬虫精通专栏python爬虫开发语言媒体
    目录记一次阿里云盾滑块验证分析并通过操作环境数据接口proxy配置根据关键词获取userid根据userid获取信息数据保存数据：记一次阿里云盾滑块验证分析并通过操作环境win10、macPython3.9数据接口搜索https://**********?containerid=100103type%3D{chanenl}%26q%3D{quote(self.words)}&page_type=s
  • Python爬虫项目 | 二、每日天气预报 聪明的墨菲特i Python爬虫项目python爬虫开发语言
    文章目录1.文章概要1.1实现方法1.2实现代码1.3最终效果1.3.1编辑器内打印显示效果实际应用效果2.具体讲解2.1使用的Python库2.2代码说明2.2.1获取天气预报信息2.2.2获取当天日期信息，格式化输出2.2.3调用函数，输出结果2.3过程展示3总结1.文章概要继续学习Python爬虫知识，实现简单的案例，发送每日天气预报1.1实现方法本文使用Python中常用的requests
  • python语言souhushipin爬虫程序代码QZQ EasySoft易软 python爬虫数据库
    importrequests#第一步搜索视频名称，找第2个这个ip?k=Xilmz93BsHYDhRYmz913t6O…开头的文件，url=‘https://data.vod.itc.cn/ip?k=Xilmz93BsHYDhRYmz913t6OUXpCGhROCzHaRsAOdjpCGhRYAtUxIgYeiwmemZDyOwmXAyB2HWhdt5BvOWFcvf2PNNef6q2vUo8fV
  • 【保姆级爬虫】微博关键词搜索并获取博文和评论内容（python+selenium+chorme） m0_74824076 爬虫pythonselenium
    微博爬虫记录写这个主要是为了防止自己忘记以及之后的组内工作交接，至于代码美不美观，写的好不好，统统不考虑，我只能说，能跑就不错了，上学压根没学过python好吧，基本上是crtl+c&ctrl+v丝滑小连招教会了我一点。写的很简单，认真看完就会用了文中筛选元素用到的一些筛选元素的正则匹配、beautifulsoup，css等相关方法我也不太懂，现学现用呗，还是那句话，能跑就行。配置简介：pytho
  • python爬虫入门（实践） 雁于飞 爬虫python开发语言
    python爬虫入门（实践）一、对目标网站进行分析二、博客爬取获取博客所有h2标题的路由确定目标，查看源码代码实现"""获取博客所有h2标题的路由"""url="http://www.crazyant.net"importrequestsfrombs4importBeautifulSoup#发送请求，获取页面所有内容r=requests.get(url)ifr.status_code!=200:r
  • 【Scrapy】Scrapy 中间件等级设置规则 音乐学家方大刚 爬虫ScrapyPythonscrapy中间件
    准我快乐地重饰演某段美丽故事主人饰演你旧年共寻梦的恋人再去做没流着情泪的伊人假装再有从前演过的戏份重饰演某段美丽故事主人饰演你旧年共寻梦的恋人你纵是未明白仍夜深一人穿起你那无言毛衣当跟你接近陈慧娴《傻女》Scrapy是一个功能强大的爬虫框架，通过使用中间件（middleware），用户可以自定义和扩展爬虫的行为。中间件提供了对请求和响应进行预处理和后处理的机制，使用户可以在不修改核心代码的情况下增
  • Python 网络爬虫高级教程：分布式爬取与大规模数据处理 Milk夜雨 pythonpython爬虫网络
    经过基础爬虫和进阶爬虫的学习，我们已经掌握了爬虫的基本原理、动态内容处理及反爬机制的应对。然而，当我们面对海量数据或需要高效爬取多个站点时，分布式爬虫和数据存储、处理能力就显得尤为重要。本篇博客将带你迈向网络爬虫的高级阶段，学习分布式爬取、大规模数据处理以及性能优化。一、分布式爬虫的概念1.什么是分布式爬虫？分布式爬虫是指通过多个节点协作完成大规模网页爬取任务的爬虫架构。它能有效解决以下问题：单台
  • 网络爬虫——分布式爬虫架构 好看资源分享 网络爬虫Python爬虫分布式架构
    分布式爬虫在现代大数据采集中是不可或缺的一部分。随着互联网信息量的爆炸性增长，单机爬虫在性能、效率和稳定性上都面临巨大的挑战。分布式爬虫通过任务分发、多节点协作以及结果整合，成为解决大规模数据抓取任务的核心手段。本节将从Scrapy框架的基本使用、Scrapy-Redis的分布式实现、分布式爬虫的优化策略等多个方面展开，结合实际案例，帮助开发者掌握分布式爬虫的设计与实现。1.Scrapy框架的核心
  • 详细分析Python爬虫中的xpath（附Demo） 码农研究僧 Pythonpython爬虫xpath
    目录前言1.基本知识2.常用API3.简易Demo前言关于爬虫的基本知识推荐阅读：Python爬虫从入门到应用（超全讲解）该知识点需要提前安装相关依赖：pipinstalllxml1.基本知识XPath（XMLPathLanguage）是一种用于在XML文档中定位和选择节点的语言在XML文档中通过路径表达式（pathexpression）来定位节点，这些路径描述了节点在层次结构中的位置一、节点：在
  • python爬虫 django搜索修改更新数据_Django+python+BeautifulSoup垂直搜索爬虫 weixin_39897070 python爬虫django搜索修改更新数据
    使用python+BeautifulSoup完成爬虫抓取特定数据的工作，并使用Django搭建一个管理平台，用来协调抓取工作。因为自己很喜欢Djangoadmin后台，所以这次用这个后台对抓取到的链接进行管理，使我的爬虫可以应对各种后期的需求。比如分时段抓取，定期的对已经抓取的地址重新抓取。数据库是用python自带的sqlite3，所以很方便。这几天正好在做一个电影推荐系统，需要些电影数据。本文
  • jsdom爬虫程序中eBay主页内容爬取的异步处理 小白学大数据 python爬虫大数据
    一、jsdom库简介jsdom是一个纯JavaScript实现的DOM和浏览器API的Node.js库，它允许我们在服务器端模拟一个浏览器环境，从而可以方便地对网页进行解析和操作。与传统的爬虫方法相比，jsdom能够更好地处理JavaScript动态生成的内容，这对于爬取像eBay这样大量使用JavaScript渲染页面的网站尤为重要。二、爬虫程序构建（一）环境搭建在开始编写爬虫程序之前，我们需要
  • python执行js缺少window变量_python使用execjs执行含有document、window等对象的js代码，使用jsdom解决... weixin_39963440
    当我们分析爬虫时，有时候会遇到一些加密参数，这个时候就需要我们逆向分析jspython执行js有一些第三方库因为我用的Python3，所以没用PyV8（安装网上的方法，也没有安装好，可能我太笨了--！如果有会的麻烦指点一下）我用的比较多的就是js2py和execjs有一次在分析js时，我已经找到了对应的加密方法，在浏览器上运行时，直接拿到了结果，开心的一匹然我把js代码复制下来，在Python里通
  • 通过代理服务器进行爬虫，能提高数据采集的效率和准确性 Loongproxy 服务器
    在信息的汪洋大海中，爬虫技术如同一位辛勤的渔夫，帮助我们捕捞那些有价值的数据珍珠。然而，面对网站设置的种种访问限制，如何确保爬虫行动的自由与安全，便成为了摆在我们面前的一道难题。这时，代理服务器便如同一座桥梁，它不仅能够巧妙地绕过这些障碍，让爬虫得以顺利通行，还能有效隐藏我们的真实身份，保护我们的隐私安全。本文将深入剖析代理服务器的作用，并详细指导你如何利用它来助力爬虫工作，让你的数据捕捞之旅更加
  • 探讨爬虫多开代理IP的用途，以及如何配置它们 Loongproxy 网络服务器运维
    爬虫多开代理IP是爬虫开发中的得力助手，旨在提升数据采集效率与安全性。通过启用多个代理IP，爬虫能够实现并发访问，显著加速数据抓取过程。同时，这一策略有效规避了因频繁访问而被目标网站封禁IP的风险。更重要的是，利用不同地域的代理IP，爬虫能够模拟来自各地的用户请求。配置时，需先收集代理IP列表，然后在爬虫代码中设置代理参数，确保每个爬虫实例通过不同的IP进行访问。一、为什么需要多开代理IP？1.避
  • 使用Python爬虫将抓取的数据保存到Excel文件 Python爬虫项目 2025年爬虫实战项目python爬虫excel测试工具开发语言信息可视化
    在进行Python爬虫开发时，数据的存储是非常重要的一环。随着数据分析需求的不断增长，保存和管理大量的数据变得尤为重要。CSV（Comma-SeparatedValues）格式一直是一个常见的存储格式，但在许多应用场景下，Excel文件作为一种更直观、结构化的方式，具有更多的优势，尤其在数据分析与可视化方面。Excel文件不仅能够承载数据，还能进行复杂的数据操作、图表展示等，使其在数据科学、商业分
  • Python 爬虫入门教程：从零构建你的第一个网络爬虫 m0_66323401 python爬虫开发语言
    网络爬虫是一种自动化程序，用于从网站抓取数据。Python凭借其丰富的库和简单的语法，是构建网络爬虫的理想语言。本文将带你从零开始学习Python爬虫的基本知识，并实现一个简单的爬虫项目。1.什么是网络爬虫？网络爬虫（WebCrawler）是一种通过网络协议（如HTTP/HTTPS）获取网页内容，并提取其中有用信息的程序。常见的爬虫用途包括：收集商品价格和评价。抓取新闻或博客内容。统计数据分析。爬
  • 使用Selenium调试Edge浏览器的常见问题与解决方案 程序员小雷 seleniumedge测试工具测试用例单元测试功能测试postman
    背景介绍在当今互联网时代，网页爬虫已经成为数据获取的重要手段。而Selenium作为一款功能强大的自动化测试工具，被广泛应用于网页爬取任务中。虽然Chrome浏览器是Selenium用户的常见选择，但在某些工作环境中，我们可能需要使用Edge浏览器来进行自动化测试。然而，Edge浏览器在调试和使用过程中会遇到一些特有的挑战，本文将深入探讨这些问题，并提供实用的解决方案。问题陈述当尝试使用Selen
  • MediaCrawler 小红书爬虫源码分析
    前言MediaCrawler是最近冲上Github热搜的开源多社交平台爬虫。虽然现在已删库，但还好我眼疾手快，有幸还Fork了一份，乘着周末，简单分析了下小红书平台的相关代码。爬虫难点一般写爬虫，都需要面对以下几个问题如果app/网页需要登录，如何获取登录态（cookie/jwt）大部分app/网页都会对请求参数进行sign，如果有，如何获取sign逻辑绕过其它遇到的反爬措施我将带着这三个问题，阅
  • 第03讲 原理探究，了解爬虫的基本原理 roc_lpy Python
    转载于拉勾教育-52讲轻松搞定网络爬虫-崔庆才1.爬虫概述我们可以把互联网比作一张大网，而爬虫（即网络爬虫）便是在网上爬行的蜘蛛。如果把网的节点比作一个个网页，爬虫爬到这就相当于访问了该页面，获取了其信息。可以把节点间的连线比作网页与网页之间的链接关系，这样蜘蛛通过一个节点后，可以顺着节点连线继续爬行到达下一个节点，即通过一个网页继续获取后续的网页，这样整个网的节点便可以被蜘蛛全部爬行到，网站的数
  • Python爬虫爬取1万首音乐代码 EasySoft易软 python
    importrequestsbase_url=“http://music.163.com/song/media/outer/url?id=”start_id=200000end_id=210000formusic_idinrange(start_id,end_id+1):song_url=base_url+str(music_id)response=requests.get(song_url,st
  • Python 爬虫实战案例 - 获取社交平台事件热度并进行影响分析 西攻城狮北 Python实用案例python爬虫事件热度影响分析
    目录一、引言二、数据爬取三、数据分析四、可视化展示五、总结一、引言在当今信息爆炸的时代，社交平台成为了各类事件发酵和传播的重要场所。了解社交平台上事件的热度以及其潜在影响，对于舆情监测、市场营销、社会趋势分析等领域具有重要意义。本文将通过一个实际案例，展示如何使用Python爬虫技术获取社交平台上特定事件的相关数据，并对其热度和影响进行深入分析。在本篇博客中，我们将学习如何使用Python编写一个
  • 利用Python爬虫获取阿里巴巴商品详情：代码示例与实践指南 小爬虫程序猿 APIpython爬虫开发语言
    在电商数据分析和市场研究中，获取商品详情是至关重要的一步。虽然阿里巴巴开放平台提供了官方API来获取商品信息，但在某些情况下，使用爬虫技术来抓取数据也是一种有效的手段。本文将介绍如何利用Python爬虫获取阿里巴巴商品详情，并提供详细的代码示例。一、准备工作（一）环境搭建确保你的Python环境已经安装了以下必要的库：requests：用于发送HTTP请求。BeautifulSoup：用于解析HT
  • Python 爬虫：获取网页数据的 5 种方法 王子良. 经验分享pythonpython开发语言爬虫
    欢迎来到我的博客！非常高兴能在这里与您相遇。在这里，您不仅能获得有趣的技术分享，还能感受到轻松愉快的氛围。无论您是编程新手，还是资深开发者，都能在这里找到属于您的知识宝藏，学习和成长。博客内容包括：Java核心技术与微服务：涵盖Java基础、JVM、并发编程、Redis、Kafka、Spring等，帮助您全面掌握企业级开发技术。大数据技术：涵盖Hadoop（HDFS）、Hive、Spark、Fli
  • 史上最全！Python爬虫requests库(附案例) 疯狂的超级玛丽 PythonPython学习Python入门python爬虫开发语言学习Python基础python自学
    1.requests库简介如果你正在学习Python并且找不到方向的话可以试试我这一份学习方法+籽料呀！点击领取（不要米米）Requests是一个为人类设计的简单而优雅的HTTP库。requests库是一个原生的HTTP库，比urllib3库更为容易使用。requests库发送原生的HTTP1.1请求，无需手动为URL添加查询串，也不需要对POST数据进行表单编码。相对于urllib3库，requ
  • python爬虫scrapy爬取新闻标题及链接_18Python爬虫---CrawlSpider自动爬取新浪新闻网页标题和链接... 珍妮赵
    一、爬取新浪新闻思路1、创建scrapy项目2、分析新浪新闻网站静态页面代码3、编写对应的xpath公式4、写代码二、项目代码步骤1、创建scrapy项目scrapystartprojectmycwpjt步骤2、分析新浪网站静态代码随便打开一个新浪新闻网，新闻可以看到地址为http://news.sina.com.cn/gov/xlxw/2018-03-21/doc-ifyskeue0491622
  • ASM系列五 利用TreeApi 解析生成Class lijingyao8206 ASM字节码动态生成ClassNodeTreeAPI
       前面CoreApi的介绍部分基本涵盖了ASMCore包下面的主要API及功能，其中还有一部分关于MetaData的解析和生成就不再赘述。这篇开始介绍ASM另一部分主要的Api。TreeApi。这一部分源码是关联的asm-tree-5.0.4的版本。          在介绍前，先要知道一点， Tree工程的接口基本可以完
  • 链表树——复合数据结构应用实例 bardo 数据结构树型结构表结构设计链表菜单排序
    我们清楚：数据库设计中，表结构设计的好坏，直接影响程序的复杂度。所以，本文就无限级分类（目录）树与链表的复合在表设计中的应用进行探讨。当然，什么是树，什么是链表，这里不作介绍。有兴趣可以去看相关的教材。 需求简介： 经常遇到这样的需求，我们希望能将保存在数据库中的树结构能够按确定的顺序读出来。比如，多级菜单、组织结构、商品分类。更具体的，我们希望某个二级菜单在这一级别中就是第一个。虽然它是最后
  • 为啥要用位运算代替取模呢 chenchao051 位运算哈希汇编
        在hash中查找key的时候，经常会发现用&取代%，先看两段代码吧，     JDK6中的HashMap中的indexFor方法： /** * Returns index for hash code h. */ static int indexFor(int h, int length) {
  • 最近的情况 麦田的设计者 生活感悟计划软考想
          今天是2015年4月27号      整理一下最近的思绪以及要完成的任务             1、最近在驾校科目二练车，每周四天，练三周。其实做什么都要用心，追求合理的途径解决。为
  • PHP去掉字符串中最后一个字符的方法 IT独行者 PHP字符串
    今天在PHP项目开发中遇到一个需求，去掉字符串中的最后一个字符 原字符串1,2,3,4,5,6, 去掉最后一个字符","，最终结果为1,2,3,4,5,6 代码如下： $str = "1,2,3,4,5,6,"; $newstr = substr($str,0,strlen($str)-1); echo $newstr;
  • hadoop在linux上单机安装过程 _wy_ linuxhadoop
    1、安装JDK     jdk版本最好是1.6以上，可以使用执行命令java -version查看当前JAVA版本号，如果报命令不存在或版本比较低，则需要安装一个高版本的JDK，并在/etc/profile的文件末尾，根据本机JDK实际的安装位置加上以下几行：    export JAVA_HOME=/usr/java/jdk1.7.0_25  
  • JAVA进阶----分布式事务的一种简单处理方法 无量 多系统交互分布式事务
    每个方法都是原子操作： 提供第三方服务的系统，要同时提供执行方法和对应的回滚方法 A系统调用B,C,D系统完成分布式事务 =========执行开始======== A.aa(); try { B.bb(); } catch(Exception e) { A.rollbackAa(); } try { C.cc(); } catch(Excep
  • 安墨移动广 告：移动DSP厚积薄发 引领未来广 告业发展命脉 矮蛋蛋 hadoop互联网
    　　“谁掌握了强大的DSP技术，谁将引领未来的广 告行业发展命脉。”2014年，移动广 告行业的热点非移动DSP莫属。各个圈子都在纷纷谈论，认为移动DSP是行业突破点，一时间许多移动广 告联盟风起云涌，竞相推出专属移动DSP产品。 　　到底什么是移动DSP呢? 　　DSP(Demand-SidePlatform)，就是需求方平台，为解决广 告主投放的各种需求，真正实现人群定位的精准广
  • myelipse设置 alafqq IP
      在一个项目的完整的生命周期中，其维护费用，往往是其开发费用的数倍。因此项目的可维护性、可复用性是衡量一个项目好坏的关键。而注释则是可维护性中必不可少的一环。 注释模板导入步骤  安装方法： 打开eclipse/myeclipse 选择 window-->Preferences-->JAVA-->Code-->Code
  • java数组 百合不是茶 java数组
    java数组的   声明  创建  初始化；   java支持C语言      数组中的每个数都有唯一的一个下标 一维数组的定义 声明： int[] a = new int[3];声明数组中有三个数int[3] int[] a 中有三个数，下标从0开始，可以同过for来遍历数组中的数
  • javascript读取表单数据 bijian1013 JavaScript
    利用javascript读取表单数据，可以利用以下三种方法获取： 1、通过表单ID属性：var a = document.getElementByIdx_x_x("id"); 2、通过表单名称属性：var b = document.getElementsByName("name"); 3、直接通过表单名字获取：var c = form.content.
  • 探索JUnit4扩展：使用Theory bijian1013 javaJUnitTheory
    理论机制（Theory） 一.为什么要引用理论机制（Theory）         当今软件开发中，测试驱动开发（TDD — Test-driven development）越发流行。为什么 TDD 会如此流行呢？因为它确实拥有很多优点，它允许开发人员通过简单的例子来指定和表明他们代码的行为意图。 TDD 的优点：     &nb
  • [Spring Data Mongo一]Spring Mongo Template操作MongoDB bit1129 template
    什么是Spring Data Mongo Spring Data MongoDB项目对访问MongoDB的Java客户端API进行了封装，这种封装类似于Spring封装Hibernate和JDBC而提供的HibernateTemplate和JDBCTemplate，主要能力包括 1. 封装客户端跟MongoDB的链接管理 2. 文档-对象映射，通过注解:@Document(collectio
  • 【Kafka八】Zookeeper上关于Kafka的配置信息 bit1129 zookeeper
    问题： 1. Kafka的哪些信息记录在Zookeeper中 2. Consumer Group消费的每个Partition的Offset信息存放在什么位置 3. Topic的每个Partition存放在哪个Broker上的信息存放在哪里 4. Producer跟Zookeeper究竟有没有关系？没有关系！！！   //consumers、config、brokers、cont
  • java OOM内存异常的四种类型及异常与解决方案 ronin47 java OOM 内存异常
          　OOM异常的四种类型： 　　　 　　一：　StackOverflowError ：通常因为递归函数引起（死递归，递归太深）。-Xss 128k 一般够用。     　  二：　out Of memory: PermGen Space：通常是动态类大多，比如web 服务器自动更新部署时引起。-Xmx
  • java-实现链表反转-递归和非递归实现 bylijinnan java
    20120422更新： 对链表中部分节点进行反转操作，这些节点相隔k个： 0->1->2->3->4->5->6->7->8->9 k=2 8->1->6->3->4->5->2->7->0->9 注意1 3 5 7 9 位置是不变的。 解法： 将链表拆成两部分： a.0-&
  • Netty源码学习-DelimiterBasedFrameDecoder bylijinnan javanetty
    看DelimiterBasedFrameDecoder的API，有举例： 接收到的ChannelBuffer如下： +--------------+ | ABC\nDEF\r\n | +--------------+ 经过DelimiterBasedFrameDecoder(Delimiters.lineDelimiter())之后，得到： +-----+----
  • linux的一些命令 -查看cc攻击-网口ip统计等 hotsunshine linux
    Linux判断CC攻击命令详解 2011年12月23日 ⁄ 安全 ⁄ 暂无评论 查看所有80端口的连接数 netstat -nat|grep -i '80'|wc -l 对连接的IP按连接数量进行排序 netstat -ntu | awk '{print $5}' | cut -d: -f1 | sort | uniq -c | sort -n 查看TCP连接状态 n
  • Spring获取SessionFactory ctrain sessionFactory
    String sql = "select sysdate from dual"; WebApplicationContext wac = ContextLoader.getCurrentWebApplicationContext(); String[] names = wac.getBeanDefinitionNames(); for(int i=0; i&
  • Hive几种导出数据方式 daizj hive数据导出
    Hive几种导出数据方式   1.拷贝文件   如果数据文件恰好是用户需要的格式，那么只需要拷贝文件或文件夹就可以。 hadoop fs –cp source_path target_path   2.导出到本地文件系统   --不能使用insert into local directory来导出数据，会报错 --只能使用
  • 编程之美 dcj3sjt126com 编程PHP重构
    我个人的 PHP 编程经验中，递归调用常常与静态变量使用。静态变量的含义可以参考 PHP 手册。希望下面的代码，会更有利于对递归以及静态变量的理解   header("Content-type: text/plain"); function static_function () { static $i = 0; if ($i++ < 1
  • Android保存用户名和密码 dcj3sjt126com android
    转自：http://www.2cto.com/kf/201401/272336.html 我们不管在开发一个项目或者使用别人的项目，都有用户登录功能，为了让用户的体验效果更好，我们通常会做一个功能，叫做保存用户，这样做的目地就是为了让用户下一次再使用该程序不会重新输入用户名和密码，这里我使用3种方式来存储用户名和密码 1、通过普通 的txt文本存储 2、通过properties属性文件进行存
  • Oracle 复习笔记之同义词 eksliang Oracle 同义词Oracle synonym
    转载请出自出处：http://eksliang.iteye.com/blog/2098861 1.什么是同义词       同义词是现有模式对象的一个别名。       概念性的东西，什么是模式呢？创建一个用户，就相应的创建了 一个模式。模式是指数据库对象，是对用户所创建的数据对象的总称。模式对象包括表、视图、索引、同义词、序列、过
  • Ajax案例 gongmeitao Ajaxjsp
    数据库采用Sql Server2005 项目名称为:Ajax_Demo 1.com.demo.conn包 package com.demo.conn; import java.sql.Connection;import java.sql.DriverManager;import java.sql.SQLException; //获取数据库连接的类public class DBConnec
  • ASP.NET中Request.RawUrl、Request.Url的区别 hvt .netWebC#asp.nethovertree
      如果访问的地址是：http://h.keleyi.com/guestbook/addmessage.aspx?key=hovertree%3C&n=myslider#zonemenu那么Request.Url.ToString() 的值是：http://h.keleyi.com/guestbook/addmessage.aspx?key=hovertree<&
  • SVG 教程 （七）SVG 实例，SVG 参考手册 天梯梦 svg
    SVG 实例 在线实例 下面的例子是把SVG代码直接嵌入到HTML代码中。 谷歌Chrome，火狐，Internet Explorer9，和Safari都支持。 注意：下面的例子将不会在Opera运行，即使Opera支持SVG - 它也不支持SVG在HTML代码中直接使用。   SVG 实例 SVG基本形状 一个圆 矩形 不透明矩形 一个矩形不透明2 一个带圆角矩
  • 事务管理 luyulong javaspring编程事务
    事物管理 spring事物的好处 为不同的事物API提供了一致的编程模型 支持声明式事务管理 提供比大多数事务API更简单更易于使用的编程式事务管理API 整合spring的各种数据访问抽象 TransactionDefinition 定义了事务策略 int getIsolationLevel()得到当前事务的隔离级别 READ_COMMITTED 
  • 基础数据结构和算法十一：Red-black binary search tree sunwinner AlgorithmRed-black
      The insertion algorithm for 2-3 trees just described is not difficult to understand; now, we will see that it is also not difficult to implement. We will consider a simple representation known
  • centos同步时间 stunizhengjia linux集群同步时间
    做了集群，时间的同步就显得非常必要了。 以下是查到的如何做时间同步。 在CentOS 5不再区分客户端和服务器，只要配置了NTP，它就会提供NTP服务。 1)确认已经ntp程序包： # yum install ntp 2)配置时间源（默认就行，不需要修改） # vi /etc/ntp.conf server pool.ntp.o
  • ITeye 9月技术图书有奖试读获奖名单公布 ITeye管理员 ITeye
    ITeye携手博文视点举办的9月技术图书有奖试读活动已圆满结束，非常感谢广大用户对本次活动的关注与参与。 9月试读活动回顾：http://webmaster.iteye.com/blog/2118112本次技术图书试读活动的优秀奖获奖名单及相应作品如下（优秀文章有很多，但名额有限，没获奖并不代表不优秀）：      《NFC：Arduino、Andro
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他