执着的小火车
执着的小火车

03-1.python爬虫-爬虫简介

03-1.python爬虫-爬虫简介

简介

Python 爬虫是一种使用 Python 编程语言编写的程序，用于自动从互联网上获取网页数据。它可以模拟人类浏览器的行为，发送 HTTP 请求到目标网站，获取网页的 HTML 内容，然后通过解析 HTML 提取所需的数据，如文本、图片链接、表格数据等。

爬虫的应用广泛，比如在数据挖掘领域，可收集大量数据用于分析趋势和模式；在信息聚合方面，能将不同网站的特定信息汇总到一处；还可用于搜索引擎的索引构建等。

但在使用爬虫时，要注意遵循网站的使用条款和 robots.txt 协议，避免过度频繁地请求导致服务器负载过高，同时尊重网站的知识产权和隐私政策，确保爬虫的使用合法合规，避免引发法律问题。

目录章节分析

  • 第 1 章 爬虫基础：介绍了学习爬虫之前需要了解的基础知识，如 HTTP 基本原理、Web 网页基础、爬虫的基本原理、会话和 Cookies、代理的基本原理、多线程和多进程的基本原理等，为读者后续学习爬虫技术打下基础。
  • 第 2 章 基本库的使用：涵盖了常用的请求库（如 urllib、requests、httpx）和正则表达式的基本用法，通过基础爬虫案例实战，掌握最基本的爬虫技术，能够进行简单的数据抓取.
  • 第 3 章 网页数据的解析提取：详细讲解了 XPath、Beautiful Soup、pyquery、parsel 等网页解析库的使用方法，能够熟练地从网页中提取各种数据.
  • 第 4 章 数据的存储：介绍了数据存储的常见形式及存储操作，包括 TXT 文件、JSON 文件、CSV 文件的存储.
  • 第 5 章 Ajax 数据爬取：讲解了 Ajax 数据爬取的过程和方法，针对一些通过 Ajax 请求 API 接口加载数据的网页，提供了相应的分析和实战案例，掌握如何抓取这类动态加载的数据.
  • 第 6 章 异步爬虫：介绍了协程的基本原理以及 aiohttp 的使用，并通过实战案例了解如何利用异步编程提高爬虫的效率.
  • 第 7 章 JavaScript 动态渲染页面爬取：详细介绍了 Selenium、Splash、Pyppeteer、Playwright 等工具的使用方法，以及针对 CSS 位置偏移反爬、字体反爬等复杂反爬技术的案例分析和爬取实战.
  • 第 8 章 验证码的识别：涵盖了使用 OCR 技术识别图形验证码、使用 OpenCV 识别滑动验证码的缺口、使用深度学习识别图形验证码和滑动验证码的缺口、使用打码平台识别验证码以及手机验证码的自动化处理等内容，提供了多种验证码识别的解决方案.
  • 第 9 章 代理的使用：介绍了代理的设置、代理池的维护、付费代理的使用、ADSL 拨号代理的搭建方法以及代理反爬案例爬取实战，帮助读者了解如何通过使用代理来避免被网站封禁 IP，确保爬虫的稳定运行.
  • 第 10 章 模拟登录：讲解了模拟登录的基本原理，并通过基于 Session 和 Cookie、JWT 的模拟登录爬取实战以及大规模账号池的搭建等案例，掌握如何实现模拟用户登录，以便获取需要登录才能访问的数据.
  • 第 11 章 JavaScript 逆向爬虫：深入探讨了网站加密和混淆技术，介绍了浏览器调试常用技巧、JavaScript Hook 的使用、无限 Debugger 的原理与绕过、使用 Python 和 Node.js 模拟执行 JavaScript、浏览器环境下 JavaScript 的模拟执行、AST 技术简介及应用等内容，突破 JavaScript 逆向的难题，实现对加密数据的爬取.
  • 第 12 章 App 数据的爬取：介绍了 App 数据爬取的方法和工具，包括 Charles 抓包工具、mitmproxy 抓包工具、mitmdump 实时抓包处理、Appium 的使用以及基于 Appium、Airtest 的 App 爬取实战等，能够掌握如何抓取 App 中的数据.
  • 第 14 章 页面智能解析：介绍了页面智能解析相关的技术，如新闻详情页面和新闻列表页面中各种信息的智能提取，以及如何智能分辨详情页和列表页，提高数据提取的效率和准确性.
  • 第 15 章 Scrapy 框架的使用：详细介绍了 Scrapy 爬虫框架的基本架构、原理及各个组件的使用方法，以及 Scrapy 对接 Selenium、Pyppeteer 等的方法，掌握如何使用 Scrapy 框架进行高效的爬虫开发.

你可能感兴趣的:(python入门到项目实践,爬虫,python,http)

  • 基于 FFmpeg 实现 H.264 转 MP4 视频转码 码农新猿类 FFMPEGffmpeg
    引言FFmpeg是强大的开源音视频处理库，能实现多种音视频操作。本文将分享如何用FFmpeg把H.264视频文件转码为MP4格式。代码整体思路代码把转码功能封装在TranceVideo类中，通过一系列步骤完成H.264到MP4的转码，包括初始化、打开输入文件、获取视频流信息、确定输出格式、创建输出文件、转码并写入帧数据，最后清理资源。详细步骤1.初始化在类的构造函数里，进行基础的初始化操作：cpp
  • 自己制作一个专业AI(deepseek、chatgtp、文心一言、豆包、kimi、grok4) 小阿技术 dockerchatgpt人工智能深度学习神经网络自然语言处理文心一言
    自己制作一个专业AI(deepseek、chatgtp、豆包、通义千问、kimi)智能体这是一个自己制作的AI智能体(模型自己选择:豆包、chatgtp、deepseek、文心一言、kimi、通义千问等)功能可以上传自己的知识库，打造一个基于自己知识库的专业AI实现把自己知识库上传到服务器+调用大模型+调用API+部署到微信小程序需要的联系可以给代码可以教学，包学会不需要代码适合零基础❗️❗️
  • Python 中链表的个人理解 python链表
    链表组成Python中链表由head、节点、tail、三部分组成。节点为Python链表中最重要的部分，通过构建classNode（）类，节点引入并存储value和next变量，其中value为Node中存储的链表内容，next为Node中存储的指针，指向下一个Node。即Node由指针域next和结构域value构成。链表由上述Node连结而成，其中head指向链表的第一个节点，tail指向链表
  • Python 实现反转、合并链表有啥用？ python链表
    大家好，我是V哥。使用Python实现反转链表、合并链表在开发中比较常见，我们先来看看各自的应用场景。先赞再看后评论，腰缠万贯财进门。反转链表比如，在处理时间序列数据时，有时需要将历史数据按照时间从近到远的顺序展示，如果数据是以链表形式存储的，通过反转链表可以高效地实现这一需求。再比如，判断一个链表是否为回文链表（即链表正序和逆序遍历的值相同）时，可以先反转链表的后半部分，然后与前半部分进行比较。
  • linux 远程文件同步(shell) 黑暗的笑 shellexpect远程传文件while
    1.首先安装tcl和expect（先安装tcl,再安装expect,自行百度）,sshpass2.我想把本地文件同步到其他几台机器上,因此,需要知道机器的ip,username,password,我用一个文件来存放这些内容machine_info,内容如下:127.0.0.1usernamepassword192.168.12.12usenamepassword编写expectshell#!/us
  • 深度解析RocketMQ核心机制：CommitLog存储与DLedger选举算法 千里码！ rocketmq后端技术javarocketmq算法数据库
    深度解析RocketMQ核心机制：CommitLog存储与DLedger选举算法编程相关书籍分享：https://blog.csdn.net/weixin_47763579/article/details/145855793DeepSeek使用技巧pdf资料分享：https://blog.csdn.net/weixin_47763579/article/details/145884039一、Com
  • Ubuntu系统下交叉编译libpng linux运维
    一、交叉编译libpng1.下载源码下载libpng：http://www.libpng.org/pub/png/libpng.html下载并解压源码。tar-xvzflibpng-1.6.45.tar.gzcdlibpng-1.6.452.设置环境变量设置交叉编译工具链的bin路径：exportPATH=/home/yoyo/360Downloads/toolchains/arm-linux-g
  • 2万字长文，九篇论文读懂大语言模型的前世今生 人工智能
    2万字长文，九篇论文读懂大语言模型的前世今生友情提示：这是一篇2W字长文，但我保证，它绝对值得一读！如果感兴趣的话，感谢关注，点赞转发在看收藏，五键四连，谢谢~更多LLM架构文章：LLM架构专栏近日热文：1.全网最全的神经网络数学原理（代码和公式）直观解释2.大模型进化史：从Transformer到DeepSeek-R1的AI变革之路3.2W8000字深度剖析25种RAG变体：全网最全~没有之一4
  • vue3 Teleport的使用及场景。 gxw_viva vue3学习笔记vue.js前端javascript
    Vue3中的Teleport（传送门）是一个非常有用的特性，它允许你在DOM树中的任意位置动态地渲染组件。Teleport实质上是将组件的内容“传送”到指定的目标位置，而不受组件自身所在位置的限制。Teleport的使用场景包括但不限于：模态框（Modal）：你可以使用Teleport将模态框的内容渲染到标签之外，以避免模态框受到父级容器CSS样式的影响，并且可以保证在层叠顺序上处于最顶层。弹出菜
  • 文档即产品！工程师必看的写作密码.md 写作技术文档
    在撰写技术文章、文档、博客或项目说明时，遵循一定的写作规范可以提升内容的专业性、可读性和实用性。一、文章结构与逻辑标题清晰标题应简洁明确，反映核心内容（如《如何用Python实现快速排序》）。避免模糊标题（如《一个有趣的问题》）。分级标题层级明确（例如：#一级标题→##二级标题→###三级标题）。摘要/引言开篇简要说明文章目标、解决的问题或适用场景。本文档旨在记录一些在实际开发工作中用到的实用且高
  • linux shell脚本用while read逐行读取文本的问题 weixin_34060741 shell运维
    转自:https://zhidao.baidu.com/question/432126157616850964.html问题:我现在是想用一个脚本获取一定列表服务器的运行时间。首先我建立一个名字为ip.txt的IP列表（一个IP一行），再建好密钥实现不用密码直接登录。然后写脚本如下：#!/bin/bashwhilereadips;doecho$ips;done
  • 【前端】【vue-i8n】【element】Element 框架国际化配置指南：从 element-ui 到 element-plus 患得患失949 面试考题专栏（前后端）前端组件前端系统功能vue.js前端uii18nvue-i18nelment
    Element框架国际化配置指南：从element-ui到element-plus在全球化的大背景下，构建支持多语言的应用程序变得愈发重要。Element作为一款广泛使用的前端UI框架，为开发者提供了便捷的国际化（i18n）解决方案。本文将详细介绍在element-ui和element-plus中如何进行按需加载里的i18n定制。一、element-ui的i18n定制（一）官方文档指引elemen
  • go并发编程 产幻少年 golanggolang
    https://www.bilibili.com/video/BV16A4y1f7EXsync包工具Mutex：同一时间只有一个goroutine持有锁，其它申请该锁的goroutine会被阻塞。RWMutex：允许多个协程同时读取共享数据，但写入时需要独占锁。WaitGroup：等待一组协程完成后再继续执行。预设数量的goroutine都执行完成后，所有预设的goroutine才继续向下执行。M
  • 基于 Python + Django 的学生成绩综合评价分析预测可视化系统 源码空间站11 pythondjango开发语言课程设计机器学习成绩预测毕业设计
    开发报告：一、项目概述本项目是一个基于Python和Django框架开发的学生成绩综合评价分析与预测可视化系统。系统的主要功能包括：学生成绩数据的管理与展示、成绩预测模型的建立与应用、以及预测结果的可视化展示。该系统利用机器学习算法（如线性回归）进行成绩预测，并通过DjangoWeb框架实现数据的展示和用户交互。二、系统功能概述学生信息管理：系统管理学生的基本信息，包括年龄、性别、爱好等，基于Dj
  • Mongodb数据库的基本语法及使用 璟* Python
    数据库MongoDB（芒果数据库）数据存储阶段文件管理阶段（.txt.doc.xls）优点：数据可以长期保存可以存储大量的数据使用简单缺点：数据一致性差数据查找修改不方便数据冗余度可能比较大数据库管理阶段优点：数据组织结构化降低了冗余度提高了增删改查的效率容易扩展方便程序调用，做自动化处理缺点：需要使用sql或者其他特定的语句，相对比较复杂几个概念数据：能够输入到计算机中并被识别处理的信息集合数据
  • 深入解析Java线程模型：从BIO到NIO的性能跃迁之路 千里码！ 后端技术javaIOjavajavanio开发语言
    深入解析Java线程模型：从BIO到NIO的性能跃迁之路编程相关书籍分享：https://blog.csdn.net/weixin_47763579/article/details/145855793DeepSeek使用技巧pdf资料分享：https://blog.csdn.net/weixin_47763579/article/details/145884039引言在高并发网络编程中，线程模型的
  • python-坦克大战游戏项目 tzzzzzztzzzz pythonpygame游戏
    '''尚学堂学习笔记，用于复习'''一.下载pygame，在cmd输入命令pipinstallpygame(也可以直接在pycharm中importpygame,提示你没有pygame,然后直接安装即可)二.分析项目需求:坦克大战游戏的基本需求：1).项目中需要定义的类2).每个类对应的方法1.坦克类显示坦克移动射击2.子弹显示子弹移动击中敌方坦克时产生的影响3.墙壁类显示墙壁（是否可以通过）4.
  • 终于把所有的 Python 库都整理出来啦 编程简单学 程序员pythonpythondjango后端
    常用库Chardet字符编码探测器，可以自动检测文本、网页、xml的编码。colorama主要用来给文本添加各种颜色，并且非常简单易用。Prettytable主要用于在终端或浏览器端构建格式化的输出。difflib，[Python]标准库，计算文本差异Levenshtein，快速计算字符串相似度。fuzzywuzzy,字符串模糊匹配。esmre,正则表达式的加速器。shortuuid,一组简洁UR
  • 深入浅出：ASP.NET Core 中间件的使用与封装 江沉晚呤时 Netcorec#后端架构开发语言
    在ASP.NETCore中，中间件（Middleware）是处理HTTP请求和响应的核心组件。中间件可以在请求到达最终处理前对请求进行处理，也可以在响应返回客户端之前修改响应。通过使用中间件，开发者能够灵活地扩展应用程序功能，处理认证、日志记录、跨域请求、错误处理等常见任务。本文将详细介绍ASP.NETCore中间件的工作原理、如何使用内置中间件、如何封装自定义中间件，并提供实际的例子来帮助你掌握
  • 深入理解AOP（面向切面编程）：从基础到高级用法 江沉晚呤时 前端github后端.netcoreasp.netc#
    1.什么是AOP？AOP（Aspect-OrientedProgramming，面向切面编程）是一种编程范式，它通过将横切关注点从核心业务逻辑中分离出来，帮助我们更好地组织代码。横切关注点是指那些在程序多个部分都需要关注的功能，如日志记录、事务管理、性能监控等，这些功能并不是直接影响业务逻辑，但却需要在多个地方重复出现。通过AOP，我们可以避免这些代码的重复，减少冗余并提高代码的可维护性。1.1A
  • 出现 当 IDENTITY INSERT 设置为 OF 时，不能为表‘xxx‘ 中的标识列插入显式值解决方法 码农研究僧 BUG数据库sqlserverIDENTITY
    目录前言1.问题所示2.原理分析前言找工作，来万码优才：#小程序://万码优才/r6rqmzDaXpYkJZF1.问题所示插入数据到数据库的时候，出现如下Bug：[23000][Microsotl[ODBCDrver17forsOLsernver[sQLSerer)当IDENTITYINSERT设置为OF时，不能为表'RunningDRC'中的标识列插入显式值。(544)截图如下：2.原理分析表的
  • python小游戏经典坦克大战-实验设计 小哥儿最放纵 python游戏
    一.游戏流程概述游戏基本规则：按上下左右键移动我方坦克，按空格键进行发射子弹，击中坦克，坦克爆炸消失。若我方坦克被子弹击中或撞上，我方坦克死亡按ESC键可以重生。敌方坦克功能：白色敌方坦克为一般坦克。白色较小敌方坦克速度快，射击子弹频繁。黄色坦克被击中后会随机生成白色小坦克。地图：白色“铁”地图：子弹不能穿过此地图，坦克不能穿过此地图。蓝色“水地图”子弹和坦克均可以穿过此地图。游戏流程图基本流程如
  • 深入了解构建分布式微服务架构的利器：Spring Cloud Alibaba 和光同尘·心止 架构分布式微服务springcloud
    目录分布式微服务简介SpringCloudAlibaba简介核心组件Nacos组件Ribbon组件feign组件Sentinel组件seata组件gateway组件RabbitMQ组件组件安装步骤参考链接：阿里云官方文档：https://help.aliyun.com/阿里github官方文档：https://github.com/alibaba/SpringCloudAlibaba官方文档：ht
  • Java面试学习资源 web13595609705 面试学习路线阿里巴巴java面试学习
    【网站】牛客网https://www.nowcoder.com/【网站】力扣https://leetcode.com/https://leetcode-cn.com/problemset/all/中文社区【网站】尚学堂总结的几百道面试题，以及面试需要注意什么https://www.bjsxt.com/javamianshiti.html【网站】java面试题网http://www.wityx.co
  • vue页面路由缓存的一种方法 曾不错吖 缓存vue.js前端
    vue页面路由缓存的一种app.vueapp.vue页面需要这样写：https://blog.csdn.net/shoping110/article/details/129237854?ops_request_misc=&request_id=&biz_id=102&utm_term=vue3%E7%9A%84keep-alive%E5%A4%9A%E9%A1%B5%E9%9D%A2%E4%BD%
  • Python模块之pywin32 宅羽 Python模块
    ◆问题汇总：1、多线程使用pywin32com造成的问题：pywintypes.com_error:(-2147221008,'尚未调用CoInitialize。',None,None)解决方法：在线程启动时先运行pythoncom.CoInitialize()importpythoncomclassSecretFile(object):def_save_tmpfile(self,passwd):
  • twilio给自己发短信 nutron-ma Python数值分析数学物理基础matlabpython
    使用python的twilio给自己发短信1.申请账号、虚拟电话号1.注册地址：https://www.twilio.comsignup,人机验证，邮箱验证，验证接收短信的电话号码。获得自己的虚拟号码，获得账号2.pipinstalltwilio#-*-coding:utf-8-*-"""用于发送短信需要pipinstalltwilio给自己发短信需要申请账号2020.8.29"""fromtwi
  • 【Git】版本控制系统Git命令详解 Earnest～ gitelasticsearch大数据
    2024.06.062024.06.06\2024.06.06Resources强推：ProGit-Book(git-scm.com).中文版.强烈推荐网址：https://learngitbranching.js.org/?locale=zh_CN.LearnGitGame：基础（Git主要命令）GitCommit（提交）提交记录保存的是你的目录下所有文件的快照。提交记录尽可能地轻量，因此将当前
  • 【Python环境】配置极简描述 Earnest～ python开发语言
    241220241220241220Python环境配置下载Python稳定版本：StableReleases【3.12.3】下载地址：PythonReleasesforWindows|Python.org.配环境注意勾上AddPython3.xtoPATH，然后点“InstallNow”即可完成安装。配置完成！检验：检验：win+R输入cmd，然后python回车。补充：python解释器Pyt
  • 深入浅出 Serilog：全面掌握 .NET 日志记录 拾忆4377 .netserilog
    在现代应用程序中，日志记录是至关重要的一部分，它帮助开发人员追踪和调试应用程序的问题。Serilog是一个功能强大且灵活的.NET日志记录库，它不仅支持结构化日志，还能轻松集成到各种日志管理平台中。本教程将介绍如何在.NET应用程序中使用Serilog进行日志记录。一、Serilog概述Serilog是一个为.NET应用程序设计的第三方日志库，具有以下特点：结构化日志：Serilog可以记录结构化
  • 辗转相处求最大公约数 沐刃青蛟 C++漏洞
    无言面对”江东父老“了，接触编程一年了，今天发现还不会辗转相除法求最大公约数。惭愧惭愧！   为此，总结一下以方便日后忘了好查找。   1.输入要比较的两个数a,b   忽略：2.比较大小（因为后面要的是大的数对小的数做%操作）   3.辗转相除（用循环不停的取余，如a%b,直至b=0）   4.最后的a为两数的最大公约数 &
  • F5负载均衡会话保持技术及原理技术白皮书 bijian1013 F5负载均衡
    一.什么是会话保持？        在大多数电子商务的应用系统或者需要进行用户身份认证的在线系统中，一个客户与服务器经常经过好几次的交互过程才能完成一笔交易或者是一个请求的完成。由于这几次交互过程是密切相关的，服务器在进行这些交互过程的某一个交互步骤时，往往需要了解上一次交互过程的处理结果，或者上几步的交互过程结果，服务器进行下
  • Object.equals方法：重载还是覆盖 Cwind javagenericsoverrideoverload
    本文译自StackOverflow上对此问题的讨论。 原问题链接   在阅读Joshua Bloch的《Effective Java（第二版）》第8条“覆盖equals时请遵守通用约定”时对如下论述有疑问： “不要将equals声明中的Object对象替换为其他的类型。程序员编写出下面这样的equals方法并不鲜见，这会使程序员花上数个小时都搞不清它为什么不能正常工作：” pu
  • 初始线程 15700786134
          暑假学习的第一课是讲线程，任务是是界面上的一条线运动起来。            既然是在界面上，那必定得先有一个界面，所以第一步就是，自己的类继承JAVA中的JFrame，在新建的类中写一个界面，代码如下： public class ShapeFr
  • Linux的tcpdump 被触发 tcpdump
    用简单的话来定义tcpdump，就是：dump the traffic on a network，根据使用者的定义对网络上的数据包进行截获的包分析工具。 tcpdump可以将网络中传送的数据包的“头”完全截获下来提供分析。它支 持针对网络层、协议、主机、网络或端口的过滤，并提供and、or、not等逻辑语句来帮助你去掉无用的信息。 实用命令实例 默认启动 tcpdump 普通情况下，直
  • 安卓程序listview优化后还是卡顿 肆无忌惮_ ListView
    最近用eclipse开发一个安卓app，listview使用baseadapter，里面有一个ImageView和两个TextView。使用了Holder内部类进行优化了还是很卡顿。后来发现是图片资源的问题。把一张分辨率高的图片放在了drawable-mdpi文件夹下，当我在每个item中显示，他都要进行缩放，导致很卡顿。解决办法是把这个高分辨率图片放到drawable-xxhdpi下。 &nb
  • 扩展easyUI tab控件，添加加载遮罩效果 知了ing jquery
    (function () { $.extend($.fn.tabs.methods, { //显示遮罩 loading: function (jq, msg) { return jq.each(function () { var panel = $(this).tabs(&
  • gradle上传jar到nexus 矮蛋蛋 gradle
    原文地址： https://docs.gradle.org/current/userguide/maven_plugin.html configurations {     deployerJars } dependencies {     deployerJars "org.apache.maven.wagon
  • 千万条数据外网导入数据库的解决方案。 alleni123 sqlmysql
    从某网上爬了数千万的数据，存在文本中。 然后要导入mysql数据库。 悲剧的是数据库和我存数据的服务器不在一个内网里面。。 ping了一下， 19ms的延迟。 于是下面的代码是没用的。 ps = con.prepareStatement(sql); ps.setString(1, info.getYear())............; ps.exec
  • JAVA IO InputStreamReader和OutputStreamReader 百合不是茶 JAVA.io操作 字符流
    这是第三篇关于java.io的文章了，从开始对io的不了解-->熟悉--->模糊，是这几天来对文件操作中最大的感受，本来自己认为的熟悉了的，刚刚在回想起前面学的好像又不是很清晰了，模糊对我现在或许是最好的鼓励 我会更加的去学 加油！： JAVA的API提供了另外一种数据保存途径，使用字符流来保存的，字符流只能保存字符形式的流   字节流和字符的难点：a,怎么将读到的数据
  • MO、MT解读 bijian1013 GSM
    MO= Mobile originate，上行，即用户上发给SP的信息。MT= Mobile Terminate，下行，即SP端下发给用户的信息； 上行:mo提交短信到短信中心下行:mt短信中心向特定的用户转发短信，你的短信是这样的，你所提交的短信，投递的地址是短信中心。短信中心收到你的短信后，存储转发，转发的时候就会根据你填写的接收方号码寻找路由，下发。在彩信领域是一样的道理。下行业务：由SP
  • 五个JavaScript基础问题 bijian1013 JavaScriptcallapplythisHoisting
    下面是五个关于前端相关的基础问题，但却很能体现JavaScript的基本功底。 问题1：Scope作用范围 考虑下面的代码：  (function() { var a = b = 5; })(); console.log(b); 什么会被打印在控制台上？  回答：         上面的代码会打印 5。 &nbs
  • 【Thrift二】Thrift Hello World bit1129 Hello world
    本篇，不考虑细节问题和为什么，先照葫芦画瓢写一个Thrift版本的Hello World，了解Thrift RPC服务开发的基本流程   1. 在Intellij中创建一个Maven模块，加入对Thrift的依赖，同时还要加上slf4j依赖，如果不加slf4j依赖，在后面启动Thrift Server时会报错 <dependency>
  • 【Avro一】Avro入门 bit1129 入门
    本文的目的主要是总结下基于Avro Schema代码生成，然后进行序列化和反序列化开发的基本流程。需要指出的是，Avro并不要求一定得根据Schema文件生成代码，这对于动态类型语言很有用。   1. 添加Maven依赖   <?xml version="1.0" encoding="UTF-8"?> <proj
  • 安装nginx+ngx_lua支持WAF防护功能 ronin47
    需要的软件:LuaJIT-2.0.0.tar.gz                   nginx-1.4.4.tar.gz          &nb
  • java-5.查找最小的K个元素-使用最大堆 bylijinnan java
    import java.util.Arrays; import java.util.Random; public class MinKElement { /** * 5.最小的K个元素 * I would like to use MaxHeap. * using QuickSort is also OK */ public static void
  • TCP的TIME-WAIT bylijinnan socket
    原文连接： http://vincent.bernat.im/en/blog/2014-tcp-time-wait-state-linux.html 以下为对原文的阅读笔记 说明： 主动关闭的一方称为local end，被动关闭的一方称为remote end 本地IP、本地端口、远端IP、远端端口这一“四元组”称为quadruplet，也称为socket 1、TIME_WA
  • jquery ajax 序列化表单 coder_xpf Jquery ajax 序列化
       checkbox 如果不设定值，默认选中值为on；设定值之后，选中则为设定的值   <input type="checkbox" name="favor" id="favor" checked="checked"/> $("#favor&quo
  • Apache集群乱码和最高并发控制 cuisuqiang apachetomcat并发集群乱码
    都知道如果使用Http访问，那么在Connector中增加URIEncoding即可，其实使用AJP时也一样，增加useBodyEncodingForURI和URIEncoding即可。 最大连接数也是一样的，增加maxThreads属性即可，如下，配置如下： <Connector maxThreads="300" port="8019" prot
  • websocket dalan_123 websocket
    一、低延迟的客户端-服务器 和 服务器-客户端的连接 很多时候所谓的http的请求、响应的模式，都是客户端加载一个网页，直到用户在进行下一次点击的时候，什么都不会发生。并且所有的http的通信都是客户端控制的，这时候就需要用户的互动或定期轮训的，以便从服务器端加载新的数据。   通常采用的技术比如推送和comet（使用http长连接、无需安装浏览器安装插件的两种方式：基于ajax的长
  • 菜鸟分析网络执法官 dcj3sjt126com 网络
      最近在论坛上看到很多贴子在讨论网络执法官的问题。菜鸟我正好知道这回事情.人道"人之患好为人师" 手里忍不住,就写点东西吧. 我也很忙.又没有MM,又没有MONEY....晕倒有点跑题. OK,闲话少说,切如正题. 要了解网络执法官的原理. 就要先了解局域网的通信的原理. 前面我们看到了.在以太网上传输的都是具有以太网头的数据包. 
  • Android相对布局属性全集 dcj3sjt126com android
    RelativeLayout布局android:layout_marginTop="25dip" //顶部距离android:gravity="left" //空间布局位置android:layout_marginLeft="15dip //距离左边距 // 相对于给定ID控件android:layout_above 将该控件的底部置于给定ID的
  • Tomcat内存设置详解 eksliang jvmtomcattomcat内存设置
    Java内存溢出详解   一、常见的Java内存溢出有以下三种：   1. java.lang.OutOfMemoryError: Java heap space ----JVM Heap（堆）溢出JVM在启动的时候会自动设置JVM Heap的值，其初始空间(即-Xms)是物理内存的1/64，最大空间(-Xmx)不可超过物理内存。 可以利用JVM提
  • Java6 JVM参数选项 greatwqs javaHotSpotjvmjvm参数JVM Options
    Java 6 JVM参数选项大全（中文版）   作者：Ken Wu Email: ken.wug@gmail.com 转载本文档请注明原文链接 http://kenwublog.com/docs/java6-jvm-options-chinese-edition.htm！   本文是基于最新的SUN官方文档Java SE 6 Hotspot VM Opt
  • weblogic创建JMC i5land weblogicjms
    进入 weblogic控制太 1.创建持久化存储 --Services--Persistant Stores--new--Create FileStores--name随便起--target默认--Directory写入在本机建立的文件夹的路径--ok 2.创建JMS服务器 --Services--Messaging--JMS Servers--new--name随便起--Pers
  • 基于 DHT 网络的磁力链接和BT种子的搜索引擎架构 justjavac DHT
    上周开发了一个磁力链接和 BT 种子的搜索引擎 {Magnet & Torrent}，本文简单介绍一下主要的系统功能和用到的技术。 系统包括几个独立的部分： 使用 Python 的 Scrapy 框架开发的网络爬虫，用来爬取磁力链接和种子； 使用 PHP CI 框架开发的简易网站； 搜索引擎目前直接使用的 MySQL，将来可以考虑使
  • sql添加、删除表中的列 macroli sql
    添加没有默认值：alter table Test add BazaarType char(1) 有默认值的添加列：alter table Test add BazaarType char(1) default(0) 删除没有默认值的列：alter table Test drop COLUMN BazaarType 删除有默认值的列：先删除约束（默认值）alter table Test DRO
  • PHP中二维数组的排序方法 abc123456789cba 排序二维数组PHP
    <?php/*** @package     BugFree* @version     $Id: FunctionsMain.inc.php,v 1.32 2005/09/24 11:38:37 wwccss Exp $*** Sort an two-dimension array by some level
  • hive优化之------控制hive任务中的map数和reduce数 superlxw1234 hivehive优化
    一、    控制hive任务中的map数: 1.    通常情况下，作业会通过input的目录产生一个或者多个map任务。 主要的决定因素有： input的文件总个数，input的文件大小，集群设置的文件块大小(目前为128M, 可在hive中通过set dfs.block.size;命令查看到，该参数不能自定义修改)；2. 
  • Spring Boot 1.2.4 发布 wiselyman spring boot
    Spring Boot 1.2.4已于6.4日发布，repo.spring.io and Maven Central可以下载(推荐使用maven或者gradle构建下载)。   这是一个维护版本，包含了一些修复small number of fixes,建议所有的用户升级。   Spring Boot 1.3的第一个里程碑版本将在几天后发布，包含许多
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他