LamGC
LamGC

2019.06 用Java制作P站爬虫教程

制作Pixiv爬虫教程

网上大多数教程不是很详细，而且p站对反爬虫有了新的措施，
经过半天研究后Lam终于做出来了，然后兴奋的写下这篇教程XD
爬虫是通过Java写的w

准备材料

Java
Jsoup - 用来解析Html网页
HttpClient - 用来保持会话访问P站
Gson - 解析Json
脑子 - 脑子是个好东西

Step 0: 登录前的准备

登录过程网上已经有提到过，获取PostKey后调用登录接口，保存Cookie以方便后续使用
这里再详细讲一讲：

我们先准备一个HttpClient对象
2019.06 用Java制作P站爬虫教程_第1张图片
如果需要设置代理可以在构造HttpClient对象时设置.
然后访问 https://accounts.pixiv.net/login?lang=zh&source=pc&view_type=page&ref=wwwtop_accounts_index 获取PostKey
PostKey的形式已经改变了，他存在于id为init-config的一个input标签里
2019.06 用Java制作P站爬虫教程_第2张图片
那么我们代码可以这么写：
2019.06 用Java制作P站爬虫教程_第3张图片
这样我们就准备好进行登陆了!

Step 1: 登录Pixiv

我们回到浏览器控制台，打开Network，清空列表，准备抓取登录包
注意！Network里一定要打开好Preserve Log，不然会被刷掉的
2019.06 用Java制作P站爬虫教程_第4张图片

然后输入帐号密码进行登录，等待网页加载完成后找到login?lang=zh请求项：
2019.06 用Java制作P站爬虫教程_第5张图片
可以看到这个接口是Post请求类型的，它提交了一个表单数据，里面的password,pixiv_id和post_key就是我们登录需要的了
注意刚刚获取PostKey时的Cookie也要传递(可能是必要的？)
然后代码就这么写：
2019.06 用Java制作P站爬虫教程_第6张图片

这样我们就完成了登录！

Step 3: 下载图片

我们知道P站如果不登录的话，插图详情是无法下载原图的，所以我们登录后就可以下载了！
插图详情的链接格式为: https://www.pixiv.net/member_illust.php?mode=medium&illust_id= 后面跟插图ID
随便访问一张插图=w=比如说：
（图片来源：https://www.pixiv.net/member_illust.php?mode=medium&illust_id=72994550）
2019.06 用Java制作P站爬虫教程_第7张图片
然后我们看看Html结构，定位到图片的img标签：
2019.06 用Java制作P站爬虫教程_第8张图片
Html代码:

ツインテールちゃん/凪白みとのイラスト

然后发现这个标签有一个class属性，我们选择sc-1qpw8k9-1（或许以后会改变？）作为我们寻找图片Url的方法
通过访问插图详情页，交给Jsoup生成Document文档，然后通过Jsoup提供的Document对象里的getElementsByClass("sc-1qpw8k9-1").get(0).attr("src")来获取图片链接即可！
…


















好的肯定有人问：诶！为什么我获取了链接访问的是403！！！
啊哈，这里有一个很重要的请求头！
我们从Chrome控制台的Network里找到图片(xxx_px_master.xxx)
然后，纳尼！？为什么没有显示请求头？？？
2019.06 用Java制作P站爬虫教程_第9张图片
这里只找到了一行 Provisional headers are shown，这里涉及到一个叫CORB的安全措施，这里就不详细说明了
既然这样，我们还有什么办法查看他们的请求头呢？
有的！用firefox！（moz高兴的拍起了肚皮）
2019.06 用Java制作P站爬虫教程_第10张图片
OK，看到这里应该就知道为什么直接访问图片会出现403了吧！如果不加入Referer请求头并设置值为该插图的插图详情链接的话，Pixiv会把它当成非法访问而拒绝提供图片的！

至此，教程结束！

你可能感兴趣的:(Java爬虫)

  • Java爬虫框架（一）--架构设计 狼图腾-狼之传说 java框架java任务html解析器存储电子商务
    一、架构图那里搜网络爬虫框架主要针对电子商务网站进行数据爬取，分析，存储，索引。爬虫：爬虫负责爬取，解析，处理电子商务网站的网页的内容数据库：存储商品信息索引：商品的全文搜索索引Task队列：需要爬取的网页列表Visited表：已经爬取过的网页列表爬虫监控平台：web平台可以启动，停止爬虫，管理爬虫，task队列，visited表。二、爬虫1.流程1)Scheduler启动爬虫器，TaskMast
  • WebMagic：强大的Java爬虫框架解析与实战 Aaron_945 Javajava爬虫开发语言
    文章目录引言官网链接WebMagic原理概述基础使用1.添加依赖2.编写PageProcessor高级使用1.自定义Pipeline2.分布式抓取优点结论引言在大数据时代，网络爬虫作为数据收集的重要工具，扮演着不可或缺的角色。Java作为一门广泛使用的编程语言，在爬虫开发领域也有其独特的优势。WebMagic是一个开源的Java爬虫框架，它提供了简单灵活的API，支持多线程、分布式抓取，以及丰富的
  • 如何在Java爬虫中设置代理IP：详解与技巧 天启代理ip java爬虫tcp/ip
    在进行网络爬虫时，使用代理IP可以有效地避免被目标网站封禁，提升数据抓取的成功率。本文将详细介绍如何在Java爬虫中设置代理IP，并提供一些实用的技巧和示例代码。为什么需要代理IP？在进行爬虫操作时，频繁的请求可能会引起目标网站的注意，甚至导致IP被封禁。就像一只贪心的小猫不停地偷鱼吃，迟早会被发现。为了避免这种情况，我们可以使用代理IP，模拟多个用户，从而降低被封禁的风险。获取代理IP获取代理I
  • 2024年Java爬虫利器：Jsoup详细介绍与用法_java jsoup(1) 2401_84562143 程序员java爬虫开发语言
    .method(Connection.Method.GET).execute();DocumentloginDoc=loginForm.parse();Elementform=loginDoc.select(“form”).first();//填充表单字段form.select(“input[name=username]”).val(“username”);form.select(“input[n
  • Java爬虫开发：Jsoup库在图片URL提取中的实战应用 小白学大数据 pythonjava爬虫开发语言测试工具前端javascript
    在当今的互联网时代，数据的获取和处理变得尤为重要。对于网站内容的自动化抓取，爬虫技术扮演着不可或缺的角色。Java作为一种广泛使用的编程语言，拥有丰富的库支持网络爬虫的开发。其中，Jsoup库以其简洁、高效的特点，成为处理HTML内容和提取数据的优选工具。本文将详细介绍如何使用Jsoup库开发Java爬虫，以实现图片URL的提取。Jsoup库简介Jsoup是一个用于解析HTML文档的Java库，它
  • Java编写爬虫和Python编写爬虫到底有什么区别 菜到极致就是渣 网络知识爬虫java爬虫大数据javascript
    关于Java编写爬虫和Python编写爬虫，以前我就特别疑惑，但是却并没有放在心上，不知道最近我为什么会突然感兴趣。于是我就搜了一下爬虫相关知识以及学习课程，结果我发现全都是用Python来进行网络爬虫，基本上看不到Java爬虫，以前没学爬虫的时候，我还以为只能用Python进行爬虫，难道我还要再去学Python？后面我才发现Java也可以进行爬虫，但是竟然Java也可以爬虫的话，为什么很多教学网
  • 【开源项目阅读】Java爬虫抓取豆瓣图书信息 IncludeFun java爬虫开发语言
    原项目链接Java爬虫抓取豆瓣图书信息本地运行运行过程另建项目，把四个源代码文件拷贝到自己的包下面在代码爆红处按ALT+ENTER自动导入maven依赖直接运行Main.main方法，启动项目运行结果在本地磁盘上生成三个xml文件其中的内容即位爬取后到的图书信息，包括：书名作者名出版社名isbn号图书对应的豆瓣链接图书封面图片地址可惜并没有直接爬取到图书的内容，不过可以凭借爬取得到的图书元数据去其
  • JAVA爬虫三种方法 weixin_40298650
    文章目录前言一、JDK二、HttpClient三、Jsoup总结前言记录JAVA爬虫三种方式一、JDK使用JDK自带的URLConnection实现网络爬虫。publicvoidtestGet()throwsException{//1.确定要访问/爬取的URLURLurl=newURL("https://blog.csdn.net/weixin_40298650/article/details/1
  • Java爬虫与SSL代理：实际案例分析与技术探讨 小白学大数据 pythonjava爬虫ssl开发语言
    前言网络爬虫成为获取互联网数据的重要工具之一,然而，随着网络安全意识的提高，许多网站开始采用SSL加密来保护数据传输的安全性。本文将介绍如何使用Java编程语言结合SSL代理技术来实现网络爬虫，并通过实际案例分析和技术探讨来展示其应用价值。SSL代理技术优势SSL代理技术是一种能够在SSL加密通信中进行中间人攻击的技术，通过SSL代理，我们可以在客户端和服务器之间插入一个代理服务器，对SSL加密的
  • Java爬虫+协同过滤+Springboot+vue.js实现的小说推荐系统，小说推荐平台，小说管理系统 计算机程序优异哥
    互联网小说资源网站非常的多，但是很多阅读资源都需要收费开会员才能阅读。因此本次毕业设计程序立足于网络爬虫技术采集互联网小说资源分析汇总至本小说推荐平台，基于用户协同过滤推荐算法对不同的用户展开个性化的小说内容推荐阅读。一、程序设计本次基于爬虫的小说推荐系统主要内容涉及：主要功能模块：小说阅读推荐前端平台，小说数据管理与分析平台主要包含技术：java爬虫，redis，springboot，mybat
  • Java爬虫批量爬取图片 zxy199288 javajava爬虫python
    Java爬取图片现在开始学习爬虫，对于爬虫的入门来说，图片相对来说是比较容易获取的，因为大部分图片都不是敏感数据，所以不会遇到什么反爬措施，对于入门爬虫来说是比较合适的。使用技术：Java基础知识、HttpClient4.x、Jsoup学习目标：下载静态资源图片。爬取思路对于这种图片的获取，其实本质上就是就是文件的下载（HttpClient）。但是因为不只是获取一张图片，所以还会有一个页面解析的处
  • JAVA爬虫案例——JSOUP爬取图片并使用v-viewer实现图片预览 北溟溟 JAVAjava爬虫
    前言网络爬虫是大数据时代收集数据的一种有效手段，合理合法的运用技术手段获取网络数据，实现数据的再利用也是程序员的一项重要技能。本节我们使用java环境下的jsoup实现网络数据的爬取，主要是图片数据的异步爬取，并实现网络图片的下载及图片的预览功能，预览功能使用具有丰富功能的v-viewer实现。正文引入爬虫pom工具包org.apache.httpcomponentshttpclient4.5.6
  • Jsoup - 【Java爬虫】- 批量下载指定网站图片 QX_Java_Learner Javajava
    简介Jsoup是一款Java的HTML解析器，可直接解析某个URL地址、HTML文本内容。它提供了一套非常省力的API，可通过DOM，CSS以及类似于JQuery的操作方法来取出和操作数据。Jsoup对多线程、连接池、代理等等的支持并不是很好，所以一般把Jsoup仅仅作为HTML解析工具使用。功能从一个URL、文件或字符串中解析HTML使用DOM或CSS选择器来查找、取出数据可操作HTML元素、属
  • Java爬虫，关于selenium/guava/JDK版本的兼容性说明 佩洛君 java爬虫selenium
    直接给maven这个是JDK1.8下绝对能跑的，测试时间：2024/1/18org.seleniumhq.seleniumselenium-java4.1.1com.google.guavaguava31.0.1-jre行吧，cloudFlare能挡住selenium，给我防麻了这个兼容性不行，版本差一点点就报错
  • java爬取数据放入mysql_Java爬虫历险记 -- （2）爬取数据并存放到mysql 郑默默 java爬取数据放入mysql
    本文是对博客下雨天没带伞–JAVA实现网页爬虫及将数据写入数据库–http://blog.csdn.net/sinat_38224744/article/details/70652767中代码的理解和补充，并使用NavicatforMySQL软件实现对数据的可视化操作。代码分成两部分：Web.java+Jdbc.java一、Web.java/***原博客：http://blog.csdn.net/
  • Java爬虫爬取图片壁纸 .陌路 SpringBoot3.xJavajava爬虫SpringBoot3.xJava17springboot3jshtml5
    Java爬虫以sougou图片为例：https://pic.sogou.com/JDK17、SpringBoot3.2.X、hutool5.8.24实现Java爬虫，爬取页面图片项目介绍开发工具：IDEA2023.2.5JDK：Java17SpringBoot：3.2.x通过SpringBoot快速构建开发环境，通过Jsoup实现对网页的解析，并获取想要的资源数据使用hutool工具，将所需要的字
  • Java爬虫-使用jsoup爬取数据入门案例（爬取豆瓣电影Top250数据） 丿BAIKAL巛 #Java爬虫java爬虫开发语言
    有需要用到jsoup来获取数据，因为之前没有用过，所以就想写一个入门案例来巩固一下，这个案例的功能是爬取豆瓣电影Top250的电影数据（电影名称，简介，评分，评价等），并且将数据存到Excel表格中。这是豆瓣电影Top250的网址，https://movie.douban.com/top250?start=0文章目录一、前置工作1.1技术介绍JsoupApachePOI1.2依赖导入Jsoup入门
  • java爬虫和python爬虫的区别 考一个红薯 pythonjava爬虫
    java爬虫与python爬虫的对比：python做爬虫语法更简单，代码更简洁。java的语法比python严格，而且代码也更复杂示例如下：url请求：java版的代码如下：publicStringcall(Stringurl){Stringcontent="";BufferedReaderin=null;try{URLrealUrl=newURL(url);URLConnectionconnec
  • 用Java爬取新房二手房数据看总体大环境 q56731523 java开发语言kotlinpython爬虫代理模式
    都说现在房市惨淡，导致很多人在观望，那么今天我写一段爬虫，主要是抓取各地新房以及二手房成交状况，然后了解总体楼市是否回暖上升。以下是Java爬虫程序的代码示例，用于抓取贝壳网新房和二手房数据：importorg.jsoup.Jsoup;importorg.jsoup.nodes.Document;importorg.jsoup.nodes.Element;importorg.jsoup.selec
  • 新车怎么选？用Java采集汽车之家车辆配置参数信息 q56731523 java汽车开发语言rust后端c语言
    年关将至，辛苦一年了，总得犒劳犒劳自己，有人喜欢出去大吃一顿，逛街买东西，也有人会选择买车给自己增添一个代步工具买一辆汽车，而且现在车辆活动力度很大，将会吸引更多人购买欲。那么，普通人怎么选择车辆呢？下面我将通过java爬虫写一个车辆配置参数信息抓取程序，并进行分析对比，让选择也能手机刷刷就能完事。这是一个使用Java编写的爬虫程序，用于抓取汽车之家的车型、车系、配置参数数据。在开始之前，需要了解
  • 【java爬虫】首页显示沪深300指数走势图以及前后端整合部署方法 haohulala java网络爬虫前端学习笔记java爬虫vue.js
    添加首页本文我们将在首页添加沪深300指数成立以来的整体走势数据展示，最后的效果是这样的单独贴一张沪深300整体走势图我感觉从总体上来看指数还是比较稳的，没有特别大的波动，当然，这只是相对而言哈哈。首先是前端页面更新沪深300成分股数据信息更新状态：{{update_status}}操作：重新更新信息importaxiosfrom"axios";import{ElMessage}from"elem
  • Java爬虫系列二：使用HttpClient抓取页面HTML 不會變承諾
    爬虫要想爬取需要的信息，首先第一步就要抓取到页面html内容，然后对html进行分析，获取想要的内容。上一篇随笔《Java爬虫系列一：写在开始前》中提到了HttpClient可以抓取页面内容。今天就来介绍下抓取html内容的工具：HttpClient。一、什么是HttpClient度娘说：HttpClient是ApacheJakartaCommon下的子项目，可以用来提供高效的、最新的、功能丰富的
  • 用Java编写图书网站信息采集程序教程 q56731523 java开发语言rust后端c语言爬虫
    最近有个公司想要开发新产品，想要找到一些相关产品的功能以及工艺信息，之前有个负责人就通过传统的百度搜索来查找，但是效率太慢，然后请教我问我有什么办法收集这类产品信息以及配套的产品书籍以及信息，这不，饭都请我吃了，我能说不么？在开始编写Java爬虫程序之前，需要准备一些东西，包括Java开发环境，代理服务器，以及一个需要爬取的图书网站。假设我们已经有了这些工具，下面是用Java编写的爬虫程序，爬取图
  • Java爬虫之Jsoup sternschnapper 前端javascripthtml
    1.Jsoup相关概念Jsoup很多概念和js类似，可参照对比理解Document：文档对象。每份HTML页面都是一个文档对象，Document是jsoup体系中最顶层的结构。Element：元素对象。一个Document中可以着包含着多个Element对象，可以使用Element对象来遍历节点提取数据或者直接操作HTML。Elements：元素对象集合，类似于List。Node：节点对象。标签名
  • Java爬虫获取省市区镇村5级行政区划 sternschnapper java爬虫开发语言
    公司有个项目需要五级行政区划，没有现成的数据，写了一段代码，从gj统计j获取的数据。记录一下。1.引入maven解析htmlorg.jsoupjsoup1.11.32.Java代码实现@GetMapping("/hh")publicvoidhh(){Divisiond=newDivision();finalStringurl="https://www.stats.gov.cn/sj/tjbz/tj
  • 【java爬虫】使用element-plus进行个股详细数据分页展示 haohulala java网络爬虫金融数据分析前端学习笔记javaelement-plus分页
    前言前面的文章我们讲述了获取详细个股数据的方法，并且使用echarts对个股的价格走势图进行了展示，本文将编写一个页面，对个股详细数据进行展示。别问涉及到了element-plus中分页的写法，对于这部分知识将会做重点讲解。首先看一下效果之前我一直认为前端分页很难写，不过今天写完这个页面之后我发现，有了element-plus这样的框架，前端真的变得非常简单。获取所有有数据的股票代码我们的页面主要
  • 【java爬虫】股票数据获取工具前后端代码 haohulala java网络爬虫金融数据分析前端学习笔记javaelement-plusvue
    前面我们有好多文章都是在介绍股票数据获取工具，这是一个前后端分离项目后端技术栈：springboot，sqlite，jdbcTemplate，okhttp前端技术栈：vue，element-plus，echarts，axios介绍的文章如下：【金融数据分析】计算沪深300指数行业权重分布并用饼图展示-CSDN博客【金融数据分析】获取沪深300成分股权重数据方法优化-CSDN博客【java爬虫】基于
  • 专为初学者设计：Nutch库Java下载器入门指南 亿牛云爬虫专家 java代理IP爬虫代理java开发语言Nutch下载器爬虫代理代理IP多线程
    概述:Nutch是一款开源的Java爬虫框架，用于抓取、解析、提取和存储网页数据。基于Hadoop的分布式系统，Nutch支持大规模网络爬取，并提供各种插件，包括链接分析、语言检测和内容过滤等功能。本文旨在介绍如何使用Nutch库编写简单的Java下载器，即能从指定URL下载网页内容的程序。目标是帮助初学者了解Nutch库的基本用法，并展示如何通过代理IP技术和多线程技术提升下载效率。假设读者已安
  • 【java爬虫】获取个股详细数据并用echarts展示 haohulala java网络爬虫金融数据分析前端学习笔记java爬虫vue
    前言前面一篇文章介绍了获取个股数据的方法，本文将会对获取的接口进行一些优化，并且添加查询数据的接口，并且基于后端返回数据编写一个前端页面对数据进行展示。具体的获取个股数据的接口可以看上一篇文章【java爬虫】基于springboot+jdbcTemplate+sqlite+OkHttp获取个股的详细数据-CSDN博客下面是操作演示，首先是爬虫获取股票数据接着是进行获取个股详细数据并且进行数据展示数
  • java爬虫（jsoup）如何设置HTTP代理ip爬数据 卑微阿文 java爬虫http
    目录前言什么是HTTP代理IP使用Jsoup设置HTTP代理IP的步骤1.导入Jsoup依赖2.创建HttpProxy类3.设置代理服务器4.使用Jsoup进行爬取结论前言在Java中使用Jsoup进行网络爬虫操作时，有时需要使用HTTP代理IP来爬取数据。本文将介绍如何使用Jsoup设置HTTP代理IP进行爬取，并提供相关代码示例。什么是HTTP代理IPHTTP代理IP是一种允许我们通过代理服务
  • HQL之投影查询 归来朝歌 HQLHibernate查询语句投影查询
            在HQL查询中，常常面临这样一个场景，对于多表查询，是要将一个表的对象查出来还是要只需要每个表中的几个字段，最后放在一起显示？ 针对上面的场景，如果需要将一个对象查出来： HQL语句写“from 对象”即可 Session session = HibernateUtil.openSession();
  • Spring整合redis bylijinnan redis
    pom.xml <dependencies> <!-- Spring Data - Redis Library --> <dependency> <groupId>org.springframework.data</groupId> <artifactId>spring-data-redi
  • org.hibernate.NonUniqueResultException: query did not return a unique result: 2 0624chenhong Hibernate
    参考：http://blog.csdn.net/qingfeilee/article/details/7052736 org.hibernate.NonUniqueResultException: query did not return a unique result: 2         在项目中出现了org.hiber
  • android动画效果 不懂事的小屁孩 android动画
    前几天弄alertdialog和popupwindow的时候，用到了android的动画效果，今天专门研究了一下关于android的动画效果，列出来，方便以后使用。 Android 平台提供了两类动画。 一类是Tween动画，就是对场景里的对象不断的进行图像变化来产生动画效果（旋转、平移、放缩和渐变）。 第二类就是 Frame动画，即顺序的播放事先做好的图像，与gif图片原理类似。
  • js delete 删除机理以及它的内存泄露问题的解决方案 换个号韩国红果果 JavaScript
    delete删除属性时只是解除了属性与对象的绑定，故当属性值为一个对象时，删除时会造成内存泄露  （其实还未删除） 举例： var person={name:{firstname:'bob'}} var p=person.name delete person.name p.firstname -->'bob' // 依然可以访问p.firstname，存在内存泄露
  • Oracle将零干预分析加入网络即服务计划 蓝儿唯美 oracle
    由Oracle通信技术部门主导的演示项目并没有在本月较早前法国南斯举行的行业集团TM论坛大会中获得嘉奖。但是，Oracle通信官员解雇致力于打造一个支持零干预分配和编制功能的网络即服务（NaaS）平台，帮助企业以更灵活和更适合云的方式实现通信服务提供商（CSP）的连接产品。这个Oracle主导的项目属于TM Forum Live!活动上展示的Catalyst计划的19个项目之一。Catalyst计
  • spring学习——springmvc（二） a-john springMVC
    Spring MVC提供了非常方便的文件上传功能。 1，配置Spring支持文件上传： DispatcherServlet本身并不知道如何处理multipart的表单数据，需要一个multipart解析器把POST请求的multipart数据中抽取出来，这样DispatcherServlet就能将其传递给我们的控制器了。为了在Spring中注册multipart解析器，需要声明一个实现了Mul
  • POJ-2828-Buy Tickets aijuans ACM_POJ
    POJ-2828-Buy Tickets http://poj.org/problem?id=2828 线段树，逆序插入 #include<iostream>#include<cstdio>#include<cstring>#include<cstdlib>using namespace std;#define N 200010struct
  • Java Ant build.xml详解 asia007 build.xml
    1,什么是antant是构建工具2,什么是构建概念到处可查到，形象来说，你要把代码从某个地方拿来，编译，再拷贝到某个地方去等等操作，当然不仅与此，但是主要用来干这个3,ant的好处跨平台   --因为ant是使用java实现的，所以它跨平台使用简单--与ant的兄弟make比起来语法清晰--同样是和make相比功能强大--ant能做的事情很多，可能你用了很久，你仍然不知道它能有
  • android按钮监听器的四种技术 百合不是茶 androidxml配置监听器实现接口
    android开发中经常会用到各种各样的监听器,android监听器的写法与java又有不同的地方;    1,activity中使用内部类实现接口 ,创建内部类实例  使用add方法  与java类似   创建监听器的实例 myLis lis = new myLis();   使用add方法给按钮添加监听器  
  • 软件架构师不等同于资深程序员 bijian1013 程序员架构师架构设计
            本文的作者Armel Nene是ETAPIX Global公司的首席架构师，他居住在伦敦，他参与过的开源项目包括 Apache Lucene,，Apache Nutch， Liferay 和 Pentaho等。         如今很多的公司
  • TeamForge Wiki Syntax & CollabNet User Information Center sunjing TeamForgeHow doAttachementAnchorWiki Syntax
    the CollabNet user information center http://help.collab.net/   How do I create a new Wiki page? A CollabNet TeamForge project can have any number of Wiki pages. All Wiki pages are linked, and
  • 【Redis四】Redis数据类型 bit1129 redis
    概述 Redis是一个高性能的数据结构服务器，称之为数据结构服务器的原因是，它提供了丰富的数据类型以满足不同的应用场景，本文对Redis的数据类型以及对这些类型可能的操作进行总结。 Redis常用的数据类型包括string、set、list、hash以及sorted set.Redis本身是K/V系统，这里的数据类型指的是value的类型，而不是key的类型，key的类型只有一种即string
  • SSH2整合-附源码 白糖_ eclipsespringtomcatHibernateGoogle
    今天用eclipse终于整合出了struts2+hibernate+spring框架。 我创建的是tomcat项目，需要有tomcat插件。导入项目以后，鼠标右键选择属性，然后再找到“tomcat”项，勾选一下“Is a tomcat project”即可。具体方法见源码里的jsp图片，sql也在源码里。     补充1：项目中部分jar包不是最新版的，可能导
  • [转]开源项目代码的学习方法 braveCS 学习方法
    转自： http://blog.sina.com.cn/s/blog_693458530100lk5m.html http://www.cnblogs.com/west-link/archive/2011/06/07/2074466.html   1）阅读features。以此来搞清楚该项目有哪些特性2）思考。想想如果自己来做有这些features的项目该如何构架3）下载并安装d
  • 编程之美-子数组的最大和（二维） bylijinnan 编程之美
    package beautyOfCoding; import java.util.Arrays; import java.util.Random; public class MaxSubArraySum2 { /** * 编程之美 子数组之和的最大值（二维） */ private static final int ROW = 5; private stat
  • 读书笔记-3 chengxuyuancsdn jquery笔记resultMap配置ibatis一对多配置
    1、resultMap配置 2、ibatis一对多配置 3、jquery笔记 1、resultMap配置 当<select resultMap="topic_data"> <resultMap id="topic_data">必须一一对应。 (1)<resultMap class="tblTopic&q
  • [物理与天文]物理学新进展 comsci
          如果我们必须获得某种地球上没有的矿石,才能够进行某些能量输出装置的设计和建造,而要获得这种矿石,又必须首先进行深空探测,而要进行深空探测,又必须获得这种能量输出装置,这个矛盾的循环,会导致地球联盟在与宇宙文明建立关系的时候,陷入困境       怎么办呢?  
  • Oracle 11g新特性:Automatic Diagnostic Repository daizj oracleADR
    Oracle Database 11g的FDI（Fault Diagnosability Infrastructure）是自动化诊断方面的又一增强。 FDI的一个关键组件是自动诊断库（Automatic Diagnostic Repository-ADR）。 在oracle 11g中，alert文件的信息是以xml的文件格式存在的，另外提供了普通文本格式的alert文件。 这两份log文
  • 简单排序:选择排序 dieslrae 选择排序
    public void selectSort(int[] array){ int select; for(int i=0;i<array.length;i++){ select = i; for(int k=i+1;k<array.leng
  • C语言学习六指针的经典程序，互换两个数字 dcj3sjt126com c
    示例程序，swap_1和swap_2都是错误的，推理从1开始推到2，2没完成，推到3就完成了 # include <stdio.h> void swap_1(int, int); void swap_2(int *, int *); void swap_3(int *, int *); int main(void) { int a = 3; int b =
  • php 5.4中php-fpm 的重启、终止操作命令 dcj3sjt126com PHP
    php 5.4中php-fpm 的重启、终止操作命令: 查看php运行目录命令：which php/usr/bin/php 查看php-fpm进程数：ps aux | grep -c php-fpm 查看运行内存/usr/bin/php  -i|grep mem 重启php-fpm/etc/init.d/php-fpm restart 在phpinfo()输出内容可以看到php
  • 线程同步工具类 shuizhaosi888 同步工具类
    同步工具类包括信号量（Semaphore）、栅栏（barrier）、闭锁（CountDownLatch）   闭锁（CountDownLatch） public class RunMain { public long timeTasks(int nThreads, final Runnable task) throws InterruptedException { fin
  • bleeding edge是什么意思 haojinghua DI
    不止一次，看到很多讲技术的文章里面出现过这个词语。今天终于弄懂了——通过朋友给的浏览软件，上了wiki。  我再一次感到，没有辞典能像WiKi一样，给出这样体贴人心、一清二楚的解释了。为了表达我对WiKi的喜爱，只好在此一一中英对照，给大家上次课。   In computer science, bleeding edge is a term that
  • c中实现utf8和gbk的互转 jimmee ciconvutf8&gbk编码
    #include <iconv.h> #include <stdlib.h> #include <stdio.h> #include <unistd.h> #include <fcntl.h> #include <string.h> #include <sys/stat.h> int code_c
  • 大型分布式网站架构设计与实践 lilin530 应用服务器搜索引擎
    1.大型网站软件系统的特点？ a.高并发，大流量。 b.高可用。 c.海量数据。 d.用户分布广泛，网络情况复杂。 e.安全环境恶劣。 f.需求快速变更，发布频繁。 g.渐进式发展。 2.大型网站架构演化发展历程？ a.初始阶段的网站架构。 应用程序，数据库，文件等所有的资源都在一台服务器上。 b.应用服务器和数据服务器分离。 c.使用缓存改善网站性能。 d.使用应用
  • 在代码中获取Android theme中的attr属性值 OliveExcel androidtheme
    Android的Theme是由各种attr组合而成, 每个attr对应了这个属性的一个引用, 这个引用又可以是各种东西.   在某些情况下, 我们需要获取非自定义的主题下某个属性的内容 (比如拿到系统默认的配色colorAccent), 操作方式举例一则: int defaultColor = 0xFF000000; int[] attrsArray = { andorid.r.
  • 基于Zookeeper的分布式共享锁 roadrunners zookeeper分布式共享锁
    首先，说说我们的场景，订单服务是做成集群的，当两个以上结点同时收到一个相同订单的创建指令，这时并发就产生了，系统就会重复创建订单。等等......场景。这时，分布式共享锁就闪亮登场了。   共享锁在同一个进程中是很容易实现的，但在跨进程或者在不同Server之间就不好实现了。Zookeeper就很容易实现。具体的实现原理官网和其它网站也有翻译，这里就不在赘述了。   官
  • 两个容易被忽略的MySQL知识 tomcat_oracle mysql
    1、varchar(5)可以存储多少个汉字，多少个字母数字？ 　　相信有好多人应该跟我一样，对这个已经很熟悉了，根据经验我们能很快的做出决定，比如说用varchar(200)去存储url等等，但是，即使你用了很多次也很熟悉了，也有可能对上面的问题做出错误的回答。 　　这个问题我查了好多资料，有的人说是可以存储5个字符，2.5个汉字（每个汉字占用两个字节的话），有的人说这个要区分版本，5.0
  • zoj 3827 Information Entropy(水题) 阿尔萨斯 format
    题目链接：zoj 3827 Information Entropy 题目大意：三种底，计算和。 解题思路：调用库函数就可以直接算了，不过要注意Pi = 0的时候，不过它题目里居然也讲了。。。limp→0+plogb(p)=0，因为p是logp的高阶。 #include <cstdio> #include <cstring> #include <cmath&
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他