- requests爬小猪租房存入Mongodb--记录
vanranger
python爬虫
#!/usr/bin/envpython#-*-coding:utf-8-*-importrequests,time,pymongofrombs4importBeautifulSoupheaders={"User-Agent":'Mozilla/5.0(X11;U;Linuxx86_64;zh-CN;rv:1.9.2.10)Gecko/20100922Ubuntu/10.10(maverick)F
- requests爬取小猪租房--记录
vanranger
python爬虫python爬虫
#!/usr/bin/envpython#-*-coding:utf-8-*-importrequests,timefrombs4importBeautifulSoupheaders={"User-Agent":'Mozilla/5.0(X11;U;Linuxx86_64;zh-CN;rv:1.9.2.10)Gecko/20100922Ubuntu/10.10(maverick)Firefox/3
- requests爬取图片保存--记录
vanranger
python爬虫
#!/usr/bin/envpython#-*-coding:utf-8-*-importrequests,time,osfrombs4importBeautifulSoupheaders={"User-Agent":'Mozilla/5.0(X11;U;Linuxx86_64;zh-CN;rv:1.9.2.10)Gecko/20100922Ubuntu/10.10(maverick)Firefo
- 学习资料URL
liuwenfeng554
http://sd.csdn.net/a/20100921/279724.html实用HTML,CSS和JavaScript速查表http://news.csdn.net/a/20100929/280057.html如何在面试中发现优秀程序员http://www.javaeye.com/topic/766808PHP中文/英文CHM手册(最新评论整合版V0.9,HonestQiao编译于2010-
- Python爬虫-验证码登入
kyle-fang
Python爬虫python
importrequestsfromlxmlimportetreeheader={'User-Agent':'Mozilla/5.0(X11;U;Linuxx86_64;''zh-CN;rv:1.9.2.10)Gecko/20100922''Ubuntu/10.10(maverick)Firefox/3.6.10'}defmain():#创建一个会话s=requests.Session()#下载验
- 模拟Ajax请求爬取4000部豆瓣电影
Giyn
【Python爬虫实战】
进入准备爬取的网页:编写一个获取页面的函数:defget_html(url,proxies):"""@功能:获取页面@参数:URL链接、代理IP列表@返回:页面内容"""failed=1#请求失败参数headers=[{'User-Agent':"Mozilla/5.0(X11;U;Linuxx86_64;zh-CN;rv:1.9.2.10)Gecko/20100922Ubuntu/10.10(m
- middlewares下载中间件、断点爬取、设置文件参数
咻咻咻滴赵大妞
User-AgentCookiesIPSelenium1.User-Agentsettings.py文件中添加几个UAUSERAGENT=['Mozilla/5.0(X11;U;Linuxx86_64;zh-CN;rv:1.9.2.10)Gecko/20100922Ubuntu/10.10(maverick)Firefox/3.6.10','Mozilla/5.0(X11;Linuxx86_64)
- 看来还是id是最黑客精神的公司
彭博
源代码一顿release:http://www.geeks3d.com/20100921/id-software-releases-return-to-castle-wolfenstein-source-code/?utm_source=feedburner&utm_medium=feed&utm_campaign=Feed:+TheGeeksOf3d+(The+Geeks+Of+3D) 卡神的偶
- mvc 自学中
suntanyong88
http://www.cnblogs.com/chshnan/ mvc常用处理 http://huaiyaohuaiyao.blog.163.com/blog/static/616290420110872941860/ mvc常用处理 http://topic.csdn.net/u/20100922/15/8704bfc7-8ece-498a-bd8d-596c5f7d0296.htm
- 20100922 20100923 20100924
O(1) 的小乐
201009222010092320100924中秋节三天假期:第一天:逛街,买了一双鞋,然后请同学们吃饭。。超累。。第二天:上午,去农大买了一个漂亮的鞋带!!Nice,下午回实验室看书。。第三天:实验室写作业。。上午写完下午写。。终于把计算机视觉与矩阵分析与应用的作业搞定了。。 然后明天上周五的课程。。把夏老师OpenGL整理一下。。 在写计算机视觉作业的时候,搞到一本超赞的介绍LaTex数学公
- 两个最容易被人忽略的基本代码优化技术
chroya
编程算法android工作D语言
本文转载自http://sd.csdn.net/a/20100921/279732.html
Dr. Dobb’s Blogger 的Walter Bright曾写了一篇博文《 Overlooked Essentials For Optimizing Code 》,为我们总结了两个最容易被人忽略的基本代码优化技
- 20100921 学习记录:关于sqlserver2005与ASP中 转换日期格式
sqlserver2005
sqlserver2005使用convert转换日期
server使用convert来取得datetime日期数据,以下实例包含各种日期格式的转换语句及查询结果:Select CONVERT(varchar(100), GETDATE(), 0): 05 16 2006 10:57AMSelect CONVERT(varchar(100), GETDATE(), 1): 05/16/06Se
- 20100921 20100922
O(1) 的小乐
20100921201009221昨天上课。。相当没劲。。下午找Summer签选课单。。也是没劲到底。。要抓紧实现了。 2终于放假了。。昨天晚上在IPV6上下了几个Python的教学视频。呵呵,挺不错的。。慢慢看吧。。 3中秋节放假。。今天下午陪老婆逛街扫货,然后晚上请同学吃饭。。也不错。 4明后天要抓紧时间写作业了。。呵呵,上可以来3个周没写作业了。。又留了一大堆。。复习一下。。恩 没有什么学术
- 20100921
newleague
DAObeanibatisprototypemobile
1、
var oStartDate = document.getElementById("accRecordVO.staDate").value var pat_hd=/^20\d{2}-((0[1-9]{1})|(1[0-2]{1}))-((0[1-9]{1})|([1-2]{1}[0-9]{1})|(3[0-1]{
- linux学习笔记 20100921
medicine
linuxF#
创建用户
useradd ---- 创建用户
passwd ---- 激活用户,创建密码
帮助指令
ls --help
man ls
info ls
基本命令
ls &nbs
- [更新20100922]jQuery Location Select 插件- 地址联动、地理检测
robinqu
jQueryjson脚本GoogleJavaScript
阅读更多最新版本的LocationSelect已经将其与jQuery分离,但做了一个jQuery的适配器,可以和jQuery一起使用。而且现在可以支持任意级别联动⋯⋯介绍用户的地址选择往往是网络应用中不可缺少的一部分,可是遇到了以下问题:地址数据难以收集用户选择烦琐,需要手动查找冗长的下拉菜单难以维护地理数据以及重用组件LocationSelect插件具有以下特点,有效的解决了以上三个问题:基于广
- [更新20100922]jQuery Location Select 插件- 地址联动、地理检测
robinqu
JavaScriptjqueryjsonGoogle脚本
最新版本的LocationSelect已经将其与jQuery分离,但做了一个jQuery的适配器,可以和jQuery一起使用。而且现在可以支持任意级别联动⋯⋯介绍用户的地址选择往往是网络应用中不可缺少的一部分,可是遇到了以下问题:地址数据难以收集用户选择烦琐,需要手动查找冗长的下拉菜单难以维护地理数据以及重用组件LocationSelect插件具有以下特点,有效的解决了以上三个问题:基于广泛使用
- SQL SERVER之前未使用过的函数小记
daxiong921
sqlC++cSQL ServerC#
这里是小记,也是自己总结的API,以后有遇见,可以用自己可以理解的语言理解。
STUFF:
/*
-- 字符串操作的函数 参数(A,B,C,D)
--A:转换之前的字符串
--B:从哪个字符之后开始插,索引从1开始,例如 要在"20100921"的2010后加上个年,那么B
--参数就应该是5
--C:要直接插进去,还是要占用后面的几个字符,例如
- WowDLLChecker (c) Ouditian [rev.20100921] ver 1.0.3.22
doneykoo [Ouditian]
WowDLLChecker(c)Ouditian[rev.20100921]ver1.0.3.22最近不少wower包括我自己都碰到了wow目录下出现危险dll文件而可能遭木马窃取资料的情况,做了个小工具,与大家分享,欢迎交流意见建议。 [::艾泽拉斯国家地理BBS.NGACN.CC::]在对于那些dll文件的最后修改时间与标准版本最后修改时间比较,我不太清楚大家手头的dll文件如何,希望大家能
- mongodb3.03开启认证
21jhf
mongodb
下载了最新mongodb3.03版本,当使用--auth 参数命令行开启mongodb用户认证时遇到很多问题,现总结如下:
(百度上搜到的基本都是老版本的,看到db.addUser的就是,请忽略)
Windows下我做了一个bat文件,用来启动mongodb,命令行如下:
mongod --dbpath db\data --port 27017 --directoryperdb --logp
- 【Spark103】Task not serializable
bit1129
Serializable
Task not serializable是Spark开发过程最令人头疼的问题之一,这里记录下出现这个问题的两个实例,一个是自己遇到的,另一个是stackoverflow上看到。等有时间了再仔细探究出现Task not serialiazable的各种原因以及出现问题后如何快速定位问题的所在,至少目前阶段碰到此类问题,没有什么章法
1.
package spark.exampl
- 你所熟知的 LRU(最近最少使用)
dalan_123
java
关于LRU这个名词在很多地方或听说,或使用,接下来看下lru缓存回收的实现
1、大体的想法
a、查询出最近最晚使用的项
b、给最近的使用的项做标记
通过使用链表就可以完成这两个操作,关于最近最少使用的项只需要返回链表的尾部;标记最近使用的项,只需要将该项移除并放置到头部,那么难点就出现 你如何能够快速在链表定位对应的该项?
这时候多
- Javascript 跨域
周凡杨
JavaScriptjsonp跨域cross-domain
 
- linux下安装apache服务器
g21121
apache
安装apache
下载windows版本apache,下载地址:http://httpd.apache.org/download.cgi
1.windows下安装apache
Windows下安装apache比较简单,注意选择路径和端口即可,这里就不再赘述了。 2.linux下安装apache:
下载之后上传到linux的相关目录,这里指定为/home/apach
- FineReport的JS编辑框和URL地址栏语法简介
老A不折腾
finereportweb报表报表软件语法总结
JS编辑框:
1.FineReport的js。
作为一款BS产品,browser端的JavaScript是必不可少的。
FineReport中的js是已经调用了finereport.js的。
大家知道,预览报表时,报表servlet会将cpt模板转为html,在这个html的head头部中会引入FineReport的js,这个finereport.js中包含了许多内置的fun
- 根据STATUS信息对MySQL进行优化
墙头上一根草
status
mysql 查看当前正在执行的操作,即正在执行的sql语句的方法为:
show processlist 命令
mysql> show global status;可以列出MySQL服务器运行各种状态值,我个人较喜欢的用法是show status like '查询值%';一、慢查询mysql> show variab
- 我的spring学习笔记7-Spring的Bean配置文件给Bean定义别名
aijuans
Spring 3
本文介绍如何给Spring的Bean配置文件的Bean定义别名?
原始的
<bean id="business" class="onlyfun.caterpillar.device.Business">
<property name="writer">
<ref b
- 高性能mysql 之 性能剖析
annan211
性能mysqlmysql 性能剖析剖析
1 定义性能优化
mysql服务器性能,此处定义为 响应时间。
在解释性能优化之前,先来消除一个误解,很多人认为,性能优化就是降低cpu的利用率或者减少对资源的使用。
这是一个陷阱。
资源时用来消耗并用来工作的,所以有时候消耗更多的资源能够加快查询速度,保持cpu忙绿,这是必要的。很多时候发现
编译进了新版本的InnoDB之后,cpu利用率上升的很厉害,这并不
- 主外键和索引唯一性约束
百合不是茶
索引唯一性约束主外键约束联机删除
目标;第一步;创建两张表 用户表和文章表
第二步;发表文章
1,建表;
---用户表 BlogUsers
--userID唯一的
--userName
--pwd
--sex
create
- 线程的调度
bijian1013
java多线程thread线程的调度java多线程
1. Java提供一个线程调度程序来监控程序中启动后进入可运行状态的所有线程。线程调度程序按照线程的优先级决定应调度哪些线程来执行。
2. 多数线程的调度是抢占式的(即我想中断程序运行就中断,不需要和将被中断的程序协商)
a) 
- 查看日志常用命令
bijian1013
linux命令unix
一.日志查找方法,可以用通配符查某台主机上的所有服务器grep "关键字" /wls/applogs/custom-*/error.log
二.查看日志常用命令1.grep '关键字' error.log:在error.log中搜索'关键字'2.grep -C10 '关键字' error.log:显示关键字前后10行记录3.grep '关键字' error.l
- 【持久化框架MyBatis3一】MyBatis版HelloWorld
bit1129
helloworld
MyBatis这个系列的文章,主要参考《Java Persistence with MyBatis 3》。
样例数据
本文以MySQL数据库为例,建立一个STUDENTS表,插入两条数据,然后进行单表的增删改查
CREATE TABLE STUDENTS
(
stud_id int(11) NOT NULL AUTO_INCREMENT,
- 【Hadoop十五】Hadoop Counter
bit1129
hadoop
1. 只有Map任务的Map Reduce Job
File System Counters
FILE: Number of bytes read=3629530
FILE: Number of bytes written=98312
FILE: Number of read operations=0
FILE: Number of lar
- 解决Tomcat数据连接池无法释放
ronin47
tomcat 连接池 优化
近段时间,公司的检测中心报表系统(SMC)的开发人员时不时找到我,说用户老是出现无法登录的情况。前些日子因为手头上 有Jboss集群的测试工作,发现用户不能登录时,都是在Tomcat中将这个项目Reload一下就好了,不过只是治标而已,因为大概几个小时之后又会 再次出现无法登录的情况。
今天上午,开发人员小毛又找到我,要我协助将这个问题根治一下,拖太久用户难保不投诉。
简单分析了一
- java-75-二叉树两结点的最低共同父结点
bylijinnan
java
import java.util.LinkedList;
import java.util.List;
import ljn.help.*;
public class BTreeLowestParentOfTwoNodes {
public static void main(String[] args) {
/*
* node data is stored in
- 行业垂直搜索引擎网页抓取项目
carlwu
LuceneNutchHeritrixSolr
公司有一个搜索引擎项目,希望各路高人有空来帮忙指导,谢谢!
这是详细需求:
(1) 通过提供的网站地址(大概100-200个网站),网页抓取程序能不断抓取网页和其它类型的文件(如Excel、PDF、Word、ppt及zip类型),并且程序能够根据事先提供的规则,过滤掉不相干的下载内容。
(2) 程序能够搜索这些抓取的内容,并能对这些抓取文件按照油田名进行分类,然后放到服务器不同的目录中。
- [通讯与服务]在总带宽资源没有大幅增加之前,不适宜大幅度降低资费
comsci
资源
降低通讯服务资费,就意味着有更多的用户进入,就意味着通讯服务提供商要接待和服务更多的用户,在总体运维成本没有由于技术升级而大幅下降的情况下,这种降低资费的行为将导致每个用户的平均带宽不断下降,而享受到的服务质量也在下降,这对用户和服务商都是不利的。。。。。。。。
&nbs
- Java时区转换及时间格式
Cwind
java
本文介绍Java API 中 Date, Calendar, TimeZone和DateFormat的使用,以及不同时区时间相互转化的方法和原理。
问题描述:
向处于不同时区的服务器发请求时需要考虑时区转换的问题。譬如,服务器位于东八区(北京时间,GMT+8:00),而身处东四区的用户想要查询当天的销售记录。则需把东四区的“今天”这个时间范围转换为服务器所在时区的时间范围。
- readonly,只读,不可用
dashuaifu
jsjspdisablereadOnlyreadOnly
readOnly 和 readonly 不同,在做js开发时一定要注意函数大小写和jsp黄线的警告!!!我就经历过这么一件事:
使用readOnly在某些浏览器或同一浏览器不同版本有的可以实现“只读”功能,有的就不行,而且函数readOnly有黄线警告!!!就这样被折磨了不短时间!!!(期间使用过disable函数,但是发现disable函数之后后台接收不到前台的的数据!!!)
- LABjs、RequireJS、SeaJS 介绍
dcj3sjt126com
jsWeb
LABjs 的核心是 LAB(Loading and Blocking):Loading 指异步并行加载,Blocking 是指同步等待执行。LABjs 通过优雅的语法(script 和 wait)实现了这两大特性,核心价值是性能优化。LABjs 是一个文件加载器。RequireJS 和 SeaJS 则是模块加载器,倡导的是一种模块化开发理念,核心价值是让 JavaScript 的模块化开发变得更
- [应用结构]入口脚本
dcj3sjt126com
PHPyii2
入口脚本
入口脚本是应用启动流程中的第一环,一个应用(不管是网页应用还是控制台应用)只有一个入口脚本。终端用户的请求通过入口脚本实例化应用并将将请求转发到应用。
Web 应用的入口脚本必须放在终端用户能够访问的目录下,通常命名为 index.php,也可以使用 Web 服务器能定位到的其他名称。
控制台应用的入口脚本一般在应用根目录下命名为 yii(后缀为.php),该文
- haoop shell命令
eksliang
hadoophadoop shell
cat
chgrp
chmod
chown
copyFromLocal
copyToLocal
cp
du
dus
expunge
get
getmerge
ls
lsr
mkdir
movefromLocal
mv
put
rm
rmr
setrep
stat
tail
test
text
- MultiStateView不同的状态下显示不同的界面
gundumw100
android
只要将指定的view放在该控件里面,可以该view在不同的状态下显示不同的界面,这对ListView很有用,比如加载界面,空白界面,错误界面。而且这些见面由你指定布局,非常灵活。
PS:ListView虽然可以设置一个EmptyView,但使用起来不方便,不灵活,有点累赘。
<com.kennyc.view.MultiStateView xmlns:android=&qu
- jQuery实现页面内锚点平滑跳转
ini
JavaScripthtmljqueryhtml5css
平时我们做导航滚动到内容都是通过锚点来做,刷的一下就直接跳到内容了,没有一丝的滚动效果,而且 url 链接最后会有“小尾巴”,就像#keleyi,今天我就介绍一款 jquery 做的滚动的特效,既可以设置滚动速度,又可以在 url 链接上没有“小尾巴”。
效果体验:http://keleyi.com/keleyi/phtml/jqtexiao/37.htmHTML文件代码:
&
- kafka offset迁移
kane_xie
kafka
在早前的kafka版本中(0.8.0),offset是被存储在zookeeper中的。
到当前版本(0.8.2)为止,kafka同时支持offset存储在zookeeper和offset manager(broker)中。
从官方的说明来看,未来offset的zookeeper存储将会被弃用。因此现有的基于kafka的项目如果今后计划保持更新的话,可以考虑在合适
- android > 搭建 cordova 环境
mft8899
android
1 , 安装 node.js
http://nodejs.org
node -v 查看版本
2, 安装 npm
可以先从 https://github.com/isaacs/npm/tags 下载 源码 解压到
- java封装的比较器,比较是否全相同,获取不同字段名字
qifeifei
非常实用的java比较器,贴上代码:
import java.util.HashSet;
import java.util.List;
import java.util.Set;
import net.sf.json.JSONArray;
import net.sf.json.JSONObject;
import net.sf.json.JsonConfig;
i
- 记录一些函数用法
.Aky.
位运算PHP数据库函数IP
高手们照旧忽略。
想弄个全天朝IP段数据库,找了个今天最新更新的国内所有运营商IP段,copy到文件,用文件函数,字符串函数把玩下。分割出startIp和endIp这样格式写入.txt文件,直接用phpmyadmin导入.csv文件的形式导入。(生命在于折腾,也许你们觉得我傻X,直接下载人家弄好的导入不就可以,做自己的菜鸟,让别人去说吧)
当然用到了ip2long()函数把字符串转为整型数
- sublime text 3 rust
wudixiaotie
Sublime Text
1.sublime text 3 => install package => Rust
2.cd ~/.config/sublime-text-3/Packages
3.mkdir rust
4.git clone https://github.com/sp0/rust-style
5.cd rust-style
6.cargo build --release
7.ctrl