- python抓包与解包_Python—网络抓包与解包(pcap、dpkt)
weixin_39691055
python抓包与解包
pcap安装[root@localhost~]#pipinstallpypcap抓包与解包#-*-coding:utf-8-*-importpcap,dpktimportre,threading,requests__black_ip=['103.224.249.123','203.66.1.212']#抓包:param1eth_name网卡名,如:eth0,eth3。param2p_type日志捕
- Python+Requests模拟发送GET请求
爱学习的执念
自动化测试软件测试技术分享python开发语言
模拟发送GET请求前置条件:导入requests库一、发送不带参数的get请求代码如下:以百度首页为例importrequests#发送get请求response=requests.get(url="http://www.baidu.com")print(response.content.decode("utf-8"))#以utf-8的编码输出内容二、发送带参数的get请求发送带参数的get请求有
- java selenium 元素点击不了
马达马达达
selenium测试工具
最近做了一个页面爬取,很有意思被机缘巧合下解决了。这个元素很奇怪,用xpath可以定位元素,但是就是click()不了。试过了网上搜的一些办法://尝试一WebElementa_tag=driver.findElement(By.xpath("xxx"));a_tag.click();//点击不了,卡住//尝试二WebDriverWaitwait=newWebDriverWait(driver,1
- python在ui自动化中的一些常见用法
loveyena
http://cn.python-requests.org/zh_CN/latest可以查看requests库的说明,pprint(res.json(),width=30)可以对请求的返回值按照json格式化形式进行打印。常见的content-type有application/x-www-form-urlencoded、application/json、application/xml。自动化测试操
- MineAdmin Swagger结合phpstorm实现快速客户端http调试
明日晴空
工具类PHPphpstormMineAdminSwaggerhttp调试
以下操作,以MineAdmin框架作为演示,其它OpenApi规范文件亦可效果演示:1、打开http.json文件【OpenApi规范】,点击左侧装订线栏按钮2、点击左侧装订线栏按钮后,自动生成generated-requests.http文件,此时即可在phpstorm编辑器中直接调试接口,非常高效方便。一、下载安装MineAdmin1、gitee地址MineAdmin:MineAdmin是基于
- Ambari——编译——解决解决windows和linux下phantomjs链接超时问题
空了虾摸索
Ambariambari-排错ambariwindowslinux
您的支持是我继续创作与分享的动力源泉!!!您的支持是我继续创作与分享的动力源泉!!!您的支持是我继续创作与分享的动力源泉!!!错误日志:[INFO]CopyingextractedfolderC:\Users\LENOVO\AppData\Local\Temp\phantomjs\phantomjs-2.1.1-windows.zip-extract-1786692611821\phantomjs
- 【Selenium】常用断言及Assert常用方法
墨撕酒家
seleniumUI自动化测试selenium测试工具
一、项目中我常用的断言方式:根据页面URL页面的标题页面的提示信息页面关键字以及一些逻辑处理后的元素信息等方式二、断言——Assert(继承于Object)的一些方法AssertEquals(Stringactual,Stringexpected)Assert.assertTrue(Boolean)有时候同一个场景,既可以用AssertEquals也可以用Assert.assertTrue做断言1
- go的fasthttp学习
~kiss~
计算机网络golang学习开发语言
背景介绍fasthttpwasdesignedforsomehighperformanceedgecases.Unlessyourserver/clientneedstohandlethousandsofsmalltomediumrequestspersecondandneedsaconsistentlowmillisecondresponsetimefasthttpmightnotbeforyo
- 【python】使用代理IP爬取猫眼电影专业评分数据
码银
网络python爬虫
前言我们为什么需要使用IP代理服务?在编写爬虫程序的过程中,IP封锁无疑是一个常见且棘手的问题。尽管网络上存在大量的免费IP代理网站,但其质量往往参差不齐,令人堪忧。许多代理IP的延迟过高,严重影响了爬虫的工作效率;更糟糕的是,其中不乏大量已经失效的代理IP,使用这些IP不仅无法绕过封锁,反而可能使爬虫陷入更深的困境。本篇文章中介绍一下如何使用Python的Requests库和BeautifulS
- 【python】自动化工具Selenium与playwright去除webdriver检测
音乐学家方大刚
爬虫Pythonpython自动化selenium
对这个世界如果你有太多的抱怨跌倒了就不敢继续往前走为什么人要这么的脆弱堕落请你打开电视看看多少人为生命在努力勇敢的走下去我们是不是该知足珍惜一切就算没有拥有周杰伦《稻香》#-*-coding:utf-8-*-importtimefromseleniumimportwebdriverfromselenium.webdriver.edge.serviceimportServiceoption=webd
- Selenium教程:一文了解Selenium的元素查找
旦莫
#Selenium教程selenium测试工具python
注:本文内容基于selenium3.141.0Selenium的元素查找指的是使用SeleniumWebDriver库中提供的方法来定位和操作网页上的各种元素,如文本框、按钮、下拉框、链接等。通过元素查找,可以在自动化测试中模拟用户操作,比如输入文本、点击按钮、选择下拉选项等。Selenium提供了多种元素查找的方法,可以根据元素的特征和位置来进行定位。常用的元素查找方法包括:通过ID查找元素通过
- selenium被识别,修改navigator的方法
音乐学家方大刚
爬虫seleniumchrome爬虫
#-*-coding:utf-8-*-importtimefromseleniumimportwebdriverfromselenium.webdriver.chrome.optionsimportOptionschrome_options=Options()#chrome_options.add_argument('--headless')#chrome_options.add_argument
- 十七单元 requests接口测试
ZhaoyiMing
1.介绍:Requests是一个很实用的PythonHTTP客户端库,用来做接口测试*做接口测试前需要pipinstallrequests2.get请求一、无参请求r=requests.get('http://www.baidu.com')二、get传参payload={'key1':'value1','key2':'value2','key3':None}r=requests.get('http
- Selenium WebDriver 中用于查找网页元素的两个方法
铁松溜达py
selenium测试工具
这里提供了SeleniumWebDriver中用于查找元素的两个方法:find_element()和find_elements()。find_element(by='id',value:Optional[str]=None)→selenium.webdriver.remote.webelement.WebElement这个方法用于查找满足指定定位策略(Bystrategy)和定位器(locator
- 谷歌浏览器使用selenium的驱动chromedriver 116~118版本,解决版本不匹配问
美美打不死
seleniumpython
**谷歌浏览器使用selenium的驱动chromedriver116~118版本,解决版本不匹配问题**下载链接:https://googlechromelabs.github.io/chrome-for-testing/#stable
- python从入门到精通(十五):python爬虫完整学习大纲
HACKNOE
python爬虫学习
一、基础知识爬虫的基本概念和工作原理。HTTP协议和网页结构。Python爬虫开发的基础库,如requests、BeautifulSoup等。常见的反爬虫机制和应对方法。二、爬虫逆向的技术代理服务器和IP封锁突破。用户代理和请求头模拟。JavaScript解析和执行。验证码识别和破解。动态网页抓取和爬虫框架。三、数据抓取和处理数据抓取的技巧和策略。数据清洗和预处理。数据存储和数据库操作。数据分析和
- Python爬虫打印状态码为521,返回数据为乱码?
马龙强_
python前端javascript
爬虫代码:importrequestsheaders={'User-Agent':'Mozilla/5.0(WindowsNT10.0;Win64;x64)AppleWebKit/537.36(KHTML,likeGecko)Chrome/107.0.0.0Safari/537.36','Referer':'https://www1.rmfysszc.gov.cn/projects.shtml?d
- Python requests 设置http和socks 代理
iserfj
代理如果需要使用代理,你可以通过为任意请求方法提供proxies参数来配置单个请求:importrequestsproxies={"http":"http://10.10.1.10:3128","https":"http://10.10.1.10:1080",}requests.get("http://example.org",proxies=proxies)你也可以通过环境变量HTTP_PROX
- Python经典基础习题(网络爬虫)
是千可阿
Pythonpython爬虫
1.批量爬取yuan士信息,把每位yuan士的文字介绍保存到该yuan士名字为名的记事本文件中,照片保存到该院士名字为名的jpg文件中。程序代码:fromurllib.requestimporturlopenfromreimportfindallimportrequestsurl='https://www.cae.cn/cae/html/main/col48/column_48_1.html'wi
- 爬取某乎专栏文章html格式,并转到pdf保存
努力学习各种软件
爬虫案例htmlpdf前端
importosimportreimportrequestsimportpdfkitimportparsel'''1.先获取html文章内容获取小赖2.把html文件转成pdf'''filename='html\\'ifnotos.path.exists(filename):os.mkdir(filename)filename2='pdf\\'ifnotos.path.exists(filenam
- API接口技术开发商品详情接口采集宝贝详情页数据、宝贝ID、宝贝标题、价格、掌柜昵称、品牌名称等数据可支持高并发接入演示
APItesterCris
分享API接口数据挖掘数据分析数据挖掘开发语言数据库前端
为了开发一个API接口来采集商品详情页(接入请求API)的数据,如宝贝详情、宝贝ID、宝贝标题、价格、掌柜昵称、品牌名称等,你需要遵循以下步骤:一、需求分析:确定需要采集的数据字段。确认数据来源,例如是某个电商平台的网页。分析平台是否有公开的API接口可以直接利用。二、选择技术栈:后端语言(如Python,Node.js,Java等)网络请求库(如requests,axios等)数据库(如果需要存
- 怎样开始用selenium进行自动化测试?
Spider赵毅
selenium测试工具python
在当今的软件开发过程中,自动化测试已成为确保应用程序质量和效率的关键工具。其中,Selenium作为一个强大的自动化测试工具,已经被广泛应用于Web应用程序的自动化测试。但初学者要如何使用Selenium进行自动化测试?这当中包括Selenium的基础知识、安装配置、编写测试脚本、运行测试以及结果验证等方面的内容,今天我们就来系统为大家解说一下。首先,我们要知道Selenium是什么。Seleni
- scrapy 爬取当当网-图书排行榜-多条件爬取
韩小禹
自学爬虫框架scrapy,爬取当当网-图书排行榜练手目标:爬取当当网-图书畅销榜中的图书数据,要求各种条件的数据都要有。dangdang.pngspider#-*-coding:utf-8-*-importscrapyfromdd_book.itemsimportDdBookItemfromseleniumimportwebdriverfromselenium.common.exceptionsi
- 2023-selenium 实现知乎自动登录(第三方登录/使用cookie自动登录)+指定用户的信息相关搜集(2023.3)
irontys
seleniumpythonchrome
目录零、写在前面一、自动登录:数据采集前,个人账号应通过程序自动登录,若遇到验证码可在程序中手动输入并继续登录二、指定用户基本属性信息采集三、社交关系信息四、动态信息(一)本文在多线程加速方面做了许多尝试:1.所有的信息处理按顺序执行缺点:2.将所有的信息处理统统并行(X)(1)缺点3.提问信息和其他信息搜集两个线程并行五、监控信息变化六、可视化:以Web形式较美观的展示采集到的数据附录(一)使用
- 怎么调用文心一言的api接口生成一个简单的聊天机器人(python代码)
七月初七淮水竹亭~
python人工智能文心一言python人工智能
寒假在学习大模型,但也没弄出多少眉目,电脑性能还有点小问题,大模型总跑不起来,只会简单调用一下现有的大模型的接口,例如:文心一言,下面展示一下代码:importtkinterastkimportrequestsimportjson#此处需填入自己的API_KEY以及SECRET_KEYAPI_KEY="*****"SECRET_KEY="*******"classChatBot:def__init
- 【iPhone16】iPhone16抢购脚本 苹果官网抢购 iPhone16 pro max
腹有诗书气自华777
chromepython
fromseleniumimportwebdriverimporttimedefclick_element(driver,xpath):element=driver.find_element_by_xpath(xpath)driver.execute_script("arguments[0].click();",element)defmain():#设置浏览器驱动路径driver_path="./
- Python自动检测Chrome浏览器版本并下载相应驱动chromedriver.exe
m0_57638202
seleniumpythonchrome爬虫selenium
fromunicodedataimportnameimportwinregimportrequestsimportjsonimportreimportzipfileimportos#zip解压defun_zip(file_name):"""unzipzipfile"""zip_file=zipfile.ZipFile(file_name)ifos.path.isdir(file_name+"把此文
- 【HarmonyOS Arkts笔记】http网络请求封装
PJF0715
HarmonyOS网络笔记http
common.tsexportdefaultclassCommonConstant{/***Thehostaddressoftheserver.*/staticreadonlySERVER:string='请求接口地址';/***Therequestsuccesscode.*/staticreadonlySUCCESS_CODE:number=200;/***Readtimeout.*/stati
- 李沐《动手学深度学习》课程笔记:15 实战:Kaggle房价预测 + 课程竞赛:加州2020年房价预测
非文的NLP修炼笔记
#李沐《动手学深度学习》课程笔记深度学习人工智能
15实战:Kaggle房价预测+课程竞赛:加州2020年房价预测1.访问和读取数据集importhashlibimportosimporttarfileimportzipfileimportrequestsDATA_HUB=dict()DATA_URL='http://d2l_data.s3-accelerate.amazonaws.com/'defdownload(name,cache_dir=
- selenium常见控件实际应用
糖果店的幽灵
seleniumselenium测试工具
selenium常见控件实际应用搜索框按钮复选框链接select下拉框input下拉框表格框架javaScipt弹窗非javaScript弹窗时间控件文件下载搜索框按钮复选框链接select下拉框input下拉框表格框架javaScipt弹窗非javaScript弹窗时间控件文件下载
- 算法 单链的创建与删除
换个号韩国红果果
c算法
先创建结构体
struct student {
int data;
//int tag;//标记这是第几个
struct student *next;
};
// addone 用于将一个数插入已从小到大排好序的链中
struct student *addone(struct student *h,int x){
if(h==NULL) //??????
- 《大型网站系统与Java中间件实践》第2章读后感
白糖_
java中间件
断断续续花了两天时间试读了《大型网站系统与Java中间件实践》的第2章,这章总述了从一个小型单机构建的网站发展到大型网站的演化过程---整个过程会遇到很多困难,但每一个屏障都会有解决方案,最终就是依靠这些个解决方案汇聚到一起组成了一个健壮稳定高效的大型系统。
看完整章内容,
- zeus持久层spring事务单元测试
deng520159
javaDAOspringjdbc
今天把zeus事务单元测试放出来,让大家指出他的毛病,
1.ZeusTransactionTest.java 单元测试
package com.dengliang.zeus.webdemo.test;
import java.util.ArrayList;
import java.util.List;
import org.junit.Test;
import
- Rss 订阅 开发
周凡杨
htmlxml订阅rss规范
RSS是 Really Simple Syndication的缩写(对rss2.0而言,是这三个词的缩写,对rss1.0而言则是RDF Site Summary的缩写,1.0与2.0走的是两个体系)。
RSS
- 分页查询实现
g21121
分页查询
在查询列表时我们常常会用到分页,分页的好处就是减少数据交换,每次查询一定数量减少数据库压力等等。
按实现形式分前台分页和服务器分页:
前台分页就是一次查询出所有记录,在页面中用js进行虚拟分页,这种形式在数据量较小时优势比较明显,一次加载就不必再访问服务器了,但当数据量较大时会对页面造成压力,传输速度也会大幅下降。
服务器分页就是每次请求相同数量记录,按一定规则排序,每次取一定序号直接的数据
- spring jms异步消息处理
510888780
jms
spring JMS对于异步消息处理基本上只需配置下就能进行高效的处理。其核心就是消息侦听器容器,常用的类就是DefaultMessageListenerContainer。该容器可配置侦听器的并发数量,以及配合MessageListenerAdapter使用消息驱动POJO进行消息处理。且消息驱动POJO是放入TaskExecutor中进行处理,进一步提高性能,减少侦听器的阻塞。具体配置如下:
- highCharts柱状图
布衣凌宇
hightCharts柱图
第一步:导入 exporting.js,grid.js,highcharts.js;第二步:写controller
@Controller@RequestMapping(value="${adminPath}/statistick")public class StatistickController { private UserServi
- 我的spring学习笔记2-IoC(反向控制 依赖注入)
aijuans
springmvcSpring 教程spring3 教程Spring 入门
IoC(反向控制 依赖注入)这是Spring提出来了,这也是Spring一大特色。这里我不用多说,我们看Spring教程就可以了解。当然我们不用Spring也可以用IoC,下面我将介绍不用Spring的IoC。
IoC不是框架,她是java的技术,如今大多数轻量级的容器都会用到IoC技术。这里我就用一个例子来说明:
如:程序中有 Mysql.calss 、Oracle.class 、SqlSe
- TLS java简单实现
antlove
javasslkeystoretlssecure
1. SSLServer.java
package ssl;
import java.io.FileInputStream;
import java.io.InputStream;
import java.net.ServerSocket;
import java.net.Socket;
import java.security.KeyStore;
import
- Zip解压压缩文件
百合不是茶
Zip格式解压Zip流的使用文件解压
ZIP文件的解压缩实质上就是从输入流中读取数据。Java.util.zip包提供了类ZipInputStream来读取ZIP文件,下面的代码段创建了一个输入流来读取ZIP格式的文件;
ZipInputStream in = new ZipInputStream(new FileInputStream(zipFileName));
&n
- underscore.js 学习(一)
bijian1013
JavaScriptunderscore
工作中需要用到underscore.js,发现这是一个包括了很多基本功能函数的js库,里面有很多实用的函数。而且它没有扩展 javascript的原生对象。主要涉及对Collection、Object、Array、Function的操作。 学
- java jvm常用命令工具——jstatd命令(Java Statistics Monitoring Daemon)
bijian1013
javajvmjstatd
1.介绍
jstatd是一个基于RMI(Remove Method Invocation)的服务程序,它用于监控基于HotSpot的JVM中资源的创建及销毁,并且提供了一个远程接口允许远程的监控工具连接到本地的JVM执行命令。
jstatd是基于RMI的,所以在运行jstatd的服务
- 【Spring框架三】Spring常用注解之Transactional
bit1129
transactional
Spring可以通过注解@Transactional来为业务逻辑层的方法(调用DAO完成持久化动作)添加事务能力,如下是@Transactional注解的定义:
/*
* Copyright 2002-2010 the original author or authors.
*
* Licensed under the Apache License, Version
- 我(程序员)的前进方向
bitray
程序员
作为一个普通的程序员,我一直游走在java语言中,java也确实让我有了很多的体会.不过随着学习的深入,java语言的新技术产生的越来越多,从最初期的javase,我逐渐开始转变到ssh,ssi,这种主流的码农,.过了几天为了解决新问题,webservice的大旗也被我祭出来了,又过了些日子jms架构的activemq也开始必须学习了.再后来开始了一系列技术学习,osgi,restful.....
- nginx lua开发经验总结
ronin47
使用nginx lua已经两三个月了,项目接开发完毕了,这几天准备上线并且跟高德地图对接。回顾下来lua在项目中占得必中还是比较大的,跟PHP的占比差不多持平了,因此在开发中遇到一些问题备忘一下 1:content_by_lua中代码容量有限制,一般不要写太多代码,正常编写代码一般在100行左右(具体容量没有细心测哈哈,在4kb左右),如果超出了则重启nginx的时候会报 too long pa
- java-66-用递归颠倒一个栈。例如输入栈{1,2,3,4,5},1在栈顶。颠倒之后的栈为{5,4,3,2,1},5处在栈顶
bylijinnan
java
import java.util.Stack;
public class ReverseStackRecursive {
/**
* Q 66.颠倒栈。
* 题目:用递归颠倒一个栈。例如输入栈{1,2,3,4,5},1在栈顶。
* 颠倒之后的栈为{5,4,3,2,1},5处在栈顶。
*1. Pop the top element
*2. Revers
- 正确理解Linux内存占用过高的问题
cfyme
linux
Linux开机后,使用top命令查看,4G物理内存发现已使用的多大3.2G,占用率高达80%以上:
Mem: 3889836k total, 3341868k used, 547968k free, 286044k buffers
Swap: 6127608k total,&nb
- [JWFD开源工作流]当前流程引擎设计的一个急需解决的问题
comsci
工作流
当我们的流程引擎进入IRC阶段的时候,当循环反馈模型出现之后,每次循环都会导致一大堆节点内存数据残留在系统内存中,循环的次数越多,这些残留数据将导致系统内存溢出,并使得引擎崩溃。。。。。。
而解决办法就是利用汇编语言或者其它系统编程语言,在引擎运行时,把这些残留数据清除掉。
- 自定义类的equals函数
dai_lm
equals
仅作笔记使用
public class VectorQueue {
private final Vector<VectorItem> queue;
private class VectorItem {
private final Object item;
private final int quantity;
public VectorI
- Linux下安装R语言
datageek
R语言 linux
命令如下:sudo gedit /etc/apt/sources.list1、deb http://mirrors.ustc.edu.cn/CRAN/bin/linux/ubuntu/ precise/ 2、deb http://dk.archive.ubuntu.com/ubuntu hardy universesudo apt-key adv --keyserver ke
- 如何修改mysql 并发数(连接数)最大值
dcj3sjt126com
mysql
MySQL的连接数最大值跟MySQL没关系,主要看系统和业务逻辑了
方法一:进入MYSQL安装目录 打开MYSQL配置文件 my.ini 或 my.cnf查找 max_connections=100 修改为 max_connections=1000 服务里重起MYSQL即可
方法二:MySQL的最大连接数默认是100客户端登录:mysql -uusername -ppass
- 单一功能原则
dcj3sjt126com
面向对象的程序设计软件设计编程原则
单一功能原则[
编辑]
SOLID 原则
单一功能原则
开闭原则
Liskov代换原则
接口隔离原则
依赖反转原则
查
论
编
在面向对象编程领域中,单一功能原则(Single responsibility principle)规定每个类都应该有
- POJO、VO和JavaBean区别和联系
fanmingxing
VOPOJOjavabean
POJO和JavaBean是我们常见的两个关键字,一般容易混淆,POJO全称是Plain Ordinary Java Object / Plain Old Java Object,中文可以翻译成:普通Java类,具有一部分getter/setter方法的那种类就可以称作POJO,但是JavaBean则比POJO复杂很多,JavaBean是一种组件技术,就好像你做了一个扳子,而这个扳子会在很多地方被
- SpringSecurity3.X--LDAP:AD配置
hanqunfeng
SpringSecurity
前面介绍过基于本地数据库验证的方式,参考http://hanqunfeng.iteye.com/blog/1155226,这里说一下如何修改为使用AD进行身份验证【只对用户名和密码进行验证,权限依旧存储在本地数据库中】。
将配置文件中的如下部分删除:
<!-- 认证管理器,使用自定义的UserDetailsService,并对密码采用md5加密-->
- mac mysql 修改密码
IXHONG
mysql
$ sudo /usr/local/mysql/bin/mysqld_safe –user=root & //启动MySQL(也可以通过偏好设置面板来启动)$ sudo /usr/local/mysql/bin/mysqladmin -uroot password yourpassword //设置MySQL密码(注意,这是第一次MySQL密码为空的时候的设置命令,如果是修改密码,还需在-
- 设计模式--抽象工厂模式
kerryg
设计模式
抽象工厂模式:
工厂模式有一个问题就是,类的创建依赖于工厂类,也就是说,如果想要拓展程序,必须对工厂类进行修改,这违背了闭包原则。我们采用抽象工厂模式,创建多个工厂类,这样一旦需要增加新的功能,直接增加新的工厂类就可以了,不需要修改之前的代码。
总结:这个模式的好处就是,如果想增加一个功能,就需要做一个实现类,
- 评"高中女生军训期跳楼”
nannan408
首先,先抛出我的观点,各位看官少点砖头。那就是,中国的差异化教育必须做起来。
孔圣人有云:有教无类。不同类型的人,都应该有对应的教育方法。目前中国的一体化教育,不知道已经扼杀了多少创造性人才。我们出不了爱迪生,出不了爱因斯坦,很大原因,是我们的培养思路错了,我们是第一要“顺从”。如果不顺从,我们的学校,就会用各种方法,罚站,罚写作业,各种罚。军
- scala如何读取和写入文件内容?
qindongliang1922
javajvmscala
直接看如下代码:
package file
import java.io.RandomAccessFile
import java.nio.charset.Charset
import scala.io.Source
import scala.reflect.io.{File, Path}
/**
* Created by qindongliang on 2015/
- C语言算法之百元买百鸡
qiufeihu
c算法
中国古代数学家张丘建在他的《算经》中提出了一个著名的“百钱买百鸡问题”,鸡翁一,值钱五,鸡母一,值钱三,鸡雏三,值钱一,百钱买百鸡,问翁,母,雏各几何?
代码如下:
#include <stdio.h>
int main()
{
int cock,hen,chick; /*定义变量为基本整型*/
for(coc
- Hadoop集群安全性:Hadoop中Namenode单点故障的解决方案及详细介绍AvatarNode
wyz2009107220
NameNode
正如大家所知,NameNode在Hadoop系统中存在单点故障问题,这个对于标榜高可用性的Hadoop来说一直是个软肋。本文讨论一下为了解决这个问题而存在的几个solution。
1. Secondary NameNode
原理:Secondary NN会定期的从NN中读取editlog,与自己存储的Image进行合并形成新的metadata image
优点:Hadoop较早的版本都自带,