E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop笔记本
Hadoop
--HA架构详解
为了解决上述问题,
Hadoop
给出了高容错,高可用的HA方案:一个HDFS集群至少存在两个nameNode,一个nameNode处在active(主)状态,其他nameNode处在standby(备
娘子,出来看上帝
·
2025-02-01 10:20
Hadoop
Hadoop
大数据
HA
Hadoop
HA 架构
为什么要用集群?企业里面,多台机器伪分布式每一个角色都是一个进程HDFS:NNSNNDNYARN:RMNM大数据所有组件,都是主从架构master-slaveHDFS读写请求都是先到NN节点,但是,HBase读写请求不是经过master,建表和删除表是需要经过masterNN节点挂了,就不能提供对外服务(-put,-get)需要配置两个NN节点(实时的,任何时刻只有一台active对外,另外一台是
weixin_30569033
·
2025-02-01 09:49
shell
大数据
联想r720安装固态_联想拯救者R720-15IKBN
笔记本
加装SSD不识别的案例
故障现象客户送修拯救者R720-15IKBN
笔记本
,称自己购买的SSD不能识别,工程师加装超极盘SSD时不能确定方案;解决方案已经确认主机标配接口为M.2(NGFF2280)规格;测试联想加速度C80,
weixin_39999859
·
2025-02-01 05:41
联想r720安装固态
联想R720升级Win11教程 拯救者R720升级Win11方法
拯救者r720是联想拯救者系列在2017年推出的
笔记本
型号,虽然已经过去5年了,但是配置却还可以畅玩很多游戏,不少联想R720的用户也想要升级到Win11系统,那么到底能不能升级呢?
m0_70960708
·
2025-02-01 05:38
笔记
电脑
python入门教程jupyter_Jupyter Notebooks的安装和使用介绍
1.JupyterNotebooks简介国际惯例还是来一段官方的介绍:Notebooks其实就像是你的python
笔记本
一样,不仅可以运行书写的python代码,同时还支持markdown格式
weixin_39953618
·
2025-02-01 04:34
【
hadoop
学习之路】Hive HQL 语句实现查询
目录表数据表1students_data.txt表2course.txt实验步骤结论表数据表1students_data.txt21434,Sara,F,21,20,73,classC41443,Mary,M,19,30,90,classA43333,Dery,F,20,40,85,classB45454,Mary,F,22,10,91,classA14634,Henry,M,18,50,56,c
新世纪debug战士
·
2025-02-01 03:58
hadoop学习之路
hive
【Python百日基础系列】Day25 - 真机安装Ubuntu20.04服务器版 + Mysql8
文章目录一、Ubuntu服务器版下载二、制作启动U盘,RAW写入三、
笔记本
真机安装Ubuntu20.04服务器版3.1设置
笔记本
U盘启动,插入启动U盘3.2检查安装文件完整性,需要一两分钟3.3选择语言
岳涛@泰山医院
·
2025-02-01 03:52
Dash
python
ubuntu
HDFS总结
基于前面的学习与配置,相信对于HDFS有了一定的了解HDFS概述1.什么是HDFS
Hadoop
DistributedFileSystem:分步式文件系统HDFS是
Hadoop
体系中数据存储管理的基础HDFS
ChenJieYaYa
·
2025-01-31 20:03
Hadoop
hdfs
hadoop
big
data
Ceph:关于Ceph 中使用 RADOS 块设备提供块存储的一些笔记整理(12)
所有其它的路都是不完整的,是人的逃避方式,是对大众理想的懦弱回归,是随波逐流,是对内心的恐惧——赫尔曼·黑塞《德米安》使用RADOS块设备提供块存储管理RADOS块设备基于RBD的块存储块设备是服务器、
笔记本
电脑
山河已无恙
·
2025-01-31 17:04
零基础入门Ceph
ceph
笔记
11 Spark面试真题
2.
hadoop
和spark使用场景?3.spark如何保证宕机迅速恢复?4.
hadoop
和spark的相同点和不同点?5.RDD持久化原理?6.checkpoint检查点机制?
TTXS123456789ABC
·
2025-01-31 16:26
#
Spark
spark
面试
大数据
【详细讲解】hive优化
1、开启本地模式大多数的
Hadoop
Job是需要
Hadoop
提供的完整的可扩展性来处理大数据集的。不过,有时Hive的输入数据量是非常小的。
songqq27
·
2025-01-31 06:56
大数据
hive
大数据毕业设计
hadoop
+spark+hive豆瓣图书数据分析可视化大屏 豆瓣图书爬虫 图书推荐系统
系统总体目标基于Spark的个性化书籍推荐系统是一种基于大数据技术的智能推荐系统,它可以根据用户的历史行为和偏好,为用户提供个性化的书籍推荐。该系统采用Spark技术,可以实现大数据的实时处理,从而提高推荐系统的准确性和可靠性。此外,该系统还可以根据用户的习惯和偏好,提供更加个性化的书籍推荐,从而满足用户的需求。系统的使用者包含普通用户和管理员两类,普通用户是系统的主要服务对象,主流人群是经常查看
qq_79856539
·
2025-01-30 20:03
javaweb
java
大数据
hadoop
课程设计
联想拯救者Y7000p+Nvidia rtx2060 显卡驱动安装
0.前言:618搞活动,打算入手一台
笔记本
,听说拯救者还不错,但是驱动好多朋友都装不上,所以把自己的经验分享一下,或许对你有一点点的帮助。
MartianCoder
·
2025-01-30 20:02
rtx2060
y7000p
联想拯救者
nvidia驱动
ubuntu16.04
Mac系统中安装多版本的NodeJS
近期升级了NodeJS,有些旧项目无法跑起来了,所以想在电脑中安装不同项目时使用不同版本的NodeJS版本,由于现在使用的Mac
笔记本
电脑,在这里记录下Mac中安装多版本的NodeJS。
随风飘bill
·
2025-01-30 17:33
macos
node.js
联想开机按f2怎么修复系统图解_联想
笔记本
开机f2修复电脑步骤 - 卡饭网
Win7系统联想
笔记本
开机提示pxe-mof:exitingpxerom的原因及解决方法Win7系统联想
笔记本
开机提示pxe-mof:exitingpxerom的原因及解决方法Win7旗舰版系统的联想
笔记本
电脑每次开会都要显示
非典型工科生
·
2025-01-30 12:51
联想开机按f2怎么修复系统图解
电脑键盘按键都代表着什么意思?
注意,仅限台式机或者
笔记本
的外接键盘。(部分
笔记本
自带键盘F1~F12被赋予了其他功能,不再此文讨论之列)。F1:帮助键。当碰到一个程序或一个
szkfp
·
2025-01-30 11:50
python 分布式集群_Python搭建Spark分布式集群环境
Spark最大的特点就是快,可比
Hadoop
MapReduce的处理速度快100倍。本文没有使用一台电脑上构建多个虚拟机的方法来模拟集群,而是使用三台电脑来搭建一个小型分布式集群环境安装。
小国阁下
·
2025-01-30 05:32
python
分布式集群
我的笔记管理体系(Typora+PicGo+坚果云+阿里云oss)
我的笔记管理体系(Typora+PicGo+坚果云+阿里云oss)前言现在是2024年7月28号,我快要上大二了,在上大学之前,我和几乎所有的高中生一样,有着各种各样的
笔记本
,三年下来也积累了不少的笔记
黄暄
·
2025-01-30 04:52
笔记
阿里云
云计算
编辑器
Hadoop
错误: put: Lease mismatch on ... by DFSClient_NONMAPREDUCE_-499992815_1.... 学习总结
错误总结分享:使用了
hadoop
挺长时间了,多数人应该很熟悉它的特点了吧,但是今天突然遇到个错误,从来没见过,一时自己也想不到是什么原因,就在网上查了一些资料,得到了解决的办法,再次分享一下。
星月情缘02
·
2025-01-30 03:45
ETL技术
Hadoop
hdfs租约
hadoop错误
交互式HTML组件库:ipywidgets入门及实践指南
HTML组件库:ipywidgets入门及实践指南项目地址:https://gitcode.com/gh_mirrors/ip/ipywidgets1.项目介绍ipywidgets是一个用于Jupyter
笔记本
和
劳治亮
·
2025-01-30 02:10
Hadoop
3.3.4伪分布式环境搭建
文章目录前言一、准备1.下载
Hadoop
2.配置环境变量3.配置免密二、
Hadoop
配置1.
hadoop
-env.sh2.hdfs-site.xml3.core-site.xml4.mapred-site.xml5
凡许真
·
2025-01-29 21:28
分布式
hadoop
伪分布式
hadoop3.3.4
Hadoop
HA 格式化NameNode 顺序
文章目录前言一、启动JournalNode二、格式化NameNode1.执行格式化命令2.启动namenode3.执行格式化命令4.启动namenode其他前言记录搭建
Hadoop
HA架构时格式化namenode
凡许真
·
2025-01-29 21:58
hadoop
大数据
分布式
HA
电脑
笔记本
如何去选
电脑
笔记本
选配笔记产品的品牌和型号以及系列电脑的证件照电脑的简要配置一丶CPUi是酷睿英特尔R是锐龙CPU后缀英特尔的后缀锐龙的后缀核心线程数二丶显卡独立显卡显存四丶屏幕色域RGB红绿蓝尺寸屏幕对角线的长度分辨率刷新率屏幕的亮度色准产品的品牌和型号以及系列如联想小新
简知圈
·
2025-01-29 20:55
学习
计算机网络概述
网络中的计算设备可以包括台式机、
笔记本
电脑、服务器、手机、打印机、智能设备等。网络的广义定义首先要理解“网络”的广义含义。
大邳草民
·
2025-01-29 16:13
#
计算机网络与互联网
计算机网络
笔记
Hive存储系统全面测试报告
ApacheHive作为一个基于
Hadoop
的数据仓库工具,因其能够提供类SQL查询功能(HiveQL)而广受欢迎。
蚂蚁质量
·
2025-01-29 13:27
软件测试
测试用例
功能测试
i7 12800hx和i9 11980hk差距
笔记本
cpu选i911980hk还是i712800hx这些点很重要http://www.
m0_52331396
·
2025-01-29 04:50
cpu
cpu
window10下编译
hadoop
报错:Failed to execute goal org.apache.maven.plugins:maven-antrun-plugin:1.7:
Windows10下build
hadoop
2.7.3报错:Failedtoexecutegoalorg.apache.maven.plugins:maven-antrun-plugin:1.7:[ERROR
huangxgc
·
2025-01-28 22:30
hadoop
hadoop
windows
图文详解 MapReduce on YARN
本专栏目录结构和参考文献请见1000个问题搞定大数据技术体系正文权威版本——《
Hadoop
权威指南第3版》1.作业提交MRrunJob从RM获取新的作业ID作业客户端检査作业的输出说明,计算输入分片并将作业资源
Shockang
·
2025-01-28 13:20
大数据技术体系
大数据
mapreduce
yarn
深入MapReduce——从MRv1到Yarn
在
Hadoop
1.0实现里,每一个MapReduce的任务并没有一个独立的master进程,而是直接让调度系统承担了所有的worker的master的角色,这就是
Hadoop
1.0里的JobTracker
黄雪超
·
2025-01-28 12:49
大数据基础
#
深入MapReduce
mapreduce
大数据
hadoop
Hadoop
学习笔记 --- YARN执行流程与工作原理
一、YARN简述首先介绍一下YARN在
Hadoop
2.0版本引进的资源管理系统,直接从MapReduceV1演化而来(由于引擎的功能缺陷);原因是将MapReduce1中的JobTracker的资源管理和作业调度两个功能分开
杨鑫newlfe
·
2025-01-28 07:42
数据仓库
大数据挖掘与大数据应用案例
YARN
Hadoop
大数据
资源调度
数据仓库
【深入浅出 Yarn 架构与实现】1-1 设计理念与基本架构
一、Yarn产生的背景
Hadoop
2之前是由HDFS和MR组成的,HDFS负责存储,MR负责计算。一)MRv1的问题耦合度高:MR中的jobTracker同时负责资源管理和作业控制两个功能,互相制约。
大数据王小皮
·
2025-01-28 07:12
深入浅出Yarn架构与实现
架构
hadoop
大数据
yarn
java
【YARN】yarn 基础知识整理——
hadoop
1.0与
hadoop
2.0区别、yarn总结
文章目录1.
hadoop
1.0和
hadoop
2.0区别1.1
hadoop
1.01.1.1HDFS1.1.2Mapreduce1.2
hadoop
2.01.2.1HDFS1.2.2Yarn/MapReduce22
时间的美景
·
2025-01-28 07:39
Hadoop
Yarn
hadoop
hadoop1
hadoop2
大数据
搭建
Hadoop
与Hive环境
当搭建
Hadoop
与Hive环境时,以下是每个步骤的详细操作说明:1.安装并配置CentOS7操作系统:-下载CentOS7ISO镜像文件,并通过虚拟机或物理机安装CentOS7操作系统。
达达玲玲
·
2025-01-28 05:28
hadoop
hive
大数据
大数据技术之MapReduce
一、MapReduce概述1、MapReduce简介MapReduce是一个分布式运算程序的编程框架,是基于
Hadoop
的数据分析计算的核心框架。
wespten
·
2025-01-27 20:21
Hadoop
Hive
Spark
大数据安全
大数据
mapreduce
hadoop
anaconda中pyspark_自学大数据——9 Anaconda安装与使用pyspark
一、解压安装包sudobashAnaconda3-2020.07-Linux-x86_64.shchown-R
hadoop
:
hadoop
/opt/anaconda/vi/etc/profileexportANACONDA_HOME
步六孤陆
·
2025-01-27 17:59
PySpark数据处理过程简析
作者:禅与计算机程序设计艺术1.简介PySpark是ApacheSpark的PythonAPI,可以用Python进行分布式数据处理,它在内存中利用了Apache
Hadoop
YARN资源调度框架对数据进行并行处理
AI天才研究院
·
2025-01-27 17:28
Python实战
自然语言处理
人工智能
语言模型
编程实践
开发语言
架构设计
kafka开启kerberos
例如:注意有几台机器创建几个kadmin.local-q"addprinc-randkeyzookeeper/dshieldcdh01@
HADOOP
139.COM"kadmin.local-q"addprinc-rand
蘑菇丁
·
2025-01-27 16:55
debian
运维
ranger-kms安装
解压安装包[
hadoop
~]$cd/opt/ranger[
hadoop
@ranger]$tar-xzvfranger-2.1.0-kms.tar.gz[
hadoop
@xranger]$mvranger-
蘑菇丁
·
2025-01-27 16:55
eclipse
java
ide
ansible批量生产kerberos票据,并批量分发到所有其他主机脚本
-name:ConfigureKerberosfor
Hadoop
Usershosts:
hadoop
_serversbecome:nogather_facts:novars:kerberos_server
蘑菇丁
·
2025-01-27 16:50
ansible
hadoop
学习笔记
eclipse
java
ide
网络爬虫相关软件以及论文检索与推荐网站调研
Nutch的创始人是DougCutting,他同时也是Lucene、
Hadoop
和Avro开源项
Q7318
·
2025-01-27 14:04
网络爬虫
网络爬虫
搜索引擎
修改hdfs路径权限
三、解决shell执行以下命令,${hdfs_path}替换成目标表的文件路径/usr/local/service/
hadoop
/bin/hdfsdfs-chmod
chimchim66
·
2025-01-27 11:52
hdfs
hadoop
大数据
HDFS升级和回退
概述作为一个大型的分布式系统,
Hadoop
内部实现了一套升级机制,当在一个集群上升级
Hadoop
时,像其他的软件升级一样,可能会有新的bug或一些会影响现有应用的非兼容性变更出现;在任何有实际意义的HDFS
小森饭
·
2025-01-27 08:05
hdfs
hadoop
大数据
电脑CPU带字母和带数字的解释
H:高性能移动处理器,通常用于
笔记本
电脑。HK:高性能且支持超频的移动处理器。HQ:高性能四核移动处理器(旧款)。U:超低功耗处理器,适合轻薄本。Y:极低功耗
光影少年
·
2025-01-27 06:50
电脑
大数据平台建设整体架构设计方案
《大数据平台建设整体架构设计方案》关键词:大数据平台、分布式存储、分布式计算、数据仓库、数据湖、数据安全、数据质量管理、数据治理、数据挖掘、机器学习、图计算、自然语言处理、
Hadoop
、Spark、Flink
AI天才研究院
·
2025-01-27 02:55
ChatGPT
AI大模型企业级应用开发实战
大数据AI人工智能
大厂Offer收割机
面试题
简历
程序员读书
硅基计算
碳基计算
认知计算
生物计算
深度学习
神经网络
大数据
AIGC
AGI
LLM
Java
Python
架构设计
Agent
程序员实现财富自由
python操作HBase
并指定端口9090hbase-daemon.shstartthrift-p90903.操作HBaseimporthappybaseconnection=happybase.Connection(host='
hadoop
10
王壮_
·
2025-01-26 19:01
大数据
Python
hbase
数据库
大数据
HBase伪分布式安装配置流程
1.准备工作确保已经安装并配置好了
Hadoop
(伪分布式),因为HBase依赖HDFS。
Hadoop
已经配置并能够正常运行。Java已经安装并配置好了环境变量。
TheMountainGhost
·
2025-01-26 19:27
hbase
数据库
大数据
Scala简介
hadoop
生态圈—>javaspark生态圈—>scala1.scala是面向对象的、面向函数的基于静态类型的编程语言。
醉游江湖
·
2025-01-26 18:21
scala
【spark床头书系列】如何在YARN上启动Spark官网权威详解说明
属性重要说明KerberosYARN特定的Kerberos配置Kerberos故障排除配置外部Shuffle服务使用ApacheOozie启动应用程序使用Spark历史服务器替代SparkWebUI官网链接确保
HADOOP
_CONF_DIR
BigDataMLApplication
·
2025-01-26 18:20
spark
spark
大数据
分布式
xgboost在spark集群使用指南
相同的代码在主要的分布式环境(
Hadoop
、SGE、MPI)上运行,可以解决数十亿个示例的训练问题。xgb相对于gbt所做的改进:1.2.3.XGBoost可以使用R、python、java
一颗小草333
·
2025-01-26 17:49
算法
mapreduce
spark
数据挖掘
解决Python中libhdfs.so的共享库找不到的问题
这个错误通常发生在使用Python访问
Hadoop
分布式文件系统(
Hadoop
DistributedFileSystem,简称HDFS)时,由于缺少libhdfs.so共享库文件而
code_welike
·
2025-01-26 16:34
python
开发语言
Python
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他