E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop学习分享
【
学习分享
】学会辅导下属(2)——关于辅导力的调查
【
学习分享
】学会辅导下属(2)——关于辅导力的调查【课程】圈外商学院国际知名领导力专业机构发布的调研数据表明:1.在中国管理者们面临的领导力挑战中,排在前三位的是:1)发展管理效能2)激励员工3)辅导下属
简乐l
·
2023-12-27 14:08
天津 张博 学习心得2018.12.9
图片发自App我们每个人进行讲解,分享对厨电的知识和卖点,我们还请教了卖场的智慧家庭体验师,与其进行
学习分享
,了解顾客的需求。同时还提出各类的问题,辛苦体验师帮我们解答我们的不懂和知识盲点!
Samoyed_海尔
·
2023-12-27 13:31
Spark与
Hadoop
的关系和区别
在大数据领域,Spark和
Hadoop
是两个备受欢迎的分布式数据处理框架,它们在处理大规模数据时都具有重要作用。本文将深入探讨Spark与
Hadoop
之间的关系和区别,以帮助大家的功能和用途。
晓之以理的喵~~
·
2023-12-27 12:13
Spark
spark
hadoop
大数据
Hadoop
生产集群各种维护命令
1.HDFS运维1.1HDFS集群操作命令#HDFS集群启停start-dfs.shstop-dfs.sh#获取HDFS集群信息hdfsdfsadmin-report#namenode和datanode启动停止命令hdfs--daemonstopdatanodehdfs--daemonstopnamenodehdfs--daemonstartnamenodehdfs--daemonstartdat
tuoluzhe8521
·
2023-12-27 12:12
hadoop相关
hadoop
大数据
分布式
Hadoop
真的要死了吗?
10月3日,Hortonworks宣布将与其主要竞争对手Cloudera合作创建一家年收入约为7.3亿美元、拥有2,500名客户、市场估值达52亿美元的公司,这令很多人感到意外。SpliceMachine首席执行官MonteZweben表示:“我认为对于我们来说,这是个好消息。我们已经看到了运营由这两家公司和其他公司部署的所有数据湖的巨大机会,而这样的机会在两年前可能连想都不敢想”。Conflue
伯雅之英
·
2023-12-27 11:23
Spark生产集群各种使用
1.环境配置1.1版本说明要求版本是否必须其他事项
Hadoop
3.3.4是
hadoop
3.3.0之后原生支持国内主要对象存储Hive3.1.3否实测没有Hive也可以使用sparksql,使用hive更好的管理
tuoluzhe8521
·
2023-12-27 10:15
hive相关
spark
大数据
分布式
七牛云存储
Hadoop
-3.3.4集群部分lib缺失问题
1.问题描述(base)[
hadoop
@
hadoop
1native]$
hadoop
checknative2023-12-2514:20:21,615INFObzip2.Bzip2Factory:Successfullyloaded
tuoluzhe8521
·
2023-12-27 10:13
hadoop相关
hadoop
大数据
分布式
【
Hadoop
】简单说下Zookeeper选举过程?
选票的时候,当一个服务器收到超过半数服务器以上的选票的时候,该服务器就被选举为Leader。首先需要知道在选举的过程中,服务器投票的时候会交换选票信息,这个选票信息就包括三个值:Epoch:每个Leader任期的代号。也就是一个逻辑时钟值。每投完一次票这个数据就会增加。所以每一轮选举的Epoch都不一样,如果Epoch值不是最大的,说明这次选票信息是过期的,也就不能参加本次选举ZXID:事务ID。
不怕娜
·
2023-12-27 10:40
hadoop
zookeeper
大数据
Zookeeper特性与节点数据类型详解
客户端常见命令2.3可视化工具3.Zookeeper数据结构3.1节点分类3.2监听机制3.3节点特性3.4应用场景1.初识ZookeeperZooKeeper是一个开源的分布式协调框架,是Apache
Hadoop
瑜伽娃娃
·
2023-12-27 07:01
Zookeeper
zookeeper
linux
分布式
删除azkaban的执行历史
azkaban通常用在大数据任务调度场景,把任务提交之后,如果任务是spark,hive,
hadoop
,flink等任务的话,
飞有飞言
·
2023-12-27 07:09
Hadoop
-Hbase集群搭建
archive.cloudera.com/cdh5/cdh/5/hbase-1.2.0-cdh5.7.0.tar.gz2.解压#解压到指定的文件夹tarxzvfhbase-1.2.0-cdh5.7.0.tar.gz-C/usr/loca/
hadoop
GuangHui
·
2023-12-27 07:17
hive学习笔记
一、Hive基本概念1.1hive是什么hive是基于
hadoop
的一个数仓分析工具,hive可以将hdfs上存储的结构化的数据,映射成一张表,然后让用户写HQL(类SQL)来分析数据telupdown138383843813451567138383843953451567138383844012411657713838384413453157571383838434353551567567
不爱吃鱼的馋猫
·
2023-12-27 06:05
hive
大数据
hadoop
hive中metastore服务、hiveserver2服务、hive客户端、beeline客户端连接元数据的方式
1.前言hive是
Hadoop
的客户端,启动hive前必须启动
hadoop
,同时hive的元数据存储在mysql中,是由于hive自带的derby数据库不支持多客户端访问。
不爱吃鱼的馋猫
·
2023-12-27 06:35
hive
《父母方法365》
学习分享
:优秀的儿女是怎样养成的(女儿篇)
曾经在刘一凡老师的沙龙课上,我听到她讲过,关于二胎家庭的孩子,可能有一个普遍的现象:因为老二的出生,牵扯到父母很大的精力,往往容易疏忽了对老大的关注,当老大和老二发生争执的时候,又容易指责老大偏袒老二,他小不懂事,你大了你要让着他等等,还有一些其他各种看似合理的行为,让老大的心理结了个梗,慢慢的出现一些诸如不听话、不交流、学校里的啥事都不和父母讲,问了他也敷衍,或者叛逆或者沉迷游戏等等问题。刘老师
积极人生大学吴腾
·
2023-12-27 05:07
[使用Python操作
Hadoop
,Python-MapReduce
环境环境使用:
hadoop
3.1,Python3.6,ubuntu18.04
Hadoop
是使用Java开发的,推荐使用Java操作HDFS。有时候也需要我们使用Python操作HDFS。
叫我老村长
·
2023-12-27 05:35
git 从一个源导入分支到另一个源
新增一个remote源gitremoteaddgithubhttps://github.com/apache/
hadoop
.git显示现在的remotegitremote-v获取gitfetchgithub
houzhizhen
·
2023-12-27 02:53
git
git
github
《千峰逆战“记录蜕变、见证奇迹”
学习分享
活动》2020-03-20
#千峰逆战班,SZ201刘峻#在千峰“逆战”学习第40天今天讲了mysql的读写分离,mycat基本的使用。所有微不足道的成绩,都曾花费过巨大的努力。
Mask_o
·
2023-12-27 00:21
分布式系统面试连环炮
他们有共同的一个问题,就是都没怎么搞过分布式系统,现在互联网公司,一般都是做分布式的系统,大家都不是做底层的分布式系统、分布式存储系统
hadoop
hdfs、分布式计算系统
hadoop
mapreduce/
Java机械师
·
2023-12-26 23:13
YARN知识点总结
如果把大数据
Hadoop
集群当作一台计算机,那么HDFS=磁盘YARN=任务调度器+资源管理器所有任务都是运行在Yarn上Yarn分为两个大的模块:ResourceManagerNodeManagerResourceManager
飞有飞言
·
2023-12-26 23:16
灵蜂BeeDI ETL
大数据时代的集成利器ETL工具https://blog.csdn.net/little_bee_2004/article/details/80006047在信息时代大数据环境下,基于分布式的开源
Hadoop
weixin_49476464
·
2023-12-26 23:38
学习
hadoop
big
data
数据库
为什么Spark比MapReduce快?
一般而言,DAG相比
Hadoop
的MapReduce在大多数情况下可以减少shuffle次数(怎么体现?)。Spark的DAGScheduler相当于一个改进版的MapReduce,如果计算不涉及与
tracy_668
·
2023-12-26 23:00
Hadoop
大数据实战系列文章之HDFS文件系统
Hadoop
附带了一个名为HDFS(
Hadoop
分布式文件系统)的分布式文件系统,专门存储超大数据文件,为整个
Hadoop
生态圈提供了基础的存储服务。
测试帮日记
·
2023-12-26 21:39
从零开始学大数据框架Hudi,这些学习网站,助你一臂之力!
Hudi的设计使得您可以在
Hadoop
兼容的存储之上存储大量数据,并且它提供了两种原语,除了经典的批处理之外,还可以在数据湖上进行流处理。
知识分享小能手
·
2023-12-26 20:39
学习心得体会
大数据
大数据
学习
10.
hadoop
安装(全分布式安装)
全分布式首先必须有jdk安装,这里不再概述,参考4首先如果有不同就修改注意要改为disabled关闭防火墙iptable首先要免秘钥主节点要分发秘钥51020303540
文茶君
·
2023-12-26 20:43
hive下库里有表数据,删不了库的解决办法
hive下库里有表数据,删不了库的解决办法报错:FAILED:ExecutionError,returncode1fromorg.apache.
hadoop
.hive.ql.exec.DDLTask.InvalidOperationException
北凉-徐凤年
·
2023-12-26 20:07
日常工作遇到的问题
hive
借助 KMS (
Hadoop
Key Management Server) 实现 HDFS 数据加密
原生KMS模型概览适用场景将DataNode上的数据block加密存放,这样即使恶意用户通过某种方式绕过了权限控制,或直接访问了DataNode,获取了其它用户的数据block,也看不到这些block的真实内容。对HDFS的读写性能会有一定的降低,但应该不会太严重(未测试),HDFS优先使用native的libcrypto.so完成加解密(默认算法AES-CTR,支持128位AES加密),新版本的
xudong1991
·
2023-12-26 18:55
美好清晨20201030——育儿育己:永远不要放弃梦想,失去自我。
凝飞早练晨读20201030家庭教育
学习分享
——家有女儿养育时坚持4个原则李玫瑾教授在养育女儿时坚持以下4个原则,最终培养出了乐观自信的女孩,
凝飞呀
·
2023-12-26 18:13
焦点
学习分享
第十三天
摘要:"SFBT的产生,深受后现代主义特别是后现代建构主义的影响。后现代主义反对现代主义的认识论,认为“真理”存在于语言、意义和文化,是人们创造出来的,并不是通过精细的求知技术而发掘出来的一。作为后现代主义思潮主要流派的建构主义强调:“现实”并不是一个存在于人意识之外的世界,而是作为观察者的人的精神产品;个人建构的现实也不完全是个人的产品,而深受其所处的语言系统影响,人们透过语言的过程建构个人的真
亦温柔了寒窗
·
2023-12-26 15:15
学习分享
——关于运营的认识和职业分工
最近由于某些作死的刺激,一不小心报了三节课的P1运营课程。而这个你们看到莫名其妙的东西只是学习后选做的练习产物。哈哈哈~~~~~~~话说,对于运营的理解是入门低,但是做好难,所以相对任何人、任何岗位的都可以转入。但是真正说要做到什么样位置上不好说。运营对于很多人来说无非就是对于拉新、促活,转化。为了这些做了一系列琐碎且无趣的事,投入大量的人力、物力只为让用户更多更长久的留下来,让用户在产品上的时间
__南初
·
2023-12-26 14:10
Grafana二进制部署并配置prometheus数据源
pg=graf&plcmt=deploy-box-1grafana官网下载地址[root@ambari-
hadoop
1~]#cd/opt/module/grafana/[root@ambari-
hadoop
1grafana
万里长江横渡
·
2023-12-26 13:04
grafana
prometheus
2022-04-10
李红武焦点
学习分享
第103天,约练22次。了解孩子的发展状况:一、生理发展:1、儿童阶段:影响儿童身体发展的因素包括先天素质和后天环境。
dcfac43304da
·
2023-12-26 13:51
Hive01_安装部署
Hive的安装上传安装包解压tarzxvfapache-hive-3.1.2-bin.tar.gzmvapache-hive-3.1.2-binhive解决Hive与
Hadoop
之间guava版本差异cd
程序喵猴
·
2023-12-26 12:47
hive
hive
Hadoop
集群部署
目录1模板虚拟机环境准备1.1修改网卡配置文件扩展1.2修改主机名1.3在虚拟机中需要的基础文件包1.4关闭防火墙1.5创建
Hadoop
的账户及文件2模板虚拟机安装JDK3模板虚拟机安装
Hadoop
4克隆虚拟机
程序员储物箱
·
2023-12-26 12:23
安装教程
hadoop
linux
Windows搭建HDFS 2.6.0(附加搭建
Hadoop
)
1.环境操作系统:Windows7JDK版本:1.8.0_221
Hadoop
版本:2.6.02.下载
Hadoop
官网下载image.pngimage.png3.前期准备3.1.配置JAVA环境变量image.pngimage.png4
夹胡碰
·
2023-12-26 11:20
Hadoop
基础操作(学习笔记二)
本笔记按照以下四步进行:1、查看
hadoop
集群的基本信息http://master:50070/HDFS监控服务http://master:8088/cluster/nodes集群的计算资源信息http
Mecury_
·
2023-12-26 10:32
学习笔记
hadoop
大数据
六:Spark集群安装和部署
我的系统配置:(1)安装一个虚拟机:三个ubuntu16.04系统;(2)Master节点:内存分配2g;Slave1节点:内存分配512MB;Slave2节点:内存分配512MB;2.安装路径:(1)
Hadoop
2.6.5
玉成226
·
2023-12-26 10:21
spark
大数据Spark实战高手之路职业学习路线图
从零起步,分阶段无任何障碍逐步掌握大数据统一计算平台Spark,从Spark框架编写和开发语言Scala开始,到Spark企业级开发,再到Spark框架源码解析、Spark与
Hadoop
的融合、商业案例和企业面试
smileyboy2009
·
2023-12-26 10:56
hadoop
spark
spark
hadoop
hadoop
3.0x 后要比spark快10倍!
Apache
hadoop
项目组最新消息,
hadoop
3.x以后将会调整方案架构,将Mapreduce基于内存+io+磁盘,共同处理数据其实最大改变的是hdfs,hdfs通过最近black块计算,根据最近计算原则
smileyboy2009
·
2023-12-26 10:56
hadoop
spark
内存
mapreduce
spark
hdfs
hadoop
Iceberg1.4.2 java 表管理(DDL和DML)操作
既然是一种开放的表管理格式,那就不应该依赖
hadoop
,hive,spark,flink
smileyboy2009
·
2023-12-26 10:26
java
开发语言
《魔力》感恩练习
2.感恩弟弟家舒适的房子和温暖的床,让我睡到自然醒来,能量满满的起来,开启每一天的
学习分享
成长,特别幸福和感恩!谢谢!谢谢!谢谢!
秋乐飞扬
·
2023-12-26 09:55
Hive02_基本使用,常用命令
Hive是基于
Hadoop
的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。
程序喵猴
·
2023-12-26 08:39
hive
hive
pycharm连接虚拟机
要在PyCharm中远程连接到Linux上的Spark和
Hadoop
集群,您可以
俺会hello我的
·
2023-12-26 07:22
pycharm
ide
SpringBoot 2 集成Spark 3
前提条件:运行环境:
Hadoop
3.
在奋斗的大道
·
2023-12-26 06:12
Java架构专栏
深蓝计划
hadoop
spark
大数据
分布式
iceberg1.4.2 +minio通过spark创建表,插入数据
下层支持
hadoop
,s3,对象存储,上层支持hive,spark,flink等应用。实现在中间把两部分隔离开来,实现一种对接和数据管理的标准。有这个标准,不管是谁建的表,都可以操作和访问。
smileyboy2009
·
2023-12-26 06:39
spark
大数据
分布式
感恩日记2021/05/26总1678
尽管宝宝起床很晚,还是坚持带宝宝外出,让宝宝融入到群体中,增强团体意识,学习帮助他人、
学习分享
的快乐。感恩有意识的引领宝宝背诵唐诗,不给孩子任何的压力,寓教于乐,让孩子在玩儿中学,在学中玩的。
喜羊羊_43e1
·
2023-12-26 06:51
HBase基础知识(五):HBase 对接
Hadoop
的 MapReduce
通过HBase的相关JavaAPI,我们可以实现伴随HBase操作的MapReduce过程,比如使用MapReduce将数据从本地文件系统导入到HBase的表中,比如我们从HBase中读取一些原始数据后使用MapReduce做数据分析。1官方HBase-MapReduce1.查看HBase的MapReduce任务的执行./bin/hbasemapredcpSLF4J:Classpathcontai
依晴无旧
·
2023-12-26 06:01
大数据
hbase
mapreduce
数据库
Hadoop
——分布式计算
一、分布式计算概述1.什么是计算、分布式计算?计算:对数据进行处理,使用统计分析等手段得到需要的结果分布式计算:多台服务器协同工作,共同完成一个计算任务2.分布式计算常见的2种工作模式分散->汇总(MapReduce就是这种模式)将数据分片,多台服务器各自负责一部分数据处理然后将各自的结果,进行汇总处理最终得到想要的计算结果中心调度->步骤执行(大数据体系的Spark、Flink等是这种模式)1.
weixin_50458070
·
2023-12-26 06:38
大数据
hadoop
大数据
分布式
HBase深度历险 | 京东物流技术团队
简介HBase的全称是
Hadoop
Database,是一个分布式的,可扩展,面向列簇的数据库,是一个通过大量廉价的机器解决海量数据的高速存储和读取的分布式数据库解决方案。
京东云技术团队
·
2023-12-26 06:57
hbase
数据库
大数据
Linux下配置伪分布式的
Hadoop
伪分布式的意思就是集群只有一台服务器1安装jdk1.8,注意,jdk版本太高会导致
hadoop
无法正常启动和运行2下载
hadoop
3.1.3,并上传至服务器解压3编辑etc/
hadoop
/core-site.xmlfs.defaultFShdfs
qq_34324703
·
2023-12-26 05:49
分布式
linux
hadoop
Linux下安装Flume
1下载FlumeWelcometoApacheFlume—ApacheFlume下载1.9.0版本2上传服务器并解压安装3删除lib目录下的guava-11.0.2.jar(如同服务器安装了
hadoop
qq_34324703
·
2023-12-26 05:49
linux
flume
运维
上一页
42
43
44
45
46
47
48
49
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他