Hadoop那些事儿

Hadoop生态漏洞修复记录

Hadoop常用端口介绍HDFSNameNode50070dfs.namenode.http-addresshttp服务的端口50470dfs.namenode.https-addresshttps服务的端口
不会吐丝的蜘蛛侠。·2024-02-08 08:30

Hadoop2.7配置

core-site.xmlfs.defaultFShdfs://bigdata/ha.zookeeper.quorum192.168.56.70:2181,192.168.56.71:2181,192.168.56.72:2181-->hadoop.tmp.dir
不会吐丝的蜘蛛侠。·2024-02-08 08:59

hive2.3.2配置(带kerberos)

hive-env.shexportHADOOP_HEAPSIZE=2048exportHADOOP_CLIENT_OPTS="-Xmx2g-Xms2g-Djava.net.preferIPv4Stack
不会吐丝的蜘蛛侠。·2024-02-08 08:59

高性能hbase配置

hbase-env.shexportHADOOP_HOME=/export/hadoopexportHADOOP_CONF_DIR=/export/common/hadoop/confexportJAVA_HOME
不会吐丝的蜘蛛侠。·2024-02-08 08:59

HDFS执行balance报错：hdfs balance java.io.IOException: Another Balancer is running.. Exiting

现象：1、大数据Hadoop集群，HDFS扩容后，为了使各节点数据均衡，执行balance操作。2、启动hdfsbalance时，一直出现其他的balance在执行中，其实并没有执行。
不会吐丝的蜘蛛侠。·2024-02-08 08:29

大数据问题：Hadoop的web页面无法访问logs

HTTPERROR403Problemaccessing/logs/.Reason:Useryarnisunauthorizedtoaccessthispage.PoweredbyJetty://分析：1、有的说是权限问题，但是并没有用yarn用户启动Hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

hadoop调优-hdfs配置优化

dfs.permissions.enabledtruedfs.namenode.handler.count90dfs.ha.automatic-failover.enabledtrue其它优化：dfs.hosts/export/hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

spark运行失败The directory item limit of /spark_dir/spark_eventLogs is exceeded: limit=1048576 items=104

报错：org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.hdfs.protocol.FSLimitException$MaxDirectoryItemsExceededException
不会吐丝的蜘蛛侠。·2024-02-08 08:58

grafana+prometheus+hiveserver2(jmx_exporter+metrics)

文件开启metricshive.server2.metrics.enabledtruehive.service.metrics.codahale.reporter.classesorg.apache.hadoop.hive.common.metrics.metrics2
不会吐丝的蜘蛛侠。·2024-02-08 08:24

hadoop学习笔记

下载安装伪分布式：1.国内源下载地址：https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/Indexof/apache/hadoop/commonhttps
草琳情·2024-02-08 08:54

flink on yarn

Per-JobCluster模式flinkrunflinkrunapplication-tyarn-application配置任务退出时保留Checkpoint从外部checkpoint恢复应用资料使用安装完hadoop3.3.4
枪枪枪·2024-02-08 07:46

Mac 安装多版本 protoc / protobuf

)brew安装brewinstallprotobuf#查看安装目录$whichprotoc/opt/homebrew/bin/protoc#2)配置环境变量vim~/.zshrc#protoc(forhadoop
大数据王小皮·2024-02-08 07:26

sqoop导入数据到hdfs

Sqoop是apache旗下的一款”Hadoop和关系数据库之间传输数据”的工具导入数据：将MySQL，Oracle导入数据到Hadoop的HDFS、HIVE、HBASE等数据存储系统导出数据：从Hadoop
鲲鹏猿·2024-02-08 06:40

Hadoop之环境配置

1.安装环境ubuntu2.安装jdk3.安装Hadoop1.在安装ubuntu时需要注意安装ubuntu创建用户，等待时间比较长，大家需要有点耐心。
鲲鹏猿·2024-02-08 06:39

说说相亲的那些事儿

今天就跟大家吐糟一下相亲的那些事儿。爱情本来是天时地利人和的事儿，可他们因为生活压力大，都急着匆匆赶路。相亲如果遇上直男，基本上没有什么话题可聊，基本上就是几句对话：你平时喜欢什么啊？
三心二意的家伙·2024-02-08 06:59

数据采集工具Sqoop、Datax、Flume、Canal

libcpmysql-connector-java-5.1.10.jar/sqoop-install-path/lib重命名文件并配置文件mvsqoop-env-template.shsqoop-env.sh#添加环境变量exportHADOOP_COMMON_HOME
yue-verdure·2024-02-08 06:08

大数据系列—数据迁移(Sqoop,Flume,DataX)对比学习（stage3）

个人大数据技术栈：DataX,Sqoop,Hadoop,Hive,Spark,Flink,Hbase,Kafka,Kettle,Azkaban,Airflow,Tableau…个人在学习领域：Python
道-闇影·2024-02-08 06:07

Zookeeper搭建集群步骤

[hadoop@note1~]$cat/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4.localdomain4
qq_22019789·2024-02-08 06:37

MapReduce的类型与格式

MapReduce的类型Hadoop的MapReduce中，map函数和reduce函数遵循如下格式：map：(k1,v1)--->list(k2,v2)combiner：（k2,list(v2)）--
Vechace·2024-02-08 05:31

Spark安装（Yarn模式）

一、解压链接：https://pan.baidu.com/s/1O8u1SEuLOQv2Yietea_Uxg提取码：mb4htar-zxvf/opt/software/spark-3.0.3-bin-hadoop3.2
莫噶·2024-02-08 04:44

Hadoop搭建（完全分布式）

bigdata-masterbigdata-slave1bigdata-salve2NameNodeNodeManagerNodeManagerSecondaryNameNodeDataNodeDataNodeResourceManagerNodeManagerDataNode目录一、jdk安装：二、hadoop
莫噶·2024-02-08 04:14

现成Hadoop安装和配置，图文手把手交你

为了可以更加快速的可以使用Hadoop，便写了这篇文章，想尝试自己配置一下的可以参考从零开始配置Hadoop，图文手把手教你，定位错误资源1.两台已经配置好的hadoop2.xshell+Vmware链接
叫我小唐就好了·2024-02-08 03:56

Spark Standalone 集群配置

ApacheMesos-一个通用的集群管理器，也可以运行HadoopMapReduce和服务应用程序。（已弃用）HadoopYARN-Hado
董可伦·2024-02-07 23:01

和人不能相亲的那些事儿

（关于头痛）今天下午好端端地头痛起来，就像无形中有人往你脑门钉了一颗钉子进来，越想拔出去越能感到脑皮层撕裂的抗拒。我不喜欢生病，尤其是咳嗽和头痛。因为他妈的一发作，就很难好起来。你要有十足的耐心和它周旋，做什么都要忍受有只手挠你的心。你还不能有半点不开心，否则受苦的只能是你和身边人。而事实上，人很少能看到自己的不开心，但不开心的五官却能使看到它的人不开心。比如医生，这个常年看病的职业者，从充满温情
追一苇渡江·2024-02-07 23:21

人生如梦

别人常说人生如梦那时的我太小不懂是真是假我也难分每天睡觉就爱做梦直到慢慢长大成人才懂人们说的是真都说人生如梦似梦非梦叫人朦都说人生如梦好梦坏梦都由心生整天活的浑浑噩噩不停的在浪费青春每天眼睛一闭一睁生活就像是在做梦人世间的那些事儿谁能够说的准都说人生如梦你说是梦不是梦都说人生如梦谁来帮我解解梦马全得二零一七年九月二十二
恒翊·2024-02-07 23:18

没有女人的男人们：阻碍男女关系的“盲点”

其实男女之间的那些事儿，说了几千年了，还是说不清楚。作为女性，其实很想知道，在男人看来，女人到底是什么样的一种存在？这本书由六篇短篇组成，从男人的视角谈了男人对待女人、对待爱情、对待性的一些问题。
当归姑娘2017·2024-02-07 23:17

凭什么中国原生沙鳅比不过外来的苦力泥鳅？我支持美丽的国产沙鳅

看官请坐好，请哗仔说说宠物鱼那些事儿~本文适合
哗仔说鱼·2024-02-07 22:39

Hadoop系统应用之Zookeeper分布式集群部署

一、Zoopkeeper安装包下载安装【Zookeeper版本型号为3.4.10】1.下载Zookeeper安装包（地址）https://archive.apache.org/dist/zookeeper/zookeeper-3.4.10/2.上传安装包（SecureCRT&FX）通过软件FX将安装包上传到linux系统的/export/software/目录下3.解压Zookeeper安装包执行
-牧心-·2024-02-07 22:31

Hadoop | 集群配置（一）使用Shell脚本解决完全分布式集群节点之间的文件传输问题 | scp命令 | rsync命令

文章目录参考资料一、前言二、rsync远程同步工具三、使用shell编写分发脚本四、总结参考资料视频链接Linuxscp命令一、前言在Hadoop完全分布式集群环境下，里面的各个节点都是通过SSH免密登陆连接的
「已注销」·2024-02-07 21:20

关于考试作弊那些事儿

现在大家都知道考试不能作弊，并且作弊已经列入法律，会判刑。说的倒是挺严肃，但是说真的，又有几个老师和学生去戳穿那些作弊的人呢？我不知道现在小学、初中老师怎么管的，但是我知道高中会考和大学考试作弊的人比比皆是。就会考而言，我几年前经历过，我知道不少学生会考的时候作弊的手段简直五花八门。有的把手机放鞋里，有的拿两个手机（上交一个，手里拿一个），有的把小抄写在小纸片上藏在袖子里、鞋里，更有甚者把小抄写在
十方星·2024-02-07 21:18

公司食堂吃饭的那些事儿

周一一早，帮我们办公室打饭的小吴给我发来信息:“我不打饭了。”“为什么啊？”“不是不打你们的饭，是全部不打了!”他是承包公司的工人，当然一开始他是给他们自己公司的一些管理人员打饭，我们办公室打饭的活是我后来找他帮忙的。“那你们办公室的人都怎么吃饭啊？”我问道。“他们自己解决，我自己也去食堂吃了。”小吴回道。见此回复，我也不好再多说什么了，只能把我与他的聊天截图发到我们自己办公室的微信群里，让大家知
心之所钟·2024-02-07 20:55

公文写作时间10｜策划一本会呼吸的公文写作书

受出版公司邀请，策划另一部公文写作图书，上一部签约的职场公文写作是公文用典方面的图书，那么，这一本就是针对职场公务文书写作上的那些事儿。
四维谦君·2024-02-07 20:43

相亲那些事儿

当你大学一毕业的时候，父母就变得会比以前更加爱你，爱到骨子里，隔三差五问问过得怎么样？工作同事怎么样？最后直接来个晴天霹雳，有没有男朋友或者女朋友。原本感动涕淋的玻璃心直播分崩离析，碎了一地。父母的婆口服心，在我们工作开会的前提下不得不身居二线，暂时撤退，预备下一次的攻城掠地。作为快要奔三，不，作为90后的我更是“战火纷飞”，难以独善其身，逍遥法外。春节本是一片祥和温馨的氛围，作为一年不回几次家的
阳光少年时代·2024-02-07 20:51

【hadoop】集群搭建之部署mysql并远程访问（连接）

的roo账号密码并连接mysql（四）更改默认密码并创建testdb数据库（五）将mysqljdbc驱动引入ider中的java项目里（六）通过jdbc连接（访问）mysql(使用ider)（七）创建hadoop
db_lcz_2014·2024-02-07 18:32

学习大数据需要掌握哪些知识？

而且不论是学习hadoop，还
大数据学习01·2024-02-07 15:16

CentOS7集群配置免密登录

准备工作提前开启三台虚拟机hadoop102、hadoop103,hadoop104,关于三台虚拟机的安装可以参考：https://mp.csdn.net/mp_blog/creation/editor
在下区区俗物·2024-02-07 12:00

CentOS7搭建Hadoop集群

集群环境搭建（3台）-CSDN博客2、配置虚拟机之间免密登录，参考：CentOS7集群配置免密登录-CSDN博客3、虚拟机分别安装jdk，参考：CentOS7集群安装JDK1.8-CSDN博客4、下载Hadoop
在下区区俗物·2024-02-07 12:57

体检那些事儿：5种体检项目，其实没必要做，做基本上是花冤枉钱

现在随着信息时代的发展，还有养生知识的普及，大家的养生意识越来越高，真是一件很好的事，全民健康，国泰民安，中国的伟大复兴指日可待。为了避免身体不知不觉患上疾病甚至的癌症，很多人都会选择体检这个最直接的发现疾病的方法，对于自己的健康很多人花费点金钱都是毫不犹豫的，每次都希望自己能够从头到脚都好好的检查一下。但是到了体检中心就发现，体检真是复杂，五花八门，一条一条地列在纸上，有些自己根本就不懂，但是却
李白爱吃醋·2024-02-07 11:30

请问半吊子 C++选手该如何深入学习 C++?

java是典型的后台语言，能和netty、hadoop、hbase-、elastics
枪哥玩转嵌入式·2024-02-07 11:21

hadoop集群搭建踩坑实录

由于不可控以及不可知的原因我搭建的hadoop集群突然显示虚拟机出现了问题导致某一个DataNode数据丢失并且无法通过Xshell远程访问其他的DataNode主机和虚拟机无法互相ping通网上能找的解决办法基本都找了依然无法解决因此我能想到的是只能删除虚拟机重新克隆一台机器然而还是无法通过远程连接无奈之下我重启电脑发现又可以通过
温文尔雅的流氓·2024-02-07 10:39

Hadoop分布式计算实验踩坑实录及小结

目录Hadoop分布式计算实验踩坑实录及小结踩坑实录Hadoop学习Hadoop简介HDFSSomeconceptsMapReduce主要配置文件集群搭建来源与引用Hadoop分布式计算实验踩坑实录及小结踩坑实录单机
小童同学_·2024-02-07 10:08

2021-08-19

关于我写作的那些事儿……为什么要写作？还要从去年一月的疫情说起。
Li_smile·2024-02-07 09:44

kyuubi 接入starrocks | doris

kyuubi接入starrocks一、环境Hadoop集群组件版本Hadoop3.1.1spark3.Xzookeeper3.XHive3.Xkyuubi版本1.7.1starrocks2.X 已将kyuubi
甜甜的巧克力阿·2024-02-07 09:48

宝宝多大能吃酸奶？怎么选？全攻略来了！

别急，今天，我就和大家聊聊宝宝吃酸奶的那些事儿一.什么时候可以吃？
桑小样·2024-02-07 07:46

阶段复盘 | 日更教会我的那些事儿

今天是左左日更的第180天（转自公众号左左心声）用语写记录心声在平凡中寻找力量昨天在同步发布日更文时，看到一个活动：日更教会我的那些事儿。正好今天是日更第180天，借这个活动进行阶段复盘。
知吾左左·2024-02-07 06:26

win10 spark scala 本地运行wordcount

注意每次修改环境变量都要重启cmd本机运行需要hadoopcommon，可以从github下载zip，解包以后设置HADOOP_HOME环境变量指向它，然后在PATH里加上HADOOP_HOME\bin
疯琴·2024-02-07 06:06

同是ZooKeeper，你和架构师的理解差在哪里？

Dubbo，Kafka,Hadoop等等项目里都能看到它的影子。但是你真的了解ZooKeeper吗？如果面试官让你给他讲讲ZooKeeper是个什么东西，你能回答到什么地步呢？
l鹿狸i·2024-02-07 06:12

Hadoop-IDEA开发平台搭建

1.安装下载Hadoop文件1）hadoop-3.3.5将下载的文件保存到英文路径下，名称一定要短。
Snower_2022·2024-02-07 05:02

【实验1】分布式模式的CentOS 6上安装Hadoop（1个master节点，2个slave节点）

实验环境：二、实验内容与步骤（过程及数据记录）：1.安装VMWareWorkstation162.VMWare10安装CentOS62.1CentOS系统安装2.2CentOS系统安装中的关键问题2.3克隆HadoopSlave3
-借我杀死庸碌的情怀-·2024-02-07 05:31

在多台阿里云服务器上部署Hadoop分布式系统及WordCount实验

一、实现master与slave之间无密码连接分别在master及slave上生成rsa密钥：mkdir~/.sshcd~/.sshssh-keygen-t-rsa一路回车（选择默认设置），此时，ssh文件夹中生成了id_rsa.pub和id_rsa两个，然后使用scp命令将公钥（id_rsa.pub）分别拷到对方机器中scpid_rsa.pubh1@对方机器IP：~/.ssh/authorize
Clearlove灬Star·2024-02-07 05:01
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他