Hadoop学习分享

深入理解Spark的前世今生

Spark，是一种通用的大数据计算框架，正如传统大数据技术Hadoop的MapReduce、Hive引擎，以及Storm流式实时计算引擎等。
闲云野鹤~~~·2024-02-08 14:01

配置集群时间同步

配置集群时间同步:1.时间服务器配置(必须root用户)检查ntp是否安装[root@hadoop102桌面]#rpm-qa|grepntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem
sixleaves·2024-02-08 14:49

SQL在云计算中的新角色：重新定义数据分析

文章目录1.云计算与数据分析的融合2.SQL在云计算中的新角色3.分布式SQL查询引擎4.SQL-on-Hadoop解决方案5.SQL与其他数据分析工具的集成6.实时数据分析与SQL7.SQL在云数据仓库中的角色
程序边界·2024-02-08 13:01

No.2大数据入门 | 环境搭建：jdk1.8安装及环境配置

上一篇文章我们安装了虚拟机以及linux操作系统，接下来就要安装在操作系统上运作的大数据核心hadoop分布式系统基础架构！
滚滚红尘_8133·2024-02-08 11:43

Hadoop多次格式化后如何解决

产生原因我们在配置hadoop中的hdfs时，会设置元数据的存储位置，如图所示要想解决此问题，先停止所有启动的服务stop-all.sh然后删除上图画出来的配置文件，这里三台机器都要删，最后进入hadoop
(((φ(◎ロ◎;)φ)))牵丝戏安·2024-02-08 11:50

美好清晨20211125——育儿育己：记得感谢自己

凝飞早练晨读20211125家庭教育学习分享——感恩节，对自己说一声“谢谢”！时光匆匆，岁月流逝，不知不觉，已至寒冬。
凝飞呀·2024-02-08 10:19

一起学习分享黄帝内经

诸风掉眩，皆属于肝意思：大多数的风病，如肢体震颤抽搐，和头目眩晕头动摇类疾病，多属于肝的问题。这里的风是内风的意思。肝藏血，主筋，开窍于目。人体的筋脉不仅依赖于阳气的温和，还依赖于肝血的濡养。生活中，我们会发现：1有的人一说话头就摇动；2有些经常吸烟的人，他的手就会控制不住的有小抖动；3有的的人，一生气也是不自觉的看到身体不定，左右动；4还有有的眼角经常跳动；5眨眼睛次数多的人，这些大都是和肝有关
2b024a6716e2·2024-02-08 10:41

CentOS 7搭建Hadoop伪分布模式

配置文件：链接：https://pan.baidu.com/s/1rYvnxbyqXOG1DjI63dxbAw提取码：6e1l复制这段内容后打开百度网盘手机App，操作更方便哦1.1修改IP地址在虚拟机的命令行中输入下面的命令，修改网卡的配置文件vi/etc/sysconfig/network-scripts/ifcfg-ens33配置以下信息TYPE=Ethernet#类型为以太网BOOTPRO
clevercondy·2024-02-08 09:52

【学习分享】运营管理（7）——运营管理如何让投资取得更高回报

【学习分享】运营管理（7）——运营管理如何让投资取得更高回报【课程】圈外商学院投资人想要投资一个互联网公司，会看公司的获取用户数、用户活跃度、转化率、复购率等等数据，这些其实都是互联网公司的运营指标。
简乐l·2024-02-08 08:17

2018-07-14

复制/etc/skel目录为/home/tuser1改权限2、编辑/etc/group文件，添加组hadoop。
啊鑫007·2024-02-08 08:56

Hadoop生态漏洞修复记录

Hadoop常用端口介绍HDFSNameNode50070dfs.namenode.http-addresshttp服务的端口50470dfs.namenode.https-addresshttps服务的端口
不会吐丝的蜘蛛侠。·2024-02-08 08:30

Hadoop2.7配置

core-site.xmlfs.defaultFShdfs://bigdata/ha.zookeeper.quorum192.168.56.70:2181,192.168.56.71:2181,192.168.56.72:2181-->hadoop.tmp.dir
不会吐丝的蜘蛛侠。·2024-02-08 08:59

hive2.3.2配置(带kerberos)

hive-env.shexportHADOOP_HEAPSIZE=2048exportHADOOP_CLIENT_OPTS="-Xmx2g-Xms2g-Djava.net.preferIPv4Stack
不会吐丝的蜘蛛侠。·2024-02-08 08:59

高性能hbase配置

hbase-env.shexportHADOOP_HOME=/export/hadoopexportHADOOP_CONF_DIR=/export/common/hadoop/confexportJAVA_HOME
不会吐丝的蜘蛛侠。·2024-02-08 08:59

HDFS执行balance报错：hdfs balance java.io.IOException: Another Balancer is running.. Exiting

现象：1、大数据Hadoop集群，HDFS扩容后，为了使各节点数据均衡，执行balance操作。2、启动hdfsbalance时，一直出现其他的balance在执行中，其实并没有执行。
不会吐丝的蜘蛛侠。·2024-02-08 08:29

大数据问题：Hadoop的web页面无法访问logs

HTTPERROR403Problemaccessing/logs/.Reason:Useryarnisunauthorizedtoaccessthispage.PoweredbyJetty://分析：1、有的说是权限问题，但是并没有用yarn用户启动Hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

hadoop调优-hdfs配置优化

dfs.permissions.enabledtruedfs.namenode.handler.count90dfs.ha.automatic-failover.enabledtrue其它优化：dfs.hosts/export/hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

spark运行失败The directory item limit of /spark_dir/spark_eventLogs is exceeded: limit=1048576 items=104

报错：org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.hdfs.protocol.FSLimitException$MaxDirectoryItemsExceededException
不会吐丝的蜘蛛侠。·2024-02-08 08:58

grafana+prometheus+hiveserver2(jmx_exporter+metrics)

文件开启metricshive.server2.metrics.enabledtruehive.service.metrics.codahale.reporter.classesorg.apache.hadoop.hive.common.metrics.metrics2
不会吐丝的蜘蛛侠。·2024-02-08 08:24

hadoop学习笔记

下载安装伪分布式：1.国内源下载地址：https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/Indexof/apache/hadoop/commonhttps
草琳情·2024-02-08 08:54

flink on yarn

Per-JobCluster模式flinkrunflinkrunapplication-tyarn-application配置任务退出时保留Checkpoint从外部checkpoint恢复应用资料使用安装完hadoop3.3.4
枪枪枪·2024-02-08 07:46

Mac 安装多版本 protoc / protobuf

)brew安装brewinstallprotobuf#查看安装目录$whichprotoc/opt/homebrew/bin/protoc#2)配置环境变量vim~/.zshrc#protoc(forhadoop
大数据王小皮·2024-02-08 07:26

sqoop导入数据到hdfs

Sqoop是apache旗下的一款”Hadoop和关系数据库之间传输数据”的工具导入数据：将MySQL，Oracle导入数据到Hadoop的HDFS、HIVE、HBASE等数据存储系统导出数据：从Hadoop
鲲鹏猿·2024-02-08 06:40

Hadoop之环境配置

1.安装环境ubuntu2.安装jdk3.安装Hadoop1.在安装ubuntu时需要注意安装ubuntu创建用户，等待时间比较长，大家需要有点耐心。
鲲鹏猿·2024-02-08 06:39

数据采集工具Sqoop、Datax、Flume、Canal

libcpmysql-connector-java-5.1.10.jar/sqoop-install-path/lib重命名文件并配置文件mvsqoop-env-template.shsqoop-env.sh#添加环境变量exportHADOOP_COMMON_HOME
yue-verdure·2024-02-08 06:08

大数据系列—数据迁移(Sqoop,Flume,DataX)对比学习（stage3）

个人大数据技术栈：DataX,Sqoop,Hadoop,Hive,Spark,Flink,Hbase,Kafka,Kettle,Azkaban,Airflow,Tableau…个人在学习领域：Python
道-闇影·2024-02-08 06:07

Zookeeper搭建集群步骤

[hadoop@note1~]$cat/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4.localdomain4
qq_22019789·2024-02-08 06:37

MapReduce的类型与格式

MapReduce的类型Hadoop的MapReduce中，map函数和reduce函数遵循如下格式：map：(k1,v1)--->list(k2,v2)combiner：（k2,list(v2)）--
Vechace·2024-02-08 05:31

课程学习分享与感悟

湿气重的时候，呈现的状态就是很懒的状态，就很累。为什么累的时候就是湿气重？累字怎么写？田系，心系在田里。“懒”，心束负，心被负能量束缚住了。怎么祛湿？首先安内，怎么安内？内，代表五脏六腑，这还不是最内的，还只是一个层面。攘外必先安内。内在必须修复起来。整个生命，有形（皮肉脉筋骨）、气、思想（人与动物最大的区别心，怎的？看“忙”字怎么写？心亡。当心不在的时候，叫不自在。当一感觉到不舒服的时候，注意力
贤音·2024-02-08 04:03

Spark安装（Yarn模式）

一、解压链接：https://pan.baidu.com/s/1O8u1SEuLOQv2Yietea_Uxg提取码：mb4htar-zxvf/opt/software/spark-3.0.3-bin-hadoop3.2
莫噶·2024-02-08 04:44

Hadoop搭建（完全分布式）

bigdata-masterbigdata-slave1bigdata-salve2NameNodeNodeManagerNodeManagerSecondaryNameNodeDataNodeDataNodeResourceManagerNodeManagerDataNode目录一、jdk安装：二、hadoop
莫噶·2024-02-08 04:14

现成Hadoop安装和配置，图文手把手交你

为了可以更加快速的可以使用Hadoop，便写了这篇文章，想尝试自己配置一下的可以参考从零开始配置Hadoop，图文手把手教你，定位错误资源1.两台已经配置好的hadoop2.xshell+Vmware链接
叫我小唐就好了·2024-02-08 03:56

小璇读书分享No.6 【6分钟语音分享】《不持有的生活》

大家好，我是热爱学习分享的小璇，今天是我的第5条语音分享，我将用六分钟的时间，为大家带来《不持有的生活》这本书。小璇说书该书只有10万字，书比较薄。这是一本居家整理类的书籍。
小璇Star·2024-02-08 02:13

Spark Standalone 集群配置

ApacheMesos-一个通用的集群管理器，也可以运行HadoopMapReduce和服务应用程序。（已弃用）HadoopYARN-Hado
董可伦·2024-02-07 23:01

Hadoop系统应用之Zookeeper分布式集群部署

一、Zoopkeeper安装包下载安装【Zookeeper版本型号为3.4.10】1.下载Zookeeper安装包（地址）https://archive.apache.org/dist/zookeeper/zookeeper-3.4.10/2.上传安装包（SecureCRT&FX）通过软件FX将安装包上传到linux系统的/export/software/目录下3.解压Zookeeper安装包执行
-牧心-·2024-02-07 22:31

Hadoop | 集群配置（一）使用Shell脚本解决完全分布式集群节点之间的文件传输问题 | scp命令 | rsync命令

文章目录参考资料一、前言二、rsync远程同步工具三、使用shell编写分发脚本四、总结参考资料视频链接Linuxscp命令一、前言在Hadoop完全分布式集群环境下，里面的各个节点都是通过SSH免密登陆连接的
「已注销」·2024-02-07 21:20

《千峰逆战“记录蜕变、见证奇迹”学习分享活动》2020-03-17

#千峰逆战班，SZ201刘峻#在千峰“逆战”学习第37天今天学习了MySQL数据备份，逻辑备份，bin-log日志备份，物理备份，三种备份方法，应对不同的场景。人生路上，存在着许多我们无法掌控的变数。所以，活在当下就好！
Mask_o·2024-02-07 18:44

【hadoop】集群搭建之部署mysql并远程访问（连接）

的roo账号密码并连接mysql（四）更改默认密码并创建testdb数据库（五）将mysqljdbc驱动引入ider中的java项目里（六）通过jdbc连接（访问）mysql(使用ider)（七）创建hadoop
db_lcz_2014·2024-02-07 18:32

【成长营】今日学习分享（高情商沟通）-Day4

文/归尘我一直认为我是个情商不高的人，也或许工作环境的问题，工作环境过于简单，不需要那么多其他的解决问题的方式造就了自己情商指数不高，也有可能天生情商就不高。平时，在我的工作中，我占主导的时间比较多，工作中的指令也要求简单、清晰、有效。可是时间久了，随着年龄的增长，发现这样不行，说话的方式有问题很容易伤害到别人，可能自己没有举得，但是听到的却觉得不是很舒服，所谓“说者无心，听者有意”，慢慢想要改变
青禾吖·2024-02-07 17:52

成就你的写作梦想【学霸好妈妈初级班】刘彩清第8期学习分享第39天第39篇共66篇

站在孩子的角度与孩子交流那天检查孩子的阅读题，他真是“惜字如金”，3分的题他答6个字。我跟他说：你得站到阅卷老师的角度去想想，3分6个字，该给你打几分呢？就和你写作文一样，你需要站到读者的角度去想想，这样写他看得懂吗？觉得有趣吗？……就这样洋洋洒洒训了儿子好一阵。训完后，我突然一个激灵想到，我训儿子是不是该站到儿子角度去想想，用哪种方式与他交流他愿意听，愿意接受，效果好。好多时候家长训孩子，只是家
6e1ff09d1fb9·2024-02-07 16:50

学习大数据需要掌握哪些知识？

而且不论是学习hadoop，还
大数据学习01·2024-02-07 15:16

摘自《建构解决之道 》

王春雨学习分享第200天（2021.08.16星期一）对于当事人未来向往、晤谈目标以及如何靠近目标的一小行动，都是与当事人的对话后，激发当事人的思考，最后尊重当事人的选择与决定所产生的，这种尊重也常常会提高当事人的执行意愿以及自我效能
春雨521·2024-02-07 13:59

CentOS7集群配置免密登录

准备工作提前开启三台虚拟机hadoop102、hadoop103,hadoop104,关于三台虚拟机的安装可以参考：https://mp.csdn.net/mp_blog/creation/editor
在下区区俗物·2024-02-07 12:00

CentOS7搭建Hadoop集群

集群环境搭建（3台）-CSDN博客2、配置虚拟机之间免密登录，参考：CentOS7集群配置免密登录-CSDN博客3、虚拟机分别安装jdk，参考：CentOS7集群安装JDK1.8-CSDN博客4、下载Hadoop
在下区区俗物·2024-02-07 12:57

请问半吊子 C++选手该如何深入学习 C++?

java是典型的后台语言，能和netty、hadoop、hbase-、elastics
枪哥玩转嵌入式·2024-02-07 11:21

385【学习分享】成为事业型教师的修炼

今天回看左鹏校长带来的那一场时长两小时的报告，他分享了自己在教育梦想之路上的收获与感受。从一名普通的中师生到研究生、教育学博士；再从一名自己所谓的乡村教书匠到事业型名师、名校长，言谈中他虽没有讲述自己的种种失败、深深付出，却分明能让人感受到：人生在世，哪里有什么下笔如神，只不过是百炼成钢；哪里有什么人生开挂，只不过是厚积薄发。左校长说到这样一句话：“专注成就专业。”我曾有过这样的感受：专注一件事，
冬日暖阳zlh·2024-02-07 11:56

hadoop集群搭建踩坑实录

由于不可控以及不可知的原因我搭建的hadoop集群突然显示虚拟机出现了问题导致某一个DataNode数据丢失并且无法通过Xshell远程访问其他的DataNode主机和虚拟机无法互相ping通网上能找的解决办法基本都找了依然无法解决因此我能想到的是只能删除虚拟机重新克隆一台机器然而还是无法通过远程连接无奈之下我重启电脑发现又可以通过
温文尔雅的流氓·2024-02-07 10:39

Hadoop分布式计算实验踩坑实录及小结

目录Hadoop分布式计算实验踩坑实录及小结踩坑实录Hadoop学习Hadoop简介HDFSSomeconceptsMapReduce主要配置文件集群搭建来源与引用Hadoop分布式计算实验踩坑实录及小结踩坑实录单机
小童同学_·2024-02-07 10:08

kyuubi 接入starrocks | doris

kyuubi接入starrocks一、环境Hadoop集群组件版本Hadoop3.1.1spark3.Xzookeeper3.XHive3.Xkyuubi版本1.7.1starrocks2.X 已将kyuubi
甜甜的巧克力阿·2024-02-07 09:48

活动与学习安排

5月1号或4号：初步设想：1.以劳动节为主题，半天进行扫除道，半天学习分享。2.孩子诵读经典，父母进行理论学习。（二选一）6月1号：六一活动。以儿童节为主题，排练一些传
优优大哉·2024-02-07 08:33
上一页 5 6 7 8 9 10 11 12 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他