Hadoop学习分享

Hadoop大数据实战系列文章之Hive

hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供完整的sql查询功能，Hive定义了简单的类SQL查询语言，称为HQL，它允许熟悉SQL的用户查询数据可以将
测试帮日记·2024-02-04 05:45

spark运维问题记录

环境：spark-2.1.0-bin-hadoop2.71.Spark启动警告：neitherspark.yarn.jarsnotspark.yarn.archiveisset，fallingbacktouploadinglibrariesunderSPARK_HOME
lishengping_max·2024-02-04 05:11

解决“Spark context stopped while waiting for backend“ issue

在配置为4C16G的虚拟机上安装hadoop生态全家桶，在安装Spark2，使用了社区版2.3的版本。
江畔独步·2024-02-04 05:10

大数据组件部署下载链接

Hadoop2.7下载连接:https://archive.apache.org/dist/hadoop/core/hadoop-2.7.6/Hive2.3.2下载连接：http://archive.apache.org
运维道上奔跑者·2024-02-04 05:13

【大数据开发运维解决方案】Hadoop+Hive+HBase+Kylin 伪分布式安装指南

Hadoop2.7.6+Mysql5.7+Hive2.3.2+Hbase1.4.9+Kylin2.4单机伪分布式安装文档注意：######################################
运维道上奔跑者·2024-02-04 05:43

Hadoop2.7.6+Mysql5.7+Hive2.3.2+zookeeper3.4.6+kafka2.11+Hbase1.4.9+Sqoop1.4.7+Kylin2.4单机伪分布式安装及官方案例测

#################################################################最新消息：关于spark和Hudi的安装部署文档，本人已经写完，连接：Hadoop2.7.6
运维道上奔跑者·2024-02-04 05:43

2021-07-02

Hadoop集群构建配主机名vi/etc/sysconfig/networkNETWORKING=yesHOSTNAME=hadoop012.配置IP映射vi/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4
谢尔比比·2024-02-04 02:40

hadoop、spark、flink集群修改默认ssh端口号

大数据集群在实际搭建过程中，其默认ssh端口不一定都是22，这时需要根据各自的配置文件进行适配。ssh端口号默认为22，以centos7.x为例，可以在/etc/ssh/sshd_config中进行修改，如下示例将22改为22222：#IfyouwanttochangetheportonaSELinuxsystem,youhavetotell#SELinuxaboutthischange.#sem
0X码上链·2024-02-03 21:12

Zookeeper集群安装

简介ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Google的Chubby一个开源的实现，是Hadoop和Hbase的重要组件。
万总有点菜·2024-02-03 21:14

2019-10-08 大数据开发进阶之路

市场需要的水平熟练掌握Linux、SQL与HiveSQL掌握Hadoop生态主流技术，如HDFS/MapRedunce/Yarn/HBase/Flume等掌握Spark生态核心技术，如Spark架构/RDD
红瓦李·2024-02-03 20:39

Hadoop框架下MapReduce中的map个数如何控制

一个job的map阶段并行度由客户端在提交job时决定客户端对map阶段并行度的规划基本逻辑为：一、将待处理的文件进行逻辑切片（根据处理数据文件的大小，划分多个split），然后每一个split分配一个maptask并行处理实例二、具体切片规划是由FileInputFormat实现类的getSplits()方法完成切分规则如下：1.简单地按照文件的内容长度进行切片2.切片大小默认是datanode
piziyang12138·2024-02-03 20:13

胆汁质的孩子教育方法

坚持学习分享第348天，2018年7月27日，星期五。每一种气质类型的孩子都有自己的优缺点。
奇峰_5114·2024-02-03 20:44

2023-09-13

格式要求：题目：【第013篇】意识形态学习正文：【红星四亮】党员学习分享党的二十大报告学习辅导百问（24-34）001一次学习全党同志务必不忘初心、牢记使命，务必谦虚谨慎、艰苦奋斗，务必敢于斗争、善于斗争
童童的长工·2024-02-03 17:00

Hadoop MapReduce 各阶段理解

Hadoop的MapReduce是一个很经典的分布式并行计算框架，一直对各个阶段的具体含义有些模糊。花时间看了下stackoverflow上的理解，记录一下。
phusFuNs·2024-02-03 16:10

2022-02-25

李红武焦点学习分享第60天，约练9次。今早和肖老师、刘老师一起约练，我们学习中级P44页的小步推演。
dcfac43304da·2024-02-03 16:01

阿里云服务器2核16G、4核32G、8核64G配置最新收费标准及活动价格

2核16G、8核64G、4核32G配置的云服务器处理器与内存比为1:8，这种配比的云服务器一般适用于数据分析与挖掘，Hadoop、Spark集群和数据库，缓存等内存密集型场景，因此，多为企业级用户选择，
阿里云最新优惠和活动汇总·2024-02-03 15:07

hadoop2.0之环境搭建详细流程

1、在安装hadoop2.0之前，需要准备好以下软件（如下图1）图1：然后将这两个软件共享到centos上（如下图2红箭头指向和图3红箭头指向所示）在vm这上面有个虚拟机，点击虚拟机后有个硬件和选项，点选项
hhf_Engineer·2024-02-03 14:51

2022-05-12

李红武焦点学习分享第131天，约练37次。今天下午和T老师、z老师一起约练，我当观察员。
dcfac43304da·2024-02-03 14:11

hadoop使用公平调度器

数据量不大，做离线一个晚上就能轻松调度完，那时候使用的hadoop自带的调度器，容量调度器。但默认配置没有改，就会发生什么！root主leaf下面只有default。
向他一样rap·2024-02-03 13:22

2019-08-20

李红梅焦点技术第68期分享NO.31坚持了30天的焦点学习分享，因为昨天一天的忙碌，太累了，没有坚持分享，我被降为零，只能从头开始啦。
5423a75b3f0d·2024-02-03 11:36

2022-06-09

李红武焦点学习分享第158天，约练45次。晨读有感：未知态度的开放式问句的三要素：①提问的好奇方向。②不预设答案。③很尊重当事人的回应。在当事人回答问题之前，咨询师不可能知道自己所问的是什么样的问题。
dcfac43304da·2024-02-03 09:01

【数据开发】pyspark入门与RDD编程

spark与pyspark的关系spark是一种计算引擎，类似于hadoop架构下mapreduce，与mapr
小哈里·2024-02-03 08:58

（四）hive的搭建2

1.元数据服务的方式1.1编辑hive-site.xmlsudovihive-site.xml在文件最后增加以下内容hive.metastore.uristhrift://hadoop-master:90831.2
调试大师·2024-02-03 08:18

（三）hadoop之hive的搭建1

下载访问官方网站https://hive.apache.org/点击downloads点击Downloadareleasenow!点击https://dlcdn.apache.org/hive/选择最新的稳定版复制最新的url在linux执行下载命令wgethttps://dlcdn.apache.org/hive/hive-3.1.3/apache-hive-3.1.3-bin.tar.gz2.
调试大师·2024-02-03 08:48

hadoop 50070 无法访问问题解决汇总

解决办法1：[root@djt002hadoop]#vi/etc/selinux/config改为：SELINUX=disabled解决办法2：查看你的$HADOOP_HOME/etc/hadoop下的
無法複制·2024-02-03 08:13

Hadoop：学习HDFS，看完这篇就够了！

HDFS（HadoopDistributedFileSystem）是ApacheHadoop生态系统中的分布式文件系统，用于存储和处理大规模数据集。
爱写代码的July·2024-02-03 08:09

Hadoop：HDFS学习巩固——基础习题及编程实战

一HDFS选择题1.对HDFS通信协议的理解错误的是？A.客户端与数据节点的交互是通过RPC（RemoteProcedureCall）来实现的B.HDFS通信协议都是构建在IoT协议基础之上的C.名称节点和数据节点之间则使用数据节点协议进行交互D.客户端通过一个可配置的端口向名称节点主动发起TCP连接，并使用客户端协议与名称节点进行交互BHDFS通信协议构建在TCP/IP协议基础之上2.HDFS的
爱写代码的July·2024-02-03 08:09

hadoop 3.x 案例5:Flink SQL运行报错

文章目录一.问题描述二.解决方案参考:一.问题描述启动yarnsession后，运行FlinkSQL，报错。命令:--启动yarn-session/home/flink-1.15.2/bin/yarn-session.sh-d--在yarnsession模式下启动flinksql/home/flink-1.15.2/bin/sql-client.shembedded-syarn-session--
只是甲·2024-02-03 06:31

【泡椒科学】学习分享会

想要发展科学技术，其根基必然是教育。而在小学阶段，能够培养孩子科学素养的便是科学课了。我们的小学科学课涉及到物理、化学、生物等多方面的知识，它起到了一个承上启下的作用，承上是幼儿园的科学领域的课程，启下是为初中的物理、化学、生物等学科打下坚实的基础。虽然科学课在小学阶段专科课，无论是家长还是孩子，都不是特别重视，但从未来的发展趋势看，科学课还是很重要的一门学科。图片发自App学习心得分享。自从泡椒
吉林龙潭陈鑫·2024-02-03 04:10

【学习分享】市场营销（7）——销售的误区一

【学习分享】市场营销（7）——销售的误区一【课程】圈外商学院在这一节课，我们来讨论一个关键的问题：怎样学到真的营销？反过来说，怎样避免走入营销学习的误区。
简乐l·2024-02-03 03:23

一起学习分享黄帝内经

关于：失眠生活中：睡不着，入睡难，容易醒，多梦，西医称其为：失眠。中医称为：不寐。失眠是中医里的一个疾病，就是快，这个不是慢慢形成的。也是多种病中的一个症状。失眠是属于神的范畴，五脏各有神所藏。我们可以回想自己或者身边人或者看电视里常睡不着失眠是因为什么，通过此来找原因：1有思念的人从而睡不着，2心里有事睡不着，3不知道怎么回事睡不着，4普遍认为的睡前喝了茶喝了咖啡不容易睡，5有人说中午睡了，晚上
2b024a6716e2·2024-02-03 02:35

apache hadoop 2.4.0 64bit 在windows8.1下直接安装指南（无需虚拟机和cygwin）

工作需要，要开始搞hadoop了，又是大数据，自己感觉大数据、云，只是ERP、SOAP风潮之后与智能地球一起诞生的概念炒作。不过Apache是个神奇的组织，Java如果没有它也不会现在如火中天。
夜魔009·2024-02-03 00:56

Hadoop生态圈-组件介绍

Hadoop是目前应用最为广泛的分布式大数据处理框架，其具备可靠、高效、可伸缩等特点。Hadoop的核心组件是HDFS、MapReduce。
苏尔伯特·2024-02-03 00:19

测试环境搭建整套大数据系统（一：基础配置，修改hostname，hosts，免密，时间同步）

vim/etc/hostnamexdso-hadoop-test-001vim/etc/hosts192.168.50.60xdso-hadoop-test-001192.168.50.61xdso-ha
宇智波云·2024-02-03 00:15

搭建hadoop单机环境

hadoop笔记sbin:一些启动脚本【服务端的serverbin】logs:存放hadoop相关日志bin:客户端的脚本etc:hadoop相关的配置文件格式化文件系统配置免密码登录ssh-keygen-trsa-P
.Passion·2024-02-02 23:12

Hadoop单机环境搭建

Hadoop单机环境搭建一、jdk环境二、IP地址和主机名映射三、生成公私钥授权四、下载解压Hadoop五、配置Hadoop环境变量六、修改Hadoop配置文件七、关闭防火墙八、初始化九、启动十、Yarn
三暮辰·2024-02-02 23:42

docker搭建单机hadoop

docker搭建单机hadoop前言一、docker是什么？二、hadoop是什么？
阿桔是只猫·2024-02-02 23:41

手把手教Hadoop环境搭建，学不会你咬我～

之前后台小伙伴私信我想了解hadoop的单机环境安装，以方便用于hadoop学习，今天给大家安排上了，废话不多说，直接上干货。
程序IT圈·2024-02-02 23:11

hadoop单机模式搭建

1.新建虚拟机给虚拟机命名，选择存放路径接着指定磁盘大小，因为我们不止搭建单机模式还要搭建伪分布模式，这里我们选择80G这里会看到创建虚拟机完成，我们点击自定义硬件，选择合适的内存，处理器，还有映像文件，这里我们用不到声卡和打印机可以给他移除根据自己电脑配置选择合适的，这里我们选择完之后是这样的然后我们开启虚拟机
H6666W·2024-02-02 23:10

HADOOP_MAPRED_HOME=${full path of your hadoop distribution directory}

场景在Hadoop3.13的YARN上运行MapReduce报错信息终端界面提示FAILED:ExecutionError,returncode2fromorg.apache.hadoop.hive.ql.exec.mr.MapRedTask
小基基o_O·2024-02-02 23:10

单机搭建hadoop环境（包括hdfs、yarn、hive）

单机可以搭建伪分布式hadoop环境，用来测试和开发使用，hadoop包括：hdfs服务器yarn服务器，yarn的前提是hdfs服务器，在前面两个的基础上，课可以搭建hive服务器，不过hive不属于
howard_shooter·2024-02-02 23:39

学习分享001：做自己情绪的主人

情绪没有正负之分，只看三赢和效果。惯有的错误信念认为，我们的情绪是有其他的人事物造成的。其实情绪决定一切事物。我感觉故我在，所有的存在都是我们的感受。情绪不是由外界的人事物所决定而是有我们平时的态度包括信念、价值观、行为准则来决定的，所以我们都能做自己情绪的主人。常常会因为早上心情不好导致一天心情不好，真正做好自己情绪的主人，他会使情绪快速的流走，当下的情绪不能影响到我们下一时刻的情绪。所以不要说
找到记忆的夏·2024-02-02 22:20

2022-10-17

李红武学习分享第203天，约练58次，咨询22次。一、十月8日因疫情通过微信和上善的残疾来访者做了一次关于平常心的咨询。
dcfac43304da·2024-02-02 22:05

Hadopp未授权访问导致RCE

前言：Hadoop是一个开源的分布式计算框架，用于处理大规模数据集的存储和处理。
安鸾彭于晏·2024-02-02 22:27

6月11日第二十八次早课（sqoop）

主要用于在Hadoop与RDBMS间进行数据的传递2.sqoop分为哪两个分支，各最新版本是什么?
ly稻草·2024-02-02 19:55

致良知学习分享

听了孟经理致良知`几个月的学习分享，很受启发，他有开始的排斥心理到能坚持，又到脱离不开，再到联系实际不断提升业绩越来越好。体现致良知的伟大力量，向孟冬经理学习。赞赞赞
汇鑫财税常乐·2024-02-02 19:05

深度学习的开源分布式框架Deeplearning4j

该框架基本上是由Hadoop和Spark集成的分布式深度学习库组成的。在Hadoop和Spark的帮助下，我们可以轻松地分发模型和大数据集，并运行
weixin_43106248·2024-02-02 19:13

Linux配置jdk8错误：/usr/libexec/grepconf.sh: line 5: grep: command not found 导致Linux基础命令无法使用

shell窗口或者重启Linux的时候，又出现了找不到命令的错误，一直在查资料，类似的exportxxx命令都可以临时解决问题，却在根源上解决不了问题1.打开.bash_profile文件[`root@hadoop000
独恋彼岸花·2024-02-02 18:30

2022-03-18

李红武焦点学习分享第80天，约练13次。四、与问题共处的不可避免性。
dcfac43304da·2024-02-02 18:09

Hive和Hbase的各自适用场景

一、区别：Hbase：Hadoopdatabase的简称，也就是基于Hadoop数据库，是一种NoSQL数据库，主要适用于海量明细数据（十亿、百亿）的随机实时查询，如日志明细、交易清单、轨迹行为等。
yoku酱·2024-02-02 17:36
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他