E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop学习积累
超详解
Hadoop
集群环境配置,步步附有截图,一篇讲解清楚
写在最前,在配置
Hadoop
之前,要确定已经准备好了
Hadoop
的准备环境,并且已经在机器上安装完了
Hadoop
,以及编写了一些必要的集群脚本,具体操作详情见这两篇文章
Hadoop
安装及集群脚本编写
Hadoop
牧码文
·
2023-11-04 11:27
hadoop
hadoop
big
data
【大数据】
Hadoop
(一) 入门
课程链接:尚硅谷大数据
Hadoop
3.x(入门搭建+安装调优)_哔哩哔哩_bilibili(
Hadoop
到底是干什么用的?
一个平凡de人
·
2023-11-04 11:27
大数据
hadoop
大数据
linux
java
hadoop
集群搭建之运行环境准备以及群启HDFS,YARN集群
hadoop
入门-运行环境的搭建前期准备工作:制作了一模拟机
hadoop
101,然后在
hadoop
101的基础上,进行克隆,制作了一台
hadoop
102的服务器,配置好了jdk1.8以及
hadoop
3的环境变量
倔强的耗子
·
2023-11-04 11:26
hadoop
big
data
hdfs
yarn
吐血整理的
Hadoop
最全开发指南【完全分布式集群部署篇】(开发重点)
个人主页:个人主页推荐专栏:大数据开发成神之路作者简介:一个在读研中创业、工作中学习,能搞全栈、也搞算法、目前在搞大数据的大厂打工人。⭐️关注我,持续分享干货!用实打实的经验来帮你少走弯路⭐️文章目录一、完全分布式运行模式搭建1.1虚拟机集群准备1.2编写集群分发脚本xsync1.3SSH无密登录配置1.4集群配置1.5群起集群1.6配置历史服务器1.7常用端口号说明1.8集群时间同步一、完全分布
陶人超有料
·
2023-11-04 11:26
大数据成神之路
hadoop
分布式
大数据
看完这篇文章,入门
hadoop
--这么细,你不看看?
1.什么是
hadoop
1.1
hadoop
的简介
Hadoop
是一个由Apache基金会所开发的分布式系统基础架构,一个能够对大量数据进行分布式处理的软件框架;
Hadoop
以一种可靠、高效、可伸缩的方式进行数据处理
迷途知返的蜗牛
·
2023-11-04 11:26
大数据
hadoop
big
data
分布式
【
Hadoop
】一、Apache
Hadoop
、 HDFS
一、Apache
Hadoop
、HDFSmd笔记1、Apache
Hadoop
概述
Hadoop
介绍狭义上
Hadoop
指的是Apache软件基金会的一款开源软件。
陌上人如玉এ
·
2023-11-04 11:55
大数据
hadoop
hdfs
apache
Apache
Hadoop
目录Apache
Hadoop
的介绍搭建
Hadoop
集群启动
Hadoop
集群(重要)了解
Hadoop
集群的辅助功能历史服务器垃圾回收机制一、Apache
Hadoop
入门1.1、
Hadoop
介绍Apache
飞翔的书
·
2023-11-04 11:25
大数据
hadoop
hdfs
mapreduce
hadoop
配置文件自检查(解决常见报错问题,超级详细!)
2.是否遗的将文件夹(
Hadoop
安装文件夹,/data数据文件夹)chown授权到
hadoop
用户这个操作3.是否遗忘了格式化
hadoop
这一步(
hadoop
namenode-format)4.是否是以
syst1m'
·
2023-11-04 11:55
大数据
hadoop
eclipse
java
hadoop
进程启停管理(看这一篇就足够了!)
一、一键启停脚本
Hadoop
HDFS组件内置了HDFS集群的一键启停脚本$HADOP_HOME/sbin/start-all.sh,一键启动HDFS集群执行原理:在执行此脚本的机器上,启动SecondaryNameNode
syst1m'
·
2023-11-04 11:54
大数据
hadoop
大数据
分布式
分布式安装配置zookeeper3.4.12
Zookeeper是一个开源的分布式协调服务,在
Hadoop
和各种分布式系统中应用广泛。本文介绍在Ubuntu系统上搭建一个三节点的Zookeeper集群。
runepic
·
2023-11-04 09:05
分布式存储与并行处理
分布式
服务器
zookeeper
Ubuntu18安装
Hadoop
,zookeeper,hbase--记录
安装的版本如上:三台电脑都需要统一安装首先安装
hadoop
下载:Indexof/dist/
hadoop
/common/
hadoop
-2.7.7上传文件,并解压cd到haddop目标,创建目录Haddop
嘟嘟Listing
·
2023-11-04 09:33
解决问题
hbase
hadoop
java-zookeeper
Ububtu18.04安装Zookeeper3.5.7
Zookeeper配置全分布式的ZookeeperUbubtu18.04安装Zookeeper3.5.7Zookeeper安装这里采用的ubuntu18.04环境的基本配置为:hostname为master用户名为
hadoop
IT从业者张某某
·
2023-11-04 09:26
apache
hadoop
zookeeper
4.RDD编程指南
RDDs可以通过
hadoop
文件(或共它的
hadoop
支持的文件系统),或者编程中的scala集合,转换它创建RDD。
流月up
·
2023-11-04 09:52
spark
RDD
spark
scala
算子
Transformations
Actions
hadoop
学习笔记之-NFS配置
分类:
hadoop
linux系统2013-03-0713:48406人阅读评论(0)收藏举报一、实验环境:系统版本:RedHatEnterpriseLinuxServerrelease5.6主机名别名IP
m0_66557301
·
2023-11-04 09:39
java
hadoop
学习
大数据
搜索引擎
运维
Sqoop安装和使用
Sqoop安装和使用Sqoop安装部署安装Sqoop前需要安装并启动
Hadoop
下载Sqoop链接http://mirrors.aliyun.com/apache/sqoop/1.4.7/将安装包覆之都对应的目录下解压安装
jialun0116
·
2023-11-04 09:03
数据仓库
大数据
sqoop
数据库
mysql
hive启动报错:Unable to instantiate org.apache.
hadoop
.hive.ql.metadata.SessionHiveMetaStoreClient
报错信息:java.lang.RuntimeException:Unabletoinstantiateorg.apache.
hadoop
.hive.ql.metadata.SessionHiveMetaStoreClientCausedby
小辉懂编程
·
2023-11-04 09:02
报错问题
hadoop
apache
hive
sqoop安装以及使用(保会)
sqoop安装及使用1.上传并解压tar-zxvfsqoop-1.4.6.bin__
hadoop
-2.0.4-alpha.tar.gz创建软连接Ln-ssqoop............sqoop2.修改配置文件
小枫ov
·
2023-11-04 09:31
hadoop
hdfs
mysql
sqoop安装和使用
SQOOP1.4.6安装####################解压重,重命名[root@single01download]#tar-zxvf/opt/download/sqoop-1.4.6.bin__
hadoop
SXF2410
·
2023-11-04 09:01
sqoop
CentOS7 Sqoop 安装和使用
CentOS7Sqoop安装和使用一、概述sqoop是apache旗下一款“
Hadoop
和关系数据库服务器之间传送数据”的工具。
fangwei1234
·
2023-11-04 09:01
sqoop
Sqoop的安装和使用
/sqoop-1.4.7.bin__
hadoop
-2.6.0.tar.gz-C../module/3.改名和配置归属权限#改名mvsqoop-1.4.7.bin__
hadoop
-2.6.0sqoop#
小辉懂编程
·
2023-11-04 09:31
sqoop
sqoop
hadoop
hive
0706-6.2.0-Windows Kerberos客户端配置并访问CDH
Fayson的github:https://github.com/fayson/cdhproject推荐关注微信公众号:“
Hadoop
实操”,ID:gh_c4c535955d0f1文档编写目的在使用CDH
Hadoop_SC
·
2023-11-04 08:16
Hadoop实操
Hive中的自定义hive函数
自定义函数需要通过编程的方式来进行,编程步骤:(1)继承org.apache.
hadoop
.hive.ql.UDF(老版本),现在继承GenericUDF(2)需要实现evaluate
阳哥赚钱很牛
·
2023-11-04 06:17
HIVE
java
hive
big
data
java
hive小操作·自定义函数 udtf
User-DefinedTable-GeneratingFunctions)用来解决输入一行输出多行(On-to-manymaping)的需求二、udtf的使用1、使用规则必须继承org.apache.
hadoop
.hive.ql.udf.generic.Generi
concealed0
·
2023-11-04 06:45
HIVE小操作
hive
自定义函数
UDTF
Hive【Hive(八)自定义函数】
Coding导入依赖org.apache.hivehive-exec3.1.3编写代码importorg.apache.
hadoop
.hive.ql.exec.UDFArgumentException;
让线程再跑一会
·
2023-11-04 06:42
Hive
hive
hadoop
数据仓库
spark代码连接hive_本地spark连接hive相关问题总结
hive首先需要下载spark,下载地址:http://mirror.bit.edu.cn/apache/spark/spark-3.0.0-preview/spark-3.0.0-preview-bin-
hadoop
2.7
weixin_39798626
·
2023-11-04 04:21
spark代码连接hive
hadoop
-2.7.3 在windows环境下安装(无需Cygwin)
最新已更新至2.8.0最近折腾文件系统,用到了
hadoop
,虽然项目是部署在Linux下的。但自己平时开发用的是windows系统(本人用的是win1064bit)。
步基
·
2023-11-04 04:50
开发语言
Windows下配置IDEA开发Spark(spark和hive整合,IDEA中standalone、yarn直接执行)
环境信息Windows10X64JDK1.8.0_191Scala2.11.12Maven3.6.1
Hadoop
2.6.0Intelli
laoda137
·
2023-11-04 04:17
spark
hadoop
spark
hdfs
intellij
idea
MapReduce
MapReduce是一个分布式运算程序的编程框架,是用户开发“基于
Hadoop
的数据分析应用”的核心框架。主要用于分析数据。
Manfestain
·
2023-11-04 03:07
hadoop
hdfs的API调用,在mall商城代码中添加api的调用
在网上下载了现成的商城代码的源码本次旨在熟悉hdfs的api调用,不关注前后端代码的编写,所以直接下载现成的代码,代码下载地址。我下载的是前后端在一起的代码,这样测试起来方便GitHub-newbee-ltd/newbee-mall:newbee-mall是一套电商系统,包括基础版本(SpringBoot+Thymeleaf)、前后端分离版本(SpringBoot+Vue3+Element-Plu
wmy102125
·
2023-11-04 03:07
Hadoop
hadoop
hdfs
大数据
hadoop
mapreduce的api调用WordCount本机和集群代码
本机运行代码packagecom.example.
hadoop
.api.mr;importorg.apache.
hadoop
.fs.Path;importorg.apache.
hadoop
.io.IntWritable
wmy102125
·
2023-11-04 03:33
Hadoop
hadoop
mapreduce
大数据
Mac中Dbeaver启动时报错:“fail to create java virtual machine”
看到这个信息想起来上周刚在本机上安装了
Hadoop
,Spark,过程中有新下载了JDK,有可能是Java版本问题。遇到环境问题,也没有诀窍,就是网上搜索各位前辈的解决方案。
数据分析师之家
·
2023-11-04 01:46
工具使用
java
macos
jvm
HDFS原理篇
**hdfs的工作机制**(工作机制的学习主要是为加深对分布式系统的理解,以及增强遇到各种问题时的分析解决能力,形成一定的集群运维能力)注:很多不是真正理解
hadoop
技术体系的人会常常觉得HDFS可用于网盘类应用
NickYS
·
2023-11-04 01:50
狂神说 redis 笔记
2006
Hadoop
压力一定会越来越大,适者生存!一定要逼着自己学习,这是在这个社会生存的唯一法则!1、单机MySQL的时代90年代,一个基本的网站访问量一般不会太大,单个数据库完全足够!
HY丶浪潮
·
2023-11-04 00:16
redis
nosql
缓存
黑猴子的家:xkafka-topic-delete.sh
/bin/bashkafka_home=/opt/module/kafka-3.2.1#${kafka_home}/bin/kafka-topics.sh--zookeeper
hadoop
102:2181
黑猴子的家
·
2023-11-04 00:59
深圳女子图鉴–如人饮水,冷暖自知
诸如此类的文章,一边安抚着你耐心点,从基层做起,从小事做起,先
学习积累
经验。然后另一边给
云吞儿
·
2023-11-03 23:10
Logstash学习
如
hadoop
生态圈的sqoop等。
程序媛青青
·
2023-11-03 23:18
学习
大数据
运维
hadoop
集群四之zookeeper、kafka安装
hadoop
集群一之虚拟机安装(mac)
hadoop
集群二之
hadoop
安装
hadoop
集群搭建完成后,紧接着我们将安装zookeeper组件。
皮皮虾不皮呀
·
2023-11-03 21:03
大数据
hadoop
zookeeper
第一章 大数据概述
,Value,Veracity3.大数据结构类型结构化数据、半结构化数据、非结构化数据4.数据、信息、知识与智能的关系大数据发展史1.数据管理发展历程数据管理->关系数据库->数据仓库->数据挖掘->
hadoop
etheon
·
2023-11-03 18:25
Hadoop
没有消亡,它是大数据的未来
有人认为
Hadoop
正在失败,但硅谷数据管理公司Hortonworks的总经理VamsiK.Chemitiganti并不这么看,为了反驳此前一篇文章《为什么
Hadoop
正在消亡?
qunqun8889
·
2023-11-03 17:44
大数据
大数据
Hadoop
大数据入门
人工智能
大数据分析
大数据入门之
hadoop
集群搭建(CentOS 7)
hadoop
集群搭建安装系统在VMware下创建新的虚拟机这里需要和自己电脑匹配可以从资源监视器中看到自己的cpu数量,由于需要4台虚拟机,所以这里用4个处理器内核用于一台虚拟机中这里的内存也与自己电脑的实际情况匹配由于桥接网络麻烦
Charon.(卡隆)
·
2023-11-03 15:39
大数据
hadoop
CentOs7下安装
Hadoop
详细步骤
一、安装虚拟机版本(CentOS7)二、修改主机名(当前虚拟机的主机名)1.查看当前的主机名hostname2.修改主机名vi/etc/hostname(1)一定要在vi的命令模式下(在编辑模式下按esc键):wq#保存退出:wq!#强制保存退出:q#退出:q!#强制退出(2)编辑模式下:i当前光标所在的位置。3.启动命令:reboot-hnow补充:第二种修改主机名的方式Hostnamectls
Sandra'
·
2023-11-03 15:09
hadoop
linux
网络
用CentOS搭建
hadoop
hadoop
是一个开源的大数据框架;
hadoop
是一个的分布式计算的解决方案;
hadoop
=HDFS(分布式文件操作系统)+MapReduce(分布式计算)。
我一定要研究生毕业.
·
2023-11-03 15:09
hadoop
centos
hdfs
mapreduce
centos安装配置
hadoop
超详细过程(含故障排除)
1、集群部署介绍1.1
Hadoop
简介
Hadoop
是Apache软件基金会旗下的一个开源分布式计算平台。
格格巫 MMQ!!
·
2023-11-03 15:09
liunx
centos
Centos7搭建
Hadoop
集群(V3.3.4)
Centos7搭建
Hadoop
集群V3.3.4一、准备工作1、配置hostname2、hosts映射3、关闭防火墙4、同步时间5、关闭selinux6、配置ssh免密登陆7、重启二、安装所需环境1、jdk
GreaterBuilder
·
2023-11-03 15:38
hadoop
hadoop
大数据
分布式
CentOS-7
Hadoop
集群部署
Hadoop
集群部署环境
Hadoop
目录结构
Hadoop
集群规划
Hadoop
下载
Hadoop
安装配置解压文件夹重命名赋予权限设置软连接配置环境变量配置文件修改HDFS集群workers
hadoop
-env.shcore-site.xmlhdfs-site.xmlYARN
HeZaoCha
·
2023-11-03 15:37
大数据基础
Linux
centos
hadoop
linux
大数据平台搭建——基于mysql上搭建hive(基于CentOS-7)
说明:hive搭建必须建立在
hadoop
的基础上,如果想要了解如何搭建
hadoop
集群下面文章对你可能会有帮助,本次hive搭建主要采用MySQL8.1.0版本,Hive为3.1.1版本。
爱吃炸鸡的boy~~
·
2023-11-03 15:07
大数据
mysql
hive
centos7中进行
hadoop
搭建全过程
1.模版虚拟机环境准备1.安装模版虚拟机,(以下地址均为实例,具体情况具体应用)IP地址192.168.10.100,主机名称
hadoop
100,内存4G,硬盘50G2.配置要求1)确认虚拟机联网,pingwww.baidu.com
data-sun
·
2023-11-03 15:07
linux
运维
服务器
hadoop
大数据平台搭建——
hadoop
集群(基于CentOS-7)的搭建
目录总序一、下载相关软件的压缩包二、配置虚拟机上主节点相关设置1、修改主机用户名2、进行ip地址映射3、配置虚拟机网络设置三、解压并配置java、
hadoop
环境1、解压jdk、
hadoop
压缩文件2、
爱吃炸鸡的boy~~
·
2023-11-03 15:06
大数据
hadoop
分布式
Hive原理与工作机制
hive是基于
Hadoop
的一个数据仓库工具,用来进行数据提取、转化、加载,这是一种可以存储、查询和分析存储在
Hadoop
中的大规模数据的机制。
weixin_44389522
·
2023-11-03 14:34
hive
数据仓库
分布式
Hive 工作机制
Hive简介Hive是一个基于
Hadoop
的一个数据仓库工具,可以将结构化的数据文件映射为一个表,并提供SQL查询功能,可将SQL语句转换为MapReduce任务进行。
你看这人,真菜
·
2023-11-03 14:04
Hive
上一页
61
62
63
64
65
66
67
68
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他