E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop启动报错
Hadoop
-- ZooKeeper
ZooKeeper就是动物园管理员,他是用来管
hadoop
(大象)、Hive(蜜蜂)等的管理员。
Cool_Pepsi
·
2024-01-23 02:42
大数据
zookeeper
Dbeaver
启动报错
: error ,see the log file ...
查找log文件:[安装路劲]\DBeaver\configuration下看到.log结尾的文件;打开查看报错信息,显示内容表明文件访问没有权限,我采取的方法是删除文件:org.eclipse.osgi,解决了我的问题。如果你也遇到类似的问题,可以先备份文件org.eclipse.osgi,然后进行删除试试,希望对你有帮助。
烟萝
·
2024-01-22 22:10
hadoop
搭建服务器
一、服务器配置说明1.四台服务器2.每台服务器内存4G3./boot空间3072M4.【可选择配置】/swap交互虚拟内存,40965./根目录空间57G二、服务器网络选择配置1.选择NAT链接网络/桥接2.编辑~/.bashrc文件vim~/.bashrcexportall_proxy=socks5://192.168.197.2:21881exporthttp_proxy=http://192
成_7b38
·
2024-01-22 20:47
Hadoop
RPC解析
网络通信模块是分布式系统中最底层的模块。它直接支撑了上层分布式环境下复杂的进程间通信(Inter-ProcessCommunication,IPC)逻辑,是所有分布式系统的基础。远程过程调用(RemoteProcedureCall,RPC)是一种常用的分布式网络通信协议。它允许运行于一台计算机的程序调用另一台计算机的子程序,同时将网络的通信细节隐藏起来,使得用户无须额外地为这个交互作用编程。由于R
tracy_668
·
2024-01-22 19:51
hadoop
之mapreduce教程+案例学习(一)
第1章MapReduce概述目录第1章MapReduce概述1.1MapReduce定义MapReduce是一个分布式运算程序的编程框架,是用户开发“基于
Hadoop
的数据分析应用”的核心框架。
菜瓜技术联盟
·
2024-01-22 19:04
Hadoop
mapreduce
hadoop
Impala:基于内存的MPP查询引擎
Impala的特点1.3、Impala与Hive1、Impala概述1.1、Impala简介Impala是Cloudera公司主导研发的高性能、低延迟的交互式SQL查询引擎,它提供SQL语义,能查询存储在
Hadoop
对许
·
2024-01-22 17:26
Java大数据
#
Hadoop及生态圈
#
数据湖仓
大数据
Hadooop和Hbase是什么关系
HBase是一个基于
Hadoop
的NoSQL分布式列存储数据库,用于存储海量结构化和半结构化数据,并提供高可用、高性能和面向列的操作功能。
wwwyx12138
·
2024-01-22 17:50
hbase
数据库
大数据
大数据平台的硬件规划、网络调优、架构设计、节点规划
1.大数据平台硬件选型要对
Hadoop
大数据平台进行硬件选型,首先需要了解
Hadoop
的运行架构以及每个角色的功能。
小枫@码
·
2024-01-22 17:18
大数据架构师
大数据
hadoop
-hdfs-API
处理
hadoop
配置文件及系统环境1.将
hadoop
所有jar包(除了..以外)添进
hadoop
/lib文件夹备用。2.将linux的
hadoop
/bin导出覆盖windows的
hadoop
/bin。
有七段变化
·
2024-01-22 15:43
golang+docker部署
1.第一种方式本机编译golang可执行文件1.本机编译golang可执行文件2.构建docker镜像,删除容器,启动最新版本容器3.sh脚本如下(
启动报错
可能是数据库、redis等地址用的127.0.0.1
joker.zeng
·
2024-01-22 15:37
docker
golang
容器
ssh
CentOS7下
Hadoop
2.9.2、Hive 2.3.6安装与实践
参考的安装文章地址:https://blog.csdn.net/pengjunlee/article/details/81607890实际安装的版本为:
hadoop
2.9.2,hive2.3.6;操作系统
流火星空
·
2024-01-22 14:58
大数据
hive
大数据
hive
java大数据
hadoop
2.9.2 Linux安装mariadb和hive
一、安装mariadb版本centos71、检查Linux服务器是否已安装mariadbyumlistinstalledmariadb*2、如果安装了,想要卸载yumremovemariadbrm-rf/etc/my.cnfrm-rf/var/lib/mysql才能完全删除3、安装mariadb在线网络安装yuminstall-ymariadb-server开启服务systemctlstartma
crud-boy
·
2024-01-22 14:26
java大数据
大数据
linux
mariadb
关于Hive架构原理,尚硅谷
最近学习hive时候,在做一个实操案例,具体大概是这样子的:我在dataGip里建了一个表,然后在
hadoop
集群创建一个文本文件里面存储了数据库表的数据信息,然后把他上传到hdfs后,dataGrip
大数据SQLboy
·
2024-01-22 11:41
Hive
hive
架构
hadoop
Ranger概述及安装配置
二、Ranger2.1、什么是rangerApacheRanger是一个用来在
Hadoop
平台上进行监控,启动服务,以及全方位数据安全访问管理的安全框架。Ranger愿景是在Apa
小枫@码
·
2024-01-22 09:39
大数据运维
安全
运维
【大数据处理技术实践】期末考查题目:集群搭建、合并文件与数据统计可视化
合并文件与数据统计可视化实验目的任务一:任务二:实验平台实验内容及步骤任务一:搭建具有3个DataNode节点的HDFS集群集群环境配置克隆的方式创建Slave节点修改主机名编辑hosts文件生成密钥免认证登录修改
hadoop
汐ya~
·
2024-01-22 09:35
hadoop
linux
虚拟机
java
redis-5.0.8集群环境搭建
单机环境安装redis-3.2.8主从复制架构搭建及哨兵配置如果你对redis的安装很陌生,请看完我以上两期教程,对完成此期教程很有帮助2.下载解压redis-5.0.8.tar.gz[xiaokang@
hadoop
01
小刘新鲜事儿
·
2024-01-22 08:15
redis
redis
大数据技术原理及应用课实验3 :熟悉常用的HBase操作
目录实验3熟悉常用的HBase操作一、实验目的二、实验平台三、实验步骤(每个步骤下均需有运行截图)(一)编程实现以下指定功能,并用
Hadoop
提供的HBaseShell命令完成相同任务:1.列出HBase
Blossom i
·
2024-01-22 08:08
大数据编程
大数据
hbase
数据库
Flink on YARN(下):常见问题与排查思路
杨弢(搏远),阿里巴巴计算平台事业部技术专家,Apache
Hadoop
Committer,目前专注于YARN、Flink、YuniKorn等开源项目的资源调度方向。
Apache Flink
·
2024-01-22 08:33
一张图轻松掌握 Flink on YARN 基础架构与启动流程
杨弢(搏远),阿里巴巴计算平台事业部技术专家,Apache
Hadoop
Committer,目前专注于YARN、Flink、YuniKorn等开源项目的资源调度方向。
zhisheng_blog
·
2024-01-22 08:02
10
Hadoop
的安全模式及权限介绍
1、HDFS工作流程启动NameNode,NameNode加载fsimage到内存,对内存数据执行editslog日志中的事务操作。文件系统元数据内存镜像加载完毕,进行fsimage和editslog日志的合并,并创建新的fsimage文件和一个空的editslog日志文件。NameNode等待DataNode上传block列表信息,直到副本数满足最小副本条件,这个过程NameNode处于安全模式
水无痕simon
·
2024-01-22 08:02
Hadoop
hadoop
安全
大数据
[flink]一Flink部署|配置文件|提交作业|部署模式|独立模式部署|yarn模式部署
一、集群部署集群规划节点服务器
hadoop
1
hadoop
2
hadoop
3
hadoop
4角色JobManagerTaskManagerTaskManagerTaskManagerTaskManager1、
胖胖学编程
·
2024-01-22 08:30
Flink
flink
Hadoop
基本概论
目录一、大数据概论1.大数据的概念2.大数据的特点3.大数据应用场景二、
Hadoop
概述1.
Hadoop
定义2.
Hadoop
发展历史3.
Hadoop
发行版本4.
Hadoop
优势5.
Hadoop
1.x/2
LzYuY
·
2024-01-22 08:25
Hadoop
hadoop
大数据
分布式
史上最全深度解析Flink内存管理--大数据技术
目前,大数据计算引擎主要使用Java或基于JVM的编程语言实现的,例如Apache
Hadoop
,ApacheSpark,ApacheDrill,ApacheFlink等。
大数据学习僧
·
2024-01-22 08:50
Flink
大数据
flink
Flink(十四)【Flink SQL(中)查询】
FlinkSQL查询环境准备:#1.先启动
hadoop
my
hadoop
start#2.不需要启动flink只启动yarn-session即可/opt/module/flink-1.17.0/bin/yarn-session.sh-d
让线程再跑一会
·
2024-01-22 08:14
Flink
flink
大数据
Flink是如何管理内存的
在讲Flink管理内存之前要了解下Flink为什么要自己实现内存管理一、Flink为什么要自己实现内存管理在大数据领域,大多数数据相关的开源框架(
Hadoop
、Spark、Storm)都是基于JVM运行的
Relian哈哈
·
2024-01-22 08:13
Flink
hive sql转换成MR任务过程
)、WEBUI(浏览器访问hive)2)元数据:Metastore元数据包括:表名、表所属的数据库(默认是default)、表的拥有者、列/分区字段、表的类型(是否是外部表)、表的数据所在目录等;3)
Hadoop
上官沐雪
·
2024-01-22 08:08
hive
hive
大数据开发之电商数仓(
hadoop
、flume、hive、hdfs、zookeeper、kafka)
第1章:数据仓库1.1数据仓库概述1.1.1数据仓库概念1、数据仓库概念:为企业制定决策,提供数据支持的集合。通过对数据仓库中数据的分析,可以帮助企业,改进业务流程、控制成本,提高产品质量。数据仓库并不是数据的最终目的地,而是为数据最终的目的地做好准备,这些准备包括对数据的:清洗、转义、分类、重组、合并、拆分、统计等。2、数据仓库的数据通常包括:业务数据、用户行为数据和爬虫数据等3、业务系统数据库
Key-Key
·
2024-01-22 07:29
大数据
hadoop
flume
kafka
hive
hdfs
ubuntu切换内核
如果出现内核
启动报错
ba
海里的鱼2022
·
2024-01-22 07:51
ubuntu
linux
运维
java17环境配置
lib;%JAVA_HOME%\lib\tools.jar;path:%JAVA_HOME%\binjava17与java8的区别无需配置classpathJAVA_HOME=E:\jdk-17.0.9
启动报错
AaronCos
·
2024-01-22 04:23
java
intellij-idea
看看关系型数据库是怎么吊打
Hadoop
的
所以在不少架构中,会看到使用ETL的方式将数据库送到
Hadoop
中,使用其分布式存储和分布式计算的特点来进行分析。
薛晓刚
·
2024-01-22 02:58
数据库
25.集群异常故障分析——HOSTS
25.1问题情况
Hadoop
集群HDFS、YARN、Hive等服务出现异常告警重启集群异常告警任然存在大量告警Cluster1HDFS可用空间抑制...NameNode运行状况抑制...HDFS金丝雀抑制
大勇任卷舒
·
2024-01-22 02:51
nacos
启动报错
java.lang.RuntimeException: [db-load-error]load jdbc.properties error
以standalonemodeshstartup.sh-mstandalone为例子启动nacos报错:Causedby:org.springframework.boot.web.server.WebServerException:UnabletostartembeddedTomcatatorg.springframework.boot.web.embedded.tomcat.TomcatWebS
Edison-XX
·
2024-01-21 21:21
java
数据库
开发语言
Hive SQL的编译过程(转)
Hive是基于
Hadoop
的一个数据仓库系统,在各大公司都有广泛的应用。美团数据仓库也是基于Hive搭建,每天执行近万次的HiveETL计算流程,负责每天数百GB的数据存储和分析。
愤怒的谜团
·
2024-01-21 20:40
Hbase笔记
HBase-1.hbase介绍ApacheHBase™是
Hadoop
数据库,是一个分布式,可扩展的大数据存储。当您需要对大数据进行随机,实时读/写访问时,请使用ApacheHBase™。
MFRain
·
2024-01-21 20:24
spark on yarn安装部署
所使用的安装包名称按自己的修改,安装包可去各大官网上下载一,解压tar-zxvf/opt/software/spark-3.1.1-bin-
hadoop
3.2.tgz-C/opt/module/修改名称
佛系爱学习
·
2024-01-21 17:11
spark
大数据
分布式
黑猴子的家:API 操作 HDFS 文件下载
1、Code->GitHubhttps://github.com/liufengji/
hadoop
_hdfs.git2、Code@TestpublicvoidgetFileFromHDFS()throwsException
黑猴子的家
·
2024-01-21 16:19
django基于
Hadoop
平台的电影推荐系统(程序+开题报告)
本系统(程序+源码+数据库+调试部署+开发环境)带文档lw万字以上,文末可获取系统程序文件列表开题报告内容研究背景:随着互联网的普及和大数据技术的发展,人们对于个性化推荐的需求越来越高。电影作为一种重要的娱乐方式,其推荐系统的研究也受到了广泛关注。然而,传统的电影推荐系统往往基于用户的历史行为进行推荐,忽略了其他重要的信息,如电影的类型、导演、演员等。此外,由于电影数据的海量性和复杂性,传统的推荐
liu10662
·
2024-01-21 15:51
django
python
后端
ubuntu22.04安装atlas2.0.0
在ubuntu裸机上安装,裸机未安装java,
hadoop
等环境。jdk和maven都使用apt方式安装。sudoaptinstallopenjdk-8-jdksudoa
playmakerlby
·
2024-01-21 15:37
大数据
大数据
maven
hadoop
yarn 配置
转自:http://blog.csdn.net/guotong1988/article/details/47130701
晴天哥_王志
·
2024-01-21 09:03
02-黑马程序员大数据开发:分布式计算和分布式资源调度
分布式计算模式:分散->汇总模式(MapReduce)和中心调度->步骤执行模式(ApacheSpark,Flink;比较复杂,中间会有数据交换的过程);2.MapReduce概述MapReduce是
Hadoop
S1406793
·
2024-01-21 08:52
大数据开发
大数据
分布式
大数据开发之Kafka(broker、消费者、eagle监控、kraft模式)
KafkaBroker4.1KafkaBroker工作流程4.1.1Zookeeper存储的Kafka的信息1、查看zookeeper中的kafka节点所存储的信息启动Zookeeper客户端[atguigu@
hadoop
104zookeeper
Key-Key
·
2024-01-21 07:18
大数据
kafka
linq
Hadoop
入门概述
Hadoop
是一个开源的分布式计算框架,主要用于处理和存储大规模数据集。
转身成为了码农
·
2024-01-21 07:41
hadoop
大数据
分布式
大数据之Spark架构设计与工作流程
驱动器还负责任务的调度,并与集群管理器(如
Hadoop
YARN、ApacheMesos或Standalone模
转身成为了码农
·
2024-01-21 07:41
大数据
spark
分布式
大数据技术汇总
Hadoop
Hadoop
入门概述
Hadoop
运行模式介绍
Hadoop
HDFS的运行流程
Hadoop
MapReduce的运行流程
Hadoop
yarn的运行流程
Hadoop
内HDFS、MapReduce和YARN
转身成为了码农
·
2024-01-21 07:41
大数据
hadoop
hive
spark
数据仓库
Spark:SparkSQL与Hive on Spark(Shark)的比较
简要介绍了SparkSQL与HiveonSpark的区别与联系一、关于Spark简介在
Hadoop
的整个生态系统中,Spark和MapReduce在同一个层级,即主要解决分布式计算框架的问题。
花和尚也有春天
·
2024-01-21 06:17
sparkSQL
SparkSQL
Hive
on
Spark
基于kubernetes构建spark-thriftserver集群(Deployment模式)
1、构建镜像这里采用spark-2.4.4-bin-
hadoop
2.7.tar.gz包部署,先解压文件到/opt/spark目录。(1)将需要第三方扩展包导入/opt/spark/
Moutai码哥
·
2024-01-21 06:46
大数据
云计算
企业架构
spark
thriftserver
spark
hive
Spark面试题
1.sparkcore1.简述
hadoop
和spark的不同点(为什么spark更快)♥♥♥ shuffle都是需要落盘的,因为在宽依赖中需要将上一个阶段的所有分区数据都准备好,才能进入下一个阶段,那么如果一直将数据放在内存中
韩顺平的小迷弟
·
2024-01-21 06:53
大数据面试题
spark
大数据
分布式
Ubuntu安装Hbase数据库
Hbase,并修改其名称sudotar-zxfhbase-1.1.2-bin.tar.gz-C/usr/localcd/usr/localsudomvhbase-2.2.2/hbasesudochown-R
hadoop
hbase
殊迟
·
2024-01-21 06:51
大数据
hbase
hadoop
big
data
大数据
分布式
Ubuntu安装MySQL数据库
MySQLsudoapt-getinstallmysql-server输入Y后回车继续安装设置root用户密码,此处会设置两次三、启动、关闭、测试数据库servicemysqlstart#此处输入2回车选择
hadoop
殊迟
·
2024-01-21 06:51
大数据
ubuntu
mysql
服务器
linux
数据库
安装Kafka
Kafkasudotar-zxfkafka_2.11-0.10.2.0.tgz-C/usr/localcd/usr/localsudomvkafka_2.11-0.10.2.0/kafkasudochown-R
hadoop
kafka
殊迟
·
2024-01-21 06:51
大数据
kafka
java
大数据
spark
scala
上一页
13
14
15
16
17
18
19
20
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他