Ubuntu安装hadoop

ClassNotFoundException: org.apache.hive.spark.client.Job

hive使用的是3.13版本，spark是3.3.3支持hadoop3.xhive将engine从mr改成spark，通过beeline执行insert、delete时一直报错，sparkTaskrpc
青春不流名·2023-12-01 16:43

玩转大数据：3-Hadoop家族的力量与挑战

引言Hadoop作为一个强大的大数据处理框架，以其分布式计算和存储能力在业界备受关注。然而，Hadoop在应用场景、适用范围、社区支持以及后续持续发展等方面也面临着一些挑战。
沛沛老爹·2023-12-01 13:56

在HBase中创建‘sutdent’表

启动hadoop：start-all.sh启动hbase：start-hbase.sh启动hbaseshell客户端，进入创表：1.在HBase中创建‘sutdent’表，如图所示：创建命名空间,建立一个
墨染盛夏呀·2023-12-01 12:10

hadoop完全分布式搭建

文章目录集群部署规划服务器准备Mobaxterm远程登录实验前准备安装软件工具关闭防火墙安装JDK和Hadoop创建软件包目录解压软件包配置环境变量集群搭建先创建HDFS工作目录和LOG目录配置集群配置环境配置
撕得失败的标签·2023-12-01 12:24

搭建部署Hadoop2.x和3.x的区别

文章目录Java最小支持版本常用的端口号配置文件Classpath隔离NodeManager重连Java最小支持版本Hadoop2.x最低要求Java7。
撕得失败的标签·2023-12-01 12:54

Hadoop运行模式及目录结构

文章目录Hadoop运行模式本地模式伪分布式模式完全分布式模式Hadoop目录结构配置文件说明默认配置文件：自定义配置文件：Hadoop运行模式本地模式这种模式在一台单机上运行，没有分布式文件系统，而是直接读写本地操作系统的文件系统
撕得失败的标签·2023-12-01 12:23

搭建Hadoop集群过程中常见错误的解决方案

cannotcreatdirectory或cannotcreatfile类型如下报错信息：cannotcreatedirectoryPermissiondenied如果使用的是user用户，多数情况下是因为文件权限问题，hadoop3.3.1
撕得失败的标签·2023-12-01 12:18

CentOS 6.10 执行yum命令报错，尝试各种办法未解决

在CentOS6.10执行yum命令报错，尝试各种办法最终解决错误如下：[zjl@hadoop102~]$sudoyumupdate已加载插件：fastestmirror,refresh-packagekit
yisuoyanyv·2023-12-01 11:56

如何使用内网穿透实现无公网ip环境访问VScode远程开发

文章目录前言1、安装OpenSSH2、vscode配置ssh3.局域网测试连接远程服务器4.公网远程连接4.1ubuntu安装cpolar内网穿透4.2创建隧道映射4.3测试公网远程连接5.配置固定TCP
YIN_尹·2023-12-01 11:40

Hive参数详解

1.SerDesandI/Ohive.input.format默认org.apache.hadoop.hive.ql.io.CombineHiveInputFormat默认的inputformat。
Chin_qf·2023-12-01 10:12

[Ubuntu] [Qt] Ubuntu安装并配置Qt5.15.2环境

1、通过清华源下载qt镜像包，官网太慢了，新版本都只能在线安装。https://mirrors.tuna.tsinghua.edu.cn/qt/official_releases/online_installers/qt-unified-linux-x64-online.run2、给镜像文件添加可执行权限sudochmoda+xqt-unified-linux-x64-4.2.0-online.r
lialong1st·2023-12-01 10:06

Hadoop运行原理之shuffle

hadoop的核心思想是MapReduce，但shuffle又是MapReduce的核心。shuffle的主要工作是从Map结束到Reduce开始之间的过程。
Summer_1981·2023-12-01 10:00

一文读懂：制造业头部企业如何构建经营分析数字化体系

用BI数据分析手段，通过SAPBW/4HANA、SAPSACPlanning、数据中台、Hadoop等构建大数据平台，实现企业经营分析的数字化在近年逐步被认可和推崇，尤其是数字化场景的经营分析会成为数字化转型的亮点应用之一
智扬信达·2023-12-01 09:11

Spark写入es：EsHadoopRemoteException: version_conflict_engine_exception

背景介绍业务场景：spark批量写入es，基于es-hadoop组件实现批处理任务定时调度cdh5.5.3集群，spark2.3，elasticsearch6.4.3es中对应索引的_id由程序控制，保证全局唯一仅测试环境出现
weixin_34117522·2023-12-01 09:59

CentOS7.5搭建Hadoop-3.3.6集群的详细操作流程-实操版本

一、准备工作1、安装VMware，已安装的，跳过此步骤即可官方正版VMware下载（16pro）：https://www.aliyundrive.com/s/wF66w8kW9ac安装：选一下安装地址，一直下一步即可。（可能会要求重启电脑，重启即可）2、安装CentOS7.5下载Linux系统镜像（阿里云盘不限速）：https://www.aliyundrive.com/s/UQMBPEovxNg
落叶，听雪·2023-12-01 07:43

从Hadoop框架与MapReduce模式中谈海量数据处理（含淘宝技术架构）

前言最近凡是空闲时，便在看“Hadoop”，“MapReduce”“海量数据处理”这方面的论文。
Alukar·2023-12-01 05:17

一周热点：IBM新技术使网速达400G/s，硬盘会“烧掉”吗

本周云计算内容精彩纷呈，有IBM发布新网络传输技术，速度最高可达400Gbps，四大著名风投眼中的大数据初创公司，Moz公司CEO结合自身创业实践解读如何理智使用AWS，还有Intel发布15核芯片以及其软硬兼备的Hadoop
wfwserhdext·2023-12-01 01:32

flink写入带kerberos认证的kudu connector

文章目录前言一、介绍二、先来看kudujavaapi认证kerberos1.首先需要进行kerberos的验证（需要将相应用户的keytab文件引入本地）2.依赖3.引入hadoop配置文件4.获取客户端
重生之我在异世界打工·2023-11-30 22:03

Hadoop之HDFS

2）定义：HDFS（HadoopDistributedFileSystem），它是一个文件系统，用于存储文件，通过目录树来定位
小猫旺财·2023-11-30 20:11

HDFS概述

文章目录一、HDFS概述1.什么是HDFS2.HDFS基本架构3.搭建[HDFS]4.安装hadoop5.hadoop配置文件的配置etc/hadoop6.namenode的格式化7.启动hadoop守护进程
~chun·2023-11-30 20:11

HDFS详解

HDFS架构剖析HDFS，HadoopDistributeFileSystem（Hadoop分布式文件系统）的简称，它是Hadoop核心组件之一，是大数据生态圈最底层的分布式存储服务。
liuhanyuu·2023-11-30 20:09

大数据-HDFS的定义、使用场景、优缺点、组成架构

HDFS定义HDFS(HadoopDestributedFileSystem)是一个分布式的文件系统，用于存储文件，通过目录树来定位文件HDFS使用场景适合一次写入，多次读取的场景，不支持文件的修改HDFS
hmyqwe·2023-11-30 20:08

【Hadoop】分布式文件系统 HDFS

数据复制复制的实现原理三、HDFS的特点四、图解HDFS存储原理1.写过程2.读过程3.HDFS故障类型和其检测方法故障类型和其检测方法读写故障的处理DataNode故障处理副本布局策略一、介绍HDFS（HadoopDistributedFileSystem
和瑚·2023-11-30 20:06

系统：WSL（win10的子系统Linux）

[toc]介绍在Windows下使用linux系统（可shell命令行操作或图形界面操作）步骤建立软链接（非必须）安装Ubuntu安装并配置cmder（非必须）安装并连接图形界面参考资料Windows10
赤沙咀菜虚坤·2023-11-30 19:57

Linux(三)：“/”和“~”的区别

而每个用户都有”家“目录，也就是用户的个人目录，比如root用户的”家“目录就是/root,普通用户hadoop的家目录就是/home/hadoop。
CodingALife·2023-11-30 18:20

ubuntu安装teamviewer详细教程 linux安装teamviewer详细教程

1安装包下载前往官网：https://www.teamviewer.cn/cn/download/linux/，下载相应的linux版本，如ubuntu。2安装包安装打开刚才下载的安装包所在路径，并在终端打开：输入命令：sudodpkg-iteamviewer_15.13.6_amd64.deb输入密码后，即开始安装。3可能遇到的报错如果出现如下报错：这是因为缺乏一些必要包，则输入如下命令：sud
StrongerTang·2023-11-30 17:51

Hyper-v虚拟机Hadoop集群搭建

大数据Hadoop简介Hadoop是一个由Apache基金会所开发的分布式系统基础架构。Hadoop实现了一个分布式文件系统（HadoopDistributedFileSystem），简称HDFS。
真.电脑人·2023-11-30 16:16

大数据学习-离线数仓项目实战笔记（上）

1.前置1.1.软件版本产品版本Hadoop2.9.2Hive2.3.7Flume1.9DataX3.0Airflow1.10Atlas1.2.0Griffin0.4.0Impalaimpala-2.3.0
ys4tnaf·2023-11-30 15:24

大数据项目实践过程笔记

开发工具intelijidea2.19.3目前围绕Hadoop体系的大数据架构包括：传统大数据架构数据分析的业务没有发生任何变化，但是因为数据量、性能等问题导致系统无法正常使用，需要进行升级改造，那么此类架构便是为了解决这个问题
提莫_·2023-11-30 15:54

【大数据学习笔记-1】大数据hadoop平台基本组件

Hadoop是一个由Apache基金会所开发的分布式计算和存储架构。说人话的通俗描述：你在爱奇艺网站看过一次科幻片后，下次再登录爱奇艺，首页会把最新科幻动作片推送给你，目的是要向你多收点会员费。
工匠小能手·2023-11-30 15:19

Hbase学习笔记（三）Shell操作

[leon@hadoop102HBase]$bin/HBaseshell1.其他操作1.1查看集群状态使用status可以查看集群状态，默认为summary，可以选择‘simple’和‘detailed
做个合格的大厂程序员·2023-11-30 15:59

大数据之 Hadoop

hadoop主要解决：海量数据的存储和海量数据的分析计算hadoop发展历史Google是hadoop的思想之源（Google在大数据方面的三篇论文）2006年3月，Map-reduce和NutchDistributedFileSystem
小裕哥略帅·2023-11-30 13:41

01数仓平台 Hadoop介绍与安装

Hadoop概述Hadoop是数仓平台的核心组件。在Hadoop1.x时代，Hadoop中的MapReduce同时处理业务逻辑运算和资源调度，耦合性较大。在Hadoop2.x时代，增加了Yarn。
kk_io·2023-11-30 13:38

hadoop简介

大数据和hadoop的关系：随着近几年计算机技术和互联网的发展，“大数据”这个名词越来越多进入我们的视野。大数据的快速发展也在无时无刻影响着我们的生活。那大数据究竟是什么呢？
owlcity123·2023-11-30 13:06

电商平台数据仓库搭建02-Hadoop集群搭建

虚拟机需要配置3台，分别为Hadoop102，Hadoop103，Hadoop104。配置ssh、jdk1.vm-tools，并创建新用户hadoop并配置root权
王小磊~·2023-11-30 13:04

【Hadoop】集群资源管理器 YARN

一、yarn简介ApacheYARN(YetAnotherResourceNegotiator)是hadoop2.x引入的分布式资源管理系统。
和瑚·2023-11-30 13:34

在centos7上搭建hadoop大数据平台

目录一、安装搭建java环境1、安装方法2、查看是否已安装3、卸载4、安装4.1检查yum中有没有java1.8包4.2开始安装5、验证二、Hadoop安装1、下载2、准备启动Hadoop集群2.1配置
船长灬普朗克·2023-11-30 13:03

Windows11编译Hadoop3.3.6源码

kontext-tech/winutils还未发布3.3.6版本，因此尝试源码编译目录环境和安装包准备，见2zlib编译方法一：方法二：配置文件更改1.maven阿里云镜像2.Node版本3.越过Javadoc检查编译HadoopError
斐硕人·2023-11-30 13:33

数据仓库搭建

目录1数据仓库概念1.1什么是数据仓库1.2OLTP与OLAP2项目需求及架构设计3项目框架4框架版本选型4.1Hadoop版本综述4.2社区版与第三方发行版的比较4.2.1.Apache社区版4.2.2
赵广陆·2023-11-30 13:32

00Hadoop数据仓库平台

在这里是学习大数据的第一站什么是数据仓库常见大数据平台组件及介绍什么是数据仓库在计算领域，数据仓库（DW或DWH）也称为企业数据仓库（EDW），是一种用于报告和数据分析的系统，被认为是商业智能的核心组件。数据仓库是来自一个或多个不同来源的集成数据的中央存储库。它们将当前和历史数据存储在一个位置，用于为整个企业的员工创建分析报告。这对公司来说是有益的，因为它使他们能够询问数据并从数据中汲取见解并做出
kk_io·2023-11-30 13:29

Ubuntu安装VS Code的三种方式

文章目录方法1：在UbuntuSoftware中安装【简单、方便】方法2：区VSCode下载deb安装包安装方法3：在终端中使用指令安装【省事】方法1：在UbuntuSoftware中安装【简单、方便】直接在UbuntuSoftware中搜索visualstudiocode安装即可。方法2：区VSCode下载deb安装包安装在火狐浏览器中进入VSCode下载官网，下载deb版本的安装包。下载地址：
KRISNAT·2023-11-30 11:42

2019-12-11

Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张表，并提供类SQL查询功能。
diedfish_qyf·2023-11-30 11:41

Ubuntu 文件系统成为只读模式的解决办法

虚拟机环境的Linux系统由于是虚拟化虚拟出来的主机环境，因此经常会出现一些操作系统的问题，今天我遇到了一个Ubuntu操作系统文件系统成了只读模式，无法进行系统的操作，由于出问题的主机是我个人搭建的Hadoop
Kevin-K先森·2023-11-30 10:46

Hadoop-HDFS详解与HA，完全分布式集群搭建(细到令人发指的教程)

是什么hdfs的由来hdfs架构体系hdfs的优缺点优点缺点二、HDFS_block简介和注意事项Block拆分标准三、HDFS_block安全与管理Block数据安全Block的管理效率四、HDFS_Hadoop3
毫无感情的dj·2023-11-30 10:06

Hadoop-HDFS角色工作机制

一、角色职责介绍  HadoopDistributedFileSystem(HDFS,分布式文件系统):HDFS是Hadoop应用程序使用分布式存储，HDFS集群主要由管理文件系统元数据的NameNode
H.S.T不想卷·2023-11-30 10:33

【大数据Hadoop】HDFS-Namenode-format格式化的源码步骤分析

Namenodeformat流程格式化命令源码解读初始化操作格式化操作本地写VERSION文件JournalManager的格式化持久化FsImage文件流程根据配置项获取nameserviceId、namenodeId判断配置项dfs.namenode.support.allow.format是否允许格式化，一般生产环境建议配置，防止误操作格式化了已有数据。获取格式化的目录（fsImage和ed
笑起来贼好看·2023-11-30 10:30

大数据技术之Hadoop（HDFS）

2.HDFS定义HDFS（HadoopDistributedFileSystem），它是一个文件系统，用于存储文件，
江苏彭与晏·2023-11-30 10:23

大数据 - Hadoop - HDFS

前言Hadoop是一个专为离线和大规模数据分析而设计的，并不适合那种对几个记录随机读写的在线事务处理模式。
蒙蒙的林先生·2023-11-30 10:21

大数据Hadoop-HDFS_架构、读写流程

大数据Hadoop-HDFS基本系统架构HDFS架构包含三个部分：NameNode，DataNode，Client。NameNode：NameNode用于存储、生成文件系统的元数据。运行一个实例。
大沙头三马路·2023-11-30 09:48

大数据-hadoop-hdfs

Hadoop分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodityhardware)上的分布式文件系统（DistributedFileSystem）。
像影子追着光梦游_·2023-11-30 09:48
上一页 47 48 49 50 51 52 53 54 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他