hdfs集群搭建第22页

服务器运维专有名词

专有名词云上虚拟私有云（VirtualPrivateCloud，VPC）IDC机房专线Kubernetes集群搭建以及基本使用【具详细】有了docker为什么还需要k8shttps://blog.csdn.net

wowocpp·2023-12-24 04:10

7000字超详细讲解Hadoop、Spark、Storm、YARN，建议收藏！

核心内容包含hdfs和mapreduce。hadoop2.0以后引入yarn.hdfs是提供数据存储的，mapreduce是方便数据计算的。

套马杆的程序员·2023-12-24 04:49

Hive优化

Hive优化Hive的存储层依托于HDFS，Hive的计算层依托于MapReduce，一般Hive的执行效率主要取决于SQL语句的执行效率，因此，Hive的优化的核心思想是MapReduce的优化。

新鲜氧气·2023-12-23 22:26

ClickHouse(19)ClickHouse集成Hive表引擎详细解析

文章目录Hive集成表引擎创建表使用示例如何使用HDFS文件系统的本地缓存查询ORC输入格式的Hive表在Hive中建表在ClickHouse中建表查询Parquest输入格式的Hive表在Hive中建表在

张飞的猪大数据·2023-12-23 20:37

Redis部署-集群

目录集群数据分片算法哈希求余一致性哈希算法哈希槽分区算法redis集群搭建1.创建目录和配置.2.将上述redis节点.构建成集群3.使用客户端连接集群集群模式下的故障转移流程1.故障判定2.故障迁移集群扩容集群广义上的集群

正经程序猿·2023-12-23 20:00

ceph集群搭建详细教程（ceph-deploy）

ceph-deploy比较适合生产环境，不是用cephadm搭建。相对麻烦一些，但是并不难，细节把握好就行，只是命令多一些而已。实验环境服务器主机public网段IP（对外服务）cluster网段IP（集群通信）角色deploy192.168.2.120用于部署集群、管理集群ceph-node1192.168.2.121192.168.6.135ceph-mon、ceph-mgr、ceph-osd

绝恋96·2023-12-23 17:39

浅谈Hadoop容错机制

简单介绍一下Hadoop中数据存储的可靠性和完整性，其中包括HDFS的容错机制、NameNode(元数据结点)的单点失效解决机制、Block数据块的多副本存储机制、NameNode与DataNode之间的心跳检测机制

小小少年Boy·2023-12-23 15:19

MINIO在java中的使用

对象存储可以充当主存储层，以处理Spark、Presto、TensorFlow、H2O.ai等各种复杂工作负载以及成为HadoopHDFS的替代品--------引自官网的话。

IT小学僧·2023-12-23 14:48

通过HDFS API进行HDFS操作

HDFSJavaAPI位于org.apache.hadoop.fs包中，这些API能够支持的操作包括打开文件、读写文件、删除文件等。Hadoop类库中最终面向用户提供的接口类是FileSystem。

CDHong.it·2023-12-23 14:30

Hadoop _HDFS_API 创建文件夹

在项目中src/main/java目录下，新建一个文件，命名为com.atguigu.hdfs创建文件夹在文件夹里输入代码，创建文件夹客户端代码常用套路1、获取一个客户端对象2、执行相关的操作指令3、关闭资源代码如下

笨鸟先-森·2023-12-23 14:29

Hadoop之HDFS的API操作

1、环境准备1.1、下载window版本的hadoop-3.1.01.2、配置HADOOP_HOME环境变量1.2、配置Path环境变量2、代码演示2.1、创建maven项目，导入pom坐标org.apache.hadoophadoop-client3.1.3junitjunit4.12org.slf4jslf4j-log4j121.7.302.2、日志配置log4j.rootLogger=INF

后端技术那点事·2023-12-23 14:28

Hadoop学习之HDFS（HDFS客户端及API操作）心得

HDFS客户端及API操作：一、准备条件：1.配置环境变量HADOOP_HOME(路径要求非中文)2.验证环境变量，双击winutils.exe（报错可能是缺少微软运行库MSVCR120.dll）3.在

顺其自然的济帅哈·2023-12-23 14:58

大数据—Hadoop（四）_ HDFS_03、客户端API

文章目录1、客户端环境准备1.1idea1.2window依赖2、HDFS的API案例实操2.1HDFS文件上传（测试参数优先级）2.1.1客户端代码常用套路2.1.2普通版2.1.3优化后2.1.4上传文件

大数据之负·2023-12-23 14:58

HDFS的API操作

的环境变量（1）设置MAVEN_HOME为maven文件夹的路径（2）在path中添加“%MAVEN_HOME%\bin”（3）在idea中创建maven项目（注意在编写代码前应修改“pom.xml”，hdfs

七玥a·2023-12-23 14:58

Hadoop中HDFS的API操作、客户端环境准备、配置HADOOP_HOME环境变量

文章目录7.HDFS的API操作7.1客户端环境准备7.1.1下载下面的Windows依赖文件夹，拷贝hadoop-3.1.0到非中文路径（比如d:\）7.1.2配置HADOOP_HOME环境变量7.1.3

Redamancy_06·2023-12-23 14:27

hadoop02_HDFS的API操作

HDFS的API操作1HDFS核心类简介Configuration类：处理HDFS配置的核心类。

程序喵猴·2023-12-23 14:57

大数据---35.HBase 常用的api的具体解释

Hbase是一个分布式的、面向列的开源数据库，HDFS文件操作常有两种方式，一种是命令行方式，即Hbase提供了一套与Linux文件命令类似的命令行工具。

学无止境的大象·2023-12-23 13:00

DBeaver连接hive

1.新建hive连接其中主机填写hive所在节点地址，端口10000为默认，数据库名不填则是默认default数据库，用户名密码填写hadoop集群中能操作hdfs的用户和密码。

sunweiking·2023-12-23 12:38

【数仓_01】用户行为采集平台

2.1目标数据2.2埋点3、模拟数据3.1使用说明3.2集群日志生成脚本4、用户行为数据采集模块4.1数据通道4.2环境准备4.2.1集群所有进程查看脚本4.3Hadoop项目经验4.3.1项目经验之HDFS

温欣2030·2023-12-23 10:43

hadoop(十二)——自定义分区Partitioner

我们先来看看DataCount这个程序最终的执行结果是什么样子的，在查看之前我们需要先启动hdfs和ya

文子轩·2023-12-23 08:05

Mysql主从集群搭建——基于docker-compose一键部署

搭建初衷本身自己就是开发这类应用的工作者，一个私有库还是很有必要的。无论是公司项目还是私人项目都可以用到，不用担心忘记同步导致的数据丢失统一管理所有docker应用的数据（如果容器可以连接mysql的话）也方便随时修改数据结构可视化，方便拓展一些容器的功能，比如Halo的代码注意事项所有基础应用都会在统一一个docker公用网络中，要先创建这个网络。我们这边就是创建了一个名为basenetwork

滔涛江水·2023-12-23 00:59

multipass + k3s 搭建本地K3s高可用集群

k3s高可用集群搭建环境开始测试一下大功告成结束k3s高可用集群搭建环境k3s官网最新multipass+hyperv开始创建虚拟网卡外部选择要连接的物理设备网卡名WAN创建虚拟机数据库节点以及负载均衡节点

提醒针线活小助手·2023-12-22 23:10

hyper-v ubuntu 3节点 k8s集群搭建

前奏搭建一主二从的k8s集群，如图所示，准备3台虚拟机。不会创建的同学，可以看我上上篇博客：https://blog.csdn.net/dawnto/article/details/135086252和上篇博客：https://blog.csdn.net/dawnto/article/details/135096182由于测试机器资源有限，将3台虚拟机内存均设置为2048MB，CPU核心均设置为2

metabit·2023-12-22 22:09

Hbase2.1 集群搭建

>Hbase在大数据的体系中扮演着DB角色，不得不说是重要的一员，在上一篇，大猪已经给大家演示了[Hadoop3.2集群搭建](https://www.jianshu.com/p/3182aaff918d

kikiki4·2023-12-22 22:56

DataX安装与原理

一、简介与安装DataX是一个异构数据源离线同步工具，致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能

大数据点滴·2023-12-22 14:05

zookeeper集群搭建详细步骤

搭建说明前置环境：实例1实例2实例3IP192.168.11.11192.168.11.12192.168.11.13OScentos7.9centos7.9centos7.9zkzookeeper-3.8.0zookeeper-3.8.0zookeeper-3.8.0javaJDK8JDK8JDK8安装zookeeper集群依赖java环境，请在三台机器上先自行安装JDK。如果java环境已就绪

dnice·2023-12-22 09:53

分布式系统详解--框架（Zookeeper-简介和集群搭建）

分布式系统详解--框架（Zookeeper-简介和集群搭建）一、Zookeeper简介1.1Zookeeper是什么？

JAVA和人工智能·2023-12-22 09:51

centos spark单机版伪分布式模式

1.2Spark部署依赖SparkStandalone的运行依赖于JDK、Scala，本来是不依赖于Hadoop的，但Spark自带的许多演示程序都依赖于HadoopHDFS，因此我们也部署了伪分布式的

数据萌新·2023-12-22 07:17

Nacos配置管理

Nacos配置管理文章目录Nacos配置管理统一配置管理配置自动刷新多环境配置nacos集群搭建集群结构图搭建集群初始化数据库下载nacos配置Nacos启动nginx反向代理优化统一配置管理com.alibaba.cloudspring-cloud-starter-alibaba-nacos-configspring

shall_zhao·2023-12-22 07:44

HDFS NFS Gateway(环境配置，超级详细！！)

HDFSNFSGateway简介:HDFSNFSGateway是HadoopDistributedFileSystem（HDFS）中的一个组件，它允许客户端通过NFS（NetworkFileSystem

syst1m'·2023-12-22 07:41

解决There are 0 datanode(s) running and no node(s) are excluded in this operation.

参考来源：https://blog.csdn.net/weixin_41374755/article/details/107146445解释：出现本问题是在本人在hdfs上传本地文件夹过程中出现一大串错误

什么都不太会的研究生·2023-12-22 07:08

hbase用shell命令新建表报错ERROR: KeeperErrorCode = NoNode for /hbase/master

HMaster,如果没有，开启一下hbase,稍微等一会儿，再看一下HMaster,如果仍和下图一样没有，就基本找到问题了本人问题原因：hbase-site.xml的配置中，例如：hbase.rootdirhdfs

什么都不太会的研究生·2023-12-22 07:32

大数据技术探索

1.1HDFS1）HDFS集群包括：NameNode和DataNode以及SecondaryNamenode。

三翼鸟数字化技术团队·2023-12-22 06:32

Hbase--面试题整理-01

01-Hbase的特点以下五点需要准确说出的，如果可以还可以将一下Hbase的写入比读取快的原因(1)Hbase一个分布式的基于列式存储的数据库,基于Hadoop的hdfs存储，zookeeper进行管理

李小李的路·2023-12-22 03:51

spark架构

Spark中的计算可以简单抽象为对RDD的创建、转换和返回操作结果的过程：创建通过加载外部物理存储（如HDFS）

allin8116·2023-12-22 01:47

大数据----32.hbase高可用的演示

1、概述：Hbase的优缺点和适用场景优点：HBase底层基于HDFS存储，高可用、高扩展、强一致性，支持上亿级别数据。

学无止境的大象·2023-12-21 19:10

大数据---33.HBase数据结构

一、HBase简介HBase是一个开源的、分布式的、版本化的NoSQL数据库（即非关系型数据库），依托Hadoop分布式文件系统HDFS提供分布式数据存储，利用MapReduce来处理海量数据，用Zookeeper

学无止境的大象·2023-12-21 19:07

计算机毕业设计hadoop+spark+hive直播可视化分析大屏直播推荐系统数据仓库体育赛事分析足球分析推荐系统体育赛事推荐系统大数据毕业设计

爬虫)、spark、hadoop、scala、hive、sqoop、Flask、echarts、mysql分析流程：python爬取直播数据存到.csv文件、mysql数据库(备份数据集)，上传CSV到hdfs

计算机毕业设计大神·2023-12-21 19:26

Hadoop进阶2-Hadoop权威指南C1-C6阅读笔记

C1初识HadoopRAID-冗余硬盘阵列Hadoop提供了一个可靠的共享存储和分析系统HDFS-实现数据的存储MapReduce-实现数据的分析和处理寻址是将磁头移动到特定硬盘位置进行读写操作的过程-

neo_ng·2023-12-21 18:02

采用Flume-kafka-Flume将数据导入到HDFS中

首先先去官网下载flumehttp://flume.apache.org/download.html安装Flume，然后进行配置下载完成后，解压tar-zxvfapache-flume-1.9.0-bin解压完成之后，进入conf目录下面，把flume-env.sh.template文件更改为flume-env.sh，然后进入flume-env.sh配置jdk的路径。exportJAVA_HOME

坠机的舒克·2023-12-21 17:55

Kafka | Flume Sink日志到Kafka&HDFS

记录下将服务端AC设备产生的数据采集到Flume中，然后基于FlumeSink把数据日志同时写入到Kafka与HDFS中，对于Kafka中的数据保存到指定的Topic中，然后后续基于SparkStreaming

点滴笔记·2023-12-21 17:53

Flume多路复用模式把接收数据注入kafka 的同时，将数据备份到HDFS目录

启动hadoop、在hdfs中创建需要访问的目录配置Hadoop的核心配置文件core-site.xml：设置Hadoop的核心配置参数，例如NameNode的地址、数据块大小、副本数量等。

HaveAGoodDay.·2023-12-21 17:52

linux重新启动集群out,ZooKeeper集群搭建中Connection refused而导致的启动失败

1.前言每一次搭建集群环境都像一次战斗，作战中任何一个细节的出错都会导致严重的后果，所以搭建中所需要做的配置如系统配置、网络配置(防火墙记得关)、用户权限、文件权限还有配置文件等等内容，都必须非常仔细，将失误扼杀在摇篮之中，避免因为粗心或者想要提高速度省下的一分钟，在后面付出几个小时的调试时间，因小失大实在不值，切记核对、核对再核对。今天就来说说在搭建ZooKeeper集群遇到的一个常见的问题Co

纳仁菜菜·2023-12-21 15:57

Zookeeper集群搭建

Zookeeper集群搭建一、机器环境准备准备三台虚拟机，关闭防火墙或开通网络策略保证集群互通，并安装配置jdk即可（jdk环境变量配置应是全局）二、下载地址https://mirrors.tuna.tsinghua.edu.cn

z先生想学习·2023-12-21 15:57

zookeeper 集群搭建

通过VMware，我们安装了三台虚拟机，用来搭建zookeeper集群，虚拟机网络地址如下：hostnameipaddresssubnetmaskgeteway1、master192.168.146.200255.255.255.0192.168.146.22、slave1192.168.146.201255.255.255.0192.168.146.23、slave2192.168.146.20

weixin_34008933·2023-12-21 15:56

Zookeeper集群搭建及错误排除

第一步：安装jdk环境第二步：把zookeeper的压缩包上传到服务器第三步：将zookeeper压缩包解压第四步：创建一个目录[root@localhost~]#mkdir/usr/local/zookeeper-cloud第五步：复制三份zookeeper到刚创建的目录下[root@localhost~]#cp-rzookeeper/usr/local/solr-cloud/zookeeper

小猿猴53·2023-12-21 15:25

ZooKeeper 集群搭建

文章目录ZooKeeper概述选举机制搭建前准备分布式配置分布式安装解压缩并重命名配置环境配置服务器编号配置文件操作集群编写脚本运行脚本搭建过程中常见错误ZooKeeper概述Zookeeper是一个开源的分布式服务协调框架，由Apache软件基金会开发和维护。以下是对Zookeeper的主要概述：设计目标：提供分布式环境中的数据一致性。为分布式应用程序提供协调服务。简化复杂分布式系统的构建和管理

撕得失败的标签·2023-12-21 15:25

Zookeeper集群搭建常见问题

通过命令：ZkServer.shstatus查看zookeeper状态显示以下错误1.Mode:standalonezookeeper处于单机模式，说明此时zookeeper的zoo.cfg文件配置有问题2.Errorcontactingservice.Itisprobablynotrunning.(1)由于我们总共使用三个zookeeper服务器，所以会涉及到zookeeper之间的选举问题因此

Zsx..·2023-12-21 15:53

Linux之zookeeper集群搭建

Linux之zookeeper集群搭建day14此篇内容详细介绍zookeeper集群的搭建，以及萌新路上碰见的花里胡哨的问题，（没错就是我，我把坑一个一个算是踩完了~~必须汇总一下我遇到妖魔鬼怪！）

每日小新·2023-12-21 15:23

zookeeper集群搭建，蹲坑的时间zookeeper学好了

zookeeper学习第一章1.1概述：第二章Zookeeper安装2.1安装前准备2.2配置zookeeper2.3启动操作zookeeper。第三章Zookeeper集群安装操作3.1集群安装3.2配置zookeeper3.3分别启动三台机器的zookeeper。3.4配置参数解读四zookeeper常见错误4.1访问ip:8080出现以下页面4.2KeeperErrorCode=NoNode

懒人三十·2023-12-21 15:22

推荐频道

hdfs集群搭建

服务器运维 专有名词