bigdata集群搭建第6页

模块预制式数据中心方案评估与建议

我国数据中心的发展概况大数据(bigdata,megadata)信息技术产业是国家重点扶持的七大战略性新兴产业之一、在麦肯锡全球研究所McKinseyGlobalInstitute给出的定义是：一种规模大到在获取

Danny Chen D.C.·2024-01-14 04:44

专业的数据库连接工具：DBeaverEE for Mac中文版

深海___·2024-01-13 10:40

微服务自动化 etcd集群搭建

静态部署(前提)它需要开多个虚拟机那我们就找到你使用的那个虚拟机复制（强调两个主机都已经安装好了etcd服务并且能够正常运行）不是复制就可以使用我们需要把里面的不是vmdk和vmx的文件删了然后再回到我们的虚拟机，鼠标右键选择打开然后启动虚拟机它会提示我们是否已知虚拟机被复制选择已知复制该虚拟机就行（选第一个就会默认IP一样的）进来输入ifconfig查看IP再到外部进行连接连接之后我们在两个里面

巴枝子·2024-01-13 07:27

这次在搞不定 Redis 集群搭建！你来找我~~

Redis集群简介下载&安装Redis搭建Redis集群手动方式搭建自动方式搭Redis集群简介RedisCluster即Redis集群，是Redis官方在3.0版本推出的一套分布式存储方案。完全去中心化，由多个节点组成，所有节点彼此互联。Redis客户端可以直接连接任何一节点获取集群中的键值对，不需要中间代理，如果该节点不存在用户所指定的键值，其内部会自动把客户端重定向到键值所在的节点。Redi

码农开花·2024-01-12 20:42

Hbase2.1 集群搭建

Hbase在大数据的体系中扮演着DB角色，不得不说是重要的一员，在上一篇，大猪已经给大家演示了Hadoop3.2集群搭建了，本次我们将继续紧接着搭建Hbase集群。

kikiki2·2024-01-12 15:31

Mysql集群搭建学习02 2018-08-30

了解MySQLCluster主流MySQL集群框架对比主从复制框架MHAMasterHighAvailabilityManagerandToolsforMySQL日本专家采用Perl语言编写目的：维持Master主库的高可用性及数据的一致性特点：可以修复多个Slave之间的差异日志，使所有Slave保持数据一致，然后从中选择一个Slave数据库作为新的Maser，并将其它Slave指向它。当Mas

夏_未至·2024-01-12 13:34

starrocks权限管理-2.3.2版本

如果172.25.20.1被%替换就是所有ip都可以访问CREATEUSERbigdata@'172.25.20.1'IDENTIFIEDWITHmysql_native_passwordBY'Zhengda

远方有海，小样不乖·2024-01-12 08:50

Flink异步IO

本文代码gitee地址：https://gitee.com/ddxygq/BigDataTechnical/blob/main/Flink/src/main/java/operator/AsyncIODemo.java

大数据技术派·2024-01-12 07:00

Zookeeper+Hadoop+Spark+Flink+Kafka+Hbase+Hive

说明Zookeeper+Hadoop+Spark+Flink+Kafka+Hbase+Hive完全分布式高可用集群搭建下载https://archive.apache.org/dist/我最终选择Zookeeper3.7.1

nsa65223·2024-01-12 06:08

Kubernetes集群搭建

入职之前闲置在学校，跟着尚硅谷视频分别在云服务器和本地虚拟机各搭建了一套k8s集群（云服务器有点小贵），这里对搭建步骤做个总结。参考文档：https://www.yuque.com/leifengyang/oncloud/ghnb83[前置操作]安装docker1、移除以前的docker安装包sudoyumremovedocker\docker-client\docker-client-lates

青草再次仰望·2024-01-12 05:12

Spark完全分布式集群搭建

环境准备服务器集群我用的CentOS-6.6版本的4个虚拟机，主机名为hadoop01、hadoop02、hadoop03、hadoop04，另外我会使用hadoop用户搭建集群(生产环境中root用户不是可以任意使用的)spark安装包下载地址：https://mirrors.aliyun.com/apache/spark/我用的spark-2.2.0-bin-hadoop2.7.tgz要根据自

小猪Harry·2024-01-12 00:41

MongoDB分片集群搭建

MongoDB有三种集群架构模式，分别为主从复制（Master-Slaver）、副本集（ReplicaSet）和分片（Sharding）模式。Master-Slaver是一种主从复制的模式，目前已经不推荐使用ReplicaSet模式取代了Master-Slaver模式，是一种互为主从的关系。ReplicaSet将数据复制多份保存，不同服务器保存同一份数据，在出现故障时自动切换，实现故障转移。Mon

不吃稻米的熊·2024-01-12 00:39

Mongodb Replica Sets 副本集群搭建

ReplicaSets复制集搭建MongoDB有三种集群架构模式，分别为主从复制（Master-Slaver）、副本集（ReplicaSet）和分片（Sharding）模式。Master-Slaver是一种主从复制的模式，目前已经不推荐使用ReplicaSet模式取代了Master-Slaver模式，是一种互为主从的关系。ReplicaSet将数据复制多份保存，不同服务器保存同一份数据，在出现故障

不吃稻米的熊·2024-01-11 23:01

transbigdata笔记：数据栅格化

1area_to_grid在边界或形状中生成矩形栅格1.1主要使用方法transbigdata.area_to_grid(location, accuracy=500, method='rect', params

UQI-LIUWJ·2024-01-11 18:16

Hadoop高可靠集群搭建步骤（手把手教学）【超级详细】

Hadoop高可靠集群搭建步骤（手把手教学）【超级详细】文章目录1HA集群基础配置1.1创建系统为Centos7（Linux）的虚拟机1.2基本网络配置1.3连接FinalShell2NTP时间同步和免密登录

小伍_Five·2024-01-11 11:50

elasticsearch数据迁移之logstash

系列文章目录第一章es集群搭建第二章es集群基本操作命令第三章es基于search-guard插件实现加密认证第四章es常用插件第五章es数据迁移之elasticdump文章目录系列文章目录前言一、logstash

迷茫运维路·2024-01-11 08:59

记一次在K8s集群搭建的MySQL主从无法正常启动之数据迁移恢复实践

本章目录：记一次在K8s集群搭建的MySQL主从无法正常启动之数据迁移恢复实践描述:在K8s集群中里利用bitnami提供的mysql:5.7.32-debian-10-r61镜像并利用helm进行MySQL

全栈工程师修炼指南·2024-01-11 06:35

Kafka之集群搭建

1.为什么要使用kafka集群单机服务下，Kafka已经具备了非常高的性能。TPS能够达到百万级别。但是，在实际工作中使用时，单机搭建的Kafka会有很大的局限性。消息太多，需要分开保存。Kafka是面向海量消息设计的，一个Topic下的消息会非常多，单机服务很难存得下来。这些消息就需要分成不同的Partition，分布到多个不同的Broker上。这样每个Broker就只需要保存一部分数据。这些分

瑜伽娃娃·2024-01-11 03:22

Redis-Cluster 与 Redis 集群的技术大比拼

集群的技术大比拼前言概念与原理对比Redis-Cluster：基于哈希槽的分布式解决方案传统Redis集群：主从架构下的数据分片方式搭建与配置的异同Redis-Cluster搭建：哈希槽分配、节点配置等步骤传统Redis集群搭建

一只牛博·2024-01-10 21:43

【大数据进阶第三阶段之ClickHouse学习笔记】ClickHouse的简介和使用

开源地址：GitHub-ClickHouse/ClickHouse:ClickHouse®isafreeanalyticsDBMSforbigdata1.1优点灵活的MPP

Allen_lixl·2024-01-10 20:41

transbigdata 笔记：官方文档案例1（出租车GPS数据处理）

1读取数据官方文档中给定的出租车数据在transbigdata/docs/source/gallery/data/TaxiData-Sample.csvatmain·ni1o1/transbigdata

UQI-LIUWJ·2024-01-10 20:30

pandas笔记：找出在一个dataframe但不在另一个中的index

1问题描述假设我们有两个dataframe（这一段代码）来自transbigdata笔记：官方文档案例1（出租车GPS数据处理）-CSDN博客data=tbd.clean_outofshape(data

UQI-LIUWJ·2024-01-10 20:30

transbigdata笔记：数据预处理

0数据使用transbigdata/docs/source/gallery/data/TaxiData-Sample.csvatmain·ni1o1/transbigdata(github.com)和transbigdata

UQI-LIUWJ·2024-01-10 20:57

Hbase高可用集群搭建

集群资源与角色规划node1node2node3node4node5zookeeperzookeeperzookeepernn1nn2datanodedatanodedatanodedatanodedatanodejournaljournaljournalrm1rm2nodemanagernodemanagernodemanagernodemanagernodemanagerHMasterHMas

NikolasNull·2024-01-10 19:03

ctcd虚拟主机集群搭建

etcd集群搭建上篇文章给博友介绍了etcd及基本命令链接地址：http://t.csdnimg.cn/lMWtR本期介绍etcd集群搭建文章目录etcd集群搭建集群搭建：构建集群的三种方式：静态发现:

冷亿！·2024-01-10 17:54

etcd集群搭建

安装服务（参考上一篇Etcd安装以及操作）编辑etcd.conf文件，添加集群信息注意修改对应的ip参考etcd.conf,etcd_01.conf,etcd_02.conf修改/etc/etcd/etcd.conf文件后，要先删除/var/lib/etcd目录下保存的数据，再重新启用服务，不然失败cd/var/lib/etcd&&rm-rf*为节点etcd01创建一个etcd服务/etc/sys

鸣名旧·2024-01-10 12:20

kafka KRaft 集群搭建

kafkaKRaft集群安装包下载https://downloads.apache.org/kafka/3.6.1/kafka_2.13-3.6.1.tgzkafka集群构建好后的数据目录结构[root@localhostdata]#tree/data/kafka/data/kafka├──kafka-1#节点1源码目录├──kafka-2#节点2源码目录├──kafka-3#节点3源码目录└──

liao__ran·2024-01-10 11:07

K8S集群搭建及控制面板安装

环境准备三台虚拟机主机名配置IP地址master4G4C192.168.0.200node12G4C192.168.0.201node22G4C192.168.0.202注：没特意说明在那个节点执行意思就是全部都要停止防火墙systemctldisablefirewalldsystemctlstopfirewalld禁用SELinux#永久关闭sed-i's/enforcing/disabled/

Rune Mage·2024-01-10 10:53

Zookeeper系列（一）集群搭建（非容器）

系列文章Zookeeper系列（一）集群搭建（非容器）目录前言下载搭建Data目录Conf目录集群复制和修改启动配置示例测试总结前言Zookeeper是一个开源的分布式协调服务，其设计目标是将那些复杂的且容易出错的分布式一致性服务封装起来

丶醉卧·2024-01-10 09:48

kubernetes集群搭建ES

---apiVersion:v1kind:Servicemetadata:name:elasticsearchnamespace:${K8S_NAMESPACE}labels:k8s-app:elasticsearchkubernetes.io/cluster-service:"true"addonmanager.kubernetes.io/mode:Reconcilekubernetes.io/

序冢--磊·2024-01-10 09:00

2024年第九届大数据分析国际会议（ICBDA2024）即将召开！

会议官网：ICBDA-BigData@Tokyohtt

爱科会易·2024-01-10 05:13

Hadoop集群搭建：4.修改Hadoop的配置文件、节点启动

配置文件的路径：/module/hadoop-2.7.2/etc/hadoop1.核心配置文件配置core-site.xml,命令：vicore-site.xml在该文件的中config范围内编写如下配置fs.defaultFShdfs://node1:9000hadoop.tmp.dir/module/hadoop-2.7.2/data/tmpcore-site.xml2.HDFS配置文件配置h

丶珍视当下·2024-01-09 23:38

java 全栈高级工程师，架构师学习资源交流

redis集群zookeeper集群搭建与调优dubbo/dubbox分布式服务jvm调优，内存分析java并发dockerlinuxjmeter性能测试netty/minamycathadoop管理级别技能

昵称不能为null·2024-01-09 15:03

hadoop分布式集群搭建

虚拟机准备虚拟机单机配置：内存4G，硬盘50G安装好linux/boot200M/swap2g/剩余*安装VMTools关闭防火墙sudoserviceiptablesstopsudochkconfigiptablesoff设置静态IP，改主机名编辑vim/etc/sysconfig/network-scripts/ifcfg-eth0改成=============================

麦田里的稻草人19994·2024-01-09 08:24

hadoop集群搭建、spark集群搭建、pyspark搭建（linux+window）

1、前言本文记录学习过程中Hadoop、zookeeper、spark集群搭建，主要为pyspark库服务（具体为window上pyspark环境和pyspark库，linux上spark框架、pyspark

Lfx_come on·2024-01-09 06:02

mysql单表的多种查询之DQL操作

DQL操作简单查询--1、准备查询的数据#创建商品表droptableifexistsbigdata_db.product;CREATETABLEbigdata_db.product(pidINTPRIMARYKEY

爱学习的小su·2024-01-09 01:41

springboot集成jedis

falseconfig:maxIdle:100maxTotal:1000minIdle:50maxWaitMillis:1000testOnBorrow:true2创建jedis连接池packagecom.bigdata.admin.util

西门不止会吹雪·2024-01-09 00:30

Elasticsearch集群搭建、优化及实践

文章目录一、Elasticsearch集群1、Elasticsearch集群概念2、Elasticsearch集群安装3、安装Kibana4、测试集群状态二、Elasticsearch优化1、磁盘选择2、分片策略3、内存设置三、Elasticsearch实践1、ES自动补全2、创建索引3、安装logstash导入数据4、项目搭建5、自动补全功能6、高亮搜索关键字功能7、页面展示总结：一、Elast

帅得真的是无敌了·2024-01-08 23:28

一、二进制方式安装部署K8S

目录一、操作系统初始化1、关闭防火墙2、关闭SELinu3、关闭swap4、添加hosts5、同步系统时间二、集群搭建——使用外部Etcd集群1、自签证书2、自签EtcdSSL证书①创建CA配置文件：ca-config.json②

繁华依在·2024-01-08 18:28

java技术专家【分布式框架】Mycat2应用与实战教程（四）

因此，接下来我们来完成Mysql双主双从的集群搭建，双主双从的原理很简单，相当于有两个一主一从，然后两个主节点再互为主从，互相复制数据，然后借助MyCat的机制，先把一台主作为写库，另

不走小道·2024-01-08 16:15

StarRocks集群搭建

StarRocks集群搭建一、StarRocks简介StarRocks是新一代极速全场景MPP(MassivelyParallelProcessing)数据库。

awsless·2024-01-08 14:41

成功法则:成功学的学习法则

本文来源：公众号“大数据文摘”（ID：BigDataDigest）。“蓝橡树”获授权转载。........................................持续学习者通常具备两项特

拼搏奋斗者·2024-01-08 12:06

DataOps：数据中台的必备底座

DataOps的历史2014年，LennyLiebmann提出DataOps[1]的概念，在《3reasonswhyDataOpsisessentialforbigdatasuccess》这篇文章中，Lenny

灯惉·2024-01-07 15:32

SpringBoot基于Redis(7.2)分片集群实现读写分离

文章目录一、前置提要二、集群搭建三、SpringBoot访问分片集群一、前置提要SpringBoot访问Redis分片集群和Redis哨兵模式，使用上没有什么区别。

木子dn·2024-01-07 09:40

【K8S】v1.26集群搭建 - 完整篇

K8Sv1.26集群环境安装-完整篇Kubernetes1.26安装一、集群简介资源清单二、Vagrant创建三台CentOS7服务器三、虚拟机环境配置四、docker安装五、k8s安装六、k8smaster节点初始化操作步骤初始化失败问题集6.1问题：`containerd`问题6.2问题：`cgroup`问题七、k8s从节点加入master节点操作步骤加入失败问题集7.1token过期7.2.

swotXu·2024-01-07 08:34

Lambda常用表达式

还有toSet()，toMap()等filter过滤筛选max和min在集合中求最大或最小值count统计，结合filter使用sorted排序默认升序importcom.bigdata.bigdata.entity.User

战战的坚果·2024-01-07 00:38

k8s- 集群搭建(kubeadm 方式)

1、前置知识点目前生产部署Kubernetes集群主要有两种方式：（1）kubeadmKubeadm是一个K8s部署工具，提供kubeadminit和kubeadmjoin，用于快速部署Kubernetes集群。官方地址：https://kubernetes.io/docs/reference/setup-tools/kubeadm/kubeadm/（2）二进制包从github下载发行版的二进制包

码农GG·2024-01-07 00:35

ElasticSearch 8.6.1 集群搭建

首先保证每个单节点都可以启动然后在组成集群之前要删除之前单节点启动的data的node信息每个es节点的配置viconfig/elasticsearch.ymlcluster.name:my-application//集群名称，集群里的每个节点都一样node.name:node-235//节点名称，集群里的每一个都不一样path.data:/home/xxx/es/data//自定义path.lo

xyq54·2024-01-06 23:33

es 简单集群搭建，版本8.6.2

Node-1配置：#elasticsearch.ymlforNode-1cluster.name:my-test-clusternode.name:node-1path.data:/path/to/data/node-1path.logs:/path/to/logs/node-1network.host:127.0.0.1http.port:9200transport.port:9300disco

mmmmm12342·2024-01-06 23:30

Apache Pulsar[4] 伪集群环境搭建

1准备工作操作系统：macOs运行环境：java82集群组成zk集群（3个节点）bk集群（3个节点）pulsar集群（3个节点）3搭建过程3.1zk集群搭建zk版本：3.4.121下载并解压zk2将解压好的

QuinnSun·2024-01-06 13:08

推荐频道

bigdata集群搭建