flume集群搭建

kafka KRaft 集群搭建

kafkaKRaft集群安装包下载https://downloads.apache.org/kafka/3.6.1/kafka_2.13-3.6.1.tgzkafka集群构建好后的数据目录结构[root@localhostdata]#tree/data/kafka/data/kafka├──kafka-1#节点1源码目录├──kafka-2#节点2源码目录├──kafka-3#节点3源码目录└──
liao__ran·2024-01-10 11:07

K8S集群搭建及控制面板安装

环境准备三台虚拟机主机名配置IP地址master4G4C192.168.0.200node12G4C192.168.0.201node22G4C192.168.0.202注：没特意说明在那个节点执行意思就是全部都要停止防火墙systemctldisablefirewalldsystemctlstopfirewalld禁用SELinux#永久关闭sed-i's/enforcing/disabled/
Rune Mage·2024-01-10 10:53

Zookeeper系列（一）集群搭建（非容器）

系列文章Zookeeper系列（一）集群搭建（非容器）目录前言下载搭建Data目录Conf目录集群复制和修改启动配置示例测试总结前言Zookeeper是一个开源的分布式协调服务，其设计目标是将那些复杂的且容易出错的分布式一致性服务封装起来
丶醉卧·2024-01-10 09:48

kubernetes集群搭建ES

---apiVersion:v1kind:Servicemetadata:name:elasticsearchnamespace:${K8S_NAMESPACE}labels:k8s-app:elasticsearchkubernetes.io/cluster-service:"true"addonmanager.kubernetes.io/mode:Reconcilekubernetes.io/
序冢--磊·2024-01-10 09:00

Hadoop集群搭建：4.修改Hadoop的配置文件、节点启动

配置文件的路径：/module/hadoop-2.7.2/etc/hadoop1.核心配置文件配置core-site.xml,命令：vicore-site.xml在该文件的中config范围内编写如下配置fs.defaultFShdfs://node1:9000hadoop.tmp.dir/module/hadoop-2.7.2/data/tmpcore-site.xml2.HDFS配置文件配置h
丶珍视当下·2024-01-09 23:38

Flume的安装

下载地址：http://archive.apache.org/dist/flume/1.解压apache-flume-1.7.0-bin.tar.gz到/opt/module/目录下[honey@hadoop102software
静宸丶水默含声·2024-01-09 19:32

Flume实时读取本地/目录文件到HDFS

目录一、准备工作二、实时读取本地文件到HDFS（一）案例需求（二）需求分析（三）实现步骤三、实时读取目录文件到HDFS（一）案例需求（二）需求分析（三）实现步骤一、准备工作Flume要想将数据输出到HDFS
Francek Chen·2024-01-09 18:38

java 全栈高级工程师，架构师学习资源 交流

redis集群zookeeper集群搭建与调优dubbo/dubbox分布式服务jvm调优，内存分析java并发dockerlinuxjmeter性能测试netty/minamycathadoop管理级别技能
昵称不能为null·2024-01-09 15:03

hadoop分布式集群搭建

虚拟机准备虚拟机单机配置：内存4G，硬盘50G安装好linux/boot200M/swap2g/剩余*安装VMTools关闭防火墙sudoserviceiptablesstopsudochkconfigiptablesoff设置静态IP，改主机名编辑vim/etc/sysconfig/network-scripts/ifcfg-eth0改成=============================
麦田里的稻草人19994·2024-01-09 08:24

hadoop集群搭建、spark集群搭建、pyspark搭建（linux+window）

1、前言本文记录学习过程中Hadoop、zookeeper、spark集群搭建，主要为pyspark库服务（具体为window上pyspark环境和pyspark库，linux上spark框架、pyspark
Lfx_come on·2024-01-09 06:02

Elasticsearch集群搭建、优化及实践

文章目录一、Elasticsearch集群1、Elasticsearch集群概念2、Elasticsearch集群安装3、安装Kibana4、测试集群状态二、Elasticsearch优化1、磁盘选择2、分片策略3、内存设置三、Elasticsearch实践1、ES自动补全2、创建索引3、安装logstash导入数据4、项目搭建5、自动补全功能6、高亮搜索关键字功能7、页面展示总结：一、Elast
帅得真的是无敌了·2024-01-08 23:28

一、二进制方式 安装部署K8S

目录一、操作系统初始化1、关闭防火墙2、关闭SELinu3、关闭swap4、添加hosts5、同步系统时间二、集群搭建——使用外部Etcd集群1、自签证书2、自签EtcdSSL证书①创建CA配置文件：ca-config.json②
繁华依在·2024-01-08 18:28

java技术专家【分布式框架】Mycat2应用与实战教程（四）

因此，接下来我们来完成Mysql双主双从的集群搭建，双主双从的原理很简单，相当于有两个一主一从，然后两个主节点再互为主从，互相复制数据，然后借助MyCat的机制，先把一台主作为写库，另
不走小道·2024-01-08 16:15

StarRocks集群搭建

StarRocks集群搭建一、StarRocks简介StarRocks是新一代极速全场景MPP(MassivelyParallelProcessing)数据库。
awsless·2024-01-08 14:41

Hadoop、Pig、Hive、Storm、NOSQL 学习资源收集【Updating】 (转)

目录[-]（一）hadoop相关安装部署（二）hive（三）pig（四）hadoop原理与编码（五）数据仓库与挖掘（六）Oozie工作流（七）HBase（八）flume（九）sqoop（十）ZooKeeper
我爱大海V5·2024-01-08 08:15

Flume基础知识（十一）：Flume自定义接口

1）案例需求使用Flume采集服务器本地日志，需要按照日志类型的不同，将不同种类的日志发往不同的分析系统。
依晴无旧·2024-01-08 08:08

Flume基础知识（十）：Flume 聚合实战

1）案例需求：hadoop100上的Flume-1监控文件/opt/module/group.log，hadoop101上的Flume-2监控某一个端口的数据流，Flume-1与Flume-2将数据发送给
依晴无旧·2024-01-08 08:23

SpringBoot基于Redis(7.2)分片集群实现读写分离

文章目录一、前置提要二、集群搭建三、SpringBoot访问分片集群一、前置提要SpringBoot访问Redis分片集群和Redis哨兵模式，使用上没有什么区别。
木子dn·2024-01-07 09:40

【K8S】v1.26集群搭建 - 完整篇

K8Sv1.26集群环境安装-完整篇Kubernetes1.26安装一、集群简介资源清单二、Vagrant创建三台CentOS7服务器三、虚拟机环境配置四、docker安装五、k8s安装六、k8smaster节点初始化操作步骤初始化失败问题集6.1问题：`containerd`问题6.2问题：`cgroup`问题七、k8s从节点加入master节点操作步骤加入失败问题集7.1token过期7.2.
swotXu·2024-01-07 08:34

k8s- 集群搭建(kubeadm 方式)

1、前置知识点目前生产部署Kubernetes集群主要有两种方式：（1）kubeadmKubeadm是一个K8s部署工具，提供kubeadminit和kubeadmjoin，用于快速部署Kubernetes集群。官方地址：https://kubernetes.io/docs/reference/setup-tools/kubeadm/kubeadm/（2）二进制包从github下载发行版的二进制包
码农GG·2024-01-07 00:35

ElasticSearch 8.6.1 集群搭建

首先保证每个单节点都可以启动然后在组成集群之前要删除之前单节点启动的data的node信息每个es节点的配置viconfig/elasticsearch.ymlcluster.name:my-application//集群名称，集群里的每个节点都一样node.name:node-235//节点名称，集群里的每一个都不一样path.data:/home/xxx/es/data//自定义path.lo
xyq54·2024-01-06 23:33

es 简单集群搭建，版本8.6.2

Node-1配置：#elasticsearch.ymlforNode-1cluster.name:my-test-clusternode.name:node-1path.data:/path/to/data/node-1path.logs:/path/to/logs/node-1network.host:127.0.0.1http.port:9200transport.port:9300disco
mmmmm12342·2024-01-06 23:30

记Flume-NG一些注意事项

记Flume-NG一些注意事项(不定时更新，欢迎提供信息)这里只考虑flume本身的一些东西，对于JVM、HDFS、HBase等得暂不涉及。。。。
达微·2024-01-06 19:46

Flume基础知识（七）：Flume 事务与 Flume Agent 内部原理

1.Flume事务详解2.FlumeAgent内部原理重要组件：1）ChannelSelectorChannelSelector的作用就是选出Event将要被发往哪个Channel。
依晴无旧·2024-01-06 17:58

Flume基础知识（九）：Flume 企业开发案例之复制和多路复用

1）案例需求使用Flume-1监控文件变动，Flume-1将变动内容传递给Flume-2，Flume-2负责存储到HDFS。
依晴无旧·2024-01-06 17:58

Flume基础知识（六）：Flume实战之实时监控目录下的多个追加文件

1）案例需求:使用Flume监听整个目录的实时追加文件，并上传至HDFS2）需求分析:3）实现步骤：（1）创建配置文件flume-taildir-hdfs.c
依晴无旧·2024-01-06 17:28

Flume基础知识（八）：Flume 拓扑结构全解

1.简单串联这种模式是将多个flume顺序连接起来了，从最初的source开始到最终sink传送的目的存储系统。
依晴无旧·2024-01-06 17:51

Spark Streaming与数据源连接：Kinesis、Flume等

本文将介绍如何使用SparkStreaming连接各种数据源，包括AmazonKinesis、ApacheFlume等，并提供详细的示例代码，以帮助大家构建实时数据处理应用程序。
晓之以理的喵~~·2024-01-06 16:13

flume实验（数据采集与预处理课程，皆是本机操作）

avro类型固定的日志文件内容spooling类型固定的日志目录的新增文件内容exec类型自定义的、实时的（采集新增加的），去重的采集固定的日志文件的内容syslog类型利用tcp、udp通信协议，采集端自动采集端口日志5140netcat类型也是利用tcp、udp通信协议，自定义端口avro端口，只接收来来自外部avro客户端的事件流（avro序列化后的数据）监听固定的日志文件的内容avro监听
你这个年纪你是怎么睡得着的·2024-01-06 14:10

大数据采集与预处理技术

大数据的关键技术1.3大数据采集与数据预处理技术1.3.1大数据采集技术1.3.2数据预处理技术第二章数据采集基础2.1传统数据采集技术2.2大数据采集基础第三章大数据采集架构1.Chukwa数据采集2.Flume
Sparky*·2024-01-06 14:10

【数据采集与预处理】流数据采集工具Flume

目录一、Flume简介（一）Flume定义（二）Flume作用二、Flume组成架构三、Flume安装配置（一）下载Flume（二）解压安装包（三）配置环境变量（四）查看Flume版本信息四、Flume
Francek Chen·2024-01-06 14:07

Apache Pulsar[4] 伪集群环境搭建

1准备工作操作系统：macOs运行环境：java82集群组成zk集群（3个节点）bk集群（3个节点）pulsar集群（3个节点）3搭建过程3.1zk集群搭建zk版本：3.4.121下载并解压zk2将解压好的
QuinnSun·2024-01-06 13:08

Spark集群搭建

Spark集群结构图名词解释Driver该进程调用Spark程序的main方法，并且启动SparkContextClusterManager该进程负责和外部集群工具打交道，申请或释放集群资源Worker该进程是一个守护进程，负责启动和管理ExecutorExecutor该进程是一个JVM虚拟机，负责运行SparkTask运行一个Spark程序大致经历如下几个步骤启动Driver,创建SparkCo
我像影子一样·2024-01-06 09:43

RabbitMQ集群搭建

目录1RabbitMQ集群搭建2镜像模式2.1镜像模式实现3HAProxy安装和配置3.1.X86架构的CentOS虚拟机中安装HAProxy编辑3.2ARM架构的CentOS虚拟机中安装HAProxy4HAProxy
1　　　　　　·2024-01-05 21:20

Redis缓存高可用集群

Redis缓存高可用集群一、Redis集群方案比较1、哨兵模式2、高可用集群模式二、Redis高可用集群搭建1、在第一台服务器建立两个节点2、第一个节点的redis.conf配置3、启动6个redis实例
编程小菜吉·2024-01-05 15:32

SparkStreaming基础解析（四）

SparkStreaming支持的数据输入源很多，例如：Kafka、Flume、Twitter、ZeroMQ和简单的TCP套接字等等。
有语忆语·2024-01-05 10:05

【大数据（一）】hadoop2.4.1集群搭建(重点)

1.准备Linux环境1.0先将虚拟机的网络模式选为NAT1.1修改主机名vi/etc/sysconfig/networkNETWORKING=yesHOSTNAME=server1.itcast.cn1.2修改ip地址vi/etc/sysconfig/network-scripts/ifcfg-eth0重新启动网络：servicenetworkrestart1.3修改ip地址和主机名的映射关系v
幸福巡礼·2024-01-05 08:09

ClickHouse高可用集群搭建（离线安装）

一、简介ClickHouse官网二、生产集群搭建准备Zookeeper集群Linux服务器四台(以四台为列)创建用户组和用户groupaddclickhouse---创建用户组useradd-m-d/home
Sql强·2024-01-04 15:49

ElasticSearch 集群搭建与状态监控cerebro

海量数据存储问题:将索引库从逻辑上拆分为N个分片(shard)，存储到多个节点单点故障问题:将分片数据在不同节点备份(replica)目录一、部署es集群二、集群搭建案例：利用3个docker容器模拟3
Crhy、Y·2024-01-04 13:16

ZooKeeper+Kafka+ELK+Filebeat集群搭建实现大批量日志收集和展示

文章目录一、集群环境准备二、搭建ZooKeeper集群和配置三、搭建Kafka集群对接zk四、搭建ES集群和配置五、部署Logstash消费Kafka数据写入至ES六、部署Filebeat收集日志七、安装Kibana展示日志信息一、集群环境准备1.1因为资源原因这里我就暂时先一台机器部署多个应用给大家演示硬件资源节点组件8c16g50node1-192.168.40.162Kafka+ZooKee
小蔡技术栈·2024-01-04 11:09

Flume基础知识（二）：Flume安装部署

1.Flume安装部署1.1安装地址（1）Flume官网地址：WelcometoApacheFlume—ApacheFlume（2）文档查看地址：Flume1.11.0UserGuide—ApacheFlume
依晴无旧·2024-01-04 10:08

Flume基础知识（四）：Flume实战之实时监控单个追加文件

1）案例需求：实时监控Hive日志，并上传到HDFS中2）需求分析：3）实现步骤：（1）Flume要想将数据输出到HDFS，依赖Hadoop相关jar包检查/etc/profile.d/my_env.sh
依晴无旧·2024-01-04 10:08

Flume基础知识（五）：Flume实战之实时监控目录下多个新文件

1）案例需求：使用Flume监听整个目录的文件，并上传至HDFS2）需求分析：3）实现步骤：（1）创建配置文件flume-dir-hdfs.conf创建一个文件vimflume-dir-hdfs.conf
依晴无旧·2024-01-04 10:08

Flume

FlumeFlume是一种分布式、可靠且可用的服务高效收集、聚合和移动大量日志数据。它具有基于流媒体的简单灵活的架构数据流。它坚固耐用，容错，可靠性可调机制以及许多故障转移和恢复机制。
李昊哲小课·2024-01-04 10:03

Flume基础知识（三）：Flume 实战监控端口数据官方案例

1.监控端口数据官方案例1）案例需求：使用Flume监听一个端口，收集该端口数据，并打印到控制台。
依晴无旧·2024-01-04 10:26

Nacos 持久化及集群的搭建【微服务】

文章目录一、统一配置管理二、微服务配置拉取三、配置热更新四、多环境共享配置五、Nacos集群搭建1.集群结构2.初始化数据库3.搭建集群六、Nginx反向代理七、启动项目测试一、统一配置管理案例练习的时候我们只有两个微服务
栈老师不回家·2024-01-04 10:51

深入理解Mysql MHA高可用集群搭建：从实验到实战

1.简介MHA（MasterHighAvailability）是一个高效的开源MySQL高可用性解决方案。由日本开发者yoshinorim（前DeNA员工，现在Facebook）创建，MHA支持MySQL的主从复制架构，自动化主节点故障转移。当主节点发生故障，MHA能迅速将最新数据的从节点升级为新主节点。这个过程中，MHA从其他从节点获取额外信息，确保数据一致性。MHA还能在线切换主节点，按需调整
光芒软件工匠·2024-01-03 22:21

Spark Streaming + Flume

Push，指的是Flume主动push数据给SparkStreaming。Pull，指的是SparkStreaming主动从Flume拉取数据。
歌哥居士·2024-01-03 18:53

HDFS重温

今天被问到分布式，有些忘记，查资料回忆起分布式集群构建，现在重温集群搭建过程费话不多说，来个简图NameNode：HDFS群集包含单个NameNode（主服务器），它管理文件系统命名空间并控制客户端对文件的访问权限
zty_1995·2024-01-03 18:18

基于 Flink 的百亿数据去重实践

在工作中经常会遇到去重的场景，例如基于App的用户行为日志分析系统，用户的行为日志从手机客户端上报到Nginx服务端，通过Logstash、Flume或其他工具将日志从Nginx写入到Kafka中。
zhisheng_blog·2024-01-03 16:52
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他