整体架构日志采集端FlumeFlume的设计宗旨是向Hadoop集群批量导入基于事件的海量数据。系统中最核心的角色是agent，Flume采集系统就是由一个个agent所连接起来形成。

1、数据通道2、Flume配置1）Flume配置概述Flume需要将Kafka中topic_db主题的数据传输到HDFS，故其需选用KafkaSource以及HDFSSink，Channel选用FileChannel

接着使用flume监控采集这些文件，然后发送给kafka中待消费。

1.2Phoenix特点容易集成：如Spark，Hive，Pig，Flume和MapReduce。

它支持从很多种数据源中读取数据，比如Kafka、Flume、Twitter、ZeroMQ、Kinesis或者是TCPSocket。

下载地址：http://archive.apache.org/dist/flume/1.解压apache-flume-1.7.0-bin.tar.gz到/opt/module/目录下[honey@hadoop102software

目录一、准备工作二、实时读取本地文件到HDFS（一）案例需求（二）需求分析（三）实现步骤三、实时读取目录文件到HDFS（一）案例需求（二）需求分析（三）实现步骤一、准备工作Flume要想将数据输出到HDFS

目录[-]（一）hadoop相关安装部署（二）hive（三）pig（四）hadoop原理与编码（五）数据仓库与挖掘（六）Oozie工作流（七）HBase（八）flume（九）sqoop（十）ZooKeeper

1）案例需求使用Flume采集服务器本地日志，需要按照日志类型的不同，将不同种类的日志发往不同的分析系统。

1）案例需求：hadoop100上的Flume-1监控文件/opt/module/group.log，hadoop101上的Flume-2监控某一个端口的数据流，Flume-1与Flume-2将数据发送给

记Flume-NG一些注意事项(不定时更新，欢迎提供信息)这里只考虑flume本身的一些东西，对于JVM、HDFS、HBase等得暂不涉及。。。。

1.Flume事务详解2.FlumeAgent内部原理重要组件：1）ChannelSelectorChannelSelector的作用就是选出Event将要被发往哪个Channel。

1）案例需求使用Flume-1监控文件变动，Flume-1将变动内容传递给Flume-2，Flume-2负责存储到HDFS。

1）案例需求:使用Flume监听整个目录的实时追加文件，并上传至HDFS2）需求分析:3）实现步骤：（1）创建配置文件flume-taildir-hdfs.c

1.简单串联这种模式是将多个flume顺序连接起来了，从最初的source开始到最终sink传送的目的存储系统。

本文将介绍如何使用SparkStreaming连接各种数据源，包括AmazonKinesis、ApacheFlume等，并提供详细的示例代码，以帮助大家构建实时数据处理应用程序。

avro类型固定的日志文件内容spooling类型固定的日志目录的新增文件内容exec类型自定义的、实时的（采集新增加的），去重的采集固定的日志文件的内容syslog类型利用tcp、udp通信协议，采集端自动采集端口日志5140netcat类型也是利用tcp、udp通信协议，自定义端口avro端口，只接收来来自外部avro客户端的事件流（avro序列化后的数据）监听固定的日志文件的内容avro监听

大数据的关键技术1.3大数据采集与数据预处理技术1.3.1大数据采集技术1.3.2数据预处理技术第二章数据采集基础2.1传统数据采集技术2.2大数据采集基础第三章大数据采集架构1.Chukwa数据采集2.Flume

目录一、Flume简介（一）Flume定义（二）Flume作用二、Flume组成架构三、Flume安装配置（一）下载Flume（二）解压安装包（三）配置环境变量（四）查看Flume版本信息四、Flume

SparkStreaming支持的数据输入源很多，例如：Kafka、Flume、Twitter、ZeroMQ和简单的TCP套接字等等。

1.Flume安装部署1.1安装地址（1）Flume官网地址：WelcometoApacheFlume—ApacheFlume（2）文档查看地址：Flume1.11.0UserGuide—ApacheFlume

1）案例需求：实时监控Hive日志，并上传到HDFS中2）需求分析：3）实现步骤：（1）Flume要想将数据输出到HDFS，依赖Hadoop相关jar包检查/etc/profile.d/my_env.sh

1）案例需求：使用Flume监听整个目录的文件，并上传至HDFS2）需求分析：3）实现步骤：（1）创建配置文件flume-dir-hdfs.conf创建一个文件vimflume-dir-hdfs.conf

FlumeFlume是一种分布式、可靠且可用的服务高效收集、聚合和移动大量日志数据。它具有基于流媒体的简单灵活的架构数据流。它坚固耐用，容错，可靠性可调机制以及许多故障转移和恢复机制。

1.监控端口数据官方案例1）案例需求：使用Flume监听一个端口，收集该端口数据，并打印到控制台。

Push，指的是Flume主动push数据给SparkStreaming。Pull，指的是SparkStreaming主动从Flume拉取数据。

在工作中经常会遇到去重的场景，例如基于App的用户行为日志分析系统，用户的行为日志从手机客户端上报到Nginx服务端，通过Logstash、Flume或其他工具将日志从Nginx写入到Kafka中。

1、默认拦截器官网提供了几个默认拦截器，具体使用可查官方文档image.png2、自定义拦截器（实现MapReducer中的日志的清洗功能）a.编写代码（实现Interceptor接口，并实现内部接口Builder）Interceptor接口主要实现具体的拦截器的功能，内部接口Builder功能包含实例化Interceptor，以及获取配置文件传给Interceptorpackagetop.guj

1.Flume定义Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统。Flume基于流式架构，灵活简单。

1、Flume分布式系统中最核心的角色是agent，flume采集系统是由一个一个agent所连接起来的形成的2、每一个agent相当于一个数据采集员，内部有三个组件构成Source：采集组件，用于跟数据源对接

大数据数据仓库是基于HIVE构建的数据仓库，分布文件系统为HDFS，资源管理为Yarn，计算引擎主要包括MapReduce/Tez/Spark等，分层架构如下：1、数据来源层：日志或者关系型数据库，并通过Flume

目录一、Hadoop基础操作二、RDD编程三、SparkSQL编程四、SparkStreaming编程五、Flume的安装配置一、Hadoop基础操作按要求完成以下操作：1、在HDFS中创建目录/user

1、安装在我的ecs虚拟机安装，去Flume官网找到下载地址2、配置环境变量export到path中，不多说进入flume的安装目录下conf中，复制一个模板cpflume-env.sh.templateflume-env.sh

对于日志收集统计分析方案现在主流的有ELKrediskafkaflume+大数据平台，ELK我们以后再介绍，这里先简单介绍下rsyslog对接kafkakafka中的术语BrokerKafka集群包含一个或多个服务器

1、配置文件#1agenta2.sources=r2a2.sinks=k2a2.channels=c2#2sourcea2.sources.r2.type=execa2.sources.r2.command=tail-F/opt/tmpa2.sources.r2.shell=/bin/bash-c#3sinka2.sinks.k2.type=hdfsa2.sinks.k2.hdfs.path=hd

一、数据采集：1.1Flume集群：数据采集工具，如写脚本将不同源端的数据采集后进行数据存储，或推送至Kafka等；1.2FTP集群：文件传输工具；1.3Kafka集群：消息队列，未避免消息堵塞而将消息由

Flume是一个可靠的、可扩展的分布式系统，用于高效地收集、聚合和传输大规模数据。它的模块化架构允许用户根据特定需求来定制数据流的不同组件。

介绍：Flume是一个分布式、高可用、高可靠的海量日志采集、聚合和传输的系统，最初Flume是一个分布式、高可用、高可靠的海量日志采集、聚合和传输的系统，最初由Cloudera开发并现在广泛应用于数据采集流式处理

1.按日志级别区分文件输出有些人习惯按日志信息级别输出到不同名称的文件中，如info.log，error.log，warn.log等，在log4j2中可通过配置Filters来实现。假定需求是把INFO及以下级别的信息输出到info.log，WARN和ERROR级别的信息输出到error.log，FATAL级别输出到fatal.log，配置文件如下：D:/logs测试代码：publicstatic

1下载FlumeWelcometoApacheFlume—ApacheFlume下载1.9.0版本2上传服务器并解压安装3删除lib目录下的guava-11.0.2.jar（如同服务器安装了hadoop

1日志服务器上配置Flume,采集本地日志文件，发送到172.19.115.96的flume上进行聚合，如日志服务器有多组，则在多台服务器上配置相同的配置#Namethecomponentsonthisagenta1

项目场景：提示：这里简述项目相关背景：使用flume，用hdfssink问题描述提示：这里描述项目中遇到的问题：报错：WARN-org.apache.flume.sink.hdfs.HDFSEventSink.process

目录1Flume概述1.1Flume定义1.2Flume基础架构2Flume安装3Flume入门案例3.1监控端口数据3.2实时监控单个追加文件3.3实时监控目录下多个新文件3.4实时监控目录下的多个追加文件

介绍ApacheFlume是一个分布式、可靠、高可用的日志收集、聚合和传输系统。它常用于将大量日志数据从不同的源（如Web服务器、应用程序、传感器等）收集到中心化的存储或数据处理系统中。

错误信息24十二月202312:38:25,127INFO[SinkRunner-PollingRunner-DefaultSinkProcessor](org.apache.flume.sink.hdfs.HDFSCompressedDataStream.configure

前言收集日志的组件多不胜数，有ELK久负盛名组合中的logstash,也有EFK组合中的filebeat,更有cncf新贵fluentd,另外还有大数据领域使用比较多的flume。

2.BasicConceptsMaven依赖org.apache.sparkspark-streaming_2.122.4.1provided如果数据源来自Kafka或Flume等，需要添加如下依赖SourceArtifactKafkaspark-streaming

首先先去官网下载flumehttp://flume.apache.org/download.html安装Flume，然后进行配置下载完成后，解压tar-zxvfapache-flume-1.9.0-bin

目录2023年全国职业院校技能大赛赛题第02套任务A：大数据平台搭建（容器环境）（15分）子任务一：Hadoop完全分布式安装配置子任务二：Flume安装配置子任务三：FlinkonYarn安装配置任务

记录下将服务端AC设备产生的数据采集到Flume中，然后基于FlumeSink把数据日志同时写入到Kafka与HDFS中，对于Kafka中的数据保存到指定的Topic中，然后后续基于SparkStreaming