关于Flume-ng那些事(二)

继续我们的测试。 编辑flume.conf配置文件
# Define a memory channel called ch1 on agent1
agent1.channels.ch1.type = memory
# Define an Avro source called avro-source1 on agent1 and tell it
# to bind to 0.0.0.0:41414. Connect it to channel ch1.
agent1.sources.avro-source1.channels = ch1
agent1.sources.avro-source1.type = avro
agent1.sources.avro-source1.bind = 0.0.0.0
agent1.sources.avro-source1.port = 41414
# Define a logger sink that simply logs all events it receives
# and connect it to the other end of the same channel.
agent1.sinks.log-sink1.channel = ch1
agent1.sinks.log-sink1.type = logger
# Finally, now that we've defined all of our components, tell
# agent1 which ones we want to activate.
agent1.channels = ch1
agent1.sources = avro-source1
agent1.sinks = log-sink1
一个agnet的完整配置文件需要如下内容: a,Sources, sources type b,Sinks ,sinks type c,Channel ,Channel type d,使用Channel 来串接Sources和Sinks 我们根据上述的flume.conf 文件来做下解释,该配置文件其实应该调整下顺序。 先定义下sources、slinks、channels。flume-ng agent名字为agent1,该名字和后续启动agent程序-n 后的名称要保持一致。 agent1.channels = ch1      #channels 名称 ch1 agent1.sources = avro-source1  #sources 名称 avro-source1  名字能望文生义,不错:) agent1.sinks = log-sinke1 # sinks 名称为 log-sink1 —————————我是分割线————————— sources 部分定义 agent1.sources.avro-source1.channels = ch1 #agent名称.sources.sources名称.使用的channels agent1.sources.avro-source1.type = avro    #同上最后一个点.type 类型 avro agent1.sources.avro-source1.bind = 0.0.0.0 #最后一个点.bind 绑定地址 agent1.sources.avro-source1.port = 41414 #最后一个点.port 指定端口 —————————我是分割线————————— channel 部分定义: agent1.channels.ch1.type = memory #agent名称.channels.channels名称.使用的类型 —————————我是分割线————————— agent1.sinks.log-sink1.channel = ch1  # agent名称.sinks.sinks名称.从哪个channel收集events agent1.sinks.log-sink1.type = logger #最后一个点.type  sinks类型。 —————————————————————————————— 开始我们的测试: 首先开启客户端:
# flume-ng agent -n agent1 -c /opt/apps/flume-ng/conf/ -f flume.conf  &
#注意名字agent1要和配置文件定义的一致。 开启avro-client客户端读取/etc/passwors 文件:
# flume-ng avro-client -c /opt/apps/flume-ng/conf/ -H localhost -p 41414 -F /etc/passwd
#启动avro-client 读取/etc/passwd 后进程退出。 验证下我们的测试情况,查看flume.log  详见附件flume_log01.txt

你可能感兴趣的:(hadoop,flume-ng)