在hadoop3.1.3使用Flume上传日志文件至hdfs时出错解决方法

问题一:

在hadoop3.1.3上使用Flume上传日志文件至hdfs时有可能会出现错误如下图:

在hadoop3.1.3使用Flume上传日志文件至hdfs时出错解决方法_第1张图片

该错误的原因是flume中的guava-11.0.2.jar版本较低。

解决方法是:删除flume中的对应的低版本guava-11.0.2.jar
再将hadoop3.1.3中对应的高版本拷贝到flume中,高版本guava在hadoop3.1.3/share/hadoop/common/lib下的guava-27.0-jre.jar。

问题二:

开启flume后,无法在hdfs创建文件夹并上传日志。

这种情况大部分是因为hadoop2.x与hadoop3.x的hdfs端口号不一致导致的,

hadoop2.x的hdfs端口号为:9000

hadoop3.x的hdfs端口号为:8020

在配置文件中修改对应的端口号即可。

你可能感兴趣的:(flume,flume,大数据,hdfs)