Hadoop 3.2.1源码编译踩坑

编译环境和步骤可以参考这篇文章,这边主要记录一些遇到的坑。

1、protobu只能用2.5.0版本

2、jdk1.8,CMake3.1及以上

3、用CentOS系统编译,不支持MacOS,会卡在CMake上。

4、为了支持Snappy,需要去Github上下载,我用的是这个版本snappy-1.1.4.tar.gz
执行

./configure --prefix=/usr/local/lib
make && make install

随后下载hadoop-snappy支持源码并编译:

git clone https://github.com/electrum/hadoop-snappy.git
cd hadoop-snappy
mvn package  -Dsnappy.prefix=/usr/local/lib

将编出来target/native-build/usr/local/lib下的包放入hadoop/lib/native
并加上环境变量

export JAVA_LIBRARY_PATH=/usr/local/yunji/hadoop/lib/native:$JAVA_LIBRARY_PATH

5、继续补充

你可能感兴趣的:(hadoop)