Faiss编译遇到的各种问题(通过go调用Faiss)

提前喷几句:辣鸡faiss团队,不注重文档维护,简直折磨死人

再提前说下,笔者的系统是centos-7,有些问题可能不具有共性,没准在ubuntu等其他系统下就没有这些乱七八糟的事情,情选择性观看

  • faiss官方仓库:https://github.com/facebookresearch/faiss/releases
  • 一个封装得很好的go-faiss库:https://github.com/DataIntelligenceCrew/go-faiss
cmake \
-DCMAKE_BUILD_TYPE=Release \  # release版本剔除debug相关能力,性能会更好,
-DBUILD_SHARED_LIBS=ON \ # go只能用共享库,无法直接使用编译出的静态库
-DFAISS_OPT_LEVEL=avx2 \ # avx2性能会更好,开启后会同时编译出两个库,一个avx2的,一个通用的
-DFAISS_ENABLE_GPU=OFF \ # 不使用gpu能力
-DFAISS_ENABLE_PYTHON=OFF \ # 不使用python接口
-DFAISS_ENABLE_C_API=ON \ # 开启c api的编译,golang的cgo只支持c,不支持c++,不要单独前往c_api目录编译
-B build .

make -j -C build #开始编译

按照上面的编译参数,或go-faiss给的文档很可能仍然无法跑起来,还有不少需要注意的点

  1. 需要提前安装好openblas(mkl也可以,faiss会优先使用mkl,如果找得到的话)
    https://centos.pkgs.org/7/epel-x86_64/openblas-devel-0.3.3-2.el7.x86_64.rpm.html
  2. 安装或升级gcc,centos7安装的gcc为4.8.5版本,编译出的faiss无法正确运行(faiss用到正则特性,至少需要4.9),需升级GCC,
    相关升级文档
# 安装7系列工具包
sudo yum install centos-release-scl
sudo yum install devtoolset-7-gcc* #默认不会马上生效。zsh不支持匹配符,需要使用bash
scl enable devtoolset-7 bash #临时生效命令

which gcc
gcc --version
  1. 将编译产物移动到正确位置
    • faiss的make -C build install会将编译产物移动到/usr/local/lib /usr/local/include
    • 但在我系统里,/usr/local/lib 这个目录并不是默认的lib目录,需将其移动到/usr/lib64/

QA:

  1. cgo: inconsistent definitions for xxxx 问题
    升级gcc版本可解决,参考上面升级gcc版本部分

你可能感兴趣的:(Faiss编译遇到的各种问题(通过go调用Faiss))