在Ubuntu 22.04 LTS下编译llama.cpp(基于OpenBLAS)

步骤如下:

a. 安装make、C++、pkg-config:

 
  
sudo apt install make g++ pkg-config

b. 安装openblas-lapack:

 
  
wget https://github.com/xianyi/OpenBLAS/releases/download/v0.3.27/OpenBLAS-0.3.27.tar.gz
tar zxvf OpenBLAS-0.3.27.tar.gz
sudo make && sudo make install

c. 安装llama.cpp:

 
  
git clone https://github.com/ggerganov/llama.cpp
make LLAMA_OPENBLAS=1

d. 测试安装是否成

你可能感兴趣的:(笔记,ubuntu,llama,linux)