20240202在Ubuntu20.04.6下配置环境变量之后让nvcc --version显示正常

20240202在Ubuntu20.04.6下配置环境变量之后让nvcc --version显示正常
2024/2/2 20:19

在Ubuntu20.04.6下编译whiper.cpp的显卡模式的时候，报告nvcc异常了！
百度：nvcc -v  nvidia-cuda-toolkit

rootroot@rootroot-X99-Turbo:~/whisper.cpp$ WHISPER_CUBLAS=1 make -j16
expr: syntax error: unexpected argument ‘11.6’
I whisper.cpp build info: 
I UNAME_S:  Linux
I UNAME_P:  x86_64
I UNAME_M:  x86_64
I CFLAGS:   -I.              -O3 -DNDEBUG -std=c11   -fPIC -D_XOPEN_SOURCE=600 -D_GNU_SOURCE -pthread -mavx -mavx2 -mfma -mf16c -msse3 -mssse3 -DGGML_USE_CUBLAS -I/usr/local/cuda/include -I/opt/cuda/include -I/targets/x86_64-linux/include
I CXXFLAGS: -I. -I./examples -O3 -DNDEBUG -std=c++11 -fPIC -D_XOPEN_SOURCE=600 -D_GNU_SOURCE -pthread -mavx -mavx2 -mfma -mf16c -msse3 -mssse3 -DGGML_USE_CUBLAS -I/usr/local/cuda/include -I/opt/cuda/include -I/targets/x86_64-linux/include
I LDFLAGS:   -lcuda -lcublas -lculibos -lcudart -lcublasLt -lpthread -ldl -lrt -L/usr/local/cuda/lib64 -L/opt/cuda/lib64 -L/targets/x86_64-linux/lib
I CC:       cc (Ubuntu 9.4.0-1ubuntu1~20.04.2) 9.4.0
I CXX:      g++ (Ubuntu 9.4.0-1ubuntu1~20.04.2) 9.4.0

nvcc --forward-unknown-to-host-compiler -arch=all -I. -I./examples -O3 -DNDEBUG -std=c++11 -fPIC -D_XOPEN_SOURCE=600 -D_GNU_SOURCE -pthread -mavx -mavx2 -mfma -mf16c -msse3 -mssse3 -DGGML_USE_CUBLAS -I/usr/local/cuda/include -I/opt/cuda/include -I/targets/x86_64-linux/include -Wno-pedantic -c ggml-cuda.cu -o ggml-cuda.o
make: nvcc: Command not found
make: *** [Makefile:225: ggml-cuda.o] Error 127
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ nvcc -v

Command 'nvcc' not found, but can be installed with:

sudo apt install nvidia-cuda-toolkit

rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ sudo apt install nvidia-cuda-toolkit

https://blog.csdn.net/plover007x/article/details/131502153
2023-07-02 16:34:23明明安装了cudaToolkit，为什么 nvcc -V 命令不起作用

正常情况下，如果安装了 cudaToolkit （正确安装），当我们在控制台输入以下命令时，可以获取到 cuda 的版本，如下图所示：
但是很多情况下，我们安装完成 cudaToolkit 后，再输入 “nvcc -V” 命令时，系统会提示如下错误：
如果发生这种情况，很大概率是我们安装 cudaToolkit 步骤不完全导致的：安装完成后，没有进行环境配置和激活。以下为修改的方法：

进行环境配置 
sudo vim ~/.bashrc
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

刷新环境： 
source ~/.bashrc

经过以上两步完成后，再次使用 “nvcc -V” 命令，就可以看到 cuda 的版本号了。

rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ source ~/.bashrc
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ echo $P
$PATH        $PIPESTATUS  $PPID        $PS1         $PS2         $PS4         $PWD         
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ echo $PATH 
/usr/local/cuda/bin:/home/rootroot/.local/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ nvcc --version
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Wed_Nov_22_10:17:15_PST_2023
Cuda compilation tools, release 12.3, V12.3.107
Build cuda_12.3.r12.3/compiler.33567101_0
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ echo $LD_LIBRARY_PATH
/usr/local/cuda/lib64:
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 

参考资料：
详细的 cudaToolkit 和 cudnn 安装教程，参考以下链接： 
https://blog.csdn.net/plover007x/article/details/131450626

 

rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ sudo apt-get install libopenblas-dev
Reading package lists... Done
Building dependency tree       
Reading state information... Done
The following additional packages will be installed:
  libopenblas-pthread-dev libopenblas0 libopenblas0-pthread
The following NEW packages will be installed:
  libopenblas-dev libopenblas-pthread-dev libopenblas0 libopenblas0-pthread
0 upgraded, 4 newly installed, 0 to remove and 11 not upgraded.
Need to get 13.7 MB of archives.
After this operation, 153 MB of additional disk space will be used.
Do you want to continue? [Y/n] y
Get:1 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal-updates/universe amd64 libopenblas0-pthread amd64 0.3.8+ds-1ubuntu0.20.04.1 [9,127 kB]
Get:2 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal-updates/universe amd64 libopenblas0 amd64 0.3.8+ds-1ubuntu0.20.04.1 [5,892 B]
Get:3 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal-updates/universe amd64 libopenblas-pthread-dev amd64 0.3.8+ds-1ubuntu0.20.04.1 [4,526 kB]
Get:4 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal-updates/universe amd64 libopenblas-dev amd64 0.3.8+ds-1ubuntu0.20.04.1 [16.4 kB]
Fetched 13.7 MB in 2s (8,470 kB/s)         
Selecting previously unselected package libopenblas0-pthread:amd64.
(Reading database ... 207405 files and directories currently installed.)
Preparing to unpack .../libopenblas0-pthread_0.3.8+ds-1ubuntu0.20.04.1_amd64.deb ...
Unpacking libopenblas0-pthread:amd64 (0.3.8+ds-1ubuntu0.20.04.1) ...
Selecting previously unselected package libopenblas0:amd64.
Preparing to unpack .../libopenblas0_0.3.8+ds-1ubuntu0.20.04.1_amd64.deb ...
Unpacking libopenblas0:amd64 (0.3.8+ds-1ubuntu0.20.04.1) ...
Selecting previously unselected package libopenblas-pthread-dev:amd64.
Preparing to unpack .../libopenblas-pthread-dev_0.3.8+ds-1ubuntu0.20.04.1_amd64.deb ...
Unpacking libopenblas-pthread-dev:amd64 (0.3.8+ds-1ubuntu0.20.04.1) ...
Selecting previously unselected package libopenblas-dev:amd64.
Preparing to unpack .../libopenblas-dev_0.3.8+ds-1ubuntu0.20.04.1_amd64.deb ...
Unpacking libopenblas-dev:amd64 (0.3.8+ds-1ubuntu0.20.04.1) ...
Setting up libopenblas0-pthread:amd64 (0.3.8+ds-1ubuntu0.20.04.1) ...
update-alternatives: using /usr/lib/x86_64-linux-gnu/openblas-pthread/libblas.so.3 to provide /usr/lib/x86_64-linux-gnu/libblas.so.3 (libblas.so.3-x86_64-linux-gnu) in auto mode
update-alternatives: using /usr/lib/x86_64-linux-gnu/openblas-pthread/liblapack.so.3 to provide /usr/lib/x86_64-linux-gnu/liblapack.so.3 (liblapack.so.3-x86_64-linux-gnu) in auto mode
update-alternatives: using /usr/lib/x86_64-linux-gnu/openblas-pthread/libopenblas.so.0 to provide /usr/lib/x86_64-linux-gnu/libopenblas.so.0 (libopenblas.so.0-x86_64-linux-gnu) in auto mode
Setting up libopenblas0:amd64 (0.3.8+ds-1ubuntu0.20.04.1) ...
Setting up libopenblas-pthread-dev:amd64 (0.3.8+ds-1ubuntu0.20.04.1) ...
update-alternatives: using /usr/lib/x86_64-linux-gnu/openblas-pthread/libblas.so to provide /usr/lib/x86_64-linux-gnu/libblas.so (libblas.so-x86_64-linux-gnu) in auto mode
update-alternatives: using /usr/lib/x86_64-linux-gnu/openblas-pthread/liblapack.so to provide /usr/lib/x86_64-linux-gnu/liblapack.so (liblapack.so-x86_64-linux-gnu) in auto mode
update-alternatives: using /usr/lib/x86_64-linux-gnu/openblas-pthread/libopenblas.so to provide /usr/lib/x86_64-linux-gnu/libopenblas.so (libopenblas.so-x86_64-linux-gnu) in auto mode
Setting up libopenblas-dev:amd64 (0.3.8+ds-1ubuntu0.20.04.1) ...
Processing triggers for libc-bin (2.31-0ubuntu9.14) ...
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ WHISPER_CUBLAS=1 make -j16
expr: syntax error: unexpected argument ‘11.6’
I whisper.cpp build info: 
I UNAME_S:  Linux
I UNAME_P:  x86_64
I UNAME_M:  x86_64
I CFLAGS:   -I.              -O3 -DNDEBUG -std=c11   -fPIC -D_XOPEN_SOURCE=600 -D_GNU_SOURCE -pthread -mavx -mavx2 -mfma -mf16c -msse3 -mssse3 -DGGML_USE_CUBLAS -I/usr/local/cuda/include -I/opt/cuda/include -I/targets/x86_64-linux/include
I CXXFLAGS: -I. -I./examples -O3 -DNDEBUG -std=c++11 -fPIC -D_XOPEN_SOURCE=600 -D_GNU_SOURCE -pthread -mavx -mavx2 -mfma -mf16c -msse3 -mssse3 -DGGML_USE_CUBLAS -I/usr/local/cuda/include -I/opt/cuda/include -I/targets/x86_64-linux/include
I LDFLAGS:   -lcuda -lcublas -lculibos -lcudart -lcublasLt -lpthread -ldl -lrt -L/usr/local/cuda/lib64 -L/opt/cuda/lib64 -L/targets/x86_64-linux/lib
I CC:       cc (Ubuntu 9.4.0-1ubuntu1~20.04.2) 9.4.0
I CXX:      g++ (Ubuntu 9.4.0-1ubuntu1~20.04.2) 9.4.0

nvcc --forward-unknown-to-host-compiler -arch=all -I. -I./examples -O3 -DNDEBUG -std=c++11 -fPIC -D_XOPEN_SOURCE=600 -D_GNU_SOURCE -pthread -mavx -mavx2 -mfma -mf16c -msse3 -mssse3 -DGGML_USE_CUBLAS -I/usr/local/cuda/include -I/opt/cuda/include -I/targets/x86_64-linux/include -Wno-pedantic -c ggml-cuda.cu -o ggml-cuda.o
make: nvcc: Command not found
make: *** [Makefile:225: ggml-cuda.o] Error 127
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ nvcc -v

Command 'nvcc' not found, but can be installed with:

sudo apt install nvidia-cuda-toolkit

rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ sudo apt install nvidia-cuda-toolkit
Reading package lists... Done
Building dependency tree       
Reading state information... Done
The following additional packages will be installed:
  g++-8 javascript-common libaccinj64-10.1 libcublas10 libcublaslt10 libcudart10.1 libcufft10 libcufftw10 libcuinj64-10.1 libcupti-dev libcupti-doc libcupti10.1 libcurand10 libcusolver10 libcusolvermg10 libcusparse10 libjs-jquery libnppc10 libnppial10 libnppicc10
  libnppicom10 libnppidei10 libnppif10 libnppig10 libnppim10 libnppist10 libnppisu10 libnppitc10 libnpps10 libnvblas10 libnvgraph10 libnvidia-compute-545 libnvidia-ml-dev libnvjpeg10 libnvrtc10.1 libnvtoolsext1 libnvvm3 libstdc++-8-dev libthrust-dev libvdpau-dev
  node-html5shiv nvidia-cuda-dev nvidia-cuda-doc nvidia-cuda-gdb nvidia-opencl-dev nvidia-profiler nvidia-visual-profiler ocl-icd-opencl-dev opencl-c-headers
Suggested packages:
  g++-8-multilib gcc-8-doc apache2 | lighttpd | httpd libstdc++-8-doc libvdpau-doc nodejs nvidia-driver | nvidia-tesla-440-driver | nvidia-tesla-418-driver libpoclu-dev
Recommended packages:
  libnvcuvid1 nsight-compute nsight-systems
The following NEW packages will be installed:
  g++-8 javascript-common libaccinj64-10.1 libcublas10 libcublaslt10 libcudart10.1 libcufft10 libcufftw10 libcuinj64-10.1 libcupti-dev libcupti-doc libcupti10.1 libcurand10 libcusolver10 libcusolvermg10 libcusparse10 libjs-jquery libnppc10 libnppial10 libnppicc10
  libnppicom10 libnppidei10 libnppif10 libnppig10 libnppim10 libnppist10 libnppisu10 libnppitc10 libnpps10 libnvblas10 libnvgraph10 libnvidia-compute-545 libnvidia-ml-dev libnvjpeg10 libnvrtc10.1 libnvtoolsext1 libnvvm3 libstdc++-8-dev libthrust-dev libvdpau-dev
  node-html5shiv nvidia-cuda-dev nvidia-cuda-doc nvidia-cuda-gdb nvidia-cuda-toolkit nvidia-opencl-dev nvidia-profiler nvidia-visual-profiler ocl-icd-opencl-dev opencl-c-headers
0 upgraded, 50 newly installed, 0 to remove and 11 not upgraded.
Need to get 1,111 MB/1,160 MB of archives.
After this operation, 3,056 MB of additional disk space will be used.
Do you want to continue? [Y/n] y
Get:1 file:/var/cuda-repo-ubuntu2004-12-3-local  libnvidia-compute-545 545.23.08-0ubuntu1 [48.8 MB]
Err:1 file:/var/cuda-repo-ubuntu2004-12-3-local  libnvidia-compute-545 545.23.08-0ubuntu1
  File not found - /var/cuda-repo-ubuntu2004-12-3-local/./libnvidia-compute-545_545.23.08-0ubuntu1_amd64.deb (2: No such file or directory)
Get:2 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/universe amd64 libstdc++-8-dev amd64 8.4.0-3ubuntu2 [1,537 kB]
Get:3 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/universe amd64 g++-8 amd64 8.4.0-3ubuntu2 [10.1 MB]
Get:4 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/main amd64 javascript-common all 11 [6,066 B]
Get:5 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libaccinj64-10.1 amd64 10.1.243-3 [1,893 kB]
Get:6 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcublaslt10 amd64 10.1.243-3 [9,249 kB]
Get:7 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcublas10 amd64 10.1.243-3 [29.7 MB]
Get:8 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcudart10.1 amd64 10.1.243-3 [125 kB]
Get:9 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcufft10 amd64 10.1.243-3 [85.3 MB]
Get:10 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcufftw10 amd64 10.1.243-3 [124 kB]
Get:11 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcuinj64-10.1 amd64 10.1.243-3 [2,030 kB]
Get:12 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcupti10.1 amd64 10.1.243-3 [4,311 kB]
Get:13 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcurand10 amd64 10.1.243-3 [39.0 MB]
Get:14 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcusolver10 amd64 10.1.243-3 [44.5 MB]
Get:15 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcusolvermg10 amd64 10.1.243-3 [28.1 MB]                                                                                                                                                           
Get:16 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcusparse10 amd64 10.1.243-3 [56.8 MB]                                                                                                                                                             
Get:17 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/main amd64 libjs-jquery all 3.3.1~dfsg-3 [329 kB]                                                                                                                                                                     
Get:18 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppc10 amd64 10.1.243-3 [123 kB]                                                                                                                                                                  
Get:19 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppial10 amd64 10.1.243-3 [3,667 kB]                                                                                                                                                              
Get:20 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppicc10 amd64 10.1.243-3 [1,621 kB]                                                                                                                                                              
Get:21 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppicom10 amd64 10.1.243-3 [539 kB]                                                                                                                                                               
Get:22 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppidei10 amd64 10.1.243-3 [2,001 kB]                                                                                                                                                             
Get:23 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppif10 amd64 10.1.243-3 [22.0 MB]                                                                                                                                                                
Get:24 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppig10 amd64 10.1.243-3 [12.0 MB]                                                                                                                                                                
Get:25 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppim10 amd64 10.1.243-3 [2,694 kB]                                                                                                                                                               
Get:26 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppist10 amd64 10.1.243-3 [7,313 kB]                                                                                                                                                              
Get:27 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppisu10 amd64 10.1.243-3 [116 kB]                                                                                                                                                                
Get:28 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnppitc10 amd64 10.1.243-3 [802 kB]                                                                                                                                                                
Get:29 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnpps10 amd64 10.1.243-3 [2,970 kB]                                                                                                                                                                
Get:30 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnvblas10 amd64 10.1.243-3 [129 kB]                                                                                                                                                                
Get:31 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnvgraph10 amd64 10.1.243-3 [44.5 MB]                                                                                                                                                              
Get:32 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnvidia-ml-dev amd64 10.1.243-3 [58.1 kB]                                                                                                                                                          
Get:33 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnvjpeg10 amd64 10.1.243-3 [1,227 kB]                                                                                                                                                              
Get:34 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnvrtc10.1 amd64 10.1.243-3 [6,307 kB]                                                                                                                                                             
Get:35 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/main amd64 libvdpau-dev amd64 1.3-1ubuntu2 [37.3 kB]                                                                                                                                                                  
Get:36 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/universe amd64 node-html5shiv all 3.7.3+dfsg-3 [12.9 kB]                                                                                                                                                              
Get:37 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcupti-dev amd64 10.1.243-3 [4,779 kB]                                                                                                                                                             
Get:38 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libcupti-doc all 10.1.243-3 [2,117 kB]                                                                                                                                                               
Get:39 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnvtoolsext1 amd64 10.1.243-3 [25.1 kB]                                                                                                                                                            
Get:40 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libnvvm3 amd64 10.1.243-3 [4,436 kB]                                                                                                                                                                 
Get:41 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 libthrust-dev all 1.9.5-1 [526 kB]                                                                                                                                                                   
Get:42 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 nvidia-cuda-dev amd64 10.1.243-3 [420 MB]                                                                                                                                                            
Get:43 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 nvidia-cuda-doc all 10.1.243-3 [102 MB]                                                                                                                                                              
Get:44 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 nvidia-cuda-gdb amd64 10.1.243-3 [2,722 kB]                                                                                                                                                          
Get:45 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 nvidia-profiler amd64 10.1.243-3 [2,673 kB]                                                                                                                                                          
Get:46 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/main amd64 opencl-c-headers all 2.2~2019.08.06-g0d5f18c-1 [29.9 kB]                                                                                                                                                   
Get:47 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/main amd64 ocl-icd-opencl-dev amd64 2.2.11-1ubuntu1 [2,512 B]                                                                                                                                                         
Get:48 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 nvidia-opencl-dev amd64 10.1.243-3 [16.5 kB]                                                                                                                                                         
Get:49 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 nvidia-cuda-toolkit amd64 10.1.243-3 [35.0 MB]                                                                                                                                                       
Get:50 http://mirrors.tuna.tsinghua.edu.cn/ubuntu focal/multiverse amd64 nvidia-visual-profiler amd64 10.1.243-3 [115 MB]                                                                                                                                                     
Fetched 1,111 MB in 29s (38.0 MB/s)                                                                                                                                                                                                                                           
E: Failed to fetch file:/var/cuda-repo-ubuntu2004-12-3-local/./libnvidia-compute-545_545.23.08-0ubuntu1_amd64.deb  File not found - /var/cuda-repo-ubuntu2004-12-3-local/./libnvidia-compute-545_545.23.08-0ubuntu1_amd64.deb (2: No such file or directory)
E: Unable to fetch some archives, maybe run apt-get update or try with --fix-missing?
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ sudo apt install nvidia-cuda-toolkit
Reading package lists... Done
Building dependency tree       
Reading state information... Done
The following additional packages will be installed:
  g++-8 javascript-common libaccinj64-10.1 libcublas10 libcublaslt10 libcudart10.1 libcufft10 libcufftw10 libcuinj64-10.1 libcupti-dev libcupti-doc libcupti10.1 libcurand10 libcusolver10 libcusolvermg10 libcusparse10 libjs-jquery libnppc10 libnppial10 libnppicc10
  libnppicom10 libnppidei10 libnppif10 libnppig10 libnppim10 libnppist10 libnppisu10 libnppitc10 libnpps10 libnvblas10 libnvgraph10 libnvidia-compute-545 libnvidia-ml-dev libnvjpeg10 libnvrtc10.1 libnvtoolsext1 libnvvm3 libstdc++-8-dev libthrust-dev libvdpau-dev
  node-html5shiv nvidia-cuda-dev nvidia-cuda-doc nvidia-cuda-gdb nvidia-opencl-dev nvidia-profiler nvidia-visual-profiler ocl-icd-opencl-dev opencl-c-headers
Suggested packages:
  g++-8-multilib gcc-8-doc apache2 | lighttpd | httpd libstdc++-8-doc libvdpau-doc nodejs nvidia-driver | nvidia-tesla-440-driver | nvidia-tesla-418-driver libpoclu-dev
Recommended packages:
  libnvcuvid1 nsight-compute nsight-systems
The following NEW packages will be installed:
  g++-8 javascript-common libaccinj64-10.1 libcublas10 libcublaslt10 libcudart10.1 libcufft10 libcufftw10 libcuinj64-10.1 libcupti-dev libcupti-doc libcupti10.1 libcurand10 libcusolver10 libcusolvermg10 libcusparse10 libjs-jquery libnppc10 libnppial10 libnppicc10
  libnppicom10 libnppidei10 libnppif10 libnppig10 libnppim10 libnppist10 libnppisu10 libnppitc10 libnpps10 libnvblas10 libnvgraph10 libnvidia-compute-545 libnvidia-ml-dev libnvjpeg10 libnvrtc10.1 libnvtoolsext1 libnvvm3 libstdc++-8-dev libthrust-dev libvdpau-dev
  node-html5shiv nvidia-cuda-dev nvidia-cuda-doc nvidia-cuda-gdb nvidia-cuda-toolkit nvidia-opencl-dev nvidia-profiler nvidia-visual-profiler ocl-icd-opencl-dev opencl-c-headers
0 upgraded, 50 newly installed, 0 to remove and 11 not upgraded.
Need to get 0 B/1,160 MB of archives.
After this operation, 3,056 MB of additional disk space will be used.
Do you want to continue? [Y/n] y
Get:1 file:/var/cuda-repo-ubuntu2004-12-3-local  libnvidia-compute-545 545.23.08-0ubuntu1 [48.8 MB]
Err:1 file:/var/cuda-repo-ubuntu2004-12-3-local  libnvidia-compute-545 545.23.08-0ubuntu1
  File not found - /var/cuda-repo-ubuntu2004-12-3-local/./libnvidia-compute-545_545.23.08-0ubuntu1_amd64.deb (2: No such file or directory)
E: Failed to fetch file:/var/cuda-repo-ubuntu2004-12-3-local/./libnvidia-compute-545_545.23.08-0ubuntu1_amd64.deb  File not found - /var/cuda-repo-ubuntu2004-12-3-local/./libnvidia-compute-545_545.23.08-0ubuntu1_amd64.deb (2: No such file or directory)
E: Unable to fetch some archives, maybe run apt-get update or try with --fix-missing?
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ nvcc -v

Command 'nvcc' not found, but can be installed with:

sudo apt install nvidia-cuda-toolkit

rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ cd /usr/local/
rootroot@rootroot-X99-Turbo:/usr/local$ ll
total 44
drwxr-xr-x 11 root root 4096 1月  15 17:10 ./
drwxr-xr-x 14 root root 4096 3月  16  2023 ../
drwxr-xr-x  2 root root 4096 1月  15 17:10 bin/
lrwxrwxrwx  1 root root   22 1月  15 17:10 cuda -> /etc/alternatives/cuda/
lrwxrwxrwx  1 root root   25 1月  15 17:10 cuda-12 -> /etc/alternatives/cuda-12/
drwxr-xr-x 15 root root 4096 1月  15 17:10 cuda-12.3/
drwxr-xr-x  2 root root 4096 3月  16  2023 etc/
drwxr-xr-x  2 root root 4096 3月  16  2023 games/
drwxr-xr-x  2 root root 4096 3月  16  2023 include/
drwxr-xr-x  4 root root 4096 12月 16 19:57 lib/
lrwxrwxrwx  1 root root    9 12月 16 18:23 man -> share/man/
drwxr-xr-x  2 root root 4096 3月  16  2023 sbin/
drwxr-xr-x  7 root root 4096 3月  16  2023 share/
drwxr-xr-x  2 root root 4096 3月  16  2023 src/
rootroot@rootroot-X99-Turbo:/usr/local$ cd cuda
rootroot@rootroot-X99-Turbo:/usr/local/cuda$ ll
total 136
drwxr-xr-x 15 root root  4096 1月  15 17:10 ./
drwxr-xr-x 11 root root  4096 1月  15 17:10 ../
drwxr-xr-x  3 root root  4096 1月  15 17:09 bin/
drwxr-xr-x  5 root root  4096 1月  15 17:07 compute-sanitizer/
drwxr-xr-x  3 root root  4096 1月  15 17:09 doc/
-rw-r--r--  1 root root   160 10月 31 17:24 DOCS
-rw-r--r--  1 root root 61498 10月 31 17:24 EULA.txt
drwxr-xr-x  4 root root  4096 1月  16 10:39 extras/
drwxr-xr-x  4 root root  4096 1月  15 17:09 gds/
lrwxrwxrwx  1 root root    28 10月 31 17:20 include -> targets/x86_64-linux/include/
lrwxrwxrwx  1 root root    24 10月 31 17:20 lib64 -> targets/x86_64-linux/lib/
drwxr-xr-x  7 root root  4096 1月  15 17:09 libnvvp/
drwxr-xr-x  2 root root  4096 1月  15 17:09 nsightee_plugins/
drwxr-xr-x  3 root root  4096 1月  15 17:09 nvml/
drwxr-xr-x  6 root root  4096 1月  15 17:07 nvvm/
-rw-r--r--  1 root root   524 10月 31 17:24 README
drwxr-xr-x  3 root root  4096 1月  15 17:07 share/
drwxr-xr-x  2 root root  4096 1月  15 17:09 src/
drwxr-xr-x  3 root root  4096 1月  15 17:07 targets/
drwxr-xr-x  2 root root  4096 1月  15 17:07 tools/
-rw-r--r--  1 root root  3037 11月 30 02:48 version.json
rootroot@rootroot-X99-Turbo:/usr/local/cuda$ 
rootroot@rootroot-X99-Turbo:/usr/local/cuda$ cd bin/
rootroot@rootroot-X99-Turbo:/usr/local/cuda/bin$ ll
total 159484
drwxr-xr-x  3 root root     4096 1月  15 17:09 ./
drwxr-xr-x 15 root root     4096 1月  15 17:10 ../
-rwxr-xr-x  1 root root    88848 11月 23 03:32 bin2c*
lrwxrwxrwx  1 root root        4 10月 31 21:25 computeprof -> nvvp*
-rwxr-xr-x  1 root root      112 10月 31 17:41 compute-sanitizer*
drwxr-xr-x  2 root root     4096 1月  15 17:07 crt/
-rwxr-xr-x  1 root root  7336920 11月 23 03:32 cudafe++*
-rwxr-xr-x  1 root root 15812648 10月 31 18:46 cuda-gdb*
-rwxr-xr-x  1 root root   812256 10月 31 18:46 cuda-gdbserver*
-rwxr-xr-x  1 root root    75928 10月 31 17:49 cu++filt*
-rwxr-xr-x  1 root root   536064 10月 31 17:46 cuobjdump*
-rwxr-xr-x  1 root root   802968 11月 23 03:32 fatbinary*
-rwxr-xr-x  1 root root     3826 11月 30 02:48 ncu*
-rwxr-xr-x  1 root root     3616 11月 30 02:48 ncu-ui*
-rwxr-xr-x  1 root root     1580 10月 31 17:36 nsight_ee_plugins_manage.sh*
-rwxr-xr-x  1 root root      197 11月 30 02:48 nsight-sys*
-rwxr-xr-x  1 root root      743 11月 30 02:48 nsys*
-rwxr-xr-x  1 root root      833 11月 30 02:48 nsys-ui*
-rwxr-xr-x  1 root root 21784968 11月 23 03:32 nvcc*
-rwxr-xr-x  1 root root    10456 11月 23 03:32 __nvcc_device_query*
-rw-r--r--  1 root root      417 11月 23 03:32 nvcc.profile
-rwxr-xr-x  1 root root 50674712 10月 31 17:45 nvdisasm*
-rwxr-xr-x  1 root root 29746536 11月 23 03:32 nvlink*
-rwxr-xr-x  1 root root  6022464 10月 31 21:16 nvprof*
-rwxr-xr-x  1 root root   109536 10月 31 17:44 nvprune*
-rwxr-xr-x  1 root root      285 10月 31 21:25 nvvp*
-rwxr-xr-x  1 root root 29421152 11月 23 03:32 ptxas*
rootroot@rootroot-X99-Turbo:/usr/local/cuda/bin$ nvcc -v

Command 'nvcc' not found, but can be installed with:

sudo apt install nvidia-cuda-toolkit

rootroot@rootroot-X99-Turbo:/usr/local/cuda/bin$ ./nvcc -v
nvcc fatal   : No input files specified; use option --help for more information
rootroot@rootroot-X99-Turbo:/usr/local/cuda/bin$ ll nvcc
-rwxr-xr-x 1 root root 21784968 11月 23 03:32 nvcc*
rootroot@rootroot-X99-Turbo:/usr/local/cuda/bin$ ./nvcc 
bin2c                        cuda-gdb                     ncu                          nsys-ui                      nvlink                       
computeprof                  cuda-gdbserver               ncu-ui                       nvcc                         nvprof                       
compute-sanitizer            cu++filt                     nsight_ee_plugins_manage.sh  __nvcc_device_query          nvprune                      
crt/                         cuobjdump                    nsight-sys                   nvcc.profile                 nvvp                         
cudafe++                     fatbinary                    nsys                         nvdisasm                     ptxas                        
rootroot@rootroot-X99-Turbo:/usr/local/cuda/bin$ ./nvcc --version
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Wed_Nov_22_10:17:15_PST_2023
Cuda compilation tools, release 12.3, V12.3.107
Build cuda_12.3.r12.3/compiler.33567101_0
rootroot@rootroot-X99-Turbo:/usr/local/cuda/bin$ 
rootroot@rootroot-X99-Turbo:/usr/local/cuda/bin$ 
rootroot@rootroot-X99-Turbo:/usr/local/cuda/bin$ cd ..
rootroot@rootroot-X99-Turbo:/usr/local/cuda$ ll
total 136
drwxr-xr-x 15 root root  4096 1月  15 17:10 ./
drwxr-xr-x 11 root root  4096 1月  15 17:10 ../
drwxr-xr-x  3 root root  4096 1月  15 17:09 bin/
drwxr-xr-x  5 root root  4096 1月  15 17:07 compute-sanitizer/
drwxr-xr-x  3 root root  4096 1月  15 17:09 doc/
-rw-r--r--  1 root root   160 10月 31 17:24 DOCS
-rw-r--r--  1 root root 61498 10月 31 17:24 EULA.txt
drwxr-xr-x  4 root root  4096 1月  16 10:39 extras/
drwxr-xr-x  4 root root  4096 1月  15 17:09 gds/
lrwxrwxrwx  1 root root    28 10月 31 17:20 include -> targets/x86_64-linux/include/
lrwxrwxrwx  1 root root    24 10月 31 17:20 lib64 -> targets/x86_64-linux/lib/
drwxr-xr-x  7 root root  4096 1月  15 17:09 libnvvp/
drwxr-xr-x  2 root root  4096 1月  15 17:09 nsightee_plugins/
drwxr-xr-x  3 root root  4096 1月  15 17:09 nvml/
drwxr-xr-x  6 root root  4096 1月  15 17:07 nvvm/
-rw-r--r--  1 root root   524 10月 31 17:24 README
drwxr-xr-x  3 root root  4096 1月  15 17:07 share/
drwxr-xr-x  2 root root  4096 1月  15 17:09 src/
drwxr-xr-x  3 root root  4096 1月  15 17:07 targets/
drwxr-xr-x  2 root root  4096 1月  15 17:07 tools/
-rw-r--r--  1 root root  3037 11月 30 02:48 version.json
rootroot@rootroot-X99-Turbo:/usr/local/cuda$ cd lib64/
rootroot@rootroot-X99-Turbo:/usr/local/cuda/lib64$ ll
total 4137208
drwxr-xr-x 4 root root      4096 1月  15 17:09 ./
drwxr-xr-x 4 root root      4096 1月  15 17:07 ../
drwxr-xr-x 6 root root      4096 1月  15 17:07 cmake/
lrwxrwxrwx 1 root root        19 10月 31 21:16 libaccinj64.so -> libaccinj64.so.12.3
lrwxrwxrwx 1 root root        23 10月 31 21:16 libaccinj64.so.12.3 -> libaccinj64.so.12.3.101
-rw-r--r-- 1 root root   2412184 10月 31 21:16 libaccinj64.so.12.3.101
-rw-r--r-- 1 root root   1493144 10月 31 20:51 libcheckpoint.so
lrwxrwxrwx 1 root root        17 10月 31 17:51 libcublasLt.so -> libcublasLt.so.12
lrwxrwxrwx 1 root root        23 10月 31 17:51 libcublasLt.so.12 -> libcublasLt.so.12.3.4.1
-rw-r--r-- 1 root root 518358624 10月 31 17:51 libcublasLt.so.12.3.4.1
-rw-r--r-- 1 root root 781766258 10月 31 17:51 libcublasLt_static.a
lrwxrwxrwx 1 root root        15 10月 31 17:51 libcublas.so -> libcublas.so.12
lrwxrwxrwx 1 root root        21 10月 31 17:51 libcublas.so.12 -> libcublas.so.12.3.4.1
-rw-r--r-- 1 root root 106679344 10月 31 17:51 libcublas.so.12.3.4.1
-rw-r--r-- 1 root root 168603496 10月 31 17:51 libcublas_static.a
-rw-r--r-- 1 root root   1647010 10月 31 17:48 libcudadevrt.a
lrwxrwxrwx 1 root root        15 10月 31 17:48 libcudart.so -> libcudart.so.12
lrwxrwxrwx 1 root root        21 10月 31 17:48 libcudart.so.12 -> libcudart.so.12.3.101
-rw-r--r-- 1 root root    703808 10月 31 17:48 libcudart.so.12.3.101
-rw-r--r-- 1 root root   1417724 10月 31 17:48 libcudart_static.a
lrwxrwxrwx 1 root root        14 10月 31 17:57 libcufft.so -> libcufft.so.11
lrwxrwxrwx 1 root root        21 10月 31 17:57 libcufft.so.11 -> libcufft.so.11.0.12.1
-rw-r--r-- 1 root root 177827520 10月 31 17:57 libcufft.so.11.0.12.1
-rw-r--r-- 1 root root 199432168 10月 31 17:57 libcufft_static.a
-rw-r--r-- 1 root root 199334148 10月 31 17:57 libcufft_static_nocallback.a
lrwxrwxrwx 1 root root        15 10月 31 17:57 libcufftw.so -> libcufftw.so.11
lrwxrwxrwx 1 root root        22 10月 31 17:57 libcufftw.so.11 -> libcufftw.so.11.0.12.1
-rw-r--r-- 1 root root    966600 10月 31 17:57 libcufftw.so.11.0.12.1
-rw-r--r-- 1 root root     79566 10月 31 17:57 libcufftw_static.a
lrwxrwxrwx 1 root root        19 10月 26 07:36 libcufile_rdma.so -> libcufile_rdma.so.1
lrwxrwxrwx 1 root root        23 10月 26 07:36 libcufile_rdma.so.1 -> libcufile_rdma.so.1.8.1
-rw-r--r-- 1 root root     43320 10月 26 07:36 libcufile_rdma.so.1.8.1
-rw-r--r-- 1 root root     65206 10月 26 07:36 libcufile_rdma_static.a
lrwxrwxrwx 1 root root        14 10月 26 07:36 libcufile.so -> libcufile.so.0
lrwxrwxrwx 1 root root        18 10月 26 07:36 libcufile.so.0 -> libcufile.so.1.8.1
-rw-r--r-- 1 root root   2993680 10月 26 07:36 libcufile.so.1.8.1
-rw-r--r-- 1 root root  24282190 10月 26 07:36 libcufile_static.a
-rw-r--r-- 1 root root    948952 10月 31 17:49 libcufilt.a
lrwxrwxrwx 1 root root        18 10月 31 21:16 libcuinj64.so -> libcuinj64.so.12.3
lrwxrwxrwx 1 root root        22 10月 31 21:16 libcuinj64.so.12.3 -> libcuinj64.so.12.3.101
-rw-r--r-- 1 root root   2832640 10月 31 21:16 libcuinj64.so.12.3.101
-rw-r--r-- 1 root root     30922 10月 31 17:48 libculibos.a
lrwxrwxrwx 1 root root        14 10月 31 20:51 libcupti.so -> libcupti.so.12
lrwxrwxrwx 1 root root        20 10月 31 20:51 libcupti.so.12 -> libcupti.so.2023.3.1
-rw-r--r-- 1 root root   7683440 10月 31 20:51 libcupti.so.2023.3.1
-rw-r--r-- 1 root root  19214978 10月 31 20:51 libcupti_static.a
lrwxrwxrwx 1 root root        15 11月 23 03:55 libcurand.so -> libcurand.so.10
lrwxrwxrwx 1 root root        23 11月 23 03:55 libcurand.so.10 -> libcurand.so.10.3.4.107
-rw-r--r-- 1 root root  96259504 11月 23 03:55 libcurand.so.10.3.4.107
-rw-r--r-- 1 root root  96328614 11月 23 03:55 libcurand_static.a
-rw-r--r-- 1 root root  16788330 10月 31 18:36 libcusolver_lapack_static.a
-rw-r--r-- 1 root root   1005514 10月 31 18:36 libcusolver_metis_static.a
lrwxrwxrwx 1 root root        19 10月 31 18:36 libcusolverMg.so -> libcusolverMg.so.11
lrwxrwxrwx 1 root root        27 10月 31 18:36 libcusolverMg.so.11 -> libcusolverMg.so.11.5.4.101
-rw-r--r-- 1 root root  83040368 10月 31 18:36 libcusolverMg.so.11.5.4.101
lrwxrwxrwx 1 root root        17 10月 31 18:36 libcusolver.so -> libcusolver.so.11
lrwxrwxrwx 1 root root        25 10月 31 18:36 libcusolver.so.11 -> libcusolver.so.11.5.4.101
-rw-r--r-- 1 root root 115640600 10月 31 18:36 libcusolver.so.11.5.4.101
-rw-r--r-- 1 root root 133576956 10月 31 18:36 libcusolver_static.a
lrwxrwxrwx 1 root root        17 10月 31 18:09 libcusparse.so -> libcusparse.so.12
lrwxrwxrwx 1 root root        25 10月 31 18:09 libcusparse.so.12 -> libcusparse.so.12.2.0.103
-rw-r--r-- 1 root root 267184960 10月 31 18:09 libcusparse.so.12.2.0.103
-rw-r--r-- 1 root root 299914796 10月 31 18:09 libcusparse_static.a
-rw-r--r-- 1 root root   1005514 10月 31 18:36 libmetis_static.a
lrwxrwxrwx 1 root root        13 10月 31 18:19 libnppc.so -> libnppc.so.12
lrwxrwxrwx 1 root root        19 10月 31 18:19 libnppc.so.12 -> libnppc.so.12.2.3.2
-rw-r--r-- 1 root root   1642992 10月 31 18:19 libnppc.so.12.2.3.2
-rw-r--r-- 1 root root     30686 10月 31 18:19 libnppc_static.a
lrwxrwxrwx 1 root root        15 10月 31 18:19 libnppial.so -> libnppial.so.12
lrwxrwxrwx 1 root root        21 10月 31 18:19 libnppial.so.12 -> libnppial.so.12.2.3.2
-rw-r--r-- 1 root root  17568560 10月 31 18:19 libnppial.so.12.2.3.2
-rw-r--r-- 1 root root  19071940 10月 31 18:19 libnppial_static.a
lrwxrwxrwx 1 root root        15 10月 31 18:19 libnppicc.so -> libnppicc.so.12
lrwxrwxrwx 1 root root        21 10月 31 18:19 libnppicc.so.12 -> libnppicc.so.12.2.3.2
-rw-r--r-- 1 root root   7500616 10月 31 18:19 libnppicc.so.12.2.3.2
-rw-r--r-- 1 root root   7041694 10月 31 18:19 libnppicc_static.a
lrwxrwxrwx 1 root root        16 10月 31 18:19 libnppidei.so -> libnppidei.so.12
lrwxrwxrwx 1 root root        22 10月 31 18:19 libnppidei.so.12 -> libnppidei.so.12.2.3.2
-rw-r--r-- 1 root root  11134104 10月 31 18:19 libnppidei.so.12.2.3.2
-rw-r--r-- 1 root root  11875304 10月 31 18:19 libnppidei_static.a
lrwxrwxrwx 1 root root        14 10月 31 18:19 libnppif.so -> libnppif.so.12
lrwxrwxrwx 1 root root        20 10月 31 18:19 libnppif.so.12 -> libnppif.so.12.2.3.2
-rw-r--r-- 1 root root 101066824 10月 31 18:19 libnppif.so.12.2.3.2
-rw-r--r-- 1 root root 103942380 10月 31 18:19 libnppif_static.a
lrwxrwxrwx 1 root root        14 10月 31 18:19 libnppig.so -> libnppig.so.12
lrwxrwxrwx 1 root root        20 10月 31 18:19 libnppig.so.12 -> libnppig.so.12.2.3.2
-rw-r--r-- 1 root root  41137040 10月 31 18:19 libnppig.so.12.2.3.2
-rw-r--r-- 1 root root  41987560 10月 31 18:19 libnppig_static.a
lrwxrwxrwx 1 root root        14 10月 31 18:19 libnppim.so -> libnppim.so.12
lrwxrwxrwx 1 root root        20 10月 31 18:19 libnppim.so.12 -> libnppim.so.12.2.3.2
-rw-r--r-- 1 root root  10322760 10月 31 18:19 libnppim.so.12.2.3.2
-rw-r--r-- 1 root root   9259562 10月 31 18:19 libnppim_static.a
lrwxrwxrwx 1 root root        15 10月 31 18:19 libnppist.so -> libnppist.so.12
lrwxrwxrwx 1 root root        21 10月 31 18:19 libnppist.so.12 -> libnppist.so.12.2.3.2
-rw-r--r-- 1 root root  38171728 10月 31 18:19 libnppist.so.12.2.3.2
-rw-r--r-- 1 root root  39228112 10月 31 18:19 libnppist_static.a
lrwxrwxrwx 1 root root        15 10月 31 18:19 libnppisu.so -> libnppisu.so.12
lrwxrwxrwx 1 root root        21 10月 31 18:19 libnppisu.so.12 -> libnppisu.so.12.2.3.2
-rw-r--r-- 1 root root    716168 10月 31 18:19 libnppisu.so.12.2.3.2
-rw-r--r-- 1 root root     11266 10月 31 18:19 libnppisu_static.a
lrwxrwxrwx 1 root root        15 10月 31 18:19 libnppitc.so -> libnppitc.so.12
lrwxrwxrwx 1 root root        21 10月 31 18:19 libnppitc.so.12 -> libnppitc.so.12.2.3.2
-rw-r--r-- 1 root root   5530224 10月 31 18:19 libnppitc.so.12.2.3.2
-rw-r--r-- 1 root root   4503836 10月 31 18:19 libnppitc_static.a
lrwxrwxrwx 1 root root        13 10月 31 18:19 libnpps.so -> libnpps.so.12
lrwxrwxrwx 1 root root        19 10月 31 18:19 libnpps.so.12 -> libnpps.so.12.2.3.2
-rw-r--r-- 1 root root  18105592 10月 31 18:19 libnpps.so.12.2.3.2
-rw-r--r-- 1 root root  17960158 10月 31 18:19 libnpps_static.a
lrwxrwxrwx 1 root root        15 10月 31 17:51 libnvblas.so -> libnvblas.so.12
lrwxrwxrwx 1 root root        21 10月 31 17:51 libnvblas.so.12 -> libnvblas.so.12.3.4.1
-rw-r--r-- 1 root root    728856 10月 31 17:51 libnvblas.so.12.3.4.1
lrwxrwxrwx 1 root root        18 10月 31 18:11 libnvJitLink.so -> libnvJitLink.so.12
lrwxrwxrwx 1 root root        24 10月 31 18:11 libnvJitLink.so.12 -> libnvJitLink.so.12.3.101
-rw-r--r-- 1 root root  52190720 10月 31 18:11 libnvJitLink.so.12.3.101
-rw-r--r-- 1 root root  63530708 10月 31 18:11 libnvJitLink_static.a
lrwxrwxrwx 1 root root        15 10月 31 17:49 libnvjpeg.so -> libnvjpeg.so.12
lrwxrwxrwx 1 root root        22 10月 31 17:49 libnvjpeg.so.12 -> libnvjpeg.so.12.3.0.81
-rw-r--r-- 1 root root   6705968 10月 31 17:49 libnvjpeg.so.12.3.0.81
-rw-r--r-- 1 root root   6828780 10月 31 17:49 libnvjpeg_static.a
-rw-r--r-- 1 root root  28538488 10月 31 20:51 libnvperf_host.so
-rw-r--r-- 1 root root  36274804 10月 31 20:51 libnvperf_host_static.a
-rw-r--r-- 1 root root   6018384 10月 31 20:51 libnvperf_target.so
-rw-r--r-- 1 root root  47925582 11月 23 03:32 libnvptxcompiler_static.a
lrwxrwxrwx 1 root root        25 11月 23 03:49 libnvrtc-builtins.so -> libnvrtc-builtins.so.12.3
lrwxrwxrwx 1 root root        29 11月 23 03:49 libnvrtc-builtins.so.12.3 -> libnvrtc-builtins.so.12.3.107
-rw-r--r-- 1 root root   6662024 11月 23 03:49 libnvrtc-builtins.so.12.3.107
-rw-r--r-- 1 root root   6681284 11月 23 03:49 libnvrtc-builtins_static.a
lrwxrwxrwx 1 root root        14 11月 23 03:49 libnvrtc.so -> libnvrtc.so.12
lrwxrwxrwx 1 root root        20 11月 23 03:49 libnvrtc.so.12 -> libnvrtc.so.12.3.107
-rw-r--r-- 1 root root  60792048 11月 23 03:49 libnvrtc.so.12.3.107
-rw-r--r-- 1 root root  75105270 11月 23 03:49 libnvrtc_static.a
lrwxrwxrwx 1 root root        18 10月 31 17:52 libnvToolsExt.so -> libnvToolsExt.so.1
lrwxrwxrwx 1 root root        22 10月 31 17:52 libnvToolsExt.so.1 -> libnvToolsExt.so.1.0.0
-rw-r--r-- 1 root root     40136 10月 31 17:52 libnvToolsExt.so.1.0.0
lrwxrwxrwx 1 root root        14 10月 31 17:37 libOpenCL.so -> libOpenCL.so.1
lrwxrwxrwx 1 root root        16 10月 31 17:37 libOpenCL.so.1 -> libOpenCL.so.1.0
lrwxrwxrwx 1 root root        18 10月 31 17:37 libOpenCL.so.1.0 -> libOpenCL.so.1.0.0
-rw-r--r-- 1 root root     30856 10月 31 17:37 libOpenCL.so.1.0.0
-rw-r--r-- 1 root root    912728 10月 31 20:51 libpcsamplingutil.so
drwxr-xr-x 2 root root      4096 1月  15 17:09 stubs/
rootroot@rootroot-X99-Turbo:/usr/local/cuda/lib64$ cd -
/usr/local/cuda
rootroot@rootroot-X99-Turbo:/usr/local/cuda$ cd ~/whisper.cpp/
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ ll
total 20728
drwxrwxr-x 17 rootroot rootroot     4096 2月   2 17:46 ./
drwxr-xr-x 30 rootroot rootroot     4096 2月   2 16:49 ../
drwxrwxr-x  7 rootroot rootroot     4096 2月   2 16:49 bindings/
-rwx------  1 rootroot rootroot  3465644 1月  12 01:28 chs.mp4*
-rw-rw-r--  1 rootroot rootroot 13497126 2月   2 17:26 chs.wav
-rw-rw-r--  1 rootroot rootroot    11821 2月   2 17:41 chs.wav使用CPU.srt
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 cmake/
-rw-rw-r--  1 rootroot rootroot    19150 2月   2 16:49 CMakeLists.txt
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 coreml/
drwx------  2 rootroot rootroot     4096 2月   2 17:45 CPU/
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 .devops/
drwxrwxr-x 24 rootroot rootroot     4096 2月   2 16:49 examples/
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 extra/
-rw-rw-r--  1 rootroot rootroot    31647 2月   2 16:49 ggml-alloc.c
-rw-rw-r--  1 rootroot rootroot     4055 2月   2 16:49 ggml-alloc.h
-rw-rw-r--  1 rootroot rootroot    20504 2月   2 17:46 ggml-alloc.o
-rw-rw-r--  1 rootroot rootroot    67212 2月   2 16:49 ggml-backend.c
-rw-rw-r--  1 rootroot rootroot    11720 2月   2 16:49 ggml-backend.h
-rw-rw-r--  1 rootroot rootroot     5874 2月   2 16:49 ggml-backend-impl.h
-rw-rw-r--  1 rootroot rootroot    58464 2月   2 17:46 ggml-backend.o
-rw-rw-r--  1 rootroot rootroot   676115 2月   2 16:49 ggml.c
-rw-rw-r--  1 rootroot rootroot   440093 2月   2 16:49 ggml-cuda.cu
-rw-rw-r--  1 rootroot rootroot     2104 2月   2 16:49 ggml-cuda.h
-rw-rw-r--  1 rootroot rootroot    85094 2月   2 16:49 ggml.h
-rw-rw-r--  1 rootroot rootroot     7567 2月   2 16:49 ggml-impl.h
-rw-rw-r--  1 rootroot rootroot     2358 2月   2 16:49 ggml-metal.h
-rw-rw-r--  1 rootroot rootroot   150160 2月   2 16:49 ggml-metal.m
-rw-rw-r--  1 rootroot rootroot   225659 2月   2 16:49 ggml-metal.metal
-rw-rw-r--  1 rootroot rootroot   550040 2月   2 17:46 ggml.o
-rw-rw-r--  1 rootroot rootroot    85693 2月   2 16:49 ggml-opencl.cpp
-rw-rw-r--  1 rootroot rootroot     1386 2月   2 16:49 ggml-opencl.h
-rw-rw-r--  1 rootroot rootroot   401791 2月   2 16:49 ggml-quants.c
-rw-rw-r--  1 rootroot rootroot    13705 2月   2 16:49 ggml-quants.h
-rw-rw-r--  1 rootroot rootroot   198024 2月   2 17:46 ggml-quants.o
drwxrwxr-x  8 rootroot rootroot     4096 2月   2 16:49 .git/
drwxrwxr-x  3 rootroot rootroot     4096 2月   2 16:49 .github/
-rw-rw-r--  1 rootroot rootroot      803 2月   2 16:49 .gitignore
-rw-rw-r--  1 rootroot rootroot       96 2月   2 16:49 .gitmodules
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 grammars/
-rw-rw-r--  1 rootroot rootroot     1072 2月   2 16:49 LICENSE
-rw-rw-r--  1 rootroot rootroot    14883 2月   2 16:49 Makefile
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 17:24 models/
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 openvino/
-rw-rw-r--  1 rootroot rootroot     1776 2月   2 16:49 Package.swift
-rw-rw-r--  1 rootroot rootroot    39115 2月   2 16:49 README.md
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 samples/
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 spm-headers/
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 tests/
-rw-rw-r--  1 rootroot rootroot   232975 2月   2 16:49 whisper.cpp
-rw-rw-r--  1 rootroot rootroot    30248 2月   2 16:49 whisper.h
-rw-rw-r--  1 rootroot rootroot   728384 2月   2 17:46 whisper.o
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ cd ..
rootroot@rootroot-X99-Turbo:~$ 
rootroot@rootroot-X99-Turbo:~$ cp .bashrc bak1.bashrc
rootroot@rootroot-X99-Turbo:~$ cd -
/home/rootroot/whisper.cpp
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ ll
total 20728
drwxrwxr-x 17 rootroot rootroot     4096 2月   2 17:46 ./
drwxr-xr-x 30 rootroot rootroot     4096 2月   2 17:55 ../
drwxrwxr-x  7 rootroot rootroot     4096 2月   2 16:49 bindings/
-rwx------  1 rootroot rootroot  3465644 1月  12 01:28 chs.mp4*
-rw-rw-r--  1 rootroot rootroot 13497126 2月   2 17:26 chs.wav
-rw-rw-r--  1 rootroot rootroot    11821 2月   2 17:41 chs.wav使用CPU.srt
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 cmake/
-rw-rw-r--  1 rootroot rootroot    19150 2月   2 16:49 CMakeLists.txt
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 coreml/
drwx------  2 rootroot rootroot     4096 2月   2 17:45 CPU/
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 .devops/
drwxrwxr-x 24 rootroot rootroot     4096 2月   2 16:49 examples/
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 extra/
-rw-rw-r--  1 rootroot rootroot    31647 2月   2 16:49 ggml-alloc.c
-rw-rw-r--  1 rootroot rootroot     4055 2月   2 16:49 ggml-alloc.h
-rw-rw-r--  1 rootroot rootroot    20504 2月   2 17:46 ggml-alloc.o
-rw-rw-r--  1 rootroot rootroot    67212 2月   2 16:49 ggml-backend.c
-rw-rw-r--  1 rootroot rootroot    11720 2月   2 16:49 ggml-backend.h
-rw-rw-r--  1 rootroot rootroot     5874 2月   2 16:49 ggml-backend-impl.h
-rw-rw-r--  1 rootroot rootroot    58464 2月   2 17:46 ggml-backend.o
-rw-rw-r--  1 rootroot rootroot   676115 2月   2 16:49 ggml.c
-rw-rw-r--  1 rootroot rootroot   440093 2月   2 16:49 ggml-cuda.cu
-rw-rw-r--  1 rootroot rootroot     2104 2月   2 16:49 ggml-cuda.h
-rw-rw-r--  1 rootroot rootroot    85094 2月   2 16:49 ggml.h
-rw-rw-r--  1 rootroot rootroot     7567 2月   2 16:49 ggml-impl.h
-rw-rw-r--  1 rootroot rootroot     2358 2月   2 16:49 ggml-metal.h
-rw-rw-r--  1 rootroot rootroot   150160 2月   2 16:49 ggml-metal.m
-rw-rw-r--  1 rootroot rootroot   225659 2月   2 16:49 ggml-metal.metal
-rw-rw-r--  1 rootroot rootroot   550040 2月   2 17:46 ggml.o
-rw-rw-r--  1 rootroot rootroot    85693 2月   2 16:49 ggml-opencl.cpp
-rw-rw-r--  1 rootroot rootroot     1386 2月   2 16:49 ggml-opencl.h
-rw-rw-r--  1 rootroot rootroot   401791 2月   2 16:49 ggml-quants.c
-rw-rw-r--  1 rootroot rootroot    13705 2月   2 16:49 ggml-quants.h
-rw-rw-r--  1 rootroot rootroot   198024 2月   2 17:46 ggml-quants.o
drwxrwxr-x  8 rootroot rootroot     4096 2月   2 16:49 .git/
drwxrwxr-x  3 rootroot rootroot     4096 2月   2 16:49 .github/
-rw-rw-r--  1 rootroot rootroot      803 2月   2 16:49 .gitignore
-rw-rw-r--  1 rootroot rootroot       96 2月   2 16:49 .gitmodules
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 grammars/
-rw-rw-r--  1 rootroot rootroot     1072 2月   2 16:49 LICENSE
-rw-rw-r--  1 rootroot rootroot    14883 2月   2 16:49 Makefile
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 17:24 models/
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 openvino/
-rw-rw-r--  1 rootroot rootroot     1776 2月   2 16:49 Package.swift
-rw-rw-r--  1 rootroot rootroot    39115 2月   2 16:49 README.md
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 samples/
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 spm-headers/
drwxrwxr-x  2 rootroot rootroot     4096 2月   2 16:49 tests/
-rw-rw-r--  1 rootroot rootroot   232975 2月   2 16:49 whisper.cpp
-rw-rw-r--  1 rootroot rootroot    30248 2月   2 16:49 whisper.h
-rw-rw-r--  1 rootroot rootroot   728384 2月   2 17:46 whisper.o
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ source ~/.bashrc
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ echo $P
$PATH        $PIPESTATUS  $PPID        $PS1         $PS2         $PS4         $PWD         
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ echo $PATH 
/usr/local/cuda/bin:/home/rootroot/.local/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ nvcc --version
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Wed_Nov_22_10:17:15_PST_2023
Cuda compilation tools, release 12.3, V12.3.107
Build cuda_12.3.r12.3/compiler.33567101_0
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ echo $LD_LIBRARY_PATH
/usr/local/cuda/lib64:
rootroot@rootroot-X99-Turbo:~/whisper.cpp$ 
rootroot@rootroot-X99-Turbo:~/whisper.cpp$