CPU亲和性设置 代码示例 sched_setaffinity sched_getaffinity

视频教程在这:

cpu亲和性设置,NCCL,sched_setaffinity sched_getaffinity,CPU_ZERO、SET、ISSET、linux_哔哩哔哩_bilibili

一、CPU亲和性简介

CPU亲和性(CPU Affinity)设置是操作系统中一个重要的性能优化手段,它允许程序或进程被绑定到特定的CPU核心上运行。这样做的好处包括减少缓存未命中、降低线程迁移(context switching)的开销,以及提高缓存的局部性(cache locality),从而可能提升程序的整体性能。

对于我们NCCL集合通信,也用到亲和性设置,通过将需要与GPU交互的CPU设置为距离近的CPU核心,来优化GPUCPU间的通信路径

NCCL通信时也用到亲和性设置,来优化GPU和CPU间的通信路径。

二、Linux系统中CPU亲和性的设置方法

在Linux系统中,CPU亲和性可通过sched_setaffinity系统调用进行设置,可以将当前进程或线程绑定到一组特定的CPU上。

2.1 sched_setaffinity()和sched_getaffinity

这里大家重点了解两个函数:sched_setaffinity()和sched_getaffinity

#include   

int sched_getaffinity(pid_t pid, size_t cpusetsize, cpu_set_t *mask);
int sched_setaffinity(pid_t pid, size_t cpusetsize, const cpu_set_t *mask);

        sched_setaffinity():设置进程或线程的CPU亲和性
        sched_ getaffinity():获取进程或线程的CPU亲和性

参数说明

pid:要获取 CPU 亲和性的进程或线程的 ID。对于当前进程,可以使用 0。
cpusetsize:cpu_set_t 类型变量的大小,通常通过 sizeof(cpu_set_t) 获得。
mask:指向 cpu_set_t 类型的指针,用于存储返回的 CPU 亲和性掩码。在这个掩码中,每个位代表一个 CPU,如果某位被设置(即值为 1),则表示该进程或线程可以被调度到对应的 CPU 上运行。

2.2 CPU_ZEROCPU_SETCPU_ISSET、CPU_CLR

CPU_ZERO

CPU_ZERO宏用于初始化cpu_set_t类型的变量,将其所有位都设置为0。这表示在初始状态下,没有CPU核心被选中。

cpu_set_t cpuset;  
CPU_ZERO(&cpuset); // 初始化cpuset,所有位都设为0

CPU_SET

CPU_SET宏用于将cpu_set_t类型变量中指定的CPU核心对应的位设置为1。这表示该CPU核心被选中,进程或线程可以运行在该核心上。

CPU_SET(1, &cpuset); // 将cpuset中CPU 1对应的位设置为1

CPU_CLR

CPU_CLR宏用于将cpu_set_t类型变量中指定的CPU核心对应的位清除(即设置为0)。这表示该CPU核心不再被选中。

CPU_CLR(1, &cpuset); // 将cpuset中CPU 1对应的位清除

CPU_ISSET

CPU_ISSET宏用于检查cpu_set_t类型变量中指定的CPU核心对应的位是否被设置(即是否为1)。

if (CPU_ISSET(1, &cpuset)) {  
    // 如果cpuset中CPU 1对应的位被设置,则执行此代码块  
}

三、代码示例

获取当前进程的亲和性,并将亲和性设置为CPU0和CPU1。

#include   // 引入标准输入输出头文件  
#include  // 引入标准库头文件,用于exit函数  
#include   // 引入调度头文件,提供CPU亲和性相关的函数和宏  
#include  // 虽然在这个示例中未直接使用,但通常用于字符串操作  
  
int main() {    
    cpu_set_t cpuset;  // 定义一个cpu_set_t类型的变量cpuset,用于表示CPU集合  
    size_t cpusetsize = sizeof(cpu_set_t);  // 获取cpu_set_t类型的大小,用作sched_setaffinity和sched_getaffinity的参数  

    // 验证并打印当前进程的CPU亲和性  
    cpu_set_t get_cpuset;  // 定义一个变量get_cpuset用于获取当前进程的CPU亲和性  
    CPU_ZERO(&get_cpuset);  // 初始化get_cpuset  
  
    // 尝试获取当前进程的CPU亲和性  
    if (sched_getaffinity(0, cpusetsize, &get_cpuset) == -1) {    
        perror("sched_getaffinity failed");  // 如果获取失败,则打印错误信息  
        exit(EXIT_FAILURE);  // 并以失败状态退出程序  
    }    
  
    // 打印当前进程的CPU亲和性  
    printf("Current CPU affinity: ");    
    for (size_t i = 0; i < CPU_SETSIZE; i++) {  // 遍历CPU_SETSIZE范围内的所有CPU编号  
        if (CPU_ISSET(i, &get_cpuset)) {  // 检查get_cpuset中对应CPU的位是否被设置  
            printf("CPU %zu ", i);  // 如果被设置,则打印该CPU编号  
        }    
    }    
    printf("\n");  // 换行  

  
    // 初始化CPU集合,将所有位清零  
    CPU_ZERO(&cpuset);    
  
    // 设置CPU亲和性,将CPU 0和CPU 1的位设置为1,表示希望将进程绑定到这两个CPU上  
    CPU_SET(0, &cpuset);    
    CPU_SET(1, &cpuset);    
  
    // 尝试设置当前进程的CPU亲和性  
    if (sched_setaffinity(0, cpusetsize, &cpuset) == -1) {    
        perror("sched_setaffinity failed");  // 如果设置失败,则打印错误信息  
        exit(EXIT_FAILURE);  // 并以失败状态退出程序  
    }    
  
    // 验证并打印当前进程的CPU亲和性  
    CPU_ZERO(&get_cpuset);  // 初始化get_cpuset  
  
    // 尝试获取当前进程的CPU亲和性  
    if (sched_getaffinity(0, cpusetsize, &get_cpuset) == -1) {    
        perror("sched_getaffinity failed");  // 如果获取失败,则打印错误信息  
        exit(EXIT_FAILURE);  // 并以失败状态退出程序  
    }    
  
    // 打印当前进程的CPU亲和性  
    printf("Current CPU affinity: ");    
    for (size_t i = 0; i < CPU_SETSIZE; i++) {  // 遍历CPU_SETSIZE范围内的所有CPU编号  
        if (CPU_ISSET(i, &get_cpuset)) {  // 检查get_cpuset中对应CPU的位是否被设置  
            printf("CPU %zu ", i);  // 如果被设置,则打印该CPU编号  
        }    
    }    
    printf("\n");  // 换行  
  
    // 假设我们想要清除CPU 1的亲和性设置(仅作为演示,不会实际影响进程)  
    CPU_CLR(1, &cpuset);  // 修改cpuset变量,清除CPU 1的位  
  
    // 注意:这里的CPU_CLR只是修改了cpuset变量,并不会影响已经设置的进程亲和性  
    // 如果要重新设置进程的CPU亲和性,需要再次调用sched_setaffinity  
  
    // (可选)重新打印修改后的cpuset,但请注意它不会反映进程的当前亲和性  
    printf("Modified cpuset (not applied to process): ");    
    for (size_t i = 0; i < CPU_SETSIZE; i++) {  // 再次遍历CPU_SETSIZE范围内的所有CPU编号  
        if (CPU_ISSET(i, &cpuset)) {  // 检查cpuset中对应CPU的位是否被设置  
            printf("CPU %zu ", i);  // 如果被设置,则打印该CPU编号  
        }    
    }    
    printf("\n");  // 换行  
  
    return 0;  // 程序正常结束  
}

程序输出结果:

我们在ubuntu用g++编译并运行,输出三行信息:

1、没有设置CPU亲和性前,当前进程可以在CPU0、CPU1、CPU2、CPU3上运行。

2、将当前进程的亲和性设置为CPU0和CPU1,第二行输出进程可以在CPU0、CPU1上运行。

3、是利用 CPU_CLR修改cpuset变量,清除CPU 1的位,并输出cpuset。(注意,只是改变了变量值,并没有对亲和性进行设置)

 CPU亲和性设置 代码示例 sched_setaffinity sched_getaffinity_第1张图片

你可能感兴趣的:(集合通信,linux,运维,服务器)