混沌工程工具-阿里ChaosBlade的实现说明之一

原文请见7DGroup已声明原创的公众号文章。

根据混沌工程的principles，里面这样定义了：
Chaos Engineering is the discipline of experimenting on a system
in order to build confidence in the system’s capability
to withstand turbulent conditions in production.
中文翻译是这样的：
混沌工程是在分布式系统上进行实验的学科, 目的是建立对系统抵御生产环境中失控条件的能力以及信心。
（英文中似乎没有分布式系统这个字眼，看来中文翻译的时候把范围说小了。）
它有原则描述：
建立一个围绕稳定状态行为的假说
多样化真实世界的事件
在生产环境中运行实验
持续自动化运行实验
最小化爆炸半径
看着有些比较新鲜的词还挺有意思。也有人把它和异常测试、故障测试啥的给区分开来说明。要说还是得整概念，概念还是要先于技术的发展，给技术指导一个方向，而落地嘛，总是需要一些时间的。
据说阿里的chaosblade开源工具算是具有混沌工程特点的工具。下面看一下它的功能。

安装配置

二进制包形式

下载并解压

[gaolou@7dgroup2 ~]$ wget -c https://github.com/chaosblade-io/chaosblade/releases/download/v0.2.0/chaosblade-0.2.0.linux-amd64.tar.gz
[gaolou@7dgroup2 ~]$ tar zxvf chaosblade-0.2.0.linux-amd64.tar.gz

docker形式

[root@VM_0_10_centos ~]# docker pull registry.cn-hangzhou.aliyuncs.com/chaosblade/chaosblade-demo:latest
[root@VM_0_10_centos ~]# docker run -it registry.cn-hangzhou.aliyuncs.com/chaosblade/chaosblade-demo:latest

blade使用

模拟CPU

模拟CPU负载

[gaolou@7dgroup2 chaosblade-0.2.0]$ ./blade  create cpu fullload
{"code":200,"success":true,"result":"cb6300fd4899c537"}
[gaolou@7dgroup2 chaosblade-0.2.0]$

查看模拟效果

TOP查看结果

Perf查看结果

burnCpu这个方法里的。关键源码如下：

func runBurnCpu(ctx context.Context, cpuCount int, cpuPercent int, pidNeeded bool, processor string) int {
  args := fmt.Sprintf(`%s --nohup --cpu-count %d --cpu-percent %d`,
    path.Join(util.GetProgramPath(), burnCpuBin), cpuCount, cpuPercent)
  if pidNeeded {
    args = fmt.Sprintf("%s --cpu-processor %s", args, processor)
  }
  args = fmt.Sprintf(`%s > /dev/null 2>&1 &`, args)
  response := channel.Run(ctx, "nohup", args)
  if !response.Success {
    stopBurnCpuFunc()
    bin.PrintErrAndExit(response.Err)
  }
  if pidNeeded {
    // parse pid
    newCtx := context.WithValue(context.Background(), exec.ProcessKey, fmt.Sprintf("cpu-processor %s", processor))
    pids, err := exec.GetPidsByProcessName(burnCpuBin, newCtx)
    if err != nil {
      stopBurnCpuFunc()
      bin.PrintErrAndExit(fmt.Sprintf("bind cpu core failed, cannot get the burning program pid, %v", err))
    }
    if len(pids) > 0 {
      // return the first one
      pid, err := strconv.Atoi(pids[0])
      if err != nil {
        stopBurnCpuFunc()
        bin.PrintErrAndExit(fmt.Sprintf("bind cpu core failed, get pid failed, pids: %v, err: %v", pids, err))
      }
      return pid
    }
  }
  return -1
}

删除CPU负载

[gaolou@7dgroup2 chaosblade-0.2.0]$ ./blade destroy cb6300fd4899c537
{"code":200,"success":true,"result":"command: cpu fullload --debug false --help false"}
[gaolou@7dgroup2 chaosblade-0.2.0]$

模拟磁盘满

模拟磁盘满

[root@7dgroup2 chaosblade-0.2.0]# ./blade create disk fill --size 20480
{"code":200,"success":true,"result":"a3f62976fe766d4a"}

查看模拟效果

[root@7dgroup2 bin]# watch -n 1 "df -h | grep /dev/vda1"
Every 1.0s: df -h | grep /dev/vda1                                               Tue Aug 13 17:46:15 2019  |

/dev/vda1        40G   33G  4.8G  88% /

Every 1.0s: df -h | grep /dev/vda1                                               Tue Aug 13 17:46:25 2019

/dev/vda1        40G   34G  3.9G  90% /

Every 1.0s: df -h | grep /dev/vda1                                               Tue Aug 13 17:46:36 2019

/dev/vda1        40G   35G  2.8G  93% /

Every 1.0s: df -h | grep /dev/vda1                                               Tue Aug 13 17:47:13 2019

/dev/vda1        40G   37G  760M  99% /

Every 1.0s: df -h | grep /dev/vda1                                               Tue Aug 13 17:48:10 2019

/dev/vda1        40G   38G  109M 100% /

Every 1.0s: df -h | grep /dev/vda1                                               Tue Aug 13 17:49:10 2019

/dev/vda1        40G   38G     0 100% /

删除磁盘满模拟

[root@7dgroup2 chaosblade-0.2.0]# ./blade destroy a3f62976fe766d4a
{"code":200,"success":true,"result":"command: disk fill --help false --size 20480 --debug false"}
[root@7dgroup2 chaosblade-0.2.0]# watch -n 1 "df -h | grep /dev/vda1"

Every 1.0s: df -h | grep /dev/vda1                                               Tue Aug 13 17:49:34 2019

/dev/vda1        40G   32G  6.0G  85% /

查看模拟磁盘满进程

Total DISK READ :       5.40 M/s | Total DISK WRITE :      65.33 M/s
Actual DISK READ:       6.41 M/s | Actual DISK WRITE:      89.98 M/s
  TID  PRIO  USER     DISK READ  DISK WRITE  SWAPIN     IO>    COMMAND
.......
17369 be/4 root       11.23 K/s   64.96 M/s  0.00 % 37.49 % dd if=/dev/zero of=/chaos_fi~M count=20480 iflag=fullblock
.......

通过查看io高的进程就可以看到这两个进程。也就是说，chaosblade调用dd实现的IO高模拟。关键实现代码如下：

// write burn
func burnWrite(size, count string) {
  for {
    args := fmt.Sprintf(`if=/dev/zero of=%s bs=%sM count=%s oflag=dsync`, tmpDataFile, size, count)
    response := channel.Run(context.Background(), "dd", args)
    channel.Run(context.Background(), "rm", fmt.Sprintf(`-rf %s`, tmpDataFile))
    if !response.Success {
      bin.PrintAndExitWithErrPrefix(response.Err)
      return
    }
  }
}
// read burn
func burnRead(fileSystem, size, count string) {
  for {
    // "if" arg in dd command is file system value, but "of" arg value is related to mount point
    args := fmt.Sprintf(`if=%s of=/dev/null bs=%sM count=%s iflag=dsync,direct,fullblock`, fileSystem, size, count)
    response := channel.Run(context.Background(), "dd", args)
    if !response.Success {
      bin.PrintAndExitWithErrPrefix(fmt.Sprintf("The file system named %s is not supported or %s", fileSystem, response.Err))
    }
  }
}

一个读一个写。

这个chaosblade实际上可以看做是一个工具集，集成了各种小工具。
混沌的帽子在这个工具，现在套着还是有点大。要想用它来实现上千上万个节点的模拟，还需要各种集成配置，远程执行等工具的配合。
大家再回过头来看看上面写的混沌工程定义的原则。这些模拟有没有符合这些原则呢？如果各位有处理生产环境的经验的话，会知道，这样的模拟，其实和真实环境下的CPU高、IO高的逻辑还是有不同的。
通常我们说一个应用程序的在CPU高的情况下是否能保持健壮。有两种含义：
其他程序在消耗CPU较高的情况下，被测试的程序是否能保持健壮。
是指的是这个应用本身的代码消耗了大量CPU的情况下，被测试程序是否能保持健壮。
有处理过生产类似问题的朋友们会知道，第一种情况，除了部署上的不合理会出现之外，几乎是看不到的。chaosblade其实是模拟的这种情况。而第二种情况，chaosblade现在还是做不到的。
但第二种情况却是测试过程中的重点。

其实英文中的chaos的含义是混乱。这和中文的混沌是非常不同的概念，现在这个概念被翻译成混沌，真是拉低了混沌这个词本身该有的寓意。

关于此工具的其他功能实现，如果有人有兴趣，后面再接着写。