一文教会你如何进行Golang服务优化

1、概述

嗨喽，大家好呀！我是简凡，一位游走于各互联网大厂间的新时代农民工。对于C端在线业务，服务的稳定性和吞吐量常常是评估一个系统的重要指标，所以本文将从以下4点进行展开，逐步讲解golang中如何进行性能优化。

1. 为什么要做性能优化
2. 性能优化基础
3. 优化思路
4. 常见的优化场景

 

2、性能优化的目的（Why?）

我们常常在以下时候考虑到性能优化：

1. 日常优化系统：
   1. 接口相应时间优化，以满足对上游的SLA
   2. CPU优化，保证在线业务cpu idl处于一个较高水平，降低业务量突增对系统稳定性带来的冲击
   3. 内存优化，减少内存占用，释放多余的服务器资源
2.  解决线上业务问题：
   1. 接口相应超时
   2. CPU利用率飙升

3、性能优化基础（What?）

3.1 性能优化指标

在Golang服务中，我们常常从以下4点触发去做服务的优化：

• CPU profile：报告程序的 CPU 使用情况，按照一定频率去采集应用程序在 CPU 和寄存器上面的数据
• Memory Profile（Heap Profile）：报告程序的内存使用情况

• Block Profiling：报告 goroutines 不在运行状态的情况，可以用来分析和查找死锁等性能瓶颈
• Goroutine Profiling：报告 goroutines 的使用情况，有哪些 goroutine，它们的调用关系是怎样的

4. 性能分析过程（How?）

4.1 如何获取性能快照

golang中有两种类型的应用，工具性应用和服务型应用，工具性型应用的main函数仅一段时间，我们本地跑单元测试的性能测试其实原理就是应用的这种。服务型应用为长期存活的后端应用，例如RPC服务，HTTP服务，我们后端系统通常都是服务型应用。

4.1.1 工具型应用获取CPU快照

测试Demo如下，这里用了一个快排的例子，应用执行结束后，就会生成一个文件，保存了我们的 CPU profiling 数据。得到采样数据之后，使用go tool pprof工具进行 CPU 性能分析。

package main
 
import (
    "math/rand"
    "os"
    "runtime/pprof"
    "time"
)
 
func generate(n int) []int {
    rand.Seed(time.Now().UnixNano())
    nums := make([]int, 0)
    for i := 0; i < n; i++ {
        nums = append(nums, rand.Int())
    }
    return nums
}
func bubbleSort(nums []int) {
    for i := 0; i < len(nums); i++ {
        for j := 1; j < len(nums)-i; j++ {
            if nums[j] < nums[j-1] {
                nums[j], nums[j-1] = nums[j-1], nums[j]
            }
        }
    }
}
 
func main() {
    pprof.StartCPUProfile(os.Stdout)
    defer pprof.StopCPUProfile()
    n := 10
    for i := 0; i < 5; i++ {
        nums := generate(n)
        bubbleSort(nums)
        n *= 10
    }
}

这里使用的runtime/pprof这个分析工具，需要指定快照打印的位置，这里打印到标准输出了。可以会与程序中的打印冲突。我们可以自己实现写到文件中，这里可以用另一个开源工具替代`github.com/pkg/profile`，它会生成一个日志快照文件到临时目录。

package main
 
import (
    "math/rand"
    "github.com/pkg/profile"
    "time"
)
 
func generate(n int) []int {
    rand.Seed(time.Now().UnixNano())
    nums := make([]int, 0)
    for i := 0; i < n; i++ {
        nums = append(nums, rand.Int())
    }
    return nums
}
func bubbleSort(nums []int) {
    for i := 0; i < len(nums); i++ {
        for j := 1; j < len(nums)-i; j++ {
            if nums[j] < nums[j-1] {
                nums[j], nums[j-1] = nums[j-1], nums[j]
            }
        }
    }
}
 
func main() {
    defer profile.Start(profile.MemProfile, profile.MemProfileRate(1)).Stop()
    n := 10
    for i := 0; i < 5; i++ {
        nums := generate(n)
        bubbleSort(nums)
        n *= 10
    }
}

4.1.1 服务型应用CPU分析

如果你的应用程序是一直运行的，比如 web 应用，那么可以使用net/http/pprof库，它能够在提供 HTTP 服务进行分析。这样你的 HTTP 服务都会多出/debug/pprof endpoint，访问它会得到类似下面的内容：

package main
 
import (
    "net/http"
    _ "net/http/pprof"
)
 
func main() {
    http.ListenAndServe("0.0.0.0:8000", nil)
}

现在数据已经可以采集了，那如何获取快照呢？我们上一步的操作，在后台起了一个http server服务，我们直接点击ui中的链接就可以拿到内存快照了,例如点击profile，我们就可以拿到一个30s的CPU快照，是一个*.pb.gz类型的二进制文件，可用于我们后面的分析。

• /debug/pprof/profile：访问这个链接会自动进行 CPU profiling，持续 30s，并生成一个文件供下载
• /debug/pprof/heap： Memory Profiling 的路径，访问这个链接会得到一个内存 Profiling 结果的文件

• /debug/pprof/block：block Profiling 的路径
• /debug/pprof/goroutines：运行的 goroutines 列表，以及调用关系

4.2 go tool分析性能快照

不管是工具型应用还是服务型应用，我们使用相应的 pprof 库获取数据之后，下一步的都要对这些数据进行分析，我们可以使用go tool pprof命令行工具。

go tool pprof最简单的使用方式为:

go tool pprof [binary] [source]

其中：

• binary 是应用的二进制文件，用来解析各种符号；例如：go tool pprof -http=:9999 /Users/xxxx/pprof/pprof.samples.cpu.001.pb.gz
• source 表示 profile 数据的来源，可以是本地的文件，也可以是 http 地址。此方式会在命令窗口中按照交互模式例如：go tool pprof http://127.0.0.1:8000/debug/pprof/profile

注意事项： 获取的 Profiling 数据是动态的，要想获得有效的数据，请保证应用处于较大的负载（比如正在生成中运行的服务，或者通过其他压测工具模拟访问压力）。否则如果应用处于空闲状态，得到的结果可能没有任何意义。

可以增加些参数来获取更多信息，例如：

# 我们想获取70s的内存快照，可以增加-seconds参数：
gotool pprof  -seconds 70 http://127.0.0.1:8912/debug/pprof/profile
# 指定http接口，可以在ui上看到内存快照，参见本文4.2.2
gotool pprof  -http=0.0.0.0:8234 http://127.0.0.1:8912/debug/pprof/profile

4.2.1 直连服务分析

go tool + 线上服务http接口地址的方式：

go tool pprof http://127.0.0.1:8000/debug/pprof/profile

执行上面的代码会进入交互界面如下：

runtime_pprof $ go tool pprof cpu.pprof
Type: cpu
Time: Jun 28, 2019 at 11:28am (CST)
Duration: 20.13s, Total samples = 1.91mins (568.60%)
Entering interactive mode (type "help" for commands, "o" for options)
(pprof)

我们可以在交互界面输入top3来查看程序中占用 CPU 前 3 位的函数：

(pprof) top3
Showing nodes accounting for 100.37s, 87.68% of 114.47s total
Dropped 17 nodes (cum <= 0.57s)
Showing top 3 nodes out of 4
      flat  flat%   sum%        cum   cum%
    42.52s 37.15% 37.15%     91.73s 80.13%  runtime.selectnbrecv
    35.21s 30.76% 67.90%     39.49s 34.50%  runtime.chanrecv
    22.64s 19.78% 87.68%    114.37s 99.91%  main.logicCode

其中：

• flat：当前函数占用 CPU 的耗时
• flat：: 当前函数占用 CPU 的耗时百分比
• sun%：函数占用 CPU 的耗时累计百分比
• cum：当前函数加上调用当前函数的函数占用 CPU 的总耗时
• cum%：当前函数加上调用当前函数的函数占用 CPU 的总耗时百分比
• 最后一列：函数名称

在大多数的情况下，我们可以通过分析这五列得出一个应用程序的运行情况，并对程序进行优化。

我们还可以使用list 函数名命令查看具体的函数分析，例如执行list logicCode查看我们编写的函数的详细分析。

(pprof) list logicCode
Total: 1.91mins
ROUTINE ================ main.logicCode in .../runtime_pprof/main.go
    22.64s   1.91mins (flat, cum) 99.91% of Total
         .          .     12:func logicCode() {
         .          .     13:   var c chan int
         .          .     14:   for {
         .          .     15:           select {
         .          .     16:           case v := <-c:
    22.64s   1.91mins     17:                   fmt.Printf("recv from chan, value:%v\n", v)
         .          .     18:           default:
         .          .     19:
         .          .     20:           }
         .          .     21:   }
         .          .     22:}

通过分析发现大部分 CPU 资源被 17 行占用，我们分析出 select 语句中的 default 没有内容会导致上面的case v:=<-c:一直执行。我们在 default 分支添加一行time.Sleep(time.Second)即可。

4.2.2 快照文件+图形化工具

这种快照文件的方式好处是更加直观，可以通过图形化界面来分析：

想要查看图形化的界面首先需要安装 graphviz 图形化工具。Mac：brew install graphviz

接下来，可以用 go tool pprof 分析这份数据

go tool pprof -http=:9999 cpu.pprof

访问 localhost:9999，可以看到这样的页面：

当然我们还可以选择VIEW，然后看火焰图：

至此，我们就成功的获取了每个函数占用的CPU时间了，下面就可以对占用较长的函数（平顶山部分）进行优化了。

5、常见性能优化手段

5.1 使用高效的性能包

5.1.1 Json解析

我们将Json数据存放到Redis时，取出时需要将其解析为Struct，但go官方自带的库性能较差，所以常常出现瓶颈，可选择github.com/json-iterator 替换标准库的 encoding/json（该库主要的优化手段详见：http://jsoniter.com/benchmark.html#optimization-used）。 json-iterator 宣传的性能如下图：

5.1.2 深拷贝

还有时我们需要在项目中使用到深拷贝的场景，可以参考这篇文章，深拷贝性能对比：其他工具 · 雀。

5.2 空间换时间

1. 对于常见的Json解析问题，Redis大key问题，我们可以进行多级缓存，将Redis中的大key数据缓存到内存中，这里别忘了考虑带来的缓存一致性问题。
2. 对于一些map，slice，尽量在初始化时指定大小，减少内存的重新分配。当我们插入数据大于 slice 长度，或者超过 map 阈值时，slice 或 map 内部会自动扩容，自动分配一个两倍大小的数据结构，并将原来的数据拷贝过去。因此正确衡量数据结构的初始容量能够防止性能变差。

5.3 字符串拼接

字符串的拼接优先考虑bytes.Buffer。由于string类型是一个不可变类型，但拼接会创建新的string。GO中字符串拼接常见有如下几种方式，对性能要求很高的服务尽量使用bytes.Buffer进行字符串拼接

• string + 操作 ：导致多次对象的分配与值拷贝
• fmt.Sprintf ：会动态解析参数，效率好不哪去
• strings.Join ：内部是[]byte的append
• bytes.Buffer ：可以预先分配大小，减少对象分配与拷贝

使用strconv包替代fmt.Sprintf的格式化方式，性能比对见：fmt.Sprintf strconv.Itoa 效率实验 - yumuxu - 博客园

5.4 异步处理

既然选用了Golang，自然要用到它简单易用的并发机制啦，我们可以把一些不影响主流程的操作完全可以异步化，例如发送邮件、写日志等。可以把一些业务场景并行处理，例如你要一次性读取多个文件。

6、总结

代码层面的优化，是 us 级别的，而针对业务对存储进行优化，可以做到 ms 级别的，所以优化越靠近应用层效果越好。对于代码层面，优化的步骤是：

1. 利用压测工具模拟场景所需的真实流量。压测工具推荐使用 https://github.com/wg/wrk 或 https://github.com/adjust/go-wrk
2. pprof 等工具查看服务的 CPU、MEM 耗时
3. 锁定平顶山逻辑，看优化可能性：异步处理，空间换时间，使用高性能包 等
4. 局部优化完写 benchmark 工具查看优化效果
5. 整体优化完回到步骤一，重新进行 压测+pprof 看效果，看耗时能否满足要求，如果无法满足需求，那就换存储吧~

后续我会给大家出一篇关于Golang服务的代码开发建议，我们下期见，Peace

我是简凡，一个励志用最简单的语言，描述最复杂问题的新时代农民工。求点赞，求关注，如果你对此篇文章有什么疑惑，欢迎在我的微信公众号中留言，我还可以为你提供以下帮助：

• 帮助建立自己的知识体系
• 互联网真实高并发场景实战讲解
• 不定期分享Golang、Java相关业内的经典场景实践

我的博客：https://besthpt.github.io/

微信公众号：