layout: post
title: “golang 调试高阶技巧”
date: 2020-6-03 1:44:09 +0800
categories: golang GC 垃圾回收
本文专注 golang debug 的一些技巧应用,以及相关工具的实用用法,再也不用怕 golang 怎么调试。golang 作为一门现代化语音,出生的时候就自带完整的 debug 手段:
golang 从语言原生层面就集成了大量的实用工具,这些都是 Robert Griesemer, Rob Pike, Ken Thompson 这几位大神经验沉淀下的精华。你安装好 golang 之后,执行 go tool
就能看到内置支持的所有工具了。
root@ubuntu:~# go tool
addr2line
asm
buildid
cgo
compile
cover
dist
doc
fix
link
nm
objdump
pack
pprof
test2json
trace
vet
我这里专注挑选几个 debug 常用的:
nm
命令)objdump
命令)查看符号表的命令,等同于系统的 nm 命令,非常有用。在断点的时候,如果你不知道断点的函数符号,那么用这个命令查一下就知道了(命令处理的是二进制程序文件)。
# exmple 为你编译的二进制文件
go tool nm ./example
第一列是地址,第二列是类型,第三列是符号:
[图片上传失败…(image-1c9b7a-1594910164396)]
汇编某个文件
go tool compile -N -l -S example.go
你就能看到你 golang 语言对应的汇编代码了(注意了,命令处理的是 golang 代码文本),酷。
反汇编二进制的工具,等同于系统 objdump
(注意了,命令解析的是二进制格式的程序文件)。
go tool objdump example.o
go tool objdump -s DoFunc example.o // 反汇编具体函数
汇编代码这个东西在 90% 的场景可能都用不上,但是如果你处理过 c 的程序,在某些特殊场景,通过反汇编一段逻辑来推断应用程序行为将是你唯一的出路。因为线上的代码一般都是会开启编译优化,所以这里会导致你的代码对不上。再者,线上不可能让你随意 attach 进程,很多时候都是出 core 了,你就只有一个 core 文件去排查。
pprof 支持四种类型的分析:
我们这里详细以内存占用分析举例(其他的类似),pprof 这个是内存分析神器。基本上,golang 有了这个东西,99% 的内存问题(比如内存泄露,内存占用过大等等)都是可以非常快的定位出来的。首先,对于 golang 的内存分析(或者其他的锁消耗,cpu 消耗)我们明确几个重要的点:
mProf_Malloc
,mProf_Free
这两个函数。所以,如果是 cgo 分配的内存,那么是没有机会调用到这两个函数的,所以如果是 cgo 导致的内存问题,go tool pprof 是分析不出来的;详细原理,可以复习另一篇文章:内存分析;
分析的形式有两种:
net/http/pporf
方式开启的,那么可以直接在控制台上输入,浏览器就能看;go tool
去分析(我们以这个举例,因为这种方式才是生产环境通用的方式)# 查看累计分配占用
go tool pprof -alloc_space ./29075_20190523_154406_heap
# 查看当前的分配占用
go tool pprof -inuse_space ./29075_20190523_154406_allocs
你也可以不指定类型,直接 go tool pprof ./xxx
,进入分析之后,调用 o
选项,指定类型:
我写了一个 demo 程序,然后 dump 出了一份 heap 的 pprof 采样文件,我们先通过这个 pprof 得出一些结论,最后我再贴出源代码,再品一品。
go tool pprof ./29075_20190523_154406_heap
(pprof) o
...
sample_index = inuse_space //: [alloc_objects | alloc_space | inuse_objects | inuse_space]
...
(pprof) alloc_space
(pprof) top
Showing nodes accounting for 290MB, 100% of 290MB total
flat flat% sum% cum cum%
140MB 48.28% 48.28% 140MB 48.28% main.funcA (inline)
100MB 34.48% 82.76% 190MB 65.52% main.funcB (inline)
50MB 17.24% 100% 140MB 48.28% main.funcC (inline)
0 0% 100% 290MB 100% main.main
0 0% 100% 290MB 100% runtime.main
这个 top 信息表明了这么几点信息:
main.funcA
这个函数现场分配了 140M 的内存,main.funcB
这个函数现场分配了 100M 内存,main.funcC
现场分配了 50M 内存;
main.funcA
分配的 140M 内存纯粹是自己分配的,没有调用别的函数分配过内存;
main.funcA
flat 和 cum 都为 140 M 得出;main.funcB
自己分配了 100MB,并且还调用了别的函数,别的函数里面涉及了 90M 的内存分配;
main.funcB
flat 和 cum 分别为 100 M,190M 得出;main.funcC
自己分配了 50MB,并且还调用了别的函数,别的函数里面涉及了 90M 的内存分配;
main.funcC
flat 和 cum 分别为 50 M,140 M 得出;main.main
:所有分配内存的函数调用都是走这个函数出去的。main 函数本身没有函数分配,但是他调用的函数分配了 290M;demo 的源代码:
package main
import (
"net/http"
_ "net/http/pprof"
)
func funcA() []byte {
a := make([]byte, 10*1024*1024)
return a
}
func funcB() ([]byte, []byte) {
a := make([]byte, 10*1024*1024)
b := funcA()
return a, b
}
func funcC() ([]byte, []byte, []byte) {
a := make([]byte, 10*1024*1024)
b, c := funcB()
return a, b, c
}
func main() {
for i := 0; i < 5; i++ {
funcA()
funcB()
funcC()
}
http.ListenAndServe("0.0.0.0:9999", nil)
}
dump 命令:
curl -sS 'http://127.0.0.1:9999/debug/pprof/heap?seconds=5' -o heap.pporf
对照着代码,再品一品。
程序 trace 调试
go tool trace -http=":6060" ./ssd_336959_20190704_105540_trace
trace 这个命令允许你跟踪采集一段时间的信息,然后 dump 成文件,最后调用 go tool trace
分析 dump 文件,并且以 web 的形式打开。
单元测试的重要性就不再论述。golang 里面 _test.go
结尾的文件认为是测试文件,golang 作为现代化的语言,语言工具层面支持单元测试。
执行单元测试有两种方式:
// 直接在你项目目录里运行 go test .
go test .
// 指定运行函数
go test -run=TestPutAndGetKeyValue
// 打印详细信息
go test -v
本质上,golang 跑单测是先编译 *_test.go
文件,编译成二进制后,再运行这个二进制文件。你执行 go test
的时候,工具帮你做好了,这些动作其实也是可以拆开来自己做的。
编译生成单元测试可执行文件:
// 先编译出 .test 文件
$ go test -c
// 指定跑某一个文件
$ ./raftexample.test -test.timeout=10m0s -test.v=true -test.run=TestPutAndGetKeyValue
这种方式通常会出现在以下几种场景:
golang 的代码覆盖率是基于单测的,由单测作为出发点,来看你的业务代码覆盖率。
操作很简单:
-coverprofile
的参数,声明在跑单测的时候,记录代码覆盖率;go tool cover
命令分析,得出覆盖率报告;go test -coverprofile=coverage.out
go tool cover -func=coverage.out
类似如下:
root@ubuntu:~/opensource/readcode-etcd-master/src/go.etcd.io/etcd/contrib/raftexample# go tool cover -func=coverage.out
go.etcd.io/etcd/v3/contrib/raftexample/httpapi.go:33: ServeHTTP 25.0%
go.etcd.io/etcd/v3/contrib/raftexample/httpapi.go:108: serveHttpKVAPI 0.0%
go.etcd.io/etcd/v3/contrib/raftexample/kvstore.go:41: newKVStore 100.0%
go.etcd.io/etcd/v3/contrib/raftexample/kvstore.go:50: Lookup 100.0%
go.etcd.io/etcd/v3/contrib/raftexample/kvstore.go:57: Propose 75.0%
go.etcd.io/etcd/v3/contrib/raftexample/kvstore.go:71: readCommits 55.0%
go.etcd.io/etcd/v3/contrib/raftexample/kvstore.go:107: getSnapshot 100.0%
go.etcd.io/etcd/v3/contrib/raftexample/kvstore.go:113: recoverFromSnapshot 85.7%
go.etcd.io/etcd/v3/contrib/raftexample/listener.go:30: newStoppableListener 75.0%
go.etcd.io/etcd/v3/contrib/raftexample/listener.go:38: Accept 92.9%
go.etcd.io/etcd/v3/contrib/raftexample/main.go:24: main 0.0%
total: (statements) 57.1%
这样的话,你就知道每个函数的代码覆盖率。
程序的调试主要由两个工具:
这里推荐 dlv,因为 gdb 功能实在是有限,gdb 不理解 golang 的业务类型和协程。但是 gdb 有一个功能是无法替代的,就是 gcore 的功能。
dlv exec [flags]
举例:
dlv exec ./example
dlv 调试二进制,并带参数
dlv exec ./example -- --audit=./d
dlv attach ${pid} [executable] [flags]
进程号是必选的。
举例:
dlv attach 12808 ./example
dlv 调试core文件;并且标准输出导出到文件
dlv core [flags]
dlv core ./example core.277282
程序运行
断点相关
信息打印
协程相关
栈相关
其他命令
以上就是完整的 dlv 的支持的命令,从这个来看,是完全满足我们的调试需求的(有的只适用于开发调试环节,比如线上的程序不可能让你随意单步调试的,有的使用于线上生产环节)。
打印全局变量
(dlv) vars
这个非常有用,帮助你看一些全局变量。
条件断点
# 先断点
(dlv) b
# 查看断点信息
(dlv) bp
# 然后定制条件
(dlv) condition 2 i==2 && j==7 && z==32
查看堆栈
# 展示所有堆栈
(dlv) goroutines
# 所有堆栈展开
(dlv) goroutines -t
解析内存
(dlv) x -fmt hex -len 20 0xc00008af38
x
命令和 gdb 的 x
是一样的。
gdb 对 golang 的调试支持是通过一个 python 脚本文件 src/runtime/runtime-gdb.py
来扩展的,所以功能非常有限。gdb 只能做到最基本的变量打印,却理解不了 golang 的一些特殊类型,比如 channel,map,slice 等,gdb 原生是无法调适 goroutine 协程的,因为这个是用户态的调度单位,gdb 只能理解线程。所以只能通过 python 脚本的扩展,把协程结构按照链表输出出来,支持的命令:
[图片上传失败…(image-c8e3d1-1594910164394)]
gdb当前只支持6个命令:
3个 cmd 命令
3个函数
打印全局变量 (注意单引号)
(gdb) p 'runtime.firstmoduledata'
由于 gdb 不理解 golang 的一些类型系统,所以调试打印的时候经常打印不出来,这个要注意下。
打印数组变量长度
(gdb) p $len(xxx)
所以,我一般只用 gdb 来 gcore 而已。
有时候不知道怎么断点函数:可以通过nm查询下,然后再断点,就一定能断到了。
[图片上传失败…(image-f2bd4b-1594910164394)]
[图片上传失败…(image-e94d0b-1594910164394)]
在你的代码里添加一行:
debug.PrintStack()
这样就能当前代码位置的堆栈给打印出来,这样你就直到怎么函数的调用路径了。
pprof 功能有两种开启方式,对应两种包:
这两个本质上是一致的,net/http/pporf
也只是在 runtime/pprof
上的一层 web 封装。
net/http/pprof
方式
import _ "net/http/pprof"
runtime/pprof
方式
这种通常用于程序调优的场景,程序只是一个应用程序,跑一次就结束,你想找到瓶颈点,那么通常会使用到这个方式。
// cpu pprof 文件路径
f, err := os.Create("cpufile.pprof")
if err != nil {
log.Fatal(err)
}
// 开启 cpu pprof
pprof.StartCPUProfile(f)
defer pprof.StopCPUProfile()
这种情况一般是被编译器优化了,比如函数内联了,编译出的二进制删减了无效逻辑、无效参数。这种情况就会导致你 dlv 单步调试的时候,总是非预期的执行,或者打印某些变量打印不出来。这种情况解决方法就是:禁止编译优化。
go build -gcflags "-N -l"
该篇文章系统的分享了 golang 程序调试的技巧和用法:
坚持思考,方向比努力更重要。微信公众号关注我:奇伢云存储