解决mysql write:broken pipe

在调试程序的时候,因为数据量[100w+]过多。报了如下错误哦,我使用的是gorm这个orm

[mysql] 2018/07/15 11:26:08 packets.go:145: write tcp 127.0.0.1:58420->127.0.0.1:3306: write: broken pipe

网上查找各种解决方案,找到的解决答案如下:

设置maxIdleTime

mysql的wait_timeout 默认是28800s, 8小时.

db.SetConnMaxLifetime(time.Hour*7)

参考:https://imhanjm.com/2017/04/26/mysql%E8%BF%9E%E6%8E%A5%E6%B1%A0%E9%97%AE%E9%A2%98/

最后

以上依然不能解决我的问题。中途有把数据拆分来查询,发现超过5w条就会报这个错误,那么我设置每次4w条。开16个go程去执行,这样是可以。但是速度依然很慢。

我觉得才那么点数据,而且我电脑内存够。应该不会报这个错才对,于是我就不用gorm,换原生sql来查询数据。

    rows, err := db.Query(sqls)
    if err != nil {
        return
    }
    for rows.Next() {
          rows.Scan(...)
    }

运行,不报错了。
1610387 rows, use 8 second.

100w+条数据,需要8秒。虽然还在有点慢,但是和之前的报错比起来至少是可以运行的。

你可能感兴趣的:(解决mysql write:broken pipe)