golang MySQL十秒插入一百万条雪花算法生成的不重复的订单id
主要用了ants连接池以及beego
踩坑
一开始用的是beego提供的orm中的高级查询中的PrepareInsert，结果我只能说我去！这个鬼东西性能实在是太低了，一百万条数据在插入几万条之后，就因为连接太多了数据库崩了！！！后来仔细翻看beego的文档发现了下面这个东东
InsertMulti
同时插入多个对象
类似sql语句
insert into table (name, age) values("slene", 28),("astaxie", 30),("unknown", 20)
第一个参数 bulk 为并列插入的数量，第二个为对象的slice
返回值为成功插入的数量
users := []User{
{Name: "slene"},
{Name: "astaxie"},
{Name: "unknown"},
...
}
successNums, err := o.InsertMulti(100, users)
bulk 为 1 时，将会顺序插入 slice 中的数据
这就很完美了，开搞，直接上最终写好的一个小demo，测试结果插入一百万条数据只需要了九秒，嘿嘿占了数据结构简单的便宜才能这么快
model层
package models
import (
"fmt"
"github.com/astaxie/beego/orm"
"sync"
)
//用户表
type Order struct {
mu sync.Mutex
Id int `orm:"column(Id)"`
OrderId int64 `orm:"unique;column(Name)"` //用户名
}
func NewOrder() *Order {
return &Order{}
}
func GetTableOrder() string {
return getTable("order")
}
var (
// 与变量对应的使用互斥锁
countGuard sync.Mutex
)
type SyncMutex struct {
or *Order
countGuard sync.Mutex
}
//根据用户id获取用户info表的信息
//@param uid interface{} 用户UID
//@return UserInfo 用户信息
func (u *Order) InsertAll(orders []*Order) bool {
//var orders []*Order
u.mu.Lock()
qs := orm.NewOrm().QueryTable(GetTableOrder())
i, _ := qs.PrepareInsert()
for _, user := range orders {
_, err := i.Insert(user)
if err == nil {
//fmt.Println("yi")
}
}
// PREPARE INSERT INTO user (`name`, ...) VALUES (?, ...)
// EXECUTE INSERT INTO user (`name`, ...) VALUES ("slene", ...)
// EXECUTE ...
// ...
i.Close() // 别忘记关闭 statement
u.mu.Unlock()
return true
}
func (u *Order) Insert(order []*Order) bool {
u.mu.Lock()
o := orm.NewOrm()
_, err := o.InsertMulti(len(order), order)
if err == nil {
return true
} else {
fmt.Println(err)
}
u.mu.Unlock()
return false
}
控制器层
type TestXH struct {
Result chan int64
}
func (this *UserController) TestSnowFlakeByGo() {
fmt.Printf("\n开始时间%s\n", time.Now().Format("15:04:05"))
workderc, _ := helper.NewWorker(int64(1)) //初始化工作节点
var wg sync.WaitGroup
addChant := make(chan bool) //数据库结果通知通道
p, _ := ants.NewPoolWithFunc(500, func(payload interface{}) { //连接池 获取订单id并返回
request, ok := payload.(*TestXH) //断言
if !ok {
return
}
id := workderc.GetId()
request.Result <- id
})
pool, _ := ants.NewPoolWithFunc(300, func(orderInfo interface{}) { //执行数据库插入
order, ok := orderInfo.([]*models.Order)
if !ok {
return
}
if order != nil { //传递数据添加
addStatus := orderInsertOne(order)
addChant <- addStatus
}
})
request := &TestXH{Result: make(chan int64)}
count := 1000000
var orderPl []*models.Order
//orderModel := *models.NewOrder()
for i := 1; i <= count; i++ {
p.Invoke(request)
oid := <-request.Result
insert := new(models.Order)
insert.OrderId = oid
//pool.Invoke(insert)
orderPl = append(orderPl, insert) //合并要插入数据库的数据
if i%1000 == 0 { //合并一千条插入一次
wg.Add(1) //加锁
pool.Invoke(orderPl)
addSta := <-addChant
if !addSta {
fmt.Println("意外错误")
} else {
wg.Done()
orderPl = orderPl[0:0] //清空切片
}
}
if i%200000 == 0 {
fmt.Printf("\n二十万条%s\n", time.Now().Format("15:04:05"))
}
}
wg.Wait() //后面代码无意义
fmt.Printf("\n结束时间%s\n", time.Now().Format("15:04:05"))
data := make(map[string]interface{})
this.Data["json"] = data
this.ServeJSON()
}
func orderInsertOne(i []*models.Order) bool {
//批量添加
return models.NewOrder().Insert(i)
}
雪花算法包
package helper
import (
"errors"
"sync"
"time"
)
// 因为snowFlake目的是解决分布式下生成唯一id 所以ID中是包含集群和节点编号在内的
const (
workerBits uint8 = 10 // 每台机器(节点)的ID位数 10位最大可以有2^10=1024个节点
numberBits uint8 = 12 // 表示每个集群下的每个节点，1毫秒内可生成的id序号的二进制位数 即每毫秒可生成 2^12-1=4096个唯一ID
// 这里求最大值使用了位运算，-1 的二进制表示为 1 的补码，感兴趣的同学可以自己算算试试 -1 ^ (-1 << nodeBits) 这里是不是等于 1023
workerMax int64 = -1 ^ (-1 << workerBits) // 节点ID的最大值，用于防止溢出
numberMax int64 = -1 ^ (-1 << numberBits) // 同上，用来表示生成id序号的最大值
timeShift uint8 = workerBits + numberBits // 时间戳向左的偏移量
workerShift uint8 = numberBits // 节点ID向左的偏移量
// 41位字节作为时间戳数值的话 大约68年就会用完
// 假如你2010年1月1日开始开发系统 如果不减去2010年1月1日的时间戳 那么白白浪费40年的时间戳啊！
// 这个一旦定义且开始生成ID后千万不要改了 不然可能会生成相同的ID
epoch int64 = 1525705533000 // 这个是我在写epoch这个变量时的时间戳(毫秒)
)
// 定义一个woker工作节点所需要的基本参数
type Worker struct {
mu sync.Mutex // 添加互斥锁 确保并发安全
timestamp int64 // 记录时间戳
workerId int64 // 该节点的ID
number int64 // 当前毫秒已经生成的id序列号(从0开始累加) 1毫秒内最多生成4096个ID
}
// 实例化一个工作节点
func NewWorker(workerId int64) (*Worker, error) {
// 要先检测workerId是否在上面定义的范围内
//if workerId < 0 {
// return nil, errors.New("Worker ID excess of quantity")
//}
if workerId < 0 || workerId > workerMax {
return nil, errors.New("Worker ID excess of quantity")
}
// 生成一个新节点
return &Worker{
timestamp: 0,
workerId: workerId,
number: 0,
}, nil
}
// 接下来我们开始生成id
// 生成方法一定要挂载在某个woker下，这样逻辑会比较清晰 指定某个节点生成id
func (w *Worker) GetId() int64 {
// 获取id最关键的一点 加锁 加锁 加锁
w.mu.Lock()
defer w.mu.Unlock() // 生成完成后记得 解锁 解锁 解锁
// 获取生成时的时间戳
now := time.Now().UnixNano() / 1e6 // 纳秒转毫秒
if w.timestamp == now {
w.number++
// 这里要判断，当前工作节点是否在1毫秒内已经生成numberMax个ID
if w.number > numberMax {
// 如果当前工作节点在1毫秒内生成的ID已经超过上限 需要等待1毫秒再继续生成
for now <= w.timestamp {
now = time.Now().UnixNano() / 1e6
}
}
} else {
// 如果当前时间与工作节点上一次生成ID的时间不一致 则需要重置工作节点生成ID的序号
w.number = 0
w.timestamp = now // 将机器上一次生成ID的时间更新为当前时间
}
// 第一段 now - epoch 为该算法目前已经奔跑了xxx毫秒
// 如果在程序跑了一段时间修改了epoch这个值 可能会导致生成相同的ID
ID := int64((now-epoch)<<timeShift | (w.workerId << workerShift) | (w.number))
return ID
}
