分布式自增ID算法——雪花算法 (snowflake，Java版)
分布式ID生成解决方案:
系统唯一ID是我们在设计一个系统的时候常常会遇见的问题，也常常为这个问题而纠结。生成ID的方法有很多，适应不同的场景、需求以及性能要求。所以有些比较复杂的系统会有多个ID生成的策略。下面就介绍我们当时想到的办ID生成策略。
UUID常见的方式: 可以利用数据库也可以利用程序生成，一般来说全球唯一。
优点：
一 : 简单，代码方便。
二: 生成ID性能非常好，基本不会有性能问题。
三: 全球唯一，在遇见数据迁移，系统数据合并，或者数据库变更等情况下，可以从容应对。
缺点：
一: 没有排序，无法保证趋势递增。
二: UUID往往是使用字符串存储，查询的效率比较低。
三: 存储空间比较大，如果是海量数据库，就需要考虑存储量的问题。
四: 传输数据量大
五: 不可读。
在多个地区建立机房, 同时保存一条数据,如果用myql数据库的自增长,必然会产生id冲突, 当时想到的办法就是UUID , 36位长度 , 有4个-,去掉之后,32为长度, 测试之后id并不会冲突,id唯一, 挺美, 但是呢,是没有规律的,没有任何语义.(语义:能看出添加的先后顺序,京东是可以看出来的)
我们看一下上面的地址栏
苹果: https://item.jd.com/100008348530.html
小米: https://item.jd.com/100011199522.html
对比100008348530和100011199522我们很容易分辨出那个是先添加的,那个是后添加的,小米10刚出, 肯定是后添加的,我们看这个编号都能看出来,那么这里用的就是我们之后提到的雪花算法了.
接着说这个UUID, UUID是由数字和字符串组成(可以百度了解UUID的组成,这里不详细说了),
所有在mysql数据库中,使用varchar类型, 才能对应java中的Stirng类型. 经过我们的压力测试发现, 大量数据的情况下, 主键为varchar类型, 要比int ,bigint慢很多, 那么在主键方面,使用整数是最快的.所以,UUID被否定了.
Redis生成ID
当使用数据库来生成ID性能不够要求的时候，我们可以尝试使用Redis来生成ID。这主要依赖于Redis是单线程的，所以也可以用生成全局唯一的ID。可以用Redis的原子操作 INCR和INCRBY来实现。
优点：
一: 不依赖于数据库，灵活方便，且性能优于数据库。
二: 数字ID天然排序，对分页或者需要排序的结果很有帮助。
缺点：
一: 如果系统中没有Redis，还需要引入新的组件，增加系统复杂度。
二: 需要编码和配置的工作量比较大。
三: 网络传输造成性能下降。
然后我们又来一种想法,Redis生成ID,就是在原来的服务器的基础上,再搞一台redis服务器,专门用来生成id, 每当某个操作发生时，向 Redis 发送一个 INCR 命令。incr的自增长命令, decr 自减命令 举个例子:
| key | Value |
|---|---|
| zhangsan | 22 |
set zhangsan 22
incr zhangsan 返回值23
那么在这个时候,当你想数据库保存一条信息时,它会先找redis,生成id ,然后在保存.
如果多个服务器同时要一个id呢?会不会造成Id冲突呢?当然不会了, 因为redis是原子性操作 (ACID百度了解),如果同时要id,会上锁的.那是不是会造成阻塞呢?不会的,只是在redis中拿一个数字,一眨眼的事.放心好了.这个解决办法也是相当不错了,自增长, id唯一 . 干的是相当漂亮了.有一个缺点是什么呢?我们上面也提到了,网络传输造成性能下降.每次要id,都需要远程连接.浪费性能.
开源算法snowflake(雪花算法)
snowflake是Twitter开源的分布式ID生成算法，结果是一个long型的ID。其核心思想是：使用41bit作为毫秒数，10bit作为机器的ID（5个bit是数据中心，5个bit的机器ID），12bit作为毫秒内的流水号（意味着每个节点在每毫秒可以产生 4096 个 ID），最后还有一个符号位，永远是0.如图所示:
简单的说一下为什么第一个bit不用, 在我们的实际测试中发现, 如果使用第一位, id会有负数的情况,所有不用.
优点：
1）不依赖于数据库，灵活方便，且性能优于数据库。
2）ID按照时间在单机上是递增的。
缺点：
1）在单机上是递增的，但是由于涉及到分布式环境，每台机器上的时钟不可能完全同步，也许有时候也会出现不是全局递增的情况，而且集群环境超过1024台，这个算法理论上将不能保证100%不重复。但是一般的集群环境搭建是超不过1024台的.
开始实战:
java代码如下:
import java.lang.management.ManagementFactory;
import java.net.InetAddress;
import java.net.NetworkInterface;
/**
* 核心代码为其IdWorker这个类实现，其原理结构如下，我分别用一个0表示一位，用—分割开部分的作用：
* 1||0---0000000000 0000000000 0000000000 0000000000 0 --- 00000 ---00000 ---000000000000
* 在上面的字符串中，第一位为未使用（实际上也可作为long的符号位），接下来的41位为毫秒级时间，
* 然后5位datacenter标识位，5位机器ID（并不算标识符，实际是为线程标识），
* 然后12位该毫秒内的当前毫秒内的计数，加起来刚好64位，为一个Long型。
* 这样的好处是，整体上按照时间自增排序，并且整个分布式系统内不会产生ID碰撞（由datacenter和机器ID作区分），
* 并且效率较高，经测试，snowflake每秒能够产生26万ID左右，完全满足需要。
* 64位ID (42(毫秒)+5(机器ID)+5(业务编码)+12(重复累加))
*/
public class IdWorker {
// 时间起始标记点，作为基准，一般取系统的最近时间（一旦确定不能变动）
private final static long twepoch = 1288834974657L;
// 机器标识位数
private final static long workerIdBits = 5L;
// 数据中心标识位数
private final static long datacenterIdBits = 5L;
// 机器ID最大值
private final static long maxWorkerId = -1L ^ (-1L << workerIdBits);
// 数据中心ID最大值
private final static long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);
// 毫秒内自增位
private final static long sequenceBits = 12L;
// 机器ID偏左移12位
private final static long workerIdShift = sequenceBits;
// 数据中心ID左移17位
private final static long datacenterIdShift = sequenceBits + workerIdBits;
// 时间毫秒左移22位
private final static long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;
private final static long sequenceMask = -1L ^ (-1L << sequenceBits);
/* 上次生产id时间戳 */
private static long lastTimestamp = -1L;
// 0，并发控制
private long sequence = 0L;
private final long workerId;
// 数据标识id部分
private final long datacenterId;
public IdWorker(){
this.datacenterId = getDatacenterId(maxDatacenterId);
this.workerId = getMaxWorkerId(datacenterId, maxWorkerId);
}
/**
* @param workerId
* 工作机器ID
* @param datacenterId
* 序列号
*/
public IdWorker(long workerId, long datacenterId) {
if (workerId > maxWorkerId || workerId < 0) {
throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
}
if (datacenterId > maxDatacenterId || datacenterId < 0) {
throw new IllegalArgumentException(String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
}
this.workerId = workerId;
this.datacenterId = datacenterId;
}
/**
* 获取下一个ID
*
* @return
*/
public synchronized long nextId() {
long timestamp = timeGen();
if (timestamp < lastTimestamp) {
throw new RuntimeException(String.format("Clock moved backwards. Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
}
if (lastTimestamp == timestamp) {
// 当前毫秒内，则+1
sequence = (sequence + 1) & sequenceMask;
if (sequence == 0) {
// 当前毫秒内计数满了，则等待下一秒
timestamp = tilNextMillis(lastTimestamp);
}
} else {
sequence = 0L;
}
lastTimestamp = timestamp;
// ID偏移组合生成最终的ID，并返回ID
long nextId = ((timestamp - twepoch) << timestampLeftShift)
| (datacenterId << datacenterIdShift)
| (workerId << workerIdShift) | sequence;
return nextId;
}
private long tilNextMillis(final long lastTimestamp) {
long timestamp = this.timeGen();
while (timestamp <= lastTimestamp) {
timestamp = this.timeGen();
}
return timestamp;
}
private long timeGen() {
return System.currentTimeMillis();
}
/**
*
* 获取 maxWorkerId
*
*/
protected static long getMaxWorkerId(long datacenterId, long maxWorkerId) {
StringBuffer mpid = new StringBuffer();
mpid.append(datacenterId);
String name = ManagementFactory.getRuntimeMXBean().getName();
if (!name.isEmpty()) {
/*
* GET jvmPid
*/
mpid.append(name.split("@")[0]);
}
/*
* MAC + PID 的 hashcode 获取16个低位
*/
return (mpid.toString().hashCode() & 0xffff) % (maxWorkerId + 1);
}
/**
*
* 数据标识id部分
*
*/
protected static long getDatacenterId(long maxDatacenterId) {
long id = 0L;
try {
InetAddress ip = InetAddress.getLocalHost();
NetworkInterface network = NetworkInterface.getByInetAddress(ip);
if (network == null) {
id = 1L;
} else {
byte[] mac = network.getHardwareAddress();
id = ((0x000000FF & (long) mac[mac.length - 1])
| (0x0000FF00 & (((long) mac[mac.length - 2]) << 8))) >> 6;
id = id % (maxDatacenterId + 1);
}
} catch (Exception e) {
System.out.println(" getDatacenterId: " + e.getMessage());
}
return id;
}
}
看完本文, 你有什么想法,说说你的看法,欢迎在评论区留言.