snowflake雪花算法详解与实现(代码片段)

陈皮的JavaLib 陈皮的JavaLib     2022-11-30     297

关键词:

我是陈皮,一个在互联网 Coding 的 ITer,个人微信公众号「陈皮的JavaLib」关注第一时间阅读最新文章。

文章目录

背景

现在的服务基本是分布式,微服务形式的,而且大数据量也导致分库分表的产生,对于水平分表就需要保证表中 id 的全局唯一性。

对于 MySQL 而言,一个表中的主键 id 一般使用自增的方式,但是如果进行水平分表之后,多个表中会生成重复的 id 值。那么如何保证水平分表后的多张表中的 id 是全局唯一性的呢?

如果还是借助数据库主键自增的形式,那么可以让不同表初始化一个不同的初始值,然后按指定的步长进行自增。例如有3张拆分表,初始主键值为1,2,3,自增步长为3。

当然也有人使用 UUID 来作为主键,但是 UUID 生成的是一个无序的字符串,对于 MySQL 推荐使用增长的数值类型值作为主键来说不适合。

也可以使用 Redis 的自增原子性来生成唯一 id,但是这种方式业内比较少用。

当然还有其他解决方案,不同互联网公司也有自己内部的实现方案。雪花算法是其中一个用于解决分布式 id 的高效方案,也是许多互联网公司在推荐使用的。

SnowFlake 雪花算法

SnowFlake 中文意思为雪花,故称为雪花算法。最早是 Twitter 公司在其内部用于分布式环境下生成唯一 ID。在2014年开源 scala 语言版本。

雪花算法原理就是生成一个的64位比特位的 long 类型的唯一 id。

  • 最高1位固定值0,因为生成的 id 是正整数,如果是1就是负数了。
  • 接下来41位存储毫秒级时间戳,2^41/(1000606024365)=69,大概可以使用69年。
  • 再接下10位存储机器码,包括5位 datacenterId 和5位 workerId。最多可以部署2^10=1024台机器。
  • 最后12位存储序列号。同一毫秒时间戳时,通过这个递增的序列号来区分。即对于同一台机器而言,同一毫秒时间戳下,可以生成2^12=4096个不重复 id。

可以将雪花算法作为一个单独的服务进行部署,然后需要全局唯一 id 的系统,请求雪花算法服务获取 id 即可。

对于每一个雪花算法服务,需要先指定10位的机器码,这个根据自身业务进行设定即可。例如机房号+机器号,机器号+服务号,或者是其他可区别标识的10位比特位的整数值都行。

算法实现

package com.chenpi;

import java.util.Set;
import java.util.TreeSet;

/**
 * @author 陈皮
 * @version 1.0
 * @description 雪花算法ID生成器
 * @date 2022/4/3
 */
public class SnowflakeIdGenerator 

  // 初始时间戳(纪年),可用雪花算法服务上线时间戳的值
  // 1649059688068:2022-04-04 16:08:08
  private static final long INIT_EPOCH = 1649059688068L;

  // 记录最后使用的毫秒时间戳,主要用于判断是否同一毫秒,以及用于服务器时钟回拨判断
  private long lastTimeMillis = -1L;

  // dataCenterId占用的位数
  private static final long DATA_CENTER_ID_BITS = 5L;
  // dataCenterId占用5个比特位,最大值31
  // 0000000000000000000000000000000000000000000000000000000000011111
  private static final long MAX_DATA_CENTER_ID = ~(-1L << DATA_CENTER_ID_BITS);
  // datacenterId
  private long datacenterId;

  // workId占用的位数
  private static final long WORKER_ID_BITS = 5L;
  // workId占用5个比特位,最大值31
  // 0000000000000000000000000000000000000000000000000000000000011111
  private static final long MAX_WORKER_ID = ~(-1L << WORKER_ID_BITS);
  // workId
  private long workerId;

  // 最后12位,代表每毫秒内可产生最大序列号,即 2^12 - 1 = 4095
  private static final long SEQUENCE_BITS = 12L;
  // 掩码(最低12位为1,高位都为0),主要用于与自增后的序列号进行位与,如果值为0,则代表自增后的序列号超过了4095
  // 0000000000000000000000000000000000000000000000000000111111111111
  private static final long SEQUENCE_MASK = ~(-1L << SEQUENCE_BITS);
  // 同一毫秒内的最新序号,最大值可为 2^12 - 1 = 4095
  private long sequence;

  // workId位需要左移的位数 12
  private static final long WORK_ID_SHIFT = SEQUENCE_BITS;
  // dataCenterId位需要左移的位数 12+5
  private static final long DATA_CENTER_ID_SHIFT = SEQUENCE_BITS + WORKER_ID_BITS;
  // 时间戳需要左移的位数 12+5+5
  private static final long TIMESTAMP_SHIFT = SEQUENCE_BITS + WORKER_ID_BITS + DATA_CENTER_ID_BITS;

  public SnowflakeIdGenerator(long datacenterId, long workerId) 

    // 检查datacenterId的合法值
    if (datacenterId < 0 || datacenterId > MAX_DATA_CENTER_ID) 
      throw new IllegalArgumentException(
          String.format("datacenterId值必须大于0并且小于%d", MAX_DATA_CENTER_ID));
    

    // 检查workId的合法值
    if (workerId < 0 || workerId > MAX_WORKER_ID) 
      throw new IllegalArgumentException(String.format("workId值必须大于0并且小于%d", MAX_WORKER_ID));
    

    this.workerId = workerId;
    this.datacenterId = datacenterId;
  

  /**
   * 通过雪花算法生成下一个id,注意这里使用synchronized同步
   *
   * @return 唯一id
   */
  public synchronized long nextId() 

    long currentTimeMillis = System.currentTimeMillis();

    // 当前时间小于上一次生成id使用的时间,可能出现服务器时钟回拨问题
    if (currentTimeMillis < lastTimeMillis) 
      throw new RuntimeException(
          String.format("可能出现服务器时钟回拨问题,请检查服务器时间。当前服务器时间戳:%d,上一次使用时间戳:%d", currentTimeMillis,
              lastTimeMillis));
    

    if (currentTimeMillis == lastTimeMillis)  // 还是在同一毫秒内,则将序列号递增1,序列号最大值为4095

      // 序列号的最大值是4095,使用掩码(最低12位为1,高位都为0)进行位与运行后如果值为0,则自增后的序列号超过了4095
      // 那么就使用新的时间戳
      sequence = (sequence + 1) & SEQUENCE_MASK;
      if (sequence == 0) 
        currentTimeMillis = tilNextMillis(lastTimeMillis);
      

     else  // 不在同一毫秒内,则序列号重新从0开始,序列号最大值为4095
      sequence = 0;
    

    // 记录最后一次使用的毫秒时间戳
    lastTimeMillis = currentTimeMillis;

    // 核心算法,将不同部分的数值移动到指定的位置,然后进行或运行
    return ((currentTimeMillis - INIT_EPOCH) << TIMESTAMP_SHIFT) | (datacenterId
        << DATA_CENTER_ID_SHIFT) | (workerId << WORK_ID_SHIFT) | sequence;
  

  /**
   * 获取指定时间戳的接下来的时间戳,也可以说是下一毫秒
   *
   * @param lastTimeMillis 指定毫秒时间戳
   * @return 时间戳
   */
  private long tilNextMillis(long lastTimeMillis) 
    long currentTimeMillis = System.currentTimeMillis();
    while (currentTimeMillis <= lastTimeMillis) 
      currentTimeMillis = System.currentTimeMillis();
    
    return currentTimeMillis;
  

  public static void main(String[] args) 
    SnowflakeIdGenerator snowflakeIdGenerator = new SnowflakeIdGenerator(1, 2);

    // 生成50个id
    Set<Long> set = new TreeSet<>();
    for (int i = 0; i < 50; i++) 
      set.add(snowflakeIdGenerator.nextId());
    
    System.out.println(set.size());
    System.out.println(set);

    // 验证生成100万个id需要多久
    long startTime = System.currentTimeMillis();
    for (int i = 0; i < 1000000; i++) 
      snowflakeIdGenerator.nextId();
    
    System.out.println(System.currentTimeMillis() - startTime);
  

算法验证

public static void main(String[] args) 
    SnowflakeIdGenerator snowflakeIdGenerator = new SnowflakeIdGenerator(1, 2);
    
    // 生成50个id
    Set<Long> set = new TreeSet<>();
    for (int i = 0; i < 50; i++) 
        set.add(snowflakeIdGenerator.nextId());
    
    System.out.println(set.size());
    System.out.println(set);
    
    // 验证生成100万个id需要多久
    long startTime = System.currentTimeMillis();
    for (int i = 0; i < 1000000; i++) 
        snowflakeIdGenerator.nextId();
    
    System.out.println(System.currentTimeMillis() - startTime);
  

在我的笔记本,测试结果如下,生成的50个id是不重复的,而且 id 值是递增的。然后再测试生成100万个 id,只花费了262毫秒,可见是算法是及其高效的。

50
[268133605376, 268133605377, 268133605378, 268133605379, 268133605380, 268133605381, 268133605382, 268133605383, 268133605384, 268133605385, 268133605386, 268133605387, 268133605388, 268133605389, 268133605390, 268133605391, 268133605392, 268133605393, 268133605394, 268133605395, 268133605396, 268133605397, 268133605398, 268133605399, 268133605400, 268133605401, 268133605402, 268133605403, 268133605404, 268133605405, 268133605406, 268133605407, 268133605408, 268133605409, 268133605410, 268133605411, 268133605412, 268133605413, 268133605414, 268133605415, 268133605416, 268133605417, 268133605418, 268133605419, 268133605420, 268133605421, 268133605422, 268133605423, 268133605424, 268133605425]
262

算法优缺点

雪花算法有以下几个优点:

  • 高并发分布式环境下生成不重复 id,每秒可生成百万个不重复 id。
  • 基于时间戳,以及同一时间戳下序列号自增,基本保证 id 有序递增。
  • 不依赖第三方库或者中间件。
  • 算法简单,在内存中进行,效率高。

雪花算法有如下缺点:

  • 依赖服务器时间,服务器时钟回拨时可能会生成重复 id。算法中可通过记录最后一个生成 id 时的时间戳来解决,每次生成 id 之前比较当前服务器时钟是否被回拨,避免生成重复 id。

注意事项

其实雪花算法每一部分占用的比特位数量并不是固定死的。例如你的业务可能达不到69年之久,那么可用减少时间戳占用的位数,雪花算法服务需要部署的节点超过1024台,那么可将减少的位数补充给机器码用。

注意,雪花算法中41位比特位不是直接用来存储当前服务器毫秒时间戳的,而是需要当前服务器时间戳减去某一个初始时间戳值,一般可以使用服务上线时间作为初始时间戳值。

对于机器码,可根据自身情况做调整,例如机房号,服务器号,业务号,机器 IP 等都是可使用的。对于部署的不同雪花算法服务中,最后计算出来的机器码能区分开来即可。


本次分享到此结束啦~~

如果觉得文章对你有帮助,点赞、收藏、关注、评论,您的支持就是我创作最大的动力!

雪花算法snowflake分布式id生成原理详解,以及对解决时钟回拨问题几种方案讨论(代码片段)

文章目录一、前言二、雪花算法snowflake1、基本定义2、snowflake的优缺点三、Java代码实现snowflake1、组装生成id2、计算最大值的几种方式3、反解析ID4、ID生成器使用方式四、时钟回拨问题和解决方案讨论1、时间戳自增彻底解决时钟... 查看详情

java实现雪花算法(snowflake)-生成永不重复的id(源代码+工具类)使用案例(代码片段)

雪花算法是由Twitter公司开源的snowflake(雪花)算法。1、雪花算法的原理雪花算法会生成一个64位的二进制数据,为一个Long型。(转换成字符串后长度最多19),其基本结构:第一位:为未使用第二部分:41位为毫秒级时间(41位... 查看详情

java实现雪花算法(snowflake)-生成永不重复的id(源代码+工具类)使用案例(代码片段)

雪花算法是由Twitter公司开源的snowflake(雪花)算法。1、雪花算法的原理雪花算法会生成一个64位的二进制数据,为一个Long型。(转换成字符串后长度最多19),其基本结构:第一位:为未使用第二部分:41位为毫秒级时间(41位... 查看详情

分布式id理解snowflake算法的实现原理(代码片段)

1.概述转载:冷饭新炒:理解Snowflake算法的实现原理我上次也看了一个视频讲解:【分布式ID】键高并发分布式全局唯一ID雪花算法snowflake2.前提#Snowflake(雪花)是Twitter开源的高性能ID生成算法(服务)... 查看详情

snowflake雪花算法分布式实现全局id生成(代码片段)

snowflake是Twitter开源的分布式ID生成算法,结果是一个long型的ID。这种方案大致来说是一种以划分命名空间(UUID也算,由于比较常见,所以单独分析)来生成ID的一种算法,这种方案把64-bit分别划分成多段,分开来标示机器、时间... 查看详情

雪花算法原理解析(代码片段)

...戳)。美团Leaf算法(依赖于数据库,ZK)。  本文主要介绍SnowFlake算法,是Twitter开源的分布式id生成算法。  其核心思想就是: 查看详情

snowflake算法实现(代码片段)

...产生 ID 值使用雪花算法生成 ID 值二 雪花算法1 说明SnowFlake被称为雪花算法,它是分布式ID生成器。雪花算法是由Twitter公布的分布式主键生成算法,它能够保证不同表的主键的不重复性,以及相同表的主键的有序... 查看详情

雪花算法如何生成用户id?有什么高明之处?(代码片段)

...介前言雪花算法生成用户ID分布式ID生成器分布式ID的特点snowflake算法介绍设计思想snowflake的Go实现Twitter索尼雪花 查看详情

雪花算法(snowflake)delphi版(代码片段)

...位数,每毫秒可生成4096个ID用法:创建全局变量:snow:TDxSnowflake;创建对象:snow:=TDxSnowflake.Create;//不要忘了在退出时释放snow.Free;调用:snow.WorkerID:=100;mmo1.Lines.Add(FormatFloat(‘#0‘,snow.Generate));*)unitDxSnowflake;interfaceusesSystem.SysUtils,System... 查看详情

雪花算法(代码片段)

雪花算法(snowflake):用于生成分布式ID(纯数字,时间顺序),订单编号等自增ID:记录可以根据ID号进行推测出来,对于数据敏感场景不宜使用。GUID:采用无意义字符串,数据量增大时造成访问过慢,且不宜排序。雪花算法描述... 查看详情

雪花算法生成id(代码片段)

packagecom.shopping.test;/***SnowFlake的结构如下(每部分用-分开):<br>*0-00000000000000000000000000000000000000000-00000-00000-000000000000<br>*1位标识,由于long基本类型在Java中是带符号的,最高位是符号位,正数是0,负数是1,所以id一般是正... 查看详情

小白知识:数据库表主键id生成策略及snowflake雪花算法的由来(代码片段)

早期单机早期单机系统习惯的主键有两种方式:整数的自增主键和字符串主键整数自增主键,数据库自己维护,每次+1,优点快速简单,具有顺序,方便排序,缺点高并发时会有主键冲突问题。... 查看详情

snowflake雪花算法唯一id

packagesnowflake;/***Twitter_Snowflake<br>*SnowFlake的结构如下(每部分用-分开):<br>*0-00000000000000000000000000000000000000000-00000-00000-000000000000<br>*1位标识,由于long基本类型在Java中是带符号的,最高位是符号位,正数 查看详情

遗传算法详解与matlab实现(代码片段)

目录1算法讲解1.1遗传算法流程描述1.2关于为什么要用二进制码表示个体信息1.3目标函数值与适应值区别1.4关于如何将二进制码转化为为变量数值1.4关于代码改进2各部分代码及使用2.1代码使用2.2--Genetic1--主函数2.3--PI(PopulationInitial... 查看详情

遗传算法详解与matlab实现(代码片段)

目录1算法讲解1.1遗传算法流程描述1.2关于为什么要用二进制码表示个体信息1.3目标函数值与适应值区别1.4关于如何将二进制码转化为为变量数值1.4关于代码改进2各部分代码及使用2.1代码使用2.2--Genetic1--主函数2.3--PI(PopulationInitial... 查看详情

分布式id生成方案-snowflake算法(代码片段)

...,欢迎关注。个人博客网站:分布式ID生成方案-snowflake算法背景在互联网的业务系统中,涉及到各种各样的ID,这些ID需要保证全局唯一。我们称之为分布式ID,分布式ID需要满足唯一性、趋势递增性、高可用性... 查看详情

6-9雪花算法与新增功能(代码片段)

新增工具类:/***Twitter的分布式自增ID雪花算法**/@ComponentpublicclassSnowFlake/***起始的时间戳*/privatefinalstaticlongSTART_STMP=1609459200000L;//2021-01-0100:00:00/***每一部分占用的位数*/privatefinalstaticlongSEQUEN 查看详情

snowflake(雪花算法)

参考技术A首先雪花算法就是生成一个64位的二进制数据,最终转换成长度为19的十进制正整数整型数据解释一下这64位分别代表什么意思,从左往右。当然这个算法的强大并不仅仅如此而已,这个算法的时间位、机器位、序列号... 查看详情