2024-01-21 分类: 网站建设
我们目前主流的服务端系统都是分布式的架构。业务分布在不同的机器节点上产生数据,数据也存储在不同的机器节点。为了方便标识数据,我们使用 唯一且有序 的ID来标识数据。即:
整个分布式系统中,新生成的ID永远不会产生与之前已经生成的ID重复;
生成的所有ID可以根据生成的时间进行排序(生成时间晚的排序顺序靠后)
我们来看一下市面上的几种主流的ID生成方案。
一、Mysql 集群
由于我们的讨论前提是分布式架构的系统,所以这里的 Mysql 我们默认是集群版。
众所周知,Mysql 有自带的唯一ID机制,即自增主键,可以保证在同一个数据库中,表内生成的每一条记录都是唯一且有序的。
但是如果放在分布式系统里面,我们用分库/分表的架构存储记录,那就会导致在系统中产生重复的ID。
如下图,表1 2 3都是存储相同记录的不同表(可以在同一个数据库里,也可以在不同数据库里),表1 2 3都会产生id相同的数据。
为了解决这个问题,mysql 官方支持数据库 ID 生成时设置步长,可以保证不同数据库中相同表的id唯一性。
如上图,每个表都有 不同的起始id和相同的步长 ,这就能保证业务记录Id的唯一性。
设置步长的方案虽然解决了id生成的唯一性,但是也有很大的缺点
不能保证ID的有序性和时间的强相关。(由于是分布式系统,不能保证id=4的数据一定在id=3的数据后面生成)
每次新增加一个节点,要重置所有节点的起始值和步长。
第二点只是数据库管理会麻烦一些,但是第一点不能满足我们对有序性的要求。
二、ID数据库
这里泛指一套单独维护的ID数据库,目的是为了保证业务系统内所有的ID的唯一性和有序性。
举几个例子,比如Mysql维护一条表记录,Redis 维护一个key,zookeeper 维护一个序列号。当所有业务都通过调用这些存储服务来生成+获取唯一ID的时候,就可以保证生成Id的唯一性和有序性。
缺点:
需要资源单独维护一个服务
如果ID数据库挂掉,整个业务就会停摆。如果ID数据库出现数据错乱,可能会影响到唯一性和有序性
总结一下就是,ID数据库可以提供唯一有序的ID,但是有一定的维护成本且系统的风险很高。
三、雪花算法
SnowFlake是Twitter公司采用的一种算法,目的是在分布式系统中产生 全局唯一且整体递增 的ID。
3.1 生成ID的结构
3.2 生成原理
我们先看一下雪花ID的生成过程:
生成毫秒级别的时间戳,填充到 41bit 的位置
序列号默认为 000000000000 。如果 新生成的时间戳上次生成的相等 ,序列号就会 + 1。将序列号填充到 12bit 位置
存储当前生成的时间戳到内存中,以便下次生成时判断
获取到当前机器+进程的唯一标识,填充到 10bit 的位置
通过上述整个流程我们可以看到,雪花算法可以确保唯一性,单机内在同一毫秒生成的ID会有序列号的递增,多机环境在同一毫秒生成的ID会有机器+进程的唯一标识。
但是无法保证强有序性,比如多个机器在同一毫秒内生成的ID,就无法按照时间规则进行排序
3.3 缺点
雪花算法除了无法实现严格按照时间的有序性之外,还有一个可能存在的风险点,就是 单机时钟回拨 。
如果一个机器之前已经生成过ID,将机器的时间改为之前的时间,那么就有一定几率会生成与之前相同的ID。
四、mongoDB 的唯一ID生成策略
mongo唯一ID生成策略——ObjectId,和雪花算法相似度极高。区别在于雪花算法要占用64个字节,而 ObjectId 只需要占用 12个字节,但是objectId只能存储秒级别时间戳。
ObjectId如果用字符串表示则有24个字符,但实际上它是由一组十六进制的字符构成,每个字节两位的十六进制数字,总共用了12字节的存储空间。
比如:6331500a7cac81af7136236b 这个ID
秒级时间戳
机器码
进程的pid
序号
mongoDB 的 ObjectId 和雪花算法一样,无法实现严格按照时间的有序性,并且由于是秒级别的时间戳,所以不同机器生成的ID,不按照时间排序的可能性会大很多。而且如果单机时钟回拨,也会产生与之前重复的ID。
总结
特性/方案 | Mysql 集群 | ID数据库 | 雪花算法 | mongoDB ObjectId |
---|---|---|---|---|
唯一性 | :white_check_mark: | :white_check_mark: | :white_check_mark: | :white_check_mark: |
按照生成时间的有序性 | :x: | :white_check_mark: | :x: | :x: |
维护的难易程度 | 难 | 较难 | 易维护 | 易维护 |
在分布式系统中:
以上四种方案都可以保证生成ID的唯一性
如果并发量很小的系统,可以考虑 雪花算法/mongoDB ObjectId 方案来保证有序性
如果并发量很大,只能用ID数据库来保证有序性,但是会比 雪花算法/mongoDB ObjectId 方案增加维护成本
网站标题:mysql多条数据存到不同表id唯一分布式系统中的唯一ID生成
地址分享:/news10/314710.html
成都网站建设公司_创新互联,为您提供关键词优化、软件开发、网站设计公司、面包屑导航、网站排名、静态网站
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联
猜你还喜欢下面的内容