解决方案:如何防止数据重复插入?

  • 时间:
  • 浏览:0

摘要: 原创出处 https://www.bysocket.com 「公众号:泥瓦匠BYSocket 」欢迎关注和转载,保留摘要,谢谢!

目录

  1. 为什么我么我会么会要处理数据重复插入?
  2. 处理方案实战
  3. 可落地小总结

大问题起源,微信小应用系统进程抽风 wx.request() 重复请求服务器提交数据。后端服务也很简单,伪代码如下:

class SignLogService {
    public void saveSignLog(SignLogDO log) {
        

发现数据库会地处重复数据行,提交时间一模一样。但业务需求是也能有多余的 log 突然出现,这明显是个大问题。

大问题是,重复请求因为的数据重复插入。这大问题造成的后果很明显:

  • 数据冗余,因为分析不单单多一条
  • 其他业务需求也能有多余数据,造成服务大问题

大问题如图所示:

处理最好的办法:怎样才能将 同请求 A,不执行插入,全都 读取前全都 请求插入的数据并返回。处理后流程应该如下:

1.单库单表处理方案

  • 唯一索引 + 唯一字段
  • 幂等

上边说的那种业务场景:sign_log 表会有 user_id、sign_id、sign_time 等。这么每次签到,每买车人每天也能一条签到记录。

数据库层采取唯一索引的形式,保证数据记录唯一性。即 UNIQUE 约束,UNIQUE 约束唯一标识数据库表中的每条记录。另外,user_id,sign_id,sign_time 全都 组要花费唯一字段。创表的伪代码如下:

CREATE TABLE sign_log
(
id int NOT NULL,
user_id int NOT NULL,
sign_id int,
sign_time int,
CONSTRAINT unique_sign_log UNIQUE (user_id,sign_id,sign_time)
)

重点是 CONSTRAINT unique_sign_log UNIQUE (user_id,sign_id,sign_time)。有个小大问题,数据量大的然后,每条记录还会有对应的唯一索引,比较耗资源。这么全都 就行好久?

答案是不行,服务地处问题健壮。第全都 请求插入成功,第3个请求直接报错,Java 服务会抛出 DuplicateKeyException 。

简单的幂等写法操作即可,伪代码如下:

class SignLogService {
    public SingLogDO saveSignLog(SignLogDO log) {
        

的确,流量就有很大,全都 算很高并发。重复写大问题,全都 处理即可。那大流量、高并发场景咋搞

2.分库分表处理方案

流量大了后,单库单表会演变成分库分表。这么基于单表的唯一索引形式,在碰到分表就无法保证呢,插入的地方因为分析是全都 分表 A1 和 A2。

处理思路:将数据的唯一性条件装进其他存储,并进行锁控制

还是上边的例子,每天,每次签到,每买车人也能一条签到记录。这么使用分布式锁 Redis 的处理方案。大致伪代码如下:

a.加锁

  • lockKey 最简单的是 user_id + sign_id + sign_time
  • expireTime 设置为一天

b.解锁

c.幂等代码加强

class SignLogService {
    public SingLogDO saveSignLog(SignLogDO log) {

        

你这个 方案还是就有很心智心智心智性开花结果 图片 图片 图片 期期期期 图片 ,亲戚亲戚朋友 参考下即可。

处理方案实战中,了解具体术。归纳如下:

  • 幂等:保证多次同意请求后结果一致
  • 并发控制:单表唯一索引、分布式多表分布式锁
  • 降级兜底方案:分布式锁锁失效 – 考虑乐观锁兜底

参考资料

  • 重复插入方案: http://www.bysocket.com/archives/2266
  • 《阿里巴巴 Java 开发手册》

以下专题教程你说歌词 您会有兴趣

  • 《Spring Boot 2.x 系列教程》
  • 《Java 核心系列教程》

(关注微信公众号,领取 Java 精选干货学习资料)