Debezium系列之:Debezium 中的增量快照

[复制链接]
发表于 2025-12-28 14:51:51 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
为什么必要增量快照?


      
  • 自 Debezium 问世以来,此中最大的痛点之一是对捕捉表列表更改的支持不敷优化。作为用户,您创建一个包罗要捕捉的表列表的新毗连器(table.include.list 和干系选项);在以后的某个时间点,大概必要调解此设置,以捕捉最初不属于 CDC 的其他表。假如只必要从这些表中流式传输更改,那么题目就很简单。但假如您还必要捕捉表中的现有内容呢?  
  • 传统上,Debezium 在快照阶段中完成对表中现有数据的捕捉。此阶段在第一次毗连器启动时实行一次,其目标是在某个时间点捕捉划一的数据(将静态数据转换为动态数据)。这大概是一个相称长的操纵,而且根据界说,它必须完全实行或不实行-有点像事件语义。这意味着假如由于毗连器重新启动而未完成快照,则必须重新重新实行,而且已经完成的全部内容都将被扬弃。别的,在快照被拍摄时,任安在数据库中并行实行的数据修改都不会被流式传输,直到快照完成。这大概会导致非常大的快照出现数据库资源题目,由于必须保持事件日志日志可用,直到开始流式传输。
因此,我们终极面临着三个题目必要办理:

      
  • 假如必要流式传输现有数据,则险些不大概将其他表添加到捕捉的表列表中  
  • 长时间运行的划一性快照过程无法停止或规复  
  • 快照完成之前,更改数据流被壅闭
遗留办理方案


      
  • 这个题目是众所周知的,随着时间的推移,我们开辟相识决方法,并提出了大概的改进和新办理方案。作为一种办理方法,广泛的发起是采取多毗连器方法。用户必要实行以下操纵:
         
    • 克制毗连器<  

回复

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表