讲师中心 微信公众号
AI工具推荐 视频效率加速

怎么在SQL Server中为大事务构建增量变更数据捕获视图

云雪小哥_3772

云雪小哥_3772

发布时间:2026-10-21 09:12:32

|

385人浏览过

|

来源于php中文网

原创

<p>cdc.fn_cdc_get_allchanges* 不适用于大事务,因其按__$start_lsn+__$seqval返回、不保证事务内变更原子聚合,且存在隐式行数限制与超时截断风险,易导致镜像错位或语义丢失。</p>

怎么在sql server中为大事务构建增量变更数据捕获视图

为什么不能直接用 cdc.fn_cdc_get_all_changes_* 查大事务

大事务(比如单次更新百万行)在事务日志中会生成大量连续 LSN,但 cdc.fn_cdc_get_all_changes_* 函数默认按 __$start_lsn + __$seqval 顺序返回结果,不保证单事务内所有变更原子聚合。更关键的是:该函数有隐式行数限制(尤其在 SQL Server 2016+ 中受内存和查询超时影响),大事务可能被截断、分片到多个调用中,导致下游解析出错或丢失操作语义(例如 UPDATE 的前镜像/后镜像错位)。

必须用 __$start_lsn + __$tran_end_time 聚合事务边界

SQL Server CDC 的 _CT 表本身不存事务结束时间,但可通过关联 sys.fn_cdc_map_lsn_to_time 和 sys.fn_cdc_get_max_lsn 推导出近似事务窗口;更可靠的做法是先查 cdc.lsn_time_mapping(需确保 sys.sp_cdc_add_job 已启用 cleanup job 并运行过),再 JOIN 到 _CT 表:

SELECT 
  t.__$start_lsn,
  t.__$operation,
  t.__$seqval,
  l.tran_end_time,
  COUNT(*) OVER (PARTITION BY t.__$start_lsn, l.tran_end_time) AS tran_row_count
FROM cdc.dbo_sys_order_info_CT t
INNER JOIN cdc.lsn_time_mapping l 
  ON t.__$start_lsn = l.start_lsn
WHERE t.__$start_lsn >= <code>sys.fn_cdc_get_min_lsn('dbo_sys_order_info')</code>
  AND l.tran_end_time IS NOT NULL

注意:lsn_time_mapping 只在 cleanup job 运行后才填充,若为空,说明 job 未执行或失败 —— 此时不能依赖时间字段做聚合。

@supports_net_changes = 1 不适合大事务增量消费

启用 net changes(即建表时设 @supports_net_changes = 1)会生成 cdc.fn_cdc_get_net_changes_* 函数,它把同一事务内的 INSERT+UPDATE+DELETE 合并为最终状态,但代价是:它强制扫描整个事务范围内的所有变更行,对大事务极易触发 tempdb spill 或超时。实际生产中,大事务场景应禁用 net changes,改用 all changes 模式,并自行按 __$start_lsn 分批处理:

  • 每次只取一个 __$start_lsn 对应的所有行(用 WHERE __$start_lsn = @lsn + ORDER BY __$seqval)
  • 用 TOP (5000) 分页避免单次结果集过大
  • 记录已处理的最高 __$start_lsn 和对应最大 __$seqval,作为下一轮起点

大事务下的 LSN 推进必须跳过中间值

很多人误以为调用 sys.fn_cdc_increment_lsn(@last_lsn) 就能安全推进到下一个事务 —— 错。大事务的 LSN 是连续块,increment_lsn 只加 1,大概率落在同一事务内部,导致重复消费。正确做法是:查出当前已处理事务的最大 __$start_lsn,再用 sys.fn_cdc_get_max_lsn() 获取全局最新 LSN,然后用 sys.fn_cdc_get_min_lsn('capture_instance') 确认下一轮起始点是否仍在有效窗口内。中间缺失的 LSN 不代表数据丢失,而是尚未提交或已被 cleanup job 清理 —— 这种情况必须靠重试机制兜底,不能靠 LSN 线性递增假设。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

5731

2023.08.11

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2785

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

3961

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

3071

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

987

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

2687

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

2687

2023.10.16

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

2893

2023.10.16

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn