讲师中心 微信公众号
AI工具推荐 视频效率加速

c++如何实现文件内容的增量同步逻辑_基于块签名与哈希比对【进阶】

冬辰姑娘_1003

冬辰姑娘_1003

发布时间:2026-03-25 18:33:17

|

288人浏览过

|

来源于php中文网

原创

必须用SHA-256等确定性哈希算法(如OpenSSL的EVP_DigestInit_ex),禁用std::hash;块大小建议2^n(如64KB);签名文件需固定长度结构+随机读支持;memcmp比std::equal更高效。

c++如何实现文件内容的增量同步逻辑_基于块签名与哈希比对【进阶】

怎么用 std::hash 或 openssl/evp.h 生成稳定块哈希

直接调 std::hash 对二进制块做哈希是错的——它不保证跨平台、跨编译器结果一致,也不支持自定义字节范围。生产环境必须用确定性哈希算法,比如 SHA-256。

推荐用 OpenSSL 的 EVP_DigestInit_ex + EVP_DigestUpdate,每次只喂入固定大小的块(如 64KB),避免内存暴涨:

unsigned char hash[SHA256_DIGEST_LENGTH];
EVP_MD_CTX* ctx = EVP_MD_CTX_new();
EVP_DigestInit_ex(ctx, EVP_sha256(), nullptr);
EVP_DigestUpdate(ctx, block_data, block_size);  // block_data 是 uint8_t*
EVP_DigestFinal_ex(ctx, hash, &len);
EVP_MD_CTX_free(ctx);
  • 别用 std::hash<:string></:string> 包装二进制数据——std::string 会把第一个 \0 当结束符,截断内容
  • 块大小建议设为 2^n(如 4KB / 64KB),对齐文件系统页和内存拷贝效率
  • Windows 上若链接 OpenSSL 静态库,注意 /MD 和 /MT 运行时一致性,否则 EVP_MD_CTX_new 可能崩溃

如何避免全量重算导致同步卡顿

增量同步的核心不是“比完再传”,而是“边读边判”。一旦发现某块哈希不匹配,立刻标记该块需传输,并跳到下一块——绝不回溯、不缓存整文件。

  • 用 mmap(Linux/macOS)或 CreateFileMapping(Windows)映射大文件,避免 fread 多次系统调用开销
  • 哈希比对必须按块顺序进行,但传输可以异步:把待传块索引推入队列,由独立线程调 sendfile 或 WriteFile
  • 不要在比对循环里做磁盘写入或网络发包——IO 会拖慢整个哈希流水线
  • 如果源文件被并发修改,需在开始前用 fstat 记录 st_mtime 和 st_size,比对中途发现变化就中止,防止块错位

块签名怎么存才方便快速查找与去重

签名文件不是日志,不能追加写。它得支持随机读、支持快速定位某偏移对应的哈希值,还要能应对文件截断或扩展。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

立即学习“C++免费学习笔记(深入)”;

  • 结构用固定长度记录:struct { uint64_t offset; uint8_t hash[32]; },这样 offset / block_size 就是数组下标
  • 签名文件本身用 truncate() 配合 pwrite() 更新,避免覆盖破坏旧数据;新块追加时先 lseek 到末尾再写
  • 客户端同步前先读签名头判断版本(比如前 4 字节存格式版本号),避免用 v2 签名解析 v1 文件导致越界读
  • 别把签名存在和源文件同目录下并叫 .sig——某些备份工具或 IDE 会自动忽略或扫描它,引发误删或性能抖动

为什么 memcmp 比 std::equal 更适合哈希比对

哈希值是原始字节数组,不是 C++ 容器。用 std::equal 要传迭代器,而 memcmp 直接比内存块,汇编层常被优化成 SIMD 指令,实测快 2–3 倍。

if (memcmp(local_hash, remote_hash, SHA256_DIGEST_LENGTH) != 0) {
    need_transfer.push_back(block_idx);
}
  • memcmp 要求两块内存非空且长度一致,所以传参前必须检查 SHA256_DIGEST_LENGTH 是否等于目标长度,否则未定义行为
  • 别用 == 比较两个 std::array<uint8_t></uint8_t>——默认比较是逐元素,没内联优化时反而更慢
  • 某些 sanitizer(如 UBSan)会对跨对象 memcmp 报告“invalid memory access”,此时改用 std::equal 是权衡,但仅限调试阶段

块哈希的稳定性、IO 调度粒度、签名存储结构这三处,任意一个没对齐真实场景,增量同步就会退化成全量拷贝——尤其是当文件有局部小修改却触发大量块哈希重算时,问题最隐蔽。

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

7019

2023.08.02

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4578

2023.08.10

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

3379

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2938

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

1528

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

2659

2023.08.02

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

3350

2023.08.08

windows自动更新
windows自动更新

Windows操作系统的自动更新功能可以确保系统及时获取最新的补丁和安全更新,以提高系统的稳定性和安全性。然而,有时候我们可能希望暂时或永久地关闭Windows的自动更新功能。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1697

2023.08.10

Tailwind CSS 如何制作导航栏和卡片
Tailwind CSS 如何制作导航栏和卡片

用 Tailwind CSS 制作导航栏和卡片,可先搭建语义化结构,再组合 Flex、Grid、间距、圆角与阴影类。这里整理横向导航、移动端菜单、卡片网格及悬停效果的相关文章,帮助你把常见页面组件做得清晰且适配不同屏幕。

0

2026.11.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn