讲师中心 微信公众号
AI工具推荐 视频效率加速

c++如何实现文本文件内敏感词的DFA过滤算法【深度】

风杰酱_1106

风杰酱_1106

发布时间:2026-04-11 20:23:04

|

161人浏览过

|

来源于php中文网

原创

直接用std::string::find过滤敏感词时间复杂度高(O(n×m×k))、不支持重叠匹配、最长匹配优先及增量扫描;AC自动机通过DFA状态机+fail指针+BFS构建+UTF-8正确处理,实现O(n)单次扫描与上下文回调。

c++如何实现文本文件内敏感词的dfa过滤算法【深度】

为什么不用 std::string::find 做敏感词过滤

直接循环调用 std::string::find 查每个词,时间复杂度是 O(n×m×k),n 是文本长度,m 是敏感词平均长度,k 是词表大小。10 万字文本 + 500 个敏感词,很容易卡在百毫秒以上,且无法支持「重叠匹配」(如“法轮”和“轮功”需同时命中)或「最长匹配优先」这类业务规则。
更关键的是:它不支持增量扫描——比如日志流、网络包分片到达时,你没法只传入一段新数据就继续上次状态。

DFA 状态机的核心结构怎么建(C++17 实现)

用 std::unordered_map<char size_t></char> 表示每个状态的转移边,配合 std::vector 存所有状态。终态额外标记是否为「输出节点」及对应敏感词索引(支持多词同路径结尾,如“苹果”和“苹果手机”):

struct DfaState {
    std::unordered_map<char, size_t> next;
    std::vector<size_t> output; // 匹配到的词下标
    bool is_fail = false; // 是否为 fail 状态(用于构建 fail 指针)
};
std::vector<DfaState> states(1); // 状态 0 是 root

插入词时逐字符走当前路径,不存在则新建状态;结尾处往 output push_back 词 ID。注意:中文需按 char 处理会出错——必须先转 UTF-8 字节流再建图,或改用 uint32_t + std::u32string(后者更稳但内存翻倍)。

如何正确构建 AC 自动机的 fail 指针

AC 自动机本质是带 fail 边的 DFA,否则遇到失配就只能回退重试,失去线性性能。构建时用 BFS(不是 DFS),从 root 出发:

立即学习“C++免费学习笔记(深入)”;

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
  • root 的所有子节点的 fail 指向 root
  • 对每个节点 u,遍历其子节点 v(对应字符 c):若 u 的 fail 节点存在边 c 指向 w,则 v 的 fail 指向 w;否则继续跳 fail 直到 root 或找到该边
  • 合并 output:v->output.insert(end, v->fail->output.begin(), v->fail->output.end()) —— 这步不能漏,否则短词匹配不到

常见坑:fail 指针构建后没做 output 合并;BFS 队列里忘了 push 新建的子节点;用递归模拟 BFS 导致栈溢出(词表大时状态数轻松过万)。

单次扫描如何做到 O(n) 且支持上下文回调

扫描时维护当前状态 ID,每读一个字节(UTF-8 下可能需预解析成 codepoint)就跳转:

size_t state = 0;
for (size_t i = 0; i < text.size(); ) {
    uint32_t cp = utf8_decode(text, i); // 自行实现或用 ICU
    while (state != 0 && states[state].next.find(cp) == states[state].next.end()) {
        state = states[state].fail;
    }
    auto it = states[state].next.find(cp);
    state = (it != states[state].next.end()) ? it->second : 0;
<pre class='brush:php;toolbar:false;'>for (size_t idx : states[state].output) {
    callback(idx, i - utf8_len(cp), i); // 传入词ID、起始/结束字节偏移
}

}

注意三点:
– utf8_decode 必须返回合法 codepoint,非法字节序列要统一映射为 U+FFFD 或跳过,否则状态机崩;
– fail 回退必须用 while(不是 if),因为 fail 链可能多层;
– 回调函数里不要做耗时操作(如 IO、正则),否则拖慢整个扫描;如需替换,建议只记录 offset+length,批量后处理。

真正难的不是建图,而是把 UTF-8 边界、fail 合并、增量恢复(断点续扫)、内存局部性(std::vector 连续分配比指针树快 3 倍)这几件事全压进一个稳定接口里——多数人栽在 UTF-8 和 fail 合并上,而不是算法本身。

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

6439

2023.08.02

while的用法
while的用法

while的用法是“while 条件: 代码块”,条件是一个表达式,当条件为真时,执行代码块,然后再次判断条件是否为真,如果为真则继续执行代码块,直到条件为假为止。本专题为大家提供while相关的文章、下载、课程内容,供大家免费下载体验。

354

2023.09.25

C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

359

2026.04.23

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

3148

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

4929

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3789

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

446

2026.01.19

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

5907

2023.07.18

Playwright 测试失败怎么办
Playwright 测试失败怎么办

Playwright测试失败专题汇集超时、定位器匹配、浏览器提前关闭、依赖与插件配置、文件上传、SSL及Docker启动等故障文章,并介绍通过截图、报告和Trace定位错误。

0

2026.10.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn