讲师中心 微信公众号
AI工具推荐 视频效率加速

ThinkPHP如何做敏感词过滤_Trie树算法高效匹配【指南】

秋婷大大_4136

秋婷大大_4136

发布时间:2026-06-13 09:25:43

|

723人浏览过

|

来源于php中文网

原创

必须上Trie树并常驻内存:ThinkPHP的str_replace和preg_replace本质是暴力遍历,词库超300条或文本超500字时响应飙升,且无法处理最长匹配、UTF-8切分、热更新及Redis集成,需用容器单例绑定Trie树实现O(n)匹配。

thinkphp如何做敏感词过滤_trie树算法高效匹配【指南】

ThinkPHP 里直接用 str_replace 或 preg_replace 做敏感词过滤,线上一压测就卡住——这不是配置问题,是算法选错了。必须上 Trie 树,且不能手写裸树,得借 ThinkPHP 的生命周期和容器机制把树常驻内存。

为什么 ThinkPHP 自带的 Str::replace 不适合敏感词过滤

它本质还是封装了 str_replace,对每个词做一次全文扫描。词库超 300 条、文本超 500 字时,响应时间直线上升;更麻烦的是,它完全不处理“法轮功”和“法轮”共存时的最长匹配优先问题,容易漏判或误判。ThinkPHP 的 Validate 规则里加正则也不行:regex:/法轮功|邪教/ 这种写法在词多时会触发 PCRE 编译瓶颈,而且无法动态加载词库。

  • 每次请求都重建替换逻辑,没复用树结构
  • 不支持 UTF-8 多字节字符的单字切分(如“笨蛋”被切成“”“”)
  • 无法对接 Redis 缓存热词或灰度开关

在 ThinkPHP 中构建常驻 Trie 树的实操要点

别在控制器里每次 new 一个树对象。利用 think\Container 绑定单例,在应用启动时一次性加载词库并建树:

  • 把敏感词文件(如 app/common/sensitive_words.txt)按行读取,每行一个词,用 mb_split('//u', $line) 切成 Unicode 字符数组
  • 插入树时统一转小写(mb_strtolower($word, 'UTF-8')),避免 “VIP” 和 “vip” 重复建分支
  • 节点结构用关联数组即可:['children' => [], 'is_end' => true, 'word' => '原词'],不要搞递归类封装
  • 注册为容器服务:Container::getInstance()->bind('SensitiveTrie', function () { return new SensitiveTrie(...); });

这样后续 anywhere 调用 app('SensitiveTrie')->match($text) 都走同一棵树,无 IO、无重复建树开销。

btpanel phpsite 宝塔面板PHP网站
btpanel phpsite 宝塔面板PHP网站

宝塔面板 PHP 网站管理:站点创建、删除、启停、PHP 版本切换、域名管理、SSL证书管理、伪静态管理、数据库管理

下载

立即学习“PHP免费学习笔记(深入)”;

SensitiveTrie::match() 必须支持「最长匹配」和「位置记录」

业务不止要判断有没有敏感词,还要知道在哪、替换成什么。比如“法轮功组织”得命中“法轮功”,而不是只截出“法轮”。所以搜索逻辑不能一碰到 is_end 就返回,得走到不能走为止:

  • 外层用 for ($i = 0; $i 遍历起始位置
  • 内层从 $i 开始沿树走,用 mb_substr($text, $j, 1, 'UTF-8') 取当前字符
  • 每走一步检查是否 is_end,记录当前长度;走不动时取最后那个 is_end 对应的词
  • 返回结果至少含 ['has_sensitive' => true, 'matches' => [['pos' => 2, 'len' => 3, 'word' => '法轮功']]]

如何让 Trie 树支持热更新而不重启服务

不能等 FPM reload 或 Swoole restart 才生效。正确做法是:把词库存在 Redis 的 SET 或 HASH 里,加个版本号字段;Trie 实例内部缓存树结构 + 版本戳,每次 match() 前先查 Redis 版本,不一致就重建树并更新本地戳。

  • Redis 键建议用 sensitive:trie:version 和 sensitive:trie:words
  • 重建树操作加 lock(用 Redis 的 SETNX),防并发重建
  • ThinkPHP 的 Cache::store('redis') 可直接调用,不用另引客户端
  • 注意:Swoole 环境下,每个 Worker 进程需独立维护自己的树副本,别共用引用

最易被忽略的一点:Trie 树本身不解决“同音字”“形近字”,那是预处理的事——得在进树前,用 strtr($text, ['发' => '法', '功' => '工']) 做一次映射,而不是往树里塞一堆变体分支。

相关文章

PHP速学教程(入门到精通)
PHP速学教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

10284

2023.09.01

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

6061

2023.10.11

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

2095

2023.10.11

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

3808

2023.10.23

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

4514

2023.10.23

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

3551

2023.11.03

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

5057

2023.11.09

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3962

2023.11.13

C++运算符基础入门
C++运算符基础入门

本专题详细讲解了C++运算符的类型、语法与使用方法,涵盖算术运算符、关系运算符、逻辑运算符、位运算符、赋值运算符、条件运算符及其他特殊运算符,并通过代码示例解析优先级与结合性。

0

2026.10.09

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn