讲师中心 微信公众号
AI工具推荐 视频效率加速

扣子安全合规与敏感词过滤机制配置指南

大芳君_9058

大芳君_9058

发布时间:2026-06-12 20:10:07

|

417人浏览过

|

来源于php中文网

原创

必须完成基础词库加载、语义校验开关开启、响应策略绑定三层配置;未开启敏感词过滤总开关则所有规则无效;需设置语义风险阈值0.75~0.85或绑定本地小模型启用AI重写;高风险阻断并提示,中风险替换为合规表述,低风险仅审计。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

扣子安全合规与敏感词过滤机制配置指南

在扣子(Coze)平台搭建公众号或企微客服时,若用户输入“加微信”“转账”“稳赚不赔”等词,系统未拦截或未按预设话术重写,说明敏感词过滤与安全合规机制尚未正确启用。必须完成三层配置:基础词库加载、语义校验开关、响应策略绑定,缺一不可。

启用内置敏感词过滤引擎

进入 Bot 编辑页 → 点击右上角「设置」→ 选择「安全与合规」标签页 → 打开「敏感词过滤」总开关。

这一步必须开启,否则后续所有规则均不生效。【未开启此开关时,即使上传了词库,所有输入仍直通模型】

点击「管理敏感词库」→ 选择「自定义词库」→ 粘贴关键词列表(每行一个),例如:
加微信
私聊我
扫码进群
稳赚不赔
保本保息

支持正则表达式,如匹配11位手机号可写:\b1[3-9]\d{9}\b。注意正则需用反斜杠转义括号、点号等特殊字符。

配置语义级风险识别与AI重写

基础关键词匹配无法识别“这个肯定回本”“闭眼买都行”等隐性违规表达。必须启用语义校验模块。

方法一:在「安全与合规」页中,找到「语义风险检测」→ 开启开关 → 设置风险阈值为0.75~0.85(默认0.8)。数值越低越敏感,但误判率上升。

Qwen Vision
Qwen Vision

利用通义千问视觉API(阿里云灵积)分析图像和视频,支持图像理解、OCR及视觉推理。

下载

方法二:绑定本地小模型(需Bot已接入Qwen3-4B-Instruct-2507或同级模型)→ 在「高级设置」中填写模型ID → 启用「AI重写响应」→ 上传 rewrite_rules.json 文件,内容格式为:
{"input": "肯定能回本", "output": "根据《私募投资基金监督管理暂行办法》,投资有风险,过往业绩不预示未来表现"}

【rewrite_rules.json 文件权限必须为600,且路径需与Bot后台配置中的 rewrite_config_path 完全一致】

绑定拦截响应策略

第一步:在「安全与合规」→ 「响应策略」中,点击「新建策略」。

第二步:为不同风险等级设定动作:
• 高风险(语义分≥0.85 或命中强敏感词)→ 选择「阻断发送 + 返回提示语」,提示语填:“该内容涉及违规信息,无法继续对话。”
• 中风险(语义分0.75~0.84)→ 选择「记录日志 + 替换为合规表述」,从 rewrite_rules.json 中自动匹配输出。
• 低风险(仅命中弱敏感词如“群”“聊”)→ 选择「仅记录审计日志」,不干预用户可见内容。

第三步:将该策略绑定至目标 Bot,并点击「发布生效」。此时策略立即加载,无需重启服务。

第四步:在「测试面板」中输入测试句:“你加我微信,我发你稳赚不赔的产品”,观察是否触发阻断或重写。

热门AI工具

更多
UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
扣子智能体开发实操指南
扣子智能体开发实操指南

本专题面向开发者与产品同学,完整讲解扣子智能体Bot从零到一的搭建流程,包括Bot创建、提示词编写、插件接入、变量与记忆配置、调试与多渠道发布,帮助你打造属于自己的AI助手。

454

2026.06.05

扣子工作流全功能使用教程
扣子工作流全功能使用教程

本专题系统讲解扣子工作流的搭建逻辑与节点使用,覆盖LLM节点、代码节点、条件分支、循环节点与子工作流等核心能力,配合15个实战案例,帮助你用工作流把复杂业务流程自动化。

354

2026.06.05

扣子知识库零基础入门
扣子知识库零基础入门

本专题围绕扣子知识库与记忆系统,详细讲解知识库创建、文档上传、切片策略、向量召回、问答调优以及变量记忆与数据库的使用方法,帮助你打造高准确率的私有知识问答能力。

447

2026.06.05

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

80

2026.09.30

LLVM RISC-V参数配置教程
LLVM RISC-V参数配置教程

本专题介绍LLVM对RISC-V基础ISA和扩展的支持方式,涵盖RV32、RV64、标准扩展、实验性扩展、厂商扩展、-menable-experimental-extensions和版本差异。

80

2026.09.30

LLVM IR中间表示入门指南
LLVM IR中间表示入门指南

本专题整理LLVM IR的核心概念,包括中间表示作用、模块结构、函数、基本块、SSA形式、类型系统和常见语法,帮助新手理解LLVM编译流程中的关键层。

80

2026.09.30

PDF转图片方法
PDF转图片方法

需要把 PDF 页面用于上传、预览、分享或图片归档时,PDF 转图片方法专题整理 JPG/PNG 格式选择、逐页导出、清晰度设置、批量下载和结果检查等流程,帮助用户稳定完成 PDF 图片化处理。

40

2026.09.30

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

60

2026.09.29

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

280

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
扣子入门级教程
扣子入门级教程

共0课时 | 272人学习

扣子官方文档
扣子官方文档

共0课时 | 0人学习

Visual Studio 企业部署手册
Visual Studio 企业部署手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn