应先用 DOM 解析(如 textContent)还原合法 HTML 实体,再显式过滤零宽字符(如 \u200b、\xa0、\u3000 等)和冗余空白;服务端推荐 BeautifulSoup,因其安全解码且不依赖浏览器环境。

用正则一次性清除常见HTML实体
直接用 /&[a-zA-Z0-9#]+;/g 匹配并替换为空字符串,能覆盖绝大多数情况,比如 、"、、<code>>、&。但要注意:这个正则会误杀形如 AT&T 里的 &T(因为 &T 不是合法实体,但会被匹配),所以必须加校验逻辑。
更稳妥的做法是先用浏览器内置的解析能力转义还原:
function unescapeHtml(htmlStr) {
const div = document.createElement('div');
div.innerHTML = htmlStr;
return div.textContent || div.innerText || '';
}这个方法依赖 DOM 解析器,天然跳过非法实体(如 &T),只还原真实存在的标准实体和数字字符引用(如 、)。适用于浏览器环境或支持 JSDOM 的 Node.js 场景。
零宽字符和不可见空格必须单独处理
HTML实体只是脏数据的一部分,真正难缠的是那些肉眼不可见却影响分词、去重、搜索的字符:\u200b(零宽空格)、\u200d(零宽连接符)、\xa0(不间断空格)、\u3000(全角空格)。
立即学习“前端免费学习笔记(深入)”;
它们不会被上面的实体正则捕获,也不能靠 unescapeHtml() 消除(因为不是 HTML 实体,而是原始 Unicode 字符)。必须显式过滤:
- 用
.replace(/[\u200b-\u200f\u202a-\u202e\xa0\u3000]/g, '')清掉常见控制类空白 - 若需保留正常空格和换行,再补上
.replace(/\s{2,}/g, ' ').trim()压缩冗余空白 - 注意
\u200c(零宽非连接符)和\u2060(字Word Joiner)在某些政务文本中也会出现,建议一并加入清理范围
为什么不能只用 textContent 或 innerText
看起来最省事——把含 HTML 的字符串塞进一个临时 div,再取 textContent 就完事。但实际踩坑很多:
-
textContent会保留注释节点里的文字(如<!-- 管理后台 -->→ “管理后台”) -
innerText受 CSS 影响(display: none的内容不返回),且在 Firefox 中对换行处理不一致 - 如果原始字符串里有未闭合标签(如
<b>标题</b>),div.innerHTML = str会触发浏览器自动纠错,可能意外补全结构,导致内容偏移
所以,纯文本提取必须配合预清洗:先用正则粗筛明显标签和非法实体,再进 DOM 解析,最后后置过滤零宽字符。
Python 侧批量处理时别硬套 JS 思路
在服务端用 Python 批量清洗标题或摘要时,BeautifulSoup 是更稳的选择,而不是复刻 JS 的 innerHTML 流程:
from bs4 import BeautifulSoup
def clean_html_text(html_str):
soup = BeautifulSoup(html_str, 'html.parser')
# 移除 script/style 标签及其内容
for tag in soup(['script', 'style']):
tag.decompose()
text = soup.get_text()
# 清理零宽字符和异常空白
text = re.sub(r'[\u200b-\u200f\u202a-\u202e\xa0\u3000]+', ' ', text)
return re.sub(r'\s+', ' ', text).strip()关键点在于:get_text() 内部已处理实体解码,且不依赖浏览器环境;decompose() 比正则删标签更安全,不会误伤 <span></span> 里的 符号;正则清理放在最后一步,确保所有 DOM 层面的干扰已排除。
真正麻烦的从来不是“怎么删”,而是删完之后,发现某条政务标题里藏着一个 \u2069(右向嵌入符),它既不是实体,也不在常用零宽列表里,还让 Elasticsearch 的 phrase query 失效——这种字符得靠实际样本反向抓取,没法靠通用规则穷举。



















