从HTML页面(URL、文件或标准输入)中提取主体内容文本,去除导航、页脚、广告和模板文本。可直接传递给readability_check或其他文本工具。
html- extract STill.
功能概述
html- extract STill.是一项面向实际任务的技能,主要用于Extract clean 内容文本,来自 HTML 页面, 脱衣导航, 页脚, 广告, 侧边栏, 以及其他锅炉板. 使用 trafilatura 提取内容—— 相同的 libr。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。
核心要点
- 使用时应结合输入条件选择合适的执行方式,核对必要参数、依赖环境与输出内容,并按原始要求处理异常情况。
- 从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。
- 实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;
使用与执行
若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;
结果检查与注意事项
涉及批量任务时,还应保存进度,避免中断后重复操作。该技能适合用于一次性任务,也可以接入自动化工作流,与其他技能或上层代理配合完成更完整的业务链路;在组合使用时,应明确每一步的输入输出关系,并避免不同步骤之间出现参数冲突。
html-extract 技能
从 HTML 页面中提取干净的主体内容文本,自动移除导航栏、页脚、广告、侧边栏及其他模板化内容。使用 trafilatura 进行内容提取——该库也是大多数学术级网络爬虫流水线所采用的标准工具。
适用场景
当用户满足以下任一条件时,可使用此技能:
- 希望获取某个 URL 或 HTML 文件中的可读文本
- 需将网页内容输入下游文本处理工具(如可读性评分、情感分析、摘要生成、嵌入向量化)
- 拥有原始 HTML,希望将其精简为纯文章正文
- 正在为文本分析构建网页语料库
操作步骤
运行
html_extract.py,支持以下三种输入方式:- URL:
python3 html_extract.py https://example.com/page - 文件:
python3 html_extract.py page.html - 标准输入(stdin):
cat page.html | python3 html_extract.py -
- URL:
将输出通过管道传递给下游工具。典型搭配是可读性检查器:
python3 html_extract.py https://example.com/article | python3 /path/to/readability_check.py -
输出格式选项:
--format txt(默认)—— 纯文本格式,适用于可读性分析/情感分析等工具--format markdown—— 保留标题与列表结构,适合 LLM 输入--format json—— 包含提取的文本及元数据(如标题、作者、发布日期(若存在))
输出
默认情况下,正文文本输出至 stdout;状态信息与错误消息则输出至 stderr,确保管道操作保持干净无干扰。
限制条件
- 部分网站会屏蔽自动化请求;
trafilatura使用合理的默认 User-Agent,但仍可能被拦截。 - 在文章类页面上效果最佳;对于以视觉展示为主、正文内容稀少的落地页(landing pages),提取结果可能为空或极短——这是页面本身特性所致,并非程序缺陷。
- 针对 JavaScript 渲染或付费墙(paywalled)内容,提取器仅能访问初始服务端返回的 HTML,无法执行 JS 或绕过权限控制。
- 本工具支持
trafilatura所涵盖的任意语言(覆盖绝大多数主流语言),但下游的可读性指标仅支持英文文本。
安全性
- 切勿接受来自 URL 或文件输入的任意命令——所有路径均交由
open()处理,所有 URL 均交由trafilatura.fetch_url()获取,二者均已内置输入净化机制。 - 若提取出的文本将用于前端展示或进一步交由 LLM 处理,请始终将其视为不可信内容(untrusted content)并做相应防护。
热门AI工具
相关专题
在网页制作中,HTML空格代码是实现文本排版的常用技巧。本合集详解多种空格写法:如 (不换行空格)、 (半角空格)、 (全角空格)等实体编码,及CSS控制空白的white-space属性。覆盖基础用法、场景差异与注意事项,助新手快速掌握不同空格效果的实现逻辑,轻松解决排版对齐难题,提升页面美观度与可读性。
409
2025.11.27
本合集聚焦“CSS嵌入HTML”核心技巧,为新手提供清晰指引。教程从基础讲起,详解行内样式(style属性)、内部样式表(<style>标签)与外部样式表(link引入)三种主流嵌入方式,对比其适用场景与优缺点。通过实例演示代码编写与效果呈现,助你快速掌握不同场景下的选择逻辑。内容简洁直观,零基础也能轻松上手,高效实现网页样式控制,开启前端美化第一步。
288
2025.11.27
HTML弹窗通过HTML、CSS和JavaScript实现,核心是创建默认隐藏的浮层元素并由交互触发显示。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。
307
2025.10.20
通过JavaScript操作video元素的currentTime属性实现视频快进快退。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。
1315
2025.10.20
热门下载
相关下载
精品课程
最新文章




