讲师中心 微信公众号
AI工具推荐 视频效率加速

Fetch & Archive to Lexiang

Polar Sponsor
爱发电 赞助
.NET 9.0

发现并抓取文章、视频、播客和PDF,封装为标准化源包,然后编排去重的Lexiang归档。

抓取来源并编排乐享归档

功能概述

抓取来源并编排乐享归档是一项面向实际任务的技能,主要用于本 Skill 只负责:;来源侦察和抓取方式选择;

核心要点

  • 网页抓取、视频/播客下载与转录;
  • 生成统一工作包;
  • 乐享目录、去重和视频/音频 VOD 编排;

使用与执行

本 Skill 不负责:;非中文 Markdown 的清洗、翻译和完整性验证:统一委托;trans-doc-to-md 的 Prepared Markdown Package 模式;任何 Markdown 页面写入:统一委托。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。

结果检查与注意事项

实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。该技能适合用于一次性任务,也可以接入自动化工作流,与其他技能或上层代理配合完成更完整的业务链路;在组合使用时,应明确每一步的输入输出关系,并避免不同步骤之间出现参数冲突。

抓取来源并编排乐享归档

本 Skill 只负责:

  1. 来源侦察和抓取方式选择。
  2. 网页抓取、视频/播客下载与转录。
  3. 生成统一工作包。
  4. 乐享目录、去重和视频/音频 VOD 编排。

本 Skill 不负责:

  • 非中文 Markdown 的清洗、翻译和完整性验证:统一委托 trans-doc-to-md 的 Prepared Markdown Package 模式。
  • 任何 Markdown 页面写入:统一委托 upload-markdown-to-lexiang。
  • 在上传后用 MCP 二次渲染正常富元素:uploader 直接渲染 trans-doc-to-md 标注。

强制边界

  1. source.md 是不可变原文;若同目录已有不同内容,必须换工作目录,禁止覆盖。
  2. 禁止摘要替代原文,禁止丢失图片、Show Notes 或转录内容。
  3. 最终 Markdown 文件名必须是原文标题;文件名非法字符可安全替换,但 meta.json 中的 title 和 source_title 必须保留原始标题。
  4. 中文来源可由编排流程把 source.md 复制为 <原文标题>.md;抓取脚本不自行决定。
  5. 非中文来源必须先交给 trans-doc-to-md,不得在本 Skill 或当前 Agent 内实现翻译。
  6. Markdown 页面只用 uploader 写入,不得恢复任何旧导入、文件上传或本地上传器副本。
  7. 视频和音频继续使用 scripts/upload_video_via_openapi.py 的 VOD 路径。
  8. 上传后少量人工增量修复仅是异常维护路径;每次修复必须同步本地最终 Markdown。

统一工作包

/
├── source.md               # 不可变原文
├── images/                 # 可选,引用路径保持相对
├── meta.json
└── <原文标题>.md           # 编排完成后的最终 Markdown

meta.json 标准字段:

{
  "title": "归档标题",
  "source_url": "https://...",
  "source_title": "原文标题",
  "source_type": "article|youtube|podcast|pdf",
  "language": "zh|en|...",
  "parent_id": "可选的目标目录 ID"
}

允许保留作者、日期、时长、媒体文件等扩展字段。

Step 0:预检与来源侦察

  1. 阅读 references/lessons-learned.md 中全部 P0 教训。
  2. 侦察标题、作者、日期、语言、长度、图片数、媒体时长、付费墙和登录墙。
  3. 有图片必须用抓取脚本下载,不能只依赖 WebFetch。
  4. 网页抓取默认使用 CDP:先检查已配置端口(默认 9222,实际端口记录在 ~/.fetch_article/cdp_port)和有效 page target,复用已有浏览器上下文与登录态, 并在其中新开任务标签页;端口未启动时主动启动 CDP Chrome。CDP 连接失败 必须退出,禁止静默回退到无登录态的 Testing Chrome。只有用户明确要求隔离浏览器时 才使用 --no-cdp。
  5. 确定新的独立工作目录,避免覆盖已有 source.md。

平台细节见 references/platform-specific.md。

Step 1:抓取并生成工作包

来源 处理方式
微信公众号 可归档为乐享 hyperlink;若要求在线 Markdown 页面则使用文章抓取流程
免费/付费网页 scripts/fetch_article.py fetch "" --output-dir (默认 CDP)
YouTube scripts/yt_download_transcribe.py "" --output-dir
播客 scripts/podcast_to_lexiang.py "" --output-dir
PDF / 乐享 PDF 准备 PDF/解析原文后交给 trans-doc-to-md

三个抓取/转录脚本均以 source.md + meta.json 为标准输出。YouTube 和播客同时保留 下载媒体、ASR 中间产物;它们不翻译、不上传 Markdown。

Step 2:内容加工

读取 meta.json.language:

  • 中文:验证 source.md 完整后,由编排流程复制为 <原文标题>.md。
  • 非中文或语言不确定:调用 trans-doc-to-md 的 Prepared Markdown Package 模式,输入整个工作包。该 Skill 负责清洗、双语翻译、 图片/富元素保真和完整性验证,并输出 <原文标题>.md。

不得修改 source.md。最终 Markdown 必须继续使用相对图片路径。

Step 3:乐享目录、去重与上传

目标优先级:用户指定 > 工作区规则 > 本 Skill 的 gitignored config.json > 初始化。

  1. 获取目标知识库 root_entry_id。
  2. 查询并复用当天 YYYY-MM-DD folder;不存在才创建,使用 before=<当前第一条目 ID> 置顶。
  3. 视频/播客在日期目录下查询并复用 <原文标题> 文件夹。
  4. 在目标目录内按规范化标题、来源 URL 和条目类型去重;确认是同一来源后才覆盖。
  5. 调用 uploader:
python3 "/scripts/lexiang_upload.py" upload 
  "/<原文标题>.md" 
  --parent-id "<目标目录ID>" 
  --name "<原文标题>" 
  --pin 
  --json

uploader 版本必须满足 >=1.1.0,<2.0.0。它直接渲染 trans-doc-to-md 的 callout、表格和图片标注,并完成线上对账。

视频/音频在 Markdown 上传成功后独立归档:

python3 scripts/upload_video_via_openapi.py "<媒体文件>" 
  --space-id "" 
  --parent-entry-id "<标题目录ID>" 
  --media-type video

音频使用 --media-type audio。不得用普通文件上传替代 VOD。

Step 4:交付自检

□ source.md 未被修改,且不是摘要
□ meta.json 标准字段完整,原文标题与来源 URL 可追溯
□ 作者与发布日期来自 canonical meta/time/JSON-LD,并在最终文档顶部只展示一次
□ images/ 中引用文件完整,图文顺序保留
□ 订阅引导、相关推荐、newsletter disclaimer、页脚图片等平台噪音已在抓取转 MD 时过滤
□ 非中文包已通过 trans-doc-to-md 完整性验证
□ 最终文件名为原文标题
□ uploader verified == true,local_images == remote_images
□ 富元素由 uploader 直接渲染,无常规 MCP 二次渲染
□ 文档目录、去重结果和 VOD 媒体目录正确
□ 人工增量修复已同步本地最终 Markdown
□ 浏览器抓取复用了 CDP 上下文;未启动 Google Chrome for Testing

Step 5:自省

用户指出错误、自检失败、发现新平台规律或同类问题再次出现时,更新 references/lessons-learned.md。历史根因可保留,但必须明确其旧方案已废弃。

问题归属:

  • 抓取、转录、工作包、目录/去重/VOD:本 Skill。
  • 清洗、翻译、富元素识别、完整性:trans-doc-to-md。
  • Markdown 渲染、页面写入和线上对账:upload-markdown-to-lexiang。

脚本边界

脚本 职责
fetch_article.py 网页抓取,生成 source.md、images/、meta.json
yt_download_transcribe.py YouTube 下载、转录、Show Notes、标准工作包
podcast_to_lexiang.py 播客下载、转录、Show Notes、标准工作包
lexiang_pdf_parse.py 乐享 PDF 来源解析桥接
upload_video_via_openapi.py 视频/音频 VOD 上传
md_to_pdf.py 用户明确要求时生成 PDF

本 Skill 不包含翻译脚本或 Markdown → 乐享 page 上传脚本。

参考文档

  • references/lexiang-upload.md
  • references/pdf-processing.md
  • references/youtube-video.md
  • references/podcast-audio.md
  • references/platform-specific.md
  • references/troubleshooting.md
  • references/lessons-learned.md
目录

热门AI工具

更多
Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

0

2026.10.28

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

0

2026.10.28

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

0

2026.10.28

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

0

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

0

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

0

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

0

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

0

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn