绘本故事脚本转中英文双语视频mp4。自动化流程:分镜生成→画面/动画→串联→TTS旁白→ASS字幕→合成。输出中英文双版本及抖音标题/描述/话题。TTS优先Qwen3-TTS(本地GPU,6角色音色),失败回退Edge TTS。
绘本故事视频 (Picture Book Video)
功能概述
绘本故事视频 (Picture Book Video)是一项面向实际任务的技能,主要用于将绘本故事脚本 → 中英文双语视频(带字幕+旁白);Phase 分隔 — Phase 0-1 由 LLM 驱动(内容决策),Phase 2-4 由脚本驱动(技术合成);
核心要点
- BLOCKING 步骤 — Phase 0(脚本评估)和 Phase 1(分镜方案确认)⛔ 必须等待用户响应;
- 禁止跳过确认 — 未经 Phase。
- 它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。
使用与执行
从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。
结果检查与注意事项
执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。该技能适合用于一次性任务,也可以接入自动化工作流,与其他技能或上层代理配合完成更完整的业务链路;在组合使用时,应明确每一步的输入输出关系,并避免不同步骤之间出现参数冲突。
绘本故事视频 (Picture Book Video)
将绘本故事脚本 → 中英文双语视频(带字幕+旁白)
核心流程:
脚本解析 → 分镜图生成 → 画面合成 → 串联 → TTS旁白 → ASS字幕 → 最终视频 (LLM) (ComfyUI) (ffmpeg) (ffmpeg) (EdgeTTS) (脚本) (ffmpeg) Phase 0 Phase 1 Phase 2 Phase 2 Phase 3 Phase 3 Phase 4
执行纪律
- Phase 分隔 — Phase 0-1 由 LLM 驱动(内容决策),Phase 2-4 由脚本驱动(技术合成)
- BLOCKING 步骤 — Phase 0(脚本评估)和 Phase 1(分镜方案确认)⛔ 必须等待用户响应
- 禁止跳过确认 — 未经 Phase 1 用户确认,不得调用管线脚本
- 脚本做技术,LLM 做内容 — 脚本不判断风格、不改写脚本、不做内容决策
- 串行执行 — Phase 必须按顺序执行,不得跳跃
- 双语输出 — 每个故事必须生成中文 + 英文两个版本
Phase 0: 脚本评估
🚧 GATE: 用户提供了故事脚本
0.1 扫描输入
检查用户是否提供了:
- 故事脚本(必需)
- 合集名称(可选)
- 序列号(可选,如 S02E01)
- 合集描述(可选)
0.2 完整性评分
| 材料 | 必需 | 评分规则 |
|---|---|---|
| 故事脚本 | ✅ 必需 | 无则直接报错退出 |
| 合集名称 | ❌ 可选 | 无则使用默认"琪琪的魔法故事屋" |
| 序列号 | ❌ 可选 | 无则自动生成 |
| 合集描述 | ❌ 可选 | 无则留空 |
0.3 交互策略
脚本完整 → 进入 Phase 1 脚本不完整 → ⛔ BLOCKING,提示用户补充
0.4 创建项目目录
PROJECT_NAME="picture-book-$(date +%Y%m%d)-" PROJECT_DIR=" /project/${PROJECT_NAME}" mkdir -p "${PROJECT_DIR}/input/" mkdir -p "${PROJECT_DIR}/scenes/" mkdir -p "${PROJECT_DIR}/output/" mkdir -p "${PROJECT_DIR}/.temp/" # 拷贝脚本到项目目录 cp "${PROJECT_DIR}/input/"
Phase 1: 分镜方案
🚧 GATE: 脚本评估通过
1.1 解析故事脚本
LLM 读取故事脚本,解析为分镜结构。每个分镜包含:
- 场景编号
- 旁白文本
- 画面描述(用于 ComfyUI 生成图片)
- 预计时长
输出格式:
# 分镜方案 | 场景 | 旁白 | 画面描述 | 预计时长 | |------|------|----------|----------| | 1 | ... | ... | ...s | ...
1.2 风格确定
默认风格:蜡笔儿童手绘风格
LLM 向用户确认:
根据故事内容,推荐画面风格: [1] 蜡笔儿童手绘(默认) [2] 水彩风格 [3] 剪纸风格 请确认或自选。
1.3 生成 ComfyUI 提示词
为每个场景生成 Flux 文生图提示词,遵循风格规范。
1.4 保存分镜方案
生成 和
1.5 方案确认
⛔ BLOCKING — 向用户展示分镜方案,等待确认:
请确认: 1. 确认生成 → 进入 Phase 2 2. 修改第X场景 → 重新生成 → 再次确认
Phase 2: 画面生成
🚧 GATE: Phase 1 用户已确认
2.1 生成分镜图片
使用 ComfyUI 技能生成每个场景的图片:
python3/scripts/generate_scenes.py --prompts " /scene_prompts.json" --output-dir " /scenes/" --style "crayon"
2.2 生成封面
python3/scripts/stage_cover.py --output " /scenes/cover.png" --title "<标题>" --subtitle "<合集名>" --episode-id "<序列号>" --brand "琪琪的魔法故事屋" --qiqi "~/.openclaw/workspace/characters/qiqi_default.png" --width 1920 --height 1080
2.3 画面验证
检查所有场景图片是否生成成功,分辨率是否为 1920x1080。
Phase 3: 音频与字幕
🚧 GATE: Phase 2 完成
3.1 生成中文 TTS
优先 Qwen3-TTS(本地GPU,音色克隆+设计),失败回退 Edge TTS:
# 方式1: Qwen3-TTS(首选) python3 ~/.openclaw/workspace/skills/tts-qwen3/scripts/qwen_tts.py --text "<中文旁白全文>" --voice narrator_teacher --output "/narration_cn.wav" --fallback-edge true # 方式2: Edge TTS(回退,自带 SRT) python3 /scripts/tts.py --text "<中文旁白全文>" --output " /narration_cn.mp3" --srt " /narration_cn.srt" --voice zh-CN-XiaoyiNeural --rate=-15%
角色音色映射(Qwen3-TTS):
| 脚本角色 | --voice 参数 | 说明 |
|---|---|---|
| 旁白/叙事 | narrator_teacher | 温暖女声 |
| 琪琪对话 | qiqi_clone | 克隆音色 |
| 小男孩 | boy_child | 活泼8岁 |
| 小女孩 | girl_child | 甜美7岁 |
| 大人男 | adult_male | 沉稳 |
| 大人女 | adult_female | 优雅 |
3.2 生成英文 TTS
python3/scripts/tts.py --text "<英文旁白全文>" --output " /narration_en.mp3" --srt " /narration_en.srt" --voice en-US-JennyNeural --rate=-15%
3.3 生成中文 ASS 字幕
python3/scripts/srt_to_ass.py --srt " /narration_cn.srt" --output " /subtitles_cn.ass" --font-size 80
3.4 生成英文 ASS 字幕
python3/scripts/srt_to_ass.py --srt " /narration_en.srt" --output " /subtitles_en.ass" --font-size 80
Phase 4: 视频合成
🚧 GATE: Phase 3 完成
4.1 运行完整管线
# 中文版 python3/scripts/pipeline.py --scenes-dir " /scenes/" --audio " /narration_cn.mp3" --ass " /subtitles_cn.ass" --output " /output/ _cn.mp4" --title "<标题>" --subtitle "<合集名>" --episode-id "<序列号>" --brand "琪琪的魔法故事屋" --qiqi "~/.openclaw/workspace/characters/qiqi_default.png" --cover-duration 4.0 --fade-duration 0.8 # 英文版 python3 /scripts/pipeline.py --scenes-dir " /scenes/" --audio " /narration_en.mp3" --ass " /subtitles_en.ass" --output " /output/ _en.mp4" --title "<英文标题>" --subtitle "<英文合集名>" --episode-id "<序列号>" --brand "琪琪的魔法故事屋" --qiqi "~/.openclaw/workspace/characters/qiqi_default.png" --cover-duration 4.0 --fade-duration 0.8
4.2 生成抖音发布描述
# 抖音发布描述
## 中文版
- 标题:{中文标题}|{合集名}
- 描述:{故事简介}
- 话题:#儿童故事 #{合集名} #睡前故事 #绘本动画
## 英文版
- 标题:{English Title}|{English Series}
- 描述:{English synopsis}
- 话题:#英语启蒙 #磨耳朵英语 #{合集名} #儿童英语
4.3 质量验证
检查:
- 视频文件存在且 > 10MB
- H.264 + AAC 编码
- 1920×1080 分辨率
- 时长与音频匹配
- 字幕完整显示
抖音发布
视频生成后,使用 douyin-browser-publish 技能发布:
# 中文版 使用 douyin-browser-publish 技能发布: - 视频:/output/ _cn.mp4 - 标题:{中文标题}|{合集名} - 话题:#儿童故事 #{合集名} #睡前故事 #绘本动画 # 英文版 使用 douyin-browser-publish 技能发布: - 视频: /output/ _en.mp4 - 标题:{English Title}|{English Series} - 话题:#英语启蒙 #磨耳朵英语 #{合集名} #儿童英语
🛠️ 依赖要求
# 必需 python3 --version # 3.8+ ffmpeg -version # 5.0+ edge-tts --version # 7.0+ # ComfyUI(文生图) cd ~/ComfyUI && ~/comfyui-venv/bin/python main.py --listen 127.0.0.1 --port 8188 # 琪琪角色图 ~/.openclaw/workspace/characters/qiqi_default.png
️ 故障排除
| 问题 | 解决 |
|---|---|
| ComfyUI 未启动 | cd ~/ComfyUI && LD_LIBRARY_PATH=~/comfyui-venv/lib/python3.12/site-packages/nvidia/cuda_runtime/lib:$LD_LIBRARY_PATH ~/comfyui-venv/bin/python main.py --listen 127.0.0.1 --port 8188 |
| TTS 失败 | 检查网络;文本超长时分段合成 |
| 字幕截断 | 检查 srt_to_ass.py 的 max_chars 设置(默认 24) |
| 视频合成失败 | 检查 ffmpeg 版本;检查场景图片存在 |
📁 输出文件
每个故事生成后,项目目录包含:
/ ├── input/ │ └── # 原始脚本 ├── scenes/ │ ├── cover.png # 封面(含琪琪角色) │ ├── scene_01.png # 场景图 │ ├── scene_02.png │ └── ... ── narration_cn.mp3 # 中文旁白 ├── narration_cn.srt # 中文 SRT ├── subtitles_cn.ass # 中文 ASS 字幕 ── narration_en.mp3 # 英文旁白 ├── narration_en.srt # 英文 SRT ├── subtitles_en.ass # 英文 ASS 字幕 ├── output/ │ ├── _cn.mp4 # 中文视频 │ └── _en.mp4 # 英文视频 ── scene_plan.md # 分镜方案 ├── scene_prompts.json # ComfyUI 提示词 └── douyin_publish.md # 抖音发布描述
🔗 相关技能
- comfyui-image-video: ComfyUI 文生图/视频生成
- tts-qwen3: Qwen3-TTS 本地语音合成(琪琪OPC首选)
- tts-cosyvoice: Edge TTS 语音合成(回退方案)
- douyin-browser-publish: 抖音视频发布
- keynote-video: PPT 转视频
版本: v1.0 | 基于 琪琪OPC 项目管线 | 参考 keynote-video 架构
热门AI工具
相关专题
本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。
0
2026.11.06
围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。
0
2026.11.06
详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。
0
2026.11.06
DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。
0
2026.11.05
DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。
0
2026.11.05
本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。
0
2026.11.04
本专题围绕XORM框架的结构体映射展开,说明表名与字段的命名策略、xorm标签常用属性、主键自增与时间字段自动填充,并演示Sync2自动建表、增量字段升级、索引声明与反向生成结构体的完整流程。
0
2026.11.04
本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。
0
2026.11.04
本专题聚焦XORM框架的配置与连接环节,拆解MySQL、PostgreSQL、SQLite、SQL Server的DSN写法与驱动选择,讲清连接池参数、多数据源拆分、读写分离与超时重连的处理方式,并补充容器与兼容数据库的适配经验。
0
2026.11.04
热门下载
相关下载
精品课程
共6课时 | 12.1万人学习
共79课时 | 161.8万人学习
共6课时 | 54.7万人学习
最新文章