讲师中心 微信公众号
AI工具推荐 视频效率加速

如何用Puppeteer或Playwright提取动态网页生成的XML

雨浩姑娘_6867

雨浩姑娘_6867

发布时间:2026-01-31 11:37:11

|

658人浏览过

|

来源于php中文网

原创

应优先通过 Playwright 拦截 XML 网络响应,或用 Puppeteer 注入脚本读取内存/隐藏 DOM 中的 XML 字符串;需确认来源是 XHR/Fetch 请求还是 JS 内联内容,并注意编码声明与解析验证。

如何用puppeteer或playwright提取动态网页生成的xml

直接用 Puppeteer 或 Playwright 提取“动态网页生成的 XML”通常不现实——因为浏览器本身不以 XML 格式渲染页面,XML 一般是后端接口返回的原始数据(如 AJAX 请求响应),或由前端 JavaScript 动态构造并写入 DOM 的字符串。关键不是“抓取 XML 渲染结果”,而是捕获网页运行过程中实际加载或生成的 XML 数据流。

确认 XML 来源:是网络请求还是 DOM 内容?

先判断 XML 是怎么来的:

  • 打开 DevTools → Network 面板,筛选 XHR 或 Fetch,刷新页面,找响应类型为 application/xml、text/xml 或文件名含 .xml 的请求;
  • 如果没找到,检查页面 HTML 中是否有 <script> 直接内联了 XML 字符串,或通过 document.getElementById(...).innerHTML 插入了带 XML 结构的文本;
  • 极少数情况:JS 调用 DOMParser.parseFromString(..., 'application/xml') 构造 XML 文档对象,但该对象不会自动显示在页面上,需从 JS 上下文读取。

用 Playwright 拦截并提取 XML 响应(推荐)

Playwright 支持监听和修改网络请求,适合捕获真实 XML 接口响应:

  • 启用请求拦截:page.route('**/*.xml', route => { ... }) 或更通用的 page.route(/\.xml$/i, ...);
  • 用 route.fulfill() 可提前获取响应体,或用 route.continue() 后再调用 response.text();
  • 实际做法:监听所有匹配 URL 的响应,等待其就绪后提取 await response.text(),确保 response.status() === 200 且 response.headers()['content-type'] 包含 xml。

用 Puppeteer 注入脚本读取内存中的 XML 字符串

如果 XML 是 JS 在内存中拼接的字符串(例如赋值给 window.myConfigXml 或某个全局变量),可直接评估上下文:

  • 等待目标变量存在:await page.waitForFunction(() => window.myXmlData);
  • 读取字符串内容:const xmlStr = await page.evaluate(() => window.myXmlData);
  • 若 XML 被写入隐藏 DOM 元素(如 <div id="xml-data" style="display:none"><?xml ...></div>),可用:await page.$eval('#xml-data', el => el.textContent)。

注意编码与格式问题

拿到原始字符串后别直接当 UTF-8 处理:

  • XML 声明中可能指定编码(如 <?xml version="1.0" encoding="GBK"?>),需按声明解码;
  • Node.js 默认用 UTF-8,若响应是 GBK/GB2312,需用 iconv-lite 转换:iconv.decode(Buffer.from(rawBytes), 'gbk');
  • 建议用 new DOMParser().parseFromString(xmlStr, 'application/xml') 验证是否为良构 XML,检查 parsererror 元素判断解析失败。

不复杂但容易忽略:XML 往往藏在异步请求里,而不是页面初始 HTML 中。盯住 Network 面板,再选对工具链拦截或读取,基本就能稳稳拿到。

热门AI工具

更多
VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

相关专题

更多
ajax教程
ajax教程

php中文网为大家带来ajax教程合集,Ajax是一种用于创建快速动态网页的技术。通过在后台与服务器进行少量数据交换,Ajax可以使网页实现异步更新。这意味着可以在不重新加载整个网页的情况下,对网页的某部分进行更新。php中文网还为大家带来ajax的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

3000

2023.06.14

ajax中文乱码解决方法
ajax中文乱码解决方法

ajax中文乱码解决方法有设置请求头部的字符编码、在服务器端设置响应头部的字符编码和使用encodeURIComponent对中文进行编码。本专题为大家提供ajax中文乱码相关的文章、下载、课程内容,供大家免费下载体验。

360

2023.08.31

ajax传递中文乱码怎么办
ajax传递中文乱码怎么办

ajax传递中文乱码的解决办法:1、设置统一的编码方式;2、服务器端编码;3、客户端解码;4、设置HTTP响应头;5、使用JSON格式。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2813

2023.11.15

ajax网站有哪些
ajax网站有哪些

使用ajax的网站有谷歌、维基百科、脸书、纽约时报、亚马逊、stackoverflow、twitter、hacker news、shopify和basecamp等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1161

2024.09.24

pdf怎么转换成xml格式
pdf怎么转换成xml格式

将 pdf 转换为 xml 的方法:1. 使用在线转换器;2. 使用桌面软件(如 adobe acrobat、itext);3. 使用命令行工具(如 pdftoxml)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

4644

2024.04.01

xml怎么变成word
xml怎么变成word

步骤:1. 导入 xml 文件;2. 选择 xml 结构;3. 映射 xml 元素到 word 元素;4. 生成 word 文档。提示:确保 xml 文件结构良好,并预览 word 文档以验证转换是否成功。想了解更多xml的相关内容,可以阅读本专题下面的文章。

6037

2024.08.01

xml是什么格式的文件
xml是什么格式的文件

xml是一种纯文本格式的文件。xml指的是可扩展标记语言,标准通用标记语言的子集,是一种用于标记电子文件使其具有结构性的标记语言。想了解更多相关的内容,可阅读本专题下面的相关文章。

2482

2024.11.28

c语言const用法
c语言const用法

const是关键字,可以用于声明常量、函数参数中的const修饰符、const修饰函数返回值、const修饰指针。详细介绍:1、声明常量,const关键字可用于声明常量,常量的值在程序运行期间不可修改,常量可以是基本数据类型,如整数、浮点数、字符等,也可是自定义的数据类型;2、函数参数中的const修饰符,const关键字可用于函数的参数中,表示该参数在函数内部不可修改等等。

2258

2023.09.20

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WebStorm 官方调试文档
WebStorm 官方调试文档

共0课时 | 0人学习

React 教程
React 教程

共58课时 | 12.3万人学习

TypeScript 教程
TypeScript 教程

共19课时 | 6.7万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn