讲师中心 微信公众号
AI工具推荐 视频效率加速

Puppeteer 爬虫中浏览器意外关闭的排查与正确数据提取实践

浅涛君_9640

浅涛君_9640

发布时间:2026-03-04 18:45:31

|

981人浏览过

|

来源于php中文网

原创

Puppeteer 爬虫中浏览器意外关闭的排查与正确数据提取实践

本文详解 Puppeteer 脚本因误用 waitForSelector 返回单元素导致后续循环报错、进而引发未捕获异常和浏览器非预期关闭的问题,并提供基于 $$eval 的高效、健壮数据提取方案。

本文详解 puppeteer 脚本因误用 `waitforselector` 返回单元素导致后续循环报错、进而引发未捕获异常和浏览器非预期关闭的问题,并提供基于 `$$eval` 的高效、健壮数据提取方案。

在使用 Puppeteer 进行网页数据抓取时,一个常见却隐蔽的错误是混淆了 单元素选择器 与 多元素选择器 的行为差异。你提供的代码中,await page.waitForSelector(".Ip") 仅返回第一个匹配的 ElementHandle(即单个 DOM 元素),而非元素数组。因此,后续尝试对 elements.length 进行遍历(for (let i = 0; i < elements.length; i++))会直接抛出 TypeError: Cannot read property 'length' of null 或 undefined —— 该异常未被 catch 捕获,最终导致 Node.js 进程退出,表现为“浏览器立即关闭”。

更关键的是,elements[i].$(".Ip") 在逻辑上也存在根本性错误:.Ip 是顶层比赛项的选择器,其内部并不存在嵌套的 .Ip 子元素;试图在已获取的 .Ip 元素内再次查找 .Ip,必然返回 null,进一步加剧执行失败。

✅ 正确做法是:使用批量查询 + 浏览器上下文内执行($$eval),一次性安全提取所有目标数据,避免反复跨进程通信与 ElementHandle 操作:

智能网页爬虫
智能网页爬虫

智能网页数据采集器,自动识别页面结构,批量抓取列表/表格/详情页数据,支持导出JSON/CSV/Excel,内置反爬策略适配。

下载
const puppeteer = require("puppeteer");

async function scrapeLiveScores() {
  let browser;
  try {
    browser = await puppeteer.launch({ headless: true });
    const page = await browser.newPage();
    await page.setViewport({ width: 1000, height: 926 });
    await page.goto("https://www.livescore.com/en/", { 
      waitUntil: "domcontentloaded" 
    });

    // ✅ 安全处理 Cookie 弹窗:无需判空,超时自动报错更利于调试
    const cookieBtn = await page.waitForSelector('#onetrust-accept-btn-handler', { 
      timeout: 5000 
    });
    await cookieBtn.click();
    await page.waitForTimeout(800); // 短暂等待动画/状态更新(可选)

    // ✅ 使用 $$eval 批量提取:在页面上下文中执行 map,高效且健壮
    const matches = await page.$$eval(".Ip", els => 
      els.map(el => {
        const getText = (selector) => {
          const node = el.querySelector(selector);
          return node ? node.textContent.trim() : "";
        };
        return {
          time: getText("[id*='status-or-time']"),
          homeTeam: getText("[id*='home-team-name']"),
          awayTeam: getText("[id*='away-team-name']"),
          homeScore: getText("[id*='home-team-score']") || "0",
          awayScore: getText("[id*='away-team-score']") || "0"
        };
      })
    );

    console.log("✅ 成功抓取", matches.length, "场比赛数据:");
    console.log(matches.slice(0, 3)); // 仅打印前3条示例
    return matches;

  } catch (err) {
    console.error("❌ 抓取过程出错:", err.message);
    throw err;
  } finally {
    if (browser) await browser.close(); // ✅ 确保浏览器终将关闭
  }
}

// 启动入口
scrapeLiveScores().catch(console.error);

? 关键优化与注意事项:

  • 弃用 waitForSelector + ElementHandle 循环:waitForSelector 仅返回单元素;如需多元素,请改用 $$(返回元素数组)或更推荐的 $$eval(直接在浏览器端执行提取逻辑,性能高、容错强)。
  • Cookie 按钮处理无需防御性判空:waitForSelector 本身具备超时机制,失败即抛错,显式检查 if (button) 反而掩盖真实问题;建议统一配置 timeout 参数提升可观测性。
  • 避免 ElementHandle 链式调用:el.$(...) 和 el.evaluate(...) 属于跨进程操作,开销大且易因 DOM 变更失效;$$eval 将全部逻辑移至浏览器端执行,既简洁又可靠。
  • 资源清理必须兜底:始终在 finally 块中调用 browser.close(),防止因异常导致浏览器实例残留。
  • 增强健壮性:为 page.goto 指定 waitUntil: "domcontentloaded",确保 HTML 解析完成再继续;对可能为空的文本节点添加 || "" 默认值,避免 undefined 污染结果。

遵循以上实践,你的 Puppeteer 脚本将不再因低级选择器误用而崩溃,同时获得更清晰的错误定位能力、更高的执行效率以及更稳定的生产表现。

热门AI工具

更多
LibLibAI
LibLibAI Hot

一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

相关专题

更多
js获取数组长度的方法
js获取数组长度的方法

在js中,可以利用array对象的length属性来获取数组长度,该属性可设置或返回数组中元素的数目,只需要使用“array.length”语句即可返回表示数组对象的元素个数的数值,也就是长度值。php中文网还提供JavaScript数组的相关下载、相关课程等内容,供大家免费下载使用。

4586

2023.06.20

js刷新当前页面
js刷新当前页面

js刷新当前页面的方法:1、reload方法,该方法强迫浏览器刷新当前页面,语法为“location.reload([bForceGet]) ”;2、replace方法,该方法通过指定URL替换当前缓存在历史里(客户端)的项目,因此当使用replace方法之后,不能通过“前进”和“后退”来访问已经被替换的URL,语法为“location.replace(URL) ”。php中文网为大家带来了js刷新当前页面的相关知识、以及相关文章等内容

1149

2023.07.04

js四舍五入
js四舍五入

js四舍五入的方法:1、tofixed方法,可把 Number 四舍五入为指定小数位数的数字;2、round() 方法,可把一个数字舍入为最接近的整数。php中文网为大家带来了js四舍五入的相关知识、以及相关文章等内容

4504

2023.07.04

js删除节点的方法
js删除节点的方法

js删除节点的方法有:1、removeChild()方法,用于从父节点中移除指定的子节点,它需要两个参数,第一个参数是要删除的子节点,第二个参数是父节点;2、parentNode.removeChild()方法,可以直接通过父节点调用来删除子节点;3、remove()方法,可以直接删除节点,而无需指定父节点;4、innerHTML属性,用于删除节点的内容。

900

2023.09.01

JavaScript转义字符
JavaScript转义字符

JavaScript中的转义字符是反斜杠和引号,可以在字符串中表示特殊字符或改变字符的含义。本专题为大家提供转义字符相关的文章、下载、课程内容,供大家免费下载体验。

1796

2023.09.04

js生成随机数的方法
js生成随机数的方法

js生成随机数的方法有:1、使用random函数生成0-1之间的随机数;2、使用random函数和特定范围来生成随机整数;3、使用random函数和round函数生成0-99之间的随机整数;4、使用random函数和其他函数生成更复杂的随机数;5、使用random函数和其他函数生成范围内的随机小数;6、使用random函数和其他函数生成范围内的随机整数或小数。

3285

2023.09.04

如何启用JavaScript
如何启用JavaScript

JavaScript启用方法有内联脚本、内部脚本、外部脚本和异步加载。详细介绍:1、内联脚本是将JavaScript代码直接嵌入到HTML标签中;2、内部脚本是将JavaScript代码放置在HTML文件的`<script>`标签中;3、外部脚本是将JavaScript代码放置在一个独立的文件;4、外部脚本是将JavaScript代码放置在一个独立的文件。

4253

2023.09.12

Js中Symbol类详解
Js中Symbol类详解

javascript中的Symbol数据类型是一种基本数据类型,用于表示独一无二的值。Symbol的特点:1、独一无二,每个Symbol值都是唯一的,不会与其他任何值相等;2、不可变性,Symbol值一旦创建,就不能修改或者重新赋值;3、隐藏性,Symbol值不会被隐式转换为其他类型;4、无法枚举,Symbol值作为对象的属性名时,默认是不可枚举的。

2760

2023.09.20

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

100

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpMyAdmin 常见问题
phpMyAdmin 常见问题

共0课时 | 0人学习

uni-app快速上手
uni-app快速上手

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn