讲师中心 微信公众号
AI工具推荐 视频效率加速

如何使用 Puppeteer 精准提取课表中的每节课详细信息

阿涛酱_4424

阿涛酱_4424

发布时间:2026-06-15 11:35:23

|

684人浏览过

|

来源于php中文网

原创

如何使用 Puppeteer 精准提取课表中的每节课详细信息

本文介绍如何利用 Puppeteer 的 $$eval 方法,从结构化课表 DOM 中批量抓取每节课的课程名、时间、教室、教师、类型等字段,并避免常见选择器陷阱与性能问题。

本文介绍如何利用 puppeteer 的 `$$eval` 方法,从结构化课表 dom 中批量抓取每节课的课程名、时间、教室、教师、类型等字段,并避免常见选择器陷阱与性能问题。

在爬取学校课表(如 Visma Inschool)这类动态渲染的 Web 应用时,关键不在于“获取整个日历区块”,而在于精准定位每一节课的独立容器节点,并结构化提取其多维度属性与文本内容。原始代码中使用 page.$("[class='active Timetable-TimetableDays_day']") 获取顶层 div 后仅调用 textContent,导致所有信息混为一串不可解析的纯文本——这正是结构化数据提取失败的典型原因。

✅ 正确策略:以 .Timetable-TimetableItem 为单位批量解析

观察 HTML 片段可知,每节课均包裹在具有 class="Timetable-TimetableItem" 的 <div> 中,且该元素携带丰富语义化属性(如 subjectcode、teachername、starttimeanddateunix)和嵌套结构(如 .Timetable-TimetableItem-hours、.Timetable-TimetableItem-location)。因此,应直接定位所有课表项,再逐个提取:

const data = await page.$$eval(
  ".Timetable-TimetableItem", // ✅ 稳健选择器:类名组合,不依赖顺序或冗余类
  (els) => els.map((el) => {
    const getText = (selector) => {
      const node = el.querySelector(selector);
      return node ? node.textContent.trim() : "";
    };

    return {
      subjectCode: el.getAttribute("subjectcode") || null,
      teacher: el.getAttribute("teachername") || "未知教师",
      hours: getText(".Timetable-TimetableItem-hours"),
      location: getText(".Timetable-TimetableItem-location"),
      name: getText(".Timetable-TimetableItem-subject-name"),
      type: getText(".Timetable-TimetableItem-type"),
      tttype: el.getAttribute("tttype"), // 如 "LESSON" 或 "SUBSTITUTION"
      entityId: el.getAttribute("entityid"),
      startTimeUnix: el.getAttribute("starttimeanddateunix"),
      ariaLabel: el.getAttribute("aria-label"),
      // 可选:从 header 的 sr-only 标题中解析更完整的描述
      fullDescription: el.previousElementSibling?.textContent?.trim() || "",
    };
  })
);

? 为什么用 $$eval 而非 $$ + ElementHandle.getProperty()?
$$eval 在浏览器上下文中执行 JavaScript,一次性完成全部 DOM 查询与数据组装,避免多次跨进程通信,性能更高、代码更简洁,且不会因 ElementHandle 失效(stale element reference)而报错。

⚠️ 关键注意事项

  • 等待元素就绪:课表常为异步加载,务必在提取前等待目标元素出现:
    await page.waitForSelector(".Timetable-TimetableItem", { timeout: 10000 });
  • 选择器要健壮:避免 [class='...'] 这类严格匹配(易因 CSS 类顺序/增删失效),改用 .ClassA.ClassB 多类组合;若 .Timetable-TimetableItem 已唯一,可直接使用。
  • 容错处理:对可能缺失的属性(如 teachername)添加 || null 或默认值,防止 undefined 导致后续逻辑中断。
  • 时间戳转换(进阶):starttimeanddateunix 是秒级 Unix 时间戳,可用 new Date(Number(timestamp) * 1000) 转为可读日期对象。
  • 反爬提示:虽属校内系统且获授权,仍建议添加合理延时、设置 userAgent 并复用 browser 实例,体现良好实践。

? 总结

结构化网页数据抓取的核心是「按数据单元选择,而非按视觉区块选择」。针对课表这类列表型内容,应锚定每一项的原子容器(.Timetable-TimetableItem),再通过 $$eval 高效批量提取属性与子节点文本。此举不仅提升代码可维护性与鲁棒性,也为后续构建信息屏、同步日历或生成 JSON API 奠定清晰的数据基础。

热门AI工具

更多
SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
html版权符号
html版权符号

html版权符号是“©”,可以在html源文件中直接输入或者从word中复制粘贴过来,php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

5815

2023.06.14

html在线编辑器
html在线编辑器

html在线编辑器是用于在线编辑的工具,编辑的内容是基于HTML的文档。它经常被应用于留言板留言、论坛发贴、Blog编写日志或等需要用户输入普通HTML的地方,是Web应用的常用模块之一。php中文网为大家带来了html在线编辑器的相关教程、以及相关文章等内容,供大家免费下载使用。

3292

2023.06.21

html网页制作
html网页制作

html网页制作是指使用超文本标记语言来设计和创建网页的过程,html是一种标记语言,它使用标记来描述文档结构和语义,并定义了网页中的各种元素和内容的呈现方式。本专题为大家提供html网页制作的相关的文章、下载、课程内容,供大家免费下载体验。

2970

2023.07.31

html空格
html空格

html空格是一种用于在网页中添加间隔和对齐文本的特殊字符,被用于在网页中插入额外的空间,以改变元素之间的排列和对齐方式。本专题为大家提供html空格的相关的文章、下载、课程内容,供大家免费下载体验。

2979

2023.08.01

html是什么
html是什么

HTML是一种标准标记语言,用于创建和呈现网页的结构和内容,是互联网发展的基石,为网页开发提供了丰富的功能和灵活性。本专题为大家提供html相关的各种文章、以及下载和课程。

4799

2023.08.11

html字体大小怎么设置
html字体大小怎么设置

在网页设计中,字体大小的选择是至关重要的。合理的字体大小不仅可以提升网页的可读性,还能够影响用户对网页整体布局的感知。php中文网将介绍一些常用的方法和技巧,帮助您在HTML中设置合适的字体大小。

2941

2023.08.11

html转txt
html转txt

html转txt的方法有使用文本编辑器、使用在线转换工具和使用Python编程。本专题为大家提供html转txt相关的文章、下载、课程内容,供大家免费下载体验。

2729

2023.08.31

html文本框代码怎么写
html文本框代码怎么写

html文本框代码:1、单行文本框【<input type="text" style="height:..;width:..;" />】;2、多行文本框【textarea style=";height:;"></textare】。

2428

2023.09.01

Kratos框架HTTP与gRPC服务开发教程
Kratos框架HTTP与gRPC服务开发教程

本专题围绕Kratos框架双协议服务开发,涵盖HTTP路由与处理器编写、参数获取、gRPC服务实现与客户端调用、metadata上下文传递、encoding编解码注册、统一响应封装、超时控制与流式响应实现方法。

0

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn