讲师中心 微信公众号

工具推荐

视频效率加速
Laper
Laper

剧本策划到成片协作

Seko
Seko

AI短剧一键生成成片

updream

一键生成高质量推广成片

AniShort
AniShort

AI短剧协同制作平台

如何正确提取网页中成对出现的演出日期与时间数据

秋枫同学_3999

秋枫同学_3999

发布时间:2026-11-10 22:07:26

|

127人浏览过

|

来源于php中文网

原创

如何正确提取网页中成对出现的演出日期与时间数据

本文详解如何解决网络爬虫中因html结构复杂导致的日期时间数据错位问题,通过精准定位dom节点、合理配对相邻元素,实现多场次活动信息的结构化提取。

本文详解如何解决网络爬虫中因html结构复杂导致的日期时间数据错位问题,通过精准定位dom节点、合理配对相邻元素,实现多场次活动信息的结构化提取。

在构建事件信息爬虫时,一个常见却易被忽视的问题是:当同一活动包含多个场次(如“4月4日 20:00”和“4月5日 17:00”)时,若直接按全局顺序拉取所有日期/时间节点,会导致字段错位、冗余内容混入(如“Menu”)、格式污染(如前缀“a”或多余空格),最终破坏数据行的完整性。 您当前的代码正是陷入了这一典型陷阱——使用 findAll('span', class_='elementor-icon-list-text...') 泛化抓取,结果将标题、日期、地点、导航项等不同语义的同名类元素一并捕获,再强行用 zip() 按索引对齐,自然引发错配。

根本原因在于:目标网站实际采用 JetEngine 动态列表组件,其日期与时间严格按 <div class="jet-listing-dynamic-field__content"> 成对交替排列(时间在前,日期在后),而非分散在独立语义容器中。因此,正确的策略是:<p>✅ <strong>精准定位唯一标识类</strong>:放弃模糊的 <code>elementor-* 类,改用语义清晰、专用于动态字段的 jet-listing-dynamic-field__content;
✅ 理解DOM序列规律:观察HTML源码可发现,该类元素严格按 [时间1, 日期1, 时间2, 日期2, ...] 顺序排列;
✅ 成对解析,避免硬索引对齐:用步长为2的循环,每次取连续两项,显式配对时间与日期。

以下是优化后的完整数据提取逻辑(含异常防护与结构化输出):

from bs4 import BeautifulSoup
import pandas as pd

# 正确提取所有动态字段内容(时间+日期交替)
datas = soup.find_all("div", {"class": "jet-listing-dynamic-field__content"})
if not datas:
    raise ValueError("未找到 jet-listing-dynamic-field__content 元素,请检查页面结构或选择器")

# 成对提取:索引0→时间,1→日期;2→时间,3→日期...
horario_pares = []
for i in range(0, len(datas), 2):
    if i + 1 >= len(datas):
        break  # 防止越界(如末尾只剩时间无日期)
    hora_elem = datas[i]
    data_elem = datas[i + 1]

    # 清洗:去除前缀(如"a ")、多余空格,并标准化日期格式(可选)
    hora = hora_elem.text.strip().replace("h", ":00")  # 如 "20h" → "20:00"
    data_raw = data_elem.text.strip()
    # 移除可能的前置字符(如 "a ", "em ")及非日期内容
    data_clean = "".join([c for c in data_raw if c.isdigit() or c in "/."]).strip()

    if hora and data_clean:
        horario_pares.append((data_clean, hora))

# 关联到每个事件(假设已获取标题、地点、链接列表)
eventos_estruturados = []
for idx, (titulo, local, link) in enumerate(zip(titulos, locais, links)):
    # 为每个事件分配其对应的所有场次(此处需确保 titulos/locais/links 与 horario_pares 的分组逻辑一致)
    # 实际项目中建议先按事件URL分组,再聚合其所有场次
    titulo_clean = titulo.text.strip()
    local_clean = local.text.strip()
    link_href = link.get('href', '')

    # 示例:为简化演示,假设每个事件有2个场次(需根据实际HTML动态适配)
    if idx < len(horario_pares) // 2:
        data1, hora1 = horario_pares[idx * 2]
        data2, hora2 = horario_pares[idx * 2 + 1] if idx * 2 + 1 < len(horario_pares) else ("", "")
        eventos_estruturados.append([
            titulo_clean,
            f"{data1} {hora1} | {data2} {hora2}",  # 合并为单字段(或拆分为多列)
            local_clean,
            link_href
        ])

# 转为DataFrame
df = pd.DataFrame(eventos_estruturados, columns=["Título", "Datas e Horários", "Local", "Link"])
print(df.head())

? 关键注意事项:

  • 不要依赖全局 zip() 对齐:nome_evento, datas, local_evento, link_evento 四个列表长度很可能不等(尤其当部分事件缺少某字段时),强制 zip() 会截断数据;
  • 优先按事件容器(如 .jet-engine-post)逐个解析:更健壮的做法是先 find_all 事件主区块,再在每个区块内分别提取标题、所有日期时间、地点、链接,确保语义归属正确;
  • 日期清洗需场景化:示例中用正则或字符串过滤提取数字/斜杠,但生产环境建议用 dateutil.parser 或自定义映射(如 "sexta-feira" → "Friday")提升鲁棒性;
  • 始终验证HTML结构:使用浏览器开发者工具确认目标元素的真实class、嵌套关系及重复模式,避免被CSS框架生成的冗余类误导。

通过聚焦语义化选择器、尊重DOM序列逻辑、分层解析而非扁平拉取,您即可稳定产出结构清晰、字段对齐的事件数据,为后续分析或可视化奠定坚实基础。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
免费爬虫工具有哪些
免费爬虫工具有哪些

免费爬虫工具有Scrapy、Beautiful Soup、ParseHub、Octoparse、Webocton Scriptly、RoboBrowser和Goutte。更多关于免费爬虫工具的问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

5713

2023.11.10

Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

693

2023.11.13

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

60

2026.11.06

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

20

2026.11.06

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

40

2026.11.06

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

60

2026.11.05

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

40

2026.11.05

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

40

2026.11.04

XORM框架结构体映射与表结构同步
XORM框架结构体映射与表结构同步

本专题围绕XORM框架的结构体映射展开,说明表名与字段的命名策略、xorm标签常用属性、主键自增与时间字段自动填充,并演示Sync2自动建表、增量字段升级、索引声明与反向生成结构体的完整流程。

60

2026.11.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn