讲师中心 微信公众号
AI工具推荐 视频效率加速

如何高效抓取 React 构建的赛事名单页面(含嵌套表格数据)

星晨小哥_5983

星晨小哥_5983

发布时间:2026-07-05 11:38:50

|

372人浏览过

|

来源于php中文网

原创

如何高效抓取 React 构建的赛事名单页面(含嵌套表格数据)

本文介绍如何绕过 selenium 渲染难题,直接调用后端 rest api 获取 gavlepistol 赛事名单中的参赛队伍(rv-squad)、标题(rv-squad-header)和选手(rv-participant)结构化数据,避免因 react 动态渲染导致的元素定位失败。

本文介绍如何绕过 selenium 渲染难题,直接调用后端 rest api 获取 gavlepistol 赛事名单中的参赛队伍(rv-squad)、标题(rv-squad-header)和选手(rv-participant)结构化数据,避免因 react 动态渲染导致的元素定位失败。

在爬取基于 React 构建的现代单页应用(SPA)时,常见误区是依赖 Selenium 等浏览器自动化工具“等待并查找 DOM 元素”。然而,目标页面 https://www.php.cn/link/ba85b1fdaab8f50fc116a55a29fe591c 实际由 React 动态渲染,其核心数据全部通过 AJAX 从后端 API 加载——这意味着:

  • driver.find_elements(By.CLASS_NAME, 'rv-squad-header') 返回空列表,并非选择器错误,而是对应 HTML 在初始响应中根本不存在;
  • 即使添加 time.sleep(5) 或显式等待(如 WebDriverWait),也无法保证 React 完成数据获取与组件挂载(尤其当 API 请求存在延迟或错误时);
  • 使用 By.CLASS_NAME 传入复合类名(如 'div.rv-squad-header.full')语法错误——CLASS_NAME 仅支持单个类名,且不接受 CSS 选择器语法。

✅ 推荐方案:直连后端 API,跳过前端渲染层
该站点后端暴露了清晰的 REST 接口(经网络面板分析可得):

  • 赛事基础信息:https://dev.bitnux.com/anmalan/competition/{id}
  • 每场赛程的参赛名单:https://dev.bitnux.com/anmalan/schedules/{schedule_id}/squad

以下为完整、健壮的 Python 实现:

import requests
from typing import Dict, List, Any

def fetch_competition_roster(comp_id: int) -> None:
    base_url = "https://dev.bitnux.com/anmalan"

    # 1. 获取赛事主信息
    comp_resp = requests.get(f"{base_url}/competition/{comp_id}")
    comp_resp.raise_for_status()
    comp_data: Dict[str, Any] = comp_resp.json()

    print(f"赛事名称:{comp_data['name']}\n")

    # 2. 遍历所有赛程(events),获取每场的 squad 数据
    for event in comp_data.get("events", []):
        schedule_id = event["schedule"]
        squad_resp = requests.get(f"{base_url}/schedules/{schedule_id}/squad")
        squad_resp.raise_for_status()
        squads: List[Dict] = squad_resp.json()

        for squad in squads:
            if not squad.get("entries"):  # 跳过无选手的场次
                continue

            print(f"【{squad['time']}】")
            for entry in squad["entries"]:
                # 格式化输出:姓名(左对齐25)、所属组织(左对齐45)、组别
                print(f"{entry['name']:<25} {entry['organization']:<45} {entry['division']}")
            print()

# 调用示例
if __name__ == "__main__":
    fetch_competition_roster(653)

? 关键优势与注意事项:

React Best Practices 2 0.1.0
React Best Practices 2 0.1.0

React 与 Next.js 性能优化指南,源自 Vercel 工程团队。适用于编写、审查或重构 React/Next.js 代码时使用。

下载
  • 稳定性高:API 响应结构稳定,不受前端框架更新、CSS 类名变更或加载动画影响;
  • 性能优异:省去浏览器启动、页面渲染、JS 执行开销,请求耗时通常 < 1s;
  • 易扩展:可轻松批量拉取多场赛事(循环 comp_id)、添加重试机制(requests.adapters.HTTPAdapter)、或存入 CSV/数据库;
  • 合规提醒:请查阅站点 robots.txt 及服务条款,建议添加 headers={"User-Agent": "Mozilla/5.0..."} 并控制请求频率(如 time.sleep(0.5)),尊重服务器负载。

⚠️ 若必须使用 Selenium(例如需触发前端交互或验证渲染逻辑),请改用 WebDriverWait + presence_of_element_located 等待策略,并确保使用正确 CSS 选择器:

from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
# 正确写法(CSS_SELECTOR 支持复合类)
headers = WebDriverWait(driver, 10).until(
    EC.presence_of_all_elements_located((By.CSS_SELECTOR, ".rv-squad-header.full"))
)

但对本场景而言,API 方式是更简洁、可靠、专业的首选解法。

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

相关专题

更多
免费爬虫工具有哪些
免费爬虫工具有哪些

免费爬虫工具有Scrapy、Beautiful Soup、ParseHub、Octoparse、Webocton Scriptly、RoboBrowser和Goutte。更多关于免费爬虫工具的问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4213

2023.11.10

Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

653

2023.11.13

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

200

2026.09.23

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

100

2026.09.23

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

80

2026.09.23

Conan创建软件包配方指南
Conan创建软件包配方指南

本专题介绍通过conanfile.py创建软件包的方法,讲解包名、版本、依赖和构建设置等基础信息,以及source、build、package、package_info等常用方法的作用及编写思路。

60

2026.09.22

Conan二进制包配置指南
Conan二进制包配置指南

本专题介绍Conan根据操作系统、编译器、架构和构建类型生成二进制包的方法,讲解Profile、Settings、Options及Package ID的作用,帮助管理不同平台和编译环境下的包版本。

60

2026.09.22

Conan私有仓库搭建教程
Conan私有仓库搭建教程

本专题系统的讲解Conan私有仓库的搭建流程,涵盖仓库服务部署、存储目录配置、用户认证、权限划分和远程地址添加,并介绍内部C++依赖包的上传、下载及版本维护方法。

60

2026.09.22

loomy官网入口地址合集
loomy官网入口地址合集

本专题汇总了 Loomy 桌面 AI 助理的官方入口地址合集及使用指南。提供 macOS 与 Windows 客户端下载 。Loomy 是讯飞推出的桌面级 AI 工作搭子,支持文件整理、数据分析、网页操作及通过飞书/钉钉远程操控电脑,助你高效完成本地办公任务 。

60

2026.09.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
React 教程
React 教程

共58课时 | 12万人学习

国外Web开发全栈课程全集
国外Web开发全栈课程全集

共12课时 | 1.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn