讲师中心 微信公众号
AI工具推荐 视频效率加速

Scrapy 中正确提取页面级静态字段(如赛程距离)的实践方法

夜明吖_7300

夜明吖_7300

发布时间:2026-10-31 11:06:01

|

242人浏览过

|

来源于php中文网

原创

Scrapy 中正确提取页面级静态字段(如赛程距离)的实践方法

在 scrapy 爬虫中,若需提取整个页面共有的静态信息(如赛程距离),应避免在循环内重复定位;正确做法是在解析函数开头统一提取一次,并在遍历每条记录时复用该值。

在 scrapy 爬虫中,若需提取整个页面共有的静态信息(如赛程距离),应避免在循环内重复定位;正确做法是在解析函数开头统一提取一次,并在遍历每条记录时复用该值。

当爬取赛马/灵缇赛事页面(例如 https://www.php.cn/link/0910e6e5e6ebebf9a19cd0df422b6b36)时,distance(如 "OPEN 520m")属于页面级元信息——它对当前赛程下所有参赛犬只均相同,而非每个 <tr class="accordion__anchor race-runner"> 行内独立存在。因此,若在 <code>for div in divs: 循环内部使用 div.xpath(...) 查找距离,XPath 会局限在当前 <tr> 节点范围内搜索,而目标元素(<code>.race-header__info__grade)实际位于页面顶部的 <header></header> 或 <div class="race-header"> 区域,与每条赛犬记录不在同一 DOM 子树中,导致返回空值。<p>✅ 正确解法:<strong>在循环外一次性提取,再注入每条数据项</strong></p> <p>推荐使用更简洁、可读性更强的 CSS 选择器(也可继续用 XPath):</p><pre class="brush:php;toolbar:false;">def parse(self, response): # ✅ 在循环前提取页面级字段:距离 distance = response.css(&quot;.race-header__info__grade::text&quot;).get() # 若需清洗(如仅保留数字部分),可追加处理: # import re # distance_m = re.search(r'(\d+)m', distance) # distance = distance_m.group(1) if distance_m else None # 定位所有参赛犬记录行 runner_rows = response.xpath('//tr[@class=&quot;accordion__anchor race-runner&quot;]') for row in runner_rows: yield { 'distance': distance, # 复用单次提取结果 'grade': row.xpath(&quot;.//td[@class='race-runners__grade']/text()&quot;).getall(), 'greyhound': row.xpath('./td[3]/div[1]/a/text()').getall(), 'position': row.xpath('./td[1]/text()').getall(), 'trainer': row.xpath(&quot;.//div[@class='race-runners__name__trainer']/a/text()&quot;).getall(), 'weight': row.xpath(&quot;.//td[@class='race-runners__weight']/text()&quot;).getall(), 'first_sec': row.xpath(&quot;.//td[@class='race-runners__sectional']/text()&quot;).get(), 'second_sec': row.xpath(&quot;.//td[@class='race-runners__sectional'][2]/text()&quot;).getall(), 'time': row.xpath(&quot;.//td[@class='race-runners__time']/text()&quot;).getall(), 'margin': row.xpath(&quot;.//td[@class='race-runners__margin']/text()&quot;).getall(), 'starting_price': row.xpath(&quot;.//td[@class='race-runners__starting-price']/text()&quot;).getall(), 'date': response.url.split('/')[-3], 'track': response.url.split('/')[-4], 'rug': row.xpath('.//td[@class=&quot;table__cell--tight race-runners__box&quot;]/sprite-svg/@name').get() }</pre><p>⚠️ 注意事项:</p> <ul> <li>使用 <code>.get()(返回单个字符串或 None)替代 .extract()(已弃用,返回列表),符合 Scrapy 2.0+ 最佳实践;

  • 若目标字段可能为空,建议用 .get(default='') 显式指定默认值,避免后续处理报错;
  • 避免在循环中重复调用 response.css() 或 response.xpath() 提取同一页面级字段——不仅低效,还易因 DOM 结构误判导致逻辑错误;
  • 对于多级嵌套或动态渲染内容,可先用浏览器开发者工具验证选择器是否命中真实 HTML(注意检查是否为 SSR 渲染,或需等待 JS 加载)。
  • 总结:将「页面上下文信息」(如赛事距离、场地名称、日期、场次编号等)与「行级明细数据」(如每只灵缇的名次、时间、 trainer)在逻辑上分层处理,是构建健壮、可维护 Scrapy 爬虫的关键设计原则。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

    热门AI工具

    更多
    DeepSeek

    DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

    小橡皮AI

    一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

    超级麦吉

    一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

    咔片AIPPT

    一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

    豆包大模型

    豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

    AionClaw
    AionClaw Hot

    AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

    WorkBuddy

    一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

    墨刀AI
    墨刀AI Hot

    一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

    Lovart
    Lovart Hot

    一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

    相关专题

    更多
    html版权符号
    html版权符号

    html版权符号是“©”,可以在html源文件中直接输入或者从word中复制粘贴过来,php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

    6855

    2023.06.14

    html在线编辑器
    html在线编辑器

    html在线编辑器是用于在线编辑的工具,编辑的内容是基于HTML的文档。它经常被应用于留言板留言、论坛发贴、Blog编写日志或等需要用户输入普通HTML的地方,是Web应用的常用模块之一。php中文网为大家带来了html在线编辑器的相关教程、以及相关文章等内容,供大家免费下载使用。

    3792

    2023.06.21

    html网页制作
    html网页制作

    html网页制作是指使用超文本标记语言来设计和创建网页的过程,html是一种标记语言,它使用标记来描述文档结构和语义,并定义了网页中的各种元素和内容的呈现方式。本专题为大家提供html网页制作的相关的文章、下载、课程内容,供大家免费下载体验。

    3470

    2023.07.31

    html空格
    html空格

    html空格是一种用于在网页中添加间隔和对齐文本的特殊字符,被用于在网页中插入额外的空间,以改变元素之间的排列和对齐方式。本专题为大家提供html空格的相关的文章、下载、课程内容,供大家免费下载体验。

    3479

    2023.08.01

    html是什么
    html是什么

    HTML是一种标准标记语言,用于创建和呈现网页的结构和内容,是互联网发展的基石,为网页开发提供了丰富的功能和灵活性。本专题为大家提供html相关的各种文章、以及下载和课程。

    5079

    2023.08.11

    html字体大小怎么设置
    html字体大小怎么设置

    在网页设计中,字体大小的选择是至关重要的。合理的字体大小不仅可以提升网页的可读性,还能够影响用户对网页整体布局的感知。php中文网将介绍一些常用的方法和技巧,帮助您在HTML中设置合适的字体大小。

    3421

    2023.08.11

    html转txt
    html转txt

    html转txt的方法有使用文本编辑器、使用在线转换工具和使用Python编程。本专题为大家提供html转txt相关的文章、下载、课程内容,供大家免费下载体验。

    3229

    2023.08.31

    html文本框代码怎么写
    html文本框代码怎么写

    html文本框代码:1、单行文本框【<input type="text" style="height:..;width:..;" />】;2、多行文本框【textarea style=";height:;"></textare】。

    2808

    2023.09.01

    Vite 项目如何打包和部署
    Vite 项目如何打包和部署

    Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

    60

    2026.10.28

    热门下载

    更多
    网站特效
    /
    网站源码
    /
    网站素材
    /
    前端模板

    精品课程

    更多
    热门推荐
    /
    最新课程
    关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
    php中文网:公益在线php培训,帮助PHP学习者快速成长!
    关注服务号
    PHP中文网订阅号
    每天精选资源文章推送

    Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn