讲师中心 微信公众号
AI工具推荐 视频效率加速

Scrapy CSS选择器无效的常见原因及正确用法

云雪大大_5226

云雪大大_5226

发布时间:2026-10-12 19:36:12

|

979人浏览过

|

来源于php中文网

原创

Scrapy CSS选择器无效的常见原因及正确用法

当Scrapy使用CSS选择器无法提取目标文本时,往往因选择器过度冗长、类名拼写错误或未适配实际HTML结构所致;简化为精准、语义化的选择器(如span.elementor-heading-title::text)即可高效获取所需内容。

当scrapy使用css选择器无法提取目标文本时,往往因选择器过度冗长、类名拼写错误或未适配实际html结构所致;简化为精准、语义化的选择器(如span.elementor-heading-title::text)即可高效获取所需内容。

在Scrapy中,CSS选择器失效是初学者高频遇到的问题。本例中,用户试图从 <https:></https:> 页面提取培训标签(如“Accompagnement”“Validation des Acquis de l'Expérience - Livret 2”),但返回空列表 []。根本原因在于原始选择器存在三处典型错误:

  1. 过度限定路径:硬编码了大量无关的父级类名(如 elementor-44463、dce-elementor-rendering-id-1),而这些动态生成的ID/类名极易变化,且页面实际HTML中并不存在该完整结构;
  2. 类名拼接错误:elementor-element-49bd7747elementor-widget__width-auto... 中缺失空格,导致CSS选择器语法非法;
  3. 忽略可复用性与健壮性:未利用Elementor组件的通用样式特征(如统一使用的 elementor-heading-title 类)。

✅ 正确做法是聚焦目标元素本身的关键特征。观察HTML片段:

<span class="elementor-heading-title elementor-size-default">Accompagnement</span>
<span class="elementor-heading-title elementor-size-default">Validation des Acquis de l'Expérience - Livret 2</span>

所有目标文本均位于带有 elementor-heading-title 类的 <span></span> 标签内。因此,最简洁、稳定且可维护的选择器为:

libelles = response.css("span.elementor-heading-title::text").getall()

? getall() 返回字符串列表(推荐用于多结果场景);若仅需首个匹配项,可用 .get()(返回单个字符串或 None)。

CSS婚礼策划服务机构宣传网站模板
CSS婚礼策划服务机构宣传网站模板

CSS婚礼策划服务机构宣传网站模板是一款适合提供婚礼策划和婚庆服务机构宣传网站模板下载。提示:本模板调用到谷歌字体库,可能会出现页面打开比较缓慢。

下载

立即学习“前端免费学习笔记(深入)”;

完整修正后的Spider代码如下:

import scrapy

class MonAvenirProSpider(scrapy.Spider):
    name = "monavenirpro"  # 注意:此处应为字符串赋值,原代码中误用冒号(:)
    start_urls = ["https://monavenirpro-hdf.fr/formations/"]

    def parse(self, response):
        # ✅ 精简、健壮的选择器:直接定位带目标类名的span文本
        libelles = response.css("span.elementor-heading-title::text").getall()

        # 可选:过滤空字符串,提升数据质量
        libelles = [text.strip() for text in libelles if text.strip()]

        yield {
            "listlibelles": libelles
        }

⚠️ 注意事项:

  • 检查选择器语法:CSS类选择器用 . 连接(如 .class1.class2),而非空格(空格表示后代关系);
  • 动态ID(如 elementor-element-49bd7747)不可靠,应避免在生产代码中硬编码;
  • 使用 response.css(...).get() / .getall() 替代已弃用的 .extract() / .extract_first()(Scrapy 2.0+);
  • 开发阶段建议先在Scrapy Shell中验证选择器:
    scrapy shell "https://monavenirpro-hdf.fr/formations/"
    >>> response.css("span.elementor-heading-title::text").getall()

通过回归语义化、去耦合的设计原则,不仅解决了当前问题,更提升了爬虫对前端结构微调的鲁棒性。

热门AI工具

更多
咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

相关专题

更多
css
css

css是层叠样式表,用来表现HTML或XML等文件样式的计算机语言,不仅可以静态地修饰网页,还可以配合各种脚本语言动态地对网页各元素进行格式化。php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

4536

2023.06.15

css居中
css居中

css居中:1、通过“margin: 0 auto; text-align: center”实现水平居中;2、通过“display:flex”实现水平居中;3、通过“display:table-cell”和“margin-left”实现居中。本专题为大家提供css居中的相关的文章、下载、课程内容,供大家免费下载体验。

997

2023.07.27

css如何插入图片
css如何插入图片

cssCSS是层叠样式表(Cascading Style Sheets)的缩写。它是一种用于描述网页或应用程序外观和样式的标记语言。CSS可以控制网页的字体、颜色、布局、大小、背景、边框等方面,使得网页的外观更加美观和易于阅读。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1858

2023.07.28

css超出显示...
css超出显示...

在CSS中,当文本内容超出容器的宽度或高度时,可以使用省略号来表示被隐藏的文本内容。本专题为大家提供css超出显示...的相关文章,相关教程,供大家免费体验。

3546

2023.08.01

css字体颜色
css字体颜色

CSS中,字体颜色可以通过属性color来设置,用于控制文本的前景色,字体颜色在网页设计中起到很重要的作用,具有以下表现作用:1、提升可读性;2、强调重点信息;3、营造氛围和美感;4、用于呈现品牌标识或与品牌形象相符的风格。

7125

2023.08.10

什么是css
什么是css

CSS是层叠样式表(Cascading Style Sheets)的缩写,是一种用于描述网页(或其他基于 XML 的文档)样式与布局的标记语言,CSS的作用和意义如下:1、分离样式和内容;2、页面加载速度优化;3、实现响应式设计;4、确保整个网站的风格和样式保持统一。

6051

2023.08.10

css三角形怎么写
css三角形怎么写

CSS可以通过多种方式实现三角形形状,本专题为大家提供css三角形怎么写的相关教程,大家可以免费体验。

2037

2023.08.21

css设置文字颜色
css设置文字颜色

CSS(层叠样式表)可以用于设置文字颜色,这样做有以下好处和优势:1、增加网页的可视化效果;2、突出显示某些重要的信息或关键字;3、增强品牌识别度;4、提高网页的可访问性;5、引起不同的情感共鸣。

2871

2023.08.22

PixTV官网入口地址合集
PixTV官网入口地址合集

本专题汇总了 PixTV AI 一站式视频创作平台的官方入口与使用教程。无需下载软件,浏览器直接访问即可使用。平台将剧本、图像、视频、声音与剪辑整合在“无限画布”中,接入 GPT Image 2.5、Seedance 2.5 等头部模型。本专题整理了从新建画布、角色锚定、分镜拆分到视频生成与导出的完整操作指南,助你快速上手 AI 短剧与漫剧创作。

40

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Sass 教程
Sass 教程

共14课时 | 1.5万人学习

Bootstrap 5教程
Bootstrap 5教程

共46课时 | 5.9万人学习

CSS教程
CSS教程

共754课时 | 96.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn