讲师中心 微信公众号
AI工具推荐 视频效率加速

Scrapy命令行抓取流程详解

云婷酱_7199

云婷酱_7199

发布时间:2026-08-18 10:30:31

|

358人浏览过

|

来源于php中文网

原创

必须严格按顺序执行创建项目、定义爬虫、编写解析逻辑、运行命令四步,漏掉任一环节都会导致命令报错或无输出;其中项目名不能含下划线或大写字母,allowed_domains必须是纯域名,parse中需用yield返回数据,导出文件存在即表示成功。

scrapy命令行抓取流程详解 - php中文网

用Scrapy命令行完成一次完整抓取,必须严格按顺序执行创建项目、定义爬虫、编写解析逻辑、运行命令四步,漏掉任一环节都会导致命令报错或无输出。

创建Scrapy项目

在终端中进入你希望存放项目的目录,执行:
scrapy startproject mycrawler

这会生成一个名为mycrawler的文件夹,内部包含scrapy.cfg和同名模块目录。注意:项目名不能含下划线或大写字母,否则后续命令可能无法识别模块路径。

进入项目根目录:
cd mycrawler

生成Spider文件

在项目根目录下运行:
scrapy genspider example quotes.toscrape.com

该命令会在spiders/子目录中创建example.py,自动填充name、allowed_domains和start_urls三个关键属性。域名必须写对,【allowed_domains必须是纯域名,不能带http://或路径】,否则爬虫启动后会过滤所有请求,返回0条响应。

此时不要急着改代码——先确认文件已生成,再打开编辑。

编写parse解析逻辑

打开spiders/example.py,在parse方法中补全数据提取代码:

Scrapy 2.18.0
Scrapy 2.18.0

Scrapy 2.18.0 官方源码包下载,适合 Python 网页抓取、选择器解析、Item Pipeline 和异步请求调度项目升级。

下载

将原pass语句替换为:

for quote in response.css('div.quote'):
  yield {
    'text': quote.css('span.text::text').get(),
    'author': quote.css('small.author::text').get(),
    'tags': quote.css('div.tags a.tag::text').getall()
  }

这段代码使用CSS选择器从quotes.toscrape.com首页提取每条名言的文本、作者和标签。注意get()返回单个值,getall()返回列表,混用会导致字段类型不一致。

如果想翻页,可在循环后加:
next_page = response.css('li.next a::attr(href)').get()
if next_page:
  yield response.follow(next_page)

命令行运行并导出结果

方法一:直接运行爬虫并保存为JSON文件
scrapy crawl example -o quotes.json

方法二:只看控制台输出(调试用)
scrapy crawl example

方法三:导出为CSV(字段需完全一致,否则会错位)
scrapy crawl example -o quotes.csv

运行后,当前目录下立即生成quotes.json。文件存在即表示抓取成功;若为空文件,检查parse中是否漏写了yield,或response.css选择器是否匹配到元素。

热门AI工具

更多
Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
免费爬虫工具有哪些
免费爬虫工具有哪些

免费爬虫工具有Scrapy、Beautiful Soup、ParseHub、Octoparse、Webocton Scriptly、RoboBrowser和Goutte。更多关于免费爬虫工具的问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3933

2023.11.10

AI视频生成软件推荐
AI视频生成软件推荐

本专题汇总了当前主流的AI视频生成软件推荐与排行榜单,涵盖seko、AniShort、剧云、Lovart、LiblibAI及立刻mv等热门工具。同时整理了各软件在文生视频、图生视频、时长限制、画质表现及免费额度等方面的差异对比,助您快速选对适合创作需求的AI视频生成工具。

160

2026.09.16

ai生成视频的工具免费版合集
ai生成视频的工具免费版合集

本专题汇总了当前免费AI生成视频工具的排行榜与推荐清单,涵盖seko、讯飞智作、AniShort及剧云、Lovart等多模型集成平台。同时整理了各工具的免费额度、输出时长、水印政策及适用场景差异,助您快速选择合适工具开启AI视频创作。

60

2026.09.16

Pandas时间序列分析与可视化报表
Pandas时间序列分析与可视化报表

本专题整理Pandas日期转换、时间索引、重采样、滚动窗口、时区处理、plot绘图、Styler表格样式和报表输出方法。

80

2026.09.16

Pandas数据筛选索引与清洗处理
Pandas数据筛选索引与清洗处理

本专题整理Pandas中的loc、iloc、条件筛选、query查询、缺失值处理、重复值删除、类型转换和字符串列清洗方法。

40

2026.09.16

Pandas数据读取导入与文件导出处理
Pandas数据读取导入与文件导出处理

本专题整理Pandas读取CSV、Excel、JSON、SQL、Parquet等文件的方法,以及to_csv、to_excel、to_sql和to_parquet等常用数据导出流程。

40

2026.09.16

GDB怎么设置断点
GDB怎么设置断点

本专题介绍GDB按照函数名、源代码行号和文件位置设置断点的方法,详细说明run、continue、next、step等命令的配合使用,帮助定位程序崩溃、逻辑异常及代码未按预期执行的问题。

360

2026.09.11

GDB怎么查看变量值
GDB怎么查看变量值

本专题介绍GDB调试过程中查看变量值的具体方法,涵盖局部变量、函数参数、数组、结构体和指针内容查询,同时整理变量持续显示、格式化输出及无法读取变量时的排查思路。

120

2026.09.11

GDB C++程序怎么调试
GDB C++程序怎么调试

本专题围绕GDB调试C++程序的实际过程,详细说明程序编译、调试器启动、命令行参数传入、断点命中和程序继续运行等步骤,并介绍条件断点、临时断点和观察点的设置方法,方便开发者跟踪复杂代码的执行状态。

140

2026.09.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Scrapy 官方文档与教程
Scrapy 官方文档与教程

共0课时 | 0人学习

Python Scrapy 网络爬虫实战视频教程
Python Scrapy 网络爬虫实战视频教程

共16课时 | 5.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn