讲师中心 微信公众号
AI工具推荐 视频效率加速

Python爬虫怎么应对页面超时_在requests中设置timeout参数

风萱君_8864

风萱君_8864

发布时间:2026-04-21 02:15:17

|

1029人浏览过

|

来源于php中文网

原创

requests.get() 必须显式设置 timeout,否则会无限等待;推荐使用元组形式 timeout=(connect, read),并分别捕获 Timeout 和 ConnectionError 异常,同时在并发场景下需配合线程池或 asyncio 的外层超时机制。

python爬虫怎么应对页面超时_在requests中设置timeout参数

requests.get() 必须显式设置 timeout,不设就是无限等待

Python 的 requests 默认不设超时,遇到网络卡顿、服务器假死或防火墙拦截时,requests.get() 会一直挂起,整个爬虫线程就卡死了。这不是 bug,是设计如此——它把“等多久”完全交给你决定。

实操建议:

  • timeout 是必填安全项,不是可选项;哪怕只写 timeout=10 也比不写强
  • 推荐拆成元组形式:timeout=(3, 7),前者是连接超时(connect),后者是读取超时(read);连接阶段卡住说明目标不可达,读取阶段卡住可能是响应慢或流式传输
  • 不要用单个数字(如 timeout=5),它只作用于 connect 阶段,read 阶段仍可能无限阻塞
  • 超时值不是越小越好:设成 0.5 看似激进,但公网 DNS 解析、TLS 握手都可能耗时 200ms+,容易误杀正常请求

捕获 requests.exceptions.Timeout 而不是通用异常

超时抛出的是特定异常类型,不是 Exception 或 ConnectionError。用错 except 会导致超时被吞掉,程序看似“没报错”,实则逻辑跳过或静默失败。

常见错误现象:

立即学习“Python免费学习笔记(深入)”;

  • 写了 except Exception: 却没做任何日志,结果发现某些 URL 总是漏抓,查半天才发现是超时被静默忽略了
  • 把 Timeout 和 ConnectionError 合并在一个 except 块里处理,但两者原因不同:前者是“连上了但没及时回”,后者是“根本连不上”,重试策略应区分

正确做法:

Claw Code Suite (Python-Only Edition)
Claw Code Suite (Python-Only Edition)

仅使用 Python 将 Claw Code 虚拟化框架与 OpenClaw 集成,提供 184 种工具和 200 多条命令,用于安全分析和代码质量...

下载
try:
    resp = requests.get(url, timeout=(3, 7))
except requests.exceptions.Timeout:
    print(f"Timeout on {url}")
    # 可重试,但建议加退避:time.sleep(1 * (2 ** retry_count))
except requests.exceptions.ConnectionError:
    print(f"Unreachable: {url}")
    # 连不上就别重试了,大概率是域名错或网络断了

timeout 对 session 复用和重定向的影响

很多人以为给 Session() 对象设一次 timeout 就全局生效,其实不是:Session 本身不存 timeout,每次调用 session.get() 仍需传入 timeout 参数。另外,重定向(redirect)会复用原始 timeout 设置,但每跳都单独计时——也就是说,302 跳转后的新请求,依然受同一个 timeout 约束。

使用场景与坑点:

  • 如果你手动禁用了重定向(allow_redirects=False),那后续的 session.get() 调用必须自己处理 302 Location 并发新请求,此时新请求的 timeout 得重新传,不会继承上一次
  • 代理环境下(proxies=...),DNS 解析和代理握手也计入 connect 时间,容易触发 ConnectTimeout,建议 connect 时间略放宽(如 (5, 7))
  • HTTP/2 或长连接复用(keep-alive)不会绕过 timeout,每个 request-level 的读取阶段仍独立计时

并发请求下 timeout 要配合 concurrent.futures 的 timeout

用 ThreadPoolExecutor 跑多个 requests.get() 时,光设 requests 的 timeout 不够。如果某个请求因系统级问题(比如 GIL 持有、线程饿死)迟迟不返回,外层线程池不会自动中断它——你得用 executor 的 future.result(timeout=...) 再套一层保护。

性能与兼容性影响:

  • requests 层 timeout 控制的是 socket 级阻塞,executor 层 timeout 控制的是 Python 线程调度级等待;二者缺一不可
  • 别把两层 timeout 设成一样值(比如都设 5),executor 层应略大于 requests 层(如 requests 用 (3, 7),executor 用 12),留出异常捕获和上下文切换余量
  • asyncio + aiohttp 场景同理,要同时设 client.timeout 和 asyncio.wait_for(..., timeout=...)

真正难处理的,是那些既没抛异常、又没返回响应的“半死连接”——它不触发 requests timeout(因为 TCP 还活着),也不触发 executor timeout(因为线程还在跑),只能靠更底层的 socket 选项或进程级看门狗。这种边界情况,多数人还没碰到,但一旦碰到,就很难 debug。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1771

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

4644

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1749

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

27517

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3327

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3327

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1203

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

剧云故事大纲与分场规划教程
剧云故事大纲与分场规划教程

本专题讲解剧云梗概与多级大纲功能,覆盖全局、分集、分场结构生成,以及主线冲突、剧情节点和场次顺序调整。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn