讲师中心 微信公众号
AI工具推荐 视频效率加速

如何解决Python爬虫在抓取高防网站时连接被重置的问题_调整请求频率与指纹伪装

老静大大_5239

老静大大_5239

发布时间:2026-05-01 08:15:17

|

923人浏览过

|

来源于php中文网

原创

requests.get() 报 ConnectionResetError 是因高防 WAF 在 TCP/TLS 握手阶段主动 RST 连接,主因是 TLS 指纹异常、IP 行为异常或 HTTP/2 协商失败;需改用 tls-client 或 curl_cffi 模拟真实浏览器指纹,并确保 IP、DNS、SNI、Host 四者一致。

如何解决python爬虫在抓取高防网站时连接被重置的问题_调整请求频率与指纹伪装

为什么 requests.get() 会直接收到 ConnectionResetError

高防网站(如 Cloudflare、阿里云WAF、腾讯云EdgeOne)通常在 TCP 层或 TLS 握手阶段就拦截异常连接,而不是等 HTTP 请求发完再返回 403。所以你看到的 ConnectionResetError: [Errno 104] Connection reset by peer 往往发生在 requests.get() 底层 socket.connect() 或 SSL handshake 阶段,根本没走到发 GET / HTTP/1.1 这一步。

这意味着:单纯加 time.sleep() 或换 User-Agent 没用——对方还没让你“发出请求”,就已经把 TCP 连接 RST 掉了。

  • 真实触发点常是 TLS 指纹异常(比如 Python 默认的 OpenSSL 版本、ciphers 顺序、ALPN 协议列表和主流浏览器明显不同)
  • IP 初始连接行为异常(首次连接就带 Cookie、发多个 pipelined 请求、TLS SNI 域名和 Host 不一致)
  • HTTP/2 主动协商失败(部分 WAF 会因不支持 h2 或 SETTINGS 帧异常直接断连)

用 tls-client 或 curl_cffi 绕过 TLS 指纹检测

Python 原生 requests 基于 urllib3 + OpenSSL,指纹固定、不可控。必须换底层能模拟真实浏览器 TLS 握手流程的库。

推荐两个生产可用方案:

立即学习“Python免费学习笔记(深入)”;

  • tls-client:Go 写的 TLS 库封装,支持完整 Chrome 指纹(包括 JA3、ALPN、SNI、ciphers 顺序),通过 python-tls-client 包调用。启动快,适合高频轮询
  • curl_cffi:基于 libcurl + cffi,复用系统级 curl(可编译带 nghttp2),天然支持 HTTP/2 和真实浏览器 TLS 参数。对 Cloudflare 最稳,但进程初始化稍慢

示例(curl_cffi):

from curl_cffi import requests
<p>resp = requests.get(
"<a href="https://www.php.cn/link/b4f1013b4a92d53a20b4492ca202ff2b">https://www.php.cn/link/b4f1013b4a92d53a20b4492ca202ff2b</a>",
impersonate="chrome110",  # 关键:指定浏览器指纹代号
headers={"Accept": "text/html,application/xhtml+xml"},
timeout=15,
)

注意:impersonate 参数不是字符串随意写,必须从 curl_cffi.requests.impersonate.BROWSER_MAP 里选,比如 "chrome110"、"firefox102"。填错会导致指纹生成失败,退化为默认 curl 行为,照样被重置。

连接前必须做的三件事:IP、DNS、SNI 同步

很多开发者只改 User-Agent 和 headers,却忽略更底层的网络一致性。WAF 会交叉校验以下三点:

python学习
python学习

Python 编程学习助手 skill,面向零基础用户。 当用户表达以下意图时触发: - 学习 Python 基础概念(变量、数据类型、循环、函数、类等) - 请求 Python 练习题或测验 - 请求审查或调试 Python 代码 - 请求 Python 项目实战指导(爬虫、数据分析、Web 开发等入门项目) - 泛化表述如"教我 Python""我想学编程""Python 怎么写""帮我学 Python" 此 skill

下载
  • TCP 连接目标 IP 是否和 DNS 解析结果一致(防止 hosts 劫持或 CDN 回源 IP 直连)
  • SNI 域名是否和 TLS Client Hello 中的 Server Name 一致
  • HTTP Host header 是否和 SNI、原始 URL 域名完全匹配(大小写、端口、trailing slash 都算差异)

错误做法:requests.get("https://a.com", headers={"Host": "b.com"}) —— SNI 是 a.com,Host 是 b.com,WAF 立刻 RST。

正确做法(以 curl_cffi 为例):

# 必须确保三者统一
url = "https://shop.example.com"
resp = requests.get(
    url,
    impersonate="chrome110",
    # 不手动设 Host header!由库自动根据 url 生成
    # 如需自定义域名解析,用 resolve 参数(而非改 Host)
    # resolve="shop.example.com:443:203.208.39.123"
)

如果要用自定义 DNS(比如走干净代理 IP),必须用 resolve 参数传入 IP,而不是靠 /etc/hosts 或修改 Host header——后者无法影响 TLS SNI。

请求频率不是越慢越好,而是要模拟人类会话节奏

单纯全局 time.sleep(3) 容易被识别为低频扫描器。WAF 更关注连接模式:

  • 首次访问是否带有效 Referer(比如从搜索引擎结果页跳转)
  • 是否在 1–2 秒内连续发多个资源请求(JS/CSS/图片)
  • Session 是否维持 Cookie + TLS session resumption(避免每次握手都新建密钥)

curl_cffi 默认启用 TLS 会话复用,但需要复用同一个 requests.Session() 实例:

session = requests.Session(impersonate="chrome110")
session.get("https://site.com/login")  # 首次握手,建立 TLS session
session.get("https://site.com/dashboard")  # 复用 session ticket,更快且更像真人

Referer 可以伪造,但必须合理:https://www.google.com/search?q=site%3Asite.com 比空 Referer 或随机字符串更安全;后续请求的 Referer 应该是上一页 URL,而不是全写首页。

真正容易被忽略的是:WAF 对“新 IP + 首次连接 + 首页 GET”最敏感。如果必须批量采集,先用一个干净 IP 访问一次真实浏览器能过的登录页(哪怕只是截图),再切回爬虫——这个“暖流”动作能显著降低 RST 概率。

热门AI工具

更多
PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1811

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

4804

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1769

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

28637

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3427

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3447

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1223

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

616

2023.08.10

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

60

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn