讲师中心 微信公众号
AI工具推荐 视频效率加速

Python反爬识别机制_行为特征解析【教程】

雨芳同学_5561

雨芳同学_5561

发布时间:2026-01-06 16:22:02

|

846人浏览过

|

来源于php中文网

原创

Python爬虫被识别主因是行为暴露“非人”特征。服务器通过请求频率、鼠标轨迹、JS执行环境、HTTP头、TLS指纹等多维建模识别;需动态UA、Session管理、正态延时、Playwright替代Selenium、禁用webdriver、模拟真实鼠标移动、使用tls-client复刻TLS指纹。

python反爬识别机制_行为特征解析【教程】

Python爬虫被识别,往往不是因为用了requests还是selenium,而是行为暴露了“非人”特征。服务器通过请求频率、鼠标轨迹、JS执行环境、HTTP头细节、TLS指纹等多维度建模判断是否为真实浏览器,而多数Python脚本在这些环节天然露馅。

HTTP请求头与会话行为异常

直接用requests发请求时,User-Agent常固定不变,且缺少Accept、Accept-Language、Sec-Ch-Ua等现代浏览器必带的头部字段;Cookie不随跳转自动管理,Referer缺失或错乱;两次请求间隔恒为0.1秒,形成完美等差数列——这在人类浏览中几乎不存在。

  • 每次请求前动态生成合理UA(如从常见浏览器列表中随机选,并同步更新Sec-Ch-Ua)
  • 启用Session对象管理Cookies,手动设置Referer与上一页URL一致
  • 在请求间插入符合正态分布的随机延时(如均值1.2秒,标准差0.4秒),避开固定节奏

JavaScript执行环境缺失

目标站点若依赖window.navigator、WebGL指纹、AudioContext采样或canvas.toDataURL()生成设备指纹,requests和普通urllib完全无法执行JS,返回的HTML里关键数据为空或被遮蔽。即使加了headers,服务端仍可通过fetch调用失败、navigator.plugins长度为0等特征判定为无头环境。

java-api-doc-generator
java-api-doc-generator

分析 Java Spring Boot 后端 Controller 代码,自动生成 Markdown 格式的接口文档。当用户说“生成 Java 接口文档”、“生成 API 文档”、“从 Spring 代码生成文档”时触发。

下载
  • 优先考虑Playwright或Pyppeteer替代Selenium:它们默认启用真实Chromium,支持WebGL/Audio/Canvas完整上下文
  • 禁用自动化特征:启动时添加--disable-blink-features=AutomationControlled,并覆盖navigator.webdriver为undefined
  • 必要时注入JS补全缺失属性,例如伪造plugins、mimeTypes数组,但需注意版本一致性

鼠标与页面交互模式失真

用Selenium模拟点击时,若元素定位后立即click(),或move_to_element().click()路径是直线瞬移,缺乏加减速、微小偏移、悬停抖动等生物行为特征。高级反爬会记录鼠标移动轨迹的贝塞尔曲线拟合度、停留时间分布,甚至检测pointer-events触发顺序。

立即学习“Python免费学习笔记(深入)”;

  • 使用ActionChains模拟真实移动:先move_by_offset(0,0)激活事件,再分段移动,每段加入50–200ms随机停顿
  • 点击前在目标区域周边5–15像素内随机悬停300–800ms,模拟视觉确认过程
  • 避免全页截屏或频繁get_attribute("innerHTML"),改用element.screenshot_as_png局部截图验证可见性

TLS指纹与网络层痕迹

Python默认SSL库(urllib3 + OpenSSL)握手时发送的ALPN协议列表、支持的加密套件顺序、TLS扩展排列,与Chrome/Firefox存在显著差异。一些WAF(如Cloudflare最新版)已将TLS指纹纳入实时风控模型,单纯换UA无效。

  • 使用tls-client或curl_cffi库发起请求:它们复刻主流浏览器TLS握手指纹,支持自动同步Chrome版本变更
  • 避免混用不同底层库(如requests + selenium共用同一IP),防止TCP连接池行为冲突暴露脚本逻辑
  • 高敏感站点建议搭配 residential proxy,并确保每个IP只承载单一用户会话,会话间间隔不低于90秒

热门AI工具

更多
小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
chrome什么意思
chrome什么意思

chrome是浏览器的意思,由Google开发的网络浏览器,它在2008年首次发布,并迅速成为全球最受欢迎的浏览器之一。本专题为大家提供chrome相关的文章、下载、课程内容,供大家免费下载体验。

2826

2023.08.11

chrome无法加载插件怎么办
chrome无法加载插件怎么办

chrome无法加载插件可以通过检查插件是否已正确安装、禁用和启用插件、清除插件缓存、更新浏览器和插件、检查网络连接和尝试在隐身模式下加载插件方法解决。更多关于chrome相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

5619

2023.11.06

Chrome开启无痕模式
Chrome开启无痕模式

本专题整合了Chrome无痕模式开启相关内容,阅读专题下面的文章了解更多详细教程。

4007

2026.03.24

cookie
cookie

Cookie 是一种在用户计算机上存储小型文本文件的技术,用于在用户与网站进行交互时收集和存储有关用户的信息。当用户访问一个网站时,网站会将一个包含特定信息的 Cookie 文件发送到用户的浏览器,浏览器会将该 Cookie 存储在用户的计算机上。之后,当用户再次访问该网站时,浏览器会向服务器发送 Cookie,服务器可以根据 Cookie 中的信息来识别用户、跟踪用户行为等。

12239

2023.06.30

document.cookie获取不到怎么解决
document.cookie获取不到怎么解决

document.cookie获取不到的解决办法:1、浏览器的隐私设置;2、Same-origin policy;3、HTTPOnly Cookie;4、JavaScript代码错误;5、Cookie不存在或过期等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1206

2023.11.23

阻止所有cookie什么意思
阻止所有cookie什么意思

阻止所有cookie意味着在浏览器中禁止接受和存储网站发送的cookie。阻止所有cookie可能会影响许多网站的使用体验,因为许多网站使用cookie来提供个性化服务、存储用户信息或跟踪用户行为。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

844

2024.02.23

cookie与session的区别
cookie与session的区别

本专题整合了cookie与session的区别和使用方法等相关内容,阅读专题下面的文章了解更详细的内容。

1926

2025.08.19

session失效的原因
session失效的原因

session失效的原因有会话超时、会话数量限制、会话完整性检查、服务器重启、浏览器或设备问题等等。详细介绍:1、会话超时:服务器为Session设置了一个默认的超时时间,当用户在一段时间内没有与服务器交互时,Session将自动失效;2、会话数量限制:服务器为每个用户的Session数量设置了一个限制,当用户创建的Session数量超过这个限制时,最新的会覆盖最早的等等。

580

2023.10.17

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

20

2026.10.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WebStorm 官方调试文档
WebStorm 官方调试文档

共0课时 | 0人学习

React 教程
React 教程

共58课时 | 12.3万人学习

TypeScript 教程
TypeScript 教程

共19课时 | 6.7万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn