讲师中心 微信公众号
AI工具推荐 视频效率加速

如何利用Python爬虫采集公开的法律文书数据_解决文书网的参数加密与防盗链

夜婷姑娘_3876

夜婷姑娘_3876

发布时间:2026-05-27 06:44:26

|

1160人浏览过

|

来源于php中文网

原创

中国裁判文书网请求参数每次不同是因为关键参数经前端动态AES加密后编码为q字段,密钥和iv由服务端动态下发,需模拟浏览器执行JS加密逻辑;同时存在Referer/User-Agent/TLS指纹等多重校验,须复用session并精确设置请求头;验证码与滑块验证难以绕过,需控频或接入打码平台;文书内容需二次解密解析,且结构复杂、持续更新反爬策略。

如何利用python爬虫采集公开的法律文书数据_解决文书网的参数加密与防盗链

文书网的请求参数为什么每次都不一样

因为中国裁判文书网(wenshu.court.gov.cn)对 pageNum、sortFields、conditions 等关键参数做了前端动态加密,实际发包时提交的是 q 字段,其值是 AES 加密 + Base64 编码后的结果,密钥和 iv 每次由服务端下发(通过 /api/generateCode 或首页 JS 中的随机字符串生成逻辑推导)。

直接硬编码参数或复用旧 q 值会返回 {"code":"2","msg":"参数错误"} 或空数据。真实爬取必须模拟浏览器执行加密逻辑,不能靠抓包重放。

  • 主流解法是用 execjs 或 PyExecJS 执行官网 JS 中的 encrypt 函数(位于首页 HTML 的 var encrypt = function(...) 或静态资源 /static/js/search.js)
  • 注意 JS 中的密钥生成依赖当前时间戳和随机数,需同步提取 token 和 ts(通常在 /api/generateCode 响应头或 JSON 中)
  • 部分新版页面改用 WebAssembly 模块做加密,此时 execjs 失效,得用 playwright 或 undetected-chromedriver 启动真实浏览器上下文

防盗链(Referer / User-Agent)校验怎么绕过

文书网对 Referer 严格校验:请求必须来自 https://wenshu.court.gov.cn/website/wenshu/ 或具体子路径,且 User-Agent 需匹配主流浏览器(如 Chrome 120+),否则返回 403 Forbidden 或跳转到验证页。

单纯加 headers 不够——它还会检查 TCP 连接特征、TLS 指纹、HTTP/2 设置等。简单 requests 请求大概率被拦截。

立即学习“Python免费学习笔记(深入)”;

Python Hardener
Python Hardener

通过完整的安全审查、代码整洁重构、健壮的错误处理、正确的日志记录以及完整的文档字符串覆盖,强化 Python 脚本。

下载
  • 必须复用同一 session,并在首次访问首页后提取 Set-Cookie 中的 QINGCLOUD、SESSION 等字段,后续所有请求携带完整 cookie
  • Referer 要精确到带查询参数的完整 URL,例如:https://wenshu.court.gov.cn/website/wenshu/181107ANFZ0BXSK4/index.html?pageId=xxx
  • 推荐用 requests.Session() + requests.adapters.HTTPAdapter(pool_connections=10, pool_maxsize=10) 控制连接复用,避免被识别为扫描器

如何稳定获取有效验证码并完成人机校验

高频请求会触发图形验证码(/api/viewCode)或滑块验证(新版)。验证码不是纯图片,而是含动态干扰线 + 字体变形 + canvas 渲染的混合体,OCR 识别率极低;滑块则依赖鼠标轨迹模拟。

官方未开放验证码识别接口,也无公开 bypass 方式。强行暴力识别或跳过会导致 IP 封禁(封禁时长从 5 分钟到 24 小时不等)。

  • 优先降低请求频率:单 IP 每分钟不超过 3–5 次,每次间隔 ≥ 12 秒,配合随机 jitter(±2s)
  • 验证码请求前先 GET /api/generateCode 获取 token 和 uuid,再用该 token 请求 /api/viewCode?uuid=xxx,否则返回空图
  • 真要自动化识别,只能接入第三方打码平台(如超级鹰、云打码),但成本高、延迟大,且平台本身可能被文书网反制

法律文书数据的结构解析难点在哪

文书正文不是纯 HTML,而是服务端渲染的 iframe 内嵌 PDF 或富文本,实际接口返回的是加密的 content 字段(Base64 + 自定义解密),解密密钥藏在响应头 X-Response-Key 或 JS 变量中。

即使拿到原始 content,还需处理:HTML 实体转义、多余换行合并、法院名称标准化(“北京市朝阳区人民法院” vs “北京市朝阳法院”)、案号正则提取((\d{4})[\u4e00-\u9fa5]+?(\d+)号)等。

  • 不要用 BeautifulSoup 直接解析返回的 JSON 中的 html 字段——那是模板占位符,真实内容需二次请求 /website/wenshu/ShowWenshu 接口
  • 注意文书存在“隐藏内容”,如部分敏感信息被 <span class="mask">***</span> 包裹,需主动替换或跳过
  • 批量解析建议用 lxml 替代 bs4,速度更快且对 malformed HTML 更鲁棒

最麻烦的不是加密或反爬,而是文书网不定期更新前端逻辑——某天发现 encrypt 函数签名变了、q 多了一层 RSA 封装、或者滑块验证强制启用,都得重新逆向 JS。没有一劳永逸的方案,只有持续跟进和最小化请求扰动。

热门AI工具

更多
Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1891

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

5184

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1829

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

31337

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3707

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3727

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1243

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

616

2023.08.10

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

0

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn