讲师中心 微信公众号
AI工具推荐 视频效率加速

怎么在Python中利用Requests库模拟表单提交及爬虫

小强君_8972

小强君_8972

发布时间:2026-04-09 14:34:02

|

739人浏览过

|

来源于php中文网

原创

Requests提交表单时应严格区分data和json参数:data用于application/x-www-form-urlencoded格式,json自动序列化为JSON并设对应Content-Type;普通表单一律用data={...},含文件则用files={...},不可与json混用。

怎么在python中利用requests库模拟表单提交及爬虫

Requests提交表单时,data和json参数别混用

表单提交本质是构造HTTP请求体,但 requests.post() 的 data 和 json 参数行为完全不同:前者发送 application/x-www-form-urlencoded(标准表单格式),后者自动序列化为JSON并设 Content-Type: application/json。多数网页登录/搜索表单走前者,用 json=... 会导致后端收不到字段。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 先用浏览器开发者工具(Network → Form Data)确认提交的键值对和编码方式
  • 普通表单一律用 data={...},例如 data={"username": "a", "password": "b"}
  • 若表单含文件上传,必须用 files={...},且不能和 json 同时出现
  • 中文字段注意是否需手动 urllib.parse.quote() —— 通常 requests 会自动处理,但某些老旧后端要求 UTF-8 编码后拼接

带Cookie和Referer的请求常被反爬拦截

很多网站校验 Referer 头防止站外提交,或依赖前置登录产生的 Cookie 维持会话。直接调用 requests.post() 默认无状态,相当于“新访客”,必然失败。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 用 requests.Session() 复用连接和 Cookie,先 get() 登录页获取隐藏字段(如 csrf_token)和初始 Cookie
  • 把登录页响应中的 Set-Cookie 自动带入后续请求,无需手动提取 —— Session 会自动管理
  • 显式设置 headers={"Referer": "https://example.com/login"},值必须与上一步 GET 的URL一致
  • 检查响应状态码是否为 200 且内容含“登录成功”字样,而非跳转到首页或错误页 —— 有些站点失败时也返回 200

验证码、CSRF Token、JavaScript渲染字段必须动态提取

纯静态 data 字典无法应付每次提交都变化的字段。比如 csrf_token 通常藏在HTML的 <input name="csrf_token" value="xxx"> 中;验证码图片需OCR或人工输入;而某些按钮文本由JS动态生成,requests拿不到。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 用 BeautifulSoup 或正则从登录页HTML中提取 csrf_token:soup.find("input", {"name": "csrf_token"})["value"]
  • 遇到验证码,优先查目标站是否有API接口(如 /captcha/image?r=123),再考虑 pytesseract 或打码平台
  • 若关键字段由JS计算生成(如密码MD5加盐),得用 execjs 或 PyExecJS 执行对应JS逻辑,requests本身不执行脚本
  • 不要硬编码Token值——哪怕测试时能用,上线必挂

超时、重试、User-Agent缺失导致请求被静默丢弃

不少服务器对无 User-Agent、无超时设置、无重试机制的请求直接拒绝或限速,现象是连接卡住、返回空内容、或 ConnectionError,而非明确报错。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 强制设置 timeout=(3, 7)(连接3秒,读取7秒),避免单个请求阻塞整个爬虫
  • 用 urllib3.util.retry.Retry 配合 requests.adapters.HTTPAdapter 添加重试逻辑,重点重试 429(Too Many Requests)和网络错误
  • User-Agent 必须模拟真实浏览器,例如 "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36",且定期轮换
  • 别忽略 response.encoding —— 某些站点返回UTF-8内容但声明为ISO-8859-1,需手动设 response.encoding = "utf-8" 再取 .text

真正难的不是发请求,而是判断哪一步在“假装正常”。比如表单提交后返回200,但页面里写着“验证码错误”;又比如Cookie看着没过期,实际后端已校验失效。这些都得靠检查响应体具体内容,而不是只看状态码。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

相关专题

更多
Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

40

2026.10.28

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

20

2026.10.28

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

0

2026.10.28

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

120

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

80

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

60

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

40

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

60

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

40

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn