讲师中心 微信公众号
AI工具推荐 视频效率加速

Python爬虫如何使用正则表达式精准提取隐藏在Script标签中的JSON?

雨伟大大_9046

雨伟大大_9046

发布时间:2026-09-29 08:36:48

|

324人浏览过

|

来源于php中文网

原创

直接用 re.search(r'var data = (.*?);', html) 常失败,因页面JS常压缩、含注释、换行或嵌套括号,非贪婪匹配遇首个分号即截断;可靠做法是先正则定位赋值起始(如 window.__INITIAL_STATE__ = {),再手动扫描并配对 {} 层级提取完整JSON。

python爬虫如何使用正则表达式精准提取隐藏在script标签中的json?

为什么直接用 re.search(r'var data = (.*?);', html) 常常失败?

因为实际页面里根本不存在 var data = ...; 这种干净写法。Script 标签里的 JS 往往是压缩过的、带换行/注释/嵌套括号的,甚至 JSON 被包裹在 IIFE 或对象属性里(比如 window.__INITIAL_STATE__ = {...})。盲目用非贪婪匹配 .*? 会提前截断,遇到第一个 ; 就停,而真正的 JSON 可能跨多行、含字符串里的分号或花括号。

真正可靠的做法是:先定位到目标变量赋值语句的起始位置,再用括号配对逻辑提取完整 JSON 字符串,而不是靠正则“猜”结束位置。

如何用正则定位 + 手动解析括号层级提取完整 JSON?

分两步走:第一步用正则粗筛出可能包含 JSON 的代码段(比如匹配 window.xxxs*=s*{ 或 vars+datas*=s*{),第二步从该 { 开始逐字符扫描,统计 {/} 深度,直到深度归零。

  • 别依赖 re.DOTALL 和 .*? —— 它们无法处理嵌套结构
  • 用 re.search(r'(window.__INITIAL_STATE__s*=s*){', html) 找到开头,取 .end() 作为扫描起点
  • 扫描时注意:字符串字面量里的 { 和 } 不算层级变化(需跳过引号内内容)
  • 遇到 '、"、` 要进字符串模式,碰到转义符 后的引号要忽略

示例关键片段:

立即学习“Python免费学习笔记(深入)”;

提示词大师-python版
提示词大师-python版

图片提示词生成器?不止如此。 马甲系统 —— 把脑海中的画面,翻译成AI能理解的专业表达。 用得越多,它越懂你:首次需要多问几句确认方向,用久了几乎一说就懂。 用得越多,它越快:缓存机制让后续对话越来越省。 RAG进化:成功案例持续入库,越跑越聪明。 输入「新手指南」查看完整功能介绍

下载
start_match = re.search(r'window.__INITIAL_STATE__s*=s*{', html)
if start_match:
    pos = start_match.end()
    depth = 1
    in_string = None  # None, "'", '"', or '`'
    while pos < len(html) and depth > 0:
        c = html[pos]
        if in_string is None:
            if c in "'"`":
                in_string = c
            elif c == '{':
                depth += 1
            elif c == '}':
                depth -= 1
        else:
            if c == in_string and html[pos-1] != '\':
                in_string = None
        pos += 1
    json_str = html[start_match.end():pos]

提取后 json.loads(json_str) 报 JSONDecodeError: Invalid escape 怎么办?

JS 中允许 u、 、 ,但不严格禁止其他反斜杠(比如 \ 或 x),而 Python 的 json 模块只认标准转义。常见于前端模板拼接或未转义的 HTML 实体中。

  • 先尝试 json_str.replace('\', '\\') —— 但太暴力,可能把合法 \u 变成 \\u
  • 更稳妥的是用 ast.literal_eval() 替代 json.loads(),它能解析 JS 风格的字符串(如单引号、无引号键),前提是 JSON 结构简单且不含函数/undefined
  • 或者用 json5.loads()(需 pip install json5),它原生支持 JS 式语法、注释、单引号、尾随逗号

如果只是少量非法转义,可预处理:

import re
json_str = re.sub(r'\(?![bfnrtv"'\/]|u[0-9a-fA-F]{4})', r'\\', json_str)
data = json.loads(json_str)

有没有比手写括号解析更省事又不过度依赖第三方库的方法?

有,用 re.findall() 配合 JS 引擎式正则(不推荐)不如用现成的轻量方案:借助 html.parser 先提取所有 <script> 文本,再对每个 script 内容做针对性匹配。这样至少规避了 HTML 注释、CDATA 等干扰。

  • 别用 BeautifulSoup 解析 script 内容 —— 它会把 < 当标签自动修正,破坏原始 JS
  • 用标准库 HTMLParser 子类,在 handle_starttag('script') 后读取原始文本(需自己维护状态)
  • 更简单:用 re.findall(r'<script[^>]*>(.*?)</script>', html, re.DOTALL | re.IGNORECASE) 提取 script 内容,再逐个处理
  • 提取后加一句 script_text = re.sub(r'//.*?$|/*.*?*/', '', script_text, flags=re.MULTILINE|re.DOTALL) 去掉注释,减少干扰

真正难的不是正则本身,而是你得确认那个 JSON 是静态注入的——如果是动态 fetch 或 WebSocket 推送的,正则永远抓不到。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1631

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

3944

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1629

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

22677

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2787

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2827

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1123

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

0

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn