直接用 pip install jsonpath 安装,避免混用 jsonpath-ng 或 jsonpath-rw;表达式勿硬拼字符串,注意根类型(list 时 $..id 有效而 $.data.id 失效);提取后需清洗数据再入 pydantic,且不可依赖 jsonpath 做唯一校验。

jsonpath 库安装和基础语法怎么写才不报错
直接用 pip install jsonpath 就行,注意不是 jsonpath-ng 或 jsonpath-rw —— 后两者接口不兼容,老项目里混用会导致 parse() 报 AttributeError: 'str' object has no attribute 'find' 这类奇怪错误。
核心是别把表达式当字符串硬拼:$..book[?(@.price 是合法表达式,但如果你写成 <code>"$..book[?(@.price ,就容易漏转义或引号错位。更稳的做法是用 f-string + 双大括号避开内层 <code>@ 解析冲突:
expr = f"$..book[?(@.price < {threshold})]"
实际执行时必须先 json.loads() 成 Python 对象,再传给 jsonpath.jsonpath(data, expr) —— 如果直接对原始 bytes 或未 decode 的响应体调用,会返回空列表且无提示。
嵌套太深、字段名动态变化时怎么写表达式
遇到 {"data": {"v1": {"items": [...]}, "v2": {"items": [...]}}} 这种版本键名不固定的情况,$..items 会匹配所有 items,但没法区分来源;这时得用通配符 $..*['items'] 或更准的 $..[?(@.items)].items。
立即学习“Python免费学习笔记(深入)”;
常见踩坑点:
- 误用
..导致性能暴跌:在 10MB+ JSON 中用$..name可能卡住,换成$.data.*.items[*].name明确路径快 5 倍以上 - 数组索引写成
[0]而不是[*]:前者只取第一个,后者才遍历全部;如果目标字段只在第 3 个 item 里,[0]就永远拿不到 - 字段含空格或特殊字符(如
"user info")必须用单引号包裹:$..['user info'].id,写成$..user info.id直接语法错误
返回结果是空列表?优先检查这三件事
jsonpath.jsonpath() 返回空列表不等于没数据,大概率是结构或类型不匹配:
- 原始 JSON 里该字段值为
null,而表达式写了@.field != null—— 实际应写@.field(null 会被自动过滤)或显式写@.field == null - 数字被当字符串传入:API 返回
"count": "123",但你写了@.count > 100,Python 会按字符串比较,"123" > "100"虽然成立,但"2" > "100"也成立,逻辑就崩了 - 顶层不是 dict 而是 list:比如响应直接是
[{"id":1}, {"id":2}],此时$..id有效,但$.data.id必然为空 —— 先 print(type(data)) 确认根类型
和 requests + pydantic 搭配时的类型安全陷阱
用 jsonpath 提取字段后直接塞进 pydantic model,容易因字段缺失或类型不符崩掉。比如表达式 $..price 返回 [29.99, null, 35],pydantic 的 float 字段遇到 null 就抛 ValidationError。
稳妥做法是提取后立刻清洗:
prices = jsonpath.jsonpath(data, "$..price") or [] clean_prices = [p for p in prices if p is not None and isinstance(p, (int, float))]
更关键的是:不要在生产爬虫里依赖 jsonpath 做唯一数据源校验。它不校验 schema,也不报字段歧义 —— 同名字段在多层出现时,$..id 会全捞出来,你得自己加上下文判断哪一个是用户 ID、哪一个是商品 ID。


















