讲师中心 微信公众号
AI工具推荐 视频效率加速

解决 BeautifulSoup 爬取动态渲染页面时返回空列表的问题

阿雪姑娘_1436

阿雪姑娘_1436

发布时间:2026-02-25 22:00:18

|

1478人浏览过

|

来源于php中文网

原创

解决 BeautifulSoup 爬取动态渲染页面时返回空列表的问题

当目标网页通过 JavaScript 动态加载内容(如尺寸标签、商品信息等)时,BeautifulSoup 仅解析初始 HTML 源码,无法获取 JS 渲染后的 DOM 节点,导致 find_all() 返回空列表。

当目标网页通过 javascript 动态加载内容(如尺寸标签、商品信息等)时,beautifulsoup 仅解析初始 html 源码,无法获取 js 渲染后的 dom 节点,导致 `find_all()` 返回空列表。

在你提供的案例中,本地保存的 MadeInItaly.html 文件能成功提取 XS 等元素,是因为该文件已包含完整渲染后的内容;而直接请求 Zara 商品页 URL 时,服务器返回的是未执行 JS 的“骨架 HTML”——关键尺寸信息由前端框架(如 React 或 Vue)在浏览器中异步注入,requests + BeautifulSoup 组合对此类动态内容完全不可见。

✅ 验证方法:对比源码差异

可快速验证是否为 JS 渲染问题:

# 检查响应中是否真有目标 class 字符串
print("product-size-info__main-label" in result.text)  # 极大概率输出 False

若返回 False,即证实目标 class 并未存在于原始 HTML 中,属于典型客户端渲染(CSR)场景。

✅ 正确解决方案:使用 Selenium 模拟真实浏览器

Selenium 启动真实浏览器(如 Chrome),完整执行页面 JS,确保 DOM 加载完毕后再提取:

from selenium import webdriver
from selenium.webdriver.chrome.options import Options
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC

# 无头模式(不显示窗口)
options = Options()
options.add_argument("--headless")
options.add_argument("--no-sandbox")
options.add_argument("--disable-dev-shm-usage")
options.add_argument("user-agent=Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36")

driver = webdriver.Chrome(options=options)
wait = WebDriverWait(driver, 10)

try:
    url = "https://www.zara.com/es/es/vestido-midi-volantes-cinturon-con-lino-p00387075.html?v1=258941747&v2=2184287"
    driver.get(url)

    # 等待目标元素出现(显式等待,更可靠)
    elements = wait.until(
        EC.presence_of_all_elements_located((By.CLASS_NAME, "product-size-info__main-label"))
    )

    # 提取文本内容
    labels = [el.text.strip() for el in elements]
    print(labels)  # 输出类似: ['XS', 'S', 'M', 'L', 'XL']

finally:
    driver.quit()

⚠️ 注意事项:

  • 需提前安装 ChromeDriver 并确保其版本与 Chrome 浏览器兼容;
  • 使用 WebDriverWait 替代 time.sleep(),避免因网络延迟导致提取失败或效率低下;
  • 若页面存在反爬机制(如 Cloudflare 验证),需进一步配置代理、绕过检测或使用 undetected-chromedriver;
  • 对于大规模采集,建议搭配 requests-html(轻量级)或 Puppeteer(Node.js)作为替代方案。

✅ 进阶建议:优先检查是否支持 SSR 或 API 接口

部分电商网站虽前端渲染,但尺寸数据实际来自独立 API(如 /products/xxx/availability)。可通过浏览器开发者工具(Network → XHR/Fetch)捕获 AJAX 请求,直接调用接口获取 JSON 数据,性能与稳定性远超 Selenium:

# 示例(需根据实际抓包结果调整)
api_url = "https://www.zara.com/api/products/258941747/availability"
headers = {"User-Agent": "...", "Referer": url}
data = requests.get(api_url, headers=headers).json()
# 解析 data 中的 size info 字段

综上,BeautifulSoup 不是万能的解析器——它只处理静态 HTML。面对现代 SPA(单页应用)网站,应结合动态渲染工具或逆向分析真实数据接口,才能实现稳定、高效的网页抓取。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2255

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

3642

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

1216

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

4199

2025.09.10

ajax教程
ajax教程

php中文网为大家带来ajax教程合集,Ajax是一种用于创建快速动态网页的技术。通过在后台与服务器进行少量数据交换,Ajax可以使网页实现异步更新。这意味着可以在不重新加载整个网页的情况下,对网页的某部分进行更新。php中文网还为大家带来ajax的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

3280

2023.06.14

ajax中文乱码解决方法
ajax中文乱码解决方法

ajax中文乱码解决方法有设置请求头部的字符编码、在服务器端设置响应头部的字符编码和使用encodeURIComponent对中文进行编码。本专题为大家提供ajax中文乱码相关的文章、下载、课程内容,供大家免费下载体验。

360

2023.08.31

ajax传递中文乱码怎么办
ajax传递中文乱码怎么办

ajax传递中文乱码的解决办法:1、设置统一的编码方式;2、服务器端编码;3、客户端解码;4、设置HTTP响应头;5、使用JSON格式。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3113

2023.11.15

ajax网站有哪些
ajax网站有哪些

使用ajax的网站有谷歌、维基百科、脸书、纽约时报、亚马逊、stackoverflow、twitter、hacker news、shopify和basecamp等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1161

2024.09.24

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

0

2026.11.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn