讲师中心 微信公众号
AI工具推荐 视频效率加速

如何绕过前端截断,稳定抓取 Nguyen Kim 网站完整商品名称与价格

风宇同学_3507

风宇同学_3507

发布时间:2026-04-17 15:48:04

|

358人浏览过

|

来源于php中文网

原创

如何绕过前端截断,稳定抓取 Nguyen Kim 网站完整商品名称与价格

本文介绍一种不依赖 selenium 的高效方案:直接解析页面内嵌的 json 数据,彻底规避因 css 截断(如 text-overflow: ellipsis)导致长商品名为空的问题,确保 name、price 等关键字段 100% 完整可靠。

本文介绍一种不依赖 selenium 的高效方案:直接解析页面内嵌的 json 数据,彻底规避因 css 截断(如 text-overflow: ellipsis)导致长商品名为空的问题,确保 name、price 等关键字段 100% 完整可靠。

在使用 Selenium 抓取 Nguyen Kim 商品列表时,你可能会遇到一个典型陷阱:当商品标题过长(例如“Máy tính để bàn HP 205 Pro G4 AIO R5-4500U/8GB/256GB/Win10 31Y21PA”),前端通过 CSS 强制截断显示(white-space: nowrap; overflow: hidden; text-overflow: ellipsis),导致 .text 属性返回空字符串——而链接、图片等属性却能正常获取。这并非元素未加载或定位错误,而是视觉渲染与 DOM 文本内容的天然分离。

此时,强行优化 Selenium 的等待策略或改用 get_attribute('textContent') 仍可能失败,因为被截断的文本根本未在可见 DOM 节点中完整存在。真正的解决方案是:绕过渲染层,直取原始数据源。

观察 Nguyen Kim 页面源码可发现,所有商品信息实际以结构化 JSON 形式内嵌在 <script class="script-render"> 标签中,由前端 JavaScript 动态注入。这意味着完整商品数据(含全量 name、final_price、link、image_url 等)始终存在于 HTML 响应体中,无需浏览器渲染即可提取。

以下为推荐的稳定、轻量、高性能实现方案(基于 requests + BeautifulSoup + json):

前端设计优化skill
前端设计优化skill

前端设计与 UI/UX 全方位优化专家。覆盖视觉层次、排版系统、色彩理论、响应式布局、交互体验、动画动效、无障碍访问、性能优化八大维度,帮助开发者将普通页面升级为高品质产品级界面。前端设计与 UI/UX 全方位优化专家。覆盖视觉层次、排版系统、色彩理论、响应式布局、交互体验、动画动效、无障碍访问、性能优化八大维度,帮助开发者将普通页面升级为高品质产品级界面。

下载

立即学习“前端免费学习笔记(深入)”;

import requests
from bs4 import BeautifulSoup as bs
import pandas as pd
import json

# 配置请求头,模拟真实浏览器
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/120.0.0.0 Safari/537.36'
}

s = requests.Session()
s.headers.update(headers)

all_products = []

# 分页抓取(示例:前2页)
for page in range(1, 3):
    url = f'https://www.nguyenkim.com/tim-kiem.html?tu-khoa=may+tinh&trang={page}'
    response = s.get(url)
    response.raise_for_status()  # 检查HTTP错误

    soup = bs(response.text, 'lxml')

    # 定位所有包含商品数据的 script 标签
    script_tags = soup.select('script.script-render')
    for script in script_tags:
        try:
            # 提取 JSON 字符串(格式固定:dataRenderProduct.push({...});)
            raw_js = script.string
            if not raw_js or 'dataRenderProduct.push(' not in raw_js:
                continue

            # 解析出 JSON 对象部分
            json_str = raw_js.split('dataRenderProduct.push(', 1)[1].split(');', 1)[0]
            product_data = json.loads(json_str)

            # 提取关键字段(字段名参考实际JSON结构)
            item = {
                'link': product_data.get('link', ''),
                'name': product_data.get('name', '').strip(),  # 全量名称,无截断
                'current_price': product_data.get('final_price', ''),
                'original_price': product_data.get('origin_price', ''),
                'img': product_data.get('image_url', ''),
                'product_id': product_data.get('id', '')
            }
            all_products.append(item)
        except (json.JSONDecodeError, IndexError, AttributeError) as e:
            continue  # 跳过解析异常项,保证鲁棒性

# 转为 DataFrame 便于查看与导出
df = pd.DataFrame(all_products)
print(f"成功提取 {len(all_products)} 条商品数据")
print(df[['name', 'current_price', 'link']].head())

✅ 优势总结:

  • 100% 规避截断问题:直接读取服务端下发的原始 JSON,不受 CSS 或 JS 渲染限制;
  • 速度快、资源省:无需启动浏览器,单页请求耗时通常 < 0.5s;
  • 稳定性高:不依赖元素可见性、动画状态或动态加载时机;
  • 字段更丰富:除基础字段外,还可轻松获取 origin_price、discount_percent、short_desc 等隐藏信息。

⚠️ 注意事项:

  • 若网站未来修改 JSON 注入方式(如更换 class 名或 JS 变量名),需微调 split() 逻辑,建议结合 re.search(r'dataRenderProduct\.push\((\{.*?\})\);', script.string) 提升健壮性;
  • 遵守 robots.txt 与网站爬虫政策,添加合理延时(如 time.sleep(1));
  • 生产环境建议加入重试机制(tenacity 库)和 User-Agent 轮换。

该方法不仅解决了当前长名称抓取难题,更代表了一种更优的网页数据采集范式:优先挖掘结构化数据源,而非依赖脆弱的 UI 层面解析。

热门AI工具

更多
墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

相关专题

更多
python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2603

2023.08.11

前端如何实现即时通讯
前端如何实现即时通讯

实现即时通讯的方法有WebSocket、Long Polling、Server-Sent Events、WebRTC等等。详细介绍:1、WebSocket,它可以在客户端和服务器之间建立持久连接,实现实时的双向通信,前端可以使用 WebSocket API来创建WebSocket连接,并通过发送和接收消息来实现即时通讯;2、Long Polling,是一种模拟实时通信的技术等等。

5623

2023.10.09

前端和后端的区别
前端和后端的区别

前端关注的是用户界面的设计和交互,而后端则注重数据处理和逻辑控制。想了解更多前端后端的相关内容,可以阅读本专题下面的文章。

6630

2024.03.19

php和前端的关联介绍
php和前端的关联介绍

php既可以作为前端语言,也可以作为后端语言。想了解更多php和前端的相关内容,可以阅读本专题下面的文章。

6298

2024.03.22

前端外包工作内容有哪些
前端外包工作内容有哪些

前端外包工作内容包括:1. 网站和应用程序开发;2. 用户界面和交互设计;3. 用户体验优化;4. 设计和视觉开发;5. 跨浏览器兼容性;6. 性能优化;7. 维护和更新;8. 项目管理和沟通。想了解更多前端的相关内容,可以阅读本专题下面的文章。

903

2024.05.22

html版权符号
html版权符号

html版权符号是“©”,可以在html源文件中直接输入或者从word中复制粘贴过来,php中文网还为大家带来html的相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

6455

2023.06.14

html在线编辑器
html在线编辑器

html在线编辑器是用于在线编辑的工具,编辑的内容是基于HTML的文档。它经常被应用于留言板留言、论坛发贴、Blog编写日志或等需要用户输入普通HTML的地方,是Web应用的常用模块之一。php中文网为大家带来了html在线编辑器的相关教程、以及相关文章等内容,供大家免费下载使用。

3612

2023.06.21

html网页制作
html网页制作

html网页制作是指使用超文本标记语言来设计和创建网页的过程,html是一种标记语言,它使用标记来描述文档结构和语义,并定义了网页中的各种元素和内容的呈现方式。本专题为大家提供html网页制作的相关的文章、下载、课程内容,供大家免费下载体验。

3270

2023.07.31

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn