讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在 Python 网页抓取中解析 HTML 图标语义并动态添加正负号标识

轻芳吖_4135

轻芳吖_4135

发布时间:2025-12-29 14:34:02

|

799人浏览过

|

来源于php中文网

原创

如何在 Python 网页抓取中解析 HTML 图标语义并动态添加正负号标识

本文介绍如何利用 beautifulsoup 解析 wikipedia 表格中通过绿色/红色三角图标(含 title 属性)隐含的“增长方向”语义,并将其转化为显式的 `+` 或 `-` 符号,从而准确提取营收增长率的正负含义。

在网页抓取实践中,许多数据并非以纯文本形式呈现,而是借助 HTML 元素(如 如何在 Python 网页抓取中解析 HTML 图标语义并动态添加正负号标识、 中的 title 或 CSS 类)传递语义信息。Wikipedia 的“营收增长率”列正是典型场景:它用带 title="Increase" 或 title="Decrease" 的 包裹三角图标,而实际数值文本却未携带符号。直接调用 .text.strip() 会丢失这一关键逻辑,导致所有增长率都显示为正值。

要正确还原正负含义,核心思路是:定位承载语义的 HTML 节点 → 提取其语义属性(如 title)→ 根据条件修改对应单元格内容。

以下是一个健壮、可复用的解决方案:

from bs4 import BeautifulSoup
import pandas as pd
import requests

url = 'https://en.wikipedia.org/wiki/List_of_largest_companies_in_the_United_States_by_revenue'
response = requests.get(url)
soup = BeautifulSoup(response.text, 'html.parser')

# 定位所有含 title 属性的 span 的父 td(即营收增长率所在单元格)
for td in soup.select('td:has(span[title])'):
    try:
        # 获取嵌套 span 的 title 值(注意层级:td > span > span)
        title = td.find('span').find('span')['title']
        text_value = td.get_text(strip=True)

        if title == 'Increase':
            new_content = f'+ {text_value}'
        elif title == 'Decrease':
            new_content = f'- {text_value}'
        else:
            new_content = text_value  # 保底:未知 title 不修改

        # 替换整个 td 内容(保留结构,仅更新文本与符号)
        td.replace_with(BeautifulSoup(f'<td>{new_content}</td>', 'html.parser'))
    except (AttributeError, KeyError, TypeError):
        # 容错:跳过结构异常的单元格(如缺失 span 或 title)
        continue

# 使用 pandas 读取已修正的 HTML 表格(推荐索引为 1,因首表常为导航栏)
df = pd.read_html(str(soup))[1]
print(df[['Name', 'Revenue growth']].head())

✅ 关键要点说明:

财经HTML高端海报生成
财经HTML高端海报生成

复杂得财经如何变成清晰,适合手机看的海报?如何加上你的IP

下载

立即学习“Python免费学习笔记(深入)”;

  • soup.select('td:has(span[title])') 是精准定位的关键:CSS 选择器 :has() 可筛选出包含带 title 属性 的 ,避免遍历全部单元格。
  • 注意 DOM 结构:Wikipedia 实际使用 td > span > span 嵌套,因此需 td.find('span').find('span')['title'],而非直接查 img(原问题中图标已由 SVG 替代,alt 属性不可靠)。
  • 使用 replace_with() + BeautifulSoup(..., 'html.parser') 确保新内容被正确解析为 HTML 节点,避免字符串拼接引发的转义或结构破坏。
  • 异常处理(try/except)必不可少:网页结构可能随编辑变动,忽略个别失败项比中断整个流程更鲁棒。
  • 最终交由 pandas.read_html() 解析,既简洁又自动处理表头、类型推断等细节,远胜手动构建列表。
  • ⚠️ 注意事项:

    • 不要依赖 img[alt] —— 当前 Wikipedia 已将三角图标改为 inline SVG,alt 属性常为空或缺失;title 属性才是稳定语义源。
    • 避免在循环中直接修改 row_data 后再调用 data.text:此时 DOM 已变更,原始 .text 可能失效。应先提取语义,再统一替换。
    • 若需进一步清洗(如去除空格、转换为浮点数),建议在 pandas 加载后使用 df['Revenue growth'].str.extract(r'([+-])\s*(\d+\.\d+)%') 进行结构化解析。

    该方法不仅适用于 Wikipedia,也适用于任何通过 HTML 属性传递业务语义的表格场景——真正实现“让代码读懂网页的潜台词”。

相关文章

HTML速学教程(入门课程)
HTML速学教程(入门课程)

HTML怎么学习?HTML怎么入门?HTML在哪学?HTML怎么学才快?不用担心,这里为大家提供了HTML速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

相关专题

更多
Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

693

2023.11.13

Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

340

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

272

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

851

2026.04.13

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1898

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

3064

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

6324

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

6349

2023.11.24

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

0

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Sass 教程
Sass 教程

共14课时 | 1.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn