讲师中心 微信公众号
AI工具推荐 视频效率加速

XML文件如何去除重复节点 Python脚本去重XML数据

酷磊姑娘_9629

酷磊姑娘_9629

发布时间:2026-03-14 16:32:03

|

588人浏览过

|

来源于php中文网

原创

最直接方法是用xml.etree.ElementTree遍历目标节点,提取指定子元素文本或属性组合为元组存入set查重,收集待删节点再统一删除,写入时指定encoding='utf-8'和xml_declaration=True。

xml文件如何去除重复节点 python脚本去重xml数据

xml.etree.ElementTree 遍历并去重节点最直接

Python 标准库的 xml.etree.ElementTree 足够应付大多数 XML 去重需求,不用额外装包,也避免了 lxml 在某些环境(比如旧版 CentOS 或无编译工具的容器)里安装失败的问题。

关键不是“删重复”,而是“保留第一次出现的,跳过后续相同结构”。XML 节点是否重复,得看你怎么定义“相同”——常见做法是比对一组指定子元素或属性值的组合,而不是整个节点字符串(因为空白、顺序、命名空间可能干扰)。

  • for elem in root.iter('target_tag') 遍历目标节点,别用 findall 后再循环索引,容易漏删或索引错位
  • 把判断依据(比如 elem.findtext('id')tuple(elem.get(attr) for attr in ['type', 'name']))转成不可变类型存进 set,用于查重
  • 不要边遍历边调用 root.remove(elem) —— 这会改变迭代器状态,导致跳过节点;改用收集待删节点列表,遍历完再统一删

按子元素文本内容去重时,注意 findtext()find().text 的区别

findtext('field') 返回字符串或 None,而 find('field').textfind 失败时会抛 AttributeError。线上 XML 数据常有缺失字段,用 findtext 更稳。

如果字段含空格或换行,findtext 默认不 strip,可能导致看似相同的值被当成不同项。这时候得手动处理:

立即学习Python免费学习笔记(深入)”;

  • 统一用 elem.findtext('name') and elem.findtext('name').strip()
  • 或者提前清洗:对所有待比对字段做 .strip() or '',避免 None 和空串混在一起出问题
  • 大小写敏感?比如 'User''user' 算不算重复?得明确加 .lower() 或按业务约定处理

用属性组合当唯一键时,elem.attrib 顺序不保证,别直接用 str(elem.attrib)

elem.attrib 是字典,Python 3.7+ 虽保持插入序,但 XML 解析器(如 ElementTree)不保证属性读入顺序一致。用 str(elem.attrib) 当哈希键,同一份 XML 在不同机器上可能生成不同字符串,去重结果不稳定。

  • 正确做法:选固定字段名列表,比如 ['category', 'version'],然后构造元组:tuple(elem.get(k, '').strip() for k in keys)
  • 如果某个属性必存在,可简化为 (elem.get('id'), elem.get('scope')),元组天然可哈希且顺序确定
  • 避免用 elem.items(),它返回的顺序不可靠,也不排除命名空间前缀干扰

写回文件前务必用 etree.write(..., encoding='utf-8', xml_declaration=True)

默认 write() 不带 XML 声明,且可能用系统默认编码(比如 cp1252),中文会乱码或解析失败。尤其当原始 XML 有 <?xml version="1.0" encoding="UTF-8"?> 时,输出不带声明 + 错编码 = 下游工具直接报错 UnicodeDecodeErrorParseError: not well-formed

  • 显式传 encoding='utf-8'xml_declaration=True
  • 如果原 XML 有缩进,ElementTree 默认不保留;需要格式化就得手动加换行和空格,或改用 lxml.etreepretty_print=True(但这就绕开标准库了)
  • 写入前建议先 etree.tostring(root, encoding='unicode') 检查逻辑是否符合预期,比直接写文件调试快

去重逻辑本身不难,难的是“怎么定义重复”——字段缺失、空格、大小写、属性顺序、编码这些细节,一个没兜住,脚本就只在测试数据上跑通。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

相关专题

更多
pdf怎么转换成xml格式
pdf怎么转换成xml格式

将 pdf 转换为 xml 的方法:1. 使用在线转换器;2. 使用桌面软件(如 adobe acrobat、itext);3. 使用命令行工具(如 pdftoxml)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3904

2024.04.01

xml怎么变成word
xml怎么变成word

步骤:1. 导入 xml 文件;2. 选择 xml 结构;3. 映射 xml 元素到 word 元素;4. 生成 word 文档。提示:确保 xml 文件结构良好,并预览 word 文档以验证转换是否成功。想了解更多xml的相关内容,可以阅读本专题下面的文章。

4957

2024.08.01

xml是什么格式的文件
xml是什么格式的文件

xml是一种纯文本格式的文件。xml指的是可扩展标记语言,标准通用标记语言的子集,是一种用于标记电子文件使其具有结构性的标记语言。想了解更多相关的内容,可阅读本专题下面的相关文章。

2242

2024.11.28

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1518

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2184

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

5684

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

4669

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

6434

2024.03.22

Vibeknow在线使用入口合集
Vibeknow在线使用入口合集

本专题汇总了Vibeknow在线创作视频的官方入口及网页版使用教程,涵盖PPT、PDF、Word等文档一键转讲解视频的核心操作,并整理了免费版水印规则与手机端浏览器访问指南,助你快速将知识内容视频化。

0

2026.09.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn