讲师中心 微信公众号
AI工具推荐 视频效率加速

SQL如何去重后再进行字符串聚合

落杰姑娘_7746

落杰姑娘_7746

发布时间:2026-08-10 11:14:07

|

362人浏览过

|

来源于php中文网

原创

PostgreSQL 10+ 和 Oracle 12cR2+ 支持 STRING_AGG(DISTINCT ...) 和 LISTAGG(DISTINCT ...),MySQL 用 GROUP_CONCAT(DISTINCT ...),Trino/BigQuery 需数组函数中转去重,复杂去重应前置到输入层。

sql如何去重后再进行字符串聚合

直接用 STRING_AGG(DISTINCT ...),PostgreSQL 10+ 和 Oracle LISTAGG 都原生支持;MySQL 要用 GROUP_CONCAT(DISTINCT ...);Trino/BQ 则需绕过 DISTINCT 用数组函数。

PostgreSQL:优先用 STRING_AGG(DISTINCT ...),别写子查询

这是最简、最稳的写法,语法清晰,执行计划干净:
SELECT user_id, STRING_AGG(DISTINCT tag, ',' ORDER BY tag NULLS LAST) FROM user_tags GROUP BY user_id;

  • DISTINCT 必须紧贴在表达式前,写成 STRING_AGG(tag DISTINCT, ',') 是错的,会报语法错误
  • 不加 ORDER BY 时结果顺序不确定——哪怕源表有索引或 ORDER BY 子句,聚合也不保序
  • NULL 默认参与排序且排最前,业务上常要 NULLS LAST 或提前过滤:WHERE tag IS NOT NULL AND TRIM(tag) != ''
  • 空格敏感:'VIP' 和 'VIP ' 被视为不同值,建议统一 TRIM(tag)

MySQL:必须用 GROUP_CONCAT(DISTINCT ...),不能漏掉关键字

MySQL 5.7+ 和 8.0 均支持 DISTINCT 直接写在 GROUP_CONCAT 内部,无需子查询:
SELECT department_id, GROUP_CONCAT(DISTINCT employee_name ORDER BY employee_name SEPARATOR ';') FROM employees GROUP BY department_id;

  • DISTINCT 是可选关键字,但一旦需要去重就必须显式写出,漏掉就全量拼接
  • 分隔符默认是逗号,用 SEPARATOR 指定更安全,避免依赖隐式行为
  • 结果长度受 group_concat_max_len 限制(默认 1024),超长会被截断且无提示,查不到数据时先检查这个变量
  • 大小写默认敏感,'Apple' 和 'apple' 不去重,必要时套 LOWER(employee_name)

Oracle / Trino / BigQuery:DISTINCT 不可用,得走数组中转

Oracle 的 LISTAGG 支持 DISTINCT(12cR2+),但 Trino 和 BigQuery 的 STRING_AGG 不支持,必须用数组函数组合:

Trino:
SELECT group_id, ARRAY_JOIN(ARRAY_DISTINCT(ARRAY_AGG(name)), ',') FROM t GROUP BY group_id;

BigQuery:
SELECT group_id, ARRAY_TO_STRING(ARRAY(SELECT DISTINCT x FROM UNNEST(arr) AS x), ',')
FROM (SELECT group_id, ARRAY_AGG(name) AS arr FROM t GROUP BY group_id);

  • Trino 中 ARRAY_DISTINCT 会丢弃 NULL,若需保留,得先 FILTER 或改用 ARRAY_AGG(DISTINCT ...) + ARRAY_JOIN
  • BigQuery 的 UNNEST 展开后去重,中间结果可能翻倍,大数据量时注意 shuffle 压力
  • 所有数组方案都要求字段类型一致,INT 和 STRING 混合会报错,提前 CAST

去重逻辑复杂时,别硬套 DISTINCT,先清洗再聚合

当“去重”不是简单字段唯一,而是基于多列组合、优先级或业务规则(比如只留 source = 'system' 的 tag),DISTINCT 就失效了。

正确做法是把去重逻辑上推到输入层:
WITH deduped AS (
  SELECT user_id, tag,
    ROW_NUMBER() OVER (PARTITION BY user_id, tag ORDER BY CASE source WHEN 'system' THEN 1 ELSE 2 END) AS rn
  FROM user_tags
)
SELECT user_id, STRING_AGG(tag, ',') FROM deduped WHERE rn = 1 GROUP BY user_id;

  • 用 ROW_NUMBER() 或 DISTINCT ON(PG)做预过滤,比在聚合里套多层 UNNEST + ARRAY + DISTINCT 快得多,也易读
  • 如果去重要跨表关联(如用户主表 + 标签表 + 权限表),先 JOIN 再 DISTINCT ON,别在聚合函数里 JOIN
  • STRING_AGG 或 GROUP_CONCAT 的输出是字符串,后续无法再取第 2 个元素或算长度;真需要结构化结果,就用 ARRAY_AGG 返回数组,别急着转字符串

热门AI工具

更多
切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

3823

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

811

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

989

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

5641

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2603

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

5620

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

7381

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1010

2024.04.29

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

120

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn