讲师中心 微信公众号
AI工具推荐 视频效率加速

SQL如何处理大规模数据查询?合理使用分页与索引

轻浩酱_8997

轻浩酱_8997

发布时间:2026-04-13 14:55:04

|

315人浏览过

|

来源于php中文网

原创

MySQL深分页慢因OFFSET导致全扫描前N行,优化需弃用页码、改用游标分页(如WHERE id > last_id),配合覆盖索引与合理复合索引设计。

sql如何处理大规模数据查询?合理使用分页与索引

直接用 LIMIT offset, size 查千万级数据的第 1000 页,基本等于让数据库干完活再扔掉 99.8% 的结果——不是慢,是根本没走对路。

为什么 OFFSET 越大,查询越慢

MySQL 执行 LIMIT 1000000, 20 时,并不会“跳到第 1000001 行开始读”,而是:先按 ORDER BY 排序,再从头扫描 1000020 行,最后丢弃前 1000000 行。即使 id 有索引,EXPLAIN 显示 rows 仍为百万级,Extra 常为 Using filesort 或空(说明没跳过扫描)。

  • 排序字段没索引?查询直接退化成全表扫描
  • 索引存在但顺序不匹配?比如 ORDER BY created_at DESC, id DESC,而索引是 (created_at, id)(ASC 默认),就无法有效利用
  • WHERE 条件 + ORDER BY 字段混用时,复合索引必须把过滤字段放最左,排序字段紧随其后,否则索引失效

游标分页(Cursor-based Pagination)怎么写

核心是放弃“第 N 页”思维,改用“从某条记录之后取下一批”。它依赖一个**唯一、有序、非空**的字段(首选主键 id,或 created_at + id 组合)。

  • 升序分页(如 ORDER BY id ASC):下一页查 WHERE id > ? LIMIT 20
  • 降序分页(如 ORDER BY id DESC):下一页查 WHERE id
  • 时间字段可能重复?必须补唯一字段,例如 ORDER BY created_at DESC, id DESC,游标传两个值:created_at = '2024-05-01 10:23:45' 和 id = 987654,下一页条件为 WHERE (created_at, id)
  • 前端必须保存并透传游标值;首次请求可不带 WHERE,或用 WHERE id > 0 启动

索引设计不只为了 WHERE

深分页场景下,索引目标不是“快速过滤”,而是“让数据库能用索引完成排序 + 范围定位”,即覆盖整个查询路径。

  • 单字段排序(如 ORDER BY id DESC):索引建在 (id) 即可,方向需与查询一致(DESC 索引要显式声明 INDEX idx_id_desc (id DESC),MySQL 8.0+ 支持)
  • 带 WHERE 条件(如 WHERE status = 'paid' ORDER BY created_at DESC):建复合索引 (status, created_at),注意 status 区间越窄(如枚举值少),索引效率越高
  • 避免回表:如果只查 id 和 created_at,索引可建为 (status, created_at, id),成为覆盖索引,EXPLAIN 中 Extra 会显示 Using index
  • 别迷信 COUNT(*):InnoDB 下它要遍历索引树,千万级表可能秒级延迟,且结果只是快照;改用 LIMIT 21 判断第 21 行是否存在,决定是否显示“下一页”

真正卡住性能的往往不是 SQL 写法本身,而是把“页码”当成了接口契约——一旦前端坚持传 page=1000,后端除了硬扛或拒绝,几乎没有优雅解法。游标值看起来多传了一个参数,但它把状态从服务器悄悄转移到了客户端,这才是大规模数据分页能落地的关键隐含前提。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

5056

2023.06.21

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

1249

2025.12.08

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

243

2026.01.05

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

486

2026.01.05

mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

2213

2023.06.20

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

1359

2023.06.21

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

795

2023.07.18

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

3052

2023.07.19

Revel框架入门与安装配置
Revel框架入门与安装配置

本专题从Revel框架环境搭建讲起,系统介绍命令行工具安装、项目创建、目录结构、配置文件及热代码重载,帮助开发者快速完成首个Go Web应用。

0

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn