讲师中心 微信公众号
AI工具推荐 视频效率加速

如何优化MySQL百万级数据分页查询

酷辰吖_7112

酷辰吖_7112

发布时间:2026-09-10 08:33:29

|

229人浏览过

|

来源于php中文网

原创

LIMIT offset,size在百万数据下越来越慢,因为MySQL必须扫描并排序offset+size行后丢弃前offset行,如LIMIT 1000000,20实际读取1000020行,99.99%被浪费,IO和CPU开销剧增;OFFSET无法利用索引随机定位,本质是顺序跳过,且SELECT *加剧回表、传输与内存开销。

如何优化mysql百万级数据分页查询

为什么LIMIT offset, size在百万数据下会越来越慢

因为MySQL必须先扫描并排序offset + size行,再丢弃前offset行。比如LIMIT 1000000, 20,实际要读1000020行,其中99.99%被丢弃。IO和CPU都浪费在无效数据上。

常见错误现象包括:第1页毫秒级,第500页卡顿数秒,EXPLAIN显示type = ALL或Extra = Using filesort;更糟的是,当ORDER BY字段没索引,还会触发磁盘排序。

  • 偏移量越大,扫描行数线性增长,不是常数时间
  • SELECT * 加剧问题:加载不需要的字段 → 网络传输+内存拷贝+回表IO三重开销
  • OFFSET跳过操作无法利用索引定位,本质是顺序跳过,不是随机访问

延迟关联(Covering Index + JOIN)怎么写才有效

核心是让子查询只走索引(不回表),主查询再按ID批量回表。这要求子查询结果集必须只含索引列(最好是主键),且排序字段必须包含在覆盖索引中。

错误写法:SELECT * FROM orders ORDER BY create_time DESC LIMIT 1000000, 20 —— 全表扫描+文件排序。

正确写法:

MySQL
MySQL

编写正确的MySQL查询,避免字符集、索引和锁方面的常见陷阱。

下载
ALTER TABLE orders ADD INDEX idx_create_time_id (create_time, id);
SELECT o.* FROM orders o
INNER JOIN (
  SELECT id FROM orders ORDER BY create_time DESC, id DESC LIMIT 1000000, 20
) AS tmp ON o.id = tmp.id;
  • 索引必须包含ORDER BY字段+主键(如create_time, id),否则子查询无法避免filesort
  • 子查询SELECT id必须严格匹配索引最左前缀,不能多选其他字段
  • JOIN后主查询走主键PRIMARY,是聚簇索引查找,快于全表扫描
  • 如果业务允许升序分页,用create_time ASC, id ASC索引效果更稳(InnoDB对ASC索引优化更好)

游标分页(Cursor-based Pagination)适用哪些场景

它不依赖OFFSET,而是用上一页最后一条记录的排序字段值作为下一页起点,时间复杂度恒定O(size),与页码无关。

典型错误是直接用WHERE id > ?但没加ORDER BY,导致结果不可控或漏数据。

正确用法(以id DESC为例):

-- 第1页
SELECT * FROM orders ORDER BY id DESC LIMIT 20;
-- 假设返回的最小id是 987654321
-- 第2页(关键:WHERE + 同向ORDER BY)
SELECT * FROM orders WHERE id < 987654321 ORDER BY id DESC LIMIT 20;
  • 必须保证WHERE条件和ORDER BY方向一致(都DESC或都ASC),否则索引失效
  • 排序字段必须有唯一性保障(如主键),否则相同值会导致跳页或重复
  • 不支持跳转到任意页(比如“跳到第1000页”),只适合无限滚动、下拉加载等连续翻页场景
  • 前端需缓存上一页末尾的游标值(如last_id),不能靠页码计算

容易被忽略的细节和边界情况

很多优化方案在测试环境跑得飞快,上线后却出问题,往往栽在这几个点上:

  • ORDER BY字段有NULL值:MySQL默认把NULL排在最前(ASC)或最后(DESC),若业务未处理,游标分页可能漏掉NULL行
  • 复合索引顺序错位:比如WHERE status = 1 AND create_time BETWEEN ... + ORDER BY create_time,索引应为(status, create_time),而非(create_time, status)
  • 数据更新导致游标失效:分页过程中,新插入记录可能挤入当前游标范围,造成“幻读”或重复;解决方案是加时间戳辅助(如WHERE (create_time, id) )
  • 字符集或collation影响排序:不同collation下ORDER BY name结果可能不一致,导致游标错位,尤其在多语言数据中

热门AI工具

更多
Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

4083

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

871

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

1069

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

5961

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2863

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

5940

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

7921

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

1070

2024.04.29

FrankenPHP集成Laravel详细教程
FrankenPHP集成Laravel详细教程

本专题提供FrankenPHP集成Laravel的详细配置指南,全面解析运行原理、开发环境搭建、Caddyfile配置、Octane工作模式、数据库连接、队列任务、定时任务和生产环境优化,解决部署过程中常见的报错与兼容性问题。

0

2026.10.08

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL vs MySQL
PostgreSQL vs MySQL

共1课时 | 181人学习

使用phpenv集成环境安装极致CMS
使用phpenv集成环境安装极致CMS

共2课时 | 289人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn