news 2026/8/11 23:13:48

Mysql大数据深分页速度慢优化

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Mysql大数据深分页速度慢优化

Mysql: 8.0.29

数据量:628W条

主键字段:id

一、Mysql分页原理

示例语句: SELECT * FROM test_logistics_contract_info LIMIT 5000000,10;

PS1:理论上生产环境不禁止SELECT * ,哪怕会用到所有的字段,这里只是示例语句。

执行原理 :

先执行 SELECT * FROM test_logistics_contract_info LIMIT 5000010;放入Mysql内存中

再取最后的10条返回

效率:

分页越深,效率越低,如果取全表的最后10条,相当于全表扫描。

二、俩种SQL语句级别优化和效率对比

原版语句: 执行时间 7.338秒

优化语句一: 查询时间 0.143秒 比原版的零头还低

SELECT a.* FROM test_logistics_contract_info a INNER JOIN (SELECT id FROM test_logistics_contract_info LIMIT 500000,10) as b
on a.id = b.id

原理:利用 InnoDB 的回表机制,先拿所需要数据的主键,再用主键拿数据。

优化二:查询时间 0.0秒(纳秒级别了) 比原版的零头的零头还低

SELECT * FROM test_logistics_contract_info WHERE id >= 5066186 LIMIT 10;

原理:先拿到上次分页的最后一条数据id,然后用id精准定位数据的位置。

缺点:禁止跳页,每次都必须拿到上一页的最后一条数据的id

PS2:Mysql自增主键具有不连续性,用页数*每页条数得到的数字作为id是不准确的(比如物理删除的数据,或者批量添加数据)

PS3:Mysql还有唯一索引不唯一的特性( ^_^!!)

三、其他优化方式

1、禁止深分页(使用多)

某东、某宝的分页都限定了100页

2、用适合大数据分页的DB 存数据 (省心)

比如es(GB~TB级别) Hbase(PB级别)

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/10 14:09:33

AI动态场景生成:重塑影视创作的技术革命

AI动态场景生成:重塑影视创作的技术革命 【免费下载链接】WanVideo_comfy 项目地址: https://ai.gitcode.com/hf_mirrors/Kijai/WanVideo_comfy 想象一下,你手持普通摄像机拍摄了一段街头漫步视频,却能在几分钟内将其转换为科幻都市的…

作者头像 李华
网站建设 2026/8/10 17:46:18

SG-PNh750-MOD-221(Profinet 转 Modbus RTU 网关)特点与功能介绍

一、核心定位与工作模式SG-PNh750-MOD-221 是工业级协议转换网关,核心功能是实现 Modbus RTU 设备与 Profinet 网络的互联互通。设备在 Profinet 侧作为 IO 从站,对接西门子 S7-1200/1500 等 PLC;在 Modbus 侧支持主站或从站模式,…

作者头像 李华
网站建设 2026/8/11 22:36:54

手把手教你用VSCode远程调试量子程序,10分钟快速上手

第一章:手把手教你用VSCode远程调试量子程序,10分钟快速上手 在现代量子计算开发中,使用本地环境直接运行和调试量子程序存在资源限制。结合 VSCode 的远程开发能力与主流量子计算框架(如 Qiskit),开发者可…

作者头像 李华
网站建设 2026/8/10 17:46:18

PC小说阅读器终极免费版:打造个性化数字阅读体验

PC小说阅读器终极免费版:打造个性化数字阅读体验 【免费下载链接】Reader-v2.0.0.4-x64PC端小说阅读器工具下载 Reader是一款专为小说爱好者设计的绿色、开源、免费的阅读神器,致力于提供极致的阅读体验。本版本为v2.0.0.4,发布时间为2023年9…

作者头像 李华