MySQL分页时出现的数据重复问题

admin · 发表于 2023-7-12 08:56:12

在MySQL中我们通常会采用limit来进行翻页查询，比如limit(0,10)表示列出第一页的10条数据，limit(10,10)表示列出第二页。但是，当limit遇到order by的时候，可能会出现翻到第二页的时候，竟然又出现了第一页的记录。
例如下面这条SQL：


复制代码
SELECT * FROM products WHERE status=1 ORDER BY sort_weight DESC LIMIT 0,10;

使用该SQL查询第二页数据时，可能会出现第一页的数据。但是我将SQL改成下面这种方式：


复制代码
SELECT * FROM products WHERE status=1 ORDER BY sort_weight DESC,id ASC LIMIT 0,10;

在排序后面加上id升序，此时第二页就不会出现第一页的数据。
按理来说，MySQL的排序默认情况下是以主键ID作为排序条件的，也就是说，如果在sort_weight相等的情况下，主键ID作为默认的排序条件，不需要我们多此一举加id ASC。但是事实就是，MySQL再order by和limit混用的时候，出现了排序的混乱情况。
分析问题：
在MySQL 5.6的版本上，优化器在遇到order by limit语句的时候，做了一个优化，使用了优先队列（priority queue）。
使用优先队列的目的，就是在不能使用索引有序性的时候，如果要排序，并且使用了limit n，那么只需要在排序的过程中，保留n条记录即可，这样虽然不能解决所有记录都需要排序的开销，但是只需要 sort buffer 少量的内存就可以完成排序。
之所以MySQL5.6出现了第二页数据重复的问题，是因为优先队列使用了堆排序的排序方法，而堆排序是一个不稳定的排序方法，也就是相同的值可能排序出来的结果和读出来的数据顺序不一致
在上面的SQL示例中，其执行顺序依次为 form… where… select… order by… limit…，由于优先队列的原因，在完成select之后，所有记录是以堆排序的方法排列的，在进行order by时，仅把sort_weight值大的往前移动。
但由于limit的因素，排序过程中只需要保留到10条记录即可，sort_weight并不具备索引有序性，所以当第二页数据要展示时，mysql见到哪一条就拿哪一条，因此，当排序值相同的时候，第一次排序是随意排的，第二次再执行该sql的时候，其结果应该和第一次结果一样。
解决方法：
我们可以增加有序性的排序字段，例如：主键id


复制代码
SELECT * FROM products WHERE status=1 ORDER BY sort_weight DESC,id desc LIMIT 10,10;

这样一来MySQL在select之后获取的每一条数据都具有顺序性，这样就不会出现重复问题了。

[其它] MySQL分页时出现的数据重复问题

相关帖子

优秀达人

突出贡献

荣誉管理

论坛元老

	搜索
热搜: 源代码源码视频教学儿童孕妈旅游软件优惠教程