MySQL怎么实现查询分位值(mysql,开发技术)

时间:2024-02-22 06:48:05 作者 : 石家庄SEO 分类 : 开发技术
  • TAG :

    MySQL%E6%80%8E%E4%B9%88%E5%AE%9E%E7%8E%B0%E6%9F%A5%E8%AF%A2%E5%88%86%E4%BD%8D%E5%80%BC

分位值的概念

分位值:分位值(Quartile)是一种用于描述数据分布的统计概念,在统计学和数据分析中经常被用到。一般情况下,分位值分成四个等份,分别为第一分位数(Q1)、第二分位数(Q2)(也就是中位数)、第三分位数(Q3)以及极差(IQR)。其中,1/4的数据小于第一分位数,1/4的数据大于第三分位数,中间50%的数据处于第一分位数和第三分位数之间。 在统计学中,第一分位数是指将一组数据按照大小顺序排列后,处于整个数列中最靠前的25%位置的数;第二分位数是指一组数据按大小顺序排列后,处于中间位置的那个数;而第三分位数是指将一组数据按照大小顺序排列后,处于整个数列中最靠后的25%位置的数。中位数是第二分位数。 在数据分析中,分位值可以帮助我们了解数据分布情况以及通过分位值来判断数据是否偏向一侧或者分散程度等问题。当数据分配不均匀的时候,分位值可以更准确的表现数据的差异。

商家活动发券面额有一个分布区间[1, 20],每发一张券就都会标记对应券的面额。如何比较准确的控制券的成本,就需要实时对这些券的发放情况做一个比较准确的了解。对券的发放量、发券金额均值、以及发放金额分位值(了解不同区间发放金额均值)进行实时的监控,就可以比较清楚的了解券的发放情况。

目前,业务梳理出如下指标需要数据的同学提供,所有指标均以分钟为统计粒度:

发放量:发券总量

发券金额均值:发放总额/发放总量

发券金额0.1分位均值:每分钟发券金额按照面额大小排序,面额大的在前,面额小的在后,计算每分钟发券金额靠前占比10%的那部分券的均值[如,发券面额排序为:10,9,8,8,6,5,4,4,2,2,那么0.1分位均值就是10]

发券金额0.2分位均值:每分钟发券金额按照面额大小排序,面额大的在前,面额小的在后,计算每分钟发券金额靠前占比20%的那部分券的均值[如,发券面额排序为:10,9,8,8,6,5,4,4,2,2,那么0.2分位均值就是(10+9)/2=9.5]

发放量和发券金额均值这类指标都可以用MySQL实现,那么如何实现使用MySQL查询分位值呢?

MySQL实现排序

metric_value表示发券金额,通过以上函数即可实现按照发券金额排序,而且是每分钟的发券数据按照金额排序

MySQL实现topN

很明显,这种topN方式并不能实现按分钟排序,取前N%。那我们换个思路,因为我们要先知道总量,才能知道N%有多大,所以我们需要先计算出每分钟总量。然后再乘以N%,就知道我们需要提取N%有多少数据了。

然后,我们再把统计结果乘以N%

这样就可以通过比较cn(计算分位值所需要的数据量)和orderNum(当前券按面额大小排序所在顺序)的大小来获取得到前N%的数据,然后对这部分数据做avg处理,就能得到分位值数据。

调整计算逻辑融合到一起就可以得出分位值的SQL如下:

cn > orderNum 表示这条数据在计算分位值统计范围内。如果要计算0.1分位值,那么需要统计每分钟的前10%的发券数据。按照面额排序,分钟分组后,每条记录都会标记这条记录排在第几。每分钟发券总量再乘以10%得到cnt,这个值就是计算这一分钟0.1分钟均值的所需要数据量,当cnt<orderNum时,代表超出10%的限制,不再纳入统计0.1分位均值的范围。这样就可以实现过滤出计算分位值所需数据,然后再通过avg函数就可以实现计算均值。最终结果也就是分位值的结果了。

以上就是我在业务上遇到计算分位值指标,然后通过MySQL实现计算的实现过程。

说明 在使用MySQL实现计算分位值之前,分位值一直都是通过Java程序查询每分钟的发券数据,然后排序计算均值实现。通过程序实现最大的问题是,如果发券量比较大,那么要查询一段时间的分位值指标,这会对程序带来极大的压力。事实上,我们在实际的业务上也确实存在这个问题。每次查询2个小时的分位值数据,就会出现超百万的数据被加载到Java程序中,这对数据查询服务是极为可怕的。为了解决这个问题,我们必须通过MySQL的方式来实现分位值的查询。

由程序查询明细数据计算分位值 --> MySQL实现直接查询分位值

性能从>1min --> 15s以内;性能得到极大提升

本文:MySQL怎么实现查询分位值的详细内容,希望对您有所帮助,信息来源于网络。
上一篇:Mybatis大数据量批量写优化的方法是什么下一篇:

10 人围观 / 0 条评论 ↓快速评论↓

(必须)

(必须,保密)

阿狸1 阿狸2 阿狸3 阿狸4 阿狸5 阿狸6 阿狸7 阿狸8 阿狸9 阿狸10 阿狸11 阿狸12 阿狸13 阿狸14 阿狸15 阿狸16 阿狸17 阿狸18