统计研究 ›› 2020, Vol. 37 ›› Issue (3): 114-128.doi: 10.19343/j.cnki.11-1302/c.2020.03.009

• • 上一篇    

大规模数据下基于充分降维的Leverage重要性抽样方法

秦磊 王奕丹 苏治   

  • 出版日期:2020-03-25 发布日期:2020-03-24

Leverage Importance Sampling Based on Sufficient Dimension Reduction for Large-scale Data

Qin Lei Wang Yidan Su Zhi   

  • Online:2020-03-25 Published:2020-03-24

摘要: 随着信息技术的飞速发展,大规模数据在短时间内搜集并储存下来,为分析决策提供了巨大的信息量,也给统计建模带来了一定难度。对于样本容量大、变量个数少的数据,Leverage重要性抽样是一个简便可行的方法。本文发现,该方法中度量样本重要性的Leverage分数与因变量无关,而且在维度较大的情形下对样本没有区分程度,使得估计结果较差。为了同时考虑因变量和维度的影响,本文提出了基于充分降维的Leverage重要性抽样方法。该方法以不损失信息为前提,在充分降维的空间内重新计算Leverage分数,使得抽样更具有代表性。模拟数据分析显示,在样本容量较大的复杂数据中,相比于原始的Leverage重要性抽样方法,本文提出的方法可以降低估计的均方误差。三个实际数据也证实了该方法的可行性和有效性。

关键词: 大规模数据, Leverage分数, 重要性抽样, 充分降维

Abstract: 随着信息技术的飞速发展,大规模数据在短时间内搜集并储存下来,为分析决策提供了巨大的信息量,也给统计建模带来了一定难度。对于样本容量大、变量个数少的数据,Leverage重要性抽样是一个简便可行的方法。本文发现,该方法中度量样本重要性的Leverage分数与因变量无关,而且在维度较大的情形下对样本没有区分程度,使得估计结果较差。为了同时考虑因变量和维度的影响,本文提出了基于充分降维的Leverage重要性抽样方法。该方法以不损失信息为前提,在充分降维的空间内重新计算Leverage分数,使得抽样更具有代表性。模拟数据分析显示,在样本容量较大的复杂数据中,相比于原始的Leverage重要性抽样方法,本文提出的方法可以降低估计的均方误差。三个实际数据也证实了该方法的可行性和有效性。

Key words: Large-scale Data, Leverage Score, Importance Sampling, Sufficient Dimension Reduction