论文部分内容阅读
摘 要 根据更新几何过程的定义和性质，运用lasso类方法构建模型获取其参数估计，并通过数值模拟进行检验，验证了该方法是有效的.在具有不同更新几何过程比率的条件下，比较了lasso和自适用 lasso两种方法的估计，结果表明自适用lasso方法更适合更新几何过程的参数估计.
关键词 数理统计;参数估计;lasso类方法;更新几何过程
中图分类号 O212;O213.2文献标识码 A
Abstract According to the definition and the properties of renewal-geometric process ，the Lasso type method was used to establish a model for the parameter estimation.Some simulation experiments were performed in the test，and the results show that the proposed method is effective.This article compared the performance of Lasso and adaptive Lasso method in different rates，which shows that adaptive Lasso method is more suitable for renewal-geometric process in parametric estimations.
Key words mathematical statistics;parametric estimation;lasso-type method;renewal-geometric process
1 引 言
基于维修问题中的“修复非新”现象，Lam（1988）[1]首次提出了一類单调的随机过程模型，即几何过程模型.对于几何过程的参数估计，Lam（2007）[2]利用对数变换将几何过程的参数估计问题转化为线性回归参数估计问题，获得了几何过程的非参数估计.然而，系统多样性和环境的随机性决定了单调几何过程的局限性.为了得到更贴近实际问题的维修模型，梁小林（2015）等[3]提出了基于分阶段退化思想的更新几何过程模型，并对更新几何过程的相关性质进行研究，Niu（2016）等[4]利用更新几何过程研究了维修问题中的最优更换策略.更新几何过程的应用决定了参数估计的重要.根据更新几何过程的特点，以几何过程的非参数估计为基础，构建了分阶段线性回归的参数估计模型，并将其转化为lasso型问题，同时进行变量选择与参数估计从而得出相关参数的有效估计.
2 lasso与自适用lasso
2.1 lasso
一般最小二乘估计是通过最小化残差平方和得到的，但一般的最小二乘估计存在不足，首先是预测精度不够，最小二乘具有低偏移和高方差性，其次是它的模型可解释性不强.Tibshirani（1996）[5]打破传统模型选择思维，提出了新的的变量选择技术lasso.lasso是在一般线性最小二乘的前提下加了约束，使各系数的绝对值之和小于某一常数，由于这个约束的自然属性，使得该回归模型得出的回归系数有的可能为零，因此便于选择变量与解释模型.
6 结束语
对于更新几何过程基于lasso和自适用lasso的参数估计方法，随机模拟结果验证了此方法的可行性，进一步表明自适用lasso方法更优.虽然lasso类方法具有同时变量选择和参数估计的优良性质，但对于更新几何过程模型，还存在着需要改进的地方.如a=1的情况需要另做考虑，变量选择的准确性还有待提高，参数估计的性质需要进一步研究等.
参考文献
[1] LYEH.Geometric processes and replacement problem[J].Acta Mathematicae Applicatae Sinica，1988，4（4）：366-377.
[2] L YEH.Nonparametric inference for geometric processes[J].Communication in Statistics.-Theory and Methods，2007，21（7）：2083-2105.
[3] 梁小林，牛彩云，田学.更新几何过程及相关性质[J].应用概率统计，2015，31（4）：384-394.
[4] CY NIU，X L LIANG，B GE，X TIAN，Y W CHEN .Optimal replacement policy for a repairable system with deterioration based on a renewal-geometric process[J]. Annals of Operations Research，2016：244（1）：49-66.
[5] R TIBSHIRANI.Regression shrinkage and selection via the lasso： a retrospective[J].Journal of the Royal Statistical Society，2011，73（3）：273–282.
[6] H ZOU .The adaptive LASSO ad its oracle properties[J].Journal of the American Statistical Association，2006，101（12）：1418-1429.
[7] Z HARCHAOUI，C LEVY-LEDUC .Catching change points with Lasso[C].Advances in Neural Information Processing System，Vancouver：MIT Press，2007，22： 617-624.
[8] Z HARCHAOUI，C LEVY-LEDUC.Multiple change-point estimation with a total variation penalty[J].Journal of the American Statistical Association，2010，105（492）： 1480-1493.
[9] G CIUPERCA .Model selection by Lasso methods in a change-point model [J].Statistical Papers，2014，52（2）：349-374.
关键词 数理统计;参数估计;lasso类方法;更新几何过程
中图分类号 O212;O213.2文献标识码 A
Abstract According to the definition and the properties of renewal-geometric process ，the Lasso type method was used to establish a model for the parameter estimation.Some simulation experiments were performed in the test，and the results show that the proposed method is effective.This article compared the performance of Lasso and adaptive Lasso method in different rates，which shows that adaptive Lasso method is more suitable for renewal-geometric process in parametric estimations.
Key words mathematical statistics;parametric estimation;lasso-type method;renewal-geometric process
1 引 言
基于维修问题中的“修复非新”现象，Lam（1988）[1]首次提出了一類单调的随机过程模型，即几何过程模型.对于几何过程的参数估计，Lam（2007）[2]利用对数变换将几何过程的参数估计问题转化为线性回归参数估计问题，获得了几何过程的非参数估计.然而，系统多样性和环境的随机性决定了单调几何过程的局限性.为了得到更贴近实际问题的维修模型，梁小林（2015）等[3]提出了基于分阶段退化思想的更新几何过程模型，并对更新几何过程的相关性质进行研究，Niu（2016）等[4]利用更新几何过程研究了维修问题中的最优更换策略.更新几何过程的应用决定了参数估计的重要.根据更新几何过程的特点，以几何过程的非参数估计为基础，构建了分阶段线性回归的参数估计模型，并将其转化为lasso型问题，同时进行变量选择与参数估计从而得出相关参数的有效估计.
2 lasso与自适用lasso
2.1 lasso
一般最小二乘估计是通过最小化残差平方和得到的，但一般的最小二乘估计存在不足，首先是预测精度不够，最小二乘具有低偏移和高方差性，其次是它的模型可解释性不强.Tibshirani（1996）[5]打破传统模型选择思维，提出了新的的变量选择技术lasso.lasso是在一般线性最小二乘的前提下加了约束，使各系数的绝对值之和小于某一常数，由于这个约束的自然属性，使得该回归模型得出的回归系数有的可能为零，因此便于选择变量与解释模型.
6 结束语
对于更新几何过程基于lasso和自适用lasso的参数估计方法，随机模拟结果验证了此方法的可行性，进一步表明自适用lasso方法更优.虽然lasso类方法具有同时变量选择和参数估计的优良性质，但对于更新几何过程模型，还存在着需要改进的地方.如a=1的情况需要另做考虑，变量选择的准确性还有待提高，参数估计的性质需要进一步研究等.
参考文献
[1] LYEH.Geometric processes and replacement problem[J].Acta Mathematicae Applicatae Sinica，1988，4（4）：366-377.
[2] L YEH.Nonparametric inference for geometric processes[J].Communication in Statistics.-Theory and Methods，2007，21（7）：2083-2105.
[3] 梁小林，牛彩云，田学.更新几何过程及相关性质[J].应用概率统计，2015，31（4）：384-394.
[4] CY NIU，X L LIANG，B GE，X TIAN，Y W CHEN .Optimal replacement policy for a repairable system with deterioration based on a renewal-geometric process[J]. Annals of Operations Research，2016：244（1）：49-66.
[5] R TIBSHIRANI.Regression shrinkage and selection via the lasso： a retrospective[J].Journal of the Royal Statistical Society，2011，73（3）：273–282.
[6] H ZOU .The adaptive LASSO ad its oracle properties[J].Journal of the American Statistical Association，2006，101（12）：1418-1429.
[7] Z HARCHAOUI，C LEVY-LEDUC .Catching change points with Lasso[C].Advances in Neural Information Processing System，Vancouver：MIT Press，2007，22： 617-624.
[8] Z HARCHAOUI，C LEVY-LEDUC.Multiple change-point estimation with a total variation penalty[J].Journal of the American Statistical Association，2010，105（492）： 1480-1493.
[9] G CIUPERCA .Model selection by Lasso methods in a change-point model [J].Statistical Papers，2014，52（2）：349-374.