针板先验的研究与应用

来源 :复旦大学 | 被引量 : 0次 | 上传用户:sunvoo
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针板先验(Spike and Slab Prior)是一种用于鼓励连续变量稀疏性的先验概率。和常见的l1模正则化方法通过最小化零点不可导的代价函数以得到稀疏解的做法不同,针板先验使用一种特殊的二分量的高斯混合模型,对变量的零或非零属性进行直接建模。配合概率建模中常用的近似推断方法,针板先验不仅仅可以用来鼓励变量的稀疏性,亦可以对变量之间涉及到零或非零属性的复杂关系进行建模。本文将对针板先验进行研究,并探索它的三个应用:首先,本文将针板先验用于稀疏逆协方差矩阵估计。和l1模正则化方法相比,提出的使用针板先验的模型可以得到更为稀疏,并且预测性能更高的逆协方差矩阵。通过赋予针板先验的参数以超先验并利用贝叶斯近似推断技术,可以避免交叉验证,从而极大的降低了模型选择的难度。其次,本文将针板先验用于在协同过滤系统里选择动态用户,即需要使用多变量对其兴趣变化进行建模的用户。和l21模正则化方法相比,使用针板先验的模型不仅仅可以对用户的动态/静态属性进行判断,同时还提供了对判断的肯定程度的估计。提出的动态/静态混合模型不仅可以用来对用户的兴趣变化进行分析,同时在以RMSE为指标的评分预测任务中也获得了很好的性能。再次,本文将针板先验用户子空间聚类。在提出的层次化模型里,针板先验作为连接样本类标号和重建矩阵之间的桥梁,被用于限制不在同一子空间内的两个样本所对应的重建系数的大小。这样的限制在一定程度上减轻了样本重建模型对子空间独立假设的依赖。在人工合成的数据集和真实数据集上,和主流的基于样本重建的方法相比,提出的模型表现出优异的性能。在提出的三个应用里,针板先验的不可替代性越来越高:对于逆协方差矩阵估计问题,尚可使用l1模正则化的方法得到稀疏的逆协方差矩阵的估计;对于在协同过滤系统里选择动态用户的问题,亦可使用l21模正则化的方法,但是这样做无法得到对动态用户判断的肯定程度的估计;在子空间聚类问题里,针板先验作为连接样本类标号和重建矩阵的桥梁,其作用已经难以被其他鼓励稀疏的方法所取代。
其他文献
<正>6月1日,"畅行中国·改革开放40年全媒体新闻行动——‘四十年四十事’全国百城百台大型高端访谈"新闻发布会在北京新闻大厦举行。中广联合会会长张海涛、中广联合会副会
<正> 引言机电部的“青岛会议”要求“认清形势,加快步伐,积极开展电子行业工艺突破口工作”。要求厂长亲自组织抓好建立健全工艺管理体系,依靠职能部门去落实这项任务……。
分析了加油站计算机计量管理系统的功能及其组成结构,提出用Delplli语言设计系统的应用软件,实现可用于加油站计算机计量管理系统的通用软件平台,包括各种功能模块.对油罐液位、
<正>不吃主食的饮食方式,从上世纪六七十年代以来,更换包装之后已经数度流行,但每次都从火爆转为式微,这次我相信也不会例外。因为,世界上没有那么完美的饮食健康解决方案。
期刊
阐述了在建立盆架类零件冲模CAD/CAM系统时,将成组技术应用于冲压工艺计算机辅助设计中的重要性与方法。提出了用于描述盆架类零件形状与工艺特征的代码结构,以及在成组技术
现行的《基础会计》课程体系已凸显弊端。如何建立科学合理的课程体系已成为摆在会计教育工作者面前的一个十分紧迫的课题。文章就这一问题提出了一些新的设想,并进行了阐述和
研究了在异种金属热膨胀差引起的内压力作用下,钛管与低碳钢管扩散复合界面的成分、组织、结合强度及钢管表面脱碳层的影响.结果表明:通过内压扩散复合法可以使钛管与钢管之间实
2015年7月2日上午,国家粮食局举办了第14次粮食科技讲座,邀请中国工程院院士、北京工商大学校长孙宝国和中国营养学会理事长杨月欣分别做了“食品添加剂与食品安全之管见”和
本文在首先介绍了现行手工编制电视机装配卡片的不足后,提出了电视机工艺CAPP化的必要性,并对几种CAPP系统的方案进行了比较,然后,作者详细介绍了一个CAPP系统设计过程和结构
利用微分不等式理论研究了二阶Volterra型积分微分方程非线性边值问题的解的存在性和唯一性.以上下解为基础,建立了解的唯一性定理,在适当条件下,构造具体的上下解,得到了解