【摘 要】
：
提出了一种新的分类方法：S-学习。该方法采用最小二乘损失函数阶段式地逼近一个有界且单调非增的非凸损失函数。与其他分类方法相比，该方法在理论和经验上具有以下优点：1)相比SVM，Logistic回归，Adaboost，岭回归等采用凸损失函数的分类器，该方法具有更好的泛化性能和对outlier的鲁棒性;2)相比v-Leaming等采用非凸损失函数的分类器，该方法在计算代价和分析性能方面有非常明显的优势
【机 构】
：
中国科学院自动化所模式识别国家重点实验室，北京 100080
论文部分内容阅读
提出了一种新的分类方法：S-学习。该方法采用最小二乘损失函数阶段式地逼近一个有界且单调非增的非凸损失函数。与其他分类方法相比，该方法在理论和经验上具有以下优点：
1)相比SVM，Logistic回归，Adaboost，岭回归等采用凸损失函数的分类器，该方法具有更好的泛化性能和对outlier的鲁棒性;
2)相比v-Leaming等采用非凸损失函数的分类器，该方法在计算代价和分析性能方面有非常明显的优势;
3)该方法每一步均有解析解，计算复杂度和岭回归相当，然而泛化性能远优于岭回归，更重要的是它在核空间内是自然稀疏的(稀疏度和SVM相当)因而具有更好的拓展性(scalability);
4)该方法在不增加分类器复杂度的条件下可以稳定地增加margin，表现出极好的渐近一致性。
其他文献
微纳米驱动精度和运动学特性对微纳米操作及加工装配等操作控制具有重要意义。本文针对微纳米驱动系统的运动状态检测问题，研究了基于序列图像的环境位移视觉检测方法。通过分析标准光栅的显微图像序列特点，提出了一种基于图像灰度分布特征的投影匹配方法。该方法对色彩纹理单一的微观图像序列进行处理，实现了微纳米操作系统平台的微位移检测，并给出了实验研究和算法效率分析。从实验结果可以看出，投影匹配法检测均方差为0.1
重度污染笔迹图像的斑点噪声区域与字符笔画区域存在形态差异; 斑点噪声主要是在纸张空白处随机分布的较模糊的散点;而字符笔画主要呈长条状，且灰度与纸张反差较大。本文提取笔迹图像的惯性矩特征来描述斑点噪声区域与字符笔画区域的形态差异，并用来进行笔迹图像分割。用这种方法对重度污染笔迹图像进行去噪和字符提取，效果良好。
步态识别主要通过人体走路姿势来识别人的身份。首先，应用背景减除法分隔出人体轮廓，通过人体宽高比的相关信号确定运动周期。然后，在对二值周期序列进行Radon变换，构造特征向量模板。对所得到的特征向量主成分分析，映射到低维特征空间。最后，采用最近邻分类器分类。实验结果表明，该方法可以有效降低前期处理对分类识别的影响，而且在CASIA三种不同行走状态数据库中取得很好的识别率。
针对现有图像型火灾探测技术存在的问题，本文提出一种集动态图像理解、火灾多特征综合判断等技术于一体的基于全方位视觉的火灾探测方法。采用全方位视觉传感器实现大面积现场的实时全景视频监控;通过背景消除，使用颜色、闪烁、形体变化等特征识别视频中的火焰;分析火焰的面积变化和整体移动综合判断火灾发生。该方法实时性能好、能够有效降低误报率、对火灾点定位准确，使计算机具备智能视觉火灾监控的能力，甚至到达自动灭火。
针对移动机器人在未知环境中的导航要求，提出一种基于视觉显著特征构造自然路标，以此局部特征代替整幅图像特征的场景识别方法。为根据显著位置形成合适的路标区域，提出了基于分形的尺度选择方法。设计了包括梯度方向、二阶不变矩、归一化色调的自然路标表示方案。室内室外环境的场景识别实验表明，该方法能够较好地容忍尺度、视角等变化引起的差异，能够保证静态场景的准确识别。
SIFT算法是一种稳定的基于尺度空间的局部特征点提取和匹配算法。该算法在很大强度的噪声影响和亮度、视角、旋转的变化下，能表现出很强的鲁棒性。但由于SIFT特征点描述子是一个高维向量，其匹配过程是一个遍历搜索的过程，这就使得匹配效率很低。本文针对这一不足，提出了一种应用在立体视觉中的基于光流计算的特征点匹配的快速算法。大量的实验证明了此算法的有效性。
在基于内容的图像检索系统中，相关反馈技术的引入在一定程度上缩小了图像的视觉底层特征与图像的高层语义之间的鸿沟。本文提出一种综合利用反馈信息，融合多种策略的相关反馈算法：根据核密度估计理论并引入均值漂移优化技术实现查询向量的更新;为实时地把握图像的语义信息以及用户的查询意图，在更新特征各维之间权重分配的同时，还对各个特征之间的权重进行动态更新;最后，为削弱那些在底层特征上相似但在高层语义上不相关的非
提出了基于最小体积覆盖椭球的容差SVM分类器设计新方法。对于二类支持向量机容差分类器设计，这种方法首先通过优化方法分别获得欧氏空间以及再造核空间下的最小体积覆盖椭球并获得椭球形状矩阵。其次，定义了Mahalanobis变换，推广定义Mahalanobis间隔。再次，通过Mahalanobis变换将原始数据转换为球形分布。最后，引入最大化Mahalanobis间隔至标准支持向量机模型，从而得到容差S
本文提出了一种基于奇异向量空间的树分类器(ST)算法，通过将数据从原属性空间变换到正交的奇异向量空间，在新空间内间接构建原空间的近似最优斜决策树，从而改善树分类器的泛化性能。ST算法无需参数调节，分类结果不受样本随机重排的影响，时间复杂度与单变量决策树算法相同。实验结果显示，ST算法比其他斜决策树算法分类准确率更高，构建的决策树大小更稳定，且决策树构建时间与传统单变量决策树算法相近。
本文提出了用于图模型精确推理的层次消息传递(HierarchicalMessage Passing，HMP)算法以及包含树(Containing Tree)算法，以解决传统连接树算法在存在约束包含和约束消除情况下无法充分利用图模型中的结构信息的问题。HMP算法采用递归结构，逐级挖掘图模型具有的条件独立性以减小推理计算量：包含树算法利用势函数定义域之间的包含关系，有效的降低推理所需的乘法次数。理论分