论文部分内容阅读
本文通过对原有并行变量分配(PVD)算法和梯度投影法的分析归纳,提出了基于PVD算法的支持向量机修改算法以及对原有支持向量机分解算法中子问题求解方法的改进算法的两种算法。论文安排如下: 第一章介绍了支持向量机算法的发展,研究现状,和本论文的主要工作。 第二章介绍了现有PVD算法和梯度投影法算法。简述了无约束优化问题和有约束优化PVD算法的基本框架和它们的收敛性以及求解支持向量机的几种投影梯度法在BB步长和线搜索两方面的不同改进。 第三章提出了一种改进的带约束的PVD算法。在原有约束PVD算法的基础上,借鉴第二章梯度投影法中BB步长的选取策略、自适应非单调线搜索技术这两方面的改进,给出带约束的修改的PVD算法,算法的迭代步中利用改进的步长选取策略和线搜索技术,而且改进后的算法可以用来求解SVM问题。 第四章研究的是支持向量机问题。当问题为大规模问题时,二次形式中矩阵的存储和计算是非常困难的,本文借助分解技术,把原问题分解成维数较低的二次规划子问题,再利用并行方法计算求解。而本章的主要工作是关于子问题的求解,本文采用转化思想:针对子问题的约束只含有一个等式约束和界约束,本文利用增广拉格朗日函数将子问题转化成只含有界约束的优化问题,然后利用并行的有限记忆BFGS方法求解该问题,理论上可以节省存储空间和提高求解效率。 第五章是对原有问题的总结与进一步的展望。