学习硬间隔支持向量机,一般采用著名的SMO迭代算法。论文研究发现:支持向量机是由支持向量所决定的,同时支持向量机的分离超平面与在支持向量上采用最小二乘法拟合出的分离超平面是相同的。因此本文的主要创新点是把支持向量机的训练转化为最小二乘法的迭代求解。本文所提算法的关键是要获取样本训练集的支持向量,但是获取训练集的真正支持向量是比较困难的。在论文提出的算法中每次迭代会先寻找嫌疑的支持向量。考虑到支持向量是到分离超平面距离最近的向量,所以在第1次迭代求解分离超平面的过程中,计算初始训练集对应的所有正类实例到初始分离超平面的距离,从而得到本次迭代的正类样本距离集,该集合中的元素是按由小到大排列。同理可得负类样本距离集。通常按不同的比例,分别在正类和负类样本距离集中选取各自集合中排在前面的距离。将选取的这些距离对应的实例作为嫌疑支持向量,同时对应的样本点作为新的训练集。在这个新的训练数据集上,再次使用最小二乘法求解分离超平面。不断地重复这个过程,每次迭代均使得样本训练数据集的容量缩小。当相邻两次迭代的超平面参数的误差平方和达到预先设定的精度时,即可获得支持向量机的分离超平面和相应的支持向量。为了验证论文提出的算法的正确性和有效性,论文最后分别选取了2维训练数据集和9维训练数据集。在这两组不同维度的数据集上,分别都调用求解凸二次规划的软件包和采取硬间隔支持向量机的最小二乘迭代算法来得到超平面参数。结果表明,两种方法求得的超平面参数的误差平方和,在2维数据集上,其数量级是-30;在9维数据集上,其数量级是-28。这说明了学习硬间隔SVM时,将其对应的优化问题调整后,可以运用最小二乘法来迭代求解。