论文部分内容阅读
论文对最小二乘支持向量机(Least Squares Support Vector Machines, LSSVM)的有关算法及LSSVM在系统在线建模与控制中的若干应用方法展开研究。主要研究内容包括:在分析现有基于分块矩阵求逆公式的LSSVM增量式和减量式学习算法的基础上,为这些算法设计了一些加速实现策略,得到LSSVM快速在线式学习算法。基于这种快速LSSVM的多输入多输出(Multiple-Input Multiple-Output, MIMO)系统在线建模仿真显示这些加速策略能明显提高原有在线算法执行速度;加速策略需要的空间为少数几个缓存数组。为了减少LSSVM基本剪枝算法的计算量,提出了一种快速剪枝算法。在分析剪枝前后两个LSSVM对应线性方程组系数矩阵之间关系的基础上,利用对调单位矩阵两行(或列)所得的初等方阵的逆等于其自身的性质和分块矩阵求逆公式,导出这两个系数矩阵的子阵的逆之间的递推关系,避免剪枝过程中多次进行高阶矩阵求逆,从而减少计算量。在不考虑递推计算误差时,该算法理论上得出与基本剪枝算法相同结果的稀疏LSSVM。仿真实验表明该算法比基本剪枝算法速度快,而且初始训练样本越多,加速比越大。为了减少带时间窗型在线LSSVM的计算量和存储空间,提出了一种带时间窗型在线稀疏LSSVM。它利用滑动时间窗中部分时刻的样本作为训练样本集。新时刻的样本总是加入训练样本集;每次删除样本时,若滑动时间窗最前端时刻的样本在训练样本集中,则删除它,否则从训练样本集中选择留一法预测误差最小的样本删除。与现有的在线LSSVM相比,该在线稀疏LSSVM能用较少的样本学习系统较多的特性,能提高时空效率;系统建模仿真实验表明,本文在线稀疏LSSVM能节省时间和空间,具有较高的预测精度。针对无偏置最小二乘支持向量机(non-bias LSSVM, NB-LSSVM),给出了删除贡献最小(或任意)样本的计算过程,并设计了稀疏在线无偏置最小二乘支持向量机(sparse online non-bias LSSVM, SONB-LSSVM).该样本删除技巧能提高学习样本集的多样性和代表性;与在线无偏置最小二乘支持向量机(online non-bias LSSVM, ONB-LSSVM)相比,SONB-LSSVM能学习系统更长时间范围内的特性;用于动态系统在线建模时,其泛化能力受输入信号频率影响较小。针对直接利用LSSVM对动态过程在线建模时预测精度易受过程输出测量值上的粗大误差和噪声影响的问题,在分析样本序列结构特征和噪声作用特征基础上,提出一种基于NB-LSSVM的稳健在线过程建模方法。该方法在每一预测周期中根据预测误差与设定阈值之间的关系来识别和剔除异常测量值、识别和修正含噪声测量值,从而降低样本中的噪声,使得出的LSSVM较好地跟踪过程的动态特性。这种在线过程建模方法具有稳健性,能减少输出值上粗大误差和高斯白噪声对LSSVM预测精度的影响,提高预测精度。数字仿真显示了本文方法的有效性和优越性。利用LSSVM在线辨识时变非线性过程时,设定其核参数较困难,设定的核参数不能适应过程变化而进行自动调节;针对此问题,提出了一种基于核参数分时段调节型LSSVM的在线过程辨识方法。该方法利用三个LSSVM,并将整个建模预测时期分为启动阶段和若干个工作周期,初始阶段末和每个工作周期末选定预测误差累加值最小的LSSVM作为后续工作周期的工作LSSVM,同时根据启发式规则为另两个LSSVM重新设定核参数值,它们作为后续工作周期的比较LSSVM.该方法设定核参数相对容易,而且核参数具有一定的自动调节能力。数字仿真显示,从统计角度而言,本文方法比传统方法有更好的适应性。对于非线性系统预测控制问题,提出了一种基于SONB-LSSVM的有约束单步预测控制算法。该预测控制利用SONB-LSSVM在线建模预测系统输出,滚动优化环节采用粒子群优化(Particle Swarm Optimization,PSO)或Brent优化搜索非线性系统的控制量。由于SONB-LSSVM能及时学习过程新动态特性,该预测控制方法具有良好的自适应能力。在控制启动阶段利用比例-积分-微分(proportional-integral-derivative,PID)控制,同时采集过程输入输出数据构成样本逐步生成初始的NB-LSSVM,该控制方法使用方便。液位控制、连续搅拌反应釜浓度控制和水浴温度控制等仿真表明该预测控制方法是有效的。探讨了SONB-LSSVM和ONB-LSSVM在非线性逆控制中的应用。提出基于SONB-LSSVM的自适应直接逆控制方法,该方法利用SONB-LSSVM对被控对象在线逆建模并计算控制量,该控制方法适合控制定常或参数(或特性)轻微变化的可逆对象。对于运行中参数(或特性)在较大范围中变化的可逆对象,提出一种ONB-LSSVM逆模型与PID相结合的自适应复合控制,在每个控制周期,控制信号由逆控制量与PID控制量合成,合成比例自动调节。逆控制在高频段发挥较大作用,PID控制在低频段发挥较大作用。因此,该复合控制方法有较宽的频率适应范围,并且对时变系统有较好控制效果。两种控制方法中初始NB-LSSVM在线生成,因此这两种控制方法使用方便。数字仿真表明了这两种控制方法的可行性和有效性。