世界是普遍联系的,并且以某种形式表现出来,这是本课题研究的基本哲学基础。这种普遍联系在数学家的眼里就是一种映射关系,或者说是函数关系。在信息时代里,这种映射关系蕴涵于成千上万的数据中。本文研究的软测量技术就是要寻找埋藏于数据中的各种函数关系。在当今以信息技术带动工业化发展的时代,仪器仪表和测试技术是信息科学技术的重要组成部分。现代社会,随着人们对产品质量要求的提高和人们安全意识与环保意识的提高,对各类测试仪器、检测仪器和分析仪器的需求日益增加。软测量技术是各类综合指标测试仪器、检测仪器和分析仪器的基础技术。此外,作为传统仪器仪表的重要补充,软测量技术在工业测控领域也具有广阔的应用前景。软测量技术研究对仪器仪表和测控技术的发展具有重要意义。通常,实际工业过程具有复杂非线性特性和存在大量噪声干扰,这限制了基于机理分析、多元线性回归和神经网络等传统软测量技术的应用。为了克服传统方法的局限性,本课题着重研究基于机器学习理论的、具有好的泛化能力和鲁棒性的非线性软测量建模方法。在保证模型泛化能力和鲁棒性的前提下,研究可以提高建模效率的改进实现算法。本课题的主要研究工作和成果有:(1)对传统k-最近邻(kNN)算法进行近邻距离定义的改进,用属性加权距离取代标准欧氏距离。进而,基于改进kNN算法提出了一种数据集剪辑算法,用于滤除矛盾数据样本。针对中大规模数据集提出了一种快速kNN算法,运行速度仅与最近邻数k值和数据集维数n值有关。通常,运行速度较传统算法可提高几倍至十几倍。对于局部学习算法的研究,最近邻子集的快速搜索算法研究具有普遍意义。(2)研究基于多神经网络的软测量建模方法,旨在提高工业环境下软测量模型的鲁棒性和泛化能力。提出了一种以聚类子簇数据作为验证数据集(而非训练数据集)的多神经网络,并将其用于构造两层结构多神经网络模型。针对纸浆Kappa值数据集,使用单一神经网络、两类单层多神经网络和两层多神经网络等四种模型进行软测量建模对比实验。实验结果表明,两层多神经网络模型的鲁棒性和泛化能力优于其他三种模型。(3)将软间隔支持向量机回归算法用于软测量建模。给出了两个版本的ε-SVMR算法,同时给出了该算法的通用二次规划(QP)解算器和序贯最小优化(SMO)两种实现方法。针对纸浆Kappa值数据集进行两个仿真实验,分别研究ε-SVMR算法的自由参数对模型预测性能的影响和ε-SVMR算法两种实现方法的建模效率。主要结论是,基于SMO算法的SVM方法尤其适用于中大规模实际工业过程的软测量建模。(4)研究了时间序列的两种预测建模方法,即样本扩展TDNN方法和特征扩展SVM方法。两种建模方法分别基于过程时间序列的样本扩展数据集和特征扩展数据集。对于制浆蒸煮过程时间序列的仿真实验表明:多步预测的性能优于单步预测的性能,尤其对于样本序列较少的情形;特征扩展SVM方法的性能优于样本扩展TDNN方法的性能,尤其对于单序列输入的情形。(5)对过程神经网络(PNN)进行理论研究,揭示了过程神经元和传统神经元间的联系。指出了过程神经元可用传统神经元进行无限逼近,给出了两个逼近定理和证明,以及相关的两个推论。针对模拟产生的正弦波编码信号集进行仿真实验,研究过程神经网络的预测建模性能。实验得出的主要结论是,过程神经网络对于白噪声具有很好的抑制作用,从而增加了模型的鲁棒性。但其使用需要选取用于基展开的正交基函数系。(6)引入信号内积和范数的定义,提出了一种新的过程式输入学习算法,即过程支持向量机(PSVM)。针对模拟产生的正弦波编码信号集进行仿真实验,并将实验结果和过程神经网络的实验结果进行比较。PSVM方法的使用比较方便,可以避开正交基函数系的选择问题。当噪声幅度较小时,PSVM方法的表现优于PNN方法;当噪声幅度变大时,PSVM方法的表现稍差于PNN方法,但可通过对信号进行类似于PNN方法的基展开截频处理提高其预测性能。关于PNN和PSVM学习方法的研究为过程式输入的软测量建模提供必要的理论基础。本课题研究取得的创造性成果有:(1)提出了一种基于改进kNN算法的数据集剪辑算法,用于滤除数据集中的大误差样本。(2)提出了一种快速kNN算法,对于局部学习(消极学习)算法的研究具有普遍意义。(3)提出了一种以聚类子簇数据作为验证数据集(而非训练数据集)的多神经网络模型,用于构建泛化能力好的预测模型。(4)提出了过程神经元的两个逼近定理并给出了证明,揭示了过程神经元和传统神经元的内在联系。(5)提出了一种新的过程式输入学习算法,即过程支持向量机。总之,本课题以基于机器学习的软测量技术理论和应用作为主要研究内容,展开深入研究,取得了一些有益的成果。文中提出的软测量建模方法既丰富了软测量建模理论,也促进了软测量技术的工业实用化。后两章比较侧重理论研究,取得的理论成果不仅对软测量理论的发展具有重要作用,而且对机器学习理论的发展也有一定的促进作用。由于作者水平有限,文中难免有错误或不妥之处,恳请各位专家和读者批评指正。