贝叶斯学习理论使用概率表示各种形式的知识和不确定性,并通过概率规则来实现学习和推理过程,是处理不确定信息的有力工具。本文在学习贝叶斯学习理论的基本观点和研究它的背景与现状的基础上,详细讨论了几种常用的贝叶斯分类模型的分类原理和性能,并主要研究了以下几个关键问题:朴素贝叶斯分类模型及其改进、贝叶斯回归型支持向量机及其在聚丙烯腈生产过程软测量建模中的应用。分类是数据挖掘中一项十分重要的任务,其目的是找出分类函数或者分类模型。本文提出了一种基于互信息属性约简的朴素贝叶斯分类器,此方法从信息论角度出发,并给出属性重要性的度量方法和相应的属性约简算法,找出一组最近似独立的属性约简子集,弱化属性间的依赖关系,再利用朴素贝叶斯分类器对约简子集进行训练得到分类器,从而提高朴素贝叶斯分类器的性能。针对支持向量机在小样本情况下泛化性能不高的问题,本文把贝叶斯证据框架引入到支持向量机回归问题中,用来调整支持向量机模型中的核参数和正则化参数接近最优,进而提高模型在小样本下的推广能力。另外,考虑到聚丙烯腈生产过程是一个机理复杂的、非线性严重的多变量时变过程,本文建立一种多类型混合软测量模型,用于估计聚丙烯腈生产过程的质量指标。该模型以过程机理模型为基础框架,以贝叶斯回归支持向量机和各类回归辨识模型作为混合模型中各子模型或机理模型的过程参数估计模型,并将过程中的各种先验知识作为等式或不等式约束,引入混合模型中。仿真结果验证了该方法的有效性。