本文将分别对传统高斯过程回归中存在的计算量大的问题给出两种基于数据子集的近似方法；对于传统辨识过程中存在的基于模型辨识的问题给出一种基于改进高斯过程回归的无模型智能辨识方法；对于传统的基于定量控制理论中控制器参数整定存在的调节度需要人工调整的问题，提出一种基于改进GPR（Gaussian Process Regression）的机器学习方法；对于控制过程中较为难以整定的开环不稳定对象，提出了一种新型的基于麦克劳林展开和Pade近似的H性能指标下的控制器整定方法。本文的主要创新点和成果包括：（1）针对传统高斯过程回归中存在的主要问题--计算量很大，提出了两种利用数据子集近似的方法，一种为基于距离指标的混合算法，该算法结合了传统近似算法中的贪心算法和随机算法的各自优点，既能够利用随机算法避免最坏情况发生的优势，又能够结合贪心算法能够增加最好情况发生的优势，从而使得最后的近似效果会优于传统的贪心算法和随机算法；另外一种是基于最大方差指标的近似算法，该算法利用最大方差性能指标，可以使得最后选出来的近似子集能够包含最大的信息量，最大程度上的去冗余，也同时最能代表原来的数据样本集。该两种算法相比于传统的近似算法都会有很高的性能提升。（2）针对传统的辨识过程中，一般都要首先选择辨识对象的具体模型这个问题，同时由于传统的基于控制对象阶次的局限性，实际过程中纯在高噪声的特殊工况下，以及一般算法的低效性等实际存在的原因。提出了一种基于改进GPR的智能辨识方法，该方法可以智能的识别辨识对象所要采用的具体模型，无需要选择，根据实际回归出来的平滑曲线选择合适的辨识算法。同时针对传统最小二乘起始点和终止点难以选择的问题，提出一种基于改进GPR的辨识方法，可以有效解决该问题。（3）针对传统的基于定量控制理论中控制器参数整定存在的性能度需要人工调整的问题，提出一种基于改进GPR的机器学习方法。本方法通过学习已经获取的对应关系，其中输入为时间常数、时滞，输出为在绝对误差积分最小性能指标下的调节度与时滞的比值。本方法只需要通过少量的样本数据就可以根据给定的时间常数和时滞大小预测出IAE性能指标最小的值，可以大大减少人工调节的复杂过程，从而加快了自整定的过程。（4）针对控制过程中较为难以整定的开环不稳定对象，提出了一种新型的基于麦克劳林展开和Pade近似的性能指标下的控制器整定方法。同时该方法还可以简单明了的设计闭环控制系统的前置滤波器，减少了系统的超调量，使得控制对象可以无超调的跟踪输入信号。本方法相比于其他的控制器参数整定方法有很好的鲁棒性性能，并且本方法中控制器的参数整定过程简单直接，保证无超调，能够对开环不稳定对象进行有效的整定和控制。最后，对于不稳定对象控制器参数整定中性能度的确定提出了一种基于改进GPR的确定方法，通过学习已有样本，能够预测出在IAE性能指标下最优的值。