非光滑控制器不仅可以提高闭环系统的收敛速度和抗干扰性能,而且具有更广泛的应用范围.近年来非光滑控制系统的分析和设计问题受到越来越多的关注,但是仍有许多亟待解决的问题.本论文主要在非线性系统的通用有限时间观测器的设计、上三角非线性大系统的全局分散镇定、下三角非线性随机系统的有限时间输出反馈镇定、小行星探测器有限时间软着陆控制、六自由度空间飞行器编队飞行系统的有限时间控制以及空间飞行器的有限时间姿态跟踪控制方面进行了研究.主要研究结果和贡献如下：一、针对一类可能受干扰和未知参数影响的不确定非线性系统,给出了一种通用有限时间观测器的设计方法.首先,根据干扰所满足的假设条件对原系统进行状态扩张.其次,通过适当的坐标变换、齐次系统理论和非光滑控制分析方法来设计通用有限时间观测器,使得原系统中的未测量状态、未知参数、所受干扰及其各阶导数都能够在有限时间内估计出来.最后,利用通用有限时间观测器对一类水轮机系统中的未测量状态、未知参数、干扰进行估计值,并基于通用有限时间观测器和非光滑控制设计方法解决了水轮机系统的有限时间输出反馈调节问题.二、针对一类带有非Lipschitz连续非线性项的不确定上三角非线性大系统,给出了全局分散控制器的设计方法.首先,利用增加幂积分方法为系统的各个子系统的标称系统设计非光滑控制器,使得各个标称子系统在非光滑控制器的作用下是全局渐近稳定的,并证明了在所给出的非光滑分散控制器作用下整个闭环系统是局部渐近稳定的.其次,基于嵌套饱和技术将得到的分散控制器饱和化.最后,证明在饱和分散控制器的作用下,按照从下到上的方式,通过调整饱和度,使得整个闭环系统是全局渐近稳定的.三、针对一类p-规范型下三角非线性随机系统,给出了全局有限时间输出反馈控制方法.首先,基于增加幂积分方法和齐次系统理论以递归的方式为非线性随机系统的标称系统设计了一个降阶的齐次状态观测器和控制器.其次,利用齐次占优方法来处理系统中的漂移项和扩散项,证明了所给出的输出反馈控制器可以确保闭环系统是全局有限时间依概率稳定的.数值仿真算例表明了所给控制方法的有效性和合理性.四、针对一类以小行星为中心用二维动态方程描述的探测器着陆系统,提出了基于视线角的有限时间软着陆控制方法.首先,根据系统多变量、非线性和强耦合的特点,将着陆小行星的动态误差系统分成两个子系统：位置误差子系统和视线角误差子系统.其次,利用齐次系统理论为视线角误差子系统设计控制器,使得视线角误差子系统在有限时间内收敛.最后,利用齐次系统理论为退化的位置误差子系统设计有限时间控制器,严格的理论分析表明所给的设计方法能够确保整个动态误差系统是有限时间稳定的.五、针对一类六自由度空间飞行器编队飞行系统,提出了三种有限时间控制器的设计方法.首先,基于非奇异终端滑模控制方法,给出了一种局部有限时间控制器的设计方法.其次,利用通用有限时间观测器来估计系统中的扰动,基于非奇异终端滑模控制器和利用通用有限时间观测器技术得到的前馈补偿项给出了一种复合的有限时间控制器的设计方法,该方法的优点是可以有效地削减系统的抖动.最后,基于切换控制方法、连续非奇异终端滑模控制方法和通用有限时间观测器技术,给出了一种全局有限时间控制器的设计方法.六、针对一类空间飞行器姿态系统,提出了基于连续有限时间扰动观测器的有限时间姿态跟踪控制器的设计方法.首先,针对一类受高阶非线性干扰的系统,基于齐次系统系统理论和饱和技术理论给出了一种连续有限时间扰动观测器的设计方法,理论分析表明在该连续有限时间扰动观测器下干扰及其各阶导数都可以在有限时间内估计出来.此外,基于给出的连续有限时间扰动观测器给出了空间飞行器姿态系统的一种连续有限时间控制器的设计方法,使得空间飞行器在有限时间内可以精确跟踪上期望的姿态.数值仿真结果说明了所给控制方法的可行性.