近年来由于量子计算机、量子雷达、量子导航等成果的层出不叠，量子控制的研究受到科学家们的广泛重视。其中，量子系统的有限时间控制在实际应用中举足轻重，它能大大减少对量子系统的操纵时间且能减小系统退相干的作用。目前，量子系统的有限时间控制还鲜少有研究，存在很多问题尚未解决。在此背景下，本论文基于李雅普诺夫有限时间稳定性理论和齐次性理论研究量子系统有限时间稳定化控制问题并分析控制律的鲁棒性，主要研究内容包括如下两点:
　　(1)针对纯态描述的封闭量子系统，提出一种非光滑控制方案以便实现量子系统对于其内部哈密顿量某一本征态的有限时间收敛控制。首先，对在相干矢量表达下的有限维量子系统定义了有限时间稳定的概念，给出量子控制系统有限时间收敛的李雅普诺夫稳定性判定定理以及齐次性相关定理。然后，针对两能级量子系统，选取量子态间的距离作为李雅普诺夫函数，借助李雅普诺夫稳定性理论提出一种新的含有分数幂因子的连续非光滑控制律，并在Bloch空间借助横截性的概念证明在非光滑控制器作用下量子系统解的存在唯一性。在此基础上，通过在复指数形式下表示量子态，对量子系统模型及控制目标进行等价变换，并利用有限时间稳定的李雅普诺夫判别定理、齐次性理论证明量子系统的有限时间稳定性。最后，对自旋1/2粒子系统进行仿真实验，验证了提出的非光滑控制方案具有有限时间稳定性。
　　(2)针对有界扰动，提出两能级量子系统的连续非光滑控制器的鲁棒性问题。首先，提出由量子系统控制哈密顿量扰动引起的不确定性的扰动量子系统模型。其次，通过用复指数表示量子态，扰动两能级模型可以等价变换为仅与一个实变量相关的系统。然后将李雅普诺夫和逆李雅普诺夫有限时间稳定性判据与齐次性理论相结合，给出在一个有限时间后扰动量子系统解的行为的两个主要定理，即扰动量子系统在连续非光滑控制器作用下收敛到目标态附近的能力。最后，通过在自旋1/2粒子系统上的数值仿真，验证所提理论的有效性。