随着量子技术的进步以及控制科学的研究伸展到微观世界领域,逐渐形成量子控制这一新兴学科方向。而量子系统的状态控制和相干性保持是量子控制的重要研究方向。因此本论文重点研究了基于李雅普诺夫理论和最优控制技术的状态转移控制问题和量子系统的相干性保持问题。具体内容包含以下几个方面：1、研究基于李亚普洛夫理论的量子系统的状态控制。首先在一个双自旋系统中实现纠缠态的制备：针对双自旋系统Heisenberg相互作用模型,建立了其在相互作用绘景下的数学模型,选取观测算符平均值作为李雅普诺夫函数来设计控制律,并且通过设计这个观测算符保证目标态是李雅普诺夫稳定,在此基础上证明了4个Bell态都是全局渐近稳定的；其次,针对单量子比特系统的混合态纯化,引入一个辅助系统,它与原系统的相互作用强度通过李雅普诺夫方法设计,从而实现原量子系统状态的非幺正演化,将混合态纯化为本征态；最后,研究了开放量子系统的状态控制：选择观测算符平均值为李雅普诺夫函数,在相互作用绘景下设计控制律将系统驱动到无退相干子空间中的纯态,利用Barbalat引理分析系统的正极限集,给出了一个使得正极限集只包含目标态的观测算符的充分条件,在这个条件下,证明了所设计控制律可以将系统驱动到无退相干子空间中的任意纯态,并且给出了一种基于Schmidt正交化来设计观测算符的步骤。2、在量子控制图景的框架下研究了量子状态转移概率的最优控制问题。对于Lindblad方程描述的n能级开放量子系统,引入密度矩阵相干向量表示,将主方程模型转化为实向量空间上的双线性受控方程。在此基础上定义了量子状态转移概率作为最优控制目标,它是关于控制函数的泛函,被称为量子控制图景。针对量子控制图景在控制函数空间的临界点,给出了基于D-morph算法的数值研究方法。对于一个二能级系统,研究了对应于Bloch球上北极点到球面上的某一个目标态的转移概率的量子控制图景,理论上证明了这个控制图景不存在控制函数满足临界点条件,并且利用数值方法证明了存在最优的终端时间使得其对应的转移概率达到最大值,在最优终端时间的每一个最优控制都包含短脉冲,这个现象与相应的封闭量子系统中没有限制的时间最优控制问题类似。3、研究了Markov退相干环境下的高维量子系统的相干性保持。对于一个Λ型的三能级原子,以激发态和一个基态间的相干性作为被控目标,通过设计控制参数,使得相干性保持不变。针对可能出现的控制场的奇异性问题,定性地分析了不同系统参数对塌缩时间的影响。对于一个耗散系数远大于另外一个的情况,得到了使得相干性可以保持长久的初始态所在的区域,对于两个耗散系数可比的析；对于一个n能级的阶梯型的原子,相干性由多个相干性函数来具体表达。为了设计控制场使得相干性保持常数,控制场分量的数量与相干性函数相同,并且每个分量对应一个相干性函数。此外分析了影响奇异点的参数,并且给出了可能的提高相干时间的方法。