量子相干性和量子纠缠是量子技术的基础。它们常常受到量子系统与环境间的相互作用引起的退相干效应的破坏,从而成为实现量子技术的最大障碍,因此对退相干进行抑制具有重要意义。本论文利用密度矩阵相干向量表示研究了退相干效应的抑制和相应的纠缠控制问题,论文主要工作包括:(1)在密度矩阵相干向量表示下,利用最优控制研究N能级Markov系统的退相干抑制问题。N能级Markov系统可以用主方程模型描述,在相干向量表示下具有标准的双线性形式。针对这个双线性系统,采用最优轨线跟踪的方法抑制环境噪声的影响。当系统满足完全退相干条件、可控性假设、收敛性假设时,最优控制给出了很好的结果。在渐近意义下,最优轨线是与系统自由演化轨线同步的等幅振荡过程,但振荡的振幅相比自由动态有所损失,最优控制律是在实验室中易于实现的正弦信号。针对最优控制失效的某些特定情形,引入反馈控制修正可以使得最优控制依然有效。(2)在相干向量表示下,引入su(N)李代数噪声解耦分解的概念,并用于相干向量部分状态变量与环境噪声的完全解耦问题。一方面,根据su(N)第一类噪声解耦分解,利用开环控制可以使得N能级系统部分状态变量与环境渐近解耦;另一方面,根据su(N)第二类噪声解耦分解,可以设计反馈控制使得部分状态变量与环境精确解耦,从而避免渐近解耦过渡过程所带来的影响。(3)对于非Markov系统的退相干控制进行了讨论。在这里利用了中间“库”的概念。在这种模型下,系统与库所组成的大系统可以用主方程模型描述。仿真表明,在渐近意义下,利用最优控制同样可以使得受控轨线是与目标轨线同步的等幅振荡过程,而控制律是正弦信号。(4)对量子纠缠这一典型量子现象进行了研究。首先提出了一种新的纠缠度量。相比于已有的度量,该度量适用于更广泛的一类量子态,并可以用相干向量解析表示。在这种纠缠度的基础上,结合前面提出的退相干控制方法,讨论了纠缠保持的问题。一般来讲,纠缠可以部分得到保持。不过,对于二比特系统,在渐近意义下可以实现纠缠的完全保持。论文最后对全文工作进行总结,并为进一步的研究指明了方向。