在实际的应用中,量子系统往往会受到外界环境和测量因素的影响而成为随机开放量子系统,因此,对随机开放量子系统控制的研究具有着重要的应用价值和发展前景。利用量子系统的在线状态估计算法可以实时获取到系统的估计状态,根据估计出的系统状态,结合相应的控制策略可以实现对系统的反馈控制。本论文重点研究了随机开放量子系统的状态转移,以及基于在线估计状态的反馈控制,研究内容包括以下三个方面:1.基于李雅普诺夫稳定性定理和拉塞尔不变集原理,提出随机开放量子系统的纯态开关反馈控制,实现目标态为纯态的状态转移。提出的开关控制由常量控制和基于李雅普诺夫方法设计的控制律组成,其中,李雅普诺夫函数为系统的状态距离,常量控制用来驱动系统状态从初始状态进入含有目标态的收敛域中,李雅普诺夫控制用来使进入收敛域中的状态继续收敛到期望的目标态。将所提出的控制方法,应用于2比特随机开放量子系统进行了数值仿真实验,并与现存的本征态开关控制律方法进行了性能对比,实验结果表明了所提出的控制律的优越性。2.对于n量子位随机开放量子系统,提出基于在线估计状态反馈的纯态开关控制。利用量子系统的连续弱测量和基于在线交替方向乘数的量子态估计方法（QST-OADM）获取系统信息,并实时估计出量子状态,作为系统控制器的输入,再基于随机开放量子系统的纯态开关反馈控制方法实现状态转移。我们严格证明了 QST-OADM在线估计算法的收敛性,并给出了估计参数和控制参数的选取范围。在系统仿真实验中,验证了无控制作用下的在线估计算法的性能,并对系统不同实际初态和估计初态对于状态转移性能的影响进行分析。3.基于量子状态在线估计和李雅普诺夫稳定性定理,提出n量子位随机开放量子系统的状态反馈控制,实现任意初态到任意目标态的状态转移。结合量子连续弱测量和在线交替方向的量子态估计方法QST-OADM,得到量子系统的实时估计状态,用于系统的状态反馈。采取了多个控制相结合的方式来设计状态反馈控制律,其中一个控制用来克服系统漂移项,其他的控制用来实现状态转移,同时,基于李雅普诺夫稳定性定理,给出了闭环控制系统稳定性的数学证明。仿真实验验证了所提控制方法在不同初态和不同目标态之间转移的有效性。