随机系统的稳定性、能观测性和能检测性都是控制理论中基础而重要的概念，也是近年来控制领域热门的研究方向。本文主要利用算子的谱理论、线性矩阵不等式和广义李亚普诺夫方程等方法，分别研究了连续时间复随机系统的稳定性、能检测性问题，以及离散时间随机马尔科夫跳系统的能检测性和能观测性问题。　　由于复随机系统在工程实际中起着重要的作用，而对系统稳定性和能检测性的研究却一直局限于实随机系统，很少涉及复随机系统，因此，找到一种合适的方法来研究复随机系统的各种性质是非常有必要的。本文利用矩阵变换的方法，得到了与连续时间复随机系统相对应的实随机系统，进而给出了复随机系统的渐近均方稳定性、临界稳定性、D-稳定性和精确能检测性的定义，并借助算子谱分析的方法，得到了复随机系统稳定性和精确能检测性的判定定理。另外，在复随机系统临界稳定性和精确能检测性的基础上，给出了广义李亚普诺夫方程的一些很好的性质。　　同时，本文研究了离散时间随机马尔科夫跳系统的能检测性和能观测性问题。将系统W-能检测性和W-能观测性的概念推广到离散时间随机马尔科夫跳系统中，证明了系统的W-能检测性与能检测性、精确能检测性，W-能观测性与精确能观测性分别具有一致性，并且给出了离散时间随机马尔科夫跳系统W-能检测性和W-能观测性的判定定理和相关性质。