由于各种随机因素存在于实际的系统中,例如,物理系统、技术系统和经济系统等,使得随机系统的研究越来越收到关注。近些年来,随机系统的控制问题成为了控制理论领域的研究热点。自1981年,Zames在H_∞控制领域的奠基性工作,H_∞控制在控制理论界中十分热门的一个研究领域。H_∞控制的主要目的是,当系统的模型受到外部扰动输入的影响时,设计控制器能够使得系统能够将外部干扰的影响有效的抑制在给定的水平之下。相较于其他类型的控制,H_∞控制不需要精确知道外部扰动信号的统计特征,只需要假定外部干扰信号的能量是有界的即可。因而,H_∞控制具有重要的理论意义和应用价值。本文主要运用Lyapunov函数,Lyapunov-Krasovskii泛函,以线性矩阵不等式为工具,研究了一类非线性随机不确定变时滞系统的稳定性,镇定性问题以及H_∞控制和滤波。本文的主要工作主要有以下几个方面:首先,研究了一类非线性随机不确定变时滞系统的鲁棒随机稳定性与镇定性。所研究的系统的状态和控制均具有不确定项,且所有的不确定项是范数有界的;系统的时滞是时变的、系统的非线性是未知的,但是属于一类能量有界的函数。给出了判定这类含有不确定性的随机变时滞系统的稳定性和镇定性的相关定理,结果以线性矩阵不等式的形式给出。并利用Matlab中的仿真工具对所得到的结果进行仿真,从而对结果的正确性进行验证。其次,研究了一类非线性随机不确定变时滞系统的H_∞控制。在系统受到外部扰动信号的影响时,设计了鲁棒状态反馈H_∞控制器,使得系统不仅是鲁棒随机稳定的,而且是鲁棒H_∞可控的。以线性矩阵不等式的形式给出了H_∞控制器存在的充分条件。并利用一个简单仿真示例对结果的正确性进行验证。然后,研究了一类非线性随机不确定变时滞系统的H_∞滤波。当系统的状态不能直接测量时,对于系统的状态估计是十分必要的。相较于著名的Kalman滤波器,H_∞滤波器不需要知道外部干扰信号的统计特征,只需要假设外部干扰信号是能量有界的。设计了一种全维滤波器,给出了判定滤波动态误差系统是鲁棒指数均方稳定的充分条件。在系统存在外部扰动的情况下,给出了系统H_∞滤波器存在的充分条件。并利用对数值仿真验证结果的正确性。最后,对全文的工作作了总结,并提出了课题下一步的研究方向。