强化学习作为一种机器学习方法和范式能够较好地解决序贯决策问题。由深度神经网络和强化学习方法组成的深度强化学习方法同时具备了二者的优点,在拥有较高感知能力的同时又具有较好的自主决策能力,可以更好地解决大规模空间或连续空间决策感知类任务。强化学习方法也被应用于多智能体系统中,用来解决多智能体序贯决策问题。强化学习方法虽然得到了广泛的应用,但是却很少考虑甚至没有考虑任务的安全问题。在现实应用中,保障智能体的安全是重要的,如果让智能体进行盲目地试错探索,智能体可能会进入危险状态,导致不可逆的损害,甚至会损害交互过程中的其他设备,破坏交互环境。针对上述问题,以受限马尔可夫决策过程和受限马尔可夫博弈为基础框架分别对不同的强化学习算法进行改善,提出以下三部分研究内容:（1）针对Q-Learning算法在训练过程中难以保障智能体的安全这一问题,提出基于受限马尔可夫决策过程的安全Q-Learning算法。安全Q-Learning算法将构造的约束函数与Q-Learning算法相融合后重新构造智能体选择动作的策略,使智能体在选择动作的同时满足安全约束函数,限制智能体在安全领域内进行探索学习。带约束函数的安全Q-Learning算法结合拉格朗日乘数法更新求解动作的策略,使算法能够被高效求解。实验结果表明,安全Q-Learning算法可以有效降低智能体的危险性。（2）深度强化学习方法是解决大规模空间及连续状态动作空间序贯决策问题的一种行之有效的方法。然而,智能体在探索利用过程中会不断进入危险区域,这不仅会降低智能体的学习效率,使算法更新缓慢,而且还会对智能体造成不可逆的损害,甚至会损害环境,阻碍连续空间深度强化学习方法在实际中的应用。针对此,提出基于受限马尔可夫决策过程的连续空间安全深度强化学习算法,构造多维约束函数并将约束融入到连续空间深度强化学习模型中。结合罚函数思想改变优化准则重新构造优化目标函数以训练网络,进而从算法训练开始就降低智能体陷入风险的频率,保障智能体的安全。实验结果表明,连续空间安全深度强化学习算法能够有效降低智能体陷入危险区域的频率和提高算法的训练效率。（3）为保障多智能体环境中所有智能体的安全,提出基于受限马尔可夫博弈的安全多智能体强化学习算法。构造多智能体系统下的约束函数并将约束函数融入多智能体强化学习模型中,进而重新构造模型的优化目标函数指导策略的更新,保障智能体的安全。实验结果表明,安全多智能体强化学习算法能够有效减少每个智能体进入危险状态的数量,提高每个智能体在每情节的奖赏值。