随着服务机器人在家庭环境中的广泛使用,如何让机器人有效地学习复杂操作技能是机器人操作技能学习领域的研究重点。本文基于行为树和强化学习针对家庭环境中的开门放置药瓶复杂操作技能,从模仿学习和强化学习两种角度开展研究。论文主要研究内容如下:（1）结合软硬件建立了服务机械臂操作实验系统和技能学习框架。操作实验系统通过ROS将系统软硬件进行连接,完成了Kinecct V2相机与Kinova Jaco2机械臂之间的眼在手外标定工作与视觉识别系统的建立。操作技能学习框架主要由上下层次结构组成,低层对子技能进行表征学习,上层则对子技能组织顺序进行学习,最终结合软硬件系统实现服务机械臂操作技能再现与泛化。（2）从模仿学习角度提出了一种基于行为树和动态运动基元的复杂操作技能学习方法。该方法将复杂操作技能学习分为上下层次结构,底层是对复杂操作技能的分割和学习表征,上层是基于行为树框架的任务规划和行为校正。首先低层采用BP-AR-HMM算法对示教数据进行分割得到子技能;之后利用DMP算法对分割得到的子技能进行学习表征,建立操作基元库;然后上层根据任务执行逻辑建立任务规划行为树,行为树动作节点为低层DMP表征得到的操作基元,条件节点则根据任务进行设置;并增加了行为校正模块以解决药瓶倾倒情况。实验结果表明,针对开门放置药瓶任务,所提出的方法能够成功再现和泛化该操作技能。验证了所提出方法的有效性和实用性。（3）从强化学习角度提出了一种基于分层强化学习的复杂操作技能学习方法。该方法在BP-AR-HMM算法对任务自动分割结果的基础上,针对传统强化学习训练整个复杂操作技能困难,奖励稀疏,状态空间庞大的问题,提出一种基于子目标的分层强化学习方法。该方法同样包含低层和高层两个层次结构,低层采用SAC算法学习各子任务策略,对子任务进行学习表征,高层则基于最大熵目标算法学习元策略,从而对整个复杂任务进行规划。实验结果表明,与其他算法相比,所提出方法在策略收敛以及学习性能上均表现出更为优异的效果。最后通过虚实转换将高层元策略部署至真实场景中进行了操作技能再现和泛化实验,实验结果验证所提出方法的可行性和泛化性。