机器人操作是机器人实时交互、改变外界环境以完成指定任务的核心手段,在工业智能制造、服务产业和日常生活中均起着重要作用。其中机器人的灵巧操作可以代替人类执行复杂任务,一直是学术界研究关注的重点。然而,机器人的灵巧性也意味着其往往具有高维的动作空间,并且会面对动态、复杂的任务环境。欠驱动机器人自身行为的不确定性、模型的不精确性、环境感知能力不足和噪声影响对操作过程的干扰,机器人行为缺乏可解释性等限制给操作任务带来了挑战。如何面对这些挑战,设计优化机器人本体和控制策略来实现机器人的灵巧操作是亟待解决的问题。本文以非结构化场景中的欠驱动机器人操作为场景,从本体参数优化和安全控制、主动感知和控制策略迁移、子任务划分和任务规划三个层面展开研究,综合运用解析建模、强化学习、模仿学习等方法,来提高机器人性能、安全性和行为可解释性。主要工作内容如下:（1）研究了欠驱动柔性机器人简化模型下本体参数优化和安全控制的问题。针对柔性机器人具有高冗余运动自由度,缺少解析优化和控制方法的问题,首先提出近似模型结合数值迭代方法,用于驱动器参数估计和性能优化。近似模型能够优化设计参数,提高驱动器的性能指标;其次,针对柔性连续体机器人只能被动柔顺适应环境,无法进一步保证安全性,提出利用固有振动特性建立冲击模型,实现碰撞检测、主动安全反应。实验结果表明,提出的设计优化方法可以高效地评估柔性机器人性能参数,安全响应方法能够在本体层面实现可靠地主动安全控制。（2）研究了环境主动感知、动力学建模和强化学习控制策略迁移的问题。针对非结构化环境中缺少对环境物体感知能力的问题,提出主动策略感知用于操作过程中对物体表面的软硬度探索;其次针对策略迁移到新环境时产生的域偏移而导致失效问题,提出同步估计环境动力学参数和优化控制策略方法,结合先验模型和数值优化理论实现基于模型的强化学习策略引导搜索和自适应迁移学习方法。实验结果表明,提出的主动感知策略可以提高机器人对外部环境的感知理解能力,同步模型参数估计和策略搜索方法可以有效修正环境参数误差和提取先验模型信息,从而确保更快速适应新环境和实现策略迁移。（3）研究了利用先验动作基元信息进行子任务识别和分割,实现机器人任务规划的问题。针对强化学习端到端结构缺少可解释性以及对状态空间的约束,难以保证策略可靠性的问题,提出具有明确物理含义的两层策略网络结构及其稳定化训练方法。针对传统机器人任务规划方法无法表达复杂的灵巧操作过程,数据驱动方法则缺少对机器人行为的可解释性等问题,提出利用目标导向的动作基元结合模仿学习方法,将多阶段的复杂任务拆分成对齐的基元子任务,并提取子任务执行目标。实验结果表明,提出的策略结构和训练方法具有更高的鲁棒性,任务规划方法可以更深入地提取的专家示教信息,在动态变化的环境中能够实现行为可解释的复杂任务规划、提高操作者的主观信赖度和提高环境危险态势感知能力。