机器人辅助微创手术由于手术创伤小,出血量少以及术后恢复快等优点而得到快速发展。但手术机器人结构复杂,有多条自由度冗余的机械臂;同时机器人的工作空间狭小。这些问题造成机器人术前摆位困难,进而对手术的可行性和安全性造成影响。因此本文拟解决机器人辅助微创手术中术前摆位这一关键问题。尤其是针对狭窄腔道的微创手术。本文提出依据患者真实体貌特征和身体参数结合多个效能指数的优化方法完成术前摆位优化。同时引入增强现实(Augmented Reality,AR)技术开展手术机器人术前摆位研究。本文首先建立基于患者体表、病灶参数的工作空间模型。然后依据手术切口位置与机械臂远心点重合的关系建立机器人运动学模型。并推导机器人主动关节速度雅克比矩阵。为实现最佳效能的机器人术前摆位提供理论基础。然后从单臂运动性能、多臂协同配合、手术器械和机械臂低碰撞率等方面建立手术机器人优化目标模型,采用基于高斯过程预测的多目标差分进化算法完成机器人术前摆位优化。此外,本文提出基于方向凸包(Oriented Bounding Box,OBB)相交测试的手术机器人实时免碰撞算法以解决术中机械臂碰撞问题。建立各机械臂构件的方向凸包模型,基于OBB相交测试计算各关节最大运动范围,提出碰撞指数的概念以限制各关节运动,最终实现机械臂间免碰撞。其次建立AR环境,以辅助完成机器人术前摆位和模拟手术操作,建立患者的虚拟模型和真实身体之间的位置关系,最终实现AR辅助手术穿刺。此外,本文拟解决AR环境中虚实模型之间交互问题以提升AR环境的沉浸感,包括真实手术器械与虚拟软组织器官,虚拟骨性组织之间的碰撞检测。涉及到软组织形变同时主手产生相应力反馈等。最后针对以上研究内容进行实验验证。首先通过数据对比证明基于高斯过程的多目标优化算法的有效性。其次建立三个不同体型的病人模型,完成术前摆位优化。用真实的手术机器人检验优化结果的性能参数,同时基于虚拟的手术机器人验证手术机器人实时免碰撞算法的有效性。然后建立AR环境,验证AR环境中手术器械的力反馈和软组织形变大小的关系,基于增强现实完成手术切口位置确定,证实AR技术应用于术前摆位的可行性。