肝癌是威胁我国人民生命健康的重大疾病。手术切除或肝移植是治疗肝癌首选的外科治疗方案,肝癌消融和化疗栓塞是有效的介入治疗手段。腹腔镜下的肝切除术具有创伤小、术后恢复时间短等优点。随着腹腔镜设备的普及,腔镜手术受到了广泛的关注,特别是近年来三维腹腔镜的流行,为外科医生提供了深度感知。然而,三维腹腔镜下外科医生仍然难以定位出肝内的血管、病灶等解剖结构的位置,术前手术规划方案难以很好地融合到手术操作场景中。针对三维腹腔镜肝切除手术及肝癌介入消融手术的临床需求,本文主要的研究内容和取得的成果有以下几个方面:（1）以肝切除和介入消融手术临床应用的具体需求为导向,本文研发了三维腹腔镜肝切除术增强现实辅助导航系统和经皮穿刺导航系统。前者可将术前模型与术中三维腹腔镜视频融合显示,扩展外科医生的手术视野,有利于外科医生探查肝内血管和肿瘤的位置;后者基于点云配准算法,实现了无标记点的物理空间-图像空间配准。并开展了多种实验进行验证,包括离体猪肝、活体实验猪、体模和活体实验犬。其中,增强现实肝切除导航系统在离体猪肝和活体实验猪的导航精度分别为6.04±1.85mm和8.73±2.43mm;经皮肝穿刺导航系统在体模和活体实验犬的穿刺精度分别为2.76mm和3.02mm。实验验证了系统的有效性和导航精度,表明了具备临床应用的可行性。（2）围绕构建增强现实辅助肝切除导航系统的关键技术开展研究,提出了一种基于单个不变点的渐进式手眼校准算法完成3D腹腔镜增强现实导航中的手眼校准。利用3D腹腔镜对不变点进行成像,首先计算不变点的2D图像坐标,然后映射至相机的3D坐标系中。同时,固定于3D腹腔镜相机末端的定位工具被光学定位系统所捕获,再根据不变点的图像坐标和定位工具的姿态矩阵,基于Levenberg-Marquardt优化算法估计出手眼校准变换。实验表明,该校准算法在光学定位系统下的反投影误差可达0.71mm～1.32mm之间。（3）根据三维腹腔镜图像估计手术场景的深度,是构建增强现实导航系统的关键技术之一,深度估计的结果将用于恢复手术场景的三维空间信息,并与术前模型配准。针对三维腹腔镜深度图像标注数据获取困难的问题,本文提出一种联合传统计算机视觉方法的基于深度学习网络的深度预测算法。首先利用传统立体计算机视觉方法得出视差图,再利用多种视差图置信度量排除不可靠的视差分配,生成视差图的代理金标准图像,用于指导深度值估计网络的训练,并引入邻域平滑损失项约束具有相似外观的相邻像素,达到生成三维平滑表面的目的。在公开数据集上,该算法的深度预测精度分别为1.84±0.40mm和1.49±0.41mm。（4）针对不完美相机参数下深度预测模型精度退化的问题,本文提出了一种无监督的双目腹腔镜图像深度估计网络,通过引入视差修正模块,调整因不完美相机标定参数所导致的匹配特征点不在同一水平扫描线的像素,融合生成对抗网络和残差掩模,提高了不完美图像校正立体图像对的深度估计精度。该算法在公开数据集的预测结果的平均绝对误差为3.05mm。