近年来,机械臂凭借高精度、高重复性等特点,已经在高端制造、社会服务、航空航天等领域得到了广泛运用。然而,由于固有的高度非线性特性以及不确定建模等因素,传统的机械臂轨迹跟踪控制往往难以达到令人满意的控制性能。另一方面,伴随着生产生活的需要,机械臂的作业任务逐渐深入到与环境、人交互协作中,传统的位置控制也已不适应机械臂频繁的物理交互,因此,针对带有不确定性的机械臂,如何设计与环境交互的机械臂高性能柔顺控制策略,对人机交互的安全性、智能性具有重要的研究意义。本文主要研究内容如下:首先,针对带有动力学建模不确定性的机械臂研究了多任务学习控制问题。在训练获取知识阶段,针对一组具有无向连通通讯拓扑的同构刚性机械臂,基于知识共享的思想在关节空间联合轨迹下设计自适应神经网络控制器,其中,无向连通的通讯拓扑实现多机械臂间神经网络权值在线知识分享,在联合的参考轨迹下利用径向基函数神经网络实现机械臂未知动态的辨识,神经网络权值收敛至同一个理想权值附近。在人在回路的多任务场景中,根据参与者的需要在任意时间指定训练阶段中的任一控制任务,利用经验知识设计的常值神经网络控制器实现机械臂的多任务高性能控制。其次,针对带有未知非线性动态的机械臂系统,研究了与环境交互时柔顺学习控制问题。根据自适应神经网络控制技术设计阻抗控制器,使机械臂末端与环境交互的动态遵循期望的阻抗模型,然后利用确定学习机制将稳定后的神经网络权值以常值形式进行存储,当重复的交互任务出现时,利用经验知识所构造的阻抗学习控制器,不仅避免耗时、占用计算资源多的训练神经网络过程,而且实现机械臂的安全柔顺控制。最后,针对学习性能的提升以及复杂的环境研究了联合复合学习下机械臂可变阻抗学习控制问题。提出阻抗参数调节策略以克服在复杂的交互环境下,机械臂难以实时根据交互动态变化,克服改善柔顺交互性能的不足。然后针对带有未知非线性动态的机械臂系统,设计自适应神经网络阻抗控制器,进一步,基于复合学习技术构造系统未知非线性动态的预测误差,并结合入神经网络权值更新律中以提升对未知非线性动态的学习能力。最后基于确定学习理论获取未知动力学知识,并利用获取经验知识构造常值神经网络,用于重复的交互控制任务,实现更优的暂态控制性能。