近年来,对于复值神经网络的研究有了很大的进展。在复值神经网络的训练中,最为流行的一种算法就是复梯度学习算法,而其可以通过批处理和在线处理两种模式来训练。但目前该算法依然存在着诸多不足,比如极易陷入局部极小,收敛速度慢。通常情况下,复梯度学习算法的学习率取作正数,与实值学习率相比,复值学习率更具优势,其一,把复梯度学习算法的搜索空间从半直线扩展到半平面,使得学习过程更加自由;其二,可更有效地逼近目标函数的Hessian矩阵信息,使得算法效率更加高;其三,可以使复梯度学习算法更快地摆脱鞍点的吸引,从而加速算法收敛。本论文将对具有复值学习率的复梯度学习算法作进一步研究,具体工作如下:(1)为优化基于复学习率的复梯度学习算法,首先介绍一种带自适应动量项的批处理复梯度学习算法,其根据误差函数关于权值向量的梯度变化情况,自适应的调节动量因子。在Wirtinger公式的基础上,通过理论分析证明复梯度学习算法的弱、强收敛性,即分别为在训练过程中误差函数的梯度范数趋于零以及权值序列会收敛于一个确定的值。并通过两组数值实验验证了带自适应动量项及复学习率的复梯度学习算法在收敛速度上优于带复学习率的复梯度学习算法等其他六种算法。(2)当样本冗余度较高时,在线学习模式要优于批处理学习模式,故将基于复学习率的批处理复梯度学习算法的收敛性结果推广到在线学习情形,并分别从理论上和数值实验上验证该算法的有效性。(3)为了优化在线复梯度学习算法的收敛效果,在该算法的基础上,添加动量项,探讨算法的收敛性,并通过逼近问题等数值实验验证添加动量项的在线复梯度学习算法的收敛效果。