类脑(Artificial Brain)是能够完成知识处理、问题求解、环境适应等任务的计算平台。其既是智能机器人的信息处理和行动决策的核心,也是各类智能设备智能的核心体现。目前,类脑的实现方法常采用神经网络算法。但随着深度学习方法的迅速发展,神经网络的参数规模和结构复杂度不断攀升,从而带来高昂的训练开销,使得上述实现方法受到了极大的限制。为此,本文提出一种基于并行计算的类脑实现方法,通过将深度神经网络部署于云计算平台上进行并行训练,在保证深度神经网络泛化能力的前提下,可大大地加速深度神经网络的训练过程,并通过对卷积神经网络和动态记忆网络进行优化和改进,能为类脑提供高效可用的视觉与记忆功能。本文主要完成了以下的研究工作。首先,提出了一种基于数据同步并行的神经网络并行训练方法,也即带梯度环形更新的神经网络参数过滤训练方法,它过滤深度神经网络训练过程中大量冗余参数,通过梯度环形更新方法同步地更新各个节点的参数。该方法压缩了神经网络训练参数,大幅降低同步并行训练各节点与参数服务器通信开销。实验表明,该方法在不损失精度前提下可提高并行训练深度神经网络速度,各个计算节点GPU利用率比一般同步训练方法高。接着通过引入神经网络云计算框架,将带梯度环形更新的神经网络参数过滤训练方法适用于云计算平台,从而提出了一种基于云计算的神经网络并行化训练方法。然后,为了实现类脑的视觉功能,研究实现了基于复合缩放方法放大的深度卷积神经网络,通过实验证明了复合缩放卷积网络的效率和准确率较高;应用基于转置卷积网络的深度卷积网络训练方法,从而解决了复合缩放放大后卷积网络过深,随机初始化卷积核造成的局部最优问题。通过实验证明了该方法能提高深度卷积神经网络性能。研究了优化网络应用基于云计算的神经网络并行训练方法的训练表现,结果表明该训练方法对网络训练有加速作用。综合说明基于并行计算的类脑视觉处理方法比一般方法更优。最后,为了实现类脑的记忆功能,研究分析动态记忆网络的不足,引入位置向量,提出基于多次迭代注意及内部注意机制的优化动态记忆网络,通过实验验证明多次迭代注意提升了其信息提取能力,内部注意机制提升了其性能。研究了该方法应用基于云计算的神经网络并行化训练方法的训练表现,实验表明该训练方法对于优化动态记忆网络训练有明显加速。综合说明基于并行计算的类脑记忆处理方法比一般方法更具优势。