深度学习是基于机器学习领域的一个重要分支,主要优势在于捕获高度复杂的数据特征,实现复杂的非线性映射,现如今已成为主流的机器学习方法。目前深度学习在自然语言处理、计算机视觉等领域已取得一定的研究成果,但是在程序语言处理方面的研究仍不够成熟。程序算法识别是软件工程领域的一个研究热点,通过对程序功能的识别,提供了一种评估算法行为、程序功能和系统复杂性的方式,在软件模块重用、系统维护、软件开发效率的提高等方面有着十分重要的意义。但是程序语言具有丰富而严密的结构特征,无法利用传统的自然语言处理方法对其进行有效的训练。同时神经网络在训练过程中,由于梯度弥散和过拟合问题的存在,进而导致网络模型不能提炼出有用的程序结构特征,算法识别效果并不理想,因此如何优化现有的程序识别算法对算法识别效果的提高至关重要。本文首先介绍了无监督的预训练阶段中常用的四种激活函数,通过比较各个函数的优缺点,结合非饱和修正函数Softplus和ReLU的优点,构造出一种分段的非饱和修正激活函数Softplus-Relu。随后利用随机梯度下降算法(Stochastic Gradient Descent,SGD)实现了基于Softplus-Relu函数的程序向量表示模型,并将改进后的模型与基于其余四种激活函数的网络模型分别训练,最后对比分析实验过程中的收敛情况。结果证明,改进的(Tree Structures of Convolutional Neural Network,TCNN)将程序算法识别的准确率提高至95.8%,加速了监督训练近1/3的进程,从而完成对程序算法识别模型TCNN中预训练方法的改进。其次,因在监督训练过程中,模型过高的复杂度以及数据噪声的存在使得网络不可避免的产生过拟合问题,故本文对TCNN模型中的监督训练过程进一步优化,将系数为0.6的Dropout层附加在全连接层之后,并通过实验验证优化后模型的泛化能力。采用Dropout策略后,验证集和训练集在训练收敛时的准确率之差控制在0.5%左右,相比改进前二者3.6%的准确率之差,过拟合程度显著减轻。最后基于改进的激活函数和Dropout网络模型完成对程序算法的识别,模型的召回率和F1值均在97%以上。综合分析后得出结论,经过对TCNN模型中无监督学习和监督学习过程的分别优化,算法识别效果得到了较大提升。相比现有的程序分类模型,改进后的模型能够在广义程序算法识别上取得良好的识别效果。