恶意代码的检测与分类对于维护网络安全有着很重要的作用。尤其是近年来随着大数据和物联网飞速发展,各种新型网络技术层出不穷,而这些技术的发展同时也造成了恶意代码的爆炸式增长。因此恶意代码的检测与分类面临严峻的挑战。本文针对现有的检测分类方法中存在的问题,基于深度学习方法和智能优化算法构建高效准确的恶意代码检测模型。本文主要工作内容有:鉴于现有的检测分类方法难以应对迅速增长的恶意代码,因此针对基于卷积神经网络的检测方法中的局限性,引入SPP金字塔结构改进神经网络结构并用于恶意代码检测,同时为了降低恶意代码数据集稀疏性的影响,提出一种高效的数据增强方法构建充足的可用数据集,这种方法结合了生成对抗网络和卷积神经网络。测试结果表明,使用所提数据增强方法生成的恶意代码图像更具有真实性,建立的神经网络有效克服了需要统一输入的局限性,构造的恶意代码数据集将用于后续工作;神经网络建立后,分析现有方法中单一评价标准的片面性同时为了进一步降低数据不平衡带来的负面影响,设计合理的目标函数并结合NSGA-II算法构建基于神经网络和多目标算法的恶意代码检测模型,实验表明构建模型的性能相比现有的检测方法有很大的提升;然后在多目标模型的基础上引入更多的因素对检测模型进行评估,并结合NSGA-III算法构建基于神经网络和高维多目标算法的恶意代码检测模型,进一步提高了模型的检测性能。在上述检测模型的构建过程中,神经网络的结构调整是一个很重要的问题。因此我们分析现有的结构调整方法,提出一种使用优化算法调整神经网络整体结构的方法。首先根据生成对抗网络的特性,将NSGA-II算法用于调整其结构参数。为了验证方法的有效性,在恶意代码数据集以及MNIST数据集上分别设计了对比实验。分析结果后发现经过调整的网络有着更好的图像生成效果;然后分析卷积神经网络中的结构参数并利用NSGA-III进行优化调整。实验结果表明在恶意代码数据集、MNIST数据集和CIFAR数据集上,调整后的网络有着更好的性能。