随着互联网的飞速发展,目前已经步入大数据时代,这也带来了新环境下的网络安全问题。为了降低网络安全风险,对于能够泛化检测恶意代码的分类检测方法展现出了其在网络中的必要性。恶意代码使用者通常使用复杂的加壳、变形等混淆技术来规避杀毒软件的查杀风险,面对这些变种的恶意代码,如何能够高效、准确的对变种恶意代码进行检测和分类具有一定的研究价值。对于恶意代码识别检测,目前通常是采用的特征提取的方法,通过提取出恶意代码的二进制文件结构、汇编码或者动态执行结果进行特征提取。由于恶意代码有很强的共生性,在研究时通常以家族的形式命名,对于相同家族的恶意代码有着很多的共同之处,识别出恶意代码同属的家族对于恶意代码的防范检测研究有着重要意义。深度学习技术目前已经广泛运用于分类识别当中,通过将恶意代码可视化与神经网络训练相结合的方法进行研究已经成为了恶意代码检测的新的研究方向。本文主要研究工作如下:(1)提出了一种基于图像纹理指纹特征与深度学习结合的恶意代码检测方法。该方法将数据集中恶意代码的二进制文件建模为灰度图,针对恶意代码图像化方案中数据大小不可控、干扰信息多的情况,提出了一种基于灰度共生矩阵提取出恶意代码中的指纹特征图像的方法,并选择不同步长扩展样本量,将该指纹特征图像作为输入数据集并分别采用随机森林算法、K-means算法和卷积神经网络算法模型进行分类训练,完成恶意代码检测。(2)提出一种多分类器融合的恶意代码检测识别方法。本文采取了随机森林分类器、K-means分类器和基于图像纹理指纹的神经网络分类器,利用模糊积分作为融合算子,将多个分类器结合起来,通过融合分类器对恶意代码进行检测,经实验证明,通过模糊积分进行多分类器融合的恶意代码分类,对比于单分类器,有一定的提升效果。最后,本文采用的公开数据集为微软2015年恶意代码分类大赛中使用的数据集,经过实验对比显示,基于图像纹理特征的恶意代码分类方法能够有效提高恶意代码识别率和召回率,并在泛化测试中取得了较好的效果。