随着社会的不断进步,计算机和网络已经应用到了人类生活的各个层面,网络安全问题日益得到人们的重视。2014年2月,我国中央网络安全和信息化领导小组的成立表明网络安全已经被提升到国家战略高度。恶意代码是当前网络安全的主要威胁之一,由于经济利益驱动和各种新技术的使用,恶意代码的数量呈指数级增长,同时各种恶意代码变种层出不穷,导致安全威胁事件逐年上升。本文致力于对恶意代码检测的关键技术进行研究,借鉴和吸收关于图像纹理的相关研究,将恶意代码的二进制可执行文件转化为灰度图像使其可视化,根据图像的纹理特征,对恶意代码及其变种的标注和检测方法进行深入的探讨,本文的主要工作和贡献可以归纳为：1)提出了一种基于纹理特征聚类的恶意代码及其变种深度标注方法,针对传统恶意代码标注分析方法中特征提取能力不足以及家族标注不统一、不规范、不精确且时效性差等问题,通过对恶意代码的图像纹理进行统计分析,从基准标注和深度标注这两个步骤对恶意代码家族进行归纳和分析,对恶意代码家族进行深度标注。2)提出了一种基于纹理特征的恶意代码及其变种检测方法,针对传统检测方法中静态检测方法误报率和漏报率较高以及动态检测方法可扩展性不足和检测结果欠准确的问题,将图像纹理的相关理论应用到恶意代码及其变种检测领域,根据恶意代码的纹理特征向量构建纹理特征索引结构,通过计算待检测样本的图像纹理特征向量,实现了基于位置敏感哈希的恶意代码及其变种检测。3)提出了一种恶意代码纹理指纹构建方法,通过结合图像分析技术与恶意代码检测技术,将恶意代码映射为无压缩灰度图片,基于纹理分割算法对图片进行分块,使用灰度共生矩阵算法提取各个分块的纹理特征,并将这些纹理特征作为恶意代码的纹理指纹。4)提出了一种基于纹理指纹的恶意代码及其变种检测方法,根据恶意代码的纹理指纹,建立纹理指纹索引结构。检测阶段,通过恶意代码纹理指纹块生成策略,采用加权综合多分段纹理指纹相似性匹配方法检测恶意代码及其变种。5)提出了一种基于纹理指纹的恶意代码及其变种分布式检测方法,针对面向海量的恶意代码检测问题,利用两阶段检测方法,即基于布隆过滤器和分布式基于熵的位置敏感哈希技术的纹理指纹索引和检测方案,设计了基于纹理指纹的恶意代码及其变种分布式检测方法,将检索的时间复杂度降低到亚线性级别,同时将检索的空间复杂度降低到线性级别,并结合Spark Map-Reduce编程框架完成了系统实现。