为满足实际应用过程中机器学习和深度学习等新兴技术对恶意代码数据集数量和质量提出的更高要求,弥补通过数据再采集或传统增强方法扩充数据集耗时费力、成本代价过高且效果有限的不足,本文在分析恶意代码可视化表示方法的基础上,研究基于恶意代码图像和生成对抗网络的恶意代码数据增强方法,主要从恶意代码数据表示、模型设计以及实验验证等方面展开,研究取得的成果如下:（1）为构建能够有效用于后续研究的恶意代码图像数据集,本文提出了一种能够高概率保留恶意代码全部隐含特征、减少损失的恶意代码可视化表示方法。该方法以设置长宽同比例方法替代以往设置固定宽度的转换方法,有效降低了因恶意代码可执行文件大小不同而导致转换后图像尺寸不同问题在统一尺寸时所带来的损失,构建了质量更好的恶意代码图像数据集。（2）为实现对恶意代码数据的增强,本文提出了一种基于生成对抗网络和变分自编码器融合的恶意代码数据增强模型--DVGAN-GP。该模型的提出主要由三个递进的探究部分组成:a)构建并实现了基于改进GAN模型--DCGAN和WGAN-GP的增强模型;b)针对生成对抗网络模型训练稳定性较差且生成数据存在随机性问题,引入变分自编码器,并构建改进的深度卷积变分自编码器（DCVAE）增强模型;c)在深入探究生成对抗网络和变分自编码器模型的基础上,针对各自优缺点取长补短,将变分自编码器能够学习输入数据平滑潜在状态表示的优点融入生成对抗网络,构建了新的增强模型DVGAN-GP。实验结果表明,本文所提出的模型能够生成符合生成期望、包含更多信息且质量更优的恶意代码新数据。（3）针对现有研究仅采用分类准确率作为验证生成数据有效性评估指标的不足,本文引入了两种图像质量评价指标--峰值信噪比（PSNR）和结构相似性（SSIM）对恶意代码生成数据相似性及有效性进行综合评估。通过量化比较生成数据与原始数据的相似度以及构建多分类模型,多角度构建数据集进行分类实验,最终验证所提DVGAN-GP模型能够充分发挥VAE和GAN的优势,综合性能最优,由其生成的数据能够包含丰富的特征信息,辅助提高分类模型性能,具有增强有效性。