如今恶意程序是互联网遭受的主要威胁之一，僵尸网络、钓鱼网站、恶意邮件等等本质上都是恶意程序，通常也简单地将恶意程序称为病毒。安全厂商每天收到成千上万份病毒样本，为了尽快处理这些安全威胁，安全厂商需要快速而准确地从这些样本中提取共性并家族化，从而以病毒家族为单位提供解决方案。目前国内外学者对聚类算法做了大量的研究，但针对海量病毒样本的聚类研究较少。　　 本文主要研究基于行为分析的病毒家族聚类方法，利用设计的可伸缩性聚类方法将输入的海量病毒样本聚类，提取并优化病毒家族特征集，为制作病毒家族清除脚本提供支持。本文设计和实现了病毒程序聚类系统。　　 首先，本文深入研究了病毒程序的行为及家族化特征，介绍了常见的聚类算法，并重点介绍了聚类算法在病毒家族聚类上的应用及其不足。　　 然后，论文在现有病毒聚类方法的基础上设计了一种可伸缩性的聚类方法。本文在分析现有聚类算法的特征后，选择扩展K均值和局部敏感哈希算法作为基础算法设计了二级聚类方法，能够既快速又准确的聚类海量病毒样本。二级聚类方法为层次结构，先由局部敏感哈希算法进行初次快速聚类，后由扩展K均值算法进行二次细致聚类。这种层次结构主要继承了局部敏感哈希算法的高维数据处理能力和海量数据快速处理能力，同时也继承了扩展K均值算法的准确性特征。　　 接着，使用本文设计的二级聚类方法设计并实现病毒聚类系统，介绍各个功能的设计及实现方法。病毒聚类系统主要包括预判模块和聚类模块，聚类模块负责将海量病毒样本聚类处理，预判模块则负责检测和处理查询样本的家族信息。　　 最后，对实现的病毒聚类系统进行测试，包括有效性测试、性能测试以及对比测试。测试结果证明了本文设计的聚类系统具有很高的时间效率和较高的准确性。