现代社交网络为用户提供了多种多样的十分便捷的通信方式,兴趣社区网络就是其中的一种,也广泛存在于现实网络中。相比于传统的社交网络,兴趣社区网络中各个社区间边界明显,却又广泛交叠,这为恶意软件的迅速传播提供了有利条件,恶意软件一旦出现就会迅速扩散,给用户的网络安全带来巨大的风险和隐患。建立恶意软件传播模型可以帮助我们预测恶意软件的传播趋势,部署高效及时的恶意软件监测机制可以帮助我们尽快发现网络中恶意软件的存在,进而把握限制恶意软件的扩散的时机,因此,交叠的兴趣社区网络中的恶意软件传播模型和监测机制的研究,是亟待研究的课题。基于这些需求,本文首先总结了现今的对于交叠的兴趣社区网络的网络结构、恶意软件传播模型、恶意软件监测机制等方面的研究现状,分析了现有研究的局限性和存在的问题,明确了本文的研究目标和研究内容。接着对比了交叠的兴趣社区网络和已经被广泛研究了的基于联系人关系网络,明确了交叠的兴趣社区网络在网络结构、恶意软件的传播方式等方面上的特点,提出了交叠的兴趣社区网络的抽象模型,为恶意软件传播建模和监测机制的设计打下基础。接下来,本文以SI传染病模型(Susceptible-Infected Epidemic Model)为基础,分场景研究了在节点没有免疫能力的情况下,在单一社区中和两个局部交叠的社区中的恶意软件传播规律,接着提出了任意交叠的兴趣社区网络中的恶意软件传播模型,无免疫恶意软件传播模型。为了减小计算复杂度,本文还对模型进行了轻量化处理,在保证准确度的同时大大减小了计算量和时间代价,然后仿真验证了无免疫恶意软件传播模型的准确性,为恶意软件扩散初期和节点没有免疫能力的场景提供了适用的预测模型。随后,本文在SIR传染病模型(Susceptible-Infected-Removed Epidemic Model)的基础上,提出了适用于交叠的兴趣社区网络的改进SIR传染病模型,也作为在节点有免疫和恢复能力时的单一社区中的恶意软件传播模型。接着分析了在两个局部交叠的兴趣社区中的恶意软件传播规律。然后提出节点有免疫能力时的任意交叠的兴趣社区网络中的恶意软件传播模型,通用恶意软件传播模型。同样为了减小计算复杂度,本文对模型进行了轻量化处理,然后仿真验证了通用恶意软件传播模型的准确性,为节点有免疫能力和恢复能力的场景提供了适用的预测模型。最后,考虑到在监测机制的部署中,监测资源是有限的,所以本文提出了选择性监测机制,并介绍了选择性监测机制的工作方式和限制条件,明确了选择性监测机制的设计目标和实现关键点,提出了监测节点选择算法和监测节点数量的确认机制,让网络管理员在有限的监测资源下,选出合理数量的节点组成监测节点集,高效迅速地发现恶意软件的存在,为管理员限制恶意软件传播创造最佳时机。最后仿真验证了多种场景下选择性监测机制的及时性和稳定性,证明了本文提出的选择性监测机制的有效性。