互联网技术的快速发展在带给人们便利的同时也带来了很多网络安全威胁。如何准确高效地发现网络中存在的异常行为活动已成为网络安全领域中亟待解决的问题。数据挖掘是一种可以从大量数据中挖掘出符合事实规则的数据处理手段。聚类算法由于可以直接建立无监督的检测模型并发现异常数据,因此常常与异常检测技术相结合。特征选择通过消除异常数据中的复杂冗余干扰特征来避免维度灾难,达到提高异常检测速度和降低检测运算成本的目的。这使得特征选择算法在异常检测领域广泛应用。本文针对现阶段异常检测领域中存在的一些问题,提出了如下的异常检测算法:首先,在模糊C均值聚类(FCM)算法的基础上,创新地使用自适应蝙蝠算法对模糊C均值算法进行优化,在算法中加入分布熵和平均位距来自适应地调整传统蝙蝠算法的寻优能力。该算法有效地克服了模糊聚类算法对初始值敏感且易陷入局部最优的问题,能有效地对无监督数据进行聚类。其次,在传统的ReliefF特征选择算法的基础上,使用模糊熵改进的加权KNN算法指导ReliefF算法特征选择,充分考虑了数据间不同的特征对特征选择带来的影响。该算法能够选择出具有代表性的特征子集,有效地降低了网络流量数据的复杂度。最后,根据上述两个创新点构建出一种基于模糊聚类和特征选择的无监督异常检测系统模型。使用自适应蝙蝠算法优化的聚类算法对原始数据进行聚类标记并使用模糊熵加权ReliefF算法进行特征选择,最后使用极限学习机作为分类器进行异常检测。该系统模型能有效地克服传统异常检测方法对带标记数据集的依赖且时间复杂度较低。使用公开的KDDCup99和CICIDS2017数据集对异常检测算法及模型进行验证分析。表明本文提出的聚类算法、特征选择算法及异常检测模型可以兼顾高检测率和低时间复杂度,具有较高的实际应用价值。