随着网络技术的飞速发展和网络应用范围的不断扩大，对网络的各类攻击与破坏与日俱增。在网络安全问题日益突出的今天，如何迅速有效地发现各种入侵行为，对于保证系统和网络资源的安全显得十分重要。入侵检测是继防火墙、数据加密等传统安全保护措施后的又一种新的安全保障技术。入侵检测数据样本数量大、特征属性多且类型各异、不同类型样本数量分布不均衡，导致检测率低，算法时间复杂度高，无法检测出未知攻击。因此，将粗糙集和模式识别中的特征提取和特征选择方法应用于网络入侵检测的特征提取，引入聚类方法和遗传算法进行网络入侵检测。本文主要工作如下：首先，采用了以粗糙集理论为基础的特征选择，对实验所用数据集进行特征提取，精简数据维数。其次，针对传统聚类算法无法直接处理离散型数据的缺点，采用了混合数据的相异度算法，将混合数据的相异度矩阵与聚类算法结合，使聚类算法能够处理包含连续型和离散型数据的混合数据集。最后，针对传统k-中心点聚类算法存在的聚类数目难以确定，对初始值敏感且易陷入局部最优解的缺点，提出一种无监督的遗传算法与k-中心点聚类算法相结合的混合聚类算法，有效解决了传统k-中心点算法存在的缺陷。同时算法能够识别新型攻击。在KDD Cup 99数据集上的实验表明，改进的算法是正确和有效的。粗糙集方法的引入提高了入侵检测算法的效率，相异度矩阵的应用扩大了入侵检测算法的适应性，遗传算法与k-中心点聚类算法相结合，使得入侵检测算法的正确性更趋于稳定。这些优势使得该入侵检测算法能够适应当今网络安全形势的要求。