随着计算机网络安全问题也不断增加，网络安全已逐渐发展成为人们关注的焦点。由于网络安全的综合性和立体性，单纯依靠网络安全技术不可能满足全部的安全要求，将其他学科的理论或模型应用于其中已成为网络安全发展的新趋势，近年来成为机器学习研究热点的RoughSet理论是一个不错的选择。RoughSet理论是知识获取的一种方法，能有效地分析和处理不精确、不一致、不完整等各种不完备信息，并从中发现隐含的知识，揭示潜在的规律。本文将RoughSet理论应用于网络安全的两个主要分支问题——邮件分类问题和网络入侵检测问题进行研究和讨论。 本文通过对网络安全理论、邮件分类技术的回顾与深入研究，提出了一个基于RoughSet的邮件分类模型并实现了分类算法，得到了分类规则，扩充并丰富了邮件安全的分析方法，并在此基础上实现了基于RoughSet理论的邮件分类系统(ECSRS)，通过仿真试验验证了ECSRS系统和分类算法是切实有效的。 入侵检测系统是网络安全领域的又一重要分支。为了解决在入侵检测系统中，检测规则自动获取的问题，本文介绍了一种将RoughSet理论应用于规则获取模块的智能的规则获取方法，能够自动从网络数据包中提取用于检测的规则集。另外，为了解决当新攻击出现时规则集的更新问题，引入了基于RoughSet和规则树的增量式知识获取算法(RRIA)，并在此基础上实现了基于RoughSet的网络入侵检测系统(RSNDS)，仿真试验结果表明该方法需要的训练数据较小，用于在线检测对系统性能影响很小，是一种高效率低负荷的检测方法。