信息时代产生的大数据既包含正常数据,也包含着很多与数据一般分布模式不一致的异常数据,这些异常数据可能是误差或噪声引起的,也可能就是真实现象的反应,对这部分数据的有效识别和分析具有重要的价值。研究人员已经提出了多种异常检测算法,这些算法各有特点也存在一些问题,如基于距离的算法无法识别出多密度分布的异常,基于图分割的算法无法确定最优割。本文对以上两种算法进行改进,引入图论中团和正则图的概念,将数据转化为图的形式,使用顶点表示对象,边表示对象之间的联系,搜索图中的所有团和正则图集合,最后检测出异常顶点,主要研究工作如下:（1）提出了一种基于邻近性和团的异常检测算法。针对传统基于距离的方法没有考虑局部正常对象之间的连接性的问题,采用对数据中存在的团进行搜索的思路,提出了一种基于邻近性（Proximity）和团（Clique）的异常检测算法,简称PCOD算法。算法主要包括两个步骤:首先,根据数据对象之间的邻近性,将数据中各个对象表示为存在边的无向图。再递归搜索图获取所有团集合,对所有的团进行分析并检测出没有抱团的异常点。实验结果表明PCOD算法在精确率方面优于同类异常检测算法。（2）提出一种搜索K-正则图的异常检测算法。针对基于图分割的异常检测算法难以确定最优割,无法检测到隐藏在正常对象周围的局部异常点问题,采用搜索数据中的正则子图,用K-正则图表示数据对象异常性的思想,提出了一种基于正则图特性的异常检测算法,简称KR算法。该算法分为两个阶段:在开始阶段,计算对象之间的距离作为对象之间的相似性,将对象转化为图的形式;在第二阶段,使用正则图的特性描述顶点在整个稀疏图中的异常性,将搜索到的低K-正则图中的顶点作为异常。理论分析和实验结果表明,基于正则图的算法相比传统算法有较好的适用性与检测精度。（3）在上述研究的基础上,设计了一个恒星光谱异常检测原型系统。介绍了光谱分析的基本流程以及预处理方法,系统运行结果表明,该系统可以有效识别光谱流量明显异常的数据。