无线通信业务的发展使得频谱资源变得越发紧张,而现有的频谱利用效率却不高,动态频谱资源分配策略被认为是解决上述问题的有效方案。然而,与静态分配相比,动态资源分配下的无线电使用环境更加复杂,信号间相互干扰的问题更加突出。尤其是在卫星通信系统中,因卫星所在轨道距地遥远,通信距离远,传输损耗较大,且由于频谱资源受限,卫星频段越来越接近地面移动通信频段,相互间干扰的情况更加严峻。对此,本文提出并实现了两种应用于不同场景的频谱异常检测算法。首先,在只需对小段频谱范围进行异常检测的场景下。针对在使用监督学习进行异常识别的任务需要大量的标记数据及星上算力资源受限的问题,本文采用轻量级的全连接神经网络实现异常告警及分类,我们通过频谱监测系统能获得丰富的实验样本进行模型训练,在训练时引入生成对抗架构实现半监督学习。以无监督学习的自编码器提取频谱特征,采用占总样本量1/4的标签数据训练分类器结构。以较少的标签数据集实现了良好的频谱异常告警及分类,在虚警概率为16%的情况下实现了正确97.3%检出率。对于更大频带范围的异常检测任务,针对现有的异常检测方法难以对异常信号的频点位置、其所影响的频带范围、干扰强度及类别等信息进行统一识别的问题。本文根据任务需求使用基于图像目标检测的方法进行异常检测。针对频谱异常监测的具体场景,我们对检测模型做出优化改进:对频谱图像形态作预处理;针对异常目标的尺度进行基于感受野概念的特征提取网络的搭建;采用一维化的异常目标判决器模块代替传统的网格化目标预测。较大程度上降低了模型的冗余度,且实现了优异的检测性能,m AP值达到92.81%,在综合虚警概率为7.64%的情况下检测概率不低于93.94%。能够满足实际检测任务的需求。