异常行为指与大多数观测结果相比,存在模式、特征上的显著偏差的行为,在比特币区块链中:流量的异常波动存在显著的数值偏差,代表了一种典型的异常行为;非法交易的行为模式与众不同,是一种典型的异常。诸如此类的异常行为往往暗示着威胁系统或引起市场巨大波动的危险性信号。因此,异常行为检测在比特币区块链中的应用有利于及早感知风险、做出响应,有效打击违法犯罪活动,防止它们损害网络的稳定性和完整性,但目前,对于比特币应用场景,还没有表现出明显优越性的方法。本文基于比特币网络产生的公开数据,研究设计了一套异常行为检测系统,分别从宏观的流量数据和微观的具体交易出发,兼顾整体网络和具体用户,设计了两种不同的异常检测方法:（1）以宏观的网络流量行为研究对象:针对异常的流量波动,提出利用一类支持向量机和编解码器的组合对无监督的网络宏观流量数据提供可视化的分析结果和异常告警,其中编码器解码器部分负责信息的重建和可视化的实现,一类支持向量机基于真实值与重建值的偏差进行异常判定,最后测试、对比了方案的信息重建能力、可视化效果以及对重大事件的感知能力。（2）以微观的交易行为为研究对象:针对非法类型的异常交易,基于交易特征和交易图信息,提出以演化图卷积神经网络和图注意力机制方法进行特征提取,随机森林用于异常行为的检测判定,提供非法交易的异常告警,基于公开的数据集测试、对比了模型的分类能力。在整合完毕的系统中,编解码器的重建结果能够较为直观的展现流量的异常表现,体现出可视性方面的优势,而基于交易特征和交易图信息的设计展现出良好的异常检测能力,提供了更为全面的异常检测解决方案,有利于及早感知风险、做出响应,有效打击利用比特币进行的违法犯罪活动。