随着深度神经网络在分类等任务中准确率的提高,深度学习系统被应用于越来越多的领域中,如自动驾驶系统等。虽然一些深度学习系统在给定的任务中能表现出不错的水准,但是所有的网络都仍旧存在着决策错误。面对网络决策可能存在着的缺陷,且常规的评价指标难以量化,所以如何减少网络决策出现错误带来的损失,是一个值得研究的问题。为了对网络可能出现的决策错误进行预警,本文中提出了一种监控运行时神经网络决策准确性的方法。本文提出的监控方法,在不影响原神经网络性能的前提下,保留了神经网络中的关键信息,通过分析神经网络的内部输出来判断神经网络决策的准确性。由于神经网络中神经元的输出直接影响网络的决策,因此本文首先研究输入数据在网络中神经元的激活情况形成的神经元激活模式,再研究输入数据的神经元激活模式与自身所属类别之间的关系,来探索网络内部输出与最终决策之间的联系。通过神经元激活模式的研究发现,不同类别的神经元激活模式存在一定的特点。因此根据一个类别输入数据的神经元激活次数,提取具有类别代表性的神经元激活模式,并称它为“类别神经元激活模式”。基于以上研究,本文提出了一种基于类别神经元激活模式的监控网络决策准确性的方法,该方法既考虑网络的最终输出,也考虑到该输入在网络内部的输出。为了验证本文提出方法的有效性,在MNIST、FASHION-MNIST、CIFAR-10的数据集上进行了实验。实验结果表明,该方法可以检测出绝大多数错误分类的样本,可以对神经网络出现的错误决策进行预警。并且相比于同类工作,在F1等度量指标上有所提升,且有更少的空间和时间开销。