深度神经网络由于具有强大特征提取和表征的能力,已经在计算机视觉、自然语言处理、智能决策等方面展现了卓越的性能。近年来,深度神经网络的设计引起了研究人员的广泛关注,各种高性能和高效率的神经结构不断涌现。但是手工设计一个神经网络需要大量的专家经验和反复的实验验证。因此,神经结构搜索方法被提出来在给定的任务上自动设计神经结构。基于梯度的one-shot神经结构搜索方法在高效实现结构搜索的同时,还具有不错的性能。该方法将搜索空间编码到一个超网络中,并给结构中的每一个操作赋予一个权重系数,即结构参数,通过梯度下降方法来优化网络结构参数。然后根据训练好的结构参数幅值来对操作进行排序,并依次选择保留较大结构参数对应的操作。这种方法存在两个问题,一是神经网络中的候选操作相对独立,没有考虑网络结构中候选操作之间的相互关系,即竞争或依赖关系。二是使用结构参数的幅值大小来定义对应候选操作的重要性具有较大偏差,而且实验发现它们二者之间的相关性较低。以上的两个问题将会导致神经结构出现性能不稳定甚至性能不佳的情况。为了解决以上的问题,本文分别提出了两个算法。对于问题一,我们考虑建立网络中候选操作之间的相互关系。具体地,我们引入自注意力机制到神经结构搜索中并为此开发了一个结构自注意力模块。该模块可以很方便地插入到搜索的网络层中,让候选操作之间进行信息交互来计算某一个特定操作的注意力系数。通过梯度反向传播来更新网络中的参数,从而突显网络中的重要操作并抑制无用的操作,为结构的选择提供重要的参考。对于问题二,我们提出了一种候选操作显著性的概念来量化操作的重要性。将每个操作与网络的输出之间建立起直接关系,从而观察单个特定操作对网络的影响。为了高效地计算该显著性,我们分别提出使用泰勒级数展开和费舍尔信息来近似计算操作显著性,在保证结构高性能的前提下,我们极大提高了结构搜索和结构选择的效率。为了验证提出的算法,我们在 CIFAR-10,CIFAR-100,fashionMNIST,ImageNet等图像数据集上进行了实验。实验结果显示我们的两个算法都能以较低的搜索时间成本获得高性能的神经网络结构,相比于其他的神经结构搜索算法,我们在搜索时间和结构性能上都展现出较大的优势。