计算机性能的提升带来了深度神经网络模型的兴起,然而随着模型规模的日益膨胀,研究者们在探索相近参数量下能达到更高性能的模型结构方面投入了大量的精力与成本。神经网络架构搜索致力于使用计算机代替人力自动化的完成这一探索过程,然而由于对网络结构性能评估的困难性以及现有高效模型所使用的权值共享策略的局限性,现有的工作大多根据经验大幅度对搜索空间进行约束以保证高效的获得一个近似解,如何快速且有效的完成对高效神经网络架构的搜索也仍是一个尚待解决的问题。本文设计了一个与已有神经网络架构搜索研究相正交的新型搜索空间与搜索策略,使得神经网络架构搜索算法的搜索空间有所拓宽,同时通过在已有搜索与评估策略的基础上应用知识蒸馏,使得对网络结构性能的评估可以更加高效与准确,并进一步提高了算法在探索模型结构过程中的灵活性。本文的主要工作包括以下内容:（1）本文提出了一个相比现有主流算法的线性搜索空间更大的树型搜索空间和与之匹配的分步网络搜索算法,虽然相比最初的神经网络架构搜索算法所搜索的拓扑型搜索空间而言仍有所局限,但本文提供的结构便于使用权值共享策略,可以保持与主流方法相近的搜索效率。（2）本文针对权值共享策略对于相同位置的可选结构间的同功能假设,提出使用知识蒸馏技术进行对齐的方法,通过这种方法可以提高各个可选模块之间行为的一致性。在提高神经网络架构搜索算法的效率的同时提高了权值共享策略的有效性,使得继承自超网参数的子网之间的性能排名与进行完整训练过程后得到的性能排名拥有更强的一致性,从而保证即使在更为复杂的空间中权值共享策略仍然可以拥有较好的效果。（3）提出了通过知识蒸馏技术对于所提出的树型神经网络结构进行调整的方法,使得在出现新的条件限制时可以在已有搜索得到的神经网络结构的基础上通过微调模型结构快速得到一个可接受的神经网络模型结构。