神经架构搜索是针对任务需求自动搜索最佳的神经网络架构的过程。设计神经网络需要专家花费大量的精力和时间,神经架构搜索的自动化流程可以有效解决此问题。尽管目前神经架构搜索取得了出色的性能,但其搜索过程仍然非常耗时。本文的贡献为提出了三种高效的神经架构搜索方法。第一,本文提出了一种基于分布估计的高效神经架构搜索方法,用于解决架构搜索耗时的问题,简称为EDNAS。分布估计算法是基于统计学习和种群进化策略的优化方法,具有快速解决复杂优化问题的能力。在EDNAS中,假设性能最好的网络架构在搜索空间中服从某个概率分布,从而把架构搜索转换为学习此概率分布。搜索过程中首先在搜索空间上构建概率模型,然后通过分布估计方法学习此概率分布,同时结合共享参数方法减少网络的训练开销,加快评估速度。第二,本文基于协同优化和模拟退火的思想在EDNAS基础上提出CO-EDNAS,从而在相近的搜索时间下提高搜索能力。该算法使用多个概率模型进行协同优化,实现在搜索空间中更大范围地搜索,具有更好的全局搜索能力。同时,在搜索过程中以模拟退火的方式根据概率模型的收敛程度动态调整种群的大小,既保证算法在初始时有较大的种群规模进行大范围探索,又让算法随着概率模型的逐步收敛降低种群规模,减少搜索时间。另外,CO-EDNAS中训练共享参数和学习概率模型解耦成两个独立过程并且以学习率补偿方法训练共享参数,使网络架构的评估更公平,减少搜索过程中的偏差。第三,本文结合快速非支配排序策略和CO-EDNAS提出MO-EDNAS,从而能够针对任务的多个目标进行优化搜索。MO-EDNAS一次运行能够搜索出多个在目标空间广泛分布的网络架构。在不同的数据集下,实验结果证明了本文三种方法的有效性。本文研究的意义在于,提出了三种高效的神经架构搜索方法,不仅提高了搜索的效率和性能,而且有利于促进神经架构搜索的深入研究,对实际应用也有着重要的意义。