近年来,得益于深度学习技术的快速进步和硬件性能的不断提升,人工智能技术得到了迅猛发展,并在多个研究领域得到了广泛应用。深度学习技术通常基于深度神经网络模型并使用反向传播算法优化,自动从数据中学习隐藏的特征和分布规律。随着深度学习技术的不断发展,模型结构与学习算法的复杂性逐渐提升,研究者针对目标任务设计深度学习流程的过程也逐渐复杂。对于特定的深度学习任务,包含了数据的预处理、机器学习模型和算法的设计、超参数的调整等步骤。这些步骤既需要机器学习领域的专业知识,又需要目标任务领域的专业知识,导致了深度学习技术对于非专业人士的应用门槛较高。研究者们提出了多种自动化机器学习算法,旨在自动学习出针对特定任务的学习流程,从而降低深度学习技术的应用门槛和算法设计的人力开销,例如元学习、神经网络结构搜索等。然而,传统的自动化机器学习算法存在下述四个关键问题:1)学习效率较差,影响技术的广泛应用;2)研究通常局限于深度学习的一个子领域,在不同模型和任务之间的可迁移性较差;3)通常仅针对深度学习流程中的一小部分进行优化,各个部分算法之间缺乏通用性;4)一般围绕目标任务本身的优化,对算法中指导模型训练的部分（元模型）关注较少。有鉴于此,本文对自动化机器学习这一领域进行了深入探索,并提出了一系列工作以解决上述问题:1.针对传统自动化机器学习算法对元模型缺乏关注的问题,本文以人类社会中的教与学概念为蓝本,提出了教学相长框架（Learning to Teach,L2T）,显式引入了“教师”与“学生”的概念,并通过教师与学生的信息交流和联合优化,体现教学相长的思想。2.针对传统算法仅针对深度学习流程中的一小部分的问题,本文将教学相长框架应用于数据选择、模型结构设计及损失函数设计等多个学习步骤中,提出了多个相关工作,构建了一个通用的自动化学习框架:首先,本文提出了一个基于教学相长框架的数据选择算法L2T-Data,该算法通过简单的状态函数和动作向量实现教师和学生之间的交互,并且使用深度强化学习算法自动学习出针对特定任务的数据选择策略,在图像分类和文本分类领域取得了较好的效果;其次,本文提出了一个基于教学相长框架的模型结构学习算法L2T-Model,该算法使用基于梯度的优化算法,教师模型在训练的过程中,针对学生模型的不同训练状态和数据的特征选择不同的模型结构,取得了比手工设计的模型结构更好的效果。3.针对传统算法缺乏可迁移性的问题,本文通过对教学相长框架的精心设计保证了框架的通用性,并且通过实验验证了算法训练得到的教师模型在不同任务之间较好的迁移效果。4.针对传统算法效率较低的问题,本文提出了基于反向微分的教学相长框架优化算法L2T-DI,该算法通过将学生模型的内部信息加入状态函数,实现了教师与学生模型之间的深层次交互,并且通过基于反向微分的迭代式算法,直接用梯度优化教师模型,改进了基于教学相长框架的数据选择算法,提升了框架的收敛速度和训练效果,在多个任务上取得了较好的性能。实验结果表明,本文提出的教学相长框架在图像分类、文本分类及机器翻译等任务中均能取得优于专家设计的经典网络以及传统自动化机器学习算法的性能,具有可接受的开销,并且在不同的任务之间具有较好的可迁移性,这证明了教学相长框架的有效性。此外,本文将教学相长框架应用于真实应用场景中,针对机器翻译任务搜索出了最佳的模型结构和超参数配置,取得了优于其他神经网络机器翻译模型的性能。