随着人工智能领域的高速发展,图像理解相关技术已经广泛的应用到现实场景当中,如行人识别、医疗辅助诊断,军事安防等领域。图像理解任务含有图像分类、目标检测和实例分割等。其中,深度神经网络模型的优劣将会对这些任务的最终性能起到重大的影响。然而,尽管大量深度神经网络模型已经以优异的性能取得了令人瞩目的成功,但在实际应用中仍然面临两大问题。其一,如何使模型在保持高性能的同时具有较低的复杂度且能够成功部署到算力和存储空间受限的移动设备或者嵌入式平台上?其二,如何对黑盒深度学习模型进行解释,以了解其内部机制和做出决策的原理?因此,面向图像理解的深度神经网络建模关键技术的研究则至关重要。本文进行探索轻量化且高性能的深度神经网络模型的结构,研究模型可解释性方法都具有很强的现实意义。本文专注于研究图像理解任务中的轻量化网络模型结构设计,致力于进一步提高模型性能的方法,尝试推动深度学习模型可解释性的发展。主要工作如下:（1）本文提出了一种有效的轻量级网络结构Tree Block,并基于此建立了一个高效的深度神经网络模型Tree Net。具体地,Tree Block继承并发展了单次聚合单元,通过细粒度的浅残差模块、瓶颈结构等设计降低了其模型复杂度。为了进一步提高模型性能,本文对Tree Block引入粗粒度的残差连接和注意力机制。相关实验表明,相较于主流的神经网络模型,本文提出的Tree Net能够在保持较低模型复杂度的同时具有更高的模型性能。（2）为了进一步压缩网络模型参数量使其易于部署,本文提出了一种简单、快捷且有效的模型蒸馏方法,基于多教师集成的知识硬蒸馏方法（TEHKD）。相较于传统的基于响应的知识蒸馏模型,TEHKD避免了相关超参数设置,具有更强的适用性。另外,TEHKD能够充分利用不同教师模型的优势,为监督学生模型训练提供更为丰富的知识信息。实验表明,该蒸馏方法可以有效的提高Tree Net的性能。（3）为了帮助人们建立对深度学习模型的信任,本文提出了一种高效且更真实反映模型决策结果的可解释性方法Group-CAM。通过简单的“分割-变换-合并”策略,Group-CAM能够在极短的时间内快速生成与目标类别高度相关的显著热图。相比于前沿的可解释性方法,本文提出的Group-CAM所需的计算量更小,且具有更加优秀的视觉显示效果。因此,人们可用其解释Tree Net做出分类决策的依据,帮助建立对模型的信任。此外,文章扩展了Group-CAM的应用,将其作为一种有效的数据增强策略对提出的Tree Net模型进行微调。实验结果表明使用Group-CAM进行微调能够有效的提高基准分类模型的性能。