知识蒸馏是知识迁移的一种实现方式,它使用训练好的复杂的教师模型来训练简单的学生模型,其中学生基于教师模型各类别上的预测概率,学习其中蕴含的暗知识,使得简单模型的分类性能可接近复杂模型的分类性能。知识蒸馏实际上是学生模型学习教师模型决策边界的过程,样本越靠近决策边界,学生模型学习的效果越好。因此,如何得到并更好的利用位于教师模型的决策边界附近的边界样本是知识蒸馏的核心问题之一。针对以上问题,本文利用对抗样本生成算法生成靠近决策边界的边界样本,提出基于边界样本的知识蒸馏数据增强方法,并针对多教师知识蒸馏提出边界样本对和基于边界距离的教师权重分配策略。其中,基于边界样本的知识蒸馏数据增强方法对原始样本进行对抗攻击修改,使之位于教师模型的决策边界附近,随后沿决策边界的多个方向逐步的迭代修改,从而扩充出多个适合用于知识蒸馏的边界样本。在每轮迭代中,在原始样本或上轮修改样本的基础上,利用教师模型的输出求出该样本附近决策边界的近似切面,在该切面上沿多个方向修改样本。最后,挑选与上轮的其他样本距离最远的样本作为该轮迭代的结果;对多教师知识蒸馏,本文提出了边界样本对这一新型样本组,其位于教师模型决策边界的两侧,能够帮助学生更好的了解教师在决策边界两侧类别得分的变化。在训练时,基于最大化教师与学生概率输出差异的原则在每批次中选取样本进行修改从而获得边界样本对。同时,本文提出基于样本到决策边界距离的多教师权重分配方法,将样本与各教师边界的距离作为各教师权重分配的衡量指标。通过增大边界更近的教师的权重、减小更远的教师的权重,提升多教师知识蒸馏的知识迁移效果。本文使用不同维度的图像数据集设计实验以验证上述方法的性能,实验结果证明了基于边界样本的知识蒸馏数据增强方法和边界样本指导的多教师知识蒸馏方法的有效性。同时,实验结果显示在训练集数据量较少的情况下,基于边界样本的知识蒸馏数据增强方法有远胜常规数据增强方法的性能;而当边界样本指导的多教师知识蒸馏方法与现有的多教师框架FEED结合后,也能在各个数据集上都获得当前最佳的性能表现。