自动音频标注是一项多模态文本生成任务,旨在要求系统根据输入的音频片段,生成一段文字来描述音频。相比于传统的音频分类等任务,自动音频标注任务更为复杂,但也有着更广阔的应用前景,例如为残障人士提供便利服务等。已有的工作主要注重于探索新的方法以及如何更好地利用已有的数据集来改善模型的表现。目前,学界很少有工作利用预加载模型或是预训练手段来改善音频标注系统的表现。因此,本文针对自动音频标注这项多模态任务,探索了不同的单一模态的预加载模型组合来提升多模态系统性能的可行性,具体的工作内容如下:（1）为了在多模态任务中利用不同单模态的预加载模型组合来提升系统的性能,本文首先尝试了音频模态的预加载模型。我们将音频分类中的预加载模型PANNs引入至我们的音频标注系统之中,并用于初始化我们编码器模型的参数。然后,我们利用音频片段更多的Audio Caps数据集对于我们的音频标注系统进行预训练,以便于我们的编码器能够提取出更有利于解码器生成语句的音频特征信息。我们在质量更高的Clotho数据集上进行了训练,实验结果表明,我们所使用的单音频模态预加载模型效果良好,能够明显的提升音频标注这个多模态系统的表现。（2）针对音频标注系统里文本生成的部分,本文使用了一种来自于强化学习的预训练方法对音频标注的文本生成部分进行预训练,获得一个能够生成更加贴合文本评价指标标注语句的预加载模型。实验结果证明了使用该预加载模型的音频标注系统能够生成更高得分的标注语句。最后本文在此基础上探索了如何将不同模态预加载模型组合应用至自动音频标注系统之中。通过将上述的文本模态预加载模型与音频预加载模型PANNs相结合,最终在Clotho数据集上的训练的实验结果表明,使用单模态预加载模型组合方法能够大幅提升自动音频标注这个多模态系统最终的得分表现。