近几年,图神经网络的研究方兴未艾,在诸如知识图谱、社交网络、生物和化学等领域取得了卓越的效果。人们在享受它高效能力的同时,也在从各个方面对其可解释性进行研究,致力于探明其内部决策的机理。数学知识的推理由于知识的标准化、描述的规范化和使用图谱化形式进行推理,与图神经网络具有高度的契合性。因此将图神经网络与数学自动推理系统相结合,可以极大提升系统的学习和推理能力。针对其可解释性进行研究,能够使推理的过程更加透明,令系统更加“类人”。本文将图神经网络的可解释性基于输入的相关性分为两个类别:输入无关的模型级别可解释性和输入相关的实例级别可解释性,并将它们应用于“初等数学类人解题系统”中的知识表示和实例化定理选取。本文的主要工作如下所示:（1）将初等数学知识的表示学习分解为实体关系的嵌入学习和表达式的嵌入学习。对Trans E的计算可解释性进行了研究分析,然后将其应用于实体关系三元组的嵌入表示的学习之中。收集204762条数学三元组,对训练得到的实体关系向量设计基于计算可解释性的分析方法,验证其良好的基于距离的嵌入效果,在计算相近性的实验上准确率为62.78%。（2）对于数学表达式的表示学习,提出了更加符合数学知识的表达式置换等价任务,并构造相应的数据集,生成945882条数据。对BERT的结构可解释性进行探讨,然后应用在数学表达式置换等价任务的训练之上,训练准确率为94.52%。基于注意力结构和置换等价任务目的对训练结果的解释性进行分析探讨,证明表达式向量的有效性。（3）搭建图卷积网络,结合实体关系嵌入向量和表达式的嵌入向量作为节点特征表示,应用于题目图谱和实例化定理图谱的匹配之中。构造3892条数据,测试准确率为73.52%。为探究模型对输入中不同三元组的侧重程度,设计了对数学题目图谱进行扰动的解释性研究方法。然后进行实验并分析,探讨模型的学习效果。