许多模型是不可解释的,也称为黑盒模型,人们可以利用黑盒模型获得精准的决策,却无法解释模型决策背后的逻辑,在医学诊断、自动驾驶、金融借贷等涉及人们生命健康、财产安全的领域,决策失误的后果是十分严重的。可解释的人工智能（Explainable artificial intelligence,XAI）即通过特征重要性、模型蒸馏、代理模型等解释技术帮助用户理解模型决策的过程与逻辑。其中,构建代理模型的方式是目前主流的解释方法,在保证模型预测精度的同时增强了模型的可解释性。关于可解释性的评估,已有研究多通过组织用户实验的方式进行评估,但用户实验需要投入较多人力、物力且耗费时间长,较少研究涉及定量评估,且已有定量评估的研究多分别讨论单项指标,并未结合各项指标综合评估。针对目前可解释性定量评估不完善的问题,本文研究基于代理模型的可解释性评估方法。首先,基于代理模型特点,提出一套可解释性评估指标体系,涵盖一致性、明确性、复杂性及稳定性四个评估主题,并基于代理模型中常用的决策树模型,将四个主题细化为共8项指标,给出了各项指标的计算公式;其次,基于综合评估模型中的层次分析法与熵权法,结合以上指标体系,给出了面向决策树代理模型的综合评估方法;最后,针对一个具体的XAI应用,通过用户问卷调查实验与本文评估模型计算结果进行主客观对比,充分验证了所提可解释性评估方法是有效可行的。在人工智能模型可解释性评估方法研究的基础上,本文研发了一套可解释性评估系统,该系统具备XAI可解释性评估、评估结果分析等功能,涵盖数据集管理、模型管理、指标计算、评估及注册与登录五个功能模块。该系统可应用于XAI可解释性的定量评估,能够增强用户对人工智能模型的信任,推动人工智能在多领域的落地应用。