人工智能模型的可解释性评估方法研究与实现

被引量 : 0次 | 上传用户:dfdfdfdfgdfdfg
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
许多模型是不可解释的,也称为黑盒模型,人们可以利用黑盒模型获得精准的决策,却无法解释模型决策背后的逻辑,在医学诊断、自动驾驶、金融借贷等涉及人们生命健康、财产安全的领域,决策失误的后果是十分严重的。可解释的人工智能(Explainable artificial intelligence,XAI)即通过特征重要性、模型蒸馏、代理模型等解释技术帮助用户理解模型决策的过程与逻辑。其中,构建代理模型的方式是目前主流的解释方法,在保证模型预测精度的同时增强了模型的可解释性。关于可解释性的评估,已有研究多通过组织用户实验的方式进行评估,但用户实验需要投入较多人力、物力且耗费时间长,较少研究涉及定量评估,且已有定量评估的研究多分别讨论单项指标,并未结合各项指标综合评估。针对目前可解释性定量评估不完善的问题,本文研究基于代理模型的可解释性评估方法。首先,基于代理模型特点,提出一套可解释性评估指标体系,涵盖一致性、明确性、复杂性及稳定性四个评估主题,并基于代理模型中常用的决策树模型,将四个主题细化为共8项指标,给出了各项指标的计算公式;其次,基于综合评估模型中的层次分析法与熵权法,结合以上指标体系,给出了面向决策树代理模型的综合评估方法;最后,针对一个具体的XAI应用,通过用户问卷调查实验与本文评估模型计算结果进行主客观对比,充分验证了所提可解释性评估方法是有效可行的。在人工智能模型可解释性评估方法研究的基础上,本文研发了一套可解释性评估系统,该系统具备XAI可解释性评估、评估结果分析等功能,涵盖数据集管理、模型管理、指标计算、评估及注册与登录五个功能模块。该系统可应用于XAI可解释性的定量评估,能够增强用户对人工智能模型的信任,推动人工智能在多领域的落地应用。
其他文献
学校的责任教育应遵循教育教学的规律,促进学生的全面发展。责任教育目标的表达有分层表达、体系表达和综合表达三种方式;责任教育内容的表达主要有阶梯模型、同心圆模型、网格模型三种方式。
期刊
互联网+背景下,市内游、乡村游因为安全性高、距离近、价格实惠而成为当今人们出行的首选,旅游景区新媒体营销代替传统营销成为必然趋势。文章以南通唐闸古镇为研究对象,进行实地研究和问卷调查,针对性提出景区新媒体营销优化策略。
期刊
本文采用文献资料法、专家访谈法、实地调研法等方法对我国大众健身体育产业纾困及主要致因进行研究,并提出相应治理促进策略。结论:(1)健身房“圈钱跑路”的主要致因为健身房的预付费模式;(2)伪私教盛行的主要致因为健身教练证书泛滥及健身房急功近利的运营理念;(3)健身房重卖课而轻服务的主要致因为健身房卖课多者待遇就好的错误导向;(4)健身房虚假宣传的主要致因为行业监管不规范;(5)不良教练频繁跳槽的主要
期刊
戊型肝炎病毒(HEV)是戊型肝炎的病原体,HEV已被公认为严重危害当地人类健康的病因之一。目前HEV的核酸检测存在操作复杂、成本高、易污染等问题,国内戊型肝炎诊断常用的指标是抗HEV IgM检测,临床上尚普遍缺乏简单易行的病原体检测手段。近期研究发现,HEV在复制过程中编码病毒衣壳抗原的orf2基因会同时编码一个分泌型的蛋白pORF2S,pORF2S大量释放到细胞外并进入血液循环中,血液中含量可达
期刊
报纸
<正>中华文化是中华民族共同创造的精神家园,中华文明内容丰赡、历久弥新,是中华民族精神和智慧滋生的沃土。党的十九大提出了"坚定文化自信,推动社会主义文化繁荣兴盛"的新任务。道德与法治课是落实立德树人根本任务的关键课程,在教学中融入优秀文化基因,用文化精髓陶冶学生情操,坚定文化自信,是彰显学科价值,体现学科综合性、人文性应有之义。在教学中,精心筛选文化素材、构建学习氛围、辨析文化现象等,有机渗透中华
期刊
文章运用文献资料研究法、访谈法、实地调查法,问卷调查法对上海九回共享健身房的运营现状进行研究。通过研究,将九回共享健身房的运营现状总结为:合作模式多样,经营模式创新、管理服务智能化程度高、品牌文化输出成功、用户整体满意程度较高,但运动体验的智慧化程度欠佳。认为九回共享健身房的运营模式具有一定的借鉴性,但在资金支持和技术支持上存在一定的适用门槛。同时,对上海市民健身驿站的发展提出对策:完善监督评价机
期刊
以火灾监测为目的,本文设计了多传感器集成的森林防火巡检无人机平台。该平台可根据预设路线自动巡航,自动判断火情情况,收集火情的信息,通过搭载的红外热成像仪和烟雾传感器测得温度值、温度变化率和烟雾浓度,同时结合模糊神经网路技术,将烟雾和温度复合,提高探测器的灵敏度和火灾情报的可信度,可用于全天候森林火灾监测、预警等,具有广阔的应用前景。
期刊
长时间以来,小学“三点半”的放学现象被广泛关注,学生减负带来的三点半放学与双职工家庭五点半下班之间存在时间冲突。2017年以来,教育部积极推进课后服务工作,先后出台了《教育部办公厅关于做好中小学生课后服务工作的指导意见》《国务院办公厅关于规范校外培训机构发展的意见》等文件,完善课后服务有关管理制度和保障机制。但小学课后服务作为在校内实施的一项民生工程,参与各方对其功能期待有所不同,这导致了课后服务
学位
<正>去冬今春,皖东地区干旱少雨,森林防火形势严峻。安徽省天长市林地面积60.06万亩,森林覆盖率34.21%,在西南、西北高岗丘陵片区、市区城西林区和环高邮湖西岸滩涂集中分布着10余处万亩林区。为预防和减少森林火灾发生,天长市扎实推行林长制,建立“市、镇、村、组”四级林长制工作机制,在加大人力护林管林基础上,还充分利用信息智能实时监控、无人机航拍监测等手段,在全省率先打造森林防火信息化高科技管理
期刊