基于联邦学习的PATE模型优化与应用

来源 :贵州大学 | 被引量 : 0次 | 上传用户:woshishaoqiaolin
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
教师模型全体隐私聚合(Private Aggregation of Teacher Ensembles,PATE)方案是机器学习领域内针对隐私保护的重要框架,但其存在由数据独立存储及数据划分导致的教师模型分类准确率低的问题。联邦学习是一种保护数据隐私的机器学习框架,各参与方以数据不出本地为前提联合训练一个联邦模型,能解决PATE中存在的模型分类准确率低的问题。因此,本文结合联邦学习的思想以优化PATE方案,继而提升模型分类性能。但利用联邦学习训练教师模型时还存模型参数泄露问题,针对此问题,以差分隐私、同态加密为理论基础,研究基于联邦学习的PATE模型隐私保护方案,最终设计并实现信用卡欺诈检测系统。具体研究内容如下:(1)提出基于横向联邦学习的PATE模型优化方案。PATE中通过训练数百个教师模型来保障模型鲁棒性,然而,训练时对独立存储数据的划分导致其模型分类准确率低。针对此问题,引入联邦学习思想训练教师模型,采用联邦平均算法提高模型分类准确率,并基于高斯机制的差分隐私加强模型隐私保护。理论分析表明,所提优化方法能提升模型分类性能。(2)提出基于横向联邦学习的PATE模型隐私保护方案。由于利用联邦学习训练教师模型时存在隐私泄露风险。针对此问题,在联邦模型训练过程中,引入同态加密和差分隐私技术,并去掉预测聚合阶段的差分隐私机制,最终实现所提出的PATE模型隐私保护方案。实验结果表明,该方案能在保护隐私的前提下提升模型分类准确率,并降低了教师模型数量对训练结果的影响。(3)设计并实现信用卡欺诈检测系统。在信用卡欺诈检测中由于数据独立存储在不同机构,是一种典型的分布式机器学习应用场景。本文结合Tensor Flow和Django等主流开发技术设计并实现了信用卡欺诈检测系统。该系统主要包括信息管理、数据管理、模型训练和模型使用四个功能模块。系统测试结果表明该系统能以较高的准确率识别出信用卡欺诈行为,已达到预期目标。
其他文献
本文针对磷石膏固体废弃物的地面堆积问题,结合贵州省瓮福磷矿磷石膏赋存的物化特性和矿山充填工程的强度要求,基于现场调研、理论分析、物理实验、现场工业性试验等研究方法,对贵州地区磷石膏基复合胶凝体充填材料的强度规律演化进行了研究,主要研究成果如下:(1)分析得到各胶凝材料的基本物化特性,其中磷石膏、水泥和生石灰的水化胶凝机理关系为水泥为胶凝物料的生成提供了具有火山灰活性的反应物,磷石膏的存在为水泥的水
学位
<正>古往今来的文人墨客惯于描绘宁静的湖泊风光,仅以唐宋名家为例,范仲淹说“波澜不惊”,欧阳修曰“十顷波平”。白居易眼中的西湖是“水面初平云脚低”,刘禹锡笔下的洞庭湖则是“潭面无风镜未磨”。似乎湖水之波平如镜已成共识。然而,我却忍不住要写一处动态的湖泊景观,它是位于浙江省杭州市淳安县的千岛湖。
期刊
随着全国数字化、智能化浪潮的加速推进,国内一些大型的港口、码头也顺应时代发展的需要,已完成全流程智能化、自动化的改造。智能港口这个概念出现于2004年,它并非是一个单纯的概念,而是一套系统,是将各种先进的信息技术和自动化技术综合应用于整个港口物流作业、运输服务及港口管理等各个方面的一套体系。文中以物流公司发展智慧调度为例,分析了当下调度员线下调度的现状,通过制定和实施智能调度系统方案,重新梳理业务
期刊
<正>元江县种植台湾青枣的历史开始于1999年前后,已有20多年,最初的种苗引自海南省[1]。2020年时,种植面积约1065.86 hm~2,产量5032.67多万kg,产值31418万元[2],市场平均单价6.24元·kg-1;种植区域主要集中分布在红河街道、澧江街道、曼来镇及甘庄街道等,海拔380~900 m的热带河谷区[1]。
期刊
视觉能够帮助人们更好地识别外界的变化,让机器像人类一样拥有视觉帮助人们处理一些繁重,危险的任务有着巨大的应用前景,也直接推动了计算机视觉的产生和发展,其中单目标跟踪技术得到了大幅度发展,已经成为计算机视觉领域的重要研究课题。目前,该技术在军用和民用这两大领域的渗透率不断提高,很大程度上提升了我国的国防力量,也改善了人们的生活品质。目前较为流行采用深度学习的方式来对复杂场景下的单目标进行实时跟踪,虽
学位
小目标检测与跟踪是计算机视觉中的重要研究问题之一,构建恰当的计算模型,高效准确地检测和跟踪小目标对象对人工智能的发展具有重要意义。近年来,生物视觉感知神经机理已初步得到揭示,这为解决计算机视觉感知中的难点问题提供了新的研究思路。目前,生物视觉神经学理论已被初步应用在构建执行诸如碰撞检测、运动模式识别等视觉感知任务的新型人工视觉系统,但对小目标对象的检测、运动跟踪等仍鲜有涉足。因此,深入挖掘生物视觉
学位
随着智慧医疗技术的迅速发展,电子病历因易存储、易操作和易共享等特性逐渐常态化。然而,传统医疗数据共享存在开销大、效率低、患者隐私信息易泄露等问题,从而患者医疗数据的隐私安全得不到保障。区块链技术具有去中心化、防篡改、公开透明、可审计等特性,可作为一种分布式环境中的可信数据账本,能够实现数据共享过程中的数据可追溯。属性加密是数据安全访问控制技术的一种,是数据共享过程中保证数据安全性和可靠性的重要手段
学位
行人重识别技术旨在从由多个摄像头拍摄而成的行人图像库中检索出目标行人。基于深度学习的行人重识别模型在拥有大量数据作为支持的情况下能达到很好的性能,但行人重识别领域绝大多数的工作主要是设计更好的网络架构模型,对于设计更好的数据增强方法却少有人去探索。在实际的应用场景中,行人重识别还面临着跨域的挑战,即将一个数据集上表现良好的行人重识别模型应用于另一个数据集时,由于源域数据和目标域数据来自不同的场景,
学位
无线传感器网络(Wireless sensor networks,WSN)是由大量低价、低性能、可自我管理的节点聚合组成的一种分布式传感网络。作为物联网底层支撑技术,无线传感器网络因其特殊结构获得便利,但也因此引入了诸多传统技术难以解决的安全问题。例如,WSN的物理脆弱性致使部署其中的安全系统更易遭受内部攻击,其计算资源受限性又阻碍了相应信任环境的构建。但如今,区块链技术给出了诸多解决物联网环境信
学位
推进农民合作社质量提升,加大对运行规范的农民合作社扶持力度,新时代在农民合作社示范社培育上到了从数量型向质量型的转变,到了全面提质、综合增效的新阶段。为了进一步加强示范社建设工作,创新示范社培育机制,发挥好示范社的典型引领作用,应该加强人员培训、完善考评措施、创新项目扶持、建立统筹机制,促进示范社建设迈向更高的台阶,充分发挥典型示范社在农民专业合作社整体质量提升中的典型示范、典型引领作用。
期刊