基于迁移学习的fMRI视觉信息解析技术研究

来源 :战略支援部队信息工程大学 | 被引量 : 0次 | 上传用户:a429629261
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
视觉是人类感知复杂生存环境最重要的感官通道。研究大脑视觉系统信息处理计算模型,对于理解视觉表征的功能组织方式、促进视觉类脑计算和视觉解析脑机交互技术的发展具有重要意义。在研究大脑的外部工具中,功能磁共振成像(functional Magnetic Resonance Imaging,fMRI)因其具备非侵入性和高空间分辨率等优点,已经成为获取人类视觉神经活动的主要手段。基于f MRI的视觉信息解析技术研究包括两个方向,一是构建正向编码模型以预测大脑活动,二是构建反向解码模型以解读大脑活动。近年来,以卷积神经网络(Convolutional Neural Network,CNN)为代表的深度神经网络(Deep Neural Network,DNN)模型,在视觉信息解析技术研究中得到广泛运用。与计算机视觉中Image Net百万级的数据样本规模不同,现有最大规模f MRI视觉实验数据集也只能达到千级样本量,无法满足依赖大样本量才能实现强大非线性拟合性能的DNN的需求。如何在有限样本量下充分获取并利用视觉信息,提升编码预测和解码重构性能具有重要的研究意义。迁移学习是一种利用源域的模型和知识来提升目标域网络性能的学习方式,是深度学习领域针对小样本问题的有效解决手段。本文围绕“如何利用迁移学习提升视觉信息解析模型性能”这一中心,从“视觉任务迁移”、“视觉皮层脑区迁移”和“视觉编码信息迁移”三个方面展开研究,探索通过不同迁移学习方式构建视觉信息解析模型,提升编码预测和解码重构性能。主要工作如下:1.基于自监督视觉任务迁移的视觉编码模型研究。生物视觉系统具有显著的无监督学习特性,目前基于视觉任务迁移的编码模型研究主要采用有监督方式训练的深度网络模型,与生物视觉系统存在明显差异。针对此问题,本文构造了基于对比式自监督视觉任务迁移的视觉编码模型。深度网络中的对比式自监督模型不依赖外部标签,可以直接利用样本间的对比信息提供监督进行学习。本文首先利用对比式自监督模型Sim CLRv2的编码器模块提取刺激图像特征,然后训练特征到大脑视觉响应的线性映射模型,实现对大脑活动的预测。实验结果表明,对比式自监督模型可以有效预测大脑腹侧视觉流体素响应,且相比于有监督模型,在V1、LOC和FFA视觉区展现出显著优势。2.基于视觉皮层脑区迁移的视觉编码模型研究。在层次化视觉信息加工模式下,相比于低级视觉区,中高级视觉区编码模型性能受数据样本规模和加工特征的不确定性影响更为严重。针对此问题,本文构造了基于视觉皮层脑区迁移的视觉编码模型。该模型借鉴大脑视觉系统递进加工的信息处理方式,将低级视觉区编码模型的卷积模块作为特征提取器,迁移至中高级视觉区编码模型,促进了不同视觉区域之间的信息迁移。本文首先为各视觉区训练一个端到端视觉编码模型,然后在低级视觉区编码模型的卷积模块基础上,添加卷积层和全连接层重新训练中高级视觉区编码模型。实验结果表明,在经典数据集上,本文采用的视觉皮层脑区迁移模型构建方法能显著提高中高级视觉区编码性能,在V4和LO编码准确率上较现有模型分别提升了4.1%和7.8%。3.基于层次化视觉编码信息迁移的视觉重构模型研究。在视觉重构模型优化过程中引入视觉编码信息可有效提升模型性能,目前基于视觉编码信息迁移的重构模型对所有视觉区采用相同的编码方式,忽略了视觉系统不同区域之间信息加工的差异性。针对此问题,本文构造了基于层次化视觉编码信息迁移的视觉重构模型,通过为不同视觉区精细设计编码模型,促进编码信息向重构模型迁移。本文首先利用预训练VGG19网络模型不同卷积模块,为V1、V2、V3和中高级视觉区分别设计训练视觉编码模型。然后设计由反卷积模块组成的重构网络,并利用有监督配对样本损失和编码器引入的自监督损失同时训练优化重构模型。实验结果表明,本文通过层次化视觉编码信息迁移,提升了视觉重构模型的性能。图像重构结果有效恢复了刺激图像的边缘轮廓、形状和颜色等信息,基于皮尔逊相关系数的辨识率较现有模型提升了1.1%。
其他文献
进入二十一世纪以来,我国政府不断完善以非物质文化遗产为核心的法律、法规,颁布了有关优秀传统文化保护的政策性文件,国家的一系列举措给非遗文化带来了巨大的发展机遇。宣纸作为具有代表性的非遗文化,中国传统艺术的瑰宝,手工纸的杰出代表。宣纸产业是独具特色的文化产业,在经历辉煌、困顿、重生、兴起之后,宣纸企业在品牌打造上依旧存在同质化、定位不清晰、品牌形象不统一的问题,低端宣纸更是没有品牌视觉形象。如何通过
学位
历史文化街区既代表着当地的文化底蕴和历史沿革,也是地区文化资源中重要的组成部分。但是,随着现代城市的大规模建设,一些历史街区的环境和文化受到了严重的破坏。原始的地域环境已经逐渐消失,历史文化也逐渐被割断,历史街区的发展面临着巨大的挑战。如果没有文化作为根基,那么再好的建筑都会失去生机。要把历史文化街区的改造与保存历史文脉统一起来。不仅要改善居住环境,又要保护历史文化底蕴,让历史文化和现代生活融为一
学位
莲藕(Nelumbo nucifera Gaertn),也称莲、荷藕等,富含碳水化合物、蛋白质、抗坏血酸等多种营养物质成分。在鲜切果蔬市场前景广阔的今天,鲜切莲藕因其具有天然、新鲜、营养和方便的特点备受国内外市场青睐。但其在加工过程中极易发生褐变、营养价值降低和微生物腐败等品质劣变,使产品开发与应用受到极大地限制,因此,十分有必要对莲藕的鲜切加工技术开展研究。超声波(ultrasound,US)技
学位
徽州古戏台作为戏曲表演的载体,是当地民众庆祝节日,举办祭祀和娱乐活动的重要场所,它反映着徽州戏曲、宗族、民俗、建筑、艺术等多方面的文化内涵。而剧院交流空间作为开放性质的公共空间,能够满足公众观演之余的沟通、社交、休憩、娱乐等多方面需求,它的兴建对弘扬戏曲文化及促进当地文化性建筑的发展存在重要意义。基于此,本课题以徽州古戏台的艺术特征作为切入点,对徽州古戏台文化背景、发展现状和特点表现等进行深入分析
学位
MK-7是一种非常有价值的脂溶性维生素K2家族的成员,是一种多烯化合物,主链由2-甲基1,4-萘醌环结构组成,侧链由七个异戊二烯单元组成。据报道,MK-7是微生物质膜的一种成分,是呼吸链上的重要电子传递载体。在人体中具有半衰期长、生物亲缘性高等优点,对于预防骨质疏松、心血管疾病以及外周动脉疾病中具有重要作用。有研究表明枯草芽孢杆菌生物膜的形成,可以促进维生素K2的合成,而sinR是枯草芽孢杆菌生物
学位
知识分子叙事是20世纪最为重要的文学现象之一,同时也是王跃文小说的突出特点。从20世纪90年代初发表处女作《无头无尾的故事》到世纪之交的官场系列小说,再到2022年底的长篇小说《家山》。在三十余年的文学创作生涯中,王跃文始终关注和思考中国现代化进程中知识分子的命运处境,并从精神追求与生存状态两方面建构了独特的知识分子形象谱系,一方面表达了对知识分子人格异化的同情和批判,另一方面传递出对知识分子理想
学位
随着社会的高速发展,我国已经进入老龄化社会,老年人口数量增加。2021年5月公布的第七次全国人口普查数据显示,我国60岁及以上人口为26402万人,占全部人口的18.70%,与2010年相比上升5.44个百分点。在这些老年人中,有一部分更为特殊的群体,即退役老兵。退役老兵身上有着老年人共性的问题,同时由于部队经历,又有着不同的个性问题,因此退役老兵存在的问题比较复杂。一直以来,我国都非常重视退役军
学位
公共租赁住房是指由政府投资、建设和管理,或由政府提供政策支持、其他各类主体投资筹集、纳入政府统一管理,规定建筑面积和租金标准,租赁给符合条件的城镇收入中等偏下、住房困难家庭、新就业无房职工和在城镇稳定就业的外来务工人员的保障性住房。然而,我国公共租赁住房发展起点较低、发展时间较短,发展速度较慢,相关的法律法规和政策制度还不够健全,在具体的实施过程中出现了诸如退出率低、“骗租”和“赖租”等诸多违法违
学位
本文基于某航空航天企业废水处理工程项目,对企业在产品检验过程中产生的荧光废水进行研究,使企业的荧光废水经过处理后,达到工业园区的废水接管标准,体现实验研究结果与实际工程应用的有机结合。通过文献查阅和工程现场采样分析,掌握荧光废水的水质情况;综述荧光废水处理技术的国内外研究现状,并结合废水特点,采用“破乳-氧化”的处理方法进行实验研究;根据实验结果指导实际工程应用,设计了“破乳-氧化”一体化处理设备
学位
光纤声传感器作为光纤传感器的一种,有着体积小、抗电磁干扰、灵敏度高、动态响应范围大、线性度好等优点,在国防安全、水下监测、地震监测、临床医学及管道完整性检测等领域有着广泛的应用。本文对基于膜片式光纤法布里-珀罗干涉仪(EFPI)的声传感系统及其在声源定位中的技术进行研究。论文的主要工作有以下几个方面:首先,制作了氧化石墨烯(GO)薄膜,并对EFPI传感器进行了封装。传感器以二氧化锆(Zr O2)管
学位