基于脑电信号的视觉信息解码与视觉场景重建

来源 :吉林大学 | 被引量 : 0次 | 上传用户:xiaoxie20092009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工智能的终极目标是让机器具有人类智能,对脑的研究和模拟是实现这一目标的唯一途径。依托生物医学技术呈现大脑的神经活动状态,通过脑机智能技术解码大脑意识形态,让机器理解、拥有人类意识,是人工智能领域具有挑战性的课题。当前,“脑科学与类脑研究”先后被列入国家“十三五”、“十四五”规划,2021年科技部在科技创新2030项目申报指南中从多方面阐释了脑科学与类脑研究的重要与迫切性。人脑对于同类视觉刺激有着相似的表征能力,脑电特征可以反映出唤起原始脑电信号的图像内容。本文瞄准国家战略规划和科研需求,探究视觉刺激与脑电信号的相关性,在40类图像刺激脑电信号EEG数据上展开研究,建立人类视觉信息与外界视觉刺激之间的映射。在此基础上,一方面开发出基于人类视觉认知特性的图像场景理解模型,利用机器智能实现对人类视觉功能的模拟,形成基于认知计算的脑机混合-增强智能;另一方面对脑电信号和诱发脑电信号的图像同时建模,探索基于思维的闭环生成对抗式的认知学习方法,在监测脑电信号时,让计算机绘制出与人脑关注到的事物相对应的图像,实现人在回路的人机协同认知系统的混合-增强智能。本文主要研究工作及取得的创新性成果如下:(1)基于时空特征的视觉刺激脑电信号解码分类研究。针对多导联脑电信号空间关联性与时间固有特性利用不充分的问题,设计了由卷积网络CNN和长短时记忆网络LSTM组成的融合时空特征分析的空-时网络。利用CNN识别空间特征的能力,对用户观看屏幕图像时捕获的脑电信号进行通道级的空域分析,探究各个导联之间的联动关系;利用LSTM提取序列特征的能力,充分挖掘信号固有的时序信息。以此将脑电信号编码成描述性信号表示,建立了人类视觉信息与外界视觉刺激之间的映射,实现了视觉刺激脑电信号准确解码。所提取的脑电特征对脑电信号的区分度达到96.47%,该方法同时利用了卷积网络识别空间特征的能力和长短时记忆网络提取序列特征的能力,在分类准确率上较其他EEG信号的分类方法有较为明显的提升,为后续基于人类视觉特性的图像场景理解和视觉刺激图像的高质量生成提供了理论基础。(2)基于脑电-视觉特性的图像场景理解模型研究。针对当前场景理解方法缺少生物学基础,将人类的视觉感知能力映射到了机器上。提出一种结合深度学习和集成学习的脑电信号分析方法(LSTMS-B),通过多个网络共同决策,提高了脑电特征对脑电信号的表达能力。并将所提取脑电特征应用到图像自动分类中,使用学习到的脑电特征和原始图像训练了Res Net-KNN回归模型,将图像映射到脑电信号低维特征,让机器学习大脑视觉表征能力,进而估计出未参与脑电信号采集的图像的估计脑电特征,最终使机器按照人类视觉能力对图像(视觉场景)进行预测分类。测试过程使用了Image Net数据集中的49429个图像样本,获得了90.72%的加权平均分类F1分数,证明了在脑电信号源下分类图像这一思路的正确性,实现基于人类视觉特性的能够处理海量信息的图像场景理解模型。(3)基于脑电-视觉特性的生成对抗式重构方法研究。针对人在回路的人机协同视觉认知系统协同表征能力不强的问题,将注意力机制通过注意力门和注意力加权两种方式加入双向长短时记忆网络中,提出Bi-LSTM-Att GW模型对脑电信号进行解码,保证处理精度的同时减少训练参数,加速模型的训练过程。然后,将这种信号编码特征作为条件谱归一化生成对抗网络SNGAN的限制条件,约束图像生成过程。在原始脑电图信号被记录下来的同时,绘制出与人脑特定场景下关注到的事物相对应的图像。在生成图像的测试中,条件化的谱归一化生成对抗网络可以根据视觉相关脑电特征生成图像,生成的40类图像平均Inception分数为7.17。在生成图像样本主观视觉上,所采用的方法能够生成更符合对应类别标签且高质量的刺激图像,实现“图像-脑电信号-图像”的变换,提升人机协同视觉认知系统协同表征能力。解码与视觉场景相关的人脑活动对脑启发的计算和脑机交互领域有着重要的影响。本文通过对脑电信号进行处理分析,探究脑电信号与人类视觉的相关性,证明了脑神经活动数据可以为深度学习模型提供更丰富的监督。一方面,产生了与人类脑神经数据一致的视觉分类方法,让机器具有人类视觉智能,执行基于认知计算的脑机混合-增强智能研究任务,实现了基于人类视觉认知特性的图像场景理解;另一方面,完成了脑信号到图像的重构,提高了人在回路的人机协同视觉认知系统的协同表征能力。本文为基于脑电信号的视觉信息解码与视觉场景重建提供了理论支撑和技术支持,也为深入研究人类视觉感知认知系统提供有意义的见解。
其他文献
第一部分:RNA m6A甲基化修饰调节因子在乳腺癌中的表达及临床预后价值背景:RNA m6A甲基化修饰影响着乳腺癌的发生、发展和转移。然而,m6A甲基化修饰在乳腺癌中的临床表达特征以及与预后之间的关系特点尚不明确。因此,本文的研究目的旨在探索m6A甲基化修饰与乳腺癌患者的临床病理特征间的关系,并发掘其潜在的生物学特征及相关通路机制。方法:本文共选取3个公共数据集和1个临床数据集,公共数据集为:来自
学位
城市化的快速发展导致城市道路建设数量激增,城市道路建设施工会对人们的出行造成极大的不便;城市道路路网的复杂性以及人们固有的出行意识,会引发城市道路尤其是道路施工影响范围内道路的拥堵,因此,需要研究城市道路施工影响区的动态路径诱导问题,以减少施工造成的影响。车联网作为智能交通的重要组成部分,可以为施工影响范围内的路径诱导研究提供实时的数据信息;在城市道路施工影响范围内,有效的路径诱导方案不仅可以减少
研究背景抑郁症(major depressive disorder,MDD)是以显著而持久的情绪低落、快感缺失为主要表现的人类最常见的精神疾病之一。MDD全球现患者约3.5亿。世界卫生组织指出,到2030年MDD将成为全球疾病负担的首位。然而,对MDD的病理生理机制仍然知之甚少。几十年来,MDD的治疗主要基于单胺假说,该假说认为中枢单胺类神经递质水平的耗竭是MDD发生的根本原因。然而基于单胺假说的
祁连山国家公园是我国重要的生态功能区之一,随着我国经济的发展,祁连山国家公园景区的开放与开发,该区域高速公路机动车数量将持续增多,高速公路路域大气环境受到一定的影响,机动车现已成为高速公路路域大气污染的主要污染源。本文立足于祁连山国家公园生态保护,确定高速公路路域边界,分析高速公路路域大气环境容量影响因素,结合高速公路研究路段气象数据,计算高速公路路域大气环境容量;应用COPERT模型分析高速公路
交通运输作为经济发展的先导产业,对经济发展意义重大。铁路运输凭借其大运能及在中长距离运输中快捷、经济、安全、绿色环保的凸出优势,在煤炭、钢铁等能源性物资的运输与旅客运输中发挥举足轻重的作用。在“一带一路”倡议深入实施和泛亚铁路通道规划良好背景下,云南省大力投资铁路基础设施建设,健全铁路运输网络,推动云南省经济快速增长,增进铁路运输与经济间的联系,促成铁路运输与云南省经济的可持续发展。在我国与东南亚
近年来,随着我国高速铁路的快速发展,客货分线运行已逐步覆盖全国铁路路网范围,既有线货运能力得到加强,货运量大幅增加,同时客户对铁路货运服务质量提出了更高要求,空车作为货物运输的载运工具,及时送达空车需求站是货运服务得到保障的首要前提。但空车调配受许多因素影响,制定高效合理的空车调配方案一直是国内外学者深入研究的重要课题。论文围绕空车调配优化模型,借鉴以往研究成果,将定性分析和定量计算相结合,综合运
随着我国高寒、高海拔地区铁路和公路工程建设规模的日渐扩大,寒区隧道工程的数量也逐渐增多。长期以来,寒区隧道工程冻害一直是冻土工程领域内研究的热点科学问题,也是必须解决的关键工程技术难题。气候变暖对寒区隧道的长期稳定性及可靠性造成了显著影响,研究不同升温条件下隧道可靠性的变化规律及特点,对寒区隧道工程设计和运营管理等具有十分重要的理论意义和工程应用价值。本文以青藏高原寒区隧道为研究对象,根据IPCC
由特定波长的光触发的癌症精准治疗手段主要包括光控释药型纳米系统、光热治疗以及光动力治疗。在光控释药型纳米系统中,光敏感分子主要为紫外光触发,其波长较短、渗透性差以及对组织易造成光损伤。菁染料具有近红外吸收和高摩尔消光系数,可作为光热制剂。在基于菁染料的光热治疗纳米系统中,菁染料的光稳定性差、光热转换效率低以及无机纳米载体的生物相容性和生物降解性差,限制了其进一步的临床应用。因此,设计具有高性能的光
植物根际代谢介导了多种地下生态过程,特别是植物-土壤相互作用、微生物代谢和养分循环。然而,目前关于毛乌素沙地适生物种的根际代谢及其介导的种间地下相互作用尚不清楚。因此,本研究选择了生态承载力较为脆弱的毛乌素沙地,以樟子松为代表的毛乌素沙地不同适生物种为研究对象,结合野外采样调查,研究了不同适生物种根际代谢对土壤微生物多样性的调节和影响;进而针对不同造林年限的樟子松人工林,分析了微生物代谢的养分限制