多模态课堂行为识别及教学决策研究

来源 :中国矿业大学 | 被引量 : 0次 | 上传用户:conansmh
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
课堂行为的评价与分析能够形成有效的教学反馈,辅助教师进行教学决策。但直接利用视频数据会造成评价对象隐私信息的泄露,在保障对象隐私安全的前提下,对课堂采集数据进行分析和评价,可以消除评价对象的戒备心理,从数据质量的角度提升行为识别的精度,进而形成更为科学的教学决策。骨骼行为数据由于不含有对象外部特征,被认为是一种安全性较强的数据类型。在保证学生的隐私安全的前提下,使用骨骼数据与课堂教学课件结合,开展多模态课堂行为识别及教学决策研究,并根据课堂行为与课件设计之间的响应关系,给出多媒体课件的设计策略,辅助教师进行教学方法的改进,具体工作包含以下三个方面:(1)针对数据采集中骨骼数据身份标识缺失和对学生进行身份识别所产生的隐私安全问题,引入视频图像数据模态构建了一个基于空间位置的学生身份识别方法。对视频图像数据,基于Xception改进了SSD网络,使其在对学生空间位置的识别速度和识别精度上满足了课堂采集的要求,之后基于座位构建了学生空间矩阵,对骨骼数据添加空间位置约束,获取准确的身份标识,在骨骼身份识别认证过程引入生物哈希算法对空间特征进行加密保护,解决了隐私保护下的学生骨骼数据的身份识别问题,提高了课堂数据的采集质量。(2)为了提高课堂环境中行为识别的安全性和准确性,并且从行为识别的角度对教学设计提供决策支持,提出了一种骨骼数据和多媒体课件结合的学生课堂行为识别方法。首先是对骨骼和课件这两种数据分别进行特征提取,获取自身的特征表示。然后基于注意力机制构建了一个多模态注意力模块,通过交换模态间的信息获取二者之间的交互关系。最后,构建特征融合和预测模块对两种模态的特征进行整合完成课堂行为识别。实验部分,将所提方法在课堂行为数据和同步播放的多媒体课件数据上进行实验验证,与只使用骨骼数据进行行为识别相比,识别精度提升了5.6%,并且在所对比的特征提取方法上识别效果都得到了提升。此外在课堂数据集中,与多模态方法进行了对比,结果表明了所提方法的有效性。最后,将多模态注意力中课件与学生行为的相互关系进行了可视化,根据行为对不同课件设计的注意力程度,建立多媒体设计的决策方案。(3)设计并实现了一个基于课堂行为识别的教学决策辅助原型系统,系统通过Kinect传感器采集课堂中的数据,采用提出的基于空间位置的学生身份识别方法在保证学生隐私的同时对骨骼数据进行准确采集,采取提出的骨骼-课件多模态行为识别方法对学生行为进行识别,最后对行为识别和分析结果进行可视化,针对多媒体课件的设计给出教学决策支持。本论文共有图24幅,表6个,参考文献151篇。
其他文献
地铁作为城市轨道交通的重要组成部分,不仅可以有效缓解城市交通压力,还可以影响城市聚集区位置。因此,地铁在当今社会中扮演着至关重要的角色,一旦发生运营事故,其造成的影响十分的恶劣,地铁系统是一个由多个子系统相互关联构成的大型复杂系统,造成地铁运营事故的原因复杂多变,研究地铁运营韧性对提高地铁运行安全具有重大的理论意义和应用价值。本研究对地铁运营韧性的概念和特点进行科学认知,对影响地铁运营韧性的关键因
学位
褐煤氧解提取如黄腐酸和腐植酸等的高附加值化学品产生大量氧解残煤废渣,如何有效实现氧解残煤再利用是褐煤资源高效利用的关键。本文以氧解残煤(过氧化氢氧解云南华宁褐煤提取黄腐酸后的)为炭前驱体,通过氢氧化钾炭化活化一步法制备粉状多孔炭材料(DC),利用响应曲面设计探究最佳制备条件,结合红外、X射线衍射和电镜等分析手段探究DC的结构和性质;以聚乙烯醇(PVA)和羧甲基纤维素(CMC)为粘结剂与粉状多孔炭模
学位
近年来,项目管理方面的跨国交流与合作越来越密切。项目管理在国外得到了广泛的应用,相比之下,中国的项目管理实践起步较晚。译者希望国内能够尽快引进国际最新资源,为国内项目管理的管理理念提供参考范本。因此本次翻译项目译者选取了源自施普林格(Springer,Cham)出版社出版的《管理协作创新项目:利用开放创新知识流促进共创》(Managing Collaborative R&D Projects:Le
学位
随着网络科技的进步,发展互联网金融的呼声越来越高,加之疫情的蔓延,很多行业的发展不得不由线下转至线上。“惠宁小贷”系统于2017年11月正式上线运行,随着市场变化和新兴行业的需求,惠宁小贷的贷款品类不断完善,目前已将近20余种,贷款平台运用的领域主要包括:农户、公职人员、个体工商户、网商客户等9大群体,基本满足S县辖区内大多数客户的贷款需求。S农商银行线上小额信贷平台的开发,在S县独树一帜,率先开
学位
大跨度多塔悬索桥广泛应用于跨江、跨海桥梁建设,主缆是其服役过程中关键承载部件。主缆钢丝长期受到温度效应、摩擦磨损和电化学腐蚀的耦合作用,易导致温度效应下平行钢丝摩擦腐蚀损伤,进而造成主缆承载强度渐变劣化特性,严重影响悬索桥服役安全性和可靠性。因此,揭示温度效应下主缆平行钢丝腐蚀磨损行为及其交互作用机制,对保障悬索桥服役安全可靠性具有重要基础意义。本文运用自制的钢丝摩擦腐蚀实验机开展了温度效应下平行
学位
空气重介质流化床干法选煤作为一种高效的洁净煤技术,近年来一直是选煤领域的研究热点之一。但是在连续分选的过程会产生过量的煤粉和更细粒级的磁铁矿粉混杂到分选介质中,影响着系统流化效果和密度稳定性,恶化分选效果,因此亟需配套高性能干式磁选设备。作者首先对流态化干式磁选机磁系的空间磁场性质和混合物料的流化特性进行了研究,然后对-0.3 mm粒级的磁铁矿粉进行了流化床颗粒流动特性的研究,对磁性颗粒在磁选过程
学位
及时、准确、全面的掌握工业过程的运行状态是现代工业生产当中的一个非常重要诉求,同时,工业过程的运行状态的感知、认知技术也被视为工业人工智能三个关键技术之一。目前,受复杂工业过程多参数、多回路、大滞后、强耦合、干扰频繁等特点的影响,围绕过程静态特性的单一指标运行状态评价方法很难及时获得准确的过程状态。为此,本文围绕基于静-动态特性的复杂工业过程运行状态评价方法展开研究,通过深度挖掘数据特性,从过程静
学位
在碳达峰、碳中和的“双碳”目标以及石油等不可再生能源面临枯竭的危机下,发展节能与新能源汽车是大势所趋。纯电池电动汽车目前因电池功率密度、使用寿命等限制,难以满足实际使用需求。由锂电池和超级电容组合而成的复合储能系统,可实现优势互补,其在快速功率响应的同时拥有较高的能量密度以进一步延长续航里程。然而,超级电容的加入增加了动力系统的复杂性,需考虑如何协调二者以更好地满足车辆行驶的功率需求以及节能等优化
学位
价格是经济的灵魂,与政府、企业、群众休戚相关,价格监管机制事关经济社会发展全局。价格监管是随着我国社会主义市场经济体制的建立完善而不断演变的。随着商品定价方式的多样化,也衍生出了不同的价格问题,这就要求着价格监管在面对新形势要有前瞻性以及科学性。随着绝大部分的商品和服务价格实行了市场调节,我国的价格管理体制和价格监管体制中的一些深层次的矛盾陆续开始显现出来,价格调节机制还不够完善,价格信号尚不灵敏
学位
被誉为世界屋脊的青藏高原,是我国深入实施西部大开发战略和“一带一路”建设的主阵地和必经之路。随着深入实施西部大开发战略和“一带一路”建设,冻土和寒区工程需求依然强劲,相关技术研究大有用武之地。其中,桩基在减小对冻土的扰动、保证多年冻土热状态和工程稳定性等方面所具有的独特优势,被广泛应用于多年冻土区。需要认识到的是,青藏高原多年冻土区地震活动频繁、车辆振动作用和施工震动均会影响冻土和冻土-桩基接触面
学位