基于机器学习的移动机器人导航技术研究

来源 :南京理工大学 | 被引量 : 0次 | 上传用户:wdxf365
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着智能移动机器人技术的飞速发展,越来越多的移动机器人成功应用到人类生产、生活和服务的各个领域。传统的导航方法在过去取得了极大的进展,但其仍存在一些明显缺陷,如在环境中选择具有代表性的特征表示需要大量的工程工作,特征计算及规划过程中计算复杂度大,在未知环境如森林探险、太空探索、灾难救援等应用场景无法提前获知确切的地图信息等等,这些都限制了传统方法的进一步应用。机器学习的发展为移动机器人的无图导航提供了可能性,本课题对基于机器学习的移动机器人导航算法进行研究。对传统导航算法和基于机器学习的导航算法进行详细分析,并对深度强化学习算法进行深入研究。利用ROS系统和Gazebo仿真平台搭建了移动机器人3D仿真系统,并基于该系统,运用两种最新的深度强化学习算法DDPG和TD3验证了深度强化学习算法在无图导航任务中的有效性。针对移动机器人无图导航问题,将模仿学习思想引入训练模型,提出了一种模仿-深度强化学习算法,并对算法的状态和动作空间、奖励函数、神经网络结构进行设计。在此算法中,模仿学习为强化学习提供良好的初始状态以减少样本复杂度,强化学习则减少了对于大量人工标记数据集的依赖,并提高了模仿学习的通用性。基于移动机器人导航3D仿真系统对模仿-深度强化学习算法进行了仿真训练并测试了其导航性能,仿真结果表明,该方法提升了纯深度强化学习算法的学习效率和收敛性能。最后,对经验回放机制和KL散度进行研究。将一种提升存放经验质量的方法,即近似最优化策略集成到模仿-深度强化学习算法框架中,提出了改进的模仿-深度强化学习算法。通过对基于3D仿真系统的实验结果分析发现,该方法能够进一步提高模仿-深度强化学习算法的学习效率、通用性和收敛性能。
其他文献
伴随着“互联网+”的进程,线上供应链金融业务逐渐兴起,特别是通过对供应链金融业务的线上化运营,为解决传统供应链业务中存在的参与企业多、信息收集及审批难度大等问题,提供了一定的思路。在这一背景下,快速推动“互联网+供应链金融”新模式,依托银行自己占有的数据资源,既实现了供应链上信息共享,同时又解决了传统供应链信贷信息不共享的问题。然而,线上供应链金融业务依然存在着固有的风险隐患,譬如数据资源占有不充
学位
近年来,随着国内经济快速进步,基础设施建设规模日益壮大,沿江软土地基上各种大型构筑物工程数量明显增多。但软土承载力始终有限,受力情况下可能引起构筑物不均匀沉降、失稳等问题,使得安全性面临直接威胁,因此关于软土地基土处理逐渐受到人们广泛关注,成为研究领域焦点课题。水泥土搅拌法则属于其常见处理方法,相对其它方法而言,可最大化利用原土资源,并且具备施工方便、成本低、加固深度大等优点,深受人们支持与认可。
学位
随着互联网技术的不断进步,我国的互联网产业也实现了飞速的发展,多种多样的互联网金融产品与金融平台层出不穷,对各个行业的发展模式带来新的突破的同时,也对商业银行在当今银行业竞争日趋激烈的形势下推进实现网点运营转型提供了新的思考。在2014年网络金融爆发时期,伴随着P2P平台、第三方支付平台的快速发展,网络交易规模迅速扩大,交易额飞速上涨。互联网金融的快速发展直接冲击了商业银行在金融领域的主导地位,影
学位
本文基于实际工程,以有限元分析结合理论计算公式的研究方法,探究水位变化对桥梁服役安全性能的影响。首先探讨了水位变化对河流的流量流速以及流速压力的影响,其次,探究了水位变化对于冲刷作用的影响。通过建立基于实桥的有限元模型,探究各种条件下桥梁桥墩以及主梁受力情况、位移以及稳定性的变化情况,分析在水位变化前后桥梁结构内部受力情况演化情况。研究发现:(1)水位变化前后,流速与流水的平均深度始终保持较强的线
学位
2012年以来,伴随着互联网和信息技术的高速发展,互联网金融逐渐融入到大众生活之中。而大众对银行业务的便捷性和个性化要求越来越高,电子银行这一新兴产物凭借相对于传统银行更加便捷、更加符合大众快速的工作、生活节奏的优势迅速发展起来。各大银行都越来越重视电子银行业务的发展,电子银行作为银行未来主要的业务发展方向影响着银行业的竞争格局和管理模式,在柜面分流、降低营业成本、提高客户忠诚度等方面有重要作用。
学位
自2010年以来CTA基金逐步开始进入到国内,2012年才全面展开,主要以私募基金的形式存在。随着基金专户的投资范围的逐渐开放,CTA基金也开始逐渐以基金专户的形式而存在,其产品运作方式也更加公开,成为更多投资者进行资产组合配置的必要工具。近年来,期货这一金融衍生品工具被越来越多的投资者所熟知,但人们对于期货的认识大多还是停留在“杠杆化、风险大”的层面,实际上只要通过合理的资产配置与策略组合,也能
学位
为了研究灌浆套筒节点失效对结构的抗震性能影响,首先取某常用的标准单元构件进行有限元仿真分析,探究预制剪力墙灌浆套筒节点失效所造成的性能变化,并对相关参数进行等效。随后选取了某小区住宅楼作为研究对象,并采用通用结构分析软件建立全楼结构模型,在单个构件研究的基础上以截面等代的方式等效预制剪力墙的套筒灌浆节点失效的情况,以此研究预制剪力墙构件竖向节点失效下地震动响应的变化,主要研究内容和结果如下:(1)
学位
近年来,我国进入人口老龄化社会,国家为了加快城镇化进程,提高人民生活水平,全国范围内开展了老旧小区改造工作。各地政府也积极出台了一系列政策加大老旧小区改造力度,其中既有建筑加装电梯是改造的重要组成部分。国内既有建筑加装电梯起步较晚,对快装式钢结构电梯研究不够深入,实际工程案例中存在结构安全性、稳定性以及与既有建筑连接方式等问题,因此本文为解决与既有建筑连接方式的问题,提出一种新型可滑移节点。本文所
学位
随着移动互联网的发展,生活已经离不开互联网和移动终端,各行各业都迫不及待地融入互联网,将互联网和投资理财有效地糅合到一起是未来的趋势,也是在这个互联网时代券商必须做出的一个变革。从发达国家金融的发展之路可以看出,互联网和证券的结合,加速了金融行业的发展,打破了该行业固有的格局。国内券商也都在纷纷利用互联网开发客户,尤其是一些优先利用互联网开发客户的券商在慢慢的崛起,国内券商经纪业务线正面临重新洗牌
学位
徽州传统村落作为徽文化的核心体现,烙印了徽州地区千百年来的历史变迁,承载了徽州人民祖祖辈辈的历史记忆。自2012年以来,徽州地区先后成功申报国家级传统村落325个,其中黟县有44个,是徽州地区乃至安徽省传统村落最为密集的县之一。如何让这些传统村落“活态、原真、延续”是徽州及全国各界人士一直不懈努力的方向,但传统村落仍存在“空心化”人气不旺,传统延续“断档”、活力丧失、愈加脆弱等问题。为保护发展传统
学位