基于强化学习的无线传感器网络节点休眠调度策略研究

来源 :福州大学 | 被引量 : 2次 | 上传用户:h482649
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
得益于微机电系统的飞速发展与日益成熟,智能传感器节点具有数据感知、无线通信、协同合作等功能,故可浸入式地获取网络覆盖范围内感知目标的物理信息。通常,无线传感器网络(WSN)通过撒播的方式部署大量的智能传感器节点于人们很难到达的位置。鉴于智能传感器节点的微小型化特点,其大多数使用的是能量有限,不可更换的电源,故人为的更换节点或补充能量是不可能的(部署环境不可达)也是不现实的(节点数量太多)。如何有效的利用节点能量,以最大化WSN网络寿命成为评价网络质量的关键因素。鉴于WSN网络的部署具有规模大,密度高等特点。首先,这会造成大量节点的感知区域重叠,将直接导致节点采集和传输的数据冗余度高,部分节点采集的数据与全部节点采集的数据质量相差不大。再者所有节点同时工作容易造成大量的信道干扰和网络拥塞,降低网络的吞吐量,数据也容易丢失。故在保证网络性能的条件下,适时适当的调度网络中部分节点进入休眠状态,可以有效地提高能耗效率,延长网络寿命。本文研究的主要内容是在理解和掌握WSN网络特点的基础上,深入研究强化学习算法的特性,利用强化学习简单、分布式及无需环境模型的优势,对WSN网络的节点休眠调度问题进行相关研究。内容包括:(1)从整个网络的角度出发解决了节点的休眠调度问题。提出了一种基于Q-学习的无线传感器网络节点休眠调度算法QSA。首先将无线传感器网络视为一个多智能体系统,采用马尔科夫决策过程(MDP)建立问题的模型,并定义了模型需要的状态集、动作集和回报函数。然后使用QSA算法通过试错的自学习过程最大化的值函数,最终可得到一个较优的调度策略。实验结果显示QSA算法在提高能耗效率的同时也能够保证整个网络具有较优的感知覆盖率。(2)从无线传感器网络的MAC层出发解决了节点的休眠调度问题,提出了一种基于Q-学习的无线传感器网络MAC层休眠调度算法QMSA。该算法通过扩展原始Q-学习方法使传感器节点自适应的控制自身的休眠与工作。节点以分布式方式通过与其周围的环境进行直接交互学习得到一个高效的调度策略以决定其是否进入休眠状态。实验结果显示QMSA算法既可以提高能耗效率,同时也能够保证传感器网络具有较低数据延迟。
其他文献
我国是一个人口基数巨大、农村人口较多、人口年龄结构严重失衡、城乡区域发展具有差异性的老年型国家,在我国建立新型农村社会养老保险制度,不仅意义重大,而且也十分迫切。
自从融资融券试点以来,证券市场跌宕起伏,特别是2014年下半年开始,市场快速上涨,半年时间里几乎翻番,中国股票市场的波动伴随着融资融券交易的迅速发展。融资融券作为一种交
作为英语输出的重要方面之一,英语写作是体现学习者英语水平的重要载体,因此,英语写作能力成为我国初中英语课程“教”与“学”当中的一项艰巨任务。近年来,众多学者广泛关注场认知风格与二语学习的相关性,从口语、听力、阅读、到写作等相关领域的研究都取得了显著的成果,研究表明:场依存型与场独立型认知方式与英语学习有着密切的相关性。本文主要从以下三个问题进行探究:1.场依存与场独立型学生在英语写作中的语言准确性
当前以小成本、小规模方式创办的小微教育培训机构越来越多。然而,面对比较激烈的市场竞争和较大的利益空间,不少小微教育培训机构的所有者、决策者更多地趋于关注教育培训机构培训对象的获得、规模的扩张、利润的追逐,而疏于教育培训机构的内部治理。本研究试图以A机构为例,探讨小微教育培训机构的内部治理问题、成因以及改进对策。A机构是诸多小微教育培训机构的一个典型代表。通过对A机构的观察和访谈,研究发现A机构的内
我国是制造业大国,而先进数控机床是制造业的关键。数控加工技术的发展日新月异,数控系统样条插补功能的实现,使得产品加工质量有了很大改善。但是,在实际加工中,由于各种因素的限制,数控系统在进行插补处理的过程中仍然面临许多亟待解决的问题,如计算复杂、速度波动大等。这些问题主要体现在两个方面:插补参数实时计算和插补速度规划。因此,本文主要研究数控系统样条插补参数计算和插补速度优化两个问题。以通用数控系统为
近年来纳米材料与光纤传感的结合越来越引起重视,如何有效地利用纳米材料提高光纤传感器在生物传感应用中的灵敏度是一个挑战。石墨烯作为近几年热度很高的蜂巢晶格结构的纳
在供应链存货质押融资业务中,银行为降低质押物的跌价风险而针对质押物采取目录式管理,即选择的质押物一般具有市场价格稳定以及易储存等特点。但是,随着供应链存货质押融资业务
近年来,多电平功率变换技术因其在中、高压大功率应用场合的广阔前景,已成为国内外的研究热点。当输出电压电平数大于等于五电平时,传统的多电平逆变器存在结构复杂、所需器
高速铁路路桥过渡段问题一直以来都是研究的重点和难点,尤其随着高铁运行速度的不断提高,对路桥过渡段的研究和处理有了更高的要求,因此对其进行继续研究和完善显得十分必要。在世界高速铁路尤其是国内高速铁路蓬勃发展的宏观背景下,本文以武广高铁为工程背景,考虑路桥过渡段的差异沉降的影响,利用两种不同的方法来研究分析高速列车车辆下桥时对轨道的冲击振动响应,并总结得出相关规律与结论。具体的研究目的、研究方法、研究
一个国家竞争力的体现最终反映在产业竞争力上。高技术产业的发展与兴盛对世界政治、经济及军事产生显著影响,特别是高技术制造业以其超强的带动性和渗透力推动产业结构不断