基于增强学习的自组织网TDMA MAC协议研究

来源 :电子科技大学 | 被引量 : 1次 | 上传用户:zhang_yingliang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
自组织(Adhoc)网是一种灵活的多跳自治系统,非常适用于无人机通信、车联网、环境监测、智能家居等网络场景,自组织网MAC(Medium Access Control)协议受到广泛关注和研究。研究表明,基于TDMA(Time Division Multiple Access)方式的MAC协议在自组织网协议实现方式中通常具有良好的网络性能表现,是主要的实现方式之一。当前复杂应用场景的需求日益增多,特别是在实用性和优化信道资源分配方面的问题,对自组织网MAC协议性能提出了巨大挑战。当前自组织网中竞争预约算法研究已较成熟,算法性能提升遇到一定瓶颈,需寻求不同的解决思路。随着人工智能技术的快速发展和成熟,其中的增强学习技术能实现智能体自主学习策略以寻求到达对应优化目标的效果,如何将增强学习技术与通信领域相结合,提供了一种新的MAC协议优化解决思路。因此,本文在TDMA-MAC协议设计并与增强学习技术相结合的方向展开主要研究工作。首先,针对 E-TDMA(Evolutionary-TDMA)和 FPRP(Five-Phase Reservation Protocol)等协议存在的对物理设备性能要求较高的实用性问题和预约过程复杂等问题,本文提出一种改进的ME-TDMA(Multicycle enhanced TDMA)协议。该协议通过时隙交织技术,能保证物理设备有充足的处理时间,对物理设备在传输、处理以及分析分组的时延性能要求更低,更适合应用于实际网络场景。为了减少协议控制交互流程的复杂度,ME-TDMA协议采用多周期预约机制,从而降低控制开销,提升信道利用率。此外,考虑到节点发送缓存区有限,本文提出的基于负载的分配机制能减小缓存溢出造成丢包的可能性。本文提出的ME-TDMA比FPRP、E-TDMA在传输带宽、传输时延、丢包率方面的网络性能的优化效果更好。其次,为了提高FPRP信道竞争预约成功率,本文在考虑FPRP接入协议的特性上,利用增强学习技术的自适应学习特性,提出基于DQN的竞争p值调整算法,DQN-FPRP算法。设计学习模型探索学习调整p值的策略,生成p值调整的更优方案,从而减少竞争冲突和提高信道利用率。最后仿真结果表明,相对于传统竞争退避算法和多跳随机贝叶斯算法,DQN-FPRP在竞争成功率、传输速率等方面具有更高的性能优势。最后,E-TDMA、ME-TDMA等协议广播控制信息时会一次性预约多个时隙,而且存在预约冲突,需研究一种多时隙分配策略,以提高时隙分配效率。在这种多时隙预约场景中,每个节点需预约的时隙数量和在不同预约时隙上可参与预约的节点数量都存在差异性,这两种差异性将导致不同时隙的竞争预约情况不同。本文创新性地从这两种差异性切入,并结合增强学习算法,提出基于DDPG的多时隙分配算法。仿真结果表明该算法对ME-TDMA协议的预约效率、传输时延、传输速率、丢包率等性能有更好的优化效果。
其他文献
贵金属纳米团簇材料是一种尺寸小于2 nm,由几个到上百个贵金属原子组成的小尺寸原子聚集体材料。由于其特殊尺寸效应,使其具有特殊的物理和化学性质,如精确的分子结构、良好
近年来,随着社会的高速进步和经济的快速发展,机动车辆的使用频率越来越高,大气环境污染也变得严重,如城市的雾霾,这与燃烧含有大量硫、氮化合物的燃油产生的硫、氮氧化物和
近年来,利用荧光探针分子实现对金属离子、生物大分子的识别成为化学、环境科学、生命科学和医学等领域的研究热点。其中,四苯乙烯(TPE)由于具有合成简单、易修饰、良好的聚
随着不可再生能源存储量急剧下降,燃料电池汽车领域受到了越来越广泛的关注。但燃料电池输出电压波动大、电压等级低,难以满足燃料电池汽车对动力源的要求,因此,能够实现提升
随机噪声压制是地震资料处理领域最为基本的流程之一。一个好的去噪结果也是后续处理与解释的基础。目前常用的地震资料随机噪声压制方法大都是以一整张剖面为处理单位,缺乏
含铀地下水因具有放射性和化学毒性对人类健康构成严重威胁,常规工艺往往无法有效去除地下水铀,故需增加处理工艺以满足饮用水水质要求。混凝-超滤膜组合工艺在水处理领域应
乳酸乳球菌广泛应用于发酵乳制品,其中一些菌株具有产胞外多糖(Exopolysaccharides,EPS)的特性。乳酸菌EPS结构多变,生物合成复杂,为了解析新的乳酸菌EPS结构特征,探究其生物
光子晶体是一种介电常数呈周期性变化的结构材料,具有光子禁带和光子局域等特性,能在特定方向和波段上操纵和控制光子,因此被广泛应用于光学领域。目前对于光子晶体在红外和
空气悬架具有振动频率低、刚度可变和车身高度可调的特点,能在一定程度上提升车辆的行驶平顺性和操纵稳定性,在国内外均获得较为广泛的关注与应用。与传统的空气悬架相比,电
图像作为一个常见且方便的信息载体,在现代信息社会中扮演着越来越重要的角色。图像充斥在生活的各个方面,大到司法、媒体,小到个人娱乐、社交,同时各种图像编辑工具(如“PS”、“美图秀秀”等软件)的也蓬勃发展。图像篡改越来越方便给图像篡改鉴别任务带来了很大的阻力,因此如何有效的鉴别篡改图像是一个巨大的挑战。本文致力于研究图像篡改鉴别领域的一个重要的分支,即拼接图像的鉴别。拼接鉴别的一个主要的方法是提取图