论文部分内容阅读
随着无线电技术的发展和移动互联网的兴起,大量的便携可移动的监测终端逐渐成为频谱监测的主力,由监测网规模的扩大而带来了一系列数据传输、数据存储和数据分析处理的问题。本文正是在此背景下,从频谱数据的角度出发,展开了对网络拥塞情况下的数据传输,海量频谱数据文件的存储,以及对大量频谱数据分析处理任务的调度研究,为未来的频谱监测提供了思路。本文首先根据频谱监测系统的总体要求,提出了一种面向大数据高并发的分布式服务集群架构,根据功能角色的不同将服务器划分成监控服务器、文件服务器、数据库服务器、计算服务器、web服务器,每种服务器都能以集群的方式提供服务,有效的增强了系统的服务能力和扩展性。其次在该系统的基础上,本文提出了一种基于数据传输时延及数据优先级、监测终端类型和工作状态的拥塞控制机制,使用该机制各监测终端能够在出现网络拥塞的情况下根据拥塞程度自动对文件抽取以控制数据的发送速率,从而在缓解网络拥塞的同时也能维持良好的监测效果。对于系统中产生的海量频谱数据的存储,本文使用基于Redis和MongoDB的非关系型数据库构成的分布式存储系统。使用Redis构建分布式缓存解决了高并发情况下监测终端实时数据写入问题,利用其在内存中缓存最新数据加快了数据分析时的读写速度。通过MongoDB数据库的自动分片和灵活扩展特性实现了频谱数据的持久化存储。最后,针对当前频谱监测系统中远程读取文件数据耗时较长的问题,本文提出了一种基于任务分类的动态延迟调度算法,该算法使用模糊综合评价法把任务分成三类,每类任务对应的等待阈值时间不同,尽可能的使任务在等待阈值时间内能够被调度到包含该任务所需数据的计算节点上,从而避免了时间耗费在数据的远程读取上,提高了任务的执行效率。