无线通信转型是第四次工业革命的核心,5G通信技术将工业物联网带入工业4.0时代。随着工业网络场景下数十亿智能设备的部署,设备间海量的数据交换导致无线通信系统频谱短缺问题愈加严重。为实现工业设备间实时、可靠、高效的无线通信,5G开始采用具有丰富频谱资源的非授权毫米波频段进行数据传输。作为高频非授权频段的重要组成部分,非授权60GHz频段因其大带宽、免授权的特性,引起了工业界和学术界的广泛关注。鉴于IEEE 802.11ad和IEEE 802.11ay网络已部署在该频段,如何实现5G与WiFi系统在竞争与合作两种不同模式下的共存组网和资源管理将是决定5G是否可在该频段有效部署的关键所在。基于上述背景,本论文面向工业物联网高吞吐量、低时延的无线通信需求,并紧密结合高频毫米波窄波束定向传输的特性,分别研究了 5G与WiFi在非合作共存模式下的公平接入与快速波束切换、资源管理以及合作共存模式下用户数据的协作传输等关键技术。研究中使用非线性拟合、凸优化、机器学习等方法,分别提出了基于定向LBT的随机接入机制、基于轨迹预测和信道监听的快速波束切换方案、联合用户关联、波束选择与功率分配的资源管理算法和基于深度强化学习的数据卸载算法,通过规避异构网络间干扰和降低时延及信令开销,显著提高5G网络的频谱效率,实现5G与WiFi系统的友好共存。本文的主要成果及贡献总结如下:（1）首先,本文针对窄波束搜索复杂度高导致定向LBT接入与波束切换时延过大的问题,进行了非合作共存模式下的公平接入和快速波束切换机制研究。由于Massive MIMO和定向窄波束的应用,波束对齐的复杂度呈指数上升,这给静态场景下的定向LBT信道接入过程及动态场景下的波束切换过程带来了很高的时延和信令交互开销。因此,本文基于单用户多链路Massive MIMO系统,针对静态场景提出联合定向LBT和波束训练一体化信道接入机制,确保异构网络用户可以等概率获取信道的使用权限。在此基础上,为降低移动终端在波束切换过程中的时延和信令交互开销,提出基于轨迹预测和信道监听的快速波束切换算法,以提高通信链路的可靠性。仿真结果表明,所提信道接入机制在和速率方面,与对比算法相比有平均约31%的提升,并将波束配对复杂度降低为原来的1/3;从时延角度进行分析,所提快速波束切换方案的时延下降了一个数量级。（2）其次,针对5G系统干扰规避困难,且波束的引入增加了资源分配的维度和复杂度问题,本文研究了非合作共存模式下5G系统的资源管理方案。虽然定向波束的应用可以显著减少空间上的链路干扰,提高空分复用,此时系统中仍然存在不可忽略的用户间干扰和异构网络间干扰。另外,由于波束选择与用户关联、功率分配是独立的优化过程,5G设备选择的最优波束对可能不是当前异构网络中的最优通信波束对。因此,本文首先设计了一种交错式频谱规划机制,用于降低新部署的5G网络对原有WiFi网络的干扰。在此基础上,提出了一种联合用户关联、波束选择与功率分配的资源管理算法,通过块坐标下降的方式分步迭代求解上述联合资源管理问题,以最大化5G网络频谱效率,并限制其对WiFi网络的干扰。仿真结果表明,所提算法3次迭代即可快速收敛,在大幅度降低计算复杂度的同时,使用所提贪心用户关联算法可以达到与启发式用户关联算法几乎相同的频谱效率。（3）最后,针对海量连接场景中采用单向数据卸载时5G和WiFi用户的总服务时延过长问题,本文进行了合作共存模式下数据协作传输技术的研究。考虑到5G基站同时可服务的用户数受限于RF链数,随着待服务用户数的增加,用户总体服务时延增加。另一方面,由于WiFi网络同一时刻只能服务一个用户,在海量连接场景下,用户数据包的碰撞概率变大,用户的传输时延随之变大。因此,为了满足大量工业设备低时延的传输需求,本文首先在WiFi网络中引入聚合节点,并行接收多个用户的数据,降低传输数据包的碰撞概率。在此基础上,建立异构共存场景下最小化用户服务时延的协作传输优化问题,考虑到海量数据通信场景中实时计算用户端时延的复杂度过高,提出一种基于深度强化学习的双向数据卸载算法,最小化用户服务时延,提升网络的数据传输速率。仿真结果表明所提算法的Q值拟合100次迭代即可收敛,在用户服务时延和异构网络吞吐量的指标上,均与传统凸优化算法的性能极其接近。