当前第五代（The Fifth Generation,5G）移动通信系统得到大规模商用,全球已开启对第六代（The Sixth Generation,6G）移动通信技术的研究与探索。低轨卫星通信系统具备覆盖范围广、通信容量大的特点,是实现6G网络全球无缝覆盖的重要组成部分。低轨卫星信道建模是卫星通信体制设计与性能评估的基础,然而低轨卫星与地面终端高速复杂相对运动给高精度信道建模与仿真带来诸多挑战,其面临的关键技术难题有高动态时变卫星信道特征建模与非线性表征、复杂空时耦合卫星信道阴影衰落与多普勒功率谱模拟、长时延卫星信道传输性能优化等。针对上述问题,本文深入研究了低轨卫星星地链路时变非平稳信道模型、低轨卫星阴影衰落与多普勒功率谱高精度仿真方法、低轨卫星通信系统混合自动重传机制优化等关键技术,开展了理论方法创新与工程实践,主要研究成果及创新点包括:第一,本文提出了基于双球心角体结构的低轨卫星星地链路时变非平稳信道模型,该模型实现了自由空间损耗、阴影衰落、小尺度衰落、星载射频器件非线性效应的综合表征。针对阴影衰落概率密度分布的多峰与非对称特性,基于高斯混合分布拟合方法建立了动态分布参数与时变通信仰角的映射关系。提出了球冠状有效散射区的多径分布描述方法,实现了卫星过顶过程中多径演变过程建模。提出了星载射频器件非线性效应分级解耦与建模误差补偿方法,解决了星载射频器件非线性效应耦合表征难题。通过对比理论模型与仿真数据的时间自相关函数、多普勒功率谱密度等信道统计特性,验证了本文提出理论信道模型的准确性。使用测量数据对理论模型的电平交叉率和平均衰落时间进行验证,保证了模型的可用性。仿真结果表明非线性效应分级解耦表征方法与线性级联方法相比归一化均方误差和邻信道功率比误差指标的增益约0.67dB和2.24dB。第二,针对时变通信仰角与空间环境变化耦合影响下的阴影衰落高精度仿真难题,建立了基于半方差函数的阴影衰落相关空间识别方法,利用相关空间角度范围对动态阴影衰落仿真区间进行分割,进而提出了基于空间相关性的阴影衰落仿真方法,实现了卫星与终端复杂相对运动中阴影衰落的准确仿真。实验结果表明,空间相关仿真方法的仿真精度较时间插值方法提高约47.24%。针对强直射径分量及非均匀到达角分布影响下的多普勒功率谱高精度仿真难题,分析了典型随机到达角仿真方法的实现原理,建立了低轨卫星时变非对称多普勒功率谱模型,提出了基于时变拉普拉斯分布的多普勒功率谱仿真方法,实现了包含强主径的非对称多普勒功率谱准确仿真。实验结果表明,时变拉普拉斯分布多普勒功率谱仿真方法的仿真精度较精确多普勒扩展法、随机多普勒扩展法、集合分割精确多普勒扩展法分别提高约30.04%、23.3%、31.41%。第三,针对低轨卫星星地链路长往返时延导致系统传输性能下降难题,提出了信道状态自适应的码块组分割重传机制。首先分析了长往返时延对混合自动重传机制并行进程数的影响,并建立了高精度码块组错误概率拟合模型,进而将时变信道状态、接收端内存状态与码块组重传策略抽象为马尔可夫决策过程,基于模糊强化学习算法实现最优调制编码策略选择与自适应码块组分割。仿真结果表明自适应码块组分割重传机制与内存溢出反馈重传机制和可变码率重传机制相比,频谱效率分别最大提升约12.5%和22.6%。第四,研制了低轨卫星信道模拟器并搭建了面向低轨卫星通信信道建模与混合自动重传机制优化技术的实验验证平台,将本文提出的低轨卫星星地链路时变非平稳信道模型与长时延卫星通信系统混合自动重传机制优化关键技术进行综合评估和实验验证。实验结果表明,本文提出的星地链路时变非平稳信道模型理论数值、信道模拟器输出数值、信道测量数值具有高一致性,在低轨卫星星地链路中自适应码块组分割重传机制与现有内存溢出反馈重传机制相比系统吞吐量提升约15.6%。