随着人们需求的增加,无线通信技术在近些年发展极为迅速,通信技术的更替也使得各种移动终端日新月异。另外,随着人们对通信环境愈发多样的要求以及出于对各种应急通信场景的考虑,卫星通信在未来的通信系统中必然会扮演着不可替代的角色。而终端数量以及通信需求的增加无疑会给原本就有限的频谱资源带来更大的压力。因此,寻求频谱效率更高的通信技术便成了人们关注的焦点。论文以星地下行链路为背景,旨在将高谱效频分复用技术(Spectrally Efficient Frequency Division Multiplexing,SEFDM)引入卫星通信中来提高频谱利用率。首先,由于同为多载波信号的SEFDM与OFDM相似有着较高的峰均比(Peak-To-Average Power Ratio,PAPR),会给信号的发送带来困难,因此本论文对SEFDM信号峰均比抑制算法进行研究,分析了信号PAPR性能低下的原因,并通过对传统正交频分复用信号中PAPR抑制算法的研究,进一步提出适用于SEFDM系统的PAPR抑制算法以降低发射机设备方面的成本和压力,并通过仿真验证了算法对PAPR的抑制性能以及算法给系统误码率性能带来的影响。另外,SEFDM信号自身所携带的严重的子载波间干扰(Inter-Channel Interference,ICI)给系统接收机的设计带来了很大的挑战。针对SEFDM系统误码率性能低下的根本原因,本文设计了一种低复杂度的系统检测算法、一种优化的系统检测算法以及一种高性能的混合检测算法。在这些算法的支持下,系统能在较低的计算复杂度下获得优异的误码率性能。最后,论文在Lutz信道模型下设计了两种接收机前端处理方案,使经典检测算法能够在星地复杂信道中得以应用。并进行了联合发送端和接收端的链路方案设计,通过仿真验证了所提方案的性能。仿真结果表明,论文所设计的符号生成方案可以很好地抑制信号的峰均比,低复杂度的检测算法以及混合检测算法有着优异的检测性能。经过对论文仿真结果的分析,表明了在所涉及的星地场景下,论文所设计的发射机和接收机模块能够很好地支撑系统的运行。