正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)以其高频谱利用率和对抗频率选择性衰落的能力,成为未来无线通信系统的候选技术之一。但OFDM具有峰值功率和平均功率的比值(Peak-to-Average Power Ratio,PAPR,简称峰均比)过高的缺点:当具有高峰值的信号通过放大器时会产生非线性失真,恶化传输性能。针对上述缺点,本文重点研究了OFDM系统中峰均比问题,从而对传输信号进行优化设计。本文首先介绍了OFDM通信系统的特点和峰均比优化的研究现状,总结了需要进一步解决的问题,并指出了本文的研究内容。本文的第二部分对OFDM信号的峰均比进行了理论分析和数学推导,阐明了峰均比的定义、分布以及相关建模,为后面的章节提供了理论依据。部分传输序列法(Partial Transmit Sequence,PTS)是一类能够有效控制OFDM信号峰均比的非畸变算法,但其具有计算复杂度偏高的缺点。本文的第三部分提出了一种低复杂度的改进算法:通过数学推导,揭示了部分传输序列所生成的备选信号之间的相关性,并提出利用信号的相关性来简化备选信号的计算。理论分析和仿真结果表明新算法能够有效降低传统算法的计算复杂度,且不会造成峰均比抑制性能的损失。此外,本文还提出一种能够提高峰均比抑制性能的改进算法:削弱低峰均比信号的处理复杂度,并且强化对高峰均比信号的抑制处理,从而在计算复杂度和峰均比控制性能间取得更好的折衷。部分传输序列的另一个缺点在于需要传输额外的副信息,影响了频谱效率。针对这个问题,本文还提出了一种降低副信息传输量的改进算法。限幅法是目前应用较为广泛的一类预畸变峰均比抑制算法,但其会引入额外的限幅噪声,从而对数据信号和导引符号造成干扰,恶化传输性能。现有研究往往没有考虑限幅噪声对于导引符号辅助信道估计的影响。本文的第四部分提出了一种适用于限幅OFDM系统的信道估计优化算法:将数据信号和导引符号分别处理,并滤除导引符号位置的限幅噪声,从而优化接收端的信道估计,提升系统的传输性能。在新算法的基础上,本文还提出了利用迭代处理进一步优化信道估计性能。同时本文还提出利用新算法改进导引符号辅助频偏估计的性能。此外,针对传统的迭代限幅滤波算法,本文提出一种具有更强峰均比抑制能力的改进算法:该算法在同样的迭代次数和计算复杂度下,可以取得更佳的峰均比抑制性能。最后,本文研究了联合多址的OFDM系统的峰均比抑制:对于正交频分复用多址系统,比较了各种子载波分配方式下的峰均比分布,并针对交织OFDMA系统提出了一种低复杂度的峰均比抑制方法;对于联合交织多址的OFDM系统,分析了交织多址OFDM信号的峰均比分布,并提出一种基于可变交织器设计的峰均比抑制方法。