传统通信系统中的调制解调、信道编解码技术研究大多基于加性高斯白噪声信道(AWGN)模型的假设,然而在大量实际通信系统中,这一假设并不都成立,主要体现在三个方面：非高斯、非加性和非线性。本文主要研究非理想高斯信道下的检测和译码算法。在对本文的研究背景和非理想高斯信道概念进行了综合阐述后,正文部分第二章作为全文的理论基础,介绍了Turbo码和LDPC码这两种近香农限的纠错码的编解码算法,对Turbo码MAP译码算法和简化的Max-Log-MAP译码算法,LDPC码标准BP译码算法和简化的Min-Sum算法进行译码性能仿真。仿真结果表明Turbo码Max-Log-MAP算法与Log-MAP算法相比译码复杂度低,且选择好合适的修正系数后性能损失很小。LDPC码归一化MS算法相比BP算法虽然译码性能有很少损失,但译码复杂度较低,适合硬件实现。第三章以脉冲干扰SaS信道为例考虑非高斯信道。针对SaS噪声概率密度函数无闭式解析式这一特点,建立相应的信道模型,并先后提出了最优的似然比计算方案、削顶法折线拟合及改进的PWL2n+1折线拟合这三种信道输出似然比计算方案。最后对这三种检测方案有效性在Turbo码和LDPC码作为纠错码的系统中进行仿真验证。仿真结果表明本文提出的两种折线拟合似然比计算方案都比传统的基于高斯分布的解调方案性能有了明显的提升,在采用信道编解码的系统中能有效抵抗非高斯脉冲噪声的干扰。第四章以大气湍流信道为例考虑非加性信道。先建立通用Gamma-Gamma分布信道衰落模型,给出平均值估计的方法对信道光强I进行参数估计。然后,为了抵抗非加性噪声对系统造成的性能损失,我们对传统Turbo码迭代译码算法进行改进,给出了一种OSD辅助的T’urbo码迭代译码方案,并进一步对这种Turbo-OSD方案进行了算法改进,分别提出了基于累加似然比的Turbo-OSD译码方案和CRC辅助的Turbo-OSD译码方案。最后,我们对不同参数Gamma-Gamma分布衰落信道下的各类迭代译码方案误码率性能进行了仿真,仿真结果表明,对于信道变化较慢的Gamma-Gamma分布衰落信道,可以采用简单且易实现的平均值估计方法对信号光强度I进行估计,结合Turbo码较强的纠错能力可有效提升大气湍流信道下的译码性能。第五章以可见光传输信道为例考虑非线性信道。针对LED非线性特性和DCO-OFDM系统高PAPR的特点,我们首先详细分析了LED非线性产生的原因并建立了非线性对称削顶模型。然后,为了降低OFDM符号的PAPR,采用一种基于凸优化的音调注入算法,将原星座图进行扩展,并通过优化算法选择合适的星座点,从而使得系统PAPR最低。接着,为在采用纠错编码系统中有效抵抗信道非线性,我们针对音调注入算法后的扩展星座图,提出了一种改进的软检测方案,输出软量给Turbo码或LDPC码译码器进行译码。最后,我们对LED非线性对称削顶模型下的Turbo码和LDPC码译码性能进行仿真,仿真结果证明了音调注入算法能有效降低DCO-OFDM系统的PAPR,且在接收端改进检测方案后,Turbo码和LDPC码能有效抵抗LED非线性的影响,在一定程度上能够容忍较大的限幅噪声,降低直流偏置大小,在节约系统功率资源的基础上提高了系统性能。