未来宽带无线通信系统需要使用先进技术来有效地处理时间离散移动无线环境的影响。Turbo原理的应用可以对并行或串行级联纠错码进行迭代译码,从而使得性能逼近Shannon信道容量界限。Turbo原理已经应用于提高多径信道条件下的通信可靠性。本论文重点研究存在码间干扰(ISI)的信道中点对点可靠数字通信的相关课题,传输数据经纠错码保护。该通信系统的接收端存在两个问题:克服ISI的影响(均衡、检测)和译码问题。本文着重研究了迭代接收技术,该技术可以有效地联合解决均衡和译码的问题。首先,简要介绍了无线通信系统的基本框架,主要给出了当前turbo码及turbo均衡技术的研究现状。本论文的工作主要为:第二章对turbo码及turbo均衡基本结构及原理进行了详细的论述。并针对主要算法给出了原理分析及比较,为论文后面章节的算法应用提供了帮助。本章最后给出了不同算法的仿真结果及比较分析。经过第二章的简单介绍,对迭代接收技术有了很好的理解,第三章,我们利用外部信息转移图(EXIT)来研究迭代接收机的收敛性问题,并且提出了一种改进的迭代方案,该方案可以更有效的保证ISI信道条件下的数据传输。并且,我们分析比较了三种均衡算法在该方案中的应用——改进算法(I-MLM)、最大后验概率(MAP)算法和线性最小均方误差(MMSE)算法,分别称为MI-I-MLM,MI-MAP和MI-LMMSE方案。结果表明,MI-I-MLM方案性能与MI-MAP方案性能非常接近并且明显好于MI-LMMSE方案,并且经过理论分析可知该方案算法复杂度比其他方案低。第四章我们提出了一种基于预编码的低复杂度的迭代接收方法。基于对预编码和改进接收方案的充分理解,我们提出了基于预编码的迭代接收方案,发现其性能明显优于无预编码时的系统性能,而且在高信噪比条件下可以打破无ISI时采用同样纠错码的系统性能界限。因此,根据有无预编码时的性能区别,我们提出了一种联合使用预编码与无预编码的迭代接收方案来提高系统性能。分析及仿真结果表明,该方案可以在不增加计算复杂度的情况下有效地提高了系统误码率性能。由于重叠编码复用技术(OVCDM)是一种高频谱效率的通信技术,本文第五章主要介绍了OVCDM系统的编译码基本框架及原理,并对其系统性能进行了仿真。然后将该技术应用到ISI信道条件下,并分析仿真其性能。由此可以看出,OVCDM技术充分地利用了重叠编码带来的好处,提高了系统性能。