译码错误率问题是通信理论和实践当中的一个基本问题。估计错误率的主要方法有蒙特卡罗仿真法、重要采样法、以及错误率界等等。这些方法中,蒙特卡罗仿真对于一些复杂的情形(例如Turbo类长码)存在运算量过大的问题,重要采样法的通用性较差,而错误率界一般比较松,并且大部分界只对最大似然译码成立。由于译码错误率由码字的判决域所决定的,因此,从判决域的几何特性出发是研究错误率问题的一个思路。本论文从判决域的角度出发,研究用判决域半径来估计错误概率的问题,论文主要贡献如下：1.针对更一般的情形,给出了判决域半径的定义,导出了判决域半径分布和错误概率的关系式。对于大部分情形,码字的判决域存在开口区域,这使判决域半径这个随机变量的概率密度函数的定义存在缺陷。提出了用判决域半径的累积分布来描述错误概率,并在无编码的高阶调制、BPSK调制的短码、Turbo码、低密度奇偶校验(low-density parity-check, LDPC)码等情形下,验证了该关系式。2.针对Turbo类编码,提出了一种改进的近似码字错误率公式。该公式可以简单地表示成高斯Q函数的形式,它包含信噪比、判决域平方半径的数学期望和方差等参数。仿真表明,对于加性白高斯噪声信道,当错误率高于“平台”时,所提近似公式与蒙特卡罗仿真的误差能缩减到0.05dB；对于莱斯、Nakagami等典型衰落信道,所提公式与蒙特卡罗仿真的偏差不超过0.5dB。3.分析了判决域平方半径的均值和方差的统计误差对所提码字错误率公式精度的影响。由于码字错误率近似公式中两个有关判决域半径的参数需要通过仿真测量获得,其统计误差会影响所提公式的准确度。通过理论推导和仿真实验表明,当测量的半径数达到102数量级时,即可使得所提公式和蒙特卡罗仿真的偏差小于0.05dB。4.研究了混合自动请求重传中的判决域半径问题,提出了相应的基于判决域半径的错误率估计方法。通过将相邻两次传输信号的判决域平方半径建模为联合高斯分布,然后分别计算出判决域平方半径的均值、方差以及相关系数等三个统计量即可求出总的错误概率。仿真表明,所提方法和蒙特卡罗仿真偏差不超过0.06dB。5.针对LDPC编码调制,提出了一种改进的强制收敛译码算法。该算法一方面将提前收敛的比特从因子图中删除,从而降低译码复杂度；另一方面,在调制星座中也将该收敛比特删除,并用更小的调制星座来更新剩余比特信息,从而提升译码性能。此外,在该算法中,运用了判决域半径来估计译码错误概率,并确定收敛参数。