第五代移动通信系统(5G)的典型场景要求提供低时延、高可靠的服务质量。低密度奇偶校验码(LDPC)基于软判决译码的和积算法(SPA)性能已经被证实是接近Shannon限的,但其复杂度太高。因此本文研究基于硬判决的低复杂度LDPC码译码算法,以达到5G系统的低时延、高可靠的性能要求。首先,本文基于二元LDPC码的IMWBF译码算法提出了一种改进译码算法。在AWGN信道下,IMWBF译码算法中比特的接收幅度值越大,其硬判决的可靠性就越高。所以对于接收幅度较高但硬判决错误的异常比特,其在译码过程中就较难翻转。本文针对这个问题提出一种动态更新接收幅度的改进IMWBF译码算法。改进的IMWBF译码算法根据每个比特参加的校验方程错误数来判决是否进行幅度更新,从而这些异常比特翻转的概率得到了提高。通过实验仿真得出,改进后的译码算法以增加很小复杂度为代价提高了性能。其次,对于中短码长而言,多元LDPC码比二元LDPC码的纠错性能更好,而且易于与高阶调制相结合,因此本文研究了多元LDPC码的联合迭代检测-译码(IJDD)算法。首先,本文提出了一种降低IJDD算法复杂度的改进算法。改进的IJDD算法对每个符号接收信息改变的条件进行了更新,在原算法的基础上增加了其参加校验方程错误数达到某个阈值才进行接收信息的更新。改进后的算法在性能没有损失的情况下,降低了运算复杂度。随后,本文将多元LDPC码的IJDD算法结合高阶调制应用到了多用户系统下,将其和最小均方误差-串行干扰消除(MMSE-SIC)检测相结合,学习了基于不同场景下的性能。最后,在Massive MIMO场景下,本文使用低复杂度迭代连续MMSE检测与IJDD算法相结合的算法,分析了其复杂度及性能。