Massive MIMO无线传输技术性能的优越性,是以通信系统信号处理复杂度增加为代价的,具有优异信号检测性能的检测算法常常伴随着较高的复杂度,检测算法的高复杂度成为了严重制约Massive MIMO系统实现的瓶颈之一。因此,本文利用迭代搜索方法,改进优化传统近优线性检测算法,推导出低复杂度的迭代检测算法,并多维度权衡比较分析检测算法。本文基于传统近优检测的最小均方误差检测算法,研究内容分为三部分,第一部分Massive MIMO非完全信道下分解迭代检测算法,推导了迭代方法应用于信号检测的前提基础,利用分解迭代方法,改进优化最小均方误差检测算法,推导出分解迭代检测算法检测解析式,利用信道不准确性,推导构建了非完全信道模型解析式,统计了分解迭代计算复杂度,并仿真分析了非完全信道下分解迭代检测算法。第二部分Massive MIMO相关信道下超松弛迭代检测算法,引入松弛因子做松弛迭代处理,采用超松弛迭代方法,推导出超松弛迭代检测算法检测解析式,推导出松弛因子数值范围,分析证明超松弛迭代收敛性和收敛速度,推导出优化松弛因子数值解析式,分析信道相关性,构建二维空间相关信道模型和三维空间相关信道模型,统计超松弛迭代计算复杂度,并仿真分析了空间相关信道下超松弛迭代检测算法。最后部分Massive MIMO多用户下梯度迭代检测算法,利用两种梯度迭代搜索方法,分别为速度梯度迭代搜索和共轭梯度迭代搜索,推导出速度梯度迭代搜索检测解析式和共轭梯度迭代搜索解析式,证明了速度梯度迭代搜索和共轭梯度迭代搜索的迭代收敛性,更进一步引入预处理方法,研究了预处理方法对共轭梯度迭代搜索权矩阵条件数的影响,以及预处理方法对共轭梯度迭代搜索检测性能的影响,分析了速度梯度迭代搜索和共轭梯度迭代搜索的计算复杂度,并仿真分析了梯度迭代搜索检测算法的检测性能。本文利用迭代方法,理论上推导出了迭代检测算法的解析表达式,且能实现近优误比特率检测性能,统计复数运算次数来表征算法计算复杂度,得出迭代检测算法复数运算次数高阶项降低一个阶数,同时结合信道特性构建信道模型,比较分析了迭代检测算法具有同等健壮性。通过对检测算法的理论推导和仿真程序的编写验证,权衡分析检测算法误比特率检测性能、算法计算复杂度、算法健壮性、算法信噪比能效,得出了迭代检测算法较优的研究结论。