基于发送端和接收端多天线的多入多出(Multiple-Input Multiple-Output, MIMO)技术是下一代无线通信系统的关键技术之一,其最为显著的优势在于能充分利用随机衰落和空间多路径传播来提高传输速率以及传输的可靠性。本文将关注空间复用策略下的MIMO接收机的设计,并针对其中的信号检测技术进行深入研究。由于无线通信信道的特殊性以及系统成本的限制,在进行基带数字信号处理算法的设计与实现时通常会遭遇性能和复杂度这一对矛盾冲突。而在空间复用MIMO检测的场景中,一方面MIMO技术往往伴随着较高的数据吞吐量,而空间复用也意味着数据流量的倍增。另一方面,数据业务通常要求非常小的链路错误概率,而空间复用引入的多流干扰(Multi-Stream Interference, MSI)会对系统性能产生严重影响。这都将导致系统对性能和复杂度的要求大幅提高,从而进一步激化两者之间的矛盾。本文基于MIMO检测中性能和复杂度的矛盾,结合具体的MIMO检测技术进行深入研究,致力于提供能有效缓解性能和复杂度矛盾冲突的技术方案。论文首先介绍MIMO系统的基本模型,随后针对球译码(Sphere Decoding)检测及其相关技术、搜索空间预定义检测器(Search Space Predetermined Detector, SSPD)算法、并行计算对检测算法的加速作用以及自动重传机制(Automatic Retransmission reQuest, ARQ)带来的时间分集对复杂度压力的缓解作用等几方面展开研究。本论文的创新工作如下：首先,针对现有研究并未涉及球译码性能与复杂度的量化关系的问题,提出以球半径为过渡参数,对检测性能与算法平均复杂度的定量关系进行了理论分析。所做工作分为三部分：第一,对球译码的性能进行理论分析,借助最优性能渐进界,将由搜索空间削减引发的性能损失进行量化。由于性能损失与球半径的设置之间存在定量关系,球半径即可作为表征球译码性能的参数；第二,根据球译码复杂度的自身特点,推导了平均复杂度的上界,从而获得了直接反映平均复杂度的指标——球半径；第三,利用与性能和平均复杂度都有关联的球半径作为纽带,构建了连接两者的桥梁。从而将性能与平均复杂度进行了定量的关联,为设计兼顾性能与复杂度的检测方案奠定理论基础。通过在多种MIMO检测方案中的仿真,对相关理论分析结果进行了数值验证。其次,对于已有的球译码半径设置方法难以在控制复杂度的同时保证性能的问题,提出了两种半径设置方法及其中一种方法的扩展应用。其一,提出性能损失可控的半径约束方法,在严格抑制复杂度的前提下使检测性能损失可控。分析表明通过合理地设置球半径,使得球译码的平均复杂度在整个信噪比(Signal-to-Noise Ratio, SNR)区间内得到有效抑制。其二,提出无分集度损失的半径设置方法,在抑制复杂度的同时避免分集度的损失,此外给出其在具有广度优先搜索性质的检测算法中的应用,分析表明球半径作为一个辅助工具,能够对该类检测算法进行进一步的复杂度冗余削减,从而降低目标算法执行时的功耗。仿真验证了上述两种设置方法的有效性及扩展应用的可行性。再次,针对球译码等启发式搜索方法复杂度不可控的问题以及现有检测算法在控制复杂度时无法兼顾性能的问题,提出了SSPD算法,其显著特征是在算法执行搜索之前预先确定出搜索空间。该算法能根据信道的好坏自适应地调整搜索空间的大小,也能将硬件的最大处理能力作为复杂度上限来限定搜索空间不至于过大,从而达到保证检测性能的同时合理控制复杂度的目的。此外,对非理想的信道和噪声估计带来的影响也进行了必要的理论分析,以此评估算法的适用性。提出使SSPD具备软输出能力的扩展设计方案。研究表明此扩展能有效地提升检测性能,而且仅引入非常小的额外计算复杂度。针对实际系统块处理场景中处理时间受限的问题,提出了基于平均复杂度上限分配的SSPD算法；并进一步引入动态计算能力分配的思想提出基于动态分配复杂度上限的SSPD算法,使其能够在块处理时限内降低计算冗余度提升检测性能。仿真验证了上述算法的有效性。最后,针对实际系统硬件处理能力面临的数据吞吐压力,提出了基于并行计算的算法加速方法以及基于ARQ机制缓解复杂度压力的系统设计方法。一方面,在给出了复杂算法的通用并行设计流程之后,将其运用到MIMO检测K最短路径(KSP, K Shortest Pathes)算法中,最终得到了存储开销较低的并行设计。使得相应的MIMO检测更便于付诸硬件实现。通过软件和硬件的仿真表明了该方法在加速算法运行时的有效性。另一方面引入ARQ机制带来的时间分集增益可以有效缓解MIMO检测的复杂度压力。研究表明引入ARQ机制的这种优势将普遍适用于性能次优的检测算法。通过将迫零(Zero-Forcing, ZF)检测和ARQ机制结合,对上述观点和理论分析进行仿真验证。