目前超高清视频、虚拟现实、车联网等新型应用大量涌现,极大地改变了人们的生活方式。移动业务类型的拓展和智能终端数量的增加对现有通信系统的空口容量提出了新的挑战,需要在有限的频谱资源下达到更高的频谱效率。多输入多输出（Multiple-Input Multiple-Output,MIMO）技术通过充分挖掘空间资源,实现频谱效率的极大提升,已经成为未来通信系统的核心技术。为实现更高的数据传输速率,通信系统沿着宽带化趋势发展。本文针对宽带MIMO通信系统中的关键技术进行研究,包括宽带MIMO同步技术、低复杂度MIMO信号检测算法、超高速MIMO传输系统设计等,在此基础上设计了超过10Gbps速率的宽带MIMO收发系统,并且在硬件平台上通过了试验验证。首先,本文介绍宽带MIMO通信系统的基本原理和组成。由于高频谱效率和抗多径的优势,我们采用MIMO-OFDM作为基带信号处理的基本结构,并给出算法仿真使用的MIMO信道模型。然后介绍了我们搭建的基于软件无线电架构的超高速系统试验验证平台,对部分性能进行了测试,并分析了整个系统的指标,为后面的设计提供了参考。随后,本文对宽带MIMO通信系统的同步技术展开研究,分析了定时和频偏误差对超高速MIMO传输的影响,给出了一种短开销同步帧设计方案,该方案可以在一个OFDM符号内完成初始定时同步和载波同步。本文分析了ZC（Zadoff-Chu）和PN（Pseudo-Noise）两种同步序列的同步性能,从自相关特性、互相关特性、峰均比、抗频偏等指标对两种序列进行了比较,结果表明截短PN序列性能更好。在此基础上,给出了定时同步和载波同步算法,包括帧检测和精符号同步,粗频偏估计与细频偏估计,并在不同的天线配置下进行了仿真,结果表明所设计的同步符号具有抗频偏的优势,同步计算复杂度低,性能优异,适合在实际系统中使用。其次,本文对宽带MIMO通信系统的信号检测算法进行了研究。给出了适合于高速实现的基于干扰抵消检测算法和基于因子图的BP（Belief Propagation）检测算法设计。在线性检测算法中我们比较了迫零（Zero Forcing,ZF）检测和最小均方误差（Minimum Mean-Square Error,MMSE）检测的性能,并研究了干扰消除检测算法,包括串行干扰消除（Successive interference cancellation,SIC）检测、并行干扰消除（Parallel Interference Cancellation,PIC）检测和两者联合的多级干扰消除检测,同时包括它们与线性检测器结合而成的算法。对于收发天线数较多情况,研究了基于因子图的置信度传播（Belief Propagation,BP）检测算法。将这些算法在弱干扰和强干扰两种信道条件下进行仿真,结果表明两种算法适合不同的信道条件和天线配置。最后,本文给出了宽带MIMO通信系统的设计与实现。为了在硬件平台上实现10Gbps的传输速率,我们给出了MIMO-OFDM系统传输方案设计,包括帧结构设计和MIMO基带收发机结构。还给出了基带部分的FPGA设计与实现方案,并重点阐述了帧检测、载波频偏估计与补偿等模块的算法分解与时序分析。基于我们搭建的硬件平台,对4×4 MIMO系统进行离线测试,误帧率在10-4以下,测试结果验证了系统传输方案的正确性。