片上系统(SoC)研发是目前集成电路(IC)设计的重要发展方向。优良的系统算法可以提升芯片整体性能,因此算法设计及优化是SoC设计的重要组成部分。本文研究无线通信领域的先进算法,为无线通信的SoC系统设计提供理论支撑。　　随着移动多媒体业务的快速发展,有效提高无线链路的数据传输速率是未来移动通信需要解决的重要问题。多入多出(MIMO)技术具有空间复用和分集的特性,在不增加带宽和发射功率的前提下可大幅度地提高无线系统的频带利用率,是新一代无线通信的关键技术。　　然而MIMO天线阵列单元间的空间相关性会影响系统性能。本文对MIMO系统的空间相关系数的获取以及基于最小化字符差错率(SER)上界准则的预编码进行详细研究。　　本论文主要贡献包含以下四部分:　　一、传统的求解空间相关系数的问题可抽象为一个求积分值的问题。为避免积分运算,本文使用Gauss-Hermite求积公式对与高斯角度分布相关的积分公式进行简化,得到相关系数的近似表达式及其简化版本,同时对该表达式进行了模型误差分析。实验表明该模型可以在近似准确度与计算复杂度间取得理想的折中。　　二、通过对3GPP的空间信道模型(SCM)进行深入研究分析,使用多层的角度结构来描述一个到达(离开)角度。基于这种出发点,本文首先求解该角度的联合概率密度分布。然后基于该密度分布,求出均匀线性阵列的空间相关系数。最后,使用SCM标准的随机信道数据计算其空间相关系的仿真值来验证本文的理论推导。　　三、基于文献中针对宏蜂窝信道模型GBSBM给出的空间角度的概率密度函数,推导出了发送端和接收端空间相关系数的闭式解。利用该相关系数,提出了一种针对宏蜂窝瑞利信道的预编码策略,其计算复杂度远小于文献中的最优策略。　　四、基于Kronecker空间相关模型,以最小化SER上界为设计目标,提出了两种针对莱斯信道模型的预编码策略。本文假设仅接收端天线问存在空间相关。(1)根据在高信噪比和低信噪比情况下最优能量分配拥有类似结构这一特点,提出简化的能量分配方案。该简化结构可以在取得接近最优SER性能的同时显著地降低计算复杂度。最后,从迭代次数与单次迭代复杂度方面全面考察了简化算法在复杂度方面的优势。(2)提出基于酉矩阵约束的最优预编码策略。其核心思想是将在欧几里得空间的约束优化问题转化为黎曼空间中无约束的优化问题。根据维数相同的酉矩阵的集合会构成酉群这一特性,通过在黎曼流形上实现最快下降算法来求解最优的预编码特征向量矩阵。避免了传统方法在欧式空间进行迭代操作而引入的酉矩阵特性的丢失。