不断增长的通信容量需求和有限的频谱资源之间的矛盾,是目前无线通信系统面临的核心问题。多用户共享无线资源是解决上述矛盾的思路,然而这可能会造成多用户间干扰。为了解决用户间干扰,将多天线技术和预编码技术相结合是一个有效的研究方向。但是,传统多天线技术已经无法满足通信数据量和移动设备数急剧增加的需求。大规模多输入多输出（Massive Multiple-Input Multiple-Output,m MIMO）技术被用来解决上述问题,因为它可以不断挖掘空间资源,进而显著的提升系统频谱效率。混合预编码技术将模拟预编码和数字预编码结合,能够对系统性能和系统复杂度折中,成为了m MIMO系统中的研究热点之一。另一方面,符号级预编码（Symbol Level Precoding,SLP）技术因为不仅能利用CSI,还能利用待发送符号的星座图结构,所以SLP可以实现比传统预编码更高的性能。因此,本文针对m MIMO系统,将混合预编码和SLP两种技术结合,具体研究内容如下:（1）本文研究了在用户端符号错误概率（Symbol Error Probability,SEP）约束下,通过对星座图大小和混合预编码信号联合优化,来最小化发射端的信号发射功率。为了使研究更具实用性,考虑到模拟预编码的变换速率可能无法达到理论上的要求,本文提出了多符号模拟和符号级数字混合预编码方案。根据SEP约束,以及模拟、数字预编码的变化速率,进行多符号模拟和符号级数字预编码匹配,并建立发射功率最小化问题。为了求解该问题,首先求解SEP约束下最小化发射功率的全数字SLP。然后,建立全数字SLP和混合预编码的最小二乘问题,具体采用依次更新模拟预编码列向量,再利用最小二乘得到数字预编码矩阵的方法来求解该问题,从而得到基于用户SEP约束下的混合预编码信号。最后,对设计方案进行仿真验证,仿真结果表明该方案的有效性。（2）本文研究了发射功率给定时,用户最大SEP最小化问题。且考虑到并提出了多符号模拟和符号级数字混合预编码方案。根据发射功率约束,以及模拟、数字预编码的变化速率,进行多符号模拟和符号级数字预编码匹配,并建立用户最大SEP最小化问题。由于模拟预编码和数字预编码变量之间是耦合的,混合预编码信号很难直接求出。因此,本文将原优化问题拆分为两个子问题。首先,在发射功率约束下,求出用户最大SEP最小的全数字SLP。然后,用混合预编码信号逼近所得全数字SLP信号,从而得到混合预编码信号。最后,对设计方案进行仿真验证。仿真结果表明,不同符号的模拟预编码匹配符号级的数字编码时,模拟预编码的变化速率越快,系统的性能越好,但发射功率会相应的增加,提高了系统的能耗。