大规模多用户多输入多输出（Multi-User Multiple-Input Multiple-Output,MU-MIMO）技术通过在系统中部署大规模天线阵列,可极大地提高系统的数据传输速率和频谱效率。但多个用户在相同的时频段内通信将产生多用户干扰。符号级预编码技术利用信道状态信息和输入信息符号的星座图信息对发射信号进行预处理,可将多用户干扰转换成相长干扰（Constructive Interference,CI）,有效地提高系统的性能增益,但在实际应用中需采用全数字系统结构。天线选择技术在保证系统整体性能较优的情况下,通过开关结构选择部分天线进行信号传输,可显著降低系统硬件复杂度和损耗。因此,本文主要研究符号级预编码技术和天线选择技术的联合优化问题,在消除多用户干扰时还可降低系统硬件复杂度。首先,本文根据系统目标构建出优化函数,即通过选择最优天线子集,最小化接收信号与输入信号之间的欧氏距离以减少多用户干扰和系统硬件复杂度。由于构建的优化函数中天线子集约束条件为非凸约束,导致该优化问题为NP-hard问题,无法直接进行求解。随后对约束条件进行近似变换,将原优化问题转换为?₁正规化问题,并进一步构建出凸优化函数。针对此凸优化问题,引入交替方向乘子法（Alternating Direction Method of Multiplier,ADMM）,通过构建系统的增广拉格朗日函数,求解算法交替迭代表达式,并将算法从实数域拓展到复数域,可求得函数的最优天线子集。最后结合迫零预编码算法设计基于符号级预编码的最优输出信号。仿真结果证实,本文提出的算法可有效减少系统的多用户干扰并降低系统硬件复杂度,此外,该算法还可逼近基于贪婪算法的天线选择方案,在有限算法复杂度下可降低系统误码率,有效地提高系统性能,更加适用于大规模的天线系统中。