大规模多输入多输出（Multiple Input Multiple Output,MIMO）技术被认为是5G中最具有前景的关键技术之一，由于收发端天线数的大量增加，使其具有较高的谱效和能效。随着移动互联网的快速发展，在频谱资源极度匮乏的现实条件下，用户终端对高可靠数据传输率的要求越发严格。在现实通信中，信道系数变化迅速，因此在快变信道下设计信号传输方案对满足多用户同时频通信需求具有重要意义。另外，来自星座空间的传输信号均是离散的，具有一定空间结构，适合在数字通信系统中传输。因此，将大规模MIMO系统与星座联合对发送信号进行设计，可以显著提高频谱效率和能量效率，降低系统检测复杂度。
　　本文将针对大规模MIMO系统，基于多用户联合星座对信号进行设计，其主要工作和创新点如下：
　　1.为了提高频谱利用率，以及降低大规模MIMO对信道状态信息的依赖性，在已知大尺度衰落条件下，借助唯一可分理论，提出了一种多用户联合星座的信号设计方案，即满足唯一性分解条件的用户发送信号，在接收端可被唯一地识别。基于该星座设计，研究了四种非相干检测器，即最大似然（Maximum Likelihood，ML）检测、最小欧氏距离检测、最小黎曼检测和线性相关检测。另外，基于该星座设计的矩阵具有可逆性，则接收端正确检测信号后可以用来进行信道估计。仿真结果表明了四种非相干检测器与已有的非相干检测算法相比，显著提高了系统检测性能，即基站端天线数少于100时，系统平均误比特率可低于10-3。
　　2.当用户数增多时，上述星座设计方案较为复杂，发送功率大，接收端处理速度慢，能效较低，为解决此问题，本文提出了一种唯一可分多用户分组联合星座设计方案，该方案合理地进行用户分组并利用功率分配优化可以提高系统整体能效，同时提高了系统检测性能。该多用户联合星座设计利用正交导频以及唯一可分星座理论对发送信号矩阵进行设计，在多用户进行分组后，正交导频序列可以保证组间正交性，消除不同用户组间干扰，且同一分组用户分配相同导频序列，利用多用户联合星座设计保证组内用户正交性，同时可以节约导频资源。然后，接收端对每组用户进行联合信道估计之后，利用唯一可分理论，可以对每组和信号进行检测，正确检测后利用和星座与子星座的映射关系，即可唯一分解出各用户信号。通过仿真验证了所提议的多用户分组方案可以有效降低误符号率，并且验证了该用户分组算法中当功率分配系数越接近时，每组的信干噪比越大，检测性能越高。同时，该用户分组算法要优于其他种随机分组情况。