空间调制系统在每个时隙只有一根发射天线被激活,它将空域资源上的调制和传统的幅度相位调制相结合以进行传输数据,是一种新型的多输入多输出技术。它可以避免传统的多输入多输出系统中的信道间干扰、天线间同步、检测复杂度较高等问题;并且由于引入空域资源而提升了系统的频谱效率,因此成为了一种具有低成本、低复杂度等特点的多输入多输出技术,得到了广泛的关注。空间调制系统只能实现接收分集而不能实现发射分集,当接收天线数目较少时,会因为缺少分集而导致误码率性能下降。基于此,本文考虑将天线选择等收发端联合优化技术、中继技术等方法引入到空间调制系统,作为提升系统误码率性能的候选方案。本文着重研究了空间调制系统中系统误码率性能提升的问题:第一章介绍了空间调制技术的研究背景和研究现状。第二章回顾了传统的MIMO传输方案,即经典的MIMO分集方案和MIMO复用方案。并介绍了空间调制系统、广义空间调制系统、正交空间调制系统的系统模型,并通过仿真进行了验证。第三章主要讨论了空间调制系统的误码率优化方案。首先总结了空间调制系统现有的发射端天线选择算法,并对其中的一种算法进行了补充,又提出了一种适用于大规模空间调制系统的发射端天线选择算法。接着讨论了收发端联合进行天线选择的算法。最后,又针对广义空间调制系统的误码率性能优化提出了优化方案。第四章研究了空间调制与中继技术的结合。首先介绍了空间调制解码转发中继系统的系统模型。接着基于该系统,提出了两种中继节点的选择算法,实现了系统性能的提升和资源的节省。最后,本章又对该模型进行了改进,新的模型在提升系统误码率性能的同时,在接收端保持较低的检测复杂度。最后,第五章对全文进行了总结,并探讨了下一步可能的研究方向。