空间调制是一种新型的多输入多输出传输方案。空间调制中，每个时刻只有一根天线被激活以用来发送数据。输入的数据可以映射为两个部分：激活天线的序号和该激活天线上发射的调制星座点。因此，使用空间调制可以有效地避免传统多输入多输出技术中的信道间干扰和信道间同步问题，并且可以通过空间维携带信息提升系统的频谱效率。此外，空间调制适用于任意数目发射天线和接收天线场景，尤其是发射天线数远大于接收天线数的不对称信道。传统的空间调制使用最大似然检测算法，在误比特率最小意义下，其性能最优。但若考虑发射端和接收端联合优化技术，则系统性能可优于传统空间调制利用最大似然检测得到的性能界。本文着重研究空间调制系统中的天线选择问题：第一章介绍空间调制技术的研究意义和背景，并指出本文的主要研究内容。第二章讨论多输入多输出系统中的传输方案。分别给出各自的系统模型，仿真对比空间调制和其他传统多输入多输出技术的误码率性能。第三章研究点对点空间调制系统中的天线选择问题。首先介绍了多输入多输出系统中天线选择的基本模型，回顾了典型的多输入多输出天线选择算法。接着讨论了空间调制中的发射天线选择问题，提出两种适合空间调制的发射天线选择算法。随后，提出一种空间调制单接收天线选择算法，完成了基于空间调制的单射频多输入多输出系统的设计。最后，仿真结果验证了所提算法的有效性。第四章研究空间调制双向中继网络中的中继选择。首先概述了双向中继网络的模型，并直接将空间调制思想应用于双向中继网络中，提出一种结合中继选择的解码转发空间调制双向中继传输方案。在此基础上，应用空时移键控思想于双向中继网络中，提出两种分布式的传输方案，实现了分布式传输。仿真结果验证了所提方案的有效性。最后一章进行全文总结，并探讨了空间调制系统未来可能的研究方向。