随着绿色通信理念的兴起,空间调制(Spatial Modulation,SM)技术引起了学术界的广泛关注。空间调制系统在每个时隙仅使用单根天线发送信息,从而激活天线的索引也用于携带调制信息。其发射端只需一个射频单元,节省了能耗。而且单天线发送的特性又避免了MIMO系统的信道间干扰(Inter Channel Interference,ICI)、发射天线同步(Inter Antenna Synchronization,IAS)等问题,并为接收端低复杂度的检测提供了可能。然而,空间调制技术也存在一些问题和缺陷。一方面,空间调制系统的接收端需要精确的信道状态消息(Channel State Information,CSI)以进行相干检测,这对信道估计提出了很高的要求;另一方面,在天线数量较多的情况下,多天线信道估计非常复杂。针对上述问题,本文研究了差分空间调制(Differential Spatial Modulation,DSM)系统,它既保留了空间调制系统的优点,又简化了接收端的检测,无需信道估计。本文针对差分空间调制系统,展开如下的研究:第一章介绍了差分空间调制系统以及它在发射端、接收端、性能分析各方面的发展现状。第二章详细介绍了差分空间调制系统的收发端原理和性能分析,并提出了一种基于欧氏距离叠加的低复杂度检测算法,通过仿真验证了提出算法的优势。第三章介绍了幅移相键控差分空间调制(DSM-APSK)系统,提出了一种改进的DSM-APSK系统。通过性能分析进一步优化了提出系统的星座图设计,最后通过仿真验证了提出的新系统的优势。第四章探讨了编码差分空间调制系统。首先介绍了编码差分空间调制系统的收发机原理。然后提出了一种低复杂度的软检测算法。通过外部信息转移特性分析、复杂度分析和MATLAB仿真比较了提出的算法和最优的最大后验概率检测算法,验证了提出的算法的优势。第五章总结了全文内容,探讨了未来的研究方向。