传统空间调制(Spatial Modulation,SM)技术能避免多输入多输出(Multiple Input Multiple Output,MIMO)技术存在的信道间干扰、天线间同步、多射频链路等问题。广义空间调制(Generalized Spatial Modulation,GSM)技术和可变激活天线的空间调制(Variable Active antenna Spatial Modulation,VASM)技术是传统SM技术的推广,这两种技术提高了发射天线利用率。基于传统SM、GSM和VASM方案的基本原理,本文提出一种新型的空间调制方案,记为Modified Variable Active antenna Spatial Modulation,简称MVASM。相比于其他三种空间调制系统,MVASM系统更具一般性,即MVASM方案提供了多种可选择的激活天线组合方案。本文提出了针对MVASM方案的算法,在输入发射天线个数的条件下,该算法输出多种天线组合的MVASM方案。从多种组合方案中,既可以选择出SM、GSM或VASM方案中的一种,还可以选择出一种性能更优的激活天线组合方案。本文推导出了最大似然检测(Maximum Likelihood,ML)检测下的MVASM方案的误比特率(Bit Error Rate,BER)理论上限公式、能量效率上限公式和复杂度计算公式,并通过仿真对以上三个公式进行验证。针对MVASM-ML算法存在复杂度过高的问题,本文将球形译码(Sphere Decoding,SD)算法引入到MVASM系统的检测中,设计了两种MVASM方案的SD算法:以发射端为中心的SD(Transmitter-centric SD,Tx)算法和改进以发射端为中心的SD(Improved Transmitter-centric SD,ITx)算法。本文推导出了这两种算法的复杂度计算公式,并对这两种算法的BER性能和复杂度进行仿真。本文的理论及仿真结果表明:在采用SD算法的情况下,相比于SM方案、GSM方案和VSAM方案,MVASM方案更加灵活,通过选择一种合适的天线组合,能够更好地实现信号检测性能与检测复杂度的良好折中,其中,MVASM-Tx算法只适用于高信噪比的情况,而MVASM-ITx算法可以适用于低信噪比的情况。