近年来,随着科技进步和人们的需求不断增长,以用户体验为不竭动力的第五代移动通信技术（5G,5thGeneration）俨然为未来无法替代的通信选择标准。而作为支撑未来5G标准的重要骨干网——物联网（IoT,Internet of Things）,已经成为拓展5G研究的新模式,即未来信息生态系统。以短距离无线通信技术为支撑的无线体域网（WBAN,Wireless Body Area Network）成为IoT网络的重要组成部分,并且逐步渗入到百姓的经济、医疗、生活等等方面。而超宽带技术（UWB,Ultra-Wideband）是短距离无线通信选择方案中最具有竞争力的技术方案。近二十年来,归功于科研工作者的持续推动,以混沌信号为基础的调制方案因为其独特的优势,如低成本、低功耗和低复杂度等优势,应用于UWB具有广阔的发展空间。因此,以工业应用为导向的差分混沌移位键控调制方案的高频谱效率和高能量效率的研究方案的研究具有深远的意义。本文围绕差分混沌移位键控调制系统的容量特性及其空间调制方案进行研究,主要工作包括以下几个方面:（1）信道容量作为通信系统性能的重要评估标准,可以为信道编码设计者提供重要参考依据。本文分析、推导并验证了多元差分混沌移位键控调制（DCSK,Differential Chaos Shift Keying）系统在多径瑞利衰落信道下的信道容量,并且充分考虑到多径信道中的码间干扰（ISI,Inter-symbol Interference）、信道状态信息（CSI,Channel State Information）、接收机软硬判决方式（SD/HD,Soft-Decision/Hard-Decision）、调制器的维度M、衰落路径数L等参数对信道容量的影响。蒙特卡洛数值积分方法仿真出的容量曲线表明了多元DCSK系统的信道容量受参数严重影响,这为后续编码设计提供了重要的理论基础。最后,通过建立以低密度奇偶校验码（LDPC,Low Density Parity Check Codes）为信道编码的DCSK调制系统,验证了非线性U型信道容量的存在性。（2）为进一步提高DCSK调制系统的频谱效率和能量效率,基于空间调制（SM,Spatial Modulation）理论知识,本文提出一种差分空间调制混沌移位键控（DSMCSK,Differentially Spatial Modulated Chaos Shift Keying）调制通信系统的方案（注意,空间调制是一种多天线技术方案,而混沌调制是一种调制解决方案）。该方案不但克服了 SM信息恢复所需的信道状态信息,而且还提高了混沌通信系统的可靠性。另外,充分利用（1）中前期工作,分析并推导了 DSMCSK系统的信道容量。理论曲线和仿真曲线表明:在高信噪比时,DSMCSK通信系统理论曲线和实际仿真曲线基本重合（在低信噪比时,两者曲线存在一定差距是因为本文理论性能分析采用平均比特错误概率（ABEP,Average Bit Error Probability）上界方法,并且为了技术方便,忽略了高阶噪声项）;并且在相同的频谱效率下,该解决方案具有更高的系统性能。该工作首次将空调调制技术引入混沌领域,具有重要的意义。（3）针对混沌调制方案在中继系统中追求低功耗的问题,基于中继信道知识,提出一种差分空间调制混沌移位键控调制中继通信系统的方案（DSMCSK-Relay,Differentially Spatial Modulated Chaos Shift Keying-Relay）。该方案首次将空间调制技术应用到混沌中继系统中,并且在中继节点处采用译码转发（DF,Decode-and-Forward）方案。不仅克服了接收机端需要信道状态信息的不足,并且提高了系统的能量效率。通过分析和推导出该系统的ABEP上界理论闭合表达式,证明该提出方案理论的正确性（在低信噪比时,为了推导方便,忽略了高指数的噪声项）。最后,对比DSMCSK-Relay系统和传统混沌中继系统发现,该提出方案具有优秀的系统性能。