随着现代信息社会的飞速发展,人们对于无线通信技术越来越重视和依赖,无线通信技术正在朝着高速、高效和安全可靠的方向发展。未来无线通信网络是一个多种网络结构并存、多项通信技术并用和配合协同工作的网络,无线通信业务多样性的特点要求无线通信网络需要具有高速率、高容量和高安全性的能力。多输入多输出(Multiple-Input-Multiple-Output MIMO)无线通信系统能够同时结合发射分集技术与接收分集技术,极大地提高了系统的抗衰落性能和容量。另一方面,当前以信息论为理论基础的物理层安全对用户数据保护的研究得到越来越多人的关注,通过在发射端发射机信息中加入人工噪声的方式来对窃听者进行干扰,破坏恶意窃听者的窃听信道,使其无法截取到发送给合法用户的信号或者截取信号的难度增大,从而保证合法用户信息的安全性。本论文针对未来无线接入网中基于空间调制的MIMO通信系统的安全传输问题展开深入的研究。常见的MIMO调制技术主要有:空间调制(SM)、空间位移键控(SSK)、广义空间位移键控(GSSK)和分布式空间调制(DSM)。本文从安全容量的角度出发,对基于空间调制的各种调制技术的MIMO通信系统性能进行了分析。首先分析了研究背景,阐述了研究意义,并对全文的工作和结构安排进行了说明。在介绍MIMO各项调制技术和其研究现状分析的基础之上,着重对无线接入网络中基于SM、SSK、GSSK、DSM和协作安全技术进行了分析,在此基础上进行创新改进,提出了基于MIMO调制技术的安全传输方案、基于分布式空间调制和协作中继的安全传输方案。首先,结合人工噪声技术和零空间MIMO信道响应,给出了一种基于MIMO调制技术的安全传输方案。具体地,联合考虑不同调制阶数、接收者存在单根接收天线和多根接收天线、不同强度的干扰信号的情况下,得到接收节点的安全速率和误比特率的变化规律。同时给出了存在窃听者情况下MIMO通信系统的性能分析,以安全速率和误比特率为目标,评估基于MIMO调制技术的安全传输方案的有效性和可行性。然后再提出一种基于分布式空间调制和协作中继的安全传输方案。给出了在源节点和目的节点之间没有直接通路且存在窃听者的场景下,基于分布式空间调制和协作中继技术,引入中继节点协助进行信号转发,并利用干扰节点发送干扰信号抵御窃听者的窃听,最终实现信号的安全传输。仿真结果表明,基于分布式空间调制和协作中继的安全传输方案具有较好的安全可靠通信能力,验证了此方案的有效性和可行性。