在5G无线通信网络中,为了减少不断增加的电信流量和能源消耗,进一步提高系统的频谱效率和能量效率,绿色通信技术的发展是必要的。在过去的几年中,索引调制（Index Modulation,IM）技术被广泛应用于无线通信系统,与传统的通信方案相比,索引调制技术提供了一种通过可用传输实体的索引来传输附加信息的新方法。继空间调制系统通过天线索引来传输信息位之后,在正交频分复用（Orthogonal Frequency-Division Multiplexing,OFDM）系统中,索引调制技术被应用于子载波上,为该技术在射频反射器、时隙、码字和稀疏矩阵等传输实体上的应用奠定了基础。在最近的研究中,引入了多维索引调制的概念,通过将不同的一维索引调制技术组合来提供更高的频谱效率和更好的传输误码率（Bit Error Rate,BER）性能。但是,这样做的代价是增加了发射机和接收机的复杂度,总体上对系统运行效率产生了负面影响。因此,本文对索引调制技术及其在频域、时域等方面的应用进行深入的研究,针对索引调制系统中的两个主要模块（传输实体索引选择模块和星座调制模块）,提出更加高效的算法和优化的星座结构,降低发射机和接收机的计算复杂度,提供更高的能量效率,进一步降低数据传输的误码率。本文的主要工作如下:1、针对索引调制系统中的传输实体索引选择模块,现有的主要索引选择方法有:查找表、组合计算法和基于哈夫曼树的编码方案。这些方法或需要消耗系统大量的存储空间,或具有很高的计算复杂度,不适合高速通信的发展要求。因此,本文提出一种将二叉树与二分法相结合的高效轻量级算法,与基于哈夫曼树编码方案不同的是,本文的方法不需要得到整棵树的完整结构,只需要找到二叉树中某条特定的支路即可得到信息位与传输实体索引之间的一对一映射关系,这不仅降低了索引选择模块的计算复杂度和内存需求,并且提高了系统的频谱效率。该算法的优势在仿真中得到了验证。2、对于索引调制系统中的星座调制模块,现应用的调制星座模式主要有正交振幅调制和脉冲振幅调制等。本文基于正交频分复用的索引调制（OFDM-IM）系统提出可降低发射机能量消耗的优化单模式六边形星座。通过仿真表明,在相同的发射能量条件下,本文提出的优化六边形星座能够进一步提高信息传输的误码性能。除此之外,基于提出的优化单模式六边形星座,本文提出将形状非规则的六边形星座划分为多模式星座的高效方法,通过结合IM技术,进一步提高多模式OFDM-IM系统的能量效率。3、在传统OFDM-IM系统中,主要是使用固定数量的传输实体来进行数据传输,忽略了频谱效率与能量效率之间的约束关系。通过引入子载波数量调制的概念,本文提出基于可变长度传输实体的数据传输方案,通过动态激活不同数量的传输实体,使用激活传输实体索引组合的全排列,增加了激活索引组合的数量。在仿真中验证了此方案在保证频谱效率的同时,在频谱效率和能量消耗之间取得平衡,符合绿色通信的发展要求。