随着移动终端及多媒体应用的兴起,学业界及工业界开启了对新一代移动通信系统的研究探索,它需要满足低能耗、高频谱效率、低延迟及大流量密度等需求。然而,在满足日益增长的数据流量需求并提升系统的频谱利用率时会导致能耗大幅增加,从而降低系统的能量效率（Energy Efficiency,EE）,因此根据实际需求考虑能量效率与频谱利用率之间的权衡至关重要。随着移动通信系统的发展,许多新型多址接入技术被提出。其中,速率分割多址接入（Rate Splitting Multiple Access,RSMA）技术作为一种基于多用户速率分割（Rate Splitting,RS）的新型多址方案吸引众多研究者的关注。具体来说,发送端在发送用户信息时将用户信息分割成公有信息和私有信息两部分,然后接收端在解码用户信息时,能够在完全解码干扰和将干扰作为噪声处理这两个极端之间实现软桥接。RSMA凭借其速率分割和灵活处理干扰的优势能够提高系统的能量效率和频谱效率（Spectral Efficiency,SE）。与此同时,可重构智能反射面（Reconfigurable Intelligent Surface,RIS）是一种由多个具有可重构电磁特性的亚波长反射元件组成的装置,能够通过控制每个反射单元的相位和振幅来提高系统的频谱效率和能量效率。为优化系统的能效及频效,本文首先构建了一个基于速率分割的RIS辅助的传输系统,在估计信道状态信息下研究系统的能量效率最大化问题,进一步在完美及不完美信道状态信息下研究基于速率分割的能频效率折中优化问题。本文的具体工作如下:1.研究RIS辅助的RSMA系统中基于估计信道状态信息下的能效问题。本文在估计信道状态信息条件下,设计了一个基于RSMA的RIS辅助的传输系统,在满足用户在功率约束和智能反射面单元模量约束的条件下最大化该通信系统的能量效率。为解决这一问题,在本文中,首先采用分式规划将单比率形式的目标函数解耦合,再通过迭代优化的方法分别获得最优的功率分配系数以及RIS的相移矩阵。数值仿真结果表明,通过优化RIS部署位置和反射元件数量,可以显著提高RIS辅助通信系统的能效性能。2.研究多小区网络中基于速率分割多址技术的能效频效折中优化问题。本文首先提出一个基于功率与公共速率分配的联合优化问题,以便利用RSMA来同时最大化多小区下行链路中的能量效率和频谱效率。然后,为解决这一问题,本文引入了权重因子并通过加权和法将其转化为多比率的能频权衡问题。由于重新表述的单目标优化问题的目标函数仍是非凸和非线性函数,本文采用分式规划方法将多比率优化目标进行解耦合。为了进一步优化解耦合后的能频权衡问题,本文采用迭代优化的办法。首先固定公共信息的功率及速率求解最优的私有信息功率分配方案,采用拉格朗日方法求得最优的私有功率分配系数;然后通过固定求得的私有功率分配方案,来求解用户的公共速率及功率分配方案,这两个阶段迭代至算法收敛,从而在多小区系统中达到最优的能量效率与频谱效率的权衡。最后,数值仿真验证了在完美及不完美信道状态信息下用户数量、基站传输功率、能效和频效的权重因子等因素对于优化问题的影响,证明了所提算法的优越性。