随着新一代移动通信系统的高速发展,移动数据流量和移动设备数量的爆炸式增长给移动网络带来了巨大的负担。为了解决这个问题,研究者们试图寻找新的解决方案来提高移动网络的容量和覆盖范围,从而给用户提供质量更高的通信服务。微小区网络(Small Cell Network,SCN)因其低功率、低成本、高容量和高覆盖率等特点,而成为未来移动通信中的一种具有潜力的网络结构。但是,传统的微小区网络具有高能耗、小区间干扰严重和覆盖不灵活等缺点。为了解决这些问题,本论文从提高能量效率(Energy Efficiency,EE)、消除小区间干扰(Inter-Cell Interference,ICI)和寻求新型基站形式等三个方面入手,对传统微小区网进行结构设计和优化。全文的工作包含以下方面:首先,本文针对新型微小区中的能量采集(Energy Harvesting,EH)系统进行了结构设计与优化。本文在基于能量采集的中继系统中,将中继接收能耗纳入功率分配的考虑因素中,在第三章提出了一种自适应功率分配算法,有效地提高了系统吞吐量。基于微小区中完备的传统电力供给设施,本文在第三章还提出了一种基于能量采集和传统电网的混合能源通信系统,并进一步提出了能量借贷(Energy Borrowing,EB)技术,使得能量采集设备在能源供给不足时,可向传统电网提出有偿的能量借贷请求,并在未来归还所借能量,从而新技术在能量采集设备和传统电网之间建立了一种共赢的合作。仿真结果表明,本文提出的能量借贷技术,在提高通信设备吞吐量的同时,也给传统电网带来额外的能量收益。在第四章,为了降低微小区的同频干扰,本文提出了一种基于空间调制(Spatial Modulation,SM)的新型系统结构设计。此外,为了提高传输分集增益,本文进而提出了基于机器学习(Machine Learning,ML)的基站选择算法,在获得接近最优误码率性能的同时,有效地降低了计算复杂度。针对大规模微小区基站选择问题,本文进一步提出了一种基于树状搜索的小区选择算法。该算法将欧氏距离矩阵分解成了若干低维度矩阵,在降低计算复杂度的同时,获得了最优的误码率性能。此外,本文还提出了基于排除法的基站选择算法,从而进一步地降低了树状搜索算法的复杂度。在第五章,本文提出了新型微小区中基于无人机(Unmanned Aerial Vehicle,UAV)基站的无线功率传输系统模型,并分别就单用户和双用户系统提出了无人机路径规划算法。在单用户系统中,本文提出了基于无线功率传输的多个无人机路径规划算法;在双用户系统中,本文分析了无人机的二维路径规划问题,并将其扩展到更高维度,提出了基于微积分思想的自适应路径规划算法。仿真结果验证了本文提出的路径规划算法有效提升了地面用户的总接收能量。