全双工技术由于有极大地潜力提高通信系统的频谱效率,已被学术界和产业界广泛地研究。既有的大部分研究是基于在Shannon信道容量下任意可靠通信（错误率趋于零）的理想假设,即假定编码在无限码长上执行。5G时代新兴的通信场景及其相关应用,例如车用无线通信技术通信、工厂自动化、远程医疗等由于其业务对信息时延和可靠性的严格要求,需要用短数据包来进行信息传输,即需在有限码长上进行编码。在有限码长情况下,信息传输的错误率不再能无限趋近于零,Shannon信道容量不再能准确地描述系统性能。为了更好地指导短数据包通信系统的分析和设计,Yury Polyanskiy等人2010年在有限码长下发展了一个新的信道容量基本框架,给出了有限码长下最大编码速率的近似解析表达式。本文主要关注在有限码长情况下全双工双向通信系统的性能分析与优化问题,论文的研究内容和创新性工作主要包括:（1）从能量效率和有效吞吐量两个维度分别分析了有限码长编码下全双工双向通信系统整体的性能,并分别导出一个含有通信系统各参数（信道增益、带宽、平均发射功率、自干扰消除能力、噪声功率谱密度）的判别式以在双向通信系统中选择最优的双工模式,并指导全双工双向通信系统的优化和设计;（2）将优化全双工双向通信系统的能量效率和有效吞吐量的多变量非凸问题转化为单变量凸优化问题,并运用凸优化算法求解出最佳的平均发射功率,最大化了能量效率和有效吞吐量;（3）由于残余自干扰的存在,使优化全双工双向通信系统中单个通信节点的能量效率成为一个博弈问题,本文考虑了合作博弈和非合作博弈两种情况下的优化问题,针对合作博弈情况,将博弈问题转化为了凸优化问题,针对非合作博弈情况设计了一个迭代算法求解出了稳定的纳什均衡近似解,并证明了迭代算法的收敛性;（4）通过计算机仿真,验证了各个结论以及迭代算法的收敛性,并分析了通信系统各参数之间的折衷与依赖关系,得到了具有实际应用价值的全双工双向通信系统设计的指导方法。