现代社会亟需新一代的移动通信技术,以满足用户对低时延、广覆盖、高速率的需求。与常用的半双工相比,全双工提高了日渐稀缺的频谱资源的利用率,近年来得到了广泛研究。然而由于全双工在自干扰消除能力不佳时性能不及半双工,混合双工,即全双工和半双工之间进行选择切换成为了研究的热点方向。协作通信是一种将多个无线设备通过协作协议统一控制起来,取得比起独立工作更好性能的通信方式。多个彼此进行协作通信的中继被称为协作中继。协作中继利用各个中继所在信道的独立性获取空间分集,同时扩大了通信系统的有效工作范围。实时通信是近年来出现的需求,为此需要保证信息传递的低时延。由于这一需求带来的包长的有限性,传统的通信性能指标如信道容量等与实际性能产生了偏差。与此同时,更多私密信息进入开放介质传输的无线网络,也会吸引更多针对无线信号的窃听和破解。物理层安全作为密码学加密的辅助技术得到了广泛关注。因此,短包条件下的信息安全理论在短包通信理论的基础上得到了研究,用以更加准确地衡量短包通信系统性能。本课题研究了短包中继系统的物理层安全理论,应用了中继选择、混合双工、资源优化分配、协作波束成形、人工噪声技术和短包系统物理层安全理论,同时提高了现有通信系统的覆盖范围、频谱利用率,以及对短包通信系统安全性衡量的准确性。首先,本课题对混合双工单中继短包通信系统建立了系统模型,将这一系统与短包通信物理层安全理论相结合,并推导了系统保密吞吐量的适于计算机求解的近似闭式表达式。其次,本课题建立了混合双工最优中继选择短包通信系统模型,以单中继系统的保密吞吐量表达式作为待优化的系统性能指标,在中继工作的不同双工方式对发射和中继端联合功率分配和包长进行优化,将这一非凸优化问题转化为凸优化问题的迭代,给出了混合双工的最优中继选择方案。最后,本课题在混合双工最优中继选择系统模型的基础上建立了多中继协作波束成形短包通信系统模型,推导了保密吞吐量的近似闭式表达式。这一系统的多个中继通过协作协议组成虚拟多天线系统,通过波束成形定向地向接收机转发信号。转发的同时中继在发射信号的零空间以一定的功率向外发射人工噪声,增加对窃听者的干扰以提高安全性。通过对上述系统进行仿真,本课题对所研究的系统进行了验证和分析。