信息传输的安全性是通信系统的重要性能指标。物理层安全以信息论为基础,利用无线信道的随机性和时变性实现信息的安全传输。多输入多输出(Multiple Input Multiple Output,MIMO)技术可显著提高系统的传输容量,也为物理层安全传输提供了资源。全双工技术可同时同频收发信号,能有效提高系统的频谱效率,且全双工系统双向同时收发有助于提高信息传输的安全性。本文对存在残余自干扰的MIMO全双工双向通信系统中,合法节点在接收信息的同时向对方发送信息,并发送人工噪声干扰窃听节点的物理层安全方案的优化问题进行研究,论文的主要工作如下:1.针对合法信道状态信息已知,而窃听信道状态信息仅统计分布已知的情况,首先推导出系统平均保密和速率及其下界的闭合表达式,在此基础上,以最大化平均保密和速率的下界为目标,对两节点的信息信号与人工噪声的功率分配因子、信息信号的功率分配矩阵进行联合优化。采用迭代的方法进行优化,每轮迭代中,先固定前者,优化后者,再固定后者,优化前者。使用凹/凸函数差(Difference of Concave/Convex,DC)规划算法优化信息信号功率分配矩阵,使用遗传算法优化信息信号与人工噪声的功率分配因子。对所提方案进行了仿真验证,证明理论推导正确,优化算法能有效地提高系统的平均保密和速率。2.针对合法信道、窃听信道的信道状态信息已知,分别在获得的信道矩阵准确和存在偏差两种情况下,对信息信号和人工噪声的预编码矩阵进行优化。针对信道状态信息完美的场景,构造以最大化保密和速率为目标的优化问题,并将其转化为两个上凸函数之差的形式,使用DC规划优化信息信号与人工噪声的预编码矩阵。针对信道状态信息存在随机偏差的场景,使用最差准则建模信道,利用加权最小均方误差算法对信息信号以及人工噪声的预编码矩阵进行鲁棒设计。仿真验证优化算法能有效提高系统保密和速率。