在具有多个节点的内容转发网络中,节点的传统转发方式是复制转发。使用网络编码可以极大提高网络吞吐量。在无线通信场景中,使用电磁波的广播特性,使用物理层网络编码可进一步提高吞吐量。在无线传播环境中,衰落是一个很难克服的难题。事实证明,多天线输入输出系统(MIMO)可以充分利用信道的特性,克服衰落,提高传输的可靠性与有效性。网络编码与MIMO都是可以用来提高系统吞吐量的技术,而且他们在本质上有相似之处,很多学者将这两者结合研究。最常见的研究场景是双向中继通信(TWRC)场景。但经过研究发现,该场景以及该场景下的某些假设具有局限性。比如两个源节点都必须存储已经发送的包,并且无论何时,源节点都是需要互相交换信息。本文提出了比TWRC更具一般化的TWRC+D模型。在该场景下,通过使用复数域网络编码,节点不再需要存储发送的包,源节点之间的信息也没必要要求完全对称。且节点D可以只收到编码包就可以解出两个源节点的信息,大大提高了吞吐量。在此基础上,针对对称调制与非对称调制两类场景,根据不同的方案优化了成型星座,找到了最佳编码系数,最大化了星座图的最小欧氏距离,提高了系统的可靠性。同时研究了星座图最小欧式距离对系统误码率(BER)性能的影响。仿真结果很好地验证了理论分析,我们的最优星座成型方案性能好于理论星座性能。