无线多播系统利用信道的广播特性，能同时为多个多播组提供差异化服务，因而具有较高的通信效率，在移动通信网中有着广阔的应用前景。多播物理层安全技术基于通信双方的信道互易性、唯一性来保证安全传输，其面向物理层传输信道，适应多播高层应用复杂的场景，但现有多播物理层安全研究仍存在以下不足：1)多播组内用户数大于发送端天线数时，人工噪声等方法应用受限；2)在多组多播物理层安全传输场景中，组间干扰、系统资源的优化配置等问题亟待研究。因此，本文以国家自然科学基金为依托，对无线多播物理层安全展开研究。基于多播的分组特性，本文首先研究单组多播系统物理层安全方法，之后对多组多播系统物理层安全传输方法展开研究。具体研究内容如下：1、提出一种基于多载波的物理层安全方法。首先建立基于多载波的多播系统物理层安全通信模型，通过载波分配方法实现用户共享载波，且使用户天线总数少于发送天线数，来保证发送端满足天线冗余；之后在载波上的用户信道零空间内引入人工噪声，以降低窃听方接收信噪比；最后为最大化系统的保密速率，提出一种基于K-T优化条件的载波功率分配方法。该方法通过在载波上引入人工噪声保证安全，在窃听用户信噪比为15dB，合法用户信噪比为25dB，载波数目为64时，所提功率分配方法的保密速率比各个载波均分系统总功率时提高约1bit/s/Hz。2、提出一种基于用户分簇的单组多播系统物理层安全方法。在单频带多播通信系统中，基站通过将多播组用户划分为多个多播簇，使每个多播簇内用户天线总数少于发送天线数，从而保证分簇内满足天线冗余的条件，基站对各个多播簇时分复用，并在多播簇用户信道零空间内引入人工噪声。为最大化系统保密速率，提出一种基于分簇的功率分配方法。方法利用分簇区分用户并在多播簇内引入人工噪声，保证了安全传输，与等功率分配有用信号与噪声的参考方法相比，所提功率方法下系统保密速率约提高为3bit/s/Hz。3、分别针对多载波多播场景和单频带多播场景，提出对应的多组多播安全传输方法。在多载波多播传输场景中，提出一种改进的载波分配方法：首先通过分配载波保证载波上满足发送端天线冗余的条件，之后将载波按照多播组用户数的反比例进行分配，以抵御载波信道各态历经性对保密速率的影响；在单频带多播系统中，提出一种基于多播组间用户数目公平的分簇方法，并提出一种基于多播分簇的多播波束成形方法，以消除组间干扰。仿真表明，在多载波传输场景中，当窃听用户信噪比为15dB，合法用户信噪比为25dB，系统可用载波数目为128时，与原有载波分配方法相比，所提改进的载波分配方法对应的系统保密速率约提高10bit/s/Hz；在单频带传输场景中，多组多播分簇方法下各个多播组保密速率之和，比采用单组分簇方法时各个多播组保密速率之和提高约6bit/s/Hz。