随着无线通信技术的发展以及对频谱资源需求的日益增加,频谱资源已经变得非常紧张。认知无线电是频谱复用的一种典型实现方式,它允许从用户接入主用户授权的频谱。这意味着认知无线电能解决频谱利用不均的问题,并能有效的提高频谱的利用率。多播通信技术是另一种在移动通信系统中变得越来越重要的技术。其中,利用多天线中继节点的协作多播系统尤为突出。在协作多播设计中,多天线中继节点可以工作在分布式的场景或者集中式的场景中。当工作在分布式的场景中,每一根天线以各自的放大因子向前转发它所接收到的信号。相对应的,当中继节点工作在集中式的场景中,每一根天线向前转发所有接收到的信号的集合。换句话说,在这种模式下的通信其实是不同天线间的联合信息处理。虽然实现的复杂度会增加,但最后的吞吐量会有一个明显的提高。本文研究的重点是认知中继网络中的波束成形问题。本文的主要工作内容如下:首先,本文提出了一种基于认知中继网络的系统模型。在这个认知无线网络模型中,假设两个中继网络共用一个中继节点,并且考虑认知网络对主用户的干扰。针对这个认知网络模型,本文在认知网络发射功率受限的条件下研究了认知网络下的加权速率均衡问题,并且设计了基站与中继的联合波束成形方案来优化从用户的加权均衡速率。为了解决这个非凸问题,本文采用迭代优化算法。因此,在每一步的迭代过程中,只需要解决一些SDP的子问题。仿真结果显示,在本文提出的应用场景下,本文提出的算法相对于对比算法来说性能更优。其次,本文研究了带有分布式中继节点的认知中继网络下的波束成形鲁棒性问题。在这个典型的分布式认知中继网络中,多个配有单根天线的分布式中继节点接收到认知网络发射端的信号,并将其转发到认知网络的接收端。本文假设认知网络发端与认知网络收端之间没有直接的通信链路,所有的通信只能经由中继节点转发。在认知网络工作的同时,假定主用户也活跃到同一频段。针对这一分布式认知网络场景,本文研究的重点是该网络下鲁棒性的研究,因此假定认知网络中仅能获取到部分的信道状态信息。在本文的设计中,信道协方差矩阵的不确定度被限定在已知半径和形状的椭球内。本文的设计目标是在从用户信干噪比的约束条件下使得发射功率达到最小值。将这个优化问题引入认知网络,必须限制认知网络对主用户的干扰小于一定的干扰门限。本文通过拉格朗日对偶的方法,能够得到优化问题的变形。之后的问题可以通过凸优化的方法求解。