近年来,无线通信系统的规模和容量不断扩大,与此同时,珍贵的无线频谱资源又大多以固定的方式被占用,这便促使无线频谱资源日益紧张。为了提高频谱效率,人们发明了认知无线电技术。认知无线电技术允许空闲频谱能够被未授权的次用户使用,也即允许次用户动态共享频谱。与此同时,MIMO技术是提高频谱效率的另一项关键技术。因此,把MIMO技术与认知无线电技术相结合,即认知MIMO无线电技术,可以进一步提高频谱效率。由于认知无线电系统具有动态性和异构性,系统中的各终端要获取全局信息,通常是不现实的。因此,在认知无线电系统中,尤其是在认知MIMO无线电系统中,研究有限反馈动态频谱共享问题,具有非常重要的意义和实用价值。采用有限反馈技术的认知无线电系统,频谱共享策略集合通常是离散的,而获取最优频谱共享策略,需要复杂度很高的算法,比如穷举搜索算法,会导致大量的系统开销。在实际系统中,这显然是不可取的。那么,如何通过有限反馈,获取低复杂度的分布式动态频谱共享技术,成为了一个亟待解决的研究课题。博弈论,是解决分布式离散非凸优化问题的一个有效理论工具,因而非常适合用来分析和研究有限反馈动态频谱共享问题。本文具体工作概括如下:首先,研究针对具有不同风险偏好的次用户(即多类买家),基于拍卖的有限反馈动态频谱共享技术。其中,提供频谱的基站(即拍卖方)采用了参数化的非标准密封式拍卖机制,且拍卖机制可以自适应地进行设计。通过设计一个基于学习自动机博弈的随机学习算法,使提供频谱的基站(即拍卖方)可动态地调整拍卖机制,以实现利润最大化,而次用户(即购买方)则可以动态的选择竞拍价格,以最大化自己的收益。研究表明这个算法是有效的,且能够有助于基站获得比固定拍卖机制方案和随机拍卖机制方案更大的利润。接下来,研究无附加限制的认知MIMO多接入信道中分布式频谱共享策略选择问题。在这里,频谱共享策略被定义为多模式预编码策略。而动态频谱共享问题则被构建成一个离散非合作博弈。该博弈至少具有一个纯策略纳什均衡,且最优的和速率最大化频谱共享策略组合也是该博弈的一个纯策略纳什均衡。结合学习自动机理论,设计一个分布式的学习算法来获取博弈的纯策略纳什均衡。引入一种重复机制来提高算法的和速率性能,并设计一种自适应步长机制来控制算法的收敛速度。该算法能够以有限的反馈信息,获得最优或者接近最优的和速率性能。其次,研究有干扰功率限制和最大传输数据流限制的认知MIMO多接入信道中的机会频谱共享策略选择(多模式预编码策略选择)问题。本文构建了一个具有限制的次用户频谱共享策略选择博弈模型。证明该离散博弈是一个潜博弈,并至少具有一个纯策略纳什均衡。分析纯策略纳什均衡的可行性和最优性。证明和速率最大化问题的解是该博弈的一个纯策略纳什均衡。基于最优反应动态算法,设计两个低复杂度的算法。其中第一个算法可以获得可行的纯策略纳什均衡。第二个算法对第一个算法进行了改进,可以提高和速率性能,但是其复杂度要比第一个算法高一些。这两个算法都具有很低的复杂度,且能够获取最优或者接近最优的和速率性能。最后,针对有限反馈认知MIMO干扰信道中的分布式能量有效的动态频谱共享策略选择构建了一个博弈理论框架。在这里,频谱共享策略被定义为一个包含多模式预编码策略和离散功率策略的二元策略。假设各次用户都是理性自私的。每个次用户的目标是,在具有干扰功率限制和最小速率限制的情况下最大化各自的能量效率。定义一个能够在不提前预知不可行策略组合的情况下,保证纯策略纳什均衡可行性的支付函数。设计一个分布式动态频谱共享策略选择算法,并证明该算法能够获取可行纯策略纳什均衡,如果可行纯策略纳什均衡存在。这个算法获得的发射功率远远低于随机选择算法,而传输速率却远远高于随机选择算法。此外,代价机制可以进一步大幅提高次用户的能量效率。