目前,随着信息化进程的深入,业务需求急剧扩张,业务种类日益多元化,无线网络的业务职能和特征发生了深刻的变化。频谱需求呈指数迅猛增长,频谱资源的供需矛盾问题日益突出,对无线业务的影响日益严重,已经成为未来制约无线领域发展的瓶颈之一。因此迫切需要新的无线网络技术,以使无线网络能够基于自身能力,适应电磁环境和业务类型的动态变化,实现频谱资源的高效有序共享。由此,认知无线网络(Cognitive Radio Network, CRN)技术应运而生。本文研究了认知无线网络的overlay模型之中,从用户在不干扰主用户发送信息的情况之下,还必须通过部分自己的发送功率,中继主用户信息。为了达到信道容量,从用户需要通过脏纸编码(Dirty Paper Coding)技术,消除主用户对从用户的干扰。本文研究了认知无线信道的基本信息,包括通信系统模型,信道模型,信道容量,讨论了当从用户不能完全感知主用户信息时,在广义衰落脏纸编码信道之中,从用户通过脏纸编码所能达到的最大信息速率。对于脏纸编码的研究,本文通过分析脏纸编码理论模型、脏纸编码信道模型以及在实际通信系统中脏纸编码信道的信道容量,得出了实用化脏纸编码方案设计的两种方式：1.基于优化信源编码的实用化脏纸编码方案；2.基于优化信道编码的脏纸编码实用化方案。对于基于优化信源编码的实用化脏纸编码方案,我们研究了四种不同的量化算法——标量量化、网格编码量化、Belief Propagation量化和Linear Programming量化,提出了一种基于Belief Propagation量化和Linear Programming量化的实用化脏纸编码方案,该编码方案从优化信源编码角度出发,用Belief Propagation量化器和Linear Programming量化器对信源信息和干扰进行量化,利用高性能量化器来获得更大的信源编码增益。在基于优化信道编码的脏纸编码实用化方案方向上,我们首先研究了网格编码调制(TCM)的原理以及网格编码调制中的集分割映射理论。随后,通过分析Turbo码和卷积码相比在码字汉明距离和欧式距离上的优势,研究了基于Turbo结构的网格编码调制。最后,提出了一种基于Turbo-TCM的Trellis-Precoding脏纸编码方案,并对提出的脏纸编码方案进行了仿真,验证了相比原有的Trellis-Precoding方案,基于Turbo-TCM的脏纸编码方案能获取更大的信道编码增益。