随着信息化与通信技术的发展,现代卫星通信系统已经可以为用户提供宽带高速业务,包括高清视频、图像、交互式业务和高速数据业务等。用户对服务质量的高要求与系统有限的带宽资源之间的矛盾日益加剧。跨层设计技术作为一种新技术,可以实现系统资源高效利用、提高通信性能、保证服务质量,因此成为下一代卫星通信技术的研究热点。同时,由于卫星通信系统容易受到降雨等天气因素的影响,易使视频业务产生误帧、图像模糊不清等现象,严重影响通信质量。因此,研究多媒体卫星H.264/AVC视频等宽带可变速率视频业务的容错技术及解码端高性能硬件结构设计是非常有意义的。论文主要研究了宽带卫星通信系统的标准协议、基于跨层设计的带宽分配算法、H.264/AVC视频帧内自适应误码掩盖算法等关键技术,设计了H.264/AVC视频解码端滤波器及CAVLC解码器实现方案。论文主要的创新点和研究工作如下：1.解析研究了宽带卫星通信系统DVB-RCS协议和DOCSIS-S协议,从协议结构完整性、物理层技术、IP组网方式、QoS,保障机制等多个方面对比、分析了DOCSIS-S协议相对于DVB-RCS协议的优势。2.提出了一种基于DOCSIS-S的GEO卫星通信系统跨层效用最大化的带宽分配算法。该算法联合了MAC层、物理层状态和应用层的QoS参数进行设计,实现带宽资源的公平和高效分配。仿真研究了采用跨层效用最大化分配算法时系统频谱利用率和用户公平性等性能。研究结果表明提出的算法能够在保证用户公平性的同时提高系统频谱效率。3.提出了一种应用于卫星H.264/AVC视频的帧内自适应误码掩盖算法,解决信息传输过程中因误码和丢包等导致视频图像业务主客观性能下降的问题。该算法根据视频的边缘特征将丢失块分成三类,自适应地选择线性内插、方向内插或者新方向加权内插作为内插方法,提高重构视频质量,加速误码掩盖过程。构建仿真平台,通过不同特性标准视频测试序列对算法性能进行仿真。客观评价结果表明,与标准JM算法相比,提出的算法在解码时间稍微增加的情况下,峰值信噪比大约提升了3.2dB。主观比较结果表明,提出的算法能够获得更高的视觉质量。4.提出了一种基于H.264/AVC标准的高速并行滤波次序方案。该方案同时考虑了像素级和块级的滤波并行性,能够有效减少处理周期、提高系统吞吐率。基于提出的滤波次序方案,提出了一个高速并行和流水结构的去块滤波硬件结构方案。通过使用两个并行滤波内核、3个RAM和一些转置阵列,可以同时对水平和竖直边沿进行滤波。搭建系统仿真平台,基于TSMC0.18μm CMOS工艺,对提出的去块滤波器进行了ASIC综合和版图设计。结果表明,该滤波器结构吞吐率是T.M. Liu和S. Lopez等提出的滤波器吞吐率的3.7-8.3倍,同时可以实时地完成帧率是60fps的1080HD高清视频的解码工作。5.提出了一种针对H.264/AVC基本档次的低功耗、多符号、高吞吐率的CAVLC (Context-based Adaptive Variable Length Coding)解码器结构方案。该方案利用码表分割和多符号解码技术来减少功耗、提高吞吐率。使用Verilog HDL对提出的CAVLC解码器进行硬件描述语言的编程,并分别使用Synopsys公司的VCS、Design Compiler、 Astro进行仿真、基于TSMC0.18μm标准单元库的综合、布局布线。仿真结果表明,当频率是167MHz的时候,提出的设计仅消耗14.46mW以及14873门,而关键路径延时仅为5.59ns,实现了解码器的低面积、低功耗和低复杂度。