随着Internet网络的飞速发展和业务需求的爆炸式增长，卫星网络以其广覆盖的天然优势作为Internet网络的补充已经成为一种必然趋势。然而传统的卫星网络协议是分层设计的，这种“分层”优化只在各个协议层独立进行，没有考虑网络整体的优化性能，结果网络的整体性能没有达到最优。为了使在分层设计中的各种策略能够适应卫星网络，跨层设计是非常重要的。这不仅可以使现存卫星网络中的多媒体服务性能提高，而且可以为下一代网络的算法和协议设计提供宝贵的指导。本论文着重研究了卫星网络下行链路的数据包跨层调度算法和上行链路跨层感知的资源分配算法，跨层利用协议栈中的关键参数，在特定服务类型QoS要求和系统资源约束条件下进行联合优化，使网络协议栈的整体性能达到最优，实现网络资源的高效利用。在本论文中我们首先为区分服务模型提出了一种跨层数据包调度架构。我们针对不同的应用数据流到达MAC层调度器时采用NUM模型制定速率、时延的均衡机制。每个数据流根据不同的质量和时延要求划分不同的优先级，利用物理层的信道状态信息、IP层的队列信息，在MAC层对数据包进行联合调度，同时计算出各种业务的合适的发送速率并返回给卫星的应用层。通过仿真分析，这种跨层数据包调度算法实现了对时延要求严格的业务的时延保证，同时最大化了其他业务的满意度，实现了网络资源的有效利用。接着，论文研究了卫星返回链路的资源分配算法，提出了部分非中心式的DAMA带宽分配方案。本算法使用不同的网络知识(网络容量、其他用户终端的资源请求)定义网络的代价函数，并把每个场景建模为非合作博弈模型。通过利用跨层机制而来的网络信息，卫星终端能够达到最优的网络操作点，因此执行了高效的带宽请求。