随着Internet的飞速发展和多媒体技术的不断成熟，流媒体应用已经成为互联网上最为重要、最具活力的应用之一。然而由于Internet与生俱来的尽力而为特性以及在网络拓扑、终端设备等方面存在的异构性，导致流媒体应用在传输机制方面仍然存在许多有待改进的地方。本论文针对当前流媒体传输中存在的服务质量、拥塞控制、系统扩展性以及网络环境异构等问题展开深入研究和探讨，主要贡献归纳如下：论文针对流媒体传输中的服务质量路由问题进行研究，在分布式探测路由算法的基础上，结合主动网络技术的优点，提出一种新的基于主动网络技术的多约束主动路由协议MAR(Multi-constraints Active Routing)，通过运行MAR协议能够为流媒体业务建立一条具有可靠服务质量保证的传输路径。作为一种主动网络协议，MAR允许用户根据应用要求和网络状况自行定制QoS约束条件和路由参数，使主动分组在主动节点的路由转发由其携带的路由参数和可执行代码在该节点的执行结果来决定。与已有的服务质量路由协议相比，MAR具有以下优点：(1)探测路径由源端确定，因此不存在分布式路由探测中通信开销过大、路由环路和路由终止等问题；(2)每个节点只需维护简单的全局拓扑关系和本地状态信息，从而避免了全局链路状态信息交换和维护带来的通信开销和存储开销过大的问题；(3)通过把约束条件判断分布到各中间节点执行，从而减小了源端计算的复杂度。论文针对IP组播模式下的多速率拥塞控制机制进行研究，提出一种基于多等级拥塞标记和可用带宽探测的拥塞控制方案LM-MCM(Layered Multicast with Multilevel Congestion Marking)。与已有的多速率拥塞控制方案相比，LM-MCM主要有两个改进：(1)在中间路由器中引入多等级拥塞标记策略，使路由器可以根据输出端口的平均队列长度对流经本端口的组播分组进行多等级拥塞标记，以“显式”方式通知接收端当前网络的拥塞状态；(2)在接收端使用拥塞标记统计值取代丢包率作为层次订阅调整的依据，不仅可以加快接收端对于网络拥塞的响应速度，而且可以避免接收端盲目执行“加入尝试”过程，从而减小网络发生拥塞的可能性。此外，为了获得与TCP拥塞控制机制的友好性，LM-MCM还提出如下补充策略：通过适当设置每个层次的发送速率以及接收端在订阅一个新的层次前所必须等待的无分组丢失时间，使自身的拥塞控制行为模拟TCP协议的AIMD(Additive Increase and Multiplicative Decrease)规则，从而在一定程度上实现与TCP的友好性。LM-MCM方案虽然能够对拥塞进行早期检测，并及时响应拥塞以减少不必要的分组丢失，但是LM-MCM的这一优点是通过在中间路由上引入多等级拥塞标记策略获得的。尽管该策略易于实现，但是在中间路由器引入附加功能仍然会影响系统的扩展性。另一种可行的拥塞早期检测方法是在接收端通过分析分组的延时抖动变化趋势来判断网络的拥塞状况。论文在第四章对分组的延时抖动趋势模型进行分析，并把它与TCP友好的速率控制协议结合起来，提出一种基于延时抖动趋势和TCP吞吐量公式的分层组播方案LM-DJT(Layered Multicast based on Delay-Jitter Trend)。LM-DJT通过延时抖动趋势模型来推测当前网络的拥塞状况，使接收端能够尽可能在拥塞初期(分组丢失之前)就检测到网络拥塞，并把它作为一次丢失事件(Loss Event)引入到一个改进的TCP吞吐量公式中，以估计当前传输路径允许的与TCP友好的传输速率，然后接收端根据传输速率估计值和一个层次调整策略对层次订阅进行调整。通过大量仿真实验表明，LM-DJT能很好地适应网络环境的异构性和动态性，在保证带宽公平分配的情况下，具有较快的收敛和拥塞响应速度，引入较少的分组丢失。论文第五章主要针对多源应用层组播方案中的重叠网络构建方法进行研究，提出一个基于DHT环的重叠网络构建方法DHTCO(approach for constructing DHT-Circle based Overlay)。DHTCO把所有参与接收／转播相同频道的用户终端组织成一个混合双层结构，该结构的底层是一个结构化的环，它通过简化的分布式指针表来维护用户终端的信息；上层是一个非结构化的Mesh网络，Mesh网上的每个对等节点通过对DHT环进行关联查询，来发现网络上其它对等节点的信息，从而独立地选择自己的数据源提供节点。DHTCO的优点在于通过分布式维护对等节点信息，提高了系统的扩展性和健壮性，同时通过在目录服务器上集中维护部分优选节点的信息，加快了新用户发现其它对等节点信息的速度，缩短了系统的启动延时。其次，用户只在加入系统时才从目录服务器获取对等节点信息，因此能够有效避免目录服务器成为系统的单点瓶颈。此外，在DHTCO中，每个用户总是试图最大化自己总的接收带宽，也即能够最大化各用户的接收质量，从而提高了用户带宽的利用率。最后DHTCO能够支持每个接收端自适应地重新选择父节点或者增加新的父节点，因而能够有效适应重叠网络环境的动态性，增强各用户接收质量的平滑性。本论文已经基于DHTCO开发了一个实际可运行的多源应用层组播系统InfoTV，在实验室局域网环境下，通过大量测试发现InfoTV确实能够为用户提供高质量的流媒体服务，同时保持较低的负载开销。