在电信运营商的三重播放业务架构中,IPTV被认为将成为下一个杀手级应用,在大量消耗互联网上可用带宽资源的同时推动未来网络的进一步发展。近年以来,在北美、欧洲以及亚太地区,许多运营商都宣布开始为用户提供IPTV业务。在IPTV系统中,组播技术因为能够优化网络的资源利用,对直播电视等典型业务提供良好的支持而起到关键的作用。在目前的网络中有三种最具代表性的组播方式:IP组播,应用层组播以及光组播。为了支持诸如IPTV等业务的可靠传输需要,国家高性能宽带信息示范网(3Tnet)采用了一种新的网络模型,IP over optical层叠组播网络模型。在层叠组播网络中,IP组播流通过光树在核心光网络中进行传输。相对于传统的IP组播,层叠组播网络能够提供严格的QoS保障以及具有良好的可扩展性。本文的主要内容是对IP over optical层叠组播网络中所遇到的一些技术问题进行研究。主要包括层叠组播网络的实现,静态业务模型下的多树组播流汇聚,动态用户行为下组播流汇聚问题的稳定性研究,网络拓扑未知条件下的组-树映射和层叠组播网络中的频道切换。本文的第一章是绪论,分析了IP over optical层叠组播网络技术的研究背景,概括了主要研究内容和方法。第二章主要集中于研究层叠组播网络中光组播的分布式控制问题。基于OIF UNI的基础上,我们对已有的信令协议作出扩展以支持点到多点的连接。同时,我们还研究了GMPLS框架下IETF为了支持组播连接做出的各种信令扩展。第三章研究了静态业务模型下的多树组播流汇聚。多树是指在IPTV系统中,一个频道可能同时被多个头端所提供,用户可以根据当前的网络状态选择不同的头端作为其收看频道的源节点。我们提出一个先分解后汇聚的启发式算法,将一个具有多头端的频道分解成多个具有单头端的新的组播会话。这样就把问题简化为单树组播流汇聚,进而获得优化的网络资源利用。第四章主要集中于动态用户行为下组播流汇聚问题的稳定性研究。对于IPTV等实时性要求很高的业务而言,任何光树的重构(包括光树路由的变化或汇聚的频道集合的变化)都可能导致大的频道切换时延甚至是业务中断,造成无法容忍的后果。因此,我们提出了组播流汇聚稳定性的概念以及数学定义。然后我们提出了一个两步的启发式算法来解决稳定性问题,同时获得尽量优化的网络资源利用。第五章中我们考虑的是拓扑未知网络条件下的组-树映射。以随机图网络模型为基础,我们通过数学推导得出网络带宽浪费阈值与组成员相似度之间的关系,进而使用组成员相似度作为判断条件进行组-树映射,解决了无法得知具体网络拓扑信息的问题。第六章讨论了层叠组播网络模型中传送IPTV等视频业务时的频道切换问题。首先,我们介绍基于传统IP组播的IPTV系统中所碰到的频道切换问题以及频道切换时延的构成。然后着重研究和分析了层叠组播网络中不同信令流程对频道切换时延造成的影响。最后,我们在实际网络中进行了实验,测量了不同信令流程所引入的网络时延,并参加了一次1040个并发用户的大规模测试来评估层叠组播网络对整体频道切换时延性能的影响。