在现代超级计算机和超级服务器体系结构的研究中,机群系统逐渐成为一种主流的结构。而基于SMP结点的机群系统以其较高的性能价格比和较好的容错能力成为当前研究的一个热点。作为一个机群系统,其通信协议的性能是影响系统整体性能的一个关键因素。基于SMP结点的机群系统由于其结构的变化,其通信协议也与早期的基于单处理器的机群系统不同。因此,研究基于SMP结点的机群通信系统方面的问题在设计和实现一个高性能的机群系统中占有重要的地位。本文首先全面分析了机群体系结构以及机群通信系统的发展现状,并介绍了一些相关的研究。然后,从机群系统互连性能的角度上将机群通信协议抽象为一种层次结构,并基于这种层次结构给出了用于基于SMP结点的机群系统的多重通信协议模型以及组成多重通信协议的基于共享内存的通信协议和半用户级通信协议。随后,本文重点讨论了组成多重通信协议的两个协议层。文章首先讨论了基于共享内存的通信协议的不同实现方式以及提高通信性能的一些关键问题。然后讨论了采用半用户级通信协议对通信系统的安全性和可靠性的影响、对系统的可移植性的支持以及对异构网络环境的支持。文章还进一步采用进程代数的方法对多重通信协议进行形式化描述及验证。性能是评价一个通信协议的指标之一。本文给出了在曙光3000上实现的一个多重通信协议——BCL-3的评价与性能分析。通过分析多重通信协议的点到点通信性能、LogGP模型参数以及一组集合操作的性能来综合评价通信系统的性能。实验表明BCL-3系统具有良好的性能与可扩展性。最后,本文分析了限制通信系统性能的一些因素,并给出了多网卡通信协议的模型和一个双网卡通信协议的实例。通过设计多网卡系统来进一步提高通信系统的性能。