在实际网络化系统中,故障的发生会使系统性能下降从而导致其安全性和可靠性降低,因此利用系统中可测量信息对可能存在的故障进行检测十分重要。在网络化系统中所有元件均以节点的形式接入共享通信网络完成数据传输,针对数据在网络节点间相互传递时会发生碰撞冲突等现象,通信网络中通常采取合适的网络协议对数据调度。目前人们对网络协议的研究主要集中于线性和确定性系统的控制/滤波问题,网络协议对含有网络诱导的复杂系统故障检测问题的影响尚未得到充分研究。在此工程背景下,本文旨在研究Round-Robin(RR)协议和随机通信协议(SCP)下的一系列复杂系统的故障检测问题,主要工作如下:首先,研究一类基于RR协议的随机时滞系统的H_∞故障检测问题。针对网络环境中存在的随机时滞和非线性现象建立复杂网络化数学模型,在传感器网络传输信号过程中采用RR协议进行调度使节点获得访问网络权限具有平均性,从而大大减少数据信号传输时发生冲突紊乱等现象,为这类基于RR协议的随机时滞系统设计非脆弱H_∞滤波器,确保在RR协议影响下的滤波误差系统随机稳定,并建立性能指标评估网络控制系统外部干扰对残差信号观测误差的影响,实现在RR协议调度下伴随随机时滞和非线性的网络化系统故障检测问题。其次,研究SCP影响下的数据丢包系统和随机非线性系统的H_∞故障检测问题。针对信号传输中各节点对通信网络的访问具有随机性的现象,采用SCP这种扩展性更好的网络协议对各节点间信号传递进行调度从而优化通信过程。在建立系统状态方程时重点考虑数据丢包、时滞和随机发生非线性对系统分析带来的影响,利用伯努利随机分布描述数据传输过程中的丢包,采用合适的非线性函数以及合理的随机表示方法建立状态方程,同时在随机非线性系统依循随机通信协议的基础上考虑信道衰落特性。基于含有SCP的通信网络,分别考虑一类伴随时滞的随机丢包系统和一类伴随信道衰落现象的随机非线性系统的非脆弱H_∞滤波问题。设计故障检测指标和残差评价策略为系统故障的可检测性提供基础,求解出满足相应性能指标的SCP下的H_∞非脆弱故障检测滤波器存在的充分条件,得到SCP对故障可检测性的影响以解决相应故障检测问题。最后,研究一个实际的通信列车运行控制系统的H_∞故障检测问题。运用牛顿运动学方程建立列车运行模型,采用与SCP原理类似的CSMA协议进行车地之间的信息数据传输以保证列车运行的有序性。在前文建立的故障检测方法的基础上,针对所建立的列车运行系统和基于网络协议的滤波器设计方案对系统进行性能分析和滤波器设计从而实现该系统的故障检测。这是基于模型的故障检测方法在工程应用中的探索性尝试,并为工程实践提供新的理论依据。