自然界和人类社会的诸多应用领域都存在着复杂动态系统,它们或是由众多相互作用的个体构成的群体,或是一些状态难以预料的非线性系统。由于在工程、国防、医疗以及信息安全等领域的重要应用,复杂动态系统受到了学者们的广泛关注。复杂动态系统由于其内在复杂性在外部逐渐涌现出多样而又有趣的行为,精确描述这些行为并揭示它们的内在规律不仅能帮助我们认识现实世界,还能利于它们在应用领域发挥作用。对于由众多个体组成的复杂动态系统,结合网络研究是近年来新兴方向,也是数学、物理、生物、经济、控制等学科的研究热点。本文主要针对网络化多智能体系统、复杂动态网络和非线性系统上的渐近行为进行了研究。网络化多智能体系统的渐近行为研究多侧重于行为形态单一的协调性问题,如一致性、单目标追踪、群集等。而实际系统中常常出现形态非单一的协调性行为,基于此,本文研究了网络化多智能体系统的多协调性问题。从现实通讯中存在约束的角度出发,本文还研究了复杂动态网络的渐近行为。此外,认识到混沌加密在信息安全中的重要作用,本文研究了非线性系统的混沌行为。全文主要内容为：针对实际信息传输具有非线性特点,提出一个非线性的传输协议,研究非线性网络化多智能体系统的多一致性问题。运用图论、矩阵论、李雅普诺夫稳定性分析方法等得到系统达到多一致时网络拓扑需满足的条件,并给出了精确多一致值；对一般系统设计了一个控制器,使系统实现多一致。得到的结果揭示了系统渐近多一致、多一致状态值与系统的初始状态和网络拓扑的关系。针对实际信息传输还存在周期性、非连续性特点,运用基于采样数据的脉冲协议,解决含有多个领队的二阶网络化多智能体系统的包含控制问题。对于静态领队情形,通过对拉普拉斯矩阵特征值分析并运用双线性转化定理,得到网络化多智能体系统实现包含控制的一个充要条件；当领队为匀速运动时,通过计算某个极限值,我们得到网络化多智能体系统实现包含控制的一个充分条件。结果揭示了系统包含控制与脉冲协议、网络拓扑、系统初值的关系。针对现实追踪问题存在多个目标,并且目标状态不能被追踪者完全获知这一特点,提出一个基于目标加速度估计值以及邻居间相对位置信息的传输协议,研究网络化多智能体系统对多个动态目标的追踪问题。对网络拓扑是固定的和切换的两种情况,分别运用李雅普诺夫函数方法分析系统实现对多个目标追踪的条件,同时将结论推广到包含控制的研究中。得到的结果表明,当网络含有有向生成森林并且协议参数和拉普拉斯矩阵特征值满足某种关系时,追踪者位移与所有目标位移形成的凸包距离有界,即系统可实现集合追踪。针对现实网络中通讯时滞具有时变特性,并且随着节点不同而存在差异,建立一个含有多个时变耦合时滞的复杂动态网络模型,研究该类网络的同步问题。运用图论、李雅普诺夫函数法和线性矩阵不等式分析网络同步的条件。研究结果为判断含有多时变时滞的复杂动态网络能否实现同步提供了依据。找出多个存在混沌吸引子的非线性系统。通过构造一系列非线性系统并进行数值仿真,发现了一批新的混沌吸引子；挑选了其中一个混沌吸引子,综合研究其平衡点、雅克比矩阵、李雅普诺夫指数、分数维度、耗散性、时域内的波形、频率谱和庞加莱截面；并用EWB软件将该吸引子的系统在电路上实现。结果表明,该混沌吸引子是存在的,并且能使用电子元件实现。