随着互联网和信息技术的迅速发展，不同领域的复杂系统（比如在线社交系统、社会媒体、信息预测与推荐系统、控制系统、传播系统、电力系统、合作系统、运输系统、勘探系统、调度系统等）可以通过一种复杂网络化数据形式进行表达。其中，复杂网络数据中的节点和边分别代表着复杂系统中的实体和实体之间的联系。此外，信息存储技术和信息在线传输技术的快速发展提供了大量可供研究的复杂系统网络数据。通过对这些网络数据定量化和定性特性的理论分析、算法设计、模拟实现以及应用验证等多种科学分析方法来推动复杂性科学、系统动力学、社会行为学、经济学、管理学、心理学等多个学科的结合和发展。　　近年来，学者们通过研究复杂网络数据上的模式结构（比如社区结构、小世界特性和无标度特性等）来理解复杂系统的功能；通过研究复杂网络上的行为特性（比如网络传播性、网络结构平衡、网络鲁棒性、网络控制性、网络预测性、网络竞争与合作、网络耦合性、网络级联失效、网络分布式）来理解、控制和预测复杂系统功能的变化和发展。模块性或称社区结构是复杂系统中一个最重要也是最基本的模式结构。这种模式结构在复杂网络中表现为模块内部相互联系紧密与模块之间连接稀疏的节点集。复杂系统的模块性分析能有效地反映系统潜在功能块以及功能块之间的联系，并有助于理解、分析和预测复杂系统的行为特性。研究复杂网络的结构平衡行为特性可以有效地预测和减少系统中功能模块中存在的冲突，促进系统实体模块的安全和谐发展。研究复杂系统的结构鲁棒性对系统功能模块的安全性、稳定性以及抗打击性的分析有着重要的作用。　　本文主要针对复杂系统中的社区结构模式挖掘、结构平衡的计算与转换以及结构鲁棒性的行为优化展开研究。本文所采用的研究思路是将所关注的上述网络问题模拟映射为网络优化问题，然后结合计算智能算法的启发式特性以及网络上的启发性特定结构知识来解决所模拟的优化问题。具体而言，本文所展开的研究工作概括如下：　　1）针对基于优化的社区结构检测算法难以检测网络真实社区结构和提取网络多分辨社区结构的问题，本文将复杂网络的社区结构检测问题建模为一个多目标优化问题，并结合网络特定的启发性拓扑结构知识提出一种基于分解的多目标进化算法来求解该多目标优化问题。在提出的多目标优化问题中，优化其中的一个目标倾向于得到高分辨下社区数比较多的网络社区划分，而优化另外一个目标容易获取低分辨下社区数比较少的网络社区划分。同时优化这两个具有相互冲突性的目标将会得到在多种分辨率下的网络社区结构划分。大量实验证明与三个具有代表性的社区结构算法相比，本文提出的多目标社区检测优化模型以及多目标优化算法能较好地在中小规模网络上挖掘其真实社区结构划分以及提取其多分辨社区结构。　　2）快速、稳定、有效地检测大规模网络中的真实社区结构一直是近年来在网络问题上研究的难点。传统的基于贪婪的优化算法能够快速地检测网络的社区结构，但是它们很难找到网络的真实社区结构。基于进化优化的社区结构检测算法能够有效地检测出网络的真实社区结构，然而这类算法拥有较高的计算复杂度和不稳定性。本文利用网络的拓扑结构知识，提出一种基于多层学习的Memetic算法来检测大规模网络的社区结构。提出的Memetic算法由基于遗传算法的全局搜索和基于多层学习优化的局部搜索组成。基于遗传算法的全局搜索能有效地探索解的感兴趣区域；基于多层学习优化的局部搜索能够快速地找到特定解区域中的最优解。本文提出的Memetic算法综合局部搜索和全局搜索的优点，能够快速有效地找到基于模块度优化的最优解和网络的最优社区结构划分。系统性的实验证明了提出的算法在大规模网络社区结构检测的有效性、快速性和稳定性。　　3）如何反映社会网络中的不平衡行为以及如何挖掘和消除社会网络中的不平衡因素是当前网络社会行为学中的研究难点。本文利用结构平衡理论将符号网络的结构平衡计算和转化问题映射为基于优化能量函数的社区结构检测问题，提出基于网络启发性结构知识的Memetic算法来解决此优化问题，通过挖掘社区内部的敌对关系和社区间的友好关系计算出符号网络中的不平衡因素，并通过转换网络中的不平衡因素实现网络从不平衡性向平衡性的转换。本文提出的Memetic算法充分利用网络特定的节点邻域、社区邻域和网络划分邻域结构知识。在大量真实社会网络中的实验证明了本文算法的有效性。　　4）当复杂网络受到恶意的攻击时，其网络拓扑结构和网络功能将会受到由级联破坏引发的伤害。研究网络社区鲁棒性有助于理解网络社区功能对恶意攻击的抵抗力，并有助于研究如何保护网络的社区功能免受伤害。针对现有模型和优化算法无法分析复杂网络在遭受恶意攻击时其社区功能完整性以及无法保护网络的社区功能免受伤害的情况下，首先，本文将复杂系统中的攻击模拟成一个多层网络攻击模型。其次，提出社区鲁棒性指标来测量网络在受到攻击时其社区功能抵抗攻击的能力。最后，提出启发式贪婪算法微调网络的边拓扑结构来提高网络社区功能抵抗外界攻击的能力。　　5）在现实世界中，一个复杂的真实系统不仅仅由一个独立的子系统构成，而是由多个相互耦合的或相互控制的子系统构成。当一个子系统中的某部分功能丧失时，将会触发一系列多子系统间的级联失效过程，最终可能会导致整个系统无法正常运行。快速恢复受损系统的功能与我们的日常生活息息相关并受到广泛的关注。然而，如何设计鲁棒性比较好的耦合系统以及如何快速地恢复受损耦合系统的功能一直是研究的难点。基于此，本文首先研究真实系统在受到攻击和在恢复过程中的级联失效过程。其次，提出耦合网络鲁棒性指标来测量系统在受到攻击时和在重建时维持自身功能和生存的能力。最后，根据网络启发性中心性知识提出保护重要节点的策略来增强耦合系统的攻击鲁棒性和恢复鲁棒性。