蚁群优化算法是继模拟退火算法、遗传算法、禁忌搜索算法等启发式搜索算法以后求解组合优化问题的一种新型模拟进化算法。最新研究表明蚁群优化算法是一种基于群体的强鲁棒性进化算法，该算法通过模拟蚁群搜索食物的行为，采用正反馈结构、分布式计算与某种启发式因子相结合的方法，能够很快地发现较好解。然而，初期信息素匮乏、求解速度较慢、易陷入停滞等缺点一定程度上影响了算法的求解性能。同时，蚁群优化算法在优化问题之外的应用研究也亟待进一步加深和拓展。 本文以研究典型的NP问题--旅行商问题入手，对蚁群优化算法的发展背景、内容、实现方法和性能作了详细介绍，对该算法本身进行了深入研究，提出了自己的改进方案并作了仿真。最后，讨论并分析了一些基于ACO及其改进方法的应用问题，如Berlin52-TSP、Eil51-TSP问题及QoS路由问题。文章的主要内容如下： (1)由于问题的不确定性，参数的设置对蚁群优化算法的影响很大，因此，研究了参数的合理性，并给出了三种选取参数的方法。 (2)为克服蚁群优化算法易陷入局部最优，收敛速度慢的缺点，提出了一种改进的蚁群优化算法。该算法吸取了最大最小蚁群系统算法的优点，并在算法中引入新的参数A，B，C，D，对算法中的局部信息素更新规则和全局信息素更新规则都进行了全面调整。 (3)通过引入参数E，F对路径选择机制进行改进。该方法使用一种状态转移规则来指导算法的寻优过程，充分利用先验知识，逐步减小了蚁群优化算法陷入局部最优解的概率，能较快的找到可接受的解。 (4)将该算法及改进算法应用于TSP问题的研究来验证改进算法的有效性。 (5)基于网络中的一个瞬态，提出了一种基于蚁群优化算法来解决QoS组播路由问题的方法，并对其可扩展性进行了分析。