混沌(chaos)是非线性科学研究的中心内容之一，是非线性动力系统中普遍存在的一种运动形式，它广泛地存在于自然界，诸如物理、化学、生物学、地质学，以及工程技术、社会科学等各领域。一般而言，混沌是指在确定性的系统中，不需要附加任何随机因素亦可出现的类似随机的动力学行为(内在随机性)。混沌系统的最大特点就在于系统的演化对初始条件十分敏感。因此，从长期意义上讲，系统的行为是不可预测的。混沌科学是随着现代科学技术的迅猛发展，尤其是在计算机技术的出现和普遍应用的基础上发展起来的新兴交叉学科。混沌突破了不同学科之间的界线，是涉及系统总体本质的一门新兴科学。著名物理学家J．Ford认为混沌是20世纪物理学中继量子力学和相对论之后的第三次革命。尽管科学界对混沌已经认真地研究了近半个世纪，但是至今还没有一个统一的数学定义。这是因为混沌系统非常复杂，从不同的角度理解会有不同的内涵。对离散动力系统，数学上常用的混沌定义包括：Li-Yorke意义下混沌、Devaney意义下混沌[26]及Wiggins意义下混沌。对连续动力系统，数学上常用的混沌定义为Smale马蹄意义下混沌。物理和工程上常用的混沌判据是其有界性并存在正的Lyapunov指数或正的拓扑熵。一般认为，混沌具有如下一些主要特征：确定性、有界性、对初值的极端敏感依赖性、长期不可预测性、正的最大Lyapunov指数、无限宽频功率谱和遍历性等。从混沌的研究方向来看，混沌的研究大体上可以分为四个方面：混沌判定(criteria of chaos)、混沌控制(control of chaos)、混沌反控制(或混沌化)(anti-control of chaos或chaotification)和混沌同步(synchronization of chaos)。其中，后三种混沌研究都属于广义混沌控制的范畴。从混沌动力学自身发展逻辑看，确定性混沌的研究大体上经历了三个阶段：一是从有序到混沌，研究混沌产生的条件、机制和途径；二是混沌中的有序，研究混沌的普适性、统计特征及分形结构等；三是从混沌到有序。在这种意义下，可以认为控制混沌的研究标志着混沌研究进入了一个新的阶段，控制混沌是混沌理论走向应用的第一步。控制混沌可以在混沌有害时消除混沌，在混沌有益时产生混沌。在混沌判定方面，目前已取得了许多丰硕的成果．例如，对连续的区间映射，有Li-Yorke得到的“周期3蕴含混沌”，以及非2次幂周期、紊乱、正的拓扑熵等均能产生Li-Yorke意义下混沌等；对高维映射，有著名的Marotto定理，减弱条件下的返回扩张不动点理论(snap-back repeller)，以及林伟和陈关荣最近建立的异宿扩张不动点理论(heteroclinical repellers)等；对一般Banaeh空间和完备度量空间中的离散系统，有史玉明、陈关荣和郁培建立的耦合扩张理论和返回扩张不动点理论，以及我们刚刚建立的连接扩张不动点异宿环理论等。对连续系统的混沌判定，有著名的Shilnikov定理，和马蹄理论，以及判断马蹄存在的Melnikov方法等。在混沌控制方面，当混沌有害时，就要设法消除它们。目前已经取得了许多有效消除混沌的控制方法。例如，OGY法、偶然正比反馈技术(简称OPF技术)、脉冲控制、滑模控制、线性和非线性控制、自适应控制等。当混沌有益时，进行混沌反控制以产生混沌。对离散系统混沌反控制的研究已经取得了巨大成功。陈关荣和赖德健对有限维离散系统(它可以是线性的或非线性的)提出并发展了状态反馈控制混沌反控制方法。最近，史玉明、郁培和陈关荣把状态反馈控制方法推广到了一般Banach空间中。有关离散系统混沌反控制的历史和发展现状见。对连续系统混沌反控制，情况变得非常复杂，但是也取得了一定的进展。例如，杨玲等研究了具有极限环的连续系统的反控制问题，陈关荣等研究了Lorenz系统族的反控制问题，汪小帆等证明通过时滞反馈控制方法可以使最小相位系统变成混沌系统。自1990年，L．M．Pecora和T．L．Carroll首次提出混沌同步的概念和方法后，关于混沌同步的研究也取得了重大进展。研究者们发现在某些情况下，混沌同步是有益的。例如，混沌同步在保密通讯中的应用已取得了重大进展。目前，已经取得了许多混沌同步的方法。例如，Pecora-Carroll提出的驱动-响应法、脉冲同步法、线性和非线性反馈同步法、耦合同步法、连续变量微扰法、自适应控制法及噪声感应同步法等。近年来的大量研究工作表明，混沌与工程技术的联系愈来愈密切。混沌在生物工程、力学工程、电子工程、化学工程、信息工程、计算机工程等领域中都有着广泛的应用。混沌的其它潜在应用包括大脑神经活动和心脏脉搏测量分析、图像数据加密、保密通信、电力电网动态分析和保护、工程和民用电子仪器噪声消减、电子震荡发生器设计、航天和航空发动机动态分析和保护、流体混合、信息储存和高速检索、决策预测、系统和模式识别、机械震动故障诊断、计算机图像处理，以及在医学和生物、信号处理和通信、控制系统和优化等越来越多的领域和方向。由于物理学、控制理论、生物学、医学和经济学等自然科学和边缘科学的进一步发展，研究者们提出了许多由差分方程描述的具体数学模型．例如，著名的虫口模型-Logistic映射中会出现混沌现象。而许多用连续动力系统描述的问题，也可将它们离散化。例如，采用常微分方程的Poincaré映射方法或微分方程的数值计算格式，将它们化为某种差分方程。差分系统的一些定性性质将为分析原微分系统的性质提供一些有用的信息。因而，对差分方程的混沌研究不论在理论上还是在实际应用上都具有重要的意义。本文主要研究离散动力系统混沌判定和混沌反控制两方面的问题。本文由四章组成，主要内容如下：第一章概述了混沌研究的进展，给出了一些预备知识，其中包括几个数学上常用的混沌定义，以及动力系统中的一些基本概念，并回顾了目前已经取得的关于离散动力系统混沌判定的一些研究成果。第二章首先在一般的度量空间中给出了连接不动点异宿环的概念，并给出了它的两种分类：正则和奇异；非退化和退化。然后又给出了连接扩张不动点异宿环的概念。这个概念可以看作是林伟和陈关荣在文中在欧氏空间中定义的异宿扩张不动点在一般度量空间中的推广。利用史玉明、陈关荣和郁培建立的耦合扩张理论，我们建立了在一般完备度量空间和任意有界闭集为紧集的度量空间中离散系统的几个混沌判定定理，并证明这些系统是在Devaney和Li-Yorke意义下混沌。我们的结果要强于林伟和陈关荣的结果。特别地，我们在任意有界闭集为紧集的度量空间中建立了一条在Li-Yorke意义下混沌的判定定理，它是由连接扩张不动点和鞍点异宿环导致的。最后，把我们的方法用到一般Banach空间和欧氏空间中，也得到了一些在Devaney和Li-Yorke意义下混沌的判定定理。另外，本章还给出了三个二维映射的例子，并给出了计算机仿真。第三章主要研究一类时滞差分方程中不动点的稳定性和混沌判定问题。首先把时滞差分方程转化为高维的常差分系统，并引入一些基本概念。然后研究了方程中不动点的稳定性条件，建立了一个混沌判定定理，并证明方程是在Devaney和Li-Yorke意义下混沌。最后讨论了两类特殊时滞差分方程中不动点的稳定性和混沌判定问题。另外，本章还给出了两个时滞差分方程的例子，并给出了分岔图。第四章主要研究离散动力系统的混沌反控制问题。利用第二章中建立的连接扩张不动点异宿环导致混沌的判定定理以及状态反馈控制方法，在一般Banach空间中，研究了具有多个不动点的离散动力系统混沌反控制问题。利用返回扩张不动点导致混沌的判定定理和状态反馈控制方法，研究了线性时滞差分方程的混沌反控制问题。最后，给出了两个计算机仿真的例子。