混沌(Chaos)是非线性科学研究中的重要内容之一，是非线性动力系统的固有特性，也是非线性系统普遍存在的现象。研究混沌运动的学科，叫作混沌学(Chaology)。一般而言，混沌是指发生在确定性系统中，不需附加任何随机因素亦可出现的类似随机的动力学行为(内在随机性)。混沌系统的最大特点就是系统的演变过程对初始条件非常敏感。因此从长期意义上讲，系统的未来行为是不可预测的。　　 混沌是随着现代科学技术的迅猛发展，尤其是在计算机技术的出现和普遍应用的基础上发展起来的新型交叉学科。混沌研究的重要特点是跨越了学科界限。混沌学的普适性，标度率，自相似性，分形，奇怪吸引子，重整化群等概念和方法，正在超越原来数理科学的狭窄背景，走进化学，生物学，地学，医学及社会科学的广阔天地。著名物理学家J.Ford认为混沌是20世纪物理学中继量子力学和相对论之后的第三次革命。　　 尽管科学家对混沌的研究已近半个世纪，但是至今仍没有一个统一的数学定义。这一方面是因为混沌系统非常复杂，从不同的角度理解会有不同的内涵；另一方面是因为混沌研究属于交叉学科，不同的科学领域对混沌现象的认知不同。对离散的动力系统，数学上常用的定义包括：Li-Yorke意义下混沌[43，106]，De-vaney意义下混沌[24]，Wiggins意义下混沌[92]，分布式混沌[97]等。对微分同胚，数学上常用的混沌定义为Smale马蹄意义下混沌[34，79，96]。　　 混沌研究中的一个主要课题是混沌的判定。这一方面的研究已有丰硕的成果。对连续的区间映射，有Li和Yorke建立的周期3导致混沌[43]，以及非2次幂周期，紊乱，正的拓扑熵等均能产生Li-Yorke意义下混沌[4]。对高维映射，有著名的Morotto定理[52，53，69]以及减弱条件下的返回扩张不动点理论(snap-back repeller)[75]，以及林伟和陈关荣建立的异宿扩张不动点理论(heteroclinicrepellers)[48].对一般Banach空间和完备度量空间中的离散系统，有史玉明，陈关荣和郁培建立的耦合扩张理论和返回扩张不动点理论[68，76]，以及李宗成和史玉明建立的连接扩张不动点异宿环理论[46]等.对微分同胚的混沌判定，有著名的二维空间中的Smale马蹄理论，和将其推广到高维空间中的Smale-Birkhoff定理[79]，以及K.Shiraiwa和M.Kurata建立的高维流形非同胚映射的横截同宿轨导致Li-Yorke意义下混沌[77]，H.Steinlein和H.Walther建立的Banach空间上的C1映射的横截同宿轨导致Devaney意义下混沌[81]，J.K.Hale和X.Lin建立的Banach空间上的Ck(k≥0)映射的广义横截同宿轨导致Li-Yorke和Devaney意义下混沌[28]，严寅和钱敏得到的横截异宿环导致横截同宿轨，从而横截异宿环导致混沌[95]，K.Burns和H.Weiss用几何的方法得到的横截同宿轨和横截异宿环导致马蹄[8]，李伟固建立的二维空间中微分同胚的鞍结不动点的横截同宿轨导致马蹄[44]，B.Deng得到的高维空间中微分同胚的鞍结不动点的横截同宿轨导致马蹄[23].物理及工程中常用的混沌判定是其解的有界性和正的Lyapunov指数或正的拓扑熵。　　 自Li和Yorke引入混沌定义以后，对该混沌现象的研究引起了人们很大的兴趣。很多学者开始研究Li-Yorke混沌系统构成的集合的性质，比如在某个映射空间中的分布等.Kloeden通过构造具有3周期点的连续区间映射证明了Li-Yorke意义下混沌的连续区间映射集合在映射空间C(I，I)中稠密[37]。But-ler和Pianigiani进一步得到了具有非2次幂周期的连续区间映射(从而是Li-Yorke意义下混沌的)包含了C(I，I)中的一稠密开集[9]。后来，利用[39]中关于非平凡遍历不变测度的存在性，Siegberg证明了对每个k≥2，存在一稠密集合AkOC(I，I)，使得对每个f∈Ak，满足(ⅰ)f是Li-Yorke意义下混沌的；(ⅱ)f的拓扑熵满足h(f)≥logk；(ⅲ)存在关于f的连续的遍历不变测度。从而，存在稠密的剩余集ROC(I，I)，使得对任意的f∈R都满足上面的性质(ⅰ)和(ⅲ)，且h(f)=∞[78].由[3]中的结果，如果一个连续的区间映射f具有正的拓扑熵，那么它不仅是Li-Yorke意义下混沌的，而且也是Devaney意义下混沌的。　　 对于高维和无穷维混沌映射的稠密性的研究，Siegberg得到了n-维空间中的非循环的紧多面体P上的连续映射空间C(P，P)中存在一剩余集ROC(P，P)使得R中每一映射f都几乎是Li-Yorke意义下混沌的[78，定理3.5]。对无穷维的情况，他利用有限维逼近的方法证明了Li-Yorke意义下混沌的紧映射集合在紧映射空间中是稠密的[78，定理2.5]。最近，Mimna得到了在Rn中一个紧的n-立方体Ω(n个紧区间的Cartesian乘积)上的连续映射空间中有一稠密开子集W，使得W中的每个映射在Ω中不是拓扑传递的，从而在整个Ω上不是Devaney意义下混沌的[56，定理2]。　　 同时，在上世纪60年代，Smale[80]提出双曲映射的稠密性问题。一些学者认为对任意维数的空间，双曲系统都是稠密的.但是在60年代末期，这一猜想对于维数大于等于2的流形上的微分同胚被证明为错的。于是，许多学者开始研究一维空间中双曲系统的稠密性，在C1拓扑意义下的稠密性由Jakobson[33]解决，C2拓扑意义下的稠密性由Blokh和Misiurewicz[5]部分解决，并由Shen[67]最终解决.2007年，Kozlovski，Shen和Strien得到了Ck拓扑意义下的结果，即双曲(即公理A)映射在紧区间或者圆周上的Ck映射空间中是稠密的，其中k=1，2，…，∞，ω[38]。与此同时，另外一些学者考虑从某个流形到自身的微分同胚空间中，双曲微分同胚的分布问题。类似于Smale的工作，Palis[59，60]给出下面的猜想：(1)任一f∈Diff(M)可由一双曲微分同胚或者具有双曲分岔(切或者环)的微分同胚来逼近，(2)任一微分同胚可由一Morse-Smale系统或一具有横截同宿轨的系统Cr逼近。后来，Pujals和Sambarina[63]证明这一结果对于曲面上的C1微分同胚成立。并且还得到一些较好的结果，比如任一微分同胚可由一Morse-Smale微分同胚或者一具有横截同宿轨的微分同胚C1逼近[18]，任一微分同胚可由具有同宿切或者异维环或者本质双曲的同胚C1逼近[19]。　　 在混沌控制方面，当混沌有害时，就要设法消除他们。目前已经取得了许多有效消除混沌的方法。例如，OGY法，偶然正比反馈技术(简称OPF技术)，脉冲控制，滑模控制，线性和非线性控制，自适应控制等。当混沌有益时，进行混沌反控制以产生混沌。对离散动力系统混沌反控制的研究已经取得了很大进展。陈关荣和赖德健对有限维离散系统提出并发展了状态反馈控制方法[12]。史玉明，郁培和陈关荣把状态反馈控制方法推广到了一般Banach空间中。有关离散系统混沌反控制的历史和发展之现状见[13，14，25，30，89，101]。　　 本文主要研究有限维空间中连续映射横截同宿轨的存在性问题，一般Banach空间中某些混沌映射的稠密性问题以及有限维空间中离散动力系统的混沌化问题。本文由四章组成，主要内容如下：　　 第一章简单介绍混沌的研究进展，给出-些预备知识，其中包括几个数学上常用的混沌的定义，离散动力系统中的几个基本概念，符号动力系统的相关理论，一般Banach空间中连续映射的横截同宿轨的定义，以及关于离散动力系统的混沌判定的一些研究成果。　　 第二章研究一般连续映射横截同宿轨的存在性。首先给出一般Banach空间中连续映射的横截异宿环的定义。其次将有限维空间中微分同胚的横截异宿环导致横截同宿轨的结果推广到连续映射上。然后给出在有限维空间中连续映射存在横截同宿轨的一个充分条件。最后，给出两个例子及其计算机仿真，本文，我们只是考虑一般的连续映射存在横截同宿轨的条件，并未假定系统有同宿轨。　　 第三章研究某些混沌映射在连续映射空间中的稠密性，包括耦合扩张映射，具有返回扩张不动点的映射及具有横截同宿轨的映射。首先给出所要研究的映射空间，然后在该空间中分别构造一类耦合扩张映射，具有返回扩张不动点的映射及具有横截同宿轨的映射，以此说明这几类映射的稠密性。同时对有限维的情形，还讨论了拓扑熵问题。　　 第四章研究有限维空间中离散动力系统的混沌化问题。利用第三章中构造具有横截同宿轨的映射的思想，建立了一个新的混沌化格式。最后，给出了一个例子及其计算机仿真。