神经元是大脑神经系统的基本单位,它具有复杂的非线性特性,而且其放电模式呈现出丰富多彩的动力学行为。本文立足于神经元,构建以关键神经环路和微神经网络为基础的神经元及其网络系统,通过随机模拟和非线性动力学分析,研究内外界因素（如噪声、耦合方式、时间延迟、网络拓扑结构等）对复杂神经系统的非线性动力学特性（放电模式、信息编码、能量效率等）的影响,并通过相分析等方法探究其内在动力学原因,从而解释与大脑相关的神经退行性疾病或认知行为等发生的可能内在机理。并取得了以下研究成果:（1）针对神经元系统的非线性动力学特性,研究了耦合神经元系统的放电模式调控和相位同步,首先建立了具有噪声和时间延迟的耦合FitHugh-Nagumo神经元模型,然后理论推导了时间延迟下耦合神经元系统的同步流形,最后讨论了单时间延迟和多时间延迟下耦合神经元系统的放电模式调控和相位同步。结果表明:在单时间延迟和接近的多时间延迟下,无噪声时神经元系统出现完全同步的小振幅和大振幅同步异步交替的放电状态,噪声存在会诱导耦合神经元的振荡模式出现一系列连续的相位变化:从异步状态到交替的相位漂移和反相位状态再到完全的反相位状态;当多时间延迟相差较大时,无噪声下耦合神经元系统处于静息状态,有噪声会使耦合神经元系统从静息状态变为异步状态,不存在连续的过渡情况。（2）研究了神经元系统放电模式和能量的依赖关系,首先理论推导了在高低频信号刺激下神经元放电模式对能量的依赖关系,然后讨论了能量的吸收和释放对神经元系统放电模式转变的影响。结果表明:高低频信号下神经元的放电模式更加复杂,神经元能量的吸收和释放依赖于神经元受到的外界刺激的形式和神经元系统放电模式的转变。同时电活动和哈密顿能量的响应在很大程度上取决于周期性信号振幅的变化,神经元系统在复杂多模式放电状态下的能量低于周期放电状态的能量。（3）在上述研究基础上,继续深入探讨了神经元网络行为的随机动力学机制。首先在Hodgkin-Huxley神经元模型的基础上,建立了亚阈值兴奋性突触后电位信号在五层前馈神经网络中编码和传递的数学模型,讨论了弱信号在前馈神经网络中的传播机制。结果表明:增加背景噪声的强度,可以提高弱信号的传播速度,而且存在一个最优的噪声和耦合强度区域,不仅可使弱信号在神经网络中稳定传递,而且还提高了神经元信息编码的速度和信号传递的保真度,缩短了系统和弱信号之间的延迟时间。（4）研究了神经元网络系统放电中的抑制作用,即反随机共振现象。首先建立了由高斯/非高斯色噪声驱动的神经元网络的数学模型,结合生物学实验中观察到的反随机共振（ISR）现象,讨论了高斯/非高斯色噪声引起ISR现象的产生条件。结果表明:在高斯色噪声驱动下,ISR现象的产生和持续条件依赖于低外部电流,低互相关率和低噪声水平。非高斯色噪声驱动下ISR现象的产生和持续条件依赖于低外部电流刺激,而且其普遍出现在低噪声相关时间或低高斯噪声偏离参数情况下。同时神经元网络中的ISR现象比单个神经元更明显,并且持续时间更长。（5）最后研究了神经元网络系统中的周期性放电率振荡和簇同步现象,在自适应指数Integrate-and-Fire神经元模型的基础上,建立了不同耦合形式驱动的神经元网络模型,讨论了电耦合和兴奋性与抑制性化学耦合下神经元网络的周期性放电率振荡和簇同步行为。结果表明:神经元网络中的周期放电率振荡现象是普遍存在的,这种现象的出现是由于网络中的神经元出现了不同状态的簇同步行为;网络中的神经元会自动分为两个簇,并且每个簇中的神经元的放电状态完全一致,簇同步的产生依赖于延迟时间,不同簇状态中的神经元可以随延迟时间的变化而相互转变。