神经振荡能够反应大脑的功能状态特性,是大脑皮层中神经元群体动力学行为的核心。越来越多的实验和临床数据表明:异常的神经振荡可能是各种神经精神疾病（脑疾病）发生、发展的根源。适当的神经刺激可以用于调制神经精神疾病患者的大脑动力学,使异常的神经振荡恢复正常,是医疗领域中防治神经精神疾病最有前途的手段之一。然而,对神经振荡动力学机制理解的局限性以及神经刺激条件选择的困难性会增大造成脑损伤与二次伤害的风险。从控制论角度研究大脑动力学调制问题对于开发、完善神经精神疾病的早期干预和康复治疗技术来说具有一定的先导意义。本文在神经群模型基础上设计大脑动力学调制方案与观测器,能够为大脑动力学调制技术的优化与创新提供思路以及科学依据,其主要研究内容如下。（1）针对一类无向耦合神经群模型,研究了大脑动力学调制问题。设计两种基于改进增量式比例积分微分（Proportional Integral Derivative,PID）算法的输出反馈控制方案来调制耦合神经群模型模拟的大脑动力学,使模型产生的神经振荡准确可靠地跟踪期望波形。在传统增量式PID算法中引入遗传算法（Genetic Algorithm,GA）旨在克服控制参数的选择依赖于设计者经验的弊端,保证控制精度;引入径向基函数（Radial Basis Function,RBF）旨在自适应地调整控制参数,提高控制方案的动态性能和稳定性。通过算例仿真验证所设计的两种控制方案的有效性并比较其性能。（2）针对一类具有参数不确定性且输出受到测量噪声影响的有向耦合神经群模型,研究了大脑动力学调制问题。设计基于模糊调节器和强跟踪容积卡尔曼滤波器（Strong Tracking Cubature Kalman Filter,STCKF）的输出反馈控制方案来调制耦合神经群模型模拟的大脑动力学,以抑制模型产生的棘波。在控制方案中引入模糊调节器旨在自适应地整定控制增益,更好地保证调制效果。通过算例仿真验证所设计的控制方案的有效性。（3）针对输出受到测量噪声影响的无向“最近邻”、“无标度”和“小世界”神经群网络,研究了大脑动力学调制问题。设计不同的牵制控制策略来调制神经群网络模拟的大脑动力学,以抑制网络产生的棘波,其中的局部反馈控制采用基于模糊调节器和容积卡尔曼滤波器（Cubature Kalman Filter,CKF）算法的输出反馈控制。通过仿真结果分析所设计的牵制控制策略的有效性。（4）分别针对输出受到测量噪声影响的单神经群模型以及具有输入不确定性且输出受到测量噪声影响的耦合神经群模型,研究了大脑动力学观测问题,为利用状态反馈来调制大脑的动力学特性提供必要的准备。首先,基于无源性和Lurie系统的相关概念设计单神经群模型观测器,以重构单神经群模型的内部状态;其次,基于输入-输出稳定性和Lurie系统的相关概念设计耦合神经群模型观测器,以重构耦合神经群模型的内部状态。通过算例仿真验证所设计的两种观测器的有效性。（5）针对高度非线性的神经群模型,研究了大脑动力学调制系统的局部能控性问题。提出一种基于局部线性化方法和Kalman能控性秩准则的理论分析方法来研究神经群模型控制系统沿工作轨迹的局部能控性。通过算例仿真验证所得结论。本文研究属于计算神经科学范畴。虽然解决问题的方法是传统的,但是用这些传统的方法来解决计算神经科学等前沿交叉学科的关键问题是新颖的。