从系统的输入输出来确定描述系统行为的数学模型,是众多理论学科中的一个研究热点问题。很多实际系统由于系统机理复杂、多耦合、非线性强的特点,导致建立一个能够模仿真实系统行为的模型复杂且困难。现有研究基于神经网络对非线性系统建模的算法大部分针对于两个实数空间的模型建立,对系统输入输出存在于函数空间的情况研究较少。同时针对数据量有限的情况,现有基于神经网络的建模算法往往不能满足建模精度的要求。本论文主要针对在热、力、压耦合下的复合材料应力-应变的非线性系统作为主要研究对象,基于神经网络和有限元分析的理论对该系统建模问题展开深入研究,主要的研究工作和成果如下:（1）采用基于深度算子网络（Deep Operator Network,Deep ONet）的神经网络结构对热、力、压耦合下的复合材料应力-应变系统建模。针对真实数据获取困难问题,通过有限元分析法建立了此复合材料的有限元模型,获得了可以准确表达系统特性的应力-应变数据集。仿真实验结果验证了采用Deep ONet网络结构用于建立的热、力、压耦合下的复合材料应力-应变系统模型的可行性,并对比几种常用网络结构讨论了此算法的优缺点。（2）提出基于长短时记忆（Long Short-Term Memory,LSTM）网络结构优化Deep ONet网络结构的非线性系统建模算法。给出了LSTM-Deep ONet的网络结构,将Deep ONet的输出以序列形式利用LSTM网络结构对过往数据复用,并推导了网络的前向传播和权值更新公式。针对数据集有限的情况,仿真实验证明基于LSTMDeep ONet网络比Deep ONet网络建立的应力-应变系统模型有更高的精度。（3）提出基于改进LSTM-Deep ONet网络结构的非线性系统建模算法,为解决LSTM-Deep ONet训练中局部最优和收敛速度慢的问题,将Deep ONet网络中树干网络和LSTM融合,推导了改进LSTM-Deep ONet网络的前向传播和权值更新公式。针对同样的数据集有限情况,仿真实验表明该算法相比未改进前收敛速度大幅度提升,进一步提高了精度。基于改进LSTM-Deep ONet的非线性系统建模算法对热、力、压耦合下复合材料的应力-应变系统建模过程输入数据量要求低、辨识精度更高且能够充分表达系统的非线性特性。