论文部分内容阅读
摘 要：汇率变动对我国金融市场具有不可忽视的影响力。因此，首先对上证企债指数进行主成分分析，筛选出最具代表性的特征值，根据特征值构建企债收益指标，在考虑美元人民币汇率影响的基础上，建立LSTM的预测模型，研究企债收益的规律，并对未来60个交易日的企债对数指数收益率进行仿真预测。希望研究结果可以为广大企债投资者做投资买卖决策时提供重要的参考依据。
关键词：收益预测;上证企债指数;汇率;LSTM
中图分类号：F822;TP21 文献标志码：A 文章编号：1673-291X（2019）17-0149-03
一、背景描述
近年来，经济全球化与信息科技的步伐不断加快，经济金融界对股票、外汇、债券和黄金等资产的投资与收益都进行了非常广泛研究，但学界对交易债券尤其是企业债券的研究却寥寥无几。债券是政府、金融机构、工商企业等机构直接向社会借债筹措资金时向投资者发行的，承诺按一定利率支付利息并按约定条件偿还本金的债权、债务凭证[1]。企业债券是有企业依照法定程序发行的有价债券，它是企业融资不可或缺的手段，也是金融市场上的重要金融工具之一。中国债券市场发展有其特殊规律，自2009年以来，交易所企业债发行、交易规模持续快速增长，已成为多层次资本市场的重要部分。
关于企债市场的波动性，在国外研究中，Vasilik D.Skintzi和Apostolos N.Refenes（2006）研究表明，整个欧洲版块的债券市场甚至是美国债券市场都对欧洲地区每个国家的债券市场存在波动溢出效应，这说明各国经济市场是有交叉联系的[2]。Branson和Frankel（1983）从宏观层面入手分析汇率与股票价格之间的关系[3]。Branson和Henderson（1985）将股票视为一种资产，汇率变动将影响资产价值，进而影响股票价格[4]。此外，我国央行也曾于2005年7月21日第一次改革汇率机制，改革期间人民币汇率整体呈贬值态势，从改革前的6.768 8降到6.768 1;同一时期，上证A股指数也开始下跌从3398.418跌到3 931.177。种种研究显示，汇率变动对我国金融市场具有不可忽视的影响力;而债券作为金融市场中的重要组成部分，汇率对其更是起到了重要影响作用。因此，在本研究中将以交易所企业债指数和美元对人民币的汇率为样本，利用LSTM神经网络模型刻画在美元人民币汇率的影响下对企债收益波动的预测研究。
二、LSTM神经网络模型
长短期记忆网络，即LSTM，它是RNN循环神经网络的衍生，是为了解决长期记忆问题而专门设计出来的。RNN网络是一种重复神经网络模块的链式形式，在标准RNN中，它是一个非常简单的由重复的相同结构模块组成的结构。LSTM同样是这样的结构，如图1所示，但是重复模块的结构是不同的。与单一神经网络层不同的是，LSTM有四个网络层，并且以一种非常特殊的方式相互交替。由于RNN存在梯度消失[5]的问题，使得在误差反向传播时，在后续时间上计算出的误差并不能反馈到更早的时间中，这意味着RNN很难学到长时间的影响来调整网络。直到1997年Sepp Hochreiter和Jurgen Schmidhuber提出了长短期记忆（LSTM），才很好地解决了长期记忆问题[6]。
LSTM的特殊之处在于它的信息传递是通过一种叫做“门”的结构。如图2所示，“门”可以对通过的信息进行选择通过或遗忘，具体过程是通过sigmoid 的神经层和逐点相乘的操作来实现的。LSTM网络中，信息首先通过的是“遗忘门”它会决定我们会从细胞状态中丢弃什么信息。该“门”会读取ht-1和xt，输出一个在0—1之间的数值赋值给每个细胞状态Ct-1中的细胞。其中，1表示“完全保留”，0表示“完全舍弃”。
ft=？滓（Wi*[ht-1，xt]+bf）（1）
其中，ht-1表示的是上一个细胞的输出，xt表示的是当前细胞的输入，σ表示sigmod函数。
下一步是“输入门”决定让多少新的信息加入到细胞状态中来。这包含两个步骤，首先，输入层的 sigmoid 层决定哪些信息需要更新如式（2），tanh层生成一个向量，也就是备选的用来更新的内容■t;下一步，把这两部分联合起来，对细胞的状态进行一个更新如式（3）。
it=？滓（Wi*[ht-1，xt]+bi）（2）
■t=tanh（WC*[ht-1，xt]+bC）（3）
然后就到了更新舊细胞状态的步骤了。首先，将状态为Ct-1的细胞更新为Ct。实际操作即把旧状态Ct-1与ft相乘，丢弃掉我们确定需要丢弃的信息。接着，加上it*■t这就是新的候选值，随着我们需要更新每个状态的程度而变化如式（4）。
Ct=ft*Ct-1+it*■t（4）
最终，我们需要决定输出什么值称“输出门”。输出值将会基于我们的细胞状，输出一个过滤后的版本。首先，我们运行一个sigmoid层来决定输出细胞状态的哪个部分如式（5），接着把细胞状态通过一个tanh进行处理（得到一个在-1—1之间的值）并将它和sigmoid层的输出相乘，最终就可以仅仅得到我们确定输出的部分如式（6）。
Ot=？滓（WO[ht-1，xt]+bO）（5）
ht=Ot*tanh（Ct）（6）
三、实证研究
本文选用了上证企业债券指数自2003年6月9日开始到2019年4月19日的每日数据，共3 859条数据，其中包括收盘价、最高价、最低价、开盘价、前收盘、涨跌额、涨跌幅、成交量、成交金额9个变量。汇率同样采用与企债指数同一时间段的每日数据，以这些数据作为训练集与测试集，预测未来60个交易日的企债对数指数收益率。 （一）数据处理
1.数据预处理。首先剔除汇率数据中多余数据，再对剩余的汇率数据进行z-score标准化处理，即通过式（7）使每列数据近似服从标准正态分布。
x=■（7）
最后将处理完的完整数据集并将分成三部分，其中，训练集大小为3 000条，验证集大小为709条，测试集的大小为60条，时间延迟为90天。
2.特征选择和指标构建。特征选择是对输入数据进行降维操作的一个过程，通过去除冗余特征、降低输入向量空间维数、优化学习样本，对提高训练效率有很大帮助。对于收益率预测问题来说，影响因素很多，每日开盘价收盘价，一天中的最高价和最低价等，都有可能影响收益，而采集的数据，数据量较大，容易出现冗余数据，冗余数据会影响模型的训练效率，因此必须去除。为了准确度量数据中各因素对企债收益率的影响，筛选出影响最大的几个因素，本文采用主成分分析法对数据进行降维处理。处理过程中只保留包含绝大部分方差的维度特征，而忽略包含方差几乎为0的特征维度。
运行python对上证企债指数9个特征进行主成分分析，分析结果如表1所示。从表1中可以看出，收盘价对方差的贡献率接近于1，而其他8个特征的方差贡献都趋近于0，按照处理原则，我们只保留方差最大的部分即每日上证企债指数的收盘价。
为了准确度量美元人民币汇率对企债收益的影响，本文将基于主成分分析筛选出的最具代表性的特征即收盘价来构建企债收益复合指标，并称之为企债对数指数收益率，如式（8）所示。构建出的指标将作为预测中的因变量，另外汇率指数则作为自变量。由于指标的特殊性，企债对数指数收益率的真实值是从2003年6月9日到2019年4月18日共3 858条数据。
今天企债对数指数收益率=log10■（8）
（二）模型的训练
在python中建立LSTM模型，编译时采用Keras中最主要的Sequential模型，一次训练的样本个数（batch_size）设为90，训练次数（epochs）设为54。用均方误差（mse）作为损失函数，用平均绝对误差（mae）作为指标函数，激活函数默认为tanh函数，定义优化器为‘rmsprop’。模型代码如下：
model=models.Sequential（）
model.add（layers.LSTM（32，input_shape=（90，4）））
model.add（layers.Dense（1））
model.compile（optimizer=’rmsprop’，loss=’mse’，metrics=[’mae’]）
history=model.fit（x_train，y_train，batch_size=90，epochs=54，validation_data=（x_val，y_val））
（三）预测及结果分析
运行程序后得到的图3是损失函数（loss）与训练次数（epoch）的关系图，记录了训练集及测试集损失。从图3中很明显可以看出，训练次数越多，不论是训练集还是测试集，损失都越在减少，并逐渐下降到接近0的位置。在50次以后，变化幅度已经很小，训练集随着训练次数增加，损失最终下降为0.000 027，测试集则会产生一些微小的波动，损失最终下降为0.000 031。综合考虑，本文在实际操作中将训练次数设为54次。
此外，运用训练完成的模型，图4还展示了应用此模型对2019年4月19日后未来60个交易日基于美元人民币汇率的影响对企债对数指数收益率进行预测的结果。结果显示，未来8個交易日后，企债对数收益率将呈现下降的趋势;在第13个交易日后则开始回升，直到17个交易日后逐步趋于稳定呈上下波动的态势。
结语
金融市场的投资收益问题一直是金融学界研究的热点。本文通过建立神经网络模型，考虑美元人民币汇率对企债指数的影响，对企业债券未来的收益走势进行比较准确的预测，这对想要购买企业债券的操作者具的较高的实际价值。采用LSTM模型，以上证企业债券指数自2003年6月9日开始到2019年4月19日的3 859个交易日的收盘价数据计算出每日的企债对数指数收益率作为真实值，以同样时间段的美元人民币汇率数据对模型进行训练和测试，并将预测结果与真实值进行拟合操作，最后用训练号的模型预测了未来60个交易日的企债对数指数收益率的走势变化。训练和测试结果表明，预测结果较为理想。它将在未来企债市场中具有广泛的应用前景，可以对企债购买观望者做买卖决策时提供参考信息，使企债购买者获得更大的收益，避免投资失误。
参考文献：
[1] 刘国鹏，彭淑娴.企业债市场风险的度量——基于GARCH和半参数法的VAR模型分析[J].金融与经济，2015，（3）：70-75.
[2] Vasiliki D.Skintzi，Apostolos N.Refenes.Volatility spillovers and dynamic correlation in European bond markets.Journal of International Financial Markets，Institutions and Money，2006，Volume 16，23-40.
[3] Frankel，J.A.Monetary and portfolio-balance Models of Rate Determination[J].Economic Interdependence and Flexible Exchange Rates，MIT，Cambrige，1983：112-123.
[4] Branson，W.H.Macroeonomic Determinants of Real Exchange Risk[M].Managing Foreign Exchange Risk，Canbridge University Press，Cambridge，1983：87-89. [5] 孙瑞奇.基于LSTM神经网络的美股股指价格趋势预测模型的研究[D].北京：首都经济贸易大学，2015.
[6] Hochreiter S，Schmidhuber J.Long Short-term Memory[J].Neural Computation，1997，12（9）：1735-1780.
[7] Forecasting the volatility of stock price index： A hybrid model integrating LSTM with multiple GARCH-type models[J].Ha Young Kim，Chang Hyun Won.Expert Systems With Applications，2018.
[8] 杨青，王晨蔚.基于深度学习LSTM神经网络的全球股票指数预测研究[J].统计研究，2019，36（3）：65-77.
[9] 陈卫华，徐国祥.基于深度学习和股票论坛数据的股市波动率预测精度研究[J].管理世界，2018，（1）.
[10] 邓凤欣，王洪良.LSTM神经网络在股票价格趋势预测中的应用——基于美港股票市场个股数据的研究[J].金融经济，2018，（14）：96-98.
[11] 肖琪.人工神经网络在股票预测中的应用研究[D].上海：华南理工大学，2017.
[12] 任君，王建华，王传美，王建祥.基于正则化LSTM模型的股票指数预测[J].计算机应用与软件，2018，35（4）：44-48，108.
Study on the Prediction of Corporate Bond return considering the effect of US dollar RMB Exchange rate
—Based on LSTM neural network
ZHOU Ying
（Managament college，Shanghai University of Science andTechnology，Shanghai 200093，China）
Abstract：The exchange rate change has an important influence on China’s financial market.Therefore，firstly，the principal component analysis of Shanghai enterprise bond index is carried out，and the most representative eigenvalues are screened out.According to the characteristic value，the index of enterprise bond income is constructed.On the basis of considering the influence of US dollar RMB exchange rate，the prediction model of LSTM is established，the law of enterprise bond return is studied，and the rate of return of enterprise bond logarithmic index in the next 60 trading days is simulated and predicted.It is hoped that the research results can provide an important reference for the majority of corporate bond investors to make investment and trading decisions.
Key words：earnings forecast;Shanghai Enterprise Bond Index;Exchange rate;LSTM
[責任编辑 柯 黎]
关键词：收益预测;上证企债指数;汇率;LSTM
中图分类号：F822;TP21 文献标志码：A 文章编号：1673-291X（2019）17-0149-03
一、背景描述
近年来，经济全球化与信息科技的步伐不断加快，经济金融界对股票、外汇、债券和黄金等资产的投资与收益都进行了非常广泛研究，但学界对交易债券尤其是企业债券的研究却寥寥无几。债券是政府、金融机构、工商企业等机构直接向社会借债筹措资金时向投资者发行的，承诺按一定利率支付利息并按约定条件偿还本金的债权、债务凭证[1]。企业债券是有企业依照法定程序发行的有价债券，它是企业融资不可或缺的手段，也是金融市场上的重要金融工具之一。中国债券市场发展有其特殊规律，自2009年以来，交易所企业债发行、交易规模持续快速增长，已成为多层次资本市场的重要部分。
关于企债市场的波动性，在国外研究中，Vasilik D.Skintzi和Apostolos N.Refenes（2006）研究表明，整个欧洲版块的债券市场甚至是美国债券市场都对欧洲地区每个国家的债券市场存在波动溢出效应，这说明各国经济市场是有交叉联系的[2]。Branson和Frankel（1983）从宏观层面入手分析汇率与股票价格之间的关系[3]。Branson和Henderson（1985）将股票视为一种资产，汇率变动将影响资产价值，进而影响股票价格[4]。此外，我国央行也曾于2005年7月21日第一次改革汇率机制，改革期间人民币汇率整体呈贬值态势，从改革前的6.768 8降到6.768 1;同一时期，上证A股指数也开始下跌从3398.418跌到3 931.177。种种研究显示，汇率变动对我国金融市场具有不可忽视的影响力;而债券作为金融市场中的重要组成部分，汇率对其更是起到了重要影响作用。因此，在本研究中将以交易所企业债指数和美元对人民币的汇率为样本，利用LSTM神经网络模型刻画在美元人民币汇率的影响下对企债收益波动的预测研究。
二、LSTM神经网络模型
长短期记忆网络，即LSTM，它是RNN循环神经网络的衍生，是为了解决长期记忆问题而专门设计出来的。RNN网络是一种重复神经网络模块的链式形式，在标准RNN中，它是一个非常简单的由重复的相同结构模块组成的结构。LSTM同样是这样的结构，如图1所示，但是重复模块的结构是不同的。与单一神经网络层不同的是，LSTM有四个网络层，并且以一种非常特殊的方式相互交替。由于RNN存在梯度消失[5]的问题，使得在误差反向传播时，在后续时间上计算出的误差并不能反馈到更早的时间中，这意味着RNN很难学到长时间的影响来调整网络。直到1997年Sepp Hochreiter和Jurgen Schmidhuber提出了长短期记忆（LSTM），才很好地解决了长期记忆问题[6]。
LSTM的特殊之处在于它的信息传递是通过一种叫做“门”的结构。如图2所示，“门”可以对通过的信息进行选择通过或遗忘，具体过程是通过sigmoid 的神经层和逐点相乘的操作来实现的。LSTM网络中，信息首先通过的是“遗忘门”它会决定我们会从细胞状态中丢弃什么信息。该“门”会读取ht-1和xt，输出一个在0—1之间的数值赋值给每个细胞状态Ct-1中的细胞。其中，1表示“完全保留”，0表示“完全舍弃”。
ft=？滓（Wi*[ht-1，xt]+bf）（1）
其中，ht-1表示的是上一个细胞的输出，xt表示的是当前细胞的输入，σ表示sigmod函数。
下一步是“输入门”决定让多少新的信息加入到细胞状态中来。这包含两个步骤，首先，输入层的 sigmoid 层决定哪些信息需要更新如式（2），tanh层生成一个向量，也就是备选的用来更新的内容■t;下一步，把这两部分联合起来，对细胞的状态进行一个更新如式（3）。
it=？滓（Wi*[ht-1，xt]+bi）（2）
■t=tanh（WC*[ht-1，xt]+bC）（3）
然后就到了更新舊细胞状态的步骤了。首先，将状态为Ct-1的细胞更新为Ct。实际操作即把旧状态Ct-1与ft相乘，丢弃掉我们确定需要丢弃的信息。接着，加上it*■t这就是新的候选值，随着我们需要更新每个状态的程度而变化如式（4）。
Ct=ft*Ct-1+it*■t（4）
最终，我们需要决定输出什么值称“输出门”。输出值将会基于我们的细胞状，输出一个过滤后的版本。首先，我们运行一个sigmoid层来决定输出细胞状态的哪个部分如式（5），接着把细胞状态通过一个tanh进行处理（得到一个在-1—1之间的值）并将它和sigmoid层的输出相乘，最终就可以仅仅得到我们确定输出的部分如式（6）。
Ot=？滓（WO[ht-1，xt]+bO）（5）
ht=Ot*tanh（Ct）（6）
三、实证研究
本文选用了上证企业债券指数自2003年6月9日开始到2019年4月19日的每日数据，共3 859条数据，其中包括收盘价、最高价、最低价、开盘价、前收盘、涨跌额、涨跌幅、成交量、成交金额9个变量。汇率同样采用与企债指数同一时间段的每日数据，以这些数据作为训练集与测试集，预测未来60个交易日的企债对数指数收益率。 （一）数据处理
1.数据预处理。首先剔除汇率数据中多余数据，再对剩余的汇率数据进行z-score标准化处理，即通过式（7）使每列数据近似服从标准正态分布。
x=■（7）
最后将处理完的完整数据集并将分成三部分，其中，训练集大小为3 000条，验证集大小为709条，测试集的大小为60条，时间延迟为90天。
2.特征选择和指标构建。特征选择是对输入数据进行降维操作的一个过程，通过去除冗余特征、降低输入向量空间维数、优化学习样本，对提高训练效率有很大帮助。对于收益率预测问题来说，影响因素很多，每日开盘价收盘价，一天中的最高价和最低价等，都有可能影响收益，而采集的数据，数据量较大，容易出现冗余数据，冗余数据会影响模型的训练效率，因此必须去除。为了准确度量数据中各因素对企债收益率的影响，筛选出影响最大的几个因素，本文采用主成分分析法对数据进行降维处理。处理过程中只保留包含绝大部分方差的维度特征，而忽略包含方差几乎为0的特征维度。
运行python对上证企债指数9个特征进行主成分分析，分析结果如表1所示。从表1中可以看出，收盘价对方差的贡献率接近于1，而其他8个特征的方差贡献都趋近于0，按照处理原则，我们只保留方差最大的部分即每日上证企债指数的收盘价。
为了准确度量美元人民币汇率对企债收益的影响，本文将基于主成分分析筛选出的最具代表性的特征即收盘价来构建企债收益复合指标，并称之为企债对数指数收益率，如式（8）所示。构建出的指标将作为预测中的因变量，另外汇率指数则作为自变量。由于指标的特殊性，企债对数指数收益率的真实值是从2003年6月9日到2019年4月18日共3 858条数据。
今天企债对数指数收益率=log10■（8）
（二）模型的训练
在python中建立LSTM模型，编译时采用Keras中最主要的Sequential模型，一次训练的样本个数（batch_size）设为90，训练次数（epochs）设为54。用均方误差（mse）作为损失函数，用平均绝对误差（mae）作为指标函数，激活函数默认为tanh函数，定义优化器为‘rmsprop’。模型代码如下：
model=models.Sequential（）
model.add（layers.LSTM（32，input_shape=（90，4）））
model.add（layers.Dense（1））
model.compile（optimizer=’rmsprop’，loss=’mse’，metrics=[’mae’]）
history=model.fit（x_train，y_train，batch_size=90，epochs=54，validation_data=（x_val，y_val））
（三）预测及结果分析
运行程序后得到的图3是损失函数（loss）与训练次数（epoch）的关系图，记录了训练集及测试集损失。从图3中很明显可以看出，训练次数越多，不论是训练集还是测试集，损失都越在减少，并逐渐下降到接近0的位置。在50次以后，变化幅度已经很小，训练集随着训练次数增加，损失最终下降为0.000 027，测试集则会产生一些微小的波动，损失最终下降为0.000 031。综合考虑，本文在实际操作中将训练次数设为54次。
此外，运用训练完成的模型，图4还展示了应用此模型对2019年4月19日后未来60个交易日基于美元人民币汇率的影响对企债对数指数收益率进行预测的结果。结果显示，未来8個交易日后，企债对数收益率将呈现下降的趋势;在第13个交易日后则开始回升，直到17个交易日后逐步趋于稳定呈上下波动的态势。
结语
金融市场的投资收益问题一直是金融学界研究的热点。本文通过建立神经网络模型，考虑美元人民币汇率对企债指数的影响，对企业债券未来的收益走势进行比较准确的预测，这对想要购买企业债券的操作者具的较高的实际价值。采用LSTM模型，以上证企业债券指数自2003年6月9日开始到2019年4月19日的3 859个交易日的收盘价数据计算出每日的企债对数指数收益率作为真实值，以同样时间段的美元人民币汇率数据对模型进行训练和测试，并将预测结果与真实值进行拟合操作，最后用训练号的模型预测了未来60个交易日的企债对数指数收益率的走势变化。训练和测试结果表明，预测结果较为理想。它将在未来企债市场中具有广泛的应用前景，可以对企债购买观望者做买卖决策时提供参考信息，使企债购买者获得更大的收益，避免投资失误。
参考文献：
[1] 刘国鹏，彭淑娴.企业债市场风险的度量——基于GARCH和半参数法的VAR模型分析[J].金融与经济，2015，（3）：70-75.
[2] Vasiliki D.Skintzi，Apostolos N.Refenes.Volatility spillovers and dynamic correlation in European bond markets.Journal of International Financial Markets，Institutions and Money，2006，Volume 16，23-40.
[3] Frankel，J.A.Monetary and portfolio-balance Models of Rate Determination[J].Economic Interdependence and Flexible Exchange Rates，MIT，Cambrige，1983：112-123.
[4] Branson，W.H.Macroeonomic Determinants of Real Exchange Risk[M].Managing Foreign Exchange Risk，Canbridge University Press，Cambridge，1983：87-89. [5] 孙瑞奇.基于LSTM神经网络的美股股指价格趋势预测模型的研究[D].北京：首都经济贸易大学，2015.
[6] Hochreiter S，Schmidhuber J.Long Short-term Memory[J].Neural Computation，1997，12（9）：1735-1780.
[7] Forecasting the volatility of stock price index： A hybrid model integrating LSTM with multiple GARCH-type models[J].Ha Young Kim，Chang Hyun Won.Expert Systems With Applications，2018.
[8] 杨青，王晨蔚.基于深度学习LSTM神经网络的全球股票指数预测研究[J].统计研究，2019，36（3）：65-77.
[9] 陈卫华，徐国祥.基于深度学习和股票论坛数据的股市波动率预测精度研究[J].管理世界，2018，（1）.
[10] 邓凤欣，王洪良.LSTM神经网络在股票价格趋势预测中的应用——基于美港股票市场个股数据的研究[J].金融经济，2018，（14）：96-98.
[11] 肖琪.人工神经网络在股票预测中的应用研究[D].上海：华南理工大学，2017.
[12] 任君，王建华，王传美，王建祥.基于正则化LSTM模型的股票指数预测[J].计算机应用与软件，2018，35（4）：44-48，108.
Study on the Prediction of Corporate Bond return considering the effect of US dollar RMB Exchange rate
—Based on LSTM neural network
ZHOU Ying
（Managament college，Shanghai University of Science andTechnology，Shanghai 200093，China）
Abstract：The exchange rate change has an important influence on China’s financial market.Therefore，firstly，the principal component analysis of Shanghai enterprise bond index is carried out，and the most representative eigenvalues are screened out.According to the characteristic value，the index of enterprise bond income is constructed.On the basis of considering the influence of US dollar RMB exchange rate，the prediction model of LSTM is established，the law of enterprise bond return is studied，and the rate of return of enterprise bond logarithmic index in the next 60 trading days is simulated and predicted.It is hoped that the research results can provide an important reference for the majority of corporate bond investors to make investment and trading decisions.
Key words：earnings forecast;Shanghai Enterprise Bond Index;Exchange rate;LSTM
[責任编辑 柯 黎]