英语原文共 8 页，剩余内容已隐藏，支付完成后下载完整资料
系统科学与信息学报2006年，第四卷，第四期 714-748页。由英国研究资讯有限公司（RLL）出版。
基于K-熵和RBF神经网络的混沌时间序列预测研究
秀燕 君海马
- 中国天津大学管理学院，天津300072.
- 中国天津城建学院基础系，天津300384（2006年3月24日）
文摘：在原理上本文提出一种基于柯尔莫哥洛夫熵和径向基函数神经网络的混沌时间序列直接多步预测方法。首先利用混沌时间序列重构相空间，然后用K-熵作为定量参数得到混沌时间序列的最大可预测时间，最后利用RBFNN得到混沌时间序列的预测数据。以洛伦兹系统为研究对象，对直接多步预测法与递推多步预测法进行了仿真比较，结果表明，在混沌系统最大可预测时间内，直接多步预测法比递推多步预测法更准确、更快速。因此，采用直接多步预测方法可以方便地进行实时预测和控制。
关键词：柯尔莫哥洛夫熵；混沌时间序列；RBF神经网络；多步预测
混沌是一种复杂的、非线性的、确定性的低维动态系统行为，混沌现象是广泛存在于自然界和经济、技术、社会等领域的一种不规则运动，混沌时间序列是对混沌现象进行连续观测或采样得到的数据序列。研究和应用混沌时间序列预测在数据挖掘和决策支持系统中具有重要意义。例如，需要准确预测各种金融指数和房地产市场的未来趋势（上升或下降趋势），准确预测居民天然气和电力的用量，电力系统能耗可以为决策者进行科学的设计决策提供科学的量化信息。
这个工作由中国自然科学发展基金（70271071），天津市教委科技发展基金（20052171）资助
742 科学与信息杂志 第四卷第四期
非线性系统的混沌特性决定了混沌运动轨迹的预测具有最大的可预测性，在可预测时间内，可以准确地预测混沌系统的运动轨迹，混沌研究需要大量高质量的数据。但现有的数据难以满足这一要求。因此，我们的目的是利用一个重要的时间序列进行准确、快速的预测。首先，嵌入的维数和嵌入的延迟时间是先用嵌入的方法获得，然后重构造状态向量，最后用混沌的时间序列进行预测。有两种方法可以预测混沌时间序列，一种是序列局部预测法，另一种是全局预测。局部预测方法包括局部均值预测和局部线性预测。全局优势方法主要包括多项式预测法和神经网络预测法。由于神经网络具有较强的适应性和学习性，在非线性系统预测中得到了广泛应用。
1.延迟时间嵌入相空间重构方法
基于状态空间重构的混沌时间序列的预测，使从混沌时间序列重组低秩非线性动力系统。延时嵌入相对空间重构方法是处理非线性时间序列，其理论是系统在相对空间的系统吸引子获得一维时间序列的重建，分析结果表明所有信息包含在任何变量系统的时间序列，而状态轨迹嵌入一个由单变量时间序列得到的新坐标，保持了原相对空间状态轨迹的最好特性。定义了从时间序列中获取状态向量的过程为延迟时间嵌入方法。
基于相位空间的重构理论，对于实际时间序列x（i=1,2，hellip;，n），相位空间侵权y（m）=（xi，Xi r，Xi 2r，hellip;，xi （m一1）r（i=1,2，hellip;，n一（m一1）r）可以由一个延迟时间和一个最大的维数m来构造最初吸引子拓扑相等的，嵌入维数应为mge; 2[d] 1，d是最初吸引子的分形维数，由于嵌入维数m能有效地降低噪声的影响，提高了短时序列的结构特征，因此选择嵌入大的维数来消除时间序列的噪声x（ti），i=1,2.，n。
2.混沌时间序列的可预测性
混沌时间序列可以通过其分形维数、李雅普诺夫指数和熵等特征参数来识别，熵是系统混沌的一种度量，它与李雅普诺夫指数和Hausdorf维数有一定的关系。
Kolmogorov熵（K-熵）是混沌吸引子的不变量，对揭示系统的混沌特性起着重要作用，因此可以利用K-熵来求解混沌系统的可预测时间。
2.1K-熵的基本定义
从信息论的角度看，该理论是由学者们从热力学出发，进一步发展到统计学、信息论等学科的，k熵是不确定性的一种定量度量，它可以用信息丢失的速度来度量，它可以表示系统的可预测时间。对于信息完全丢失的随机行为，；是没有边界的形成不产生系统的演化过程，对于系统演化过程中不产生或丢失信息的规则运动，如周期运动，K熵的值应为零；对于低维混沌动力系统，K熵的值为大于零的初始值。Grassberger和procccia发现熵K2与关联积分C（xi;）有关，即
K2的值是K-熵的近似值。
2.1K-熵的计算方法
对于m=2,3.，具有给定延迟时间gamma;和长度zeta;，在ln C（e）的无标度区域给出了一个ln（e）图（Brock发现长度e可以通过标准误差获得长度e ， 时间序列的b，其值应限制在中
确定m为熵K的值，由(1)可得，当熵K2的值不随m改变时，最终值是使K2饱和的最小值。
减小LnC（￡）到Ln（e）图无标度区域的值，重复前一步，可得到熵K2的值，当熵K2的值不随e变化时，估计出相应的值，从而得到K-熵的近似值。
2.3混沌时间序列的最大可预测时间
混沌系统的确定性机制表明，当K-熵的值在0lt;Klt;infin;范围内时，可以预测混沌系统的短期行为，根据K-熵的值可以确定混沌时间序列的最大可预测时间。假设t时刻的信息容量为e，t时刻后的信息容量为e。
设e=1，混沌时间序列t的最大可预测时间为e=0时的时间e，由式（3）可知，方程t=1／K，混沌时间序列t的最大可预测时间，只有当elt;T时，预测才是准确的。从轨道的意义上来说，这并不意味着“时间T之后预测就不能做，长期预测就不可预测”，而是在egt;T之后，只有统计预测才能做。
- 基于RBF神经网络的混沌系统预测模型
任何时间序列都可以看作是一个非线性的输入输出系统，因此，保证了用神经网络预测时间序列的可行性。
-
- RBF神经网络
径向基函数神经网络（RBFNN）是一种局部映射网络，它由少量的神经元响应输入空间的局部区域并决定RBFNN的输出，当隐层神经元数目足够时，RBFNN可以任意精度地逼近任意一个单值连续函数。
本文中，RBFNN是一个三层网络，其M个输入节点对应于所选系统的运行状态向量，RBFNN的结构如图1所示，第j个输出节点是一个简单的线性激活函数，隐藏层中的激活函数是一个高斯型激活函数，他有N神经元。输入神经元的数目取决于能获得动态特性的最小嵌入维数m和延迟时间T，为了给神经网络的训练提供更多的信息，重构向量的维数可以选择mge;m，隐层的确定结构和隐层的选择参数决定了预测精度和抗噪声能力。
图，RBFNN的结构
假设训练样本数据X=Ix1，X2，X K，N]T，任意一个训练样本数据Xk=[X K 1，X K 2，hellip;，Xkm，hellip;，Xkm]（K=1，2，hellip;，N）在其中，对应的实际输出为Yk=（Ykl，Yk2hellip;.Ykj，hellip;，Ykj】（K=1，2，hellip;，N），而目标输出为Fk=[Fk1，Fk2hellip;.，Fkjhellip;，Fkj]当网络输入训练样本数据Xk时，RBFNN的输出是隐层节点输出的线性函数，即
本文将Ganssian型函数描述为
其中Ci是第i个神经元的感受视野中心；bi是感受视野宽度。为了量化预测性能，我们使用输出的均方根误差（RMSE），即
3.2混沌时间序列的预测实例
对于确定性系统，其未来的演化只能由初始值决定，但如果系统对初始值敏感，则有一个可预测的周期。随着混沌动力学研究的进一步发展，大量的自然数据，如安全数据、特征数据和自然数据，被证明是混沌的。为了保证系统的稳定运行，实现对超调系统的预测和控制是非常重要的，要实现超调系统的优化控制，就需要对反馈系统的初始值进行预测，并与目标值进行比较，使系统能够及时控制。因此，系统可靠性范围内最大步长的预测可以节省宝贵的时间，为实时控制提供有利的条件.本文以洛伦兹系统为例，研究时间混沌序列的预测问题。用洛伦兹方程给出了洛伦兹系统的预测实例。
其中h是步长，给定h=0.001。该系统用初值（1,1,1）进行数值求解，以0.05为间隔进行采样。首先在Lorenz系统的初值和混沌部分之间删除先前的过渡点，然后选择随后的220个数据点作为研究样本，选择下面100个数据点作为测试样本。
对于混沌时间序列的预测，可以采用一个或多个神经网络进行直接多步预测或递推多步预测，对于时滞大的非线性动态系统，可以采用递推方法预测误差，误差会随着递推过程的增大而增大。因此，在K-熵限定的可预测时间内对混沌时间序列进行预测，并与递推多步预测方法进行了比较。
本文在延迟时间嵌入相空间中重建了洛伦兹吸引子的变量x的时间序列，首先基于2.2节的方法，计算了洛伦兹系统的K熵，得到K2=0.239，图2给出了m=10时的K熵曲线，K熵的值与赵桂兵的研究结果及他对洛伦兹系统的研究结果是K2=0.245士0.006，然后根据2.3节的理论，用T=1／K=4计算了洛伦兹系统的最大可预报时间，从而可以用一个模型预测洛伦兹系统的四个数据点，采用RBFNN进行建模和预测，直接多步预测意味着可以同时预测未来4个点，同时预测4个点的时间（包括网络训练时间）浪费了13.4680秒，而递归多步预测意味着可以预测1个点每一步，更新上一步的嵌入数据，然后进行下一步的预测。重复该方法，达到第四个点。使用递归多步预测法预测四个点的时间浪费了14.1560秒。在预测可靠性方面，如表1所示，直接多步预测比递推多步预测更准确和快速。如果预测值及时返回混沌系统，将显示出更好的混沌系统实时控制性能。
采用直接多步预测法对洛伦兹系统进行迭代预测，预测值个数相对误差在0.1%以内，共有12个数据点；采用递推多步预测法进行迭代预测，预测值个数相对误差在0.1%以内，共有2个数据点，见表2两种预测方法的预测值随着相对误差的增大而变化，在5%的相对误差范围内，直接多步预测的预测值大于递推多步预测的预测值，得出了直接多步预测比递推多步预测精度更高的结论，从某种意义上解释了短期预测是可以实现的，而长期预测是不可预测的。我们只能估计最大可预测时间，而实际最大可预测时间与混沌时间序列本身的建模和特性有关。所以，为了获得准确、快速的预测，混沌时间序列的预测必须限制在最大可预测时间内，图3显示了100个数据点是通过直接多步预测迭代预测的，这100个数据点被标记为星型，但如图3所示，长期预测的突变数据点存在较大的预测误差，其原因正在研究中。
- 结论
- 本文利用K-熵研究了混沌时间序列的最大可预测时间，然后研究了洛伦兹系统的最大可预测时间，比较了直接多步预测和递推多步预测的相对误差。结果表明，在最大可预测时间内，直接多步预测比递归多步预测更准确、快速，避免了混沌时间序列可预测时间估计的盲目性。
- 由于RBF神经网络不存在局部极小问题，且RBF神经网络具有学习速度快、收敛速度快的特点，将基于K-熵的最大可预测时间与RBF神经网络相结合，对混沌时间序列进行预测，这种方法可以节省时间和具有较高的预测精度。
参考文献：
- 李国国，秦政.（2004），用于预测非线性时间序列的移动窗口二次回归模型，计算机学报，27（7）：1004-1008。
- 任晓林，胡广瑞，徐雄.1999.混沌时间序列的有限线性预测方法.中国上海交通大学学报，33（1）：19-21
- 于俊利.2005.基于混沌时间序列的非线性动态系统神经网络建模与预测.武汉大学学报（自然科学版），5l（3）：286-290。
- 马军海，陈玉树.2004.非线性混沌时间序列应用数学与力学动态系统预测方法研究.应用数学与力学，25（6）：605-611。
- 马金海.2005.复杂非线性系统重构技术.中国天津大学出版社，天津，2005
（6）Grassberger P，Procccia I.（1983），混沌信号的Kolmogorov熵估计.物理版本A，28（4）：2591-2593。
（7） 颜平凡，张长水.（2000），人工神经网络与仿真演化计算，中国清华大学出版社，北京，2000
（8） 赵桂兵，施彦富，等人.（1999），从混沌时间序列计算分型维数和Kolmogorov熵。中国计算物理学报，16（3）：309-315。
剩余内容已隐藏，支付完成后下载完整资料
资料编号：[241487]，资料为PDF文档或Word文档，PDF文档可免费转换为Word
以上是毕业论文外文翻译，课题毕业论文、任务书、文献综述、开题报告、程序设计、图纸设计等资料可联系客服协助查找。
