基于全局数值优化自适应策略的差分进化算法 AK Qin,VL Huang和PN Suganthan外文翻译资料

 2022-01-16 19:45:11

英语原文共 20 页,剩余内容已隐藏,支付完成后下载完整资料


基于全局数值优化自适应策略的差分进化算法 AK Qin,VL Huang和PN Suganthan

摘要: 差分进化(DE)是一种有效且强大的基于种群的随机搜索技术,用于解决连续空间上的优化问题,已广泛应用于许多科学和工程领域。然而,DE在解决特定问题方面的成功关键取决于适当选择试验向量生成策略及其相关的控制参数值。使用试错法来搜索最合适的策略及其相关参数设置需要很高的计算成本。此外,在演化的不同阶段,可能需要不同的策略与不同的参数设置相结合以实现最佳性能。在本文中,我们提出了一种自适应DE(SaDE)算法,其中试验向量生成策略及其相关控制参数值可以通过学习他们以前生成有希望求解的方案的经验而逐渐具有自适应能力。因此,可以确定更合适的生成策略及其参数设置,以匹配搜索过程/演进的不同阶段。SaDE算法的性能被广泛地评估(使用来自PN Suganthan的代码)在一组26个约束约束的数值优化问题上,并且与传统的DE和几个最先进的参数自适应DE变体相比是有效的。

介绍:受物种自然进化启发的差分算法(EAs)已经成功应用于解决各个领域的众多优化问题。但是,在实施EA时,用户不仅需要确定适当的编码方案和进化运算符,还需要选择合适的参数设置以确保算法的成功,这可能由于时间要求而导致的计算成本 - 消耗试错的参数和操作员调整的过程。为了克服这种不便,研究人员积极研究了EA中参数和算子的适应性[1] - [3]。参数的不同分类适应方法已在[4] - [6]中提出。[4]总结了自适应EA中的两种参数更新规则,即绝对规则和经验规则。绝对更新规则通常预先指定如何进行参数修改,而经验更新规则根据EA中固有的进程来调整参数。文献[5]将参数自适应技术分为三类:确定性,自适应和自适应控制规则。确定性规则根据某些预定的基本原理修改参数,而不利用来自搜索过程的任何反馈。自适应规则包含来自搜索过程的某种形式的反馈,以指导参数自适应。自适应规则直接将参数编码到个体中,并与编码的解决方案一起发展。具有更好适应值的个体所涉及的参数值将存活,其充分利用来自搜索过程的反馈。一般而言,自适应规则还可以指那些主要利用来自搜索过程的反馈的规则,例如适应度值来指导参数的更新。

由Storn和Price [7]提出的差分进化(DE)算法是一种简单但功能强大的基于种群的随机搜索技术,它是连续搜索领域中一种高效且有效的全局优化算法。DE已成功应用于各种领域,如机械工程[13],[14],通信[11]和模式识别[10]。在DE中,存在许多试验向量生成策略,其中一些可能适合于解决特定问题。此外,DE中涉及的三个关键控制参数,即种群大小,比例因子和交叉率,可能显着影响DE的优化性能。因此,为了成功解决手头的特定优化问题,通常需要对最合适的策略执行耗时的反复试验并调整其相关的参数值。然而,这种试错法搜索过程需要高计算成本。此外,随着进化的进行,DE的群体可以在搜索空间中的不同区域中移动,其中与特定参数设置相关联的某些策略可能比其他策略更有效。因此,期望在进化/搜索过程的不同阶段自适应地确定适当的策略及其相关参数值。在本文中,我们提出了一种自适应DE(SaDE)算法,以避免通过试错过程搜索最合适的试验向量生成策略及其相关参数值所花费的昂贵计算成本。相反,这两种策略及其相关参数都是逐渐的通过学习他们以前创造有前途的解决方案的经验进行自我调整。因此,可以自适应地确定更合适的生成策略及其参数设置,以匹配不同的搜索/演进阶段。具体而言,在每一代中,根据从中学习的选择概率,将一组试验载体生成策略及其相关参数值分别分配给当前群体中的不同个体。本文的其余部分安排如下。传统的DE和相关工作分别在第II节和第III节中进行了回顾。第四节描述了SaDE。实验结果证明了SaDE与传统DE相比的性能以及一系列26个约束数值优化问题的几个最先进的自适应DE变体,在第五节中给出了结论。第六部分总结了本文。

DE算法

DE算法的目的是发展一群个体二维参数向量,所谓的个体,对候选方案进行编码,即,群落最初通过在规定的最小和最大参数范围,

和约束的搜索空间内统一随机化个体,可以更好地覆盖整个搜索空间。例如,第j代中第i个参数的初始值由, 生成,其中rand(0,1)表示范围内的均匀分布的随机变量。

A.变异操作

初始化后,DE采用变异操作产生关于每个个体的突变载体在当前群落中,即所谓的目标向量。对于生成中的每个目标载体,其相关突变体矢量可以通过某种突变策略生成。例如,最常见的五个在DE代码1中实现的使用的变异策略如下所列

  1. DE/rand/1:
  2. DE/best/1:
  3. DE/rand-to-best/1:
  4. DE/best/2:
  5. DE/rand/2:

其中是在该范围内随机生成的互斥整数。对于每种突变体载体,这些指数随机产生一次。缩放因子是用于缩放差矢量的正控制参数。 是在世代群体中具有最佳适应值的最佳个体载体。

B,交叉操作

在突变阶段之后,对每对目标载体及其相应的突变载体应用交叉操作生成试验载体:

在基础版本中,DE采用如下定义的二项式(均匀)交叉:

J=1,2hellip;D

在(7)中,交叉率是用户指定的range(0,1)范围内的常数,其控制从突变体载体复制的参数值的分数。是该范围内随机选择的整数。二项式交叉复制突变体载体的 参数到试验载体中的相应元素if否则,从相应的目标矢量复制它。存在另一个指数交叉算子,其中试验载体的参数从相应的突变载体继承,从随机选择的参数指数开始直到第一次试验载体的其余参数从相应的目标矢量 复制。引入条件以确保试验载体将与其对应的目标载体 相差至少一个参数。DE的指数交叉算子在功能上等同于圆形两点交叉算子。

C,选择操作

如果新生成的试验向量的某些参数的值超过相应的上限和下限,我们在预定范围内随机均匀地重新初始化它们。然后,评估所有试验向量的目标函数值。之后,执行选择操作。每个试验载体的目标函数值将其与其对应的目标载体在目前的群体中进行比较。如果试验载体的目标函数值小于或等于相应的目标载体,则试验载体将替换目标载体并进入下一代的群体。否则,目标矢量将保留到下次迭代。选择操作可表示如下:

以往与DE有关的工作

传统DE算法的性能很大程度取决于所选择的试验载体生成策略和相关的使用参数值。 策略选择不当或者参数选择不当参数可能会导致过早收敛或停滞,已在[8],[16]中广泛证明,[17],[24]和[29]。 在过去十年中,DE研究人员已经提出了许多选择试验载体的经验指南生成策略及其相关的控制参数设置。Storn和Price [15]建议合理的NP值应该介于5D和10D之间,并且是一个很好的初始选择是0.5。 建议使用有效值范围在0.4和1之间。第一次合理的选择尝试CR值可以是0.1。 但是,因为CR值很大加速收敛,0.9的CR值也可能是一个理想的初始选择如果问题接近单峰或快速收敛。 而且,如果群体过早收敛,NP和F都会增加。在[20]中建议使用试验矢量生成策略DE / current-to-rand / 1和参数设置NP=20D,K=0.5,F=0.8.如果DE过早收敛,则应该增加NP和F或减少K的值。如果停滞,则应增加np或f在range(0,1)范围内随机选择k的值 /。如果上述都不起作用,可以尝试使用策略DE / rand / 1 / bin以及较小的{ rm/ CR}值。Gauml;mperle等。[17]检查了Sphere,Rosenbrock和Rastrigin函数的DE的不同参数设置。实验结果表明,搜索能力和收敛速度对控制参数NP,F的选择非常敏感。建议种群规模NP介于3D和8D之间,缩放因子F等于0.6,和交叉率CR介于[0.3,0.9]之间。

最近,Rouml;nkkouml;nen等人。[21]建议使用0.4与0.95之间的F值,F=0.9是一个很好的初始选择。CR值应在[0,0.2],[0.9,1]时函数可分离。但是,当解决一个真正的工程问题,特征 问题通常是未知的。 因此,它 很难提前选择最合适的价值。

在DE文献中,各种相互矛盾的结论存在于手动选择的规则策略和控制参数,这些都利用DE解决问题的科学家和工程师科学和工程问题。事实上,其中大部分结论缺乏充分的理由,因为它们的有效性可能仅限于问题,策略和参数调查中考虑的值。因此,研究人员已经开发出一些技术避免手动调整控制参数。例如,Das et al.[29]随着生成F从最大值减少到最小值,线性地减小了比例因子或者在(0.5,1)范围内随机变化 。他们还采用0.5和1.5之间的均匀分布(平均值为1)来获得新的杂合DE变体[30]。此外一些研究人员[18],[24] - [26]专注于控制参数的调整。Liu和Lampinen介绍了模糊自适应差分进化算法。FADE使用模糊逻辑控制器,其输入包含相关函数值和连续世代的个体,以适应突变和交叉操作的参数[18]。基于测试函数的实验结果,FADE算法在高维问题上优于传统的DE。Zaharie基于控制种群多样性的想法提出了DE(ADE)的参数适应,并实施了多种方法[24]。遵循相同的想法,Zaharie和Petcu设计了一种用于多目标优化的自适应Pareto DE算法,并分析了它的并行实现的可能性[25]。Abbass [26]通过将交叉率编码到每个个体中,自适应DE对多目标优化问题的交叉率,同时与其他参数一起演化。从高斯分布N(0,1)为每个变量生成缩放因子F。自从我们在[19]中提出的初步自适应DE工作以来,发表了一些关于DE中控制参数适应性的新研究论文。Omran et al. [27]引入了自适应比例因子参数类似于交叉率的适应,在[26]。[27]中的交叉率是从正态分布N(0.5,0.15)为每个个体生成的。这种方法(称为SDE)在四个基准函数上进行了测试,并且比其他版本的DE表现得更好。除了调整控制参数F和CR,Teo还提出了基于Abbass自适应Pareto DE的自适应种群差异进化(DESAP)[22]。最近, [28]编码控制参数F和cr独立并通过引入两个新参数T1,T2进行调整。在他们的算法(称为jDE)中,有一组 F将价值分配给群体中的个体。然后,在(0,1)的范围内均匀地生成随机数。如果randlt;T1重新初始化为范围内的新随机值,否则保持不变。该CR以相同的方式改编,但具有不同的初始化范围 。进一步比较了[42]中几种自适应和自适应DE算法的性能。最近,自适应邻域搜索DE算法被采用到一个新的协作共同进化框架[39]。此外,研究人员通过实施基于对立的学习来改善DE的表现[40]或本地搜索[41]。Sade算法为了通过将常规DE应用于给定问题来实现最令人满意的优化性能,通过实现最令人满意的优化性能将常规DE应用于给定问题,对最合适的试验反复试验其矢量生成策略并微调其相关控制参数值是常见的,即CR,NP,F的价值。显然,它可能会花费大量的计算成本。此外,在进化的不同阶段,不同的试验载体生成策略与特定的控制参数值相结合可以比其他更有效。通过这些观察,我们开发了一种SaDE算法,其中两种试验载体生成策略及其相关控制参数值可以通过以前创造有前景的解决方案的经验逐步自我调整。提出的SaDE算法背后的核心思想阐述如下。试验矢量生成策略的适应采用不同试验向量生成策略的DE实现在解决不同的优化问题时通常表现不同。我们不是采用计算上复杂的试错法搜索最合适的策略及其相关参数值,而是维护一个策略候选池,其中包括几个有效且多样化特征的有效试验载体生成策略。在进化过程中,对于当前群体中的每个目标载体,将根据从其先前产生有希望的解决方案的经验中学习并应用于执行变异操作的概率,从候选池中选择一种策略。一个策略在前几代中表现得越成功,以生成有前景的解决方案,就越有可能在当前一代中选择生成解决方案。在下文中,我们研究了DE文献中常用的几种有效的试验载体生成策略,并选择其中一些来构建策略候选池。迄今为止发现的最佳解决方案的策略,例如“DE/rand-to-best/1/bin”,“DE/best/1/bin”和“DE/best/2/bin”,通常具有快速收敛速度,在解决单峰问题时表现良好。然而,它们更可能陷入局部最优,从而在解决多模态问题时导致过早收敛。“DE/rand/1/bin”策略通常表现出较慢的收敛速度并具有较强的勘探能力。因此,它通常比依赖于目前为止找到的最佳解决方案的策略更适合解决多模态问题。“DE/best/1/bin”策略是“DE/rand-to-best/1/bin”策略的退化情况,F等于1。基于双差分向量的策略可能比基于单差分向量的策略产生更好的扰动。Storn [11]声称,根据中心极限定理,当前种群中所有目标向量对的差异向量总和的随机变化略微向高斯方向移动,这是EA操作中最常用的变异。在粒子群优化(PSO)背景下[35]中也讨论了使用基于双差分向量的策略的优势,该经验证明了所有单差向量的总和的统计分布具有三角形形状,而所有双差矢量的总和的统计分布具有钟形,通常被认为是更好的扰动模式。DE/rand/1/bin是一种旋转不变策略。当它被用于解决多目标优化问题时,其有效性已得到验证[34]。我们在[19]中的初步研究仅包括两个试验向量生成策略进入策略候选池,即“DE / rand / 1 / bin”和“DE / rand-to-best / 2 / bin”,这些都是经常使用的在许多DE文献中。我们在池中加入了两个额外的策略:“DE / rand / 2 / bin”和“DE / current-to-rand / 1”。由于类似高斯的扰动,前一种策略可以具有更好的探索能力,而后一种策略能够使算法更有效地解决旋转问题。在所提出的SaDE算法中构成策略候选池的四个试验矢量生成策略如下所列。二项式交叉算子在前三种策略中得到应用,因​​为它在许多DE文献中很受欢迎[7],[8],如

全文共25281字,剩余内容已隐藏,支付完成后下载完整资料


资料编号:[1256]

原文和译文剩余内容已隐藏,您需要先支付 30元 才能查看原文和译文全部内容!立即支付

发小红书推广免费获取该资料资格。点击链接进入获取推广文案即可: Ai一键组稿 | 降AI率 | 降重复率 | 论文一键排版