Page 19 - 2023年第54卷第10期
P. 19
针对 MLP模型的超参数设置问题,本文采用
IGOA优化 MLP的超参数。蝗虫优化算法(Grasshopper
OptimizationAlgorithm , GOA)是 Mirjalili等 人 在
2017年提出的一种新型群智能算法,通过模拟蝗
虫群体捕食行为迭代搜索最优解,其中蝗虫成虫
在前期进行全局搜索,蝗虫幼虫负责在后期对特
定临近区域进行细致开发,第 i个蝗虫在第 d维
的位置模型为 [25] :
i
^
j
d
d
d
d
x =c ∑ [ N c ub -lb d s( x -x ) x -x ] +T
i j i d
j =1 2 d ij
j ≠i
图 2 多层感知机(MLP)基础模型网络结构图
(5)
d
d
式中:角标 d表示在第 d维空间;ub、lb 分别表示蝗虫搜索的上界和下界; x - x 为第 i只蝗虫到
j
i
d
d
^
第 j只蝗虫的欧几里得距离; x - x ?d为第 i只到第 j只蝗虫的单位向量;T 表示到目前为止蝗虫群
j i ij d
体搜索的目标位置(最优值);s(z)为表征群体社交作用力范围和强弱的因子;c为控制参数(线性缩减
因子):
c - c
max
min
c = c - t (6)
max
T max
式中:t为迭代次数;T 为最大迭代次数;c 和 c 为缩减因子 c的上下界,本文设定 c = 2 ,c = 0 。
max max min max min
通过式( 5)可以看出,控制参数 c影响着整个寻优过程,公式内层 c用来控制蝗虫群体的交互空
间,减小排斥与吸引空间,外层 c为比例因子,用来缩小搜索范围。在基本 GOA中,c为由 2到 0的
线性缩减过程,前期和后期下降过快,易在早期和末期陷入局部最优,中期下降慢则影响搜索速度,
难以充分体现蝗虫群体的搜索特点。为了实现对蝗虫群体的动态调节,本研究采用控制参数自适应更
新策略重构函数 c(t):
2
t
π
{ [ ( ) ]}
c = (c - c ) × 1 - sin · (7)
min
max
T
max 2
图 3为重构函数 c(t)与原始线性缩减函数的对比图。可以看出,重构函数 c(t)的递减过程呈现出
非线性特点,在搜索初期数值较大且下降缓慢,以保证全局搜索能力,中期下降速率较快,可提高搜
索效率,末期数值较小下降缓慢,可增强局部探索能力。总体来讲,本文所采用的非线性缩减因子可
有效平衡全局搜索和局部探索能力。
此外,针对上述提到的蝗虫个体在迭代寻找最优位置过程易陷入局部最优问题,本研究引入柯西-
高斯混合变异模式,在迭代前期成虫全局寻优过程中通过柯西算子加大种群多样性,如图 4所示,柯
西分布峰值相对较小,两侧下降坡度较缓,为成虫提供了更长的搜索步长,扩大了种群初始搜索范
围,有利于快速搜索全局最优解。柯西变异公式为:
图 3 函数 c(t)变化过程
1
— 1 5 5 —