Page 110 - 2022年第53卷第6期

Ｔ
ｍ × ｎ
阵 Ａ ∈Ｒ 和向量 ｙ ＝ ［ｙ，ｙ，…，ｙ］。ＴＳＶＲ采用该技巧将非
１ ２ ｍ
线性训练样本映射到高维特征空间，通过生成
Ｔ Ｔ ＋ ｂ
{ ｆ（ｘ） ＝Ｋ（ｘ，Ａ ） ω １ １ （２）
１
Ｔ
Ｔ
２ ２
ｆ（ｘ） ＝Ｋ（ｘ，Ａ ） ω ２ ＋ ｂ
用以确定不敏感上、下界函数，进而可构造回归模型
１
ｆ（ｘ） ＝ （ｆ（ｘ） ＋ ｆ（ｘ））
１
２
２
（ ３）
１ Ｔ １
＋ ）Ｋ（Ａ，ｘ） ＋ （ｂ＋ ｂ）
＝ （ ω １ ω ２ １ ２
２ ２
为权值向量；ｂ、ｂ为偏置；Ｋ（·，·）为核函数，
式中：ω １ 、ω ２ １ ２ 图 ２ ＴＳＶＲ结构示意
其直接决定算法的高维特征空间与非线性转换。本文选取具有良
好非线性映射能力的径向基函数（ＲａｄｉａｌＢａｓｉｓＦｕｎｃｔｉｏｎ，ＲＢＦ）作为核函数，即
１
(
Ｋ（ｘ，ｘ） ＝ｅｘｐ － ２ λ ２ ‖ｘ － ｘ ‖ ２ ) （４）
ｊ
ｉ
ｉ
ｊ
式中 λ为 ＲＢＦ核宽度参数。
式（ ２）中函数的确定可通过求解下述一对凸二次规划问题
１
[
]
{ ω １ ，ｂ １ ， ξ ２ ‖ｙ － （Ｋ（Ａ，Ａ ） ω １ ＋ ｅｂ） － ｅ ε １ ‖ ＋ Ｃｅξ （５）
Ｔ
２
Ｔ
ｍｉｎ
１
１
Ｔ
－
ｓ．ｔ． ｙ － （Ｋ（Ａ，Ａ ） ω １ ＋ ｅｂ） ≥ｅ ε １ ξ ，ξ≥０
１
{ ｍｉｎ [ １ ‖ｙ － （Ｋ（Ａ，Ａ ） ω ２ ＋ ｅｂ） ＋ ｅ ε ２ ‖ ＋ Ｃｅη ] （６）
２
Ｔ
Ｔ
２
２
ω ２ ，ｂ ２ ， η ２
Ｔ
－
２
ｓ．ｔ． （Ｋ（Ａ，Ａ ） ω ２ ＋ ｅｂ） － ｙ ≥ｅ ε ２ η ，η≥０
＞０为不敏感损失函数参数；ξ 和 η为松弛变量；ｅ为 ｍ维全 １列
式中：Ｃ，Ｃ＞０为惩罚参数；ε １ ，ε ２
２
１
向量。
），其可改写为
１
ｍ
对式（ ５）引入非负拉格朗日乘子向量 α ＝ （ａ，ａ，…，ａ）和 γ ＝ （ γ １ ，γ ２ ，…，γ ｍ
２
１
Ｔ ２ Ｔ
１
１
１
Ｌ（ ω １ ，ｂ，ξ ，α ，β ） ＝ ‖ｙ － （Ｋ（Ａ，Ａ ） ω １ ＋ ｅｂ） － ｅ ε １ ‖ ＋ Ｃ ｅξ －
２ （７）
Ｔ Ｔ Ｔ
＋
α（ｙ － （Ｋ（Ａ，Ａ ） ω １ ＋ ｅｂ） － ｅ ε １ ξ ） － γξ
１
结合 Ｋａｒｕｓｈ － Ｋｕｈｎ － Ｔｕｃｋｅｒ（ＫＴＴ）条件可得
Ｔ Ｔ Ｔ Ｔ Ｔ
－ Ｋ（Ａ，Ａ ）（ｙ － （Ｋ（Ａ，Ａ ） ω １ ＋ ｅｂ） － ｅ ε １ ） ＋ Ｋ（Ａ，Ａ ）α ＝ ０ （８）
１
Ｔ Ｔ Ｔ
－ ｅ（ｙ － （Ｋ（Ａ，Ａ ） ω １ ＋ ｅｂ） － ｅ ε １ ） ＋ ｅα ＝ ０ （９）
１
Ｃｅ － α － γ ＝ ０ （１０）
１
Ｔ
－
１
ｙ － （Ｋ（Ａ，Ａ ） ω １ ＋ ｅｂ） ≥ｅ ε １ ξ ，ξ≥０ （１１）
Ｔ Ｔ
＋
α（ｙ － （Ｋ（Ａ，Ａ ） ω １ ＋ ｅｂ） － ｅ ε １ ξ ） ＝０，α≥０ （１２）
１
Ｔ
γξ ＝ ０ ，γ≥０ （１３）
由式（１０）与式（１３）可知
０ ≤α≤Ｃｅ （１４）
１
结合式（８）和式（９），可得
Ｔ Ｔ
Ｔ Ｔ
[ Ｔ ] Ｔ ω １ [ （Ｋ（Ａ，Ａ ）
Ｔ ]
（Ｋ（Ａ，Ａ ）
－ ｅ （ｙ － ｅ ε １ ） － Ｋ（Ａ，Ａ ） ｅ ] ｂ １ ＋ ｅ α ＝ ０ （１５）
[
Ｔ
令 Ｈ＝ ［ Ｋ（Ａ，Ａ ） ｅ ］且 ｆ ＝ ｙ － ｅ ε １ ，结合式（１５）可得 ｆ（ｘ）的解为
１
Ｔ Ｔ Ｔ － １ Ｔ
１
１
ｕ ＝ ［ ω １ ｂ］ ＝ （Ｈ Ｈ） Ｈ （ｆ － α ） （１６）
将式（１６）与 ＫＴＴ条件带入式（７），可得到式（５）的对偶优化问题
— ７ ３ —
６