复杂系统^[1]是一种包含很多相互作用子系统的系统. 它具有非线性、高不确定性、高维度、多层次以及高相关性的特点. 空气动力系统^[2]、股票市场系统^[3]、暴雨洪涝人口风险系统^[4]就是一些的复杂系统例子. 为研究自然、工程和社会科学中的现象与原理, 探究这些复杂系统的内在性质, 人们对复杂系统建模并利用计算机对它们进行仿真与实验, 并让实验能够尽可能地接近真实世界, 不断向着复杂化发展. 比如, 在武器装备领域, 为了测定直航鱼雷^[5]在不同复杂想定下的打击范围和命中能力, 需要做大量的仿真实验. 为了让实验能在较小的代价下执行, 需要进行高效实验设计. 但复杂系统的特点会给复杂系统实验设计带来非线性、相关性、不确定性和规模性等问题^[6], 传统的实验设计方法只能部分解决这些问题, 例如: 完全析因设计^[7]适用于非线性系统, 但需要的实验样本和实验次数非常多; 响应面设计^[8]用于分析系统中因子间的相互作用, 但当因子数量增多时, 计算量会急剧增加; 为了降低实验中的不确定性, 可以通过大量的随机重复抽样设计, 但这同样的会极大地增加实验规模. 以上问题都会使得复杂系统实验设计最终走向规模性, 即产生维度灾难^[9]. 正交设计^[10]、均匀设计^[11]、拉丁超立方设计^[12]这类遵循“充满空间”性质的实验设计方法虽然可以通过优化实验取样来缩减实验规模, 但仅在均匀空间中最有效, 对复杂系统实验设计效率的提升有限. 因此, 迫切需要一种适用于复杂系统、可以大幅提高实验效率的实验设计方法.

变分自编码器(variational auto-encoder, VAE)^[13]是一种借鉴变分推断原理的深度神经网络, 凭借其优秀的性能, 近年来在图像处理^[14]、语音识别^[15]、文本生成^[16]等应用领域取得了巨大的成功. 变分自编码器作为一种生成模型, 含有多个隐藏层, 包括了编码器、解码器和隐变量空间. 编码器可以将复杂分布的样本数据投影到简单的隐变量空间, 实现对样本数据的特征提取. 而解码器可以通过还原在隐变量空间里取样的数据, 生成新的样本. 和一般生成模型只考虑重构损失函数不同的是, 变分自编码器同时考虑了重构损失函数和KL损失函数, 使得生成的样本具有更强的泛化能力, 可以提高样本空间取点的覆盖率, 这给复杂系统实验设计带来了新的思路: 一方面, 如图1所示, 将复杂系统实验的输入样本和输出响应结果一同作为实验历史记录数据训练变分自编码器, 通过生成新的实验样本, 综合考虑复杂系统实验输入样本 $ {{{{\boldsymbol{x}}}}_i} $ 的分布、输出结果 $ {{{{\boldsymbol{y}}}}_i} $ 的分布和它们之间的对应关系 $ {{{{\boldsymbol{y}}}}_i} = f({{{{\boldsymbol{x}}}}_i}) $ 的分布, 使得3个分布都尽可能地“充满空间”, 实现更加高效的实验设计. 另一方面, VAE将复杂分布的输入实验样本投影到的隐变量空间会尽可能满足标准正态分布, 而在符合标准正态分布的空间里进行实验设计有3个好处.

(1) 通过适应随机采样, 防止出现过拟合;

(2) 隐变量空间具有良好的分布性质, 易于抽样处理;

(3) 生成的样本点是在隐变量空间采样得到, 可以通过调整采样来进行优化.

基于上述分析, 本文提出一种基于VAE的实验设计方法, 将复杂系统实验历史记录数据投影到一个满足正态分布的隐变量空间, 并通过对隐变量空间采样生成新的实验设计方案. 实验结果表明, 本文实验设计方法系统性地解决了复杂系统自身特性导致的实验设计规模性问题.

本文接下来的内容安排如下: 第1节详细阐述了本文的方法; 第2节介绍了实验有效性的评价方法; 第3节通过一个直航鱼雷命中模型的案例对本文方法进行了验证并展示与分析了实验结果; 第4节总结了全文并得出了结论.

1 一种基于变分自编码器的复杂系统实验设计方法

本节首先形式化定义了待解决问题, 然后详细介绍了本文方法的总体架构和各模块内容.

1.1 问题定义

复杂系统的特性可以表示为其输入到输出的一个函数: $ {{{\boldsymbol{y}}}} = f({{{\boldsymbol{x}}}}) = f({x_1}, {x_2}, \cdots, {x_d}) $ , 其中, $ {{{\boldsymbol{x}}}} = ({x_1}, {x_2}, \cdots, {x_d}) $ 是输入变量的向量, $ d $ 是因子的数目, $ {{{\boldsymbol{y}}}} = ({y_1}, {y_2}, \cdots, {y_{{d_{{{\boldsymbol{y}}}}}}}) $ 为该复杂系统对输入 $ {{{\boldsymbol{x}}}} $ 的响应, $ {d_{{{\boldsymbol{y}}}}} $ 是响应的数目.

实验设计目的之一是提高实验设计取样的有效性, 即在相同实验样本数量的情况下, 提高选取样本的准确性. 对于待比较的不同实验设计方法, 令每种实验设计方法产生 $ k $ 个实验样本, 可以通过这 $ k $ 个样本所拟合出的模拟系统 $ {{{\boldsymbol{y}}'}} = f'({{{\boldsymbol{x}}}}) $ 与真实系统 $ f({{{\boldsymbol{x}}}}) $ 的吻合程度来评价它们的实验准确性. $ f'({{{\boldsymbol{x}}}}) $ 与 $ f({{{\boldsymbol{x}}}}) $ 的吻合程度可以用均方根误差( $ RMSE $ )、最大残差( $ MRE $ )、平均绝对误差( $ MAE $ )、 $ {R^2} $ 决定系数表征:

$ RMSE = \sqrt {\frac{{\displaystyle\sum\limits_{i = 1}^k {{{\left( {{{{{\boldsymbol{y}}}}_i} - {{{{{\boldsymbol{y}_i'}}}}}} \right)}^2}} }}{k}} $

(1)

$ MRE = \max (\left| {{{{{\boldsymbol{y}}}}_i} - {{{{{\boldsymbol{y}_i'}}}}}} \right|) $

(2)

$ MAE = \frac{{\displaystyle\sum\limits_{i = 1}^k {\left| {{{{{\boldsymbol{y}}}}_i} - {{{{{\boldsymbol{y}_i'}}}}}} \right|} }}{k} $

(3)

$ {R^2} = 1 - \frac{{\displaystyle\sum\limits_{i = 1}^k {{{({{{{\boldsymbol{y}}}}_i} - {{{{{\boldsymbol{y}_i'}}}}})}^2}} }}{{\displaystyle\sum\limits_{i = 1}^k {{{({{{{\boldsymbol{y}}}}_i} - {{\bar {\boldsymbol{y}}}})}^2}} }} $

(4)

在式(4)中, $ {{\bar {\boldsymbol{y}}}} $ 是复杂系统 $ k $ 个真实响应 $ {{{{\boldsymbol{y}}}}_i} $ 的平均值. $ RMSE $ 、 $ MRE $ 、 $ MAE $ 越小, $ {R^2} $ 决定系数越接近1, 意味着 $ f'({{{\boldsymbol{x}}}}) $ 与 $ f({{{\boldsymbol{x}}}}) $ 的吻合程度越高、越相关, 即实验取点越有效. 因此, 待解决的问题可以表示成: 找到一种实验设计方法 $ E $ , 用该方法生成的 $ k $ 个实验样本拟合复杂系统 $ f({{{\boldsymbol{x}}}}) $ 的模拟系统 $ f'({{{\boldsymbol{x}}}}) $ , 并可以使得 $ f'({{{\boldsymbol{x}}}}) $ 与 $ f({{{\boldsymbol{x}}}}) $ 之间尽可能地吻合.

1.2 总体架构

基于变分自编码器的实验设计方法的总体架构如图2所示, 它包含了3个模块.

实验需求确定了实验的背景、对象、参数以及属性的取值范围和概率分布, 为本实验设计方法的输入. 实验设计方案即实验样本集 $ {{{{\boldsymbol{O}}}}_g} $ 为本实验设计方法的输出. 实验历史记录集 $ {{{{\boldsymbol{O}}}}_h} $ 用于训练本实验设计方法的变分自编码器.

基于变分自编码器的实验设计方法各个模块的作用和总体步骤如下.

(1) 依据实验需求, 设计并实施实验, 得到初次的实验历史记录集.

(2) 数据预处理模块将实验历史记录集转化成变分自编码器可以使用的实验历史记录向量集.

(3) 网络学习模块将此实验历史记录向量集用作训练集, 训练变分自编码器.

(4) 实验设计模块在训练好的变分自编码器的隐变量空间里采样, 利用解码器还原采样点生成实验样本, 输出复杂系统实验设计方案.

(5) 对输出的复杂系统实验设计方案实施实验, 并将得到的实验历史记录加入原先的实验历史记录集, 得到新的实验历史记录集, 然后回到步骤(2)进行下一轮的实验设计, 使得实验设计取样得到进一步的优化.

1.3 数据预处理模块

变分自编码器的训练集需要向量化或数值化的样本, 但是实验历史记录并不一定都满足这个条件. 在训练变分自编码器的过程中, 为了能让损失函数更容易收敛到最佳结果, 需要防止样本中有因子取值范围过大或存在极端值的情况. 为此需要对实验历史记录进行数据预处理.

对于实验历史记录中无序离散值的属性来说, 需要对它进行独热编码. 对于有序离散值的属性需要对它进行标签编码.

而对于实验历史记录中连续数值, 防止取值范围过大或有极端值情况的策略是使用Minmax归一化:

$ {{\rm{Minmax}}} ({{{\boldsymbol{O}}}}) = \frac{{{{{{\boldsymbol{X}}}}_i} - {{{{\boldsymbol{X}}}}_{\min}}}}{{{{{{\boldsymbol{X}}}}_{\max}} - {{{{\boldsymbol{X}}}}_{\min}}}} $

(5)

其中, $ {{{\boldsymbol{O}}}} $ 是实验历史记录集, 实验历史记录记录 $ {{{{\boldsymbol{X}}}}_i} \in {{{\boldsymbol{O}}}} $ , $ {{{{\boldsymbol{X}}}}_{\max}} $ 是实验历史记录最大值, $ {{{{\boldsymbol{X}}}}_{\min}} $ 是实验历史记录最小值.

因此, 在数据预处理模块, 对于复杂系统实验历史记录集 $ {{{{\boldsymbol{O}}}}_h} = (({{{{\boldsymbol{x}}}}_1}, {{{{\boldsymbol{y}}}}_1}), ({{{{\boldsymbol{x}}}}_2}, {{{{\boldsymbol{y}}}}_2}), \cdots, ({{{{\boldsymbol{x}}}}_n}, {{{{\boldsymbol{y}}}}_n})) $ 的每一个样本 $ ({{{{\boldsymbol{x}}}}_i}, {{{{\boldsymbol{y}}}}_i}) $ 对它进行如下步骤:

(1) 判断实验历史记录每个因子的类型.

1) 对实验历史记录中的有序离散取值的属性进行标签编码;

2) 对实验历史记录中的无序离散取值的属性进行独热编码;

3) 对实验历史记录中的连续数值的属性进行归一化.

(2) 对步骤(1)中得到的结果进行向量组装, 得到数据预处理后的实验历史记录.

数据预处理后的实验历史记录记为 $ {{{{\boldsymbol{e}}}}_i} = ({e_1}, {e_2}, \cdots, $ $ {e_{d'}}) \in {{{{\boldsymbol{O}}}}_e} $ , $ {{{{\boldsymbol{O}}}}_e} $ 为数据预处理后的实验历史记录集. 通常数据预处理后样本的维度不会低于数据预处理前实验历史记录的维度, 即 $ d' \geqslant d + {d_{{{\boldsymbol{y}}}}} $ .

本文方法用Python库SciKit-Learn^[17]的preprocessing模块的OneHotEncoder方法、LabelEncoder方法和MinMaxScaler方法实现数据的独热编码、标签编码和归一化.

1.4 网络学习模块

网络学习模块的主体部分是变分自编码器.

变分自编码器由编码器 $ {q_\phi }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}}) $ 、解码器 ${p_\theta }({{{\boldsymbol{{\textit{z}}}}}}) {p_\theta }({{\hat {\boldsymbol{x}}}}|{{{\boldsymbol{{\textit{z}}}}}})$ 和一组隐变量 ${{{\boldsymbol{{\textit{z}}}}}}$ 组成, $ {{{\boldsymbol{x}}}} $ 是输入的样本, $ {{\hat {\boldsymbol{x}}}} $ 是重构或生成的样本. 而编码器由均值编码器和方差编码器组成. 均值编码器产生每个样本专属的在隐变量空间中的均值 $ \;{\mu _i} $ , 方差编码器产生每个样本专属的在隐变量空间中的方差 $ \sigma _i^2 $ . 从 $ {\varepsilon _i} \sim {{{\boldsymbol{N}}}}(0, 1) $ 中采样, 并通过 ${{{{\textit{z}}}}_i} = {\mu _i} + {\sigma _i} \cdot {\varepsilon _i}$ 的重参数技巧, 即可完成对隐变量 ${{{\boldsymbol{{\textit{z}}}}}}$ 的采样, 经过此法采样的 ${{{\boldsymbol{{\textit{z}}}}}}$ , 满足 ${p_\theta }({{{\boldsymbol{{\textit{z}}}}}}) \sim {{{\boldsymbol{N}}}}(0, 1)$ .

编码器和真实后验概率分布 $ {p_\theta }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}}) $ 之间的相似度用KL散度衡量:

$ {{{KL}}} ({q_\phi }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}})\parallel {p_\theta }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}})) = {{{{E}}} _{{q_\phi }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}})}}\log \frac{{{q_\phi }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}})}}{{{p_\theta }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}})}} $

(6)

整个变分自编码器训练就是要去优化编码器模型的参数 $ \phi $ 和解码器模型的参数 $ \theta $ , 使得学习的后验概率分布和真实后验概率分布尽可能地相似, 即最小化它们之间的KL散度:

$ \phi , \theta = \mathop {\arg \min }\limits_{\phi , \theta } {{{KL}}} ({q_\phi }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}})\parallel {p_\theta }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}})) $

(7)

定义生成模型 ${p_\theta }({{\hat {\boldsymbol{x}}}}|{{{\boldsymbol{{\textit{z}}}}}})$ 服从伯努利分布, 由文献[18]的数学推导, 得到变分自编码器的损失函数为:

$ {{{L}}} (\theta , \phi ) = \underbrace {{{{KL}}} ({q_\phi }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}})|{p_\theta }({{{\boldsymbol{{\textit{z}}}}}}))}_{{{{KL}}} - {\rm{loss}}} - \underbrace {{{{{E}}} _{{q_\phi }({{{\boldsymbol{{\textit{z}}}}}}|{{{\boldsymbol{x}}}})}}{{\rm{lb}}} {p_\theta }({{\hat {\boldsymbol{x}}}}|{{{\boldsymbol{{\textit{z}}}}}})}_{{{\rm{Reconstruction}}} - {\rm{loss}}} $

(8)

其中, 第一项是变分自编码器的KL损失函数, 第二项是变分自编码器的重构损失函数.

当完成对变分自编码器的训练后, 就可使用解码器生成新的样本. 网络学习模块的结构如图3所示.

由于当输入样本的维度不高时, 使用深度生成模型变分自编码器不一定能很好地学习出样本的内在性质, 为了获得更精确的学习效果, 需要酌情增加输入样本的维度. 网络学习模块在常规变分自编码器结构中增加了输入层和输出层. 输入层的作用是将输入样本的维度扩大 $ m $ 倍, 与输入层相对应的输出层的作用是将维度扩大 $ m $ 倍的样本再还原成原本维度的样本.

网络学习模块的输入是经过数据预处理的实验历史记录集 $ {{{{\boldsymbol{O}}}}_e} $ 中的样本 $ {{{{\boldsymbol{e}}}}_i} $ , $ {{{{\boldsymbol{a}}}}_i} = ({a_1}, {a_2}, \cdots, {a_{d'm}}) $ 是 $ {{{{\boldsymbol{e}}}}_i} $ 经过输入层的样本. $ l $ 为隐变量空间的维度, 通常情况下 $ d'm \gg l $ . 网络学习模块的输出是编码器的参数和解码器的参数.

1.5 实验设计模块

实验设计模块在由网络学习模块求出的隐变量空间里做抽样实验设计, 将原本分布不均的复杂系统实验历史记录空间投影到低维的服从标准正态分布的隐变量空间. 因为训练中引入了随机的扰动, 这个过程可以确保与原始实验样本编码的潜在位置靠近的每个点都能被解码为与原始实验历史记录类似的实验历史记录, 从而迫使隐变量空间能够连续地有意义. 隐变量空间中任意两个相邻的点都会被解码为高度相似的实验历史记录. 隐变量空间的连续性以及低维度, 使得隐变量空间非常适合进行抽样. 实验设计模块结构如图4所示.

实验设计模块在隐变量空间里做实验设计, 相当于对隐变量 ${{{\boldsymbol{{\textit{z}}}}}}$ 采样, 让 ${{{\boldsymbol{{\textit{z}}}}}}$ 按标准正态分布随机抽样. 完成隐变量空间的采样后, 隐变量 ${{{\boldsymbol{{\textit{z}}}}}}$ 通过解码器生成了具有 $ d'm $ 维的向量 $ {{{\hat {\boldsymbol{a}}}}_i} = ({\hat a_1}, {\hat a_2}, \cdots, {\hat a_{d'm}}) $ . 再经过输出层的样本维度还原生成了和网络学习模块输入向量有相同维度 $ d' $ 的实验历史记录向量 $ {{{\hat {\boldsymbol{e}}}}_i} = ({\hat e_1}, {\hat e_2}, \cdots, {\hat e_{d'}}) $ .

为了要让 $ {{{\hat {\boldsymbol{e}}}}_i} $ 的维度匹配真实复杂系统的输入变量的维度, 还需要对 $ {{{\hat {\boldsymbol{e}}}}_i} $ 做样本恢复和去除 $ {{{\hat {\boldsymbol{y}}}}_i} $ . 样本恢复的步骤如下.

(1) 判断样本向量中各个部分原先属于哪个属性并进行恢复;

1) 对样本向量中经过归一化的部分进行归一化恢复;

2) 对样本向量中经过独热编码的部分进行独热编码恢复;

3) 对样本向量中经过标签编码的部分进行标签编码恢复;

(2) 对步骤(1)中得到的结果进行向量组装, 得到经过恢复后的实验样本.

在Python里, 这些恢复函数可以用各自原函数的inverse_transform方法实现. 经过恢复后的实验历史记录形如 $ ({{{\hat {\boldsymbol{x}}}}_i}, {{{\hat {\boldsymbol{y}}}}_i}) $ , 但由于 $ {{{\hat {\boldsymbol{y}}}}_i} $ 由变分自编码器生成, 并不是系统的真实响应, 实验历史记录中必须要去除这个 $ {{{\hat {\boldsymbol{y}}}}_i} $ . 最终, 由实验设计模块生成的样本记为 $ {{{\hat {\boldsymbol{x}}}}_i} $ .

依据实验设计需求, 如果实验需要做 $ k $ 次, 则需要让实验设计模块的流程进行 $ k $ 次, 生成 $ k $ 个实验样本, 这 $ k $ 个实验样本组成的集合 $ {{{{\boldsymbol{O}}}}_g} = ({{{\hat {\boldsymbol{x}}}}_1}, {{{\hat {\boldsymbol{x}}}}_2}, \cdots, {{{\hat {\boldsymbol{x}}}}_k}) $ 即为本文方法生成的实验设计方案.

2 实验设计有效性评价方法

为评价本文实验设计方法的有效性, 可用生成的实验样本和它们对应的实验响应去拟合真实复杂系统, 并评估其误差. 由于支持向量回归(support vector regression, SVR)模型^[19]在表达式形式未知和小样本的情况下具有良好的性能, 这里选用SVR来进行拟合.

SVR是支持向量机^[20]在回归问题上的应用, 将输入映射到高维空间, 并用一个或一组超平面来对样本点进行回归. 假定在高维空间中, 样本点是可以通过如下的线性函数拟合的:

$ {{\hat {\boldsymbol{y}}}} = \hat f({{{\boldsymbol{x}}}}) = {{{\boldsymbol{w}}}} \cdot {{{\boldsymbol{x}}}} + {{{\boldsymbol{b}}}} $

(9)

其中, $ {{{\boldsymbol{w}}}} $ 和 $ {{{\boldsymbol{b}}}} $ 是该线性函数的参数, SVR的损失函数可以表达成:

$ {{{L}}} ({{{\boldsymbol{y}}}}, \hat f({{{\boldsymbol{x}}}})) = {\left\| {{{\boldsymbol{w}}}} \right\|^2}/2 + C\sum\limits_{i = 1}^N {(\xi _i^ - + \xi _i^ + )} $

(10)

其中, $ C $ 是可调的超参数, $ N $ 是输入样本的数量, $ \xi _i^ - $ 和 $ \xi _i^ + $ 是松弛变量. SVR的优化目标是通过优化参数 $ {{{\boldsymbol{w}}}} $ 和 $ {{{\boldsymbol{b}}}} $ 来最小化它的损失函数, 即:

$ {{{\boldsymbol{w}}}}, {{{\boldsymbol{b}}}} = \mathop {\arg \min }\limits_{{{{\boldsymbol{w}}}}, {{{\boldsymbol{b}}}}} {{{L}}} ({{{\boldsymbol{y}}}}, \hat f({{{\boldsymbol{x}}}})) $

(11)

SVR虽然将输入样本映射到了高维空间, 但向量内积在原空间上更容易被计算出来, 因此在高维空间上的向量内积运算使用核函数技巧^[21]. 常见的核函数包括: 线性核、多项式核、径向基核和Sigmoid核.

利用SVR对实验设计评价方法如下:

首先, 在原始样本空间中采样 $ n $ 个样本点, 对每一个样本点 $ {{{{\boldsymbol{x}}}}_i} $ 实施实验, 得到真实响应为: $ {{{{\boldsymbol{y}}}}_i} $ . 将 $ {{{{\boldsymbol{x}}}}_i} $ 和 $ {{{{\boldsymbol{y}}}}_i} $ 组合得到真实样本和真实响应组合的集合 $ {{{{\boldsymbol{O}}}}_t} = (({{{{\boldsymbol{x}}}}_1}, {{{{\boldsymbol{y}}}}_1}), $ $ ({{{{\boldsymbol{x}}}}_2}, {{{{\boldsymbol{y}}}}_2}), \cdots, ({{{{\boldsymbol{x}}}}_n}, {{{{\boldsymbol{y}}}}_n})) $ , 用作测试SVR拟合效果的测试集.

然后, 对每一个待测实验设计方法 $ {E_j} $ , 令其生成含有 $ k $ 个样本的实验设计方案 $ {{{{\boldsymbol{O}}}}_{{g_{{E_j}}}}} $ , 对 $ {{{{\boldsymbol{O}}}}_{{g_{{E_j}}}}} $ 中每一个样本点 $ {{{\hat {\boldsymbol{x}}}}_i} $ 实施实验, 得到真实响应 $ f({{{\hat {\boldsymbol{x}}}}_i}) $ . 对每一个 $ {E_j} $ , 将对应的 $ {{{\hat {\boldsymbol{x}}}}_i} $ 和 $ f({{{\hat {\boldsymbol{x}}}}_i}) $ 组合而成的集合 $ {{{{\boldsymbol{O}}}}_{{s_{{E_j}}}}} = (({{{\hat {\boldsymbol{x}}}}_1}, f({{{\hat {\boldsymbol{x}}}}_1})), $ $ ({{{\hat {\boldsymbol{x}}}}_2}, f({{{\hat {\boldsymbol{x}}}}_2})), \cdots, ({{{\hat {\boldsymbol{x}}}}_k}, f({{{\hat {\boldsymbol{x}}}}_k}))) $ , 用作SVR拟合复杂系统的训练集.

对每一个 $ {{{{\boldsymbol{O}}}}_{{s_{{E_j}}}}} $ 用SVR拟合, 得到的模拟复杂系统的函数记为: $ {{{{\boldsymbol{y}}'}}_{{E_j}}} = {f'_{{E_j}}}({{{\boldsymbol{x}}}}) $ .

将测试集中每个 $ {{{{\boldsymbol{x}}}}_i} $ 带入每个模拟的复杂系统, 得到每一个 $ {{{{\boldsymbol{x}}}}_i} $ 的预测响应 $ {{{{\boldsymbol{y}}'}}_{{E_{{j_i}}}}} = {f'_{{E_{{j_i}}}}}({{{{\boldsymbol{x}}}}_i}) $ .

最后比较每种模拟的复杂系统的对测试集中所有 $ {{{{\boldsymbol{x}}}}_i} $ 的预测响应 $ {{{{\boldsymbol{y}}'}}_{{E_{{j_i}}}}} $ 和真实响应 $ {{{{\boldsymbol{y}}}}_i} $ 之间的 $ RMSE $ 、 $ MRE $ 、 $ MAE $ 、 $ {R^2} $ , $ RMSE $ 、 $ MRE $ 、 $ MAE $ 越低, $ {R^2} $ 越接近于1, 说明拟合出的模拟复杂系统更接近真实复杂系统, 即其对应的实验设计方法表现更好.

3 实验分析

本节选取了几种常用的实验设计方法作为基线, 然后介绍了所使用的复杂系统模型和实验设置. 最后通过实验得出了结果并对其进行了分析.

3.1 基线

基线实验设计选择拉丁超立方、K-means^[22]和Maximin^[23]实验设计方法与本文方法相比较, 因为它们是常用的实验设计方法且支持在连续区间内的实验取点. 上述的这些基线实验设计方法可以通过Python实验设计库doepy ( https://github.com/tirthajyoti/doepy)实现.

3.2 复杂系统模型

直航鱼雷在现代战争中是反制敌方舰船和潜水艇的有力武器, 为了能提高直航鱼雷的命中率和增加直航鱼雷的打击范围, 需要考虑多种影响直航鱼雷发射的因素, 建立直航鱼雷的命中模型并通过大量的仿真实验, 得到清晰的影响直航鱼雷的命中率和打击范围的关键因素和它们之间的关系, 从而可以为实际作战中直航鱼雷的战术运用提供指导.

本文实验选用文献[24]中的直航鱼雷命中模型作为本文实验设计方法验证的复杂系统. 直航鱼雷命中模型的响应 $ {y_Q} $ 是鱼雷命中位置与打击目标中心的相对距离(m). 该响应由以下的输入变量决定: 目标速率(节) $ V $ 、鱼雷速率(节) $ {V_T} $ 、目标距离(链) $ D $ 、目标舷角 $ X $ 、发射鱼雷的提前角 $ \varphi $ 、目标距离观测误差 $ \Delta D $ 、鱼雷航向误差角 $ \Delta \varphi $ 、目标方位角观测误差 $ \Delta \beta $ 、目标速率的观测误差 $ \Delta V $ 、鱼雷速率的观测误差 $ \Delta {V_T} $ 、目标航向角的观测误差 $ \Delta C $ .

在本文实验中, $ V = 15 $ , $ {V_T} = 50 $ , $ D = 50 $ , $X \in [ - 180, $ $ 180]$ , $ \Delta D \in [ - 15, 15] $ , $ \Delta \varphi \in [ - 3, 3] $ , $ \Delta \beta \in [ - 3, 3] $ , $\Delta V \in $ $ [ - 3, 3]$ , $ \Delta {V_T} \in [ - 3, 3] $ , $ \Delta C \in [ - 3, 3] $ . $ N\left( {\mu , \sigma } \right) $ 是均值 $ \mu $ 标准差 $ \sigma $ 的正态分布, 其中, $ X $ 服从 $ N(70, 5) $ , $ \Delta D $ 服从 $ N(0, 5) $ , $ \Delta \varphi $ 服从 $ N(0, 1) $ , $ \Delta \beta $ 服从 $ N(0, 1) $ , $ \Delta V $ 服从 $ N(0, 1) $ , $ \Delta {V_T} $ 服从 $ N(0, 1) $ , $ \Delta C $ 服从 $ N(0, 1) $ . $ \varphi $ 由输入变量 $ V $ 、 $ {V_T} $ 、 $ X $ 决定:

$ \varphi = \arcsin \left(\frac{V}{{{V_T}}}\sin X\right) $

(12)

整个直航鱼雷命中模型的方程如式(13)所示:

$ {y_Q} = 20.1168 \times (D - \Delta D)\dfrac{{\sin (\varphi - \Delta \varphi + \Delta \beta ) - \dfrac{{V - \Delta V}}{{{V_T} - \Delta {V_T}}}\sin (X - \Delta \beta + \Delta C)}}{{\sin (X + \varphi - \Delta \varphi + \Delta C)}} $

(13)

3.3 实验设置

在本次实验中, 变分自编码器的隐变量空间的维度 $ l $ 设定为256, 输入层里维度扩大的倍数 $ m $ 设定为5 000, 变分自编码器训练集 $ {{{{\boldsymbol{O}}}}_h} $ 的大小设定为1 000, 用标准正态分布随机抽样对隐变量 $ {{{\boldsymbol{{\textit{z}}}}}} $ 采样, SVR的测试集 $ {{{{\boldsymbol{O}}}}_t} $ 的大小设定为100, SVR的核函数设为线性核函数.

对每一种待测实验设计方法, 生成的实验设计方案 $ {{{{\boldsymbol{O}}}}_{{g_{{E_j}}}}} $ 的样本数大小 $ k $ 分别取5、10、15、20、25、30、35、40、45、50. 限定 $ k $ 的最大值为50, 即最多生成50个样本.

3.4 实验结果

实验结果如图5所示. 图5是不同实验设计方法在不同样本数下分别按图5(a) RMSE、图5(b) MRE、图5(c) MAE、图5(d) R²决定系数这些指标对直航鱼雷命中模型拟合效果比较的折线图.

从实验结果可以看出, 对直航鱼雷命中模型的拟合, 不论是在小样本还是在一定样本数下, 本文方法均优于K-means实验设计方法, Maximin实验设计方法与拉丁超立方实验设计方法. 只有当样本数 $ k $ 为15时, Maximin实验设计方法的 $ RMSE = 28.96 $ 、 $ MAE = 23.55 $ 与本文方法在样本数 $ k $ 为15时的 $ RMSE = 27.49 $ 、 $ MAE = $ $ 22.71 $ 相差很小, 拟合效果相近. 随着样本数 $ k $ 的增加, 本文方法的 $ RMSE $ 、 $ MRE $ 和 $ MAE $ 均能稳步减少, 当样本数 $ k $ 等于50时, 本文方法的 $ RMSE = 4.30 $ 、 $ MRE = 12.28 $ 、 $ MAE = 3.35 $ 均达到了各指标里所有实验验证结果中的最低值. 其他基线实验设计方法随着样本数 $ k $ 的增加, 虽然它们的 $ RMSE $ 、 $ MRE $ 和 $ MAE $ 总体也是呈下降的趋势, 但并不稳定, 有可能会在局部产生不降反升的情况, 这也意味着本文方法不同于其他基线实验设计方法, 随着样本数 $ k $ 的增加并不会让SVR显著的产生过拟合. 从 $ {R^2} $ 决定系数上看, 在小样本情况下, 本文方法的 $ {R^2} $ 决定系数稍稍大于0, 其他基线方法的 $ {R^2} $ 决定系数均小于0, 它们的预测响应均和真实响应的相关性很差, 当样本数 $ k $ 增加时, 本文方法和基线实验设计方法均能提高它们的 $ {R^2} $ 决定系数并使它们最终都可以大于0, 但只有本文方法的 $ {R^2} $ 决定系数最终可以达到0.7以上, 即预测响应和真实响应高度相关, 在样本数 $ k $ 为50时, 本文方法的 $ {R^2} $ 决定系数更是高达0.98.

表1是各个实验设计方法的指标在低于或高于特定值时最少所需的样本数 $ k $ . 表1中的未达到表示在最多取50个样本的情况下, 指标仍然未低于或高于所要求的特定的数值. 由表1可知, 本文方法总能以最少的样本量获得最佳的实验结果, 即说明本文的方法和其他基线方法相比是最高效的.

综上所述, 本文实验设计方法可以提高在复杂系统中的实验设计效率, 在拟合复杂系统时, 本文实验设计方法随着样本数的增加也不会产生显著的过拟合, 即使在小样本的情况下, 本文方法也能得到比较优秀的实验设计方案.

4 结论

本文为解决复杂系统实验设计中非线性、不确定性、高相关性和规模性导致的维度灾难问题, 提出了一种基于变分自编码器的复杂系统实验设计方法. 首先, 给出了基于变分自编码器的复杂系统实验设计方法的总体结构, 详细介绍了每个子模块的目的和它们的功能, 并给出了评价实验设计优劣的方法. 然后, 本文通过对实际的直航鱼雷命中模型的拟合, 对本文方法、拉丁超立方、K-means和Maximin实验设计方法进行了比较实验. 最后, 得出了本文方法可以提高复杂系统实验效率的结论.