随着时代飞跃的发展和提高, 人们的生活水平越来越好, 城市的扩张, 以及工业化的腾飞, 对环境的影响是越来越大. 人们慢慢将环境资源的可持续发展作为茶余饭后的话题^[1], 尤其是人类生存所必须的水资源, 水资源中的污染物浓度值亦不可忽视, 污染物个数多达数十种. 因此, 伴着社会的发展, 水环境质量的分析, 是完成环境与经济的可持续发展的重要工作. 相关部门对水资源的管理和监测也越来越重视, 对各个流域的水质有着周期性的监测, 但随着环境质量的变化, 水质也会跟随着变化, 主要体现在: (1) 比如扩建, 那原地点的水质就会发生改变. (2) 比如某一处土地集中进行绿化, 那么土壤的质量必然会随着变化, 这就必定导致水质量的变动. 所以各个流域监测点位都是要随着时间, 伴着周围环境质量和土壤的质量的变化而变化的. 那么就必然涉及到点位优化的进行. 这对实时监测水质最新的动向很有意义, 也让把控着水质的动向, 对水资源更好的治理和监测^[2].

水质监测过程中, 点位越多, 收集的信息就越多, 越能详细反映出水中污染物的真实状况. 然而, 碍于监测所需要的人力、资金、设备等成本的限制, 无法对区域水质进行全面, 无死角的布点监测. 因此, 为了能得到具有代表性又具有经济性的监测点位, 就需要对大气监测点进行优化处理. 本文就是采用auto-encoder结合聚类进行水质监测的点位优化. 遵循了监测点位优化的宗旨: 以尽量少的数据, 尽可能的代表全部的监测点位的数据.

1 研究方法

根据要优化监测点位这一目的, 选用了聚类方面的算法, 由于是运用在水质监测方面, 那么选取了适用于水质、地质、农业、天气方面的聚类算法. 由于样本中高纬度的数据特征, 存在各种噪声, 如果不先剔除掉多余的特征和噪声, 模型的效果会受到很大影响, 但是如果只是单纯的剔除某些特征, 那么就会把特征之间的联系给抹掉, 聚类的结果不理想. 为了解决此问题, 本文采用了在聚类之前, 先用神经网络降维的方法进行特征降维, 将样本中原有的特征降维, 重新生成一个更低维度的新样本^[3-6]. 但同时特征降维涉及到有效数据的完整性, 对于高纬度的水质监测点位数据, 需要将有效的数据保存到降维后的数据中, 剔除无效的数据. 由于数据样本不需要进行标记, 这里采用了无监督学习的auto-encoder神经网络^[7-9]. 对于水质点位监测的数据, 传统的PCA方法因为其线性降维, 另外PCA方法更依赖初始的数据, 不能很好的保留有效信息的完整性, 相对来讲, 自编码器可以学习非线性关系, 有效数据的保留更加充分, 同时剔除无效的数据, 泛化能力更强. 图1为研究方法的整体流程图.

1.1 自编码器auto-encoder神经网络

Auto-encoder是神经网络的一种, 也是最常见的深度学习算法之一^[10-13], 其结构如图2所示. Auto-encoder主要被用来降维和特征提取, 另外该神经网络属于无监督学习, 不需要标记训练数据, 这也是本文采用此种方法的原因^[14].

自动编码器包括三层神经网络, 第一部分是输入层, 第二部分是隐藏层, 隐藏层可以为多层, 第三部分是输出层, 输入层n个神经元对应样本中的特征, 隐藏层k(k<n)个神经元是所需要降到的维数, 输出层是和输入层结构完全一致. 从输入层到隐藏层的传递叫编码过程, 提取特征, 压缩数据的维度, 从隐藏层到输出层的传递叫解码过程, 从而进行数据的重构, 通过重构的数据和输入的数据之间的误差来更新各层之间的权重和偏置, 为的是让输出层尽量和输入层一致. 通过函数表达式来表示, 由两部分组成, 一个编码器hide=f(input), 一个解码器output=g(hide), 最后使得input约等于g(f(input)).

输入层节点 ${a^1} = \left\{ { a_1^1,a_2^1, \cdots ,a_n^1} \right\}$ 为 $n$ 维向量 ${a^1}$ , 隐藏层节点 ${a^2} = \left\{ { a_1^2,a_2^2, \cdots ,a_m^2} \right\}$ 为m维向量 ${a^2}$ , 输出层节点 ${a^3} = \left\{ { a_1^3,a_2^3, \cdots ,a_n^3} \right\}$ 为n维向量 ${a^3}$ , 权重矩阵为 ${W_{ij}}$ (表示输入层第 $i(1,2, \cdots ,n)$ 个节点到隐藏层第 $j(1,2, \cdots ,m)$ 个节点的权重), ${b^2}$ 表示隐藏层的偏置参数, ${b^3}$ 表示输出层的偏置参数. 隐藏层到输出层的权重矩阵是 ${W_{ij}}$ 的转置矩阵 $W_{ji}^{\rm{T}}$ .

输入层和隐藏层之间计算:

${Z^1} = {a^1}{W_{ij}} + {b^2}$

(1)

$a_j^2 = f\left( {{Z^1}} \right)$

(2)

在隐藏层和输出层之间计算:

${Z^2} = {a^2}W_{ji}^{\rm{T}} + {b^3}$

(3)

$a_i^3 = f\left( {{Z^2}} \right)$

(4)

其中, f是激活函数, 本文选择Sigmoid激活函数:

$f\left( x \right) = {1 / {\left( {1 + {e^{ - x}}} \right)}}$

输出层 ${a^3}$ 各个节点值和输入层 ${a^1}$ 的各个节点值存在很大误差. 为了让输入层和输出层尽量一致, 利用反向传播算法, 通过输入层和输出层产生的误差来更新各层之间的权重矩阵 ${W_{ij}}$ 、 $W_{ji}^{\rm{T}}$ 和隐藏层、输出层的偏置 ${b^2}$ 、 ${b^3}$ . 此神经网络用到的是BP算法, 思想是采用的梯度下降的算法, 即微积分的链式偏导的传递求值^[15]. 本文所采用的梯度下降算法: 每次只选n个样本中的一个样本进行梯度下降, 每次更新需要的时间少, 由于水质监测点位本身并不多, 所以迭代至收敛的次数可以容忍, 另外适当的学习速率可以平衡训练的速度和收敛到最优点的稳定性. 对于水质点位监测的数据, 单隐层的自编码器模型易理解, 训练成本不高, 无论是在计算成本还是精度方面, 自编码器都是可行的. 本文选用简单的单隐层自编码器, 相对于堆叠式的自编码器, 不容易发生梯度弥散和梯度爆炸.

取误差公式:

$E = \frac{1}{2}\sum\limits_{i = 1}^n {{{\left( {a_i^1 - a_i^3} \right)}^2}} $

记 $ a_i^1 - a_i^3 = {\ell _i}$ , 有:

$E = \frac{1}{2}\sum\limits_{i = 1}^n {{\ell _i}^2} $

(5)

对权重进行链式求导并更新:

$\left\{ \begin{split} \dfrac{{\partial E}}{{\partial {W_{ji}}}} = &\dfrac{{\partial a_i^3}}{{\partial {W_{ji}}}} \cdot \dfrac{{\partial {\ell _i}}}{{\partial a_i^3}} \cdot \dfrac{{\partial E}}{{\partial {\ell _i}}}\\ {W_{ji}} = &{W_{ji}} + \eta \left( { - \dfrac{{\partial E}}{{\partial {W_{ji}}}}} \right)\\ {W_{ji}} =& {W_{ji}} + \eta {a^2}{\ell _i} \end{split}\right. $

(6)

由于输入层到隐藏层的权重参数矩阵和隐藏层到输出层的权重参数矩阵互为转置关系, 因此, 只需要把后者的权重转置赋值到前者.

对偏置 ${b^3}$ 进行链式求导并更新:

$\left\{ \begin{split} \dfrac{{\partial E}}{{\partial {b^3}}} =& \dfrac{{\partial E}}{{\partial {b^3}}} \cdot \dfrac{{\partial {\ell _i}}}{{\partial {a^3}}} \cdot \dfrac{{\partial E}}{{\partial {\ell _i}}}\\ {b^3} =& {b^3} + \eta {\ell _i} \end{split}\right. $

(7)

对偏置 ${b^2}$ 进行链式求导并更新:

$\left\{ \begin{split} \frac{{\partial E}}{{\partial {b^2}}} =& - {a^2}\left( {1 - {a^2}} \right) \cdot \sum\limits_{i = 1}^n {{W_{ji}} \cdot {\ell _i}} \\ {b^2} =& {b^2} + \eta {a^2}\left( {1 - {a^2}} \right)\sum\limits_{i = 1}^n {{W_{ji}} \cdot {\ell _i}} \end{split}\right. $

(8)

式中, $\eta $ 是学习速率.

整个auto-encoder算法伪代码如算法1.

算法1. Auto-encoder

1. 初始化auto-encoder中各层之间的连接权重、偏置和学习速率.

2. for all 数据集中每一个样本do

3. 　　while (对于当前样本) do

4. 　　　根据式(1), 式(2)计算隐藏层的输出值;

5. 　　　根据式(3), 式(4)计算输出层的输出值;

6. 　　　根据式(5)计算输入层和输出层的误差;

7. 　　　if (达到停止条件)

8. 　　　　　break;

9. 　　　else if

10. 　　　　　根据式(6)~式(8)更新权值和偏置;

11. 　　　end if

12. 　　end while

13. end for

14. 得到更新所有样本之后最新的权值和偏置;

15. for all 数据集中每一个样本 do

16. 　根据式(1), 式(2)计算隐藏层的输出值;(此步骤, 特征提取并降维)

17. 　将降维后的新样本存入文件中保存;

18. end for

1.2 聚类分析

本文采用聚类中的系统聚类方法对上述神经网络降维的数据样本进行分类. 对于没有预先处理的水质点位监测数据, 模糊聚类算法是最适合的. 但是由于数据及预先用神经网络进行了降维处理, 特征数量减少, 原本监测点位有限, 因此本文选用了适用于少量特征、少量点位的系统聚类法, 并且运行速度有一定的提升. 首先, 将类别分为n类, 即每个监测点位分为一类, 计算各类之间的距离, 找出所有类间距中的最短距离的两个类, 并合并他们为一个新类, 重新计算 $n - 1$ 个类的类间距, 找出最短距离并归类, 直到所有类都归为一类^[16].

欧式距离公式为:

$dist(X,Y) = \sqrt {\sum\limits_{i = 1}^n {{{({x_i} - {y_i})}^2}} } $

系统聚类算法伪代码如算法2.

算法2. 系统聚类算法

1. 将降维后的数据样本分为 $\scriptstyle n$ 类

2. for all类别do

3. 　　计算类间距;

4. 　　找出类间距中的最短间隔距离;

5. 　　找到最短间隔的两个类, 合并他们;

6. 　　合并之后新的类别数目为 $\scriptstyle n = n - 1$ ;

7. 　　if ( $\scriptstyle n = 1$ )

8. 　　　break;

9. end for

2 实验分析

本文数据集来源为某市实时监测的各个断面的水质污染物浓度值.

2.1 数据预处理

首先对数据进行预处理, 将数据映射到 $\left( {0,1} \right)$ 之间, 即标准化处理, 公式如下:

${x_{\rm norm}} = \frac{{x - {x_{\min }}}}{{{x_{\max }} - {x_{\min }}}}$

其中, ${x_{\rm norm}}$ 表示标准、归一化处理后的数据, x表示原数据, ${x_{\min }}$ 表示的是所有监测点位中每个污染物的最小浓度值, ${x_{\max }}$ 表示的是所有监测点位中每个污染物的最大浓度值.

2.2 实验过程

实验过程如图1所示, 将标准化、归一化处理后的数据输入自编码器神经网络, 初始化各层之间的权重参数, 初始化隐藏层和输出层的偏置参数, 开始训练. 将自编码器神经网络降维后的新数据样本聚类分析, 产生点位优化的结果.

2.3 评价指标

本文首先检验原点位与优化后的点位之前的相关性, 在给定 $\alpha = 0.05$ 显著性程度, $f = n - 2 = 3$ , 查表 $ {r}_{{\text{表}}}= 0.878$ , $ {r}_{{\text{计}}}>{r}_{{\text{表}}}$ , 相关性结果如表1.

为进一步验证, 本文采用F检验法—方差齐性检验和t检验法验证原点位与优化后的点位之间所监测的数据是否具有一致性. 结果如表2. 所采用的公式为:

$ \left\{ \begin{split} &{S}_{{\text{合}}}=\sqrt{\frac{\left({n}_{1}-1\right){S}_{1}^{2}+\left({n}_{2}-1\right){S}_{2}^{2}}{{n}_{1}+{n}_{2}-2}}\\ &t=\frac{{\overline{x}}_{1}-{\overline{x}}_{2}}{{S}_{{\text{合}}}}\cdot \frac{n}{2} \end{split}\right.$

为了进一步验证优化后的点位选择更加精准, 本文通过姚式指数公式同时计算优化后与优化前的水质量指数和原点位的水质量指数进行比较. 结果如表3,公式如下:

$I = \sqrt {\max \frac{{{C_j}}}{{{S_j}}} \cdot \left[ {\frac{1}{m}\sum\limits_{j = 1}^m {\frac{{{C_j}}}{{{S_j}}}} } \right]} $

2.4 结果分析

根据神经网络降维结合聚类所产生的点位选择结果如图3.

如图3所示, 神经网络降维结合聚类的算法选出了从9个监测点位中选出了5个监测点位. 而原本单独使用的模糊聚类算法选出的是6个监测点位. 根据表1所示的相关性检验, 表明原点位与优化后的各污染物浓度密切相关, 无明显差异性. 根据表2结果, 进一步证实了原点位和优化后点位各污染物这两组数据评价结果一致, 表明优化后的点位可以替代原点位. 根据表3结果, 表明本文所选的点位优化算法所产生的5个点位的质量指数, 比模糊聚类算法产生的6个点位更接近原本的9个点位的质量指数. 综上所述, 本文所选算法所产生的点位更能代表全部的9个监测点位.

3 结论

本文针对水质点位优化提出了一种神经网络结合聚类的点位优化算法, 通过神经网络对数据进行降维处理, 并通过系统聚类的方法选出合适的点位. 本文所提出的方法相较于单一的聚类方法, 减少了点位的选择, 并且提高了点位选择的准确性, 实现了以尽量少的点位, 保证数据的代表性.