近年来, 空气质量成为人们越来越关心的问题, 大气污染物浓度预测对于预防地区污染具有重要的意义. 区域内的污染物浓度预测,可以对区域空气质量的微变化及时做出响应. 污染物的预警对于区域可持续发展具有十分重要的作用, 可为政府决策制定、环境监管^[1-3]执行提供技术支持, 因此研究污染物预测工作具有重要意义.

现阶段对于污染物预测的研究包含数值模拟及统计计算两部分. 数值模拟^[4,5]方法充分研究污染物在大气中的迁移变化, 预测的精确度较高. 但在预测过程中需要收集复杂的物化数据, 计算过程冗杂, 且需应用气象、物化等多学科知识, 预测工作较为繁琐; 统计计算为污染物预测工作提供了广泛思路, 可应用各种神经网络模型进行污染物预测工作^[6,7], 通过对神经网络模型的构建及统计计算可以实现简易精确的预测. 然而当前神经网络预测模型多为前馈型神经网络, 其输出结果仅与当前输入有关, 无法研究污染物数据前后依赖关系, 因而需构建一种可以对前后依赖序列数据进行预测的模型. 且由于多种污染物具有相同排放源, 所以多个污染物间往往存在潜在关联关系, 使得一种污染物浓度的变化可反映出其他污染物浓度变化情况, 以往预测方法中, 无论数值模拟还是统计计算均未考虑应用污染物间关联关系进行预测工作.

针对上述两个问题, 本文充分考虑LSTM神经网络在处理时间序列数据前后依赖关系的优势, 应用待预测污染物及其敏感参数之间的关联关系, 实现区域污染物的浓度预测工作. 本文将关联规则算法^[8,9]与多元回归分析^[10,11]结合应用, 发现待预测污染物的敏感参数, 在此基础上构建LSTM模型, 将待预测污染物及其敏感参数, 全部作为LSTM预测模型的输入变量, 从而更加准确的实现对各种重点污染物浓度的预测.

1 相关工作

当前污染物浓度分析预测方法主要有机理类与非机理类两个方向. 机理类方法中数值模拟^[1,2]涉及复杂物化流程, 需要建立完整的污染物扩散过程相关物化模型^[12], 将污染物的排放、扩散、迁移、转化过程使用复杂的偏微分方程来解析, 通过展示模式得到空气污染物浓度的空间分布及变化趋势.

非机理类方法对污染物排放的复杂机理过程不做过多要求, 主要是基于历史数据应用统计学方法构建神经网络预测模型^[3,4]. 孙宝磊等^[13,14]建立BP预测模型对污染物的日均浓度进行预测, 通过对模拟输出值和期望输出值误差的迭代计算调整, 使BP神经网络预测输出不断逼近期望输出, 直至误差满足要求. 方彦^[15]构建RBF神经网络模型, 基于历史数据作为训练样本构建模型并以同期数据作为测试样本, 并选取2018年同期数据作为测试样本对区域污染物进行预测. 郭晓君等^[16,17]基于GM(1, 1)模型、Verhulst模型和 SCGM(1, 1)模型建立组合灰色预测模型, 运用预测有效度方法确定组合预测模型的权重系数, 利用模型预测污染物排放量, 通过灰色系统GM(1,1)残差修正模型对大气污染物浓度进行预测. 支持向量机在大气污染物浓度预测方面也有应用^[18-21], 在对各类影响因子进行分析的基础上进行建模预测, 利用PCA方法对输入因子降维形成支持向量机的训练样本集, 建立大气污染预模型. Haewon等通过构建聚类回归模型^[22-24]进行污染物浓度预测, 根据气象要素与污染物浓度数据资料, 分析天气变化规律, 挖掘若干种天气类型, 并分析各种天气类型的典型参数, 将这些参数与相应的环境质量实测数据通过回归分析^[25-27]建立定量关系, 根据定量关系进行污染物浓度预测. 杜续等^[28]针对神经网络算法在当前污染物浓度预测领域存在的易过拟合、网络结构复杂、学习效率低等问题,引入随机森林回归算法,分析气象条件、大气污染物浓度和季节所包含的多项特征因素, 通过调整参数的最优组合, 设计出一种新的污染物浓度预测模型—RFRP模型. 马天成等^[29]采用一种改进型PSO优化的模糊神经网络,将粒子群算法与模糊神经网络进行融合,发挥PSO算法全局寻优的特点,预测污染物浓度的变化规律.

在污染物预测领域, 机理类方法预测过程较为复杂, 需要综合污染物迁移过程中各种物化因素, 因此机理类方法通用性较低. 在以往非机理类模型中, 前馈型神经网络未考虑时间序列依赖关系. 以上两种方法均未考虑污染物间关联关系的影响, 准确性有待提高. 因此, 本文充分考虑污染物间的具有关联关系的特点, 以此为基础建立基于敏感参数发现的LSTM预测模型^[30-33]的污染物预测模型, 应用待预测污染物及其敏感参数的关联关系来提高模型的预测精确度.

2 区域重点污染物浓度预测方法

在现实情况中, 由于污染源并非排放单一类型的污染物, 多种污染物具有相同排放源, 污染物间往往存在潜在关系, 一种污染物的变化可能反映另一种污染物变化, 所以在污染物浓度预测工作中可应用污染物间的关系进行预测, 即需考虑待预测污染物敏感参数这一影响因素. 基于上述问题, 本文将污染物预测工作分为两阶段进行.

(1) 基于关联规则与多元回归分析的敏感参数发现方法. 在该方法中, 首先应用关联规则算法对污染物数据集进行关联关系发现, 初步挖掘出各污染物的敏感参数. 再应用多元回归分析实现各污染物间相关性分析, 将各污染物的相关性分析结果与关联性分析结果取交集, 保留二者共同部分, 保证敏感参数发现的完备性与准确性, 并通过对比试验验证了敏感参数的有效性. 最终实现各污染物敏感参数的发现, 为后续污染物预测工作的开展奠定基础.

(2) 基于敏感参数发现的污染物预测方法. 由于污染物数据存在时间序列上的前后依赖关系, 将待预测污染物及其敏感参数作为预测模型特征变量, 实现污染物浓度预测工作. 在该部分工作中, 通过对现有的LSTM预测模型的改进完成污染物浓度预测工作.

2.1 基于关联规则的重点污染物关系发现

本文采用关联规则算法进行污染物间关联性关系发现. 针对污染物参数数据, 首先对污染物参数值分区间处理, 依据污染物数值最小值及最大值对参数数据三等分. 例如SO₂用S表示, 分为S₁、S₂、S₃. S₁表示SO₂浓度很小, S₂表示SO₂浓度中等, S₃表示SO₂浓度大. O₃用O表示, NO₂用N表示, CO用C表示, PM_2.5用P表示, PM₁₀用M表示. 其中, 参数程度词的等级越高代表的值越大.

(1) 首先基于式(1)计算每个参数程度词集的支持度.

$S(l) = \frac{{{N_l}}}{N} \times 100{\text{%}} $

(1)

其中, $ S\left(l\right) $ 表示参数程度词 $ l $ 的支持度, $ {N}_{l} $ 表示参数程度词 $l$ 在所有污染物参数数据中出现的总次数, $N$ 表示污染物参数数据集的数据量, 支持度反映了污染物程度词 $l$ 在数据集中出现的频次, 支持度越大表示程度词 $l$ 出现得越频繁. 此处设置一个支持度阈值 ${S_T}$ , 支持度大于支持度阈值 ${S_T}$ 的程度词 $ l $ 集合记为一项频繁项集 ${L_1}$ .

(2) 不断迭代使用上一次得到的(k−1)项频繁项集, 计算频繁项集中参数程度词的支持度, 保留满足支持度阈值 ${S_T}$ 的参数程度集, 产生新的候选k项频繁项集 ${L_k}$ , 直到没有新的频繁项集产生.

(3) 获取k项频繁项集 ${L_k}$ 的关联规则 ${L_s} \to {L_{{{k - s}}}}$ , 其中, ${L_s}$ 表示由s个参数程度词组成的程度词集, ${L_{{{k - s}}}}$ 表示去掉 ${L_k}$ 中s个参数程度词剩余的程度词组成的程度词集.

(4) 计算每个候选关联规则的置信度, 置信度的计算公式如式(2).

$C(X \to Y) = \frac{{{N_{XY}}}}{{{N_X}}} \times 100{\text{%}} $

(2)

其中, X与Y表示两个程度词集, $C(X \to Y)$ 表示程度词集X到程度词集Y的置信度, ${N_{XY}}$ 表示程度词集X与程度词集Y同时在全体数据集中出现的次数, ${N_X}$ 表示程度词集X在全体数据集中出现的次数. 置信度以条件概率的方式反映了两个程度词集同时出现的概率, 置信度越高表示两个程度词集同时出现的概率越高.

(5) 设置一个置信度阈值 ${C_T}$ , 当一个项集内所有子集之间的置信度都满足置信度阈值 ${C_T}$ 时, 则认为该项集内的所有程度词之间具有较强的关联性, 并留下这样的项集, 保留到关联规则集中.

2.2 基于多元回归分析的污染物相关性分析

针对污染物指标数据, 应用回归分析中的相关系数法获取各个污染物指标之间的相关系数, 发现各个污染物指标之间的相关性程度, 综合污染物间关联规则进一步发现污染物间关系.

回归分析使用相关系数来度量污染物指标之间线性相关关系. 其定义如式(3)所示.

$ V=\frac{{{n}}{\displaystyle \sum xy-{\displaystyle \sum x{\displaystyle \sum y}}}}{n\left({\displaystyle \sum {{x}}^{2}-{\left({\displaystyle \sum x}\right)}^{2}}\overline{n\left({\displaystyle \sum {{y}}^{2}-{\left({\displaystyle \sum y}\right)}^{2}}\right)}\right)}$

(3)

求得两污染物指标相关系数后, 应用T检验判断自变量X中影响因子对因变量Y的影响显著性程度, T统计量计算公式如下:

$t = \frac{{\overline {{x_{l1}}} - \overline {{x_{l2}}} }}{{\sqrt {\dfrac{{{{\left( {{\sigma _{xi}}} \right)}^2} + {{\left( {{\sigma _{xi}}} \right)}^2} - 2\gamma {\sigma _{xi}}{\sigma _{xi}}}}{{n - 1}}} }}$

(4)

其中, $\overline {{x_{l1}}}$ , $\overline {{x_{l2}}}$ 分别为两污染物指标样本的平均数, ${\sigma _{xi}}$ , ${\sigma _{xi}}$ 分别为两污染物指标样本的方差, $\gamma $ 为相关指标样本的相关系数.

根据t检验表, 查得显著水平 $ \alpha $ 的临界值 ${{{t}}_\alpha }$ . 若 ${{t}} > {{{t}}_\alpha }$ , 则拒绝原假设, 说明两指标间具有较强相关性; 否则, 说明两指标间相关性不强.

2.3 基于LSTM的重点污染物预测模型

本文在进行污染物预测研究时充分考虑污染物敏感参数及时间序列关系, 通过对LSTM预测模型进行改进, 实现污染物预测工作. 本文预测工作的改进主要有以下两点:

(1) 模型预测参数及输入特征的选择. 在模型构建之前引入参数choose_target来进行待预测污染物的选择, choose_target取值为0–5, 分别代表SO₂、NO₂、PM₁₀、PM_2.5、O₃、CO 六种污染物, 选择不同参数值即对不同污染物预测, 例如choose_target=3则代表此时的待预测污染物为PM_2.5. 设置参数needed_target来进行待预测污染物输入特征的选择, needed_target取值同样为0–5. 例如needed_target = [0, 1, 2]则代表此时预测模型输入特征为SO₂、NO₂、PM₁₀.

(2) 本模型在预测过程中采用了滚动预测的方式. 采用“早停止”策略判断模型收敛性, 首先将污染物输入特征数据输入到模型进行浓度预测, 得出未来一天的污染浓度数据并记录; 然后将实际输出结果加入下一条样本的污染物浓度特征中, 与其他敏感参数特征共同作为训练样本再次预测未来一天的污染浓度数据, 依次类推, 得到预测结果.

基于LSTM重点污染物预测模型框架如图1所示.

本文使用Keras深度框架构建LSTM模型. 预测模型的构建流程包括以下4个步骤.

(1) 构建模型

本预测模型包含一个LSTM神经网络层和一个全连接层, 两层之间顺序连接. 首先设置LSTM神经网络层: 一种污染物具有n个敏感参数, 则训练集特征数为n+1, 因此模型的输入层特征维度设置为n+1, 并设置时间步长及循环神经网络结构内部Sigmoid层和tanh层的神经元数量, 最后设置预测模型输出层, 用于输出污染物预测结果.

(2) 模型参数设置

本模型采用均方误差作为模型的损失函数, 采用Adam优化算法作为模型优化器, 在模型训练过程中设置每次迭代训练的样本数据量、训练轮数、模型学习率.

(3) 模型预测过程

模型采用滚动预测的方式, 首先将污染物输入特征数据输入到模型进行浓度预测, 得出未来一天的污染浓度数据并记录; 然后将实际输出结果加入下一条样本的污染物浓度特征中, 与其他敏感参数特征共同作为训练样本再次预测未来一天的污染浓度数据, 依次类推, 得到预测结果.

(4) 模型评价

用式(5)计算各污染物指标预测数据与真实数据间均方根误差 ${RMSE}$ .

$RMSE = \sqrt {\frac{1}{n}\sum\limits_{i = 1}^n {{{\left( {\frac{{{x_i} - {{\hat x}_i}}}{{{x_i}}}} \right)}^2}} } $

(5)

其中, ${x_i}$ 为第i个数据点污染物指标浓度的实测值, ${\hat x_i}$ 为第 $ i $ 个数据点污染物指标浓度的预测值, n为数据长度.

2.4 基于敏感参数发现的污染物浓度预测方法描述

(1) 对原始环保监测数据进行数据清洗、去除无用数据、数据标准化等操作得到预处理后的数据集.

(2) 扫描预处理后环保监测数据集, 得到满足支持度阈值 $ {S}_{T} $ 的k项频繁项集, 基于k项频繁项集组合得到候选关联规则集, 将所有满足置信度阈值 $ {C}_{T} $ 的污染物间关联规则加入关联规则集.

(3) 再次扫描环保监测数据集, 得到污染物两两之间的相关系数, 保留相关系数大于0.5的污染物关系, 将各污染物的相关性分析结果与关联性分析结果取交集, 保留二者共同部分, 实现污染物的敏感参数发现工作.

(4) 综合(2)(3)所发现的各污染物的敏感参数, 以与待预测污染物及其敏感参数作为预测模型输入变量, 实现对污染物的浓度预测.

3 实验结果与分析 3.1 实验数据

本实验使用区域内8个环保监测点所得的环保监测数据, 实验数据共有209 340条数据.

3.2 数据预处理

本实验数据预处理操作包含数据清洗及数据标准化. 首先对数据进行数据清洗, 去除异常数据点及空白数据、重复数据. 其次, 进行数据标准化操作, 针对清洗后数据采用式(6)进行标准化操作.

${\textit{z}} = \frac{{x - {\rm{\mu}} }}{{\rm{\sigma}} }$

(6)

其中, x为数据清洗后的环保监测数据, $\;{\rm{\mu}} $ 为所有样本数据的均值, ${\rm{\sigma}} $ 为所有样本数据的标准差.

3.3 重点污染物关系发现 3.3.1 污染物间关联分析

设置支持度5%, 置信度60%, 通过污染物指标间关联规则挖掘, 得到污染物指标间的关联规则集, 可初步挖掘出污染物间的关联关系, 结果如表1所示.

3.3.2 污染物间相关性分析

为进一步发现污染物指标间的相关性, 对污染物指标进行相关性分析, 结果如表2所示.

当相关系数大于0.5则两种指标相关性较强, 综合表1与表2结果, 污染物间关系发现结果如表3所示.

3.4 重点污染物预测结果及评估 3.4.1 基于敏感参数发现的LSTM污染物预测

针对关联规则算法与多元回归分析挖掘的污染物关系, 预测模型构建时, 对SO₂的预测输入变量设置为SO₂; 对NO₂的预测输入变量为NO₂、CO、O₃; 对CO的预测输入变量为CO、NO₂、PM₁₀、PM_2.5; 对O₃的预测输入变量为O₃ 、NO₂; 对PM₁₀的预测输入变量为PM₁₀、CO、PM_2.5; 对PM_2.5的预测输入变量为PM_2.5、CO、PM₁₀. 将数据预处理后的数据集中的后600条数据作为测试集数据, 其余作为训练集数据, 并将训练集中10%的数据作为验证集数据. 采用前24个时刻的污染物浓度数据对下一时刻污染物浓度数据进行预测, 时间步长设置为24, 每次迭代训练的样本数据量设置为96, 将学习率设置为0.0001, 训练轮数次数设置为50, 隐藏层神经元数量设置为256.

如果模型两次迭代之间损失值变化已经很小, 那么说明模型收敛, 可以结束训练. 因此, 为验证本文模型的收敛性, 引入“早停止”策略. 当验证集与训练集上模型损失已不再变化时, 无论是否达到所设置的迭代次数, 均停止模型训练.

本文模型构建之初迭代次数设置为50次, 但是由图2所知, 当模型迭代次数为16次时, 模型已达收敛, 所以此时停止模型训练, 以减少模型损耗提高训练性能.

为检验和说明本文提出模型的预测性能, 将本文污染物预测模型与未经敏感参数发现的LSTM模型进行对比预测. 对比结果如图3–图12所示.

图3–图12中, Forecast-model1为经敏感参数发现的LSTM预测模型结果; Forecast-model2为未经敏感参数发现的预测模型结果; Real_data为污染物真实值. 可以看出, 本文模型预测效果优于未经敏感参数发现的对比模型, 能够较好地跟踪各种污染物浓度变化趋势, 并响应其波动变化, 实现相对精确的预测.

3.4.2 污染物预测对比评估结果

根据SO₂、NO₂、CO、O₃、PM₁₀、PM_2.5 六种污染物预测值与真实值情况, 两种污染物预测模型误差对比情况如表4所示.

由图3–图14及表4所知, 经污染物敏感参数发现的预测模型拟合效果与预测误差均优于对比模型. 由此, 证实了本文预测模型预测效果优于未经敏感参数发现的LSTM模型.

4 结语

本文提出了一种基于敏感参数发现的区域重点污染物浓度预测方法. 该方法主要包含3个模块, 即数据预处理模块、重点污染物敏感参数发现模块、污染物预测模块. 其中, 在数据预处理模块主要是针对将原始数据进行数据清洗、数据标准化操作. 在重点污染物敏感参数发现模块对环保监测数据应用关联规则算法、多元回归分析挖掘出各污染物的强相关污染物, 为预测模型构建时输入变量的设置提供依据. 在污染物预测模块构建LSTM污染物预测模型, 基于挖掘所得各污染物间的敏感参数设置输入变量, 使用均方根误差评估模型性能, 证实本文模型较之以往未经污染物间关系发现的LSTM模型精确度较高. 可有效实现环境污染预测完成由“滞后”到“超前”的转变. 本文虽已实现重点污染物的预测, 但是重点污染物的追踪工作同样是环保监测的重点工作, 因此, 下一步将研究重点污染物的溯源追踪工作, 即依据污染物历史数据及各行业企业排污数据查清重点污染物的排放源头, 从而与污染物预测共同为环保监测工作提供技术支撑.