2. 山东石油化工学院 石油工程学院, 东营 257061
2. Petroleum Engineering College, Shandong Institute of Petroleum and Chemical Technology, Dongying 257061, China
随着油气开发持续推进, 常规油气藏逐渐减少, 非常规油气藏的开发日益重要. 在这种情况下, 传统的电缆测井技术已经不能完全满足油气开发的需求, 随钻测井技术逐步成为测井工程中一种重要方法[1]. 随钻测井技术可以实时、准确地测量地层的电阻率特征[2], 并且能够通过地质导向功能对钻进轨迹实时控制, 提高钻井效率和钻遇率[3,4].
随钻电磁波电阻率测井技术是随钻测井技术的核心. 它可以在钻井的同时测得地层的视电阻率数据, 这些数据能够真实地反应地层的地质特征. 但是, 原始测量数据无法直接获得地层的电阻率以及仪器距离上下地层的距离[5], 需要对原始数据进行反演处理才能得到这些信息. 准确、快速地反演随钻测井数据, 对于指导钻具在储层中准确移动, 并进一步提高油气采收率具有重要意义[6,7].
常用的随钻测井资料反演方法为非线性迭代反演方法, 如高斯-牛顿法(Gauss-Newton)[8]、阻尼最小二乘法(Levenberg-Marquarat)[9,10]等. 杨震等[11]使用拟牛顿法来进行随钻测井数据的研究, 并进行现场实验验证可行性; Wang等[12]使用正则化的Levenberg-Marquarat最小化方法来进行随钻测井数据的反演. 迭代反演因需设置反演的初始模型与过多的迭代次数的原因, 会导致反演结果不稳定与计算效率低的问题[13].
综合多种测井曲线进行解释是一个非线性问题, 而传统方法在处理多变量之间的非线性关系时存在一定的局限性. 深度学习在处理非线性数据问题上展示了其巨大的优势, 解决了传统方法依赖初始模型的弊端, 已经在地球物理反演和随钻测井数据反演方面得到了广泛的应用. 在地球物理反演方面: Moghadas[14]提出一种基于卷积神经网络(CNN)的反演方法从电磁感应数据中估计地下电导率分层. Sun等[15]开发了一种理论设计的递归神经网络(RNN)使用测量的地震数据进行地震全波形反演. Puzyrev[16]提出了一种基于全卷积架构的深度神经网络反演方法, 使用全三维模拟的大型合成数据进行训练从而实现估计地下电阻率分布. 在随钻测井数据反演方面: Raj等[17]将单层前馈神经网络应用在各向同性地层中的电阻率反演. Zhu等[18]使用深度神经网络(DNN)进行各向异性的地层感应测井数据快速反演. Fan等[19]使用双向长短期记忆神经网络进行随钻测井数据的三层参数反演. Shahriari等[20,21]不仅使用DNN进行钻孔电阻率的反演, 还分析了神经网络中的误差控制和损失函数对于反演结果的影响.
随钻测井数据具有随井轨迹深度变化的趋势, 每个测量点数据之间存在前后关联, 具有序列数据的性质[22], 能够采用深度学习方法中的循环神经网络(RNN)对其进行处理. 但传统RNN存在循环权矩阵的重复乘法操作, 会导致在训练过程中出现梯度消失和梯度爆炸问题. 为缓解这一现象, Hochreiter等[23]和Chung等[24]分别提出了长短期记忆神经网络(LSTM)与门控循环单元网络(GRU), 在一定程度上解决了梯度爆炸和梯度消失问题, 但是当此两种网络使用双曲正切函数(tanh)与Sigmoid函数时, 也会出现一定程度的梯度衰减. 为了应对上述现象, Li等[25]提出了RNN的一种变体, 独立循环神经网络(independently recurrent neural network, IndRNN), 并且通过实验证明在各种任务上IndRNN均具有更好的性能. 但是, 对于不同的训练集和样本, IndRNN的各种参数, 如网络层数、隐藏层单元数以及批次大小会对预测性能产生很大影响.
针对随钻电阻率测井数据实时反演问题, 本文提出一种融合独立循环神经网络和粒子群优化算法(AP-IndRNN)的随钻测井数据实时反演方法. 首先对随钻测井数据进行最大最小值归一化操作, 并划分训练集与测试集; 然后构建IndRNN网络模型, 引入注意力机制关注对反演结果影响大的特征; 使用粒子群算法进行超参数优化, 不断更新粒子的速度与位置, 计算适应度值以更新粒子的个体最佳适应度与全局最佳适应度, 得出最佳超参数组合进行训练; 训练完成后使用测试集验证模型的准确率和可信性.
2 随钻电磁波电阻率测井仪器及其工作原理新型随钻电磁波电阻率测井仪器(DWPR)[26]采用倾斜发射—倾斜接受的双斜正交线圈系实现方位电磁信息测量, 仪器如图1所示. 图1中, T1–T4为发射线圈, R1–R4为接收线圈, 非法定计量单位1 in=2.54 cm.
DWPR测井仪器采用高(2 MHz)、中(400 kHz)、低频(100 kHz)这3种频率测量, 能同时对地层平均电阻率、方位电阻率、地质信号、各向异性信号以及成像测井信号进行测量. DWPR测井仪器可以提供9种不同探测深度(如22 in、36 in、60 in等)的相位差和幅度比电阻率、4种不同探测深度(如24 in、82 in等)的地质信号以及2种不同探测深度(24 in、96 in)的各向异性信号.
DWPR测井仪器工作原理为: 通过探头的发射线圈发射电磁波信号, 发射的信号在地下传播时, 地下岩石对发射的信号进行响应(反射与散射); 探头的接收线圈会接收地下岩石的相应信号, 根据接收到的信号的幅度比和相位差来计算地下岩层的电阻率; 然后对测得的电阻率数据进行滤波、降噪、解调和矫正等方式提取出地下岩石的准确电阻率信息; 结合地质背景和井孔岩心数据等信息, 进行地层解释和导向; 最后记录钻井过程中的电阻率数据和解释结果, 展示处理后的电阻率数据, 用于地质工作者的进一步研究和应用.
3 AP-IndRNN实时反演方法在本节中, 介绍了AP-IndRNN反演DWPR测井数据的反演流程, 该流程如图2所示. 接着, 阐述了模型中各个方法的具体理论.
AP-IndRNN反演DWPR测井数据的具体流程如下: 将输入数据进行预处理(去掉异常值、最大最小值归一化操作等). 初始化PSO参数与IndRNN网络隐状态, 设定PSO需要优化的超参数、超参数搜索空间、适应度函数与随机权重更新公式. 通过搜索空间中的参数构建相应的IndRNN模型, PSO优化IndRNN超参数的流程图如图3所示. 将当前时间步的输入数据与前一个时间步的隐状态输入IndRNN, 更新当前时间步的隐状态, 通过当前时间步隐状态生成相应的输出, 重复数据传递、隐状态更新与生成输出的步骤, 直到处理完所有时间步. 将最后一个时间步的输出结果作为输入数据输入到注意力机制层, 将输入数据映射到适合注意力机制处理的特征空间, 进行得分函数的计算, 然后计算注意力权重, 最后进行加权平均并输出. 注意力机制层的输出数据作为全连接层的输入, 并与权重参数进行矩阵乘法运算, 使用非线性激活函数对运算后的结果进行处理, 经过处理后的结果作为全连接层的输出即为模型的输出. 计算粒子适应度, 更新粒子的速度与位置, 重复训练步骤, 达到PSO最大迭代次数后, PSO输出的组合即为IndRNN网络最优超参数组合. 根据最优超参数建立的IndRNN网络的输出结果最为模型的最终输出.
3.1 独立循环神经网络(IndRNN)IndRNN采用哈达玛积代替了传统的矩阵乘法:
$ {h_t} = \sigma \left( {U \odot {h_{t - 1}} + W{x_t}} \right) $ | (1) |
其中,
IndRNN中每一层的各个神经元之间是相互独立的, 神经元之间的连接可以通过堆叠2层或者多层IndRNN单元实现. 对于第n个神经元, 隐状态计算方式为:
$ {h_{n, t}} = \sigma ({U_n}{h_{n, t - 1}} + {W_n}{x_t}) $ | (2) |
其中,
在IndRNN中, 每一个神经元只接收此时输入的信息和自身上一时刻的隐藏信息, 独立地处理自身输出, 其结果不受上一时刻的其他神经元的影响, 可以构建更深的网络结构, 处理更长的序列. 采用ReLU非饱和函数进行训练, 网络具有更高的鲁棒性.
批处理化(batch normalization, BN)层能够缓解由于采用反向传播算法计算更新梯度而出现的梯度消失和梯度爆炸现象, 提升神经网络收敛速度, 提高稳定性, 解决了深层神经网络训练难的缺陷.
BN层首先对输入数据进行归一化处理:
$ \overset\frown{{x}_{{}_{i}}}=\frac{({x}_{i}-E(x))}{\sqrt{{\textit{Var}}(x)+\varepsilon }} $ | (3) |
其中,
在深层神经网络中, BN层使得每一层网络的输出的每一维度特征均值为0, 标准差为
$ {y}_{i}=\gamma \overset\frown{{x}_{i}}+\beta $ | (4) |
其中,
注意力机制是一种模拟人类大脑注意力机制的模型, 借鉴了人类大脑在信息处理的过程中更加关注有用的信息, 忽略掉无关信息的原理. 在神经网络中, 当大量的输入信息输入到神经网络时, 不同的输入对输出值的影响是不同的. 为了提高神经网络的计算效率, 需要对重要的输入信息分配更多的计算能力.
注意力机制的计算主要包含以下步骤.
(1)计算注意力机制的得分函数:
$ s\left( {{x_i}, q} \right) = x_i^{\rm{T}}Wq $ | (5) |
其中,
(2)使用Softmax函数进行归一化操作, 得到注意力分布
$ {\alpha _i} = \frac{{\exp (s({x_i}, q))}}{{\displaystyle\sum\limits_{i = 1}^n {\exp (s({x_i}, q))} }} $ | (6) |
(3) A为注意力分布式
$ A = \sum\limits_{i = 1}^n {{\alpha_i}{x_i}} $ | (7) |
粒子群优化算法(PSO)[27]源于对鸟类捕食行为的研究, 通过模拟鸟类的觅食行为来实现信息共享, 从而在整个群体的觅食过程中获得群体合作的最佳结果. 它从随机解出发, 通过迭代寻找最优解, 期间由适应度函数评价解的品质, 通过追随当前搜索到的最优值来寻找全局最优.
在此算法中, 每个粒子由3个度量表征: 速度、位置和适应度值. 其中, 速度决定了粒子的下一次运动的方向和位移; 位置描述粒子的当前位置. 粒子群优化算法计算粒子适应度值, 并将其与粒子历史最佳适应度值p(i)和全局最佳适应度值gbest(i)进行比较. 在迭代过程中, 粒子的速度和位置不断更新, 以实现全局最优. 下为粒子的速度、位置更新与适应度函数公式:
$ v_{{i}}^{{{k + 1}}} = wv_i^k + {c_1}{r_1}(p_i^k - x_i^k) + {c_2}{r_2}(g_{{\rm{best}}}^k - x_i^k) $ | (8) |
$ x_i^{k + 1} = x_i^k + v_i^{k + 1} $ | (9) |
$ \varepsilon = \frac{1}{n}\sum\limits_{i = 1}^n {\left| {{y_i} - {{\hat y}_i}} \right|} $ | (10) |
其中,
$ w = {u_{\min }} + ({u_{\max }} - {u_{\min }})rand(0, 1) + \sigma N(0, 1) $ | (11) |
其中,
采用随机惯性权重可以解决迭代前期局部搜索能力差及迭代后期全局搜索能力不足的问题.
4 实验 4.1 数据集与评价指标 4.1.1 数据集数据集包括正演模拟数据集与实际测井数据集.
正演模拟数据是通过设定好的地层模型, 并根据DWPR测井仪器的特性, 采用正演模拟方式生成的. 为了获得正演模拟数据, 需要预先设置地层模型. 地层模型为如图4所示的3层地层模型, 图中
按照地层模型的范围选择不同的地层厚度和电阻率组合成地层模型后, 通过正演模拟产生的含有不同源距与频率的电阻率和地质信号参数, 最终形成随钻电磁波电阻率测井正演模拟数据. 其中, 电阻率参数反映地层电性特征[26], 地质信号参数反映地层边界位置与方位信息[26]. 将此数据集按照7:3划分训练集与测试集.
实际测井数据集是利用DWPR测井仪器对某油田单井的1931–2132 m井段进行测量所得到的数据. 其中, 电阻率与地质信号数据均为实际测井工程中的测量数据, 地层最大厚度为12 m, 中层电阻率范围为14–34 Ω之间. 正演模拟数据集与实际测井数据集所含信息如表1所示.
4.1.2 评价指标
为了评估模型的预测精度, 选用均方根误差(RMSE), 拟合度(
$ {\textit{RMSE}} = \frac{{\sqrt {\displaystyle\sum\limits_{i = 1}^n {{{({X_i} - X'_i)}^2}} } }}{{\sqrt n }} $ | (12) |
$ {r^2} = \frac{{\displaystyle\sum\limits_{i = 1}^n {{{({X_i} - X'_i)}^2}} }}{{\displaystyle\sum\limits_{i = 1}^n {{{({X_i} - \bar X)}^2}} }} $ | (13) |
其中,
本实验程序使用Python编写, 基于TensorFlow框架来搭建模型, 使用“ReLU”函数作为激活函数, 优化算法为Adam算法. 然后使用粒子群算法对IndRNN网络的4个超参数进行寻优, 分别为: 隐藏层层数、隐藏层单元数、批次大小、学习率, IndRNN超参数的优化范围就是PSO的搜索空间, 如表2所示, PSO的参数设置如表3所示.
通过PSO算法计算得出IndRNN最佳超参数组合为{7, 128, 32, 0.001}, 即网络层数为7, 隐藏层单元数为128, 批次大小为32, 学习率为0.001.
4.3 实验结果分析 4.3.1 正演模拟数据消融实验与结果分析
为了验证PSO与Attention的有效性, 使用正演模拟数据测试集进行消融实验, 实验结果如图5, 图6所示, 评价指标计算结果如表4所示.
通过图5、图6与表4的分析可得: 在随钻测井资料正演模拟数据反演方面. 在两种不同的指标下, 在仪器距离上下界面与目标地层电阻率反演方面, AP-IndRNN的RMSE最小,
4.3.2 正演模拟数据对比实验与结果分析
为了验证本文方法的有效性, 分别采用LSTM、BiLSTM、GRU、AP-IndRNN这4种反演方法对正演模拟数据测试集进行反演. 将不同方案得到的反演结果与实际值进行对比来评估预测结果的可靠性. 各个模型反演结果如图7, 图8所示, 评价指标计算结果如表5所示.
通过图7、图8与表5的分析可得: 在随钻测井资料正演模拟数据反演方面, AP-IndRNN相较于LSTM、BiLSTM、GRU模型在仪器距离上界面的反演结果上, RMSE分别降低了0.28、0.239、0.407. 在仪器距离下界面的反演结果上, RMSE分别降低了0.102、0.283、0.354. 在目标地层电阻率的反演结果上, RMSE分别降低了0.232、0.226、0.396. 实验结果证明, 与其他方法相比, 在模拟数据反演方面, AP-IndRNN展现出更高的稳定性与准确性, 能够提供更可靠和精确的随钻测井数据反演结果. 这意味着使用AP-IndRNN进行随钻测井数据的反演工作是可行的.
4.3.3 实际测井数据消融实验与结果分析为了验证PSO与Attention在实际过程中的性能与泛化性, 选取某油田单井的1931–2132 m的测井数据进行消融实验, 实验结果如图9, 图10所示, 评价指标计算结果如表6所示.
通过图9、图10与表6的结果可得: 在随钻测井资料实际数据反演方面, 虽然实际数据的反演结果相较于正演模拟数据的结果均有所下降. 但AP-IndRNN的反演结果能够较好地预测出仪器距离上下界面距离与电阻率的整体趋势变化, 基本能够与地层情况符合, 整体误差最小. 实验结果证明, PSO与Attention可以提升IndRNN网络在实际数据反演中的性能. 这种改进验证了AP-IndRNN在处理实际数据时的鲁棒性.
4.3.4 实际测井数据对比实验与结果分析
为了检验本文模型在实际工程中的性能与泛化性选取某油田单井的1931–2132 m的测井数据进行实际应用, 反演结果如图11、图12所示, 评价指标计算结果如表7所示.
通过图11、图12与表7的结果可得: 在随钻测井资料实际数据反演方面, AP-IndRNN相较于LSTM、BiLSTM、GRU模型在仪器上界面距离反演结果上, RMSE分别降低了0.22、0.271、0.277,
5 结论
针对目前随钻电阻率测井资料反演问题, 本文提出一种融合独立循环神经网络和粒子群优化算法的随钻测井数据实时反演方法, 解决了迭代反演算法依赖初始模型导致其反演结果不确定与计算效率低的问题. IndRNN模型对于序列数据具有较强的建模和分析能力; 引入注意力机制对输出结果影响大的特征分配更大的权重, 来提高反演精度; 使用粒子群算法对IndRNN网络的隐藏层层数、隐藏层单元数、批次大小、学习率进行优化, 克服了人工确定IndRNN网络参数的缺点. 正演模拟数据与实际测井数据的消融实验与对比实验结果表明, PSO与Attention可以有效提高IndRNN网络的预测精度, 同时AP-IndRNN相较于LSTM、BiLSTM、GRU网络均有更好的性能, 能够满足随钻测井数据实时反演的需求.
[1] |
刘之的. 随钻测井响应反演方法及应用研究[博士学位论文]. 成都: 西南石油大学, 2006.
|
[2] |
汪昊. 各向异性地层随钻方位电磁波电阻率测井反演方法研究[硕士学位论文]. 北京: 中国石油大学(北京), 2020. ]
|
[3] |
孙歧峰, 李娜, 段友祥, 等. 基于长短期记忆神经网络的随钻地层倾角解释方法. 石油勘探与开发, 2021, 48(4): 843-850. |
[4] |
刘乃震, 王忠, 刘策. 随钻电磁波传播方位电阻率仪地质导向关键技术. 地球物理学报, 2015, 58(5): 1767-1775. |
[5] |
安鹏, 曹丹平. 基于深度学习的测井岩性识别方法研究与应用. 地球物理学进展, 2018, 33(3): 1029-1034. |
[6] |
Wu YZ, Fan YR. Fast hierarchical inversion for borehole resistivity measurements in high-angle and horizontal wells using ADNN-AMLM. Journal of Petroleum Science and Engineering, 2021, 203: 108662. DOI:10.1016/j.petrol.2021.108662 |
[7] |
朱高阳. 基于深度学习的层状储层中随钻电磁波测井资料的正反演研究[博士学位论文]. 济南: 山东大学, 2020.
|
[8] |
Wang L, Wu ZG, Fan YR, et al. Fast anisotropic resistivities inversion of logging-while-drilling resistivity measurements in high-angle and horizontal wells. Applied Geophysics, 2021, 17(3): 390–400.
|
[9] |
岳喜洲, 马明学, 李国玉, 等. 随钻方位电磁波电阻率测井技术与地质导向应用. 测井技术, 2021, 45(2): 122-127. |
[10] |
Heriyanto M, Srigutomo W. 1-D DC resistivity inversion using singular value decomposition and Levenberg-Marquardt’s inversion schemes. Journal of Physics: Conference Series, 2017, 877: 012066. DOI:10.1088/1742-6596/877/1/012066 |
[11] |
杨震, 于其蛟, 马清明. 基于拟牛顿法的随钻方位电磁波电阻率仪器响应实时反演与现场试验. 石油钻探技术, 2020, 48(3): 120-126. |
[12] |
Wang L, Fan YR. Fast inversion of logging-while-drilling azimuthal resistivity measurements for geosteering and formation evaluation. Journal of Petroleum Science and Engineering, 2019, 176: 342-351. DOI:10.1016/j.petrol.2019.01.067 |
[13] |
蔡军, 张恒荣, 曾少军, 等. 随钻电磁波电阻率测井联合反演方法及其应用. 石油学报, 2016, 37(3): 371-381. |
[14] |
Moghadas D. One-dimensional deep learning inversion of electromagnetic induction data using convolutional neural network. Geophysical Journal International, 2020, 222(1): 247-259. DOI:10.1093/gji/ggaa161 |
[15] |
Sun J, Niu Z, Innanen KA, et al. A theory-guided deep-learning formulation and optimization of seismic waveform inversion. Geophysics, 2020, 85(2): R87-R99. DOI:10.1190/geo2019-0138.1 |
[16] |
Puzyrev V. Deep learning electromagnetic inversion with convolutional neural networks. Geophysical Journal International, 2019, 218(2): 817-832. DOI:10.1093/gji/ggz204 |
[17] |
Raj AS, Srinivas Y, Oliver DH, et al. A novel and generalized approach in the inversion of geoelectrical resistivity data using artificial neural networks (ANN). Journal of Earth System Science, 2014, 123(2): 395-411. DOI:10.1007/s12040-014-0402-7 |
[18] |
Zhu GY, Gao MZ, Kong FM, et al. A fast inversion of induction logging data in anisotropic formation based on deep learning. IEEE Geoscience and Remote Sensing Letters, 2020, 17(12): 2050-2054. DOI:10.1109/LGRS.2019.2961374 |
[19] |
Fan JB, Zhang WX, Chen WX, et al. Inversion based on deep learning of logging-while-drilling directional resistivity measurements. Journal of Petroleum Science and Engineering, 2022, 208: 109677. DOI:10.1016/j.petrol.2021.109677 |
[20] |
Shahriari M, Pardo D, Picon A, et al. A deep learning approach to the inversion of borehole resistivity measurements. Computational Geosciences, 2020, 24(3): 971-994. DOI:10.1007/s10596-019-09859-y |
[21] |
Shahriari M, Pardo D, Rivera JA, et al. Error control and loss functions for the deep learning inversion of borehole resistivity measurements. International Journal for Numerical Methods in Engineering, 2021, 122(6): 1629-1657. DOI:10.1002/nme.6593 |
[22] |
Zhang DX, Chen YT, Meng J. Synthetic well logs generation via Recurrent Neural Networks. Petroleum Exploration and Development, 2018, 45(4): 629-639. DOI:10.1016/S1876-3804(18)30068-5 |
[23] |
Hochreiter S, Schmidhuber J. Long short-term memory. Neural Computation, 1997, 9(8): 1735–1780.
|
[24] |
Chung J, Gulcehre C, Cho KH, et al. Empirical evaluation of gated recurrent neural networks on sequence modeling. arXiv:1412.3555, 2014.
|
[25] |
Li S, Li WQ, Cook C, et al. Independently recurrent neural network (IndRNN): Building A longer and deeper RNN. Proceedings of the 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Salt Lake City: IEEE, 2018. 5457–5466.
|
[26] |
岳喜洲, 刘天淋, 李国玉, 等. 随钻方位电磁波测井响应快速正演方法与地质导向应用. 地球物理学报, 2022, 65(5): 1909-1920. DOI:10.6038/cjg2022P0233 |
[27] |
Gao XS, Guo YY, Hanson DA, et al. Thermal error prediction of ball screws based on PSO-LSTM. The International Journal of Advanced Manufacturing Technology, 2021, 116(5–6): 1721-1735. DOI:10.1007/s00170-021-07560-y |