软件缺陷(software defect)是指软件中存在的错误、漏洞或不完善之处, 可能会导致软件在运行或使用过程中出现异常行为、崩溃、不符合设计预期或不满足用户需求等问题. 由于软件开发过程中的复杂性、时间压力、变更管理等诸多因素, 软件缺陷的产生在很大程度上是不可避免的. 这些缺陷可能导致软件性能下降, 若未及时发现与修复, 不仅影响用户体验, 也可能威胁软件系统安全, 甚至造成巨大的经济损失. 因此, 研究者们提出了软件缺陷预测技术(software defect prediction, SDP)^[1,2], 旨在提前识别和修复潜在的软件缺陷, 从而提高软件质量、降低开发成本和减少用户风险, 以保障软件系统的稳定性和可靠性.

传统的SDP方法依赖于项目内足够多的已标记的历史数据来训练稳定的分类模型, 并使用这个分类模型预测同一个项目内新样本的缺陷标签, 这种方法称为项目内缺陷预测(within-project defect prediction, WPDP)^[3–5]. 然而, 获取足够多的历史缺陷数据并不现实, 特别是对于新项目来说, 历史数据可能是非常稀少的, 而且软件规模的扩大和版本的更迭也十分迅速, 这限制了项目内软件缺陷预测的发展. 据此, 研究人员提出了跨项目软件缺陷预测(CPDP)^[6–9], 可以有效解决项目内缺陷预测面临的数据稀疏问题.

然而, 由于开发人员、应用领域及编程语言的不同, CPDP中源项目和目标项目之间的数据分布存在显著差异, 这不符合机器学习中训练集和测试集独立同分布的假设, 会造成模型预测效果较差, 难以达到预期的效果. 为了解决这个问题, 许多学者采用域适应的方法进行了相关研究, 特别是通过分布对齐^[10–13]来减少域之间的分布差异. 所处理的两种分布包括边缘分布和条件分布. 边缘分布对齐旨在使不同项目中特征的边缘分布尽可能相似. 这有助于确保特征的全局分布统计特性(如均值、方差等)在不同项目之间保持一致, 从而提高了模型的稳定性和泛化性能. Pan等人^[10]提出了迁移成分分析方法(transfer component analysis, TCA), 通过提取源项目和目标项目间的公共迁移成分, 使得不同项目在映射后的子空间中分布差异减小, 从而对齐项目间的边缘分布. Nam等人^[11]提出了TCA+模型, 在TCA方法的基础上将数据归一化用于缺陷预测. 条件分布对齐确保不同项目中特征在给定条件下(例如不同类别或不同标签)的分布相似. Satpal等人^[12]基于输入和标签上共同定义的特征来训练一个条件概率模型, 结果表明这种领域适应方法显著降低了误差. 大多数研究仅考虑了项目间的边缘分布对齐, 近年来, 许多学者进一步拓展预测模型, 将边缘分布和条件分布对齐结合应用于缺陷预测. Zou等人^[13]利用两个自编码器同时学习项目间的全局特征表示和两个类别之间的局部特征表示, 并在每个堆栈层中实现渐进式分布匹配, 从而实现项目间边缘和条件分布对齐.

现有的CPDP方法要么集中在仅减少项目间的边缘分布差异或条件分布差异, 要么集中在同时减少以上两种分布的差异, 但是认为两种分布的重要性是相等的. 而当项目间的分布差异很大时, 边缘分布的重要性通常高于条件分布; 当项目间的分布相似时, 条件分布的重要性比边缘分布更大. 因此, 仅考虑一种分布或者平等地考虑两种分布的重要性可能会使得模型的预测性能不佳. 此外, 对于目标项目中的无标记数据, 伪标签的选择是不合理的. 现有的大多数方法直接采用共享分类器预测的伪标签, 受分类器性能的限制, 伪标签和真实标签之间可能存在着严重的偏差, 这种偏差的不断累积会使得预测结果与正确结果的误差越来越大.

据此, 本文提出了一种基于动态分布对齐和伪标签学习的跨项目软件缺陷预测方法. 首先通过域对齐和类别对齐分别减小项目间的边缘分布差异和条件分布差异, 同时借助动态分布因子动态、定量地描述了两种分布的相对重要性. 其次, 设计了一种伪标签学习方法, 借助原始数据间的几何相似性, 提升伪标签在充当真实标签时的准确性. 本文的主要贡献如下.

(1)我们使用域适应的方法, 实现了源项目到目标项目的知识迁移, 解决了目标项目有标注数据过少, 模型难以训练的问题.

(2)我们设计了域对齐和类别对齐两个模块来减小项目间的分布差异, 并且动态地描述边缘分布和条件分布的相对重要性, 有效解决了CPDP过程中项目间的数据分布差异问题.

(3)在类别对齐部分, 我们设计了一种伪标签学习方法, 以便为那些在特征空间中与被监督数据的类别质心具有几何相似度的实例分配准确的伪标签, 从而最大程度地利用标签信息.

(4)在常用的缺陷公开数据集PROMISE上进行了充分实验, 结果显示本文方法明显优于现有的CPDP方法.

本文第2节是对相关工作的回顾, 包括跨项目缺陷预测和域适应方法的研究介绍. 第3节介绍本文的主要方法, 给出问题描述、总体框架、特征映射、域对齐、类别对齐、动态分布因子和模型目标函数的详细描述. 第4节主要展示实验的结果并进行详细分析. 第5节对全文进行总结和展望.

1 相关工作 1.1 跨项目缺陷预测

跨项目缺陷预测的目标是借助样本及标签信息丰富的源项目数据来训练分类器, 实现目标项目样本有无缺陷的倾向性预测. 按照迁移内容的不同, CPDP 方法可以分为基于实例迁移的方法和基于特征迁移的方法.

基于实例迁移的方法过滤出与目标项目相关的实例或者对实例进行加权以削弱来自不相关项目的不利影响. 这些筛选出的实例有助于减少项目间的分布差异. Turhan 等人^[14]提出最近邻过滤(NNFilter)的方法, 目的是只从源数据中选择相似的样本与目标数据进行匹配. 通过不使用所有源数据, 只使用每个测试数据的最近邻居来形成训练集, 该训练集与目标数据具有相似的特征. He等人^[15]提出了一种利用分布特征(如均值、中位数、最大值、最小值等)来计算训练数据和测试数据的相似度, 自动选择合适的训练数据的方法. Ma等人^[16]提出了迁移朴素贝叶斯(TNB)方法, 该方法只使用源数据集和目标数据集之间的共享特征. 为减少跨公司与公司内部数据的分布差异, Chen等人^[17]提出了双传输增强算法(DTB), 通过减少跨公司数据中的负样本来减少分布差异. Ryu等人^[18]提出了VCB-SVM方法, 根据从分布特征中获得的相似性权重计算误分类成本, 从而解决类别不平衡问题. 基于实例迁移的CPDP方法会导致可用实例很少或浪费源项目中的一些数据信息, 使得预测性能不佳.

基于特征迁移的方法通过从源项目中选择和目标项目特征相关的度量元或者构建一个公共的特征空间来实现域间的特征映射, 以消除项目间特征的差异性. Nam等人^[11]提出了TCA方法的扩展(TCA+), 该方法在学习再生核希尔伯特空间(RKHS)中跨域的特定传输组件之前, 使用规则找到最佳策略来规范化数据. 在RKHS学习中, 使用最大均值差异(MMD)来测量距离. 结果表明, 与原始TCA方法相比, 该方法性能有所提升. Long等人^[19]提出了联合分布适应(JDA), 该方法借助降维过程共同匹配边缘分布和条件分布, 并构建了有效且稳健的新特征表示. Wu等人^[20]提出CKSDL方法, 借助少量的有标签数据和大量的无标签数据来消除分布差异. Xu等人^[21]提出了平衡分布适应(BDA)来解决分布之间的较大差异, 通过调整项目间分布的重要性有效地处理其分布差异. Zou等人^[13]提出了基于联合特征表示的跨项目缺陷预测方法(DMDA_JFR), 该方法首先利用编码器学习局部和全局特征表示, 其次在每个堆栈层学习后进行特征空间的渐次对齐. 基于特征迁移的方法只考虑了项目间的公共特征表示, 许多度量元中的信息没有得到充分挖掘直接被丢弃; 另一方面, 平等地考虑边缘分布和条件分布的重要性来减少项目间的差异, 使得预测模型的提升效果有限. 本文属于基于特征迁移的方法, 我们不仅将边缘分布和条件分布对齐用于CPDP中, 并利用动态分布因子动态、定量地描述两种分布的相对重要性, 有效提升了跨项目缺陷预测性能.

1.2 域适应

为了有效解决因不同领域的分布差异导致跨领域预测精度表现不佳的问题, 有关学者提出了“域适应”的概念. 这种方法是迁移学习的一种实现方式, 旨在通过训练学习源域和目标域之间的共性或对概率分布进行适配, 从而获得性能优良的学习模型, 以提高模型在目标域上的泛化能力. 根据采用技术的不同, 可以将域适应方法分为基于度量学习的域适应和基于对抗学习的域适应.

基于度量学习的域适应方法通过最小化不同领域之间的距离来减小数据分布差异. Zhuang等人^[22]提出了一种名为TLDA的监督表示学习方法. 该方法的核心思想是在嵌入层中, 通过最小化KL散度来缩小源域和目标域之间嵌入实例的分布距离. 这一策略极大地提升了迁移学习的性能, 为处理跨域数据提供了新的可能性. Li等人^[23]提出了LPJT的联合适配方法, 该方法通过训练一个特征变换矩阵将两个项目的样本映射到一个低维的特征空间中, 然后借助最大均值差异同时实现边缘分布和条件分布的最小化. Chen等人^[24]设计了一种基于双层域混合的新框架, 通过提取区域级和样本级的域不变表示, 缓解不同领域间数据分布不匹配的问题. 为了缓解传统特征对齐中过度适应的问题, Gao等人^[25]提出了一种非对称适应范式(AsyFOD), 借助统一的差异估计函数来识别源域中的实例, 这些实例与目标域相似. 此外, 与目标域不相似的实例和增强的目标实例之间采用异步对齐的方式, 进一步缓解数据不平衡的问题.

基于对抗学习的域适应方法引入了对抗训练, 试图通过训练一个生成器和一个判别器来减小领域之间的分布差异. Ganin等人^[26]提出的DANN模型通过对抗训练的方式, 利用神经网络在源域和目标域之间学习域不变的特征表示, 从而有效地减小了领域间的数据分布差异问题, 在目标域上取得了显著的改善效果. 在DANN模型的基础上, Yu等人^[27]进一步考虑了条件分布对域适应的贡献, 并引入动态分布自适应机制, 使模型能够根据不同目标领域的数据分布动态调整适应性, 从而提高了迁移性能. Zhou等人^[28]提出了多源域适应双工对抗网络(DAN_MA), 通过对抗网络和域分类器生成域间的不变特征表示, 同时使目标样本接近每个源域的决策边界以消除不同源之间的域特征. 为了提高模型对目标数据的预测置信度, Sun等人^[29]研究了末层激活的对抗训练, 并系统分析了归一化对对抗训练的影响. 本文将对抗学习的思想应用于跨项目缺陷预测中, 以解决源项目和目标项目间的分布差异问题.

2 本文方法

对于有标签的源域数据和仅有少量标签的目标域数据, 我们可以将问题重新定义为基于半监督域适应的跨项目软件缺陷预测. 假设 $ {D_S} = \{ {X_S}, {Y_S}\} = \{ (x_1^S, y_1^S), (x_2^S, y_2^S), \cdots, (x_m^S, y_m^S)\} $表示源项目的训练样本, 其中$x_i^S \in {R^{{d_S}}}$表示数据集中的第i个样本, ${d_S}$表示样本中度量元的个数, $y_i^S \in \{ 0, 1\} $表示第i个样本对应的标签, 其中1和0分别代表样本有无缺陷, m表示样本的个数. 类似地, 我们假设目标项目数据集为${D_T} = \{ {D_L}, {D_U}\} $, 其中${D_L} = \{ {X_L}, {Y_L}\} = \{ (x_1^L, y_1^L), (x_2^L, y_2^L), \cdots, (x_n^L, y_n^L)\} $为目标项目中少量有标签的样本数据集, ${D_U} = \{ {X_U}\} = \{ x_1^U, x_2^U, \cdots, x_l^U\} $为无标签的样本数据集. 源项目和目标项目之间的边缘分布和条件分布均存在差异, 即${P_S}({X_S}) \ne {P_T}({X_T})$, ${P_S}({Y_S}\mid{X_S}) \ne {P_T}({Y_T}\mid{X_T})$. 本文的目标是根据标签信息丰富的源项目数据训练一个分类器用于目标项目中实例有无缺陷的预测.

为了动态、定量地衡量边缘分布和条件分布的贡献并充分挖掘和利用伪标签, 我们提出了基于动态分布对齐和伪标签学习的跨项目软件缺陷预测方法(DPLD). 首先将源项目和目标项目数据映射到一个公共的特征子空间, 然后分别利用域对齐和类别对齐减小项目间的边缘分布和条件分布差异, 同时根据特征的几何质心更新伪标签, 提高伪标签的准确性, 最后不断更新动态分布因子来调整边缘分布和条件分布的相对重要性. 本文所提方法的总体架构如图1所示.

2.1 特征映射

类别不平衡问题^[30–32]一直是软件缺陷预测中普遍存在的问题. 研究指出, 过采样方法是处理类别不平衡问题的有效策略, 其效果远胜于欠采样方法及代价敏感方法^[33]. 本文采用了以SMOTE作为基础的过采样方法来处理数据集.

获取平衡数据集之后, 需要将缺陷样本转化为特征向量, 以便模型能够进行进一步的计算. 缺陷样本由度量元组成, 度量元是与缺陷外在表现相关的内在属性(如复杂度、耦合性、继承性等)的统计信息. 因此, 如何对度量元进行充分挖掘和应用非常关键. 本文选取了具有较强的非线性拟合能力和并行性的多层感知机(MLP)^[34]模型作为样本度量元的映射模型. 以目标项目为例, 样本数据集$ {D_T} = \{ x_1^T, x_2^T, \cdots, x_{n + l}^T\} $经MLP映射后, 得到样本的特征向量集合${E_T} = \{ e_1^T, e_2^T, \cdots, e_{n + l}^T\} $. 同理可得源项目样本的特征向量集合${E_S} = \{ e_1^S, e_2^S, \cdots, e_m^S\} $, 向量的特征维度均为${d_{\rm input}}$. 映射函数如下:

$ {e^T} = \mathit{Sigmoid}({W^T}x + {b^T}) $

(1)

$ {e^S} = \mathit{Sigmoid}({W^S}x + {b^S}) $

(2)

其中, Sigmoid为激活函数, $ {\theta _f} = \{ {W^T}, {W^S}, {b^T}, {b^S}) $是特征映射的权重矩阵和偏置参数.

本方法的最终目标在于建立一个分类器C, 以能够准确预测目标项目中未标记样本的标签. 通常情况下, 分类器的训练是通过最小化源数据的经验误差来实现的, 忽视了目标项目中少量的标签信息. 本文中我们充分利用了源项目和目标项目中的标签信息进行监督学习, 将交叉熵损失作为其分类损失函数, 公式如下:

$ {L_y} = - \frac{1}{{m + n}}\sum\limits_{{e_i} \in ({E_S} \cup {E_L})} {{y_i}\log } (C({e_i})) + (1 - {y_i})\log (1 - (C({e_i}))) $

(3)

其中, ${E_S}$和${E_L}$分别表示源项目和目标项目映射后的特征向量集合, m和n分别表示源项目和目标项目中的样本个数, ${y_i}$表示样本i对应的标签.

2.2 域对齐

为了减小源项目和目标项目之间的边缘分布差异, 我们借鉴GAN网络^[35]的思想设计了一个域对齐模块. 具体来说, 包括一个全局域鉴别器${D_g}$, 可以区分样本所属的域类别. 全局域鉴别器通过3层的全连接层构建, 与特征映射网络在训练过程中进行对抗学习. 具体步骤如下: 将特征映射后的向量输入域鉴别器, 计算其损失函数, 首先通过最小化域鉴别器的损失函数更新域鉴别器的参数, 提高域鉴别器的判别能力; 然后通过最大化域鉴别器的损失函数学习并更新特征映射网络的参数, 从而调整特征映射网络输出的特征向量, 循环往复, 直到域鉴别器无法区分样本所属的领域. 全局域鉴别器的损失计算方法如下.

$ \begin{split} {L_g} =& - \frac{1}{{m + n}}\sum\limits_{{e_i} \in ({E_S} \cup {E_T})} {d_i}\log ({D_g}({e_i})) \\ &+ (1 - {d_i})\log (1 - {D_g}({e_i})) \end{split} $

(4)

其中, ${D_g}$为全局域鉴别器, ${d_i}$为输入样本${x_i}$的域标签.

2.3 类别对齐

为了对齐源项目和目标项目之间的条件分布, 本节设计了一个类别对齐模块, 主要包括两个局部域鉴别器($D_l^1$和$D_l^2$). 与全局域鉴别器相比, 局部域鉴别器可以实现与样本类别(即有缺陷或无缺陷)相关联的源项目和目标项目数据分布的匹配, 从而在更细粒度上减小项目间的分布差异. 局部域鉴别器的损失函数可计算为:

$ {L_l} = - \frac{1}{{m + n}}\sum\limits_{{e_i} \in ({E_S} \cup {E_T})} {{L_{ce}}(D_l^1(\hat y_i^1{e_i}), {d_i}} ) + {L_{ce}}(D_l^2(\hat y_i^2{e_i}), {d_i}) $

(5)

其中, ${L_{ce}}$表示交叉熵函数, $\hat y_i^1$和$\hat y_i^2$分别表示在有缺陷和无缺陷类别上的预测概率分布, ${d_i}$是输入样本${x_i}$的域标签.

在跨项目软件缺陷预测中, 条件分布对齐可以确保不同项目中特征在不同缺陷标签下的分布相似. 这确保了模型能够在不同缺陷的情况下具有一致的预测性能. 在条件分布对齐的过程中, 我们需要用到样本的标签信息, 但是目标项目中存在大量没有标签的样本, 无法满足条件分布的要求. 为了解决这一问题, 我们设计了一种伪标签学习方法, 以便为那些在特征空间中与被监督数据的类别质心具有几何相似度的实例分配准确的伪标签.

首先, 我们分别计算源项目和有标签的目标项目中类别c (c=2, 表示有缺陷或无缺陷)的质心, 这些质心是每个类别中映射后特征的均值向量. 计算公式如下:

$ {\mu _c} = \frac{1}{{|E_S^c \cup E_L^c|}}\left(\sum\limits_{e_i^S \in E_S^c} {e_i^S} + \sum\limits_{e_j^T \in E_L^c} e_j^T\right) $

(6)

由此, 我们可以得到两个类别的质心$\{ {\mu _1}, {\mu _2}\} $.

其次, 我们借助余弦相似度和获得的质心为目标项目中未标记的样本分配标签.

$ \hat y_i^U = \arg \mathop {\max }\limits_c GR(\mathit{Sigmoid}({W^T}x_i^U + b), {\mu _c}) $

(7)

其中, $GR( \cdot )$表示特征空间中两个向量之间的几何关系, 本文选用余弦相似度.

2.4 动态分布因子

A-distance是一种用于度量不同数据分布之间差异的距离度量方法, 可以衡量两个数据分布之间的相似程度. 训练过程中, A-distance需要建立一个线性分类器, 本文中将全局和局部域鉴别器看作线性分类器, 它可以直接利用域鉴别器的损失自动学习并更新动态分布因子.

全局域鉴别器的A-distance计算公式如下:

$ {A_g}({D_S}, {D_T}) = 2(1 - 2({L_g})) $

(8)

其中, ${D_S}$, ${D_T}$分别表示源项目和目标项目的样本, $L_g^{}$表示全局域鉴别器损失. ${A_g}$的值越小, 表明源项目和目标项目间的边缘分布差异越小, 其数据分布越相似, 边缘分布在域适应中的贡献更大.

同理可得, 局部域鉴别器的A-distance为:

$ {A_l}(D_S^c, D_T^c) = 2(1 - 2(L_l^c)) $

(9)

其中, $D_S^c$, $D_T^c$分别表示来自源项目和目标项目中类别c的样本, $L_l^c$表示类别c对应的局部域鉴别器损失. 由此, 可得动态分布因子的计算公式如下:

$ \hat \omega = \frac{{{A_g}({D_S}, {D_T})}}{{{A_g}({D_S}, {D_T}) + \dfrac{1}{C}\displaystyle\sum\limits_{c = 1}^C {{A_l}(D_S^c, D_T^c)} }} $

(10)

初始化阶段, 我们设定$\omega $为1. 之后, 在每一次迭代过程中, 根据全局和局部域鉴别器的损失函数更新$\omega $的值, 直至模型收敛.

2.5 算法描述

综合所有组成部分, 本文的总体优化目标为:

$ L({\theta _f}, {\theta _y}, {\theta _d}, \theta _d^c|_{c = 1}^C) = {L_y} - \lambda ((1 - \omega ){L_g} + \omega {L_l}) $

(11)

其中, $\lambda $是一个权衡参数. 当$\omega \to 0$时, 表示边缘分布对齐更重要, 当$\omega \to 1$时, 表示两个域之间的全局分布相对较小, 条件分布对齐占主导地位. 因此, 通过学习动态分布因子$\omega $, 可以应用于不同的领域适应场景.

结合领域对抗损失, 领域分类器与其余组件之间具有对抗关系, 模型优化目标如下:

$ ({\hat \theta _f}, {\hat \theta _y}) = \arg {{\mathrm{min}} _{{\theta _f}, {\theta _y}}}L({\theta _f}, {\theta _y}, {\theta _d}, \theta _d^c) $

(12)

$ ({\hat \theta _d}, \hat \theta _d^c) = \arg {{\mathrm{max}} _{{\theta _d}, \theta _d^c}}L({\theta _f}, {\theta _y}, {\theta _d}, \theta _d^c) $

(13)

其中, $ {\hat \theta _f}, {\hat \theta _y}, {\hat \theta _d}, \hat \theta _d^c $分别表示特征映射、监督分类损失、全局域鉴别器、局部域鉴别器的参数. 以上优化目标无法直接通过梯度下降优化, 所以, 我们在域鉴别器之前加入了梯度反转层GRL^[26]. 加入梯度反转层后的优化目标更改为:

$ ({\hat \theta _f}, {\hat \theta _y}, {\hat \theta _d}, \hat \theta _d^c) = \arg {{\mathrm{min}} _{{\theta _f}, {\theta _y}, {\theta _d}, \theta _d^c}}L({\theta _f}, {\theta _y}, {\theta _d}, \theta _d^c) $

(14)

结合以上优化目标, 本文选取Adam^[36]对模型进行参数优化, 其为一个基于随机梯度下降的优化器, 可以使模型在较大的学习率下快速收敛. 本文的算法描述如算法1.

算法1. DPLD算法

输入: 带有标签的源项目数据集, 目标项目数据集.

输出: 无标签的目标项目数据集对应的预测标签.

1) 初始化模型参数

2) repeat

3) for $\scriptstyle ({x_s}, {y_s}) \in ({X_S}, {Y_S})$, $\scriptstyle ({x_t}, {y_t}) \in ({X_T}, {Y_T})$ do

4) 　根据式(1)、式(2)得到项目映射后的特征向量

5) 　根据特征向量训练得到监督分类损失$\scriptstyle {L_y}$, 建立预测模型

6) 　计算全局域鉴别器损失$\scriptstyle {L_g}$

7) 　计算局部域鉴别器损失$\scriptstyle {L_l}$

8) 　模型的总体优化目标: $\scriptstyle L = {L_y} - \lambda ((1 - \omega ){L_g} + \omega {L_l})$

9) 　反向传播, Adam更新参数

9) until converage

10) 目标数据集的预测标签$\scriptstyle \leftarrow $分类模型

3 实验

为验证所提方法DPLD的有效性, 我们在PROMISE数据集上进行实验, 并给出了相应的实验结果和分析. 实验环境配置为2.70 GHz Intel(R) Core(TM) i5-11400H CPU, 16 GB RAM和Windows 11. 相关算法是在Anaconda的PyTorch环境下用Python 3.7实现的. 我们主要研究以下问题.

RQ1: 所提的DPLD方法是否优于其他项目内或跨项目软件缺陷预测方法?

RQ2: 本文采用的动态分布对齐方法是否优于其他分布匹配模型?

RQ3: 本文采用的伪标签学习方法是否提升了模型的预测性能?

3.1 数据集

实验中采用由Jureczko等人收集的公开数据集PROMISE^[37], 选取了数据集中12个基于Java语言的软件项目, 每个项目均以类为预测粒度. 每个类中包含20种度量元, 这些度量元主要关注代码复杂度、面向对象程序中固有的封装、继承、多态等特性. 实验所用数据集的详细信息如表1所示.

3.2 对比方法

LR: 我们进行了项目内缺陷预测的比较实验, 对比传统的LR方法和本文提出的DPLD方法. 传统的LR方法直接使用LR分类器对缺陷样本进行分类预测.

NN-filter^[14]: 该方法根据项目间实例特征的相似性为目标项目构建合适的训练集, 然后进行目标项目模型的训练并将训练好的模型用于目标项目新样本的缺陷预测.

DMDA_JFR^[13]: 该方法首先利用编码器学习局部和全局特征表示, 其次在每个堆栈层学习后进行特征空间的渐次对齐.

TCA+^[11]: 基于特征的迁移学习方法, 结合数据归一化和迁移成分分析方法用于缺陷预测.

JDA^[19]: 该方法借助降维过程共同匹配边缘分布和条件分布, 并构建了有效且稳健的新特征表示.

BDA^[21]: 该方法基于分布匹配, 能够自适应地为两个领域之间的分布差异分配权重, 以使源数据和目标数据变得相似.

3.3 评价指标

在软件缺陷预测领域, 一般会利用混淆矩阵来计算性能评价指标, 如表2所示. 其中TP表示正确预测为有缺陷的样本数, FP表示错误预测为有缺陷的样本数, FN表示错误预测为无缺陷的样本数, TN表示正确预测为无缺陷的样本数.

为了有效评估所提DPLD算法的预测性能, 本文选用了F-measure和AUC两个性能指标. F-measure是一个综合评价指标, 用于平衡召回率和精确度. F-measure的取值范围在0–1之间, 数值越高表示模型的分类效果越好. AUC是ROC曲线下方的面积, 是判断二分类预测模型性能高低的重要指标. ROC曲线的横坐标表示假阳率(pf), 纵坐标表示真阳率(pd). 当前者数值越大且后者数值越小时, AUC的值越大, 表明模型的预测性能越佳. 公式定义如下:

$ {{Precision}} = \frac{{TP}}{{TP + FP}} $

(15)

$ {{Recall}} = pd = \frac{{TP}}{{TP + FN}} $

(16)

$ {F\text{-measure}} = \frac{{2 \times {{Recall}} \times {{Precision}}}}{{{{Recal}}l + {{Precision}}}} = \frac{{2 \times TP}}{{2 \times TP + FP + FN}} $

(17)

3.4 实验设置

本文使用公开的数据集PROMISE来验证提出的算法. PROMISE数据集中包含12个项目, 每次实验中, 我们选择一个项目作为目标项目, 其余的项目依次作为源项目参与训练, 最后以本次实验中所有结果的平均值作为目标项目的最终预测结果. 每种预测组合随机重复实验50次. 此外, 由于本方法针对少量有标签的目标项目样本, 因此我们从目标项目中提取有标签的样本, 并将其纳入模型训练的流程中. 实验中随机选取20%的目标项目作为有标签的样本集, 剩下的80%作为无标签样本集.

3.5 实验结果与分析

RQ1: 所提的DPLD方法是否优于其他项目内或跨项目软件缺陷预测方法?

本文DPLD方法与其他项目内和跨项目预测方法(LR、NN-filter、DMDA_JFR)在F-measure和AUC上的性能表现如表3、表4所示.

从表3、表4中可以看出, 在大多数情况下, 本文方法表现出比其他基线方法更高的性能. 与项目内缺陷预测方法LR相比, F-measure、AUC分别提升了19.35%, 19.53%. 这是因为大部分缺陷数据集中实例的个数都是比较少的, 实例个数过少使得模型无法有效地学习具有高度泛化性的预测模型, 甚至面临类别不平衡和过拟合问题的严峻挑战. 因此, 通过深入地学习并构建不同项目间的分布映射关系, 尝试推断并拟合其他项目的缺陷分布, 有时可以获得更好的泛化效果. 此外, 与跨项目方法NN-filter、DMDA_JFR相比, F-measure分别提升了57.1%, 11.2%, AUC分别提升了11.09%, 17.2%. 这是因为NN-filter和DMDA_JFR方法在构建模型时, 只使用了源项目和目标项目之间的公共特征集, 忽略了其他特征中包含的有效信息, 而本文方法不仅借助边缘分布和条件分布同时考虑项目间的全局特征和局部特征, 而且动态地衡量了两种分布的贡献, 更有效地挖掘了项目中的特征信息, 提升了目标项目缺陷预测的性能.

RQ2: 本文采用的动态分布对齐方法是否优于其他分布匹配模型?

表5、表6分别表示DPLD方法与其他分布匹配模型(TCA+、JDA、BDA)在F-measure和AUC上的结果.

从表5、表6可见, 大部分情况下, 本文DPLD方法表现出比其他经典的分布匹配模型更好的预测性能. 在所有项目上, 本文方法相比于TCA+、JDA、BDA模型在F-measure上分别提升了29.36%、14.9%、5.97%, 在AUC上分别提升了20.62%、13.18%、9.62%. 这是因为TCA+模型只考虑了项目间的边缘分布对齐, 忽视了条件分布的影响; JDA模型虽然实现了边缘分布和条件分布的对齐, 但是没有考虑分布之间的相对重要性; 相对于BDA模型, 本文DPLD方法充分挖掘了目标项目的伪标签信息, 有效提升了预测性能. 本文DPLD方法与分布匹配模型的对比实验充分说明了本文同时考虑项目间的边缘分布和条件分布并动态调整分布的权重对提高模型性能具有关键作用, 考虑分布的动态对齐是非常有必要且有意义的.

RQ3: 本文采用的伪标签学习方法是否提升了模型的预测性能?

为了探究本文采用的伪标签学习方法对模型性能的提升效果, 我们进行了两种不同情况的验证: 一种是几何伪标签学习方法, 另一种是直接使用共享分类器进行伪标签的预测. 然后, 我们比较了两种情况下模型在评价指标F-measure和AUC上的预测结果, 结果如图2所示.

从图2可以明显看出, 使用共享分类器预测的伪标签所得的结果比使用几何相似度学习的伪标签所得的结果要差得多. 从均值上看, F-measure平均低了28.51%, 在AUC上平均低了11.09%. 这充分说明了本文采用的几何伪标签学习方法可以更好地提高目标项目伪标签的准确性, 提升预测模型的性能.

4 结论

软件缺陷预测一直是软件工程和数据挖掘领域的热门议题, 因为它对确保软件质量至关重要. 针对现有研究中忽视了分布差异的动态性和伪标签选择不合适问题, 本文提出了一种基于动态分布对齐和伪标签学习的跨项目缺陷预测方法, 主要通过域鉴别器分别构成域对齐和类别对齐模块来学习域不变的特征表示, 消除项目间的分布差异. 同时借助类别间的几何相似性更新伪标签, 提高伪标签的准确性. 在公开缺陷预测数据集PROMISE上的实验表明, 我们的方法可以有效减少项目间的分布差异, 并且与基线方法相比具有更好的预测性能. 本文方法目前仅适用于源项目数据和目标数据的一对一缺陷预测, 我们计划在后续的工作中重点探讨多对一的跨项目缺陷预测.