摘要:长时目标跟踪相对于短时目标跟踪仍然是一个巨大的挑战. 然而现有的长时跟踪算法通常在面对目标频繁出现消失、目标外观发生剧变等挑战中表现不佳. 本文提出了一种基于局部搜索模块和全局搜索跟踪模块的全新、鲁棒且实时的长时跟踪框架. 局部搜索模块利用TransT短时跟踪器生成一系列候选框, 并通过置信度评分确定最佳候选框. 针对全局重新检测开发了一个新颖的全局搜索跟踪模块, 以Faster R-CNN为基础模型, 在RPN阶段与R-CNN阶段引入非局部操作和多级实例特征融合模块, 以充分挖掘目标实例级特征. 为了改进全局搜索跟踪模块的性能, 设计了双模板更新策略来提升跟踪器的鲁棒能力. 通过使用不同时间点上更新的模板能够更好地适应目标的变化. 根据局部或全局置信度分数判断目标是否存在, 并在下一帧中选择局部或全局搜索跟踪策略. 同时能够为局部搜索模块估计目标的位置和大小. 此外还为全局搜索跟踪器引入了排名损失函数, 隐式学习了区域提议与原始查询目标的相似度. 通过在多个跟踪数据集上进行大量实验对提出的跟踪框架进行了广泛评估. 结果一致表明, 本文提出的跟踪框架实现了令人满意的性能.

摘要:神经网络的不确定性反映模型对自身预测结果的置信水平, 能在决策不可靠时促使及时的人工干预, 提升系统安全性. 然而, 现有度量方法常需要对模型或训练过程进行显著修改且实施复杂度高. 为此, 本文提出一种基于神经元统计建模分析的不确定性度量方法. 该方法充分利用模型单次前向传播过程中的激活值, 首先以改进的核密度估计技术构建神经元的激活分布, 模拟神经元的正常工作范围. 接着采用邻域加权密度估计方法计算异常因子, 用以量化测试样本与神经元激活分布的偏离程度. 最终通过统计方法综合各神经元的异常因子作为样本的异常统计量, 为模型不确定性的评估提供新的视角. 实验结果涵盖多个公开数据集和模型, 通过可视化特征图直观展示本文方法在区分域内外样本方面的显著效果. 此外, 本文方法在域外检测任务中表现出卓越性能, AUROC指标在多种实验设置下均超越其他现有方法, 验证提出方法的通用性和有效性.

摘要:分层联邦学习(hierarchical federated learning, HFL)旨在通过多层架构的协作学习, 同时保护隐私和优化模型性能. 但其效果需依赖于针对参与各方的有效激励机制及应对信息不对称的策略. 为了解决上述问题, 本文提出一种保护终端设备、边缘服务器及云服务器隐私的分层激励机制. 在边端层, 边缘服务器作为中介应用多维合约理论设计不同类型的契约项, 促使终端设备在不泄露数据采集、模型训练以及模型传输成本的情况下, 使用本地数据参与HFL. 在云边层, 云服务器与边缘服务器间关于单位数据奖励和数据量的关系通过Stackelberg博弈进行建模, 在不泄露边缘服务器单位利润的情况下, 进一步将其转化为马尔可夫过程, 并采用保护隐私的多智能体深度强化学习(multi-agent deep reinforcement learning, MADRL)方法逐渐接近斯塔克伯格均衡(Stackelberg equilibrium, SE). 实验结果表明, 本文提出的分层激励机制在性能上优于基线方法, 云服务器的收益提升了接近11%, 单位成本获取增益提升接近18倍.

摘要:目前基于深度学习的图像去噪算法无法综合考虑局部和全局的特征信息, 进而影响细节处的图像去噪效果, 针对该问题, 提出了融合CNN和Transformer的图像去噪网络(hybrid CNN and Transformer image denoising network, HCT-Net). 首先, 提出CNN和Transformer耦合模块(CNN and Transformer coupling block, CTB), 构造融合卷积和通道自注意力的双分支结构, 缓解单纯依赖Transformer造成的高额计算开销, 同时动态分配注意力权重使网络关注重要图像特征. 其次, 设计自注意力增强卷积模块(self-attention enhanced convolution module, SAConv), 采用递进式组合模块和非线性变换, 减弱噪声信号干扰, 提升在复杂噪声水平下识别局部特征的能力. 在6个基准数据集上的实验结果表明, HCT-Net相比当前一些先进的去噪方法具有更好的特征感知能力, 能够抑制高频的噪声信号从而恢复图像的边缘和细节信息.

摘要:小目标检测作为目标检测中一项极具挑战性的项目, 广泛分布于日常生活中, 在视频监控场景中, 距离摄像头约20 m远处的行人人脸就可以被认为是小目标. 由于人脸可能相互遮挡并容易受到噪声和天气光照条件的影响, 现有的目标检测模型在这类小目标上的性能劣于中大型目标. 针对此类问题, 本文提出了改进后的YOLOv7模型, 添加了高分辨率检测头, 并基于GhostNetV2对骨干网络进行了改造; 同时基于BiFPN和SA注意力模块替换PANet结构, 增强多尺度特征融合能力; 结合Wasserstein距离改进了原来的CIoU损失函数, 降低了小目标对锚框位置偏移的敏感性. 本文在公开数据集VisDrone2019以及自制的视频监控数据集上进行了对比实验. 实验表明, 本文提出的改进方法mAP指标在VisDrone2019数据集上提高到了50.1%, 在自制视频监控数据集上高于现有方法1.6个百分点, 有效提高了小目标检测的能力, 并在GTX1080Ti上达到了较好的实时性.

摘要:在语义分割任务中, 编码器的下采样过程会导致分辨率降低, 造成图像空间信息细节的丢失, 因此在物体边缘会出现分割不连续或者错误分割的现象, 进而对整体分割性能产生负面影响. 针对上述问题, 提出基于边缘特征和注意力机制的图像语义分割模型EASSNet. 首先, 使用边缘检测算子计算原始图像的边缘图, 通过池化下采样和卷积运算提取边缘特征. 接着, 将边缘特征融合到经过编码器提取的深层语义特征当中, 恢复经过下采样的特征图像的空间细节信息, 并且通过注意力机制来强化有意义的信息, 从而提高物体边缘分割的准确性, 进而提升语义分割的整体性能. 最后, EASSNet在PASCAL VOC 2012和Cityscapes数据集上的平均交并比分别达到85.9%和76.7%, 与当前流行的语义分割网络相比, 整体分割性能和物体边缘的分割效果都具有明显优势.

摘要:多任务学习在自然语言处理领域有广泛应用, 但多任务模型往往对任务间的相关性比较敏感. 如果任务相关性较低或信息传递不合理, 可能会严重影响任务性能. 本文提出了一种新的共享-私有结构的多任务学习模型BB-MTL (BERT-BiLSTM multi-task learning model), 并借助元学习的思想为其设计了一种特殊的参数优化方式MLL-TM (meta-learning-like train methods). 进一步引入一个新的信息融合门SoWLG (Softmax weighted linear gate), 用于选择性地融合每项任务的共享特征与私有特征. 实验验证所提出的多任务学习方法, 考虑到用户在网络上的行为与其个体特征密切相关, 文中结合了不良言论检测、人格检测和情绪检测任务进行了一系列实验. 实验结果表明, BB-MTL能够有效学习相关任务中的特征信息, 在3项任务上的准确率分别达到了81.56%、77.09%和70.82%.

摘要:近来, 工业控制系统的身份认证和数字签名等安全问题受到越来越多的关注. 本文将去中心化的CFL认证体制引入到工控系统身份认证中, 提出了基于CFL的工控系统签名认证方案, 建立了基于CFL认证体制的工控系统认证模型CFL-SYS, 引入UKey作为证书载体, 实现了签名验证过程去中心化; 通过计算用户ID的哈希值生成随机私钥和标志私钥实现一人一密, 满足了用户对私钥的私有权并且保护了用户的隐私. 理论分析和实验结果表明, 本文方案在吞吐量、系统验证响应时间等性能上能够满足毫秒级应用需求, 能为大规模工业控制系统提供一种自主、可靠、高效的签名认证方案.

摘要:图像分割经历了从基于传统的阈值分割等方法逐步发展到基于卷积神经网络的方法. 传统的卷积神经网络在分割领域中表现突出, 但训练速度慢、分割精度不够高等局限性也逐渐显现. 为了克服这些局限性, 本文在TransUNet网络的基础上进行改进, 提出了基于BM-TransUNet网络的图像分割识别方法, 在TransUNet网络的在第1层之后加上深度可分离卷积模块, 并在编码器下采样的卷积层后引入注意力机制模块, 让算法更好地探索分割对象特征, 同时在编码器与解码器之间引入多尺度特征融合模块FPN. 本文基于自制的咽后壁数据集, 用于图像分割训练, 并将训练后的BM-TransUNet网络与多种传统分割网络的效果进行对比. 实验结果表明, 相比于其他传统的深度学习模型, BM-TransUNet网络的识别方法具有较高的分类准确性和泛化能力, 精确度Precision和Dice系数分别达到了93.61%和90.76%, 显示出较好的计算效率, 能有效地应用于分割任务.

摘要:SimCSE框架仅使用分类令牌[CLS]token作为文本向量, 同时忽略基座模型内层级信息, 导致对基座模型输出语义特征提取不充分. 本文基于SimCSE框架提出一种融合预训练模型层级特征方法SimCSE-HFF (SimCSE with hierarchical feature fusion, SimCSE-HFF). SimCSE-HFF基于双路并行网络, 使用短路径和长路径强化特征学习, 短路径使用卷积神经网络学习文本局部特征并进行降维, 长路径使用双向门控循环神经网络学习深度语义信息, 同时在长路径中利用自编码器融合基座模型内部其他层特征, 解决模型对输出特征提取不充分的问题. 在STS-B的中文与英文数据集上, SimCSE-HFF方法效果在语义相似度Spearman和Pearson相关性指标上优于传统方法, 在不同预训练模型上均得到提升; 在下游任务检索问答上也优于SimCSE框架, 具有更优秀的通用性.

摘要:准确预测风电机组各项指标对准确管控机组和调控电网的供需有着重要意义. 预测指标任务可抽象为风电时间序列预测任务. 目前时间序列预测模型主要采用深度学习模型, 但是风电时间序列具有较强的波动性和随机性, 导致绝大部分模型不能较好挖掘风电时间序列的复杂演化特性. 为解决上述问题, 提出了一种基于渐进式分解架构的风电时间序列预测方法, 该方法首先应用神经网络池化分解方法将复杂的依赖关系简化并应用注意力机制学习长期趋势, 然后运用多变量融合捕捉模块增强了网络整体的多变量关联挖掘能力, 最后, 融合趋势项和周期项对风电时间序列做出准确的预测. 实验结果表明, 该方法在风电时间序列的多步预测中均方误差相比基线模型至高可提升24%, 在多尺度预测长度下表现出预测性能稳定提升的同时, 计算效率显著优于同类模型.

摘要:在基于深度学习的单目图像深度估计方法中, 卷积神经网络在下采样过程中会出现图像深度信息丢失的情况, 导致物体边缘深度估计效果不佳. 提出一种多尺度特征融合的方法, 并采用自适应融合的策略, 根据特征数据动态调整不同尺度特征图的融合比例, 实现对多尺度特征信息的充分利用. 由于空洞空间金字塔池化(ASPP)在单目深度估计任务中, 会丢失图像中的像素点信息, 影响小物体的预测结果. 通过在对深层特征图使用ASPP时融合浅层特征图的丰富特征信息, 提高深度估计结果. 在NYU-DepthV2室内场景数据集的实验结果表明, 本文所提方法在物体边缘处有更准确的预测, 并且对小物体的预测有明显的提升, 均方根误差(RMSE)达到0.389, 准确率(δ <1.25)达到0.897, 验证了方法的有效性.

摘要:针对传统U型网络特征冗余以及视网膜血管形态复杂、细血管分割困难等问题, 提出一种基于改进U-Net的多流视网膜血管分割算法. 算法包含两种特征流向, 分别是全局分割流与边缘特化流. 为了减少特征冗余, 全局分割流在部分卷积的基础上采用快速提取模块替代传统的U-Net卷积块, 构建了能够高效提取血管特征、加快算法推理速度的改进U-Net模型; 为了减少噪声干扰、提升细血管的分割精度, 边缘特化流利用形态学生成的边缘标注信息为指导, 采用多个边缘提取模块, 结合全局分割流的高级语义特征以及边缘注意力, 更具针对性的提取血管细节信息, 增强细血管的特征表达. 在DRIVE与STARE数据集上进行了算法的有效性测试, 敏感度分别为0.8415和0.8369, 准确率分别为0.9701和0.9718, AUC值分别为0.9877和0.9909, 整体性能优于现有算法.

摘要:针对无人机航拍检测任务中小目标检测精度低的问题, 提出一种基于YOLOv8n的目标检测算法(SFE-YOLO). 首先, 嵌入浅层特征增强模块, 将输入特征的浅层空间信息与颈部获取的深层语义信息融合, 以增强小目标特征表示能力, 并使用全局上下文块(GC-Block)对融合信息进行重校准, 抑制背景噪声. 其次, 引入可变形卷积来代替C2F中的部分标准卷积, 提高网络对几何变化的适应性. 再次, 引入ASPPF模块, 融合平均池化技术, 增强模型对多尺度特征的表达并降低漏检率. 最后, 在颈部网络的基础上嵌入中尺度特征合成层, 融合主干网络中更多的中间特征, 使不同尺度的特征过渡更平滑, 并通过跳跃连接增强特征重用性. 该模型在数据集VisDrone2019和VOC2012上进行验证, mAP@0.5值达到30.5%和67.3%, 相较于基线算法YOLOv8n提升了3.6%和0.8%, 能够提升无人机图像目标检测性能, 同时具有较好的泛化性.

摘要:基于GCN的协同过滤模型在推荐领域取得了较好的效果, 但现有的图协同过滤学习方法通常不区分用户和项目的交互关系, 不易挖掘用户行为的潜在意图. 因此, 提出了一种融合结构邻居和语义邻居的解耦图对比学习推荐模型. 首先, 将用户和项目嵌入投影到独立空间进行意图解耦; 其次, 在图传播阶段, 依据用户和项目的意图特征挖掘其潜在语义邻居, 根据意图相似性对结构邻居和语义邻居进行解耦表征学习, 生成用户和项目的完整高阶表示. 在对比学习阶段, 对节点进行随机扰动并生成对比视图, 构建结构和语义的对比学习任务; 最后, 根据多任务策略, 对监督任务和对比学习任务进行联合优化. 在真实数据集Yelp2018和Amazon-Book上的实验表明, 提出的模型相比最优基准模型NCL在两个数据集上的Recall@20指标提高了7.54%、5.65%, NDCG@20指标提高了8.57%、6.28%.

摘要:多视图聚类旨在从不同视图的多样性信息中, 学习到更加全面和准确的共识表示, 以提高模型的聚类性能. 目前大部分多视图聚类算法采用希尔伯特-施密特独立性准则(HSIC)或自适应加权方法从全局考虑各视图的多样性, 忽略了各视图样本之间的局部多样性信息学习. 针对上述问题, 提出了多样性引导的深度多视图聚类算法. 首先, 提出了融合多头自注意力机制的软聚类模块, 多头自注意力机制用来学习全局多样性, 软聚类模糊C均值算法用来学习局部多样性; 其次, 在深度图自编码器网络结构中引入软聚类模块, 以达到多样性信息引导潜在表示生成的目的; 然后, 将得到的各视图潜在表示进行加权融合得到共识表示, 并采用谱聚类算法对共识表示进行聚类; 最后, 在3个常用数据集上进行了对比实验和消融实验. 实验结果表明, 提出的聚类算法具有良好的聚类效果, 以及提出的多样性信息学习模块可以有效提高算法聚类性能.

摘要:人工神经网络(artificial neural network, ANN)在众多领域取得了显著进展, 但其对计算资源和能耗的高需求限制了其在硬件端的部署和应用. 脉冲神经网络(spiking neural network, SNN)因其低功耗和快速推理的特性, 在神经形态硬件上表现出色. 然而, SNN的神经元动态和脉冲发放机制导致其训练过程复杂, 目前主要研究集中在图像分类任务上, 本文尝试将SNN应用于更为复杂的计算机视觉任务. 本文以YOLOv3-tiny网络为基础, 提出了Spiking YOLOv3模型, 其符合SNN特性的网络模型, 在检测任务上实现了更高的准确度, 并将平均推理时间减少至约原来工作的1/4. 此外, 我们还分析了ANN-SNN转换过程中产生的转换误差, 并采用量化激活函数对Spiking YOLOv3模型进行了优化以减小转换误差. 优化后的模型平均推理时间减少至约原来的1/2, 并在VOC与UAV数据集上实现在ANN-SNN无损转换, 显著提升了基于该模型的检测效率.

摘要:持续关系抽取旨在训练模型从不断变化的数据流中学习新关系, 同时保持对旧关系的准确分类. 然而, 由于神经网络的灾难性遗忘问题, 模型在学习完新关系之后, 对旧关系的识别能力往往会大幅度降低. 为了缓解灾难性遗忘对模型性能的影响, 本文提出了一种基于对比学习和焦点损失的持续关系抽取方法. 首先, 在训练集与其增强样本集的并集上训练模型, 以学习新任务; 其次, 从训练集中, 为每个新关系选取并存储记忆样本; 然后, 将激活集中的示例与所有已知关系原型进行对比, 以学习新旧关系; 最后, 利用关系原型进行记忆再巩固, 并引入焦点损失提高模型对相似关系的区分. 在TACRED数据集上进行实验, 结果表明本文方法能够进一步缓解灾难性遗忘问题, 提升模型的分类能力.

摘要:在支持纠删码的分布式存储系统中, 最常用的编码是RS (Reed-Solomon)码. 对于一个RS(k, m)编码条带, 常见的配置是一个节点仅存储条带中的一个分片, 这导致在节点出现故障的情况下, 对其存储分片的恢复需要跨多个节点读取分片并重新编码生成恢复分片, 容易造成系统网络拥塞. 在需要恢复大量数据的场合, 系统在恢复期间会处于较长时间的脆弱期, 容错能力和吞吐量下降、读写时延升高时有发生. LRCRaft是一个基于LRC (local reconstruction code)的改进Raft共识协议, 通过在Raft中引入LRC码、动态日志增补、状态机删减和分片版本一致性等机制, 降低了Raft的读写时延, 缩短了节点故障恢复时间. 实验结果表明, 相较于Raft, LRCRaft在不同恢复模式中恢复一个单节点故障数据时, 恢复用时有着49.25%–74.97%的减少.

摘要:基于谱聚类的无监督特征选择主要涉及相关系数矩阵和聚类指示矩阵, 在以往的研究中, 学者们主要关注于相关系数矩阵, 并为此设计了一系列约束和改进, 但仅关注相关系数矩阵并不能充分学习到数据内在结构. 考虑群组效应, 本文向聚类指示矩阵施加$F$范数, 并结合谱聚类以使相关系数矩阵学习更为准确的聚类指示信息, 通过交替迭代法求解两个矩阵. 不同类型的真实数据集实验表明文中方法的有效性, 此外, 实验表明$F$范数还可以使方法更加鲁棒.

摘要:车辆行驶过程中, 对前方目标的检测速度和检测精度一直是自动驾驶领域研究的重点. 针对现有的目标检测算法模型, 在复杂交通环境下, 传统模型面对重叠目标容易导致误检和漏检的情况发生, 大幅度提高检测精度又会造成计算量过大导致处理速度缓慢, 实时性下降的问题. 本文提出基于YOLOv5模型的改进算法. 首先采用MobileNetV3网络替换原模型中主干网络C3的方案, 实现网络仍保持轻量化的同时, 提高模型响应速度. 其次, 提出一种非极大值抑制算法Adaptive-EIoU-NMS来提高重叠目标的识别精度. 最后采用K-means++聚类算法替换原有聚类算法, 生成更精确的锚框. 实验结果表明, 改进后的模型平均检测精度达到90.1%, 检测速度达到89 f/s. 实验结果可以证实, 改进后的模型针对复杂场景检测精度和检测速度都有显著提高.

摘要:大规模、数字化的产业互联“智造”供需网相比于传统供应链具有更强的响应调节能力和风险预防与恢复能力, 但可能面临的风险种类更多且风险传播路径更广, 导致其鲁棒性更易受到威胁, 准确描述网络中故障风险的动态传播过程是提高其鲁棒性的基础. 首先, 构建具有多个产业社团的产业互联“智造”供需网模型; 其次, 结合业务节点间相对关联度, 构建具有相对故障概率的风险传播模型, 再根据节点重要程度, 建立同时考虑恢复概率和恢复周期的故障恢复模型; 最后, 基于改进引力模型构建网络, 以网络相对连通率R作为指标, 对不同故障和恢复场景下的级联失效进行仿真分析. 仿真结果表明: 在4组不同故障和恢复场景下均存在临界值导致R值长期处于不稳定状态; 参数η和μ对R值的影响均具有一定的边际效应; 当网络故障传播能力一定时, 恢复能力越弱则R值振荡越明显, 网络受影响规模越大, 而当恢复能力一定时, 故障强度越强R值振荡越明显, 网络受影响规模越大.

摘要:网络功能虚拟化(NFV)技术的出现使得网络功能由虚拟网络功能(VNF)提供, 从而提高网络的灵活性, 可扩展性和成本效益. 然而, NFV面临一个重要挑战是, 如何有效地将VNF放置不同的网络位置并链接起来引导流量, 同时最大限度减少能源消耗. 此外, 面对网络服务质量要求, 提高服务接受率对于网络性能也是至关重要的. 为了解决这些问题, 本文研究了NFV中的VNF放置和链接(VNFPC), 以最大化服务接受率同时权衡优化能源消耗. 因此, 在NFV中设计了一种基于Actor-Critic深度强化学习(DRL)的能源高效的VNFPC方法, 称为ACDRL-VNFPC. 该方法应用了适应性共享方案, 通过在多服务之间共享同类型VNF和多VNF共享同一个服务器来实现节能. 实验结果表明, 提出的算法有效权衡了能耗和服务接受率, 并且, 在执行时间方面也得到了优化. 与基准算法相比, ACDRL-VNFPC在服务接受率, 能耗和执行时间方面性能分别提高了2.39%, 14.93%和16.16%.

摘要:以往机器阅读理解模型中存在文本特征提取单一, 文本和问题的交互信息不全面等问题, 导致模型不能充分对文本进行理解, 本文提出了一种多层次信息融合的机器阅读理解模型. 通过在不同位置使用不同方法, 对文本信息进行多种层次的获取. 使用膨胀卷积网络捕捉文本的全局信息, 采用双向注意力机制和自注意力机制融合文本和问题之间的交互信息, 通过指针网络预测答案及其对应的支撑句. 该模型在CAIL2019和CAIL2020阅读理解数据集上训练的联合F1值分别达到50.09%和58.44%, 相比于其他基线模型取得了明显的性能提升.

摘要:固体运载火箭作为我国航天运输系统的重要组成部分, 具有整箭贮存运输、快速发射响应等特点, 在军民商发射领域受到广泛青睐. 针对车载起重设备在自动化转载运载火箭中面临的执行机构变形所导致的对准误差问题, 本文提出了基于两级对准模型的运载火箭自动转载方法, 以解决常规转载方法无法应对的机构变形误差闭环检测缺陷, 通过蒙特卡洛仿真对所提方法进行了验证. 结果表明: 相比于常规转载方法, 所提方法的一次转载成功率约为96%, 解决了重载大变形下自动转载对准精度问题, 转载精度良好, 可以保证车箭精确对接.