随着金融行业的数字化程度不断提升, 行业迅猛发展的同时也产生了海量的半结构化、非结构化等形态的数据, 这诸多类型的数据信息往往蕴含了丰富的金融业务知识与逻辑, 同时也对经济社会, 乃至金融业务的发展产生了越来越重要的推动作用. 对于金融投资与研究来说, 其核心在于能够从市场包罗万象的数据信息对资产未来的价格走势进行预测判别, 通过对信息的深入分析, 可以缓解信息不对称, 有助于实现更精准的投资决策. 在传统的金融投研工作过程中, 各类结构化数据往往是常用的主要信息来源, 其价值已在较大程度上得到释放; 而文本类信息由于在解析上有更大挑战, 其业务价值尚未能像结构化数据一样被充分利用, 需要通过新技术进行深度挖掘.

金融科技蓬勃发展, 已成为推动金融业务发展的新引擎^[1]. 在大数据、人工智能、知识图谱等金融科技核心技术的驱动下, 投资研究也正在向智能化转变^[2], 一方面通过自然语言处理等技术对非结构化数据的工程化处理, 能提升研究中数据采集、信息挖掘的效率与及时性, 并对跨渠道、跨领域的不同信息进行关联整合, 形成更丰富的知识体系; 另一方面通过机器学习算法模型形成更优的投资策略, 能增强投资中分析预测、趋势研判的精准性与前瞻性, 也能降低人为情绪波动对科学决策的影响. 为此, 打造以前沿技术为支撑的智能化投研平台, 是当前形势下资产管理业务提升投研效率、增强市场竞争力的新利器^[3].

1 金融行业相关智能化投研建设与技术应用 1.1 国内外智能化投研平台探索与实践

国外较早涌现了各类智能化投研平台, 其应用主要是集中在非结构化数据的采集、抽取、整合、分析等方面, 为市场研判、投资决策等提供更深度的信息支持^[4], 如Kensho的智能投研平台基于AI平台对经济社会各领域信息进行挖掘提炼, 并结合知识图谱技术构建了金融事件图谱, 能及时预测各类事件对金融资产价格的影响^[5]; Alphasense的智能投研平台通过自然语言处理与知识图谱技术对各种金融文档进行结构化、实体化、知识化沉淀, 形成对广泛金融信息进行交互式搜索、管理和再加工的服务. 国内的基金、证券等金融机构也在积极探索智能化投研平台的建设, 如天弘基金采用垂直搜索、网络爬虫、人工智能等技术打造了智能投研平台^[6], 能及时捕捉金融市场信息, 并对各类金融事件进行关联分析; 工银瑞信基金智能投研平台基于自然语言处理与AI技术, 主要实现了数据抽取与解析、知识图谱、智能搜索、智能推荐等服务, 在对外部行业信息与内部研究成果进行整合、沉淀, 提升研究的价值.

1.2 智能金融投研平台核心技术应用研究

智能投研平台主要涵盖了信息提取、关系识别、情感分类等主要功能, 自然语言处理、AI与知识图谱则是实现这些功能的核心技术. 罗平^[7]指出, 以LSTM为主的深度学习算法已成为金融文本信息提取的主流, 尤其是Bi-LSTM在命名实体识别、关系抽取等方面都表现出较大的优越性; 黄胜等^[8]采用Bi-LSTM+CRF神经网络结构, 并结合领域词典, 抽取金融文本中的结构化信息, 发现该方法较传统的规则匹配有较大提升效果, 且能满足多种类文本的提取需求; 陈剑南等^[9]采用双向LSTM结合多重注意力机制模型提取金融事件中实体间的关系, 并基于Neo4j数据库构建了金融事件图谱, 对金融事件之间的联系形成更精准的画像; 赵亚南等^[10]指出Attention机制已广泛用于各类文本任务, 并通过实验表明基于多头注意力机制的Transformer模型在金融文本极性分析上取得较好的效果; 马远等^[11]在目标方面词的左右分别采用Bi-GRU和Attention机制提取双边的语义信息, 并将双边特征与目标词结合起来识别文本的情感类别, 实现对文本语义更细粒度的处理; 赵澄等^[12]在对金融文本进行情感分类的基础上, 将情感的正负面类别作为关键特征加入股票预测模型, 实验结果表明该方法提升了股票价格预测的准确性.

智能投研相关的行业性研究主要集中在两方面, 一是侧重于行业应用与案例的介绍, 对智能化技术及平台构建方法的探讨尚有不足; 二是注重对实现某一项功能的技术探索, 缺乏对平台整体技术与应用架构的研究. 为此, 本文从智能投研平台建设的整体架构出发, 提出了融合大数据、自然语言处理、机器学习与知识图谱等技术的智能化平台的研发设计与应用实现方案, 重在探索智能化技术在金融投研场景中的落地路径及应用范式.

2 智能金融投研平台的开发设计

智能金融投研平台的建设主要由数据处理层、智能分析层、业务领域应用等部分构成, 对非结构化文本信息进行解析、提取、整合与关联, 实现投资研究中知识搜索、分析预测等功能, 为金融投资、财富管理等各业务领域提供多维度的智能化投研服务. 该智能金融平台整体架构如图1所示.

整个平台最底层对接多种数据源, 涵盖了研究报告、企业公告、新闻信息、媒体网站等外部信息, 以及内部的投研相关信息, 采用Sqoop/Flume将各类数据源中的关系型及非关系型数据导入数据处理层中. 数据处理层集成了多种主流的大数据功能组件, 为多源异构数据的存储、转换、加工及复杂计算等提供能力支持. 该层采用Hadoop分布式系统处理架构, 通过HDFS实现对投研领域长时间、跨渠道数据的存储; 基于HBase和Phoenix解决对金融信息准实时查询的性能问题; 依托SparkSQL实现对行业信息的复杂规则计算及灵活的数据探索; 通过SparkGraphX图计算引擎进行全局的、多层次的金融知识图谱分析计算. 数据处理层还配置了Neo4j、Janus Graph等图数库, 支持从文本中提取出的数据信息以图结构的形式进行存储及查询展示; 同时, 这些预处理信息也通过构建索引的形式存储在ElasticSearch搜索分析引擎中, 实现高灵活性、高准确性、低延时及大规模并行化的检索查询^[13].

智能分析层在数据处理层提供的存储、计算等资源支持下, 主要涵盖3部分: 一是将AI算法与语义理解领域技术相结合, 构建出面向投研领域的各类应用型算法模型, 形成对金融文本的多种处理能力, 从而提取出有价值的数据信息并进行相应的业务预测; 二是基于从金融文本中提取出的结构化信息, 构建金融知识图谱, 形成对金融知识与研究成果的沉淀与关联, 并实现快速的检索查询及分析推理; 三是整合语义理解及金融知识图谱的分析预测结果, 最终形成舆情分析、观点提取等多种投研领域的智能化中台服务, 可供行业研究、资产管理等不同业务领域灵活调用, 赋能金融业务的数字化、智能化转型.

2.1 非结构化分析子平台

结构化分析子平台是整个智能化投研建设的关键部分, 以自然语言处理技术和AI算法为核心支撑, 通过两者的结合, 尤其是深度学习算法的应用, 使平台进一步形成了对金融文本语义的深度理解能力, 从而更精准地实现各类文本非结构化任务以及智能化金融分析服务. 平台的这部分功能^[14]主要在于, 一是金融信息的工程化处理, 即对金融文本中的段落、句子、词语等进行细致地识别与提取, 并形成金融信息网络, 促进文本等非结构化信息的结构化、实体化以及标准化; 二是金融分析预测, 对各种纷繁信息进行灵活的再组合、再挖掘, 评估相关信息对金融事件或金融资产的影响. 该子平台的整体架构如图2所示.

该子平台集成了各类AI基础算法及主流开发框架, 塑造了多维的语义理解能力, 形成了针对金融文本的分词、命名实体识别等基础任务, 最终构建了面向不同应用的金融文本相关分析服务. 在开发框架上, 除了Sklearn、TensorFlow、PyTorch等机器学习、深度学习框架, 还引入了HanLP、Time-NLP自然语言处理等自然语言处理的专业框架, 以提升对文本进行基础处理的能力和效率. 基于丰富的开发框架, 平台涵盖了传统的自然语言处理算法及深度学习AI算法, 形成了更完善的基础算法体系, 能根据不同的金融文本非结构化信息的处理及分析目标, 对各类基础算法进行灵活的组合、重构与优化, 从而构建出相应的应用型算法模型, 也形成了针对金融文本非结构化信息的多维语义理解能力. 在此基础上, 平台一方面能高效地实现分词、关键词抽取、命名实体识别等处理任务, 为后续的金融分析服务提供更高质量的数据基础. 另一方面在结构化信息的基础上, 形成了对金融文本的信息分类、观点摘要、舆情分析等智能化应用服务.

结合工程实践与应用场景特点, 经多次反复验证模型效果, 本文确定了相关金融业务场景的模型技术架构. 考虑到金融文本处理相关任务及应用类型较多, 表1展示了本方案中最主要的几类任务.

命名实体识别是文本处理的一项基础任务, 主要目的在于从语料中提取出特定类型的主体, 是构建金融知识图谱的关键环节. 通用领域的命名实体大致分为人名、地名、机构名、时间、日期、货币和百分比等7类, 而在特定领域, 命名实体则有着更多更细致的类型, 如金融债券业务中, 债券名称、发行要素、经济指标、财务指标等均为重要的实体内容. 在实体识别的方法上, 时间、日期、货币、百分比等可以通过语言模板及正则表达式等模式匹配的方式被较好地提取出来, 而其他实体由于形式的多样化, 具有更高的提取难度, 需要借助AI算法模型实现更精准的识别. 本文方案中, 主要采用BERT与CRF结合的深度神经网络模型, 该模型在具体实现过程中所采用的技术架构如图3所示.

BERT采用多层双向Transformer机制进行编码和解码, 能够将输入句子中的每一个词与其前后所有的词进行关联, 通过对长距离特征的捕获, 更完整地理解整体的语义信息^[15]; CRF将当前节点的输出序列与相连节点的输出序列相关联, 能更有效地解决序列标注和预测问题^[16], 两者结合起来可以更精确地对文本进行划分, 并识别出语句的含义. 在命名实体识别过程中, 一般采用线性链CRF, 当输入变量X取值为x时, 其输出变量Y取值为y的条件概率函数形式为:

$ \begin{split} P(y|x) =&\frac{1}{{Z(x)}}\exp \left(\sum\limits_{i, k} {{\lambda _k}{t_k}({y_{i - 1}}, {y_i}, x, i)} + \sum\limits_{i, t} {\mu _l}{s_l}({y_i}, x, i)\right) \hfill \end{split} $

(1)

$ \begin{split} Z(x) =& \sum\limits_y \exp \left(\sum\limits_{i, k} {{\lambda _k}{t_k}({y_{i - 1}}, {y_i}, x, i)} + \sum\limits_{i, t} {\mu _l}{s_l}({y_i}, x, i)\right) \hfill \end{split} $

(2)

其中, t_k和S_l分别是转移特征函数和状态特征函数, λ_k和μ_l分别为对应的权重, Z(x)是规范化因子, 表示所有可能的输出序列的概率取值总和. 在实际金融业务建模中, 模型的训练目标为使真实序列发生的概率在所有可能生成的序列中占比最高.

关系抽取是指自动识别文本中实体对之间的语义关系类型, 是构建知识图谱、实现文本信息结构化的重要步骤, 也是文本处理的一项基础任务. 如, “任正非1987年在深圳成立了华为公司”这句话, “任正非”相对于“华为”的关系为“创始人”. 目前关系抽取在完全监督、远程监督、联合抽取等不同方法上都有较多经典的算法模型, 本文方案中基于识别出的实体, 采用远程监督方法进行关系识别. 该模型的技术架构如图4所示.

该模型设计上, 先是构建词向量(word embedding)和位置向量(position embedding), 在对词义进行刻画的同时, 也融入了实体对之间的位置信息; 然后采用PCNN (piece-wise convolutional neural networks)^[17], 根据实体的位置进行分段池化, 提取得到句子级的特征, 再通过attention对句子特征赋予不同的权重, 降低instance的噪声, 加权后的结果将形成整个bag的表征. 模型最后的输出为bag与每个relation的相似度, 作为在该relation维度上的得分, 此处用向量的点积进行相似度的计算^[18], relation的得分表示为:

$ f(b, c) = {W^c} \cdot s $

(3)

其中, W^c表示由每一类relation向量组成的关系矩阵; s表示attention加权后整个bag的特征. 同时, 该模型将pairwise ranking loss作为优化目标^[19], 在尽量增加正样本得分的同时, 尽量减小负样本的得分, 使正负样本之间形成更加清晰的区分, 构建的损失函数如下所示:

$ \begin{split} L =& \ln [1 + \exp (r({\rho ^ + } - f(b, {c^ + }))] \hfill \\ &+ \ln [1 + \exp (r({\rho ^ - } + f(b, {c^ - }))] \hfill \end{split} $

(4)

其中, r为缩放调整因子, ρ⁺, ρ⁻ 分别表示正负样本的margin, 表示标签为正样本的得分, 则表示负样本的得分.

情感分析是指基于对一段文本的语义理解, 识别其所带有的情感色彩, 如正面或者负面等, 目前已具有较广泛的应用. 情感分析最常应用于分析客户对商品的评价, 以判断客户的满意程度. 在金融领域, 情感分析主要用于对新闻政策、公众舆论、社会事件等方面的挖掘预测, 捕获这些因素对企业或金融资产价格可能的影响, 以辅助进一步的分析决策. 在情感分析模型的构建上, 对正面、负面或者中性等的判断可以看成是一个多分类问题. 由于在一句文本中, 对于不同主体常常有不同的情感类型, 本文对经典Bi-LSTM+Attention模型进行改进, 针对目标词进行左右两边注意力机制提取关键特征, 形成针对特定主体的方面情感识别. 该模型技术架构如图5所示.

以图5为例, “安庆政府为安庆城投提供财政支持”这句话中, “安庆城投”分析的目标主体, 以此确定左侧文本为“安庆政府为”, 右侧文本为“提供财政支持”. Bi-LSTM在单向LSTM的基础上再增加一层反向循环层, 将正反两层网络的处理值拼接起来, 能全面地提炼出整条文本的语义特征^[20]; 在此基础之上, 根据目标词的位置, 对左侧文本、目标词、右侧文本分别采用Attention机制进行特征赋权, 最终将3部分的特征组合起来形成针对目标词的整条文本表征向量r_s, 具体计算表示如下:

$ {r_s} = {H_1}\alpha _1^{\rm{T}} + {H_2}\alpha _2^{\rm{T}} + {H_3}\alpha _3^{\rm{T}} $

(5)

其中, H_i为Bi-LSTM层在左侧文本、目标词、右侧文本这3个模块的输出, α_i^T相当于3个模块attention层的权重矩阵; 最后再通过Softmax函数输出类别的概率, 给定输入文本S, 其输出为:

$ P(y|S) = {\textit{Softmax}}(W \cdot {r_s} + b) $

(6)

采用交叉熵损失函数作为优化目标, 计算如下所示:

$ L = - \sum\nolimits_{i = {\text{1}}}^c {{y_i}} \ln {P_i} $

(7)

其中, y表示样本的类别标签, P(y)表示模型预测样本为相应类别概率, c表示类别的数目.

2.2 金融知识图谱子平台

金融知识图谱主要是通过大规模语义网络, 将金融领域中结构化、半结构化、非结构化等不同类型的数据进行整合. 图谱以实体或者概念作为节点, 节点之间以关系为边相连接, 通过图数据库以网络连接的形式进行可视化查询分析, 能够推动决策支持、个性化推荐等服务的智慧化发展^[21].

在金融投研领域, 行业信息及研究成果等大都以文本的形式存在, 信息之间缺乏关联性, 且分布零散, 难以形成对知识的沉淀. 通过知识图谱技术将跨领域、跨行业、跨主体的金融业务信息关联起来, 形成深度的金融信息网络, 对增强研究的深度与广度、提升金融投研工作的精准性有重要的价值和意义, 也能使搜索推荐、分析预测、查询决策等金融服务更加智慧, 进而增强金融机构投研业务的智能化水平. 本方案中, 金融知识图谱子平台的架构如图6所示.

金融知识图谱的构建基于结构化、非结构化、半结构化等不同类型的数据, 其中结构化数据, 如产能、产量等标准化数据可直接通过表结构转换进行信息整合提取; 而对于大量的非结构化金融文本来说, 需要依托前述的文本处理相关技术提取出文本中的实体、关系、属性等价值信息, 以进行后续的关联与分析, 这也是整个金融知识图谱开发中极为关键也具有难度的环节. 对提取出的信息进行同义实体的对齐、统一, 以及结构转换与信息关联, 并以“实体-关系-实体”“实体-关系-属性”的三元组等形式进行知识表示. 将融合好的知识信息存储在Neo4j、Janus Graph等图数据库, 以及ElasticSearch等查询引擎中, 以实现快速的图可视化查询, 以及深度的图挖掘分析, 最终支持知识检索、事件推理、资产配置等金融投研领域的业务应用^[22].

3 智能金融投研平台的行业应用

本文以地方政府城投债相关金融文本作为实验数据, 依托AI算法, 基于自然语言理解能力对文本信息进行抽取, 实现金融文本的工程化、结构化处理, 并结合知识图谱技术进行实体、关系、属性的链接, 构建了城投债领域的金融知识图谱, 形成了债券金融信息网络. 最后对智能金融投研平台的信息抽取、知识检索、情感分析等主要功能进行测试, 实验结果表明该平台能实现从非结构化数据处理到知识检索、情感分析等各项功能的全流程、自动化、高精度运行.

3.1 语义关系

在进行金融信息抽取及知识图谱构建之前, 先基于城投债领域相关内容及业务逻辑进行语义关系的设计, 即确定城投债领域中实体的类型, 以及实体之间可能存在的关系类型, 这是进行后续开发的基础. 在具体实验中, 除了地名、机构名、时间、日期、货币和百分比等基本实体类型外, 还新增了行业、产业、债券名、经济指标、财务指标、经营业务、项目等领域特定实体. 在关系类型上, 重点搭建了涵盖空间、时间、物理、上下位等维度的语义关系架构, 图7展示了语义关系部分示例.

3.2 金融信息抽取

通过内外部渠道采集近5年内城投债行业的债券募集说明书、债券评级报告等金融文本, 共10 000篇左右, 作为平台实验的数据.

先基于Jieba分词器进行分词, 并通过添加城投债行业的词汇对词典进行维护, 提升分词的准确性; 在分词的基础上, 采用正则表达式与BERT+CRF模型相结合的方法进行相关实体的识别与抽取. 对于日期、时间、数值等这类形式较固定的信息, 直接采用正则表达式进行抽取; 而对于行业、公司名等内容较多样的实体, 正则表达式难以涵盖, 需采用前述的BERT+CRF模型进行识别. 图8为时间抽取的正则表达式示例, 通过该正则表达式可以将时间内容, 以及对应的年、月、日等信息分别提取出来.

图9为安庆市城投债评级报告中的一段文本, 基于正则表达式与BERT+CRF模型相结合的信息抽取方法, 识别出了时间、百分比、行业、地区、公司名、经济指标等实体类型, 以及对应的具体文本内容. 实体识别的结果如图10所示.

在识别出实体的基础上, 采用前述的关系抽取模型进行不同实体间关系的判断, 图11为一段城投债金融文本示例, 对其进行关系抽取的结果如图12所示.

3.3 金融知识图谱构建

基于语义框架中定义的城投债领域相关实体以及关系类型, 结合从金融文本中提取出的信息, 形成点和边的数据集, 通过数据库对数据进行存储连接, 开发出成型的投研领域企业债券知识图谱. 例如, 对于“城投公司属于某一地区”这一信息, 可表示为“城投公司—所属地区—地名”三元组形式, 在知识图谱构建过程中, 城投公司实体数据示例如表2所示, 地名实体数据示例如表3所示, 城投公司和地名之间关系数据集示例如表4所示, 将实体及关系数据集导入图数据库中, 即形成相应的关联关系图.

将从债券行业文本中提取出的所有相关实体, 以及实体的关系和属性值导入图数据库中, 即得到较为完整的债券行业金融知识图谱(如图13所示), 实现了金融文本的结构化、可视化, 有助于提升投研分析的便捷性与清晰度.

3.4 平台运行效果

以前述的实验设计为基础, 主要对报告的自动解析、知识检索及情感分析等方面的功能进行测试, 以验证智能投研平台运行的效果及稳定性.

通过对债券相关文本中实体、关系、属性等金融信息的抽取、关联, 平台能够自动解析债券市场信息, 提取核心内容并进行金融知识图谱存储, 形成债券行业的知识库. 原本人工研读一份万字的债券评级报告需2 h左右, 而通过智能投研平台进行结构化处理仅需1 min 30 s, 且解析效率高达90%左右, 能极大提升债券行业研究人员的文本阅读效率. 图14表示一份文本形式的评级报告, 图15表示智能投研平台对该评级报告进行解析后形成的结构化信息示例.

解析出的结构化信息以知识图谱的形式进行存储, 形成金融文本信息的沉淀, 可供进一步的检索查询、推理预测. 人工阅读与智能投研平台解析的效果对比如表5所示.

基于图数据库存储沉淀的结构化信息, 并通过在ElasticSearch中构建倒排索引, 平台可以实现对金融信息快速、精确的查询检索. 图16与图17是信息检索示例, 在经过自然语言处理识别后, 图16中能够准确判断“GDP”与“地区生产总值”这类同义词, 图17中则能根据当年数据增长情况自动计算出上一年的数值.

通过平台的智能化检索, 投研人员可迅速获得行业数据, 尤其是历史信息, 无须再从纷繁的文本报告中去查找, 极大提升了投研效率. 以一条历史信息的检索为例, 表6展示了人工检索与智能化检索的主要差异点.

在对金融信息进行抽取、检索等基础工程化处理的同时, 基于对金融文本的分类预测, 平台还实现了对新闻报导、公司公告等信息的情感分析功能. 通过对信息的快速抓取与分析, 能够帮助投研人员及时、全面地了解市场动态, 以更前瞻地判断风险、更精准地判断金融资产价格的走势. 图18为一则关于安庆市城投公司的新闻, 图19为平台对这则新闻进行情感分析的结果, 针对“安庆城投”这一分析主体, “正面”表明新闻内容对其有利好影响, 相应的债券风险也降低. 大量文本的测试结果显示情感分析的准确率能达到85%以上, 对投研决策能起到较大的辅助作用.

4 结论与展望

本文将大数据、自然语言处理、知识图谱等技术相结合, 提出了智能金融投研平台建设方案. 实验结果表明, 平台能以较高的准确率全流程、自动化地实现金融业务中相关命名实体识别、关系抽取、知识图谱构建等信息抽取与整合任务, 以及行业知识检索、情感分类等智能金融分析服务, 极大地降低了金融行业投研人员解析、查询金融信息的时间, 提升了投研工作的效率与精准度; 同时也实现了金融领域行业知识的多维度、持久化关联与沉淀, 为金融投资分析提供更加夯实的价值信息.

未来智能金融投研平台将进一步结合AI相关算法、知识图谱等技术领域的演进发展进行更深度的探索研发, 一方面持续提升在金融信息抽取、检索上的精准性; 另一方面积极探索事件推理、舆情因子等在金融资产配置及风险防控等方面的应用, 进一步提升平台在金融投研领域的服务价值.