针对文库系统中文档数据量较大, 且数据量日趋增多, 会导致大量文档无法有效展现, 用户难以精准地获取到所需文档, 引发数据利用率降低的问题. 因此迫切地需要一种机器辅助功能帮助用户做一些信息筛选的工作. 传统的基于文档分类、基于用户搜索的方法, 在文档数据量达到较大规模时, 筛选能力有限, 且无法为用户发掘潜在的可能感兴趣的内容, 可以考虑引入推荐系统. 文库系统中的推荐, 本质即是文本内容的推荐, 因此可以参考新闻推荐领域的方法, 如文献[1]中的协同过滤的推荐方法, 通过计算用户行为的相似度, 为目标用户生成推荐列表, 但是协同过滤方法的冷启动问题较为严重. 文献[2]中的基于内容的推荐方法, 通过匹配用户兴趣与文本特征的相似度从而产生推荐结果, 但是这种方法只能为用户推荐与其历史兴趣相似的内容, 因此在新颖度上存在不足, 无法发掘用户潜在兴趣. 此外, 文档推荐系统的一个重要基础是精准的用户兴趣及文档特征模型, 业界一般基于文本内容抽取特征词语后采用空间向量模型来表示, 但是直接采用词语特征向量模型来计算, 存在着向量维度过高、数据稀疏的问题.

针对上述问题, 本文提出了一种基于多粒度特征和混合算法的文档推荐系统, 系统综合了用户的显式反馈和隐式反馈为用户兴趣建模, 且在用户兴趣模型和文档特征模型中分别设计了词语和短语两个粒度, 这种建模方法既保证了模型的精准度, 也避免了模型的过拟合问题. 系统还综合了时间窗口法和遗忘函数法动态更新用户兴趣模型, 确保模型的精准可靠. 在推荐方法上, 系统采用了基于内容推荐和协同过滤推荐相结合的混合推荐方法, 弥补了单一算法的不足.

1 相关技术 1.1 用户兴趣建模

推荐系统为用户提供个性化服务的过程中, 服务质量高度依赖于系统掌握的用户兴趣的准确程度, 因此确定用户兴趣模型并针对用户兴趣的变化及时更新模型也是提高推荐系统服务质量的一个重要方面.

基于向量空间模型的方法是业界常用的方法, 该方法通过抽取所采集用户兴趣数据的特征项并计算相应权值构成表示用户兴趣模型的向量^[3]. 这种方法在一定程度上能够准确刻画用户兴趣, 且简单易实现, 但也存在着一些问题, 如某些标签缺乏语义明确性, 无法体现用户个性化的兴趣偏好, 且此方法中兴趣标签是离散的, 在大型应用系统中可能存在着数据稀疏的问题.

此外, 区别于文档特征模型一次建立始终有效的特点, 用户兴趣模型还面临着动态漂移的问题, 针对该问题的主流解决方案有时间窗口法和遗忘函数法. 时间窗口法^[4]认为用户只对最近访问的概念感兴趣, 利用滑动时间窗滤除过时的兴趣, 时间窗口法简单易实现, 且能兼顾用户兴趣的累计计算以及历史兴趣的淘汰策略, 但是其应用效果非常依赖于时间窗口大小的取值, 而且存在用户兴趣突变的问题. 遗忘函数法^[5]假设用户兴趣的变迁是一种渐进的过程, 即用户兴趣随着时间的流逝逐渐减弱, 遗忘的速度是先快后慢, 对于用户长时间没有更新的特征, 认为其不能再代表用户的当前兴趣, 可以通过遗忘函数让其不断“衰老”来达到过滤的目的^[6], 如Maloof和Michalski等采用了一种遗忘函数处理用户兴趣特征^[7]. 遗忘函数法符合人类记忆衰减特性, 但是该方法需要辅助设计淘汰策略, 用以淘汰无效特征, 避免大量无效特征积累影响系统效果.

1.2 推荐算法

推荐系统^[8,9]是一种重要的信息过滤机制, 可以有效地解决信息过载的问题. 通过挖掘用户和信息之间的关联关系, 从而帮助用户从大量的信息中获取到他们可能会感兴趣的内容.

推荐算法是整个推荐系统最核心的部分, 在很大程度上决定了推荐效果. 业界主流算法主要有基于内容的推荐(Content-Based Recommendation)、协同过滤(Collaborative Filtering)和混合推荐方法(Hybrid Approach)^[10]等.

基于内容的方法是信息检索领域的重要研究内容, 是指通过比较资源和用户兴趣模型的相似程度向用户推荐信息的方式, 该方法较多的应用在可计算的文本领域, 如浏览页面的推荐、新闻推荐等^[11–14], 这种推荐方式简单有效, 不需要领域知识, 也有着比较成熟的分类学习方法能够为其提供支持, 如数据挖掘、聚类分析等, 但是也存在着一些缺点, 如很难推荐较为新颖的结果, 对新用户的推荐处理较为困难等. 业界常用的用于比对内容相似度的算法有: 余弦相似度算法, Jaccard系数值计算法等.

协同过滤的方法是推荐系统中常用的算法之一, 其基本思想是计算用户间或项目间的相似度, 然后根据该相似度, 预测目标用户对目标项目的偏好程度而产生推荐结果^[15,16]. 协同过滤算法不需要考虑被推荐项目的具体内容^[17], 可以为用户提供较为新颖的推荐结果. 目前, 主流的协同过滤算法分为两类: 基于用户的协同过滤算法^[18]和基于项目的协同过滤算法^[19]. 基于用户的协同过滤算法根据用户对项目的偏好, 计算用户之间的相似度, 找出目标用户的最近邻居集合, 基于近邻用户的偏好为目标用户生成推荐集^[20,21], 该算法能够有效地利用相似用户的反馈信息, 为目标用户产生推荐集, 但是当用户和项目间的关联数据较少时, 无法精准计算出目标用户的相似用户群体, 此时的冷启动问题较为严重^[22,23]. 基于项目的协同过滤算法根据用户操作过的项目, 对项目之间的相似度进行预测, 这在一定程度上减少了冷启动问题对推荐系统质量的影响, 但是这种方法生成的推荐集覆盖率低, 且无法为用户提供较为新颖的推荐^[24].

2 系统关键技术 2.1 多粒度用户兴趣及文档特征

针对传统方法中用户兴趣及文档特征建模时存在的问题. 本系统中, 基于空间向量模型做了进一步的优化, 精细划分特征模型, 将用户兴趣及文档特征模型分为短语和词语两个粒度. 短语粒度上采用了空间向量模型来刻画用户及文档的特征, 计算用户兴趣或文档中涉及到某特征标签的次数来刻画模型, 次数越多则表明该用户或文档与该主题的相关度越高, 最终以带有权重值的特征标签向量对用户兴趣及文档特征建模, 这种方法简便易实现, 但在应用到文档推荐系统中时, 也存在一些缺点, 由于特征短语来源于海量文档内容, 短语分布离散, 过于稀疏, 无法有效地进行相似度匹配计算, 因此, 在本系统中设计了词语粒度上的特征, 相较于短语粒度的空间向量模型而言, 改善了特征标签稀疏的问题, 也提高了系统的覆盖率. 为建立上述两个粒度的特征模型, 在实现中, 需要首先从文本数据中提取出能够代表文本特征的关键短语以及关键词语, 本文基于开源中文处理项目HanLP提供的API (Application Programming Interface)来实现, HanLP提供了标准分词、NLP分词、索引分词、最短路径分词、词典分词等多种分词方式, 在关键短语提取方面提供了基于互信息和左右信息熵的短语提取识别解决方案, 在工程实现时, 直接调用相关接口即可, 简单易实现.

对用户兴趣建模时, 为确保用户兴趣模型的精准可靠, 系统综合了多项数据来源分析用户的兴趣特征, 包括用户的显式反馈和隐式反馈, 本文中用户显式反馈指用户在浏览文档时点击“喜欢”或“不喜欢”按钮, 显式表达偏好的行为, 这种通过显式反馈得到的用户兴趣是比较准确客观的, 但是也存在灵活性差, 对用户工作侵入性强等缺点. 用户隐式反馈是指用户使用文库系统时, 系统后台记录的用户日志, 这种隐式反馈对用户是透明的, 不会干扰用户的正常工作, 但是基于隐式反馈得到的用户兴趣准确性不够高, 存在一定的偏差. 因此, 本文中将用户显式反馈与隐式反馈相结合, 以达到更好的用户兴趣建模效果.

系统基于用户的每条显式反馈日志、搜索日志、浏览日志及下载日志, 分析该操作关联的文档标题, 从中提取出关键短语、关键词语, 得到刻画用户兴趣的特征短语空间向量及特征词语列表^[25], 综合所有日志数据, 做累加操作, 得到最终的用户兴趣模型及其评分值. 系统在累加的时候对不同来源设置了不同的权重值, 权重值是基于对业务系统的分析及实际使用中数据的统计学习得到的. 用户兴趣特征短语权重评分计算公式如下:

$Weight_{phrase} = \mathop \sum \limits_{\forall d \in D} W_d*N$

((1))

式中, D表示所有不同来源的集合, W_d表示各个不同来源预设的权重值, N表示该短语出现的频次.

最终, 由这些特征短语及其权重评分值、操作日期构成用户兴趣特征T_i, 公式如下:

${T_{i}} = ({{Phras}}{{{e}}_{i}},{{Weigh}}{{{t}}_{i}},{{Tim}}{{{e}}_{i}})$

((2))

式中, Phrase_i表示特征短语, Weight_i表示权重评分值, Time_i表示操作日期.

用户的兴趣模型由若干个独立的兴趣特征组成, 公式如下:

${{U}_{p}} = \left\{ {{{{T}}_1},{{{T}}_{{2}}},\cdots{{}},{{{T}}_{n}}} \right\}$

((3))

此即为短语粒度上的用户兴趣特征空间向量.

最后, 系统将短语粒度上的用户兴趣特征空间向量作为中间结果保存到数据库中, 以备后续计算使用.

词语粒度上, 用户兴趣模型由关键词语列表组成, 公式如下:

${{U}_{w}} = \left\{ {{{{W}}_{{1}}},{{{W}}_{{2}}},\cdots,{{{W}}_{n}}} \right\}$

((4))

式中, W_i表示用户兴趣特征词列表中的单个关键词语.

词语粒度的用户兴趣特征, 是基于短语兴趣特征计算而来的, 对短语特征取出全部的Phrase数据, 进行分词处理, 去重后得到一个词语列表, 即为词语粒度的用户兴趣特征, 本文中调用了HanLP提供的标准分词接口实现.

文档特征的建模, 类似于用户兴趣建模, 分别处理文档路径、文档标题、文档摘要以及附件内容, 结合不同来源的权重值对多个关键短语列表进行累加合并, 得到短语粒度的文档特征模型, 其中文档路径为目标文档的分级路径, 包含了其分类信息. 对合并后的特征短语空间向量做进一步的分词、去重处理, 即得到词语粒度的文档特征.

针对用户兴趣动态漂移的问题, 系统中综合滑动窗口法和遗忘函数法更新用户兴趣模型, 既能将用户无效兴趣特征淘汰, 也能动态更新用户有效兴趣特征的权重值, 这是符合自然状态下人类兴趣漂移状态的.

时间窗口法, 基于对实际业务系统运行数据的统计分析, 设置时间窗口大小K=15, 单位是: 日. 即对最近K日内用户兴趣进行累积计算. 具体计算过程如下: 系统初始化时, 分析近K日内所有日志数据, 得到用户的初始兴趣模型. 后续每日更新的时候, 则分析当日活跃用户日志数据, 进行如下操作:

(1) 将新出现的特征短语加入用户兴趣特征池中;

(2) 将当日涉及到的, 而用户兴趣特征池中已有的兴趣特征短语的时间戳更新为当前日期, 权重值更新为旧权重值与当日权重值之和;

(3) 将时间戳超出K日窗口大小的兴趣特征淘汰, 这样即可保证用户兴趣特征池中所有兴趣特征都是在K日窗口内的数据.

遗忘函数法, 对时间窗口法维护的特征池中每个特征短语的权重值进行衰减, 计算公式如下:

${{Weigh}}{{{t}}_{i}} = {{Weigh}}{{{t}}_{i}}*{{S}}$

((5))

其中S为遗忘因子, 由参考文献[6]中提到的方法确定.

2.2 混合推荐算法

通过相关技术一节的分析可以发现, 基于内容推荐算法和协同过滤算法分别有擅长的领域及适用性较差的领域, 因此, 在本系统中, 综合了两种算法形成一个混合的推荐系统, 这样既可以发挥各自的优点, 也能弥补单一算法的不足^[26].

由于协同过滤算法分为基于用户的协同过滤和基于项目的协同过滤两种, 考虑本系统的应用场景中与用户对个人兴趣传承的需求相比, 更需要关注相同兴趣群体中的热点事件, 因此, 采用了基于用户的协同过滤算法, 且从计算量和存储需求考虑, 本系统中用户数量远远少于文档数量, 采用基于用户的协同过滤算法也是较为合适的.

系统中的基于协同过滤算法, 首先计算目标用户的相似用户群, 将相似用户群中用户感兴趣的文档推荐给目标用户, 在这个过程中需要和目标用户的历史数据比对, 过滤已操作过的文档, 避免重复推荐, 算法的流程图如图1所示.

首先, 基于用户兴趣模型计算用户之间的相似度, 确定目标用户的相似用户群, 这里分别处理短语和词语两个粒度上的特征.

短语粒度上, 采用余弦相似度的算法来计算两个不同用户之间的相似度, 即取出两个用户的短语特征向量, 计算两者的余弦夹角值, 公式如下:

$Score_{pcol} = \frac{{\mathop \sum \limits_{i = 1}^N {U_w},{}_i{U_{v,i}}}}{{\sqrt {\mathop \sum \limits_{i = 1}^N {U^2}_{w,i}} \sqrt {\mathop \sum \limits_{i = 1}^N {U^2}_{v,i}} }}$

((6))

式中U_w, U_v分别表示两个不同用户的短语粒度上的兴趣特征向量.

词语粒度上, 采用Jaccard系数值来计算用户间的相似度, Jaccard系数是两个集合交集与并集的元素数目之比, 用于测量两个集合在共同项目上的重叠度. 其匹配两个对象之间的相似度时, 仅关注特征是否存在, 而不关注该特征的权重值. 此处, 在两个不同用户的特征词语集合之间进行计算, 公式如下:

$Score_{wcol} = \frac{{\left| {N(w) \cap N(v)} \right|}}{{\left| {N(w) \cup N(v)} \right|}}$

((7))

式中N(w), N(v)分别表示两个不同用户的特征词语集合.

经过短语、词语两个粒度上的相似度计算, 系统分别得到了Score_pcol, Score_wcol两个值, 将二者相加作为最终的用户间相似度, 公式如下:

$Scor{e_{tcol}} = {\rm{}}Scor{e_{pcol}} + {\rm{}}Scor{e_{wcol}}$

((8))

算法中将目标用户兴趣模型分别与其他用户的兴趣模型进行匹配计算, 按照相似度数值排序, 取前M个用户作为最近邻居集合. 这里M值可以结合业务系统实验确定. 最后, 从这M个近邻用户的历史记录中取若干篇文档作为协同过滤算法的推荐结果, 选取算法如下.

以选取T篇文档为例, 系统在配置文件中设置近邻个数为M个, 因此我们从每个近邻用户的阅读历史中取篇文档进行推送, 此处我们按照时间顺序由最近操作的文档开始向前取, 同时在取文档的时候需要与目标用户的阅读历史列表进行比对, 过滤掉目标用户已经操作过的文档, 避免重复推荐.

基于内容的推荐算法, 直接匹配用户兴趣模型和文档特征模型的相似度, 为目标用户生成推荐列表, 计算内容相似度的算法流程图如图2所示.

与协同过滤部分类似, 这里分别处理短语和词语两个粒度上的特征.

短语粒度上, 基于余弦相似度算法, 计算短语粒度上用户兴趣和文档特征两个特征向量之间的余弦夹角值作为二者相似度的度量, 公式如下:

$Score_{pcon} = \frac{{\sum\limits_{i = 1}^N {U_{p,i}D_{p,i}} }}{{\sqrt {\sum\limits_{i = 1}^N {{U^2}_{p,i}} } \sqrt {\sum\limits_{i = 1}^N {{U^2}_{p,i}} } }}$

((9))

式中, U_p表示短语粒度上的用户兴趣特征向量, D_p表示短语粒度上的文档特征向量.

词语粒度上, 基于Jaccard系数值计算用户与文档的相似度, 公式如下:

$Score_{wcon} = \frac{{\left| {N(U) \cap N(D)} \right|}}{{\left| {N(U) \cup N(D)} \right|}}$

((10))

式中, N(U)表示用户特征词语集合, N(D)表示文档特征词语集合.

经过短语、词语两个粒度上用户和文档的相似度计算, 系统分别得到了Score_pcon和Score_wcon, 将二者相加作为最终的基于内容相似度匹配值, 公式如下:

$Scor{e_{tcon}} = {\rm{}}Scor{e_{pcon}} + {\rm{}}Scor{e_{wcon}}$

((11))

算法中将目标用户的兴趣模型分别与推荐库中的每一篇文档特征进行匹配计算, 基于相似度值Score_tcon排序, 取前Z篇文档作为基于内容推荐的结果. 这里的Z值可以结合业务系统进行实验确定.

由于最终给用户展示的推荐列表只有一个, 因此需要对基于内容推荐和协同过滤推荐的结果融合, 系统中采用了预留推荐位的方法, 设最终的推荐列表中包含A篇文档, 融合策略中, 将前B个推荐位预留给基于内容推荐, 后(A–B)个推荐位预留给协同过滤推荐, 这里A、B值在系统实现时均设在配置文件中, 可根据系统运行数据修改A、B值, 调整两种推荐算法的权重, 优化系统推荐效果. 此外, 对新注册用户处理时, 由于缺乏基础数据, 无法确定该用户的兴趣模型, 因此无法使用基于内容推荐和协同过滤算法为该用户生成推荐列表, 针对这样的冷启动问题, 系统中设置了独立的冷启动策略, 基于同部门用户的下载热度给新用户推送其可能感兴趣的文档, 即将该用户的同部门用户下载过的文档按照下载频度排序, 推荐前列的A篇文档.

3 系统设计与实现

本系统为服务端程序, 以文库系统中的文档作为推荐库. 首先计算出文档特征、用户兴趣模型, 再基于混合推荐算法, 生成推荐结果, 返回给文库系统, 由文库系统向用户展现. 本着高效、低耦合、分层、模块化的原则, 将系统划分为5个模块, 包括: 用户兴趣特征提取模块、文档特征提取模块、基于内容推荐模块、协同过滤推荐模块和推荐结果融合模块. 组织结构如图3所示.

系统通过调用文库系统提供的API获得文档数据、用户数据、日志数据等, 这些数据都由文库系统维护, 文库系统通过浏览器与用户交互. 基于HanLP提供的API进行分词、关键短语提取、关键词语提取. 综合对文档数据、用户数据、日志数据的分析, 为文档特征、用户兴趣建模. 从而进行基于内容的推荐、协同过滤推荐并将推荐结果融合. 推荐结果会再次通过文库系统提供的API存回数据库中, 供文库系统使用. 本系统也提供若干API供文库系统二次开发使用.

3.1 文档特征提取模块

本模块中实现了文档特征建模的算法, 分析文档的主要信息, 包括文档路径、文档标题、文档摘要、附件内容等, 基于HanLP提供的API进行分词, 提取关键短语、关键词语, 建立文档的特征模型, 模块的类图如图4所示.

为提升计算效率, 模块实现时采用了多线程的解决方案. 其中, DocTagThread为文档特征提取的线程, 通过调用GetDocTags类中提供的方法, 分别从文档路径、文档标题、文档摘要、附件内容中获取到文档特征, 这些文档数据则通过GeiRecommendImpl类中提供的API从文库系统中获取. 系统计算得到的文档特征也会通过GeiRecommendImpl类中提供的API存回数据库中. DocModel类中定义了文档特征模型的数据结构. DocRecommendProperties为加载配置文件的类.

3.2 用户兴趣特征提取模块

本模块中实现了用户兴趣建模的算法, 分析用户操作日志数据, 经过分类计算后, 融合得到用户的兴趣模型. 由于用户兴趣漂移现象的存在, 在系统日常运营时, 此模块还负责对用户兴趣模型进行更新, 模块的类图如图5所示.

为提升计算效率, 模块实现时采用了多线程的解决方案. 其中, UserTagThread为用户特征提取的线程, 通过调用GetUserTags类中提供的方法, 分别从用户显式反馈、用户搜索日志、下载日志、浏览日志中提取用户的兴趣特征, 这些日志数据则通过GeiRecommendImpl类中提供的API从文库系统中获取. 系统计算得到的用户兴趣特征也会通过GeiRecommendImpl类中提供的API存回数据库中. PeriodicUpdateUser类中提供了创建线程定时更新用户兴趣模型及推荐列表的方法. UserModel类中的属性及方法定义了用户兴趣模型的数据结构.

由于累积K日窗口内的兴趣特征数量比较庞大, 且大量特征短语权重评分值较低, 使用这些特征进行相似度计算对整个推荐系统的效果提升并不是很明显, 却会增加系统的计算量, 降低系统效率. 因此, 系统中采用了以下优化策略, 选取其中权重值前10的特征短语组成用户短语粒度的兴趣特征向量, 而词语粒度的词语集合则由这10个特征短语经过分词生成. 用这样的短语特征向量和词语列表来计算相似度, 既能保证较好的推荐效果, 也降低了系统计算量, 这里的数值10设置在配置文件中, 可以根据系统运行效果优化调整.

基于实际业务需求考虑, 系统中对用户兴趣模型及推荐列表的更新都是采用的每日更新策略, 即夜间系统低负载时, 对当日活跃用户更新兴趣特征模型和推荐列表.

3.3 推荐模块

推荐模块基于已建立的用户兴趣模型及文档特征模型, 使用基于内容推荐和协同过滤推荐结合的混合推荐算法为目标用户生成个性化文档推荐列表. 由于最终在文库系统中展现给用户的推荐列表只有一个, 因此还需要对推荐列表进行融合.

3.3.1 基于内容推荐模块

本模块中实现了基于内容推荐算法, 对用户兴趣模型和文档特征模型进行相似度匹配, 依据相似度数值从高到低进行筛选, 为目标用户生成推荐列表, 模块的类图如图6所示.

图6中, RecommendUserDoc类创建了基于内容推荐计算线程CountThread, 在该计算线程中进行相似度计算, 线程数可以由配置文件类DocRecommendProperties根据配置文件设定, CountThread计算线程中实现了余弦相似度算法与Jaccard系数算法, 进行词语、短语两个粒度上用户间相似度的计算, 其调用了GeiRecommenderImpl中提供的API获取存在数据库中的用户兴趣模型和文档特征模型数据, 最终的输出结果是包含文档ID及相似度评分值的推荐列表. 基于内容推荐结果会作为中间结果, 通过GeiRecommenderImpl类提供的API存回数据库中. RecWithWeight类中定义了基于内容推荐列表的数据结构, 包括文档ID和权重.

3.3.2 协同过滤推荐模块

本模块中实现了基于用户的协同过滤推荐算法, 对不同用户的兴趣模型进行相似度匹配, 按匹配分值从高到低顺序, 计算出目标用户的相似用户群, 根据该相似用户群中用户偏好的文档为目标用户生成推荐列表, 模块的类图如图7所示.

图7中, CollaborativeFiltering类关联其他类, 创建多线程进行相似度计算. Evaluator类中实现了余弦相似度算法以及Jaccard系数算法, 进行词语、短语两个粒度上用户间相似度的计算, 其调用了GeiRecommenderImpl类提供的API获取计算所需的基础数据. 协同过滤推荐模块的计算结果会被作为中间结果通过GeiRecommenderImpl类提供的API存回数据库中. UserPhraseModel类中定义了短语粒度的用户兴趣模型数据结构.

3.3.3 推荐结果融合模块

本模块对基于内容推荐结果及协同过滤推荐结果进行融合, 并实现了面向新用户推荐文档的冷启动策略, 模块的类图如图8所示.

图8中, RecommenderImpl类中提供的方法getRecommendDocsByUserId()实现了融合算法, 完成了基于内容推荐和协同过滤推荐结果的融合, 并实现了针对新用户按照同部门用户下载热度进行推荐的策略. GeiRecommenderImpl类提供了与文库系统交互的API.

4 实验与结果分析

本文采用了离线实验的方法评测推荐系统的效果, 基于北京市长城企业战略研究所的知识管理平台KRP系统进行实验, 实验数据集中包含了脱密后的300活跃用户数据, 17万篇文档数据, 以及10日周期内的系统运行日志数据.

实验中, 以活跃用户的相邻2个活跃日为一个测试用例. 根据用户原有兴趣模型结合首个活跃日用户操作确定用户最新的兴趣模型, 以此为用户生成推荐列表. 将用户第二个活跃日所有操作过的且未显式标记为“不喜欢”的所有文档认定为用户感兴趣的文档, 基于此, 计算系统的准确率、召回率、覆盖率、新颖度, 并对10日实验周期内所有实验结果取均值, 作为系统最终评测数据. 经多次实验分析, 系统相关参数设置如表1所示时推荐效果较好.

关于系统的评测指标说明如下^[27].

(1)准确率

准确率描述最终的推荐列表中有多少比例是用户实际感兴趣的文档, 如下式计算:

$Precision = \frac{{\sum\limits_u {\left| {R(u) \cap T(u)} \right|} }}{{\sum\limits_u {\left| {R(u)} \right|} }}$

((12))

式中, R(u)表示系统为用户生成的推荐列表, T(u)表示用户行为展现的实际偏好列表.

(2)召回率

召回率描述的是有多少用户实际感兴趣的文档包含在最终的推荐列表中, 如下式计算:

${\mathop{ Re}\nolimits} call = \frac{{\sum\limits_u {\left| {R(u) \cap T(u)} \right|} }}{{\sum\limits_u {\left| {T(u)} \right|} }}$

((13))

式中, R(u)表示系统为用户生成的推荐列表, T(u)表示用户行为展现的实际偏好列表.

(3)覆盖率

覆盖率反映了系统发掘长尾的能力, 覆盖率越高说明越能够将长尾中的文档推荐给用户, 如下式计算:

$Coverage = \frac{{\left| {\bigcup\nolimits_{u \in U} {R(u)} } \right|}}{{\left| I \right|}}$

((14))

式中, R(u)表示系统为用户生成的推荐列表, I表示全部文档.

(4)新颖度

新颖度可以用被推荐的文档的平均流行度来度量, 如果推荐出的文档都很热门, 则说明推荐的新颖度较低, 否则说明推荐结果比较新颖; 计算平均流行度的时候对每个文档的流行度取对数, 这是因为文档的流行度分布满足长尾分布, 在取对数后, 流行度的平均值更加稳定. 如下式计算:

$Novelty = \frac{{\sum\limits_{u \in U} {\sum\limits_{d \in R(u)} {\log (1 + P(d))} } }}{{\sum\limits_{u \in U} {\left| {R(u)} \right|} }}$

((15))

式中, R(u)表示单个用户的推荐列表, d表示单个文档, P(d)表示文档的流行度, 即该文档在所有用户感兴趣文档数据集中出现的频次.

实验中以单独的基于内容推荐列表、协同过滤推荐列表与混合推荐列表三者对比分析, 相关实验数据如表2所示.

由实验数据分析可知本系统建立的用户及文档标签较为精准可靠, 基于混合推荐算法为用户生成的推荐列表也较为契合用户实际需求. 系统的准确率、召回率、覆盖率、新颖度等指标的实验数值, 直接表明了本系统的有效性. 实际应用时, 可在更长周期内监测系统运行数据, 并结合用户调查和在线实验的测评方法, 不断优化系统参数, 提升系统综合性能.

5 结束语

本文介绍了基于多粒度特征和混合算法的文档推荐系统架构、功能模块、文档特征模型、用户兴趣模型以及推荐过程的设计与实现. 系统中综合了用户显式反馈和隐式反馈信息, 经过分词、关键短语提取、关键词语提取等操作后, 在短语粒度和词语粒度两个层面对用户兴趣建模. 系统对文档特征建模时也分别处理了短语粒度和词语粒度两个层面, 这种方法既能较为准确的刻画用户兴趣及文档特征也在一定程度上解决了数据稀疏问题, 提升了推荐系统的效果; 在此基础上, 系统使用基于内容推荐和协同过滤推荐混合的推荐算法为用户生成文档推荐列表, 此方法综合了两种推荐算法的优点, 又互相弥补了单一算法的不足. 在系统实现时, 将推荐模型相关参数都设置在配置文件中, 增强了系统的灵活性, 也便于系统的迭代优化. 文章最后对系统的实验效果分析, 得出系统中所用的方法是有效可行的.