业界动态
关键词提取算法-TextRank
2024-11-04 12:49

  今天要介绍的TextRank是一种用来做关键词提取的算法,也可以用于提取短语和自动摘要。因为TextRank是基于PageRank的,所以首先简要介绍下PageRank算法。

关键词提取算法-TextRank

1.PageRank算法

  PageRank设计之初是用于Google的网页排名的,以该公司创办人拉里·佩奇(Larry Page)之姓来命名。Google用它来体现网页的相关性和重要性,在搜索引擎优化操作中是经常被用来评估网页优化的成效因素之一。PageRank通过互联网中的超链接关系来确定一个网页的排名,其公式是通过一种投票的思想来设计的:如果我们要计算网页A的PageRank值(以下简称PR值),那么我们需要知道有哪些网页链接到网页A,也就是要首先得到网页A的入链,然后通过入链给网页A的投票来计算网页A的PR值。这样设计可以保证达到这样一个效果:当某些高质量的网页指向网页A的时候,那么网页A的PR值会因为这些高质量的投票而变大,而网页A被较少网页指向或被一些PR值较低的网页指向的时候,A的PR值也不会很大,这样可以合理地反映一个网页的质量水平。那么根据以上思想,佩奇设计了下面的公式:

该公式中,Vi表示某个网页,Vj表示链接到Vi的网页(即Vi的入链),S(Vi)表示网页Vi的PR值,In(Vi)表示网页Vi的所有入链的集合,Out(Vj)表示网页,d表示阻尼系数,是用来克服这个公式中“d *”后面的部分的固有缺陷用的:如果仅仅有求和的部分,那么该公式将无法处理没有入链的网页的PR值,因为这时,根据该公式这些网页的PR值为0,但实际情况却不是这样,所有加入了一个阻尼系数来确保每个网页都有一个大于0的PR值,根据实验的结果,在0.85的阻尼系数下,大约100多次迭代PR值就能收敛到一个稳定的值,而当阻尼系数接近1时,需要的迭代次数会陡然增加很多,且排序不稳定。公式中S(Vj)前面的分数指的是Vj所有出链指向的网页应该平分Vj的PR值,这样才算是把自己的票分给了自己链接到的网页。

 2.1 TextRank算法提取关键词

  TextRank是由PageRank改进而来,其公式有颇多相似之处,这里给出TextRank的公式:

可以看出,该公式仅仅比PageRank多了一个权重项Wji,用来表示两个节点之间的边连接有不同的重要程度。TextRank用于关键词提取的算法如下:

  1)把给定的文本T按照完整句子进行分割,即

  3)构建候选关键词图G = (V,E),其中V为节点集,由(2)生成的候选关键词组成,然后采用共现关系(co-occurrence)构造任两点之间的边,两个节点之间存在边仅当它们对应的词汇在长度为K的窗口中共现,K表示窗口大小,即最多共现K个单词。

  4)根据上面公式,迭代传播各节点的权重,直至收敛。

  5)对节点权重进行倒序排序,从而得到最重要的T个单词,作为候选关键词。

  6)由5得到最重要的T个单词,在原始文本中进行标记,若形成相邻词组,则组合成多词关键词。

2.2 TextRank算法提取关键词短语

  提取关键词短语的方法基于关键词提取,可以简单认为:如果提取出的若干关键词在文本中相邻,那么构成一个被提取的关键短语。

2.3TextRank生成摘要

  将文本中的每个句子分别看做一个节点,如果两个句子有相似性,那么认为这两个句子对应的节点之间存在一条无向有权边。考察句子相似度的方法是下面这个公式:

公式中,Si,Sj分别表示两个句子,Wk表示句子中的词,那么分子部分的意思是同时出现在两个句子中的同一个词的个数,分母是对句子中词的个数求对数之和。分母这样设计可以遏制较长的句子在相似度计算上的优势。

    以上就是本篇文章【关键词提取算法-TextRank】的全部内容了,欢迎阅览 ! 文章地址:http://www.glev.cn/news/9071.html 
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 歌乐夫资讯移动站 http://wlb.glev.cn/ , 查看更多   
最新新闻
《离婚带娃又如何总裁照样宠》短剧在线观看,青龙帝尊,荣耀与传奇的世纪篇章短剧在线观看,青龙帝尊100集短剧在线观看
在线观看短剧《离婚带娃又如何总裁照样宠》,讲述主角面对人生波折仍积极前行,即使离婚带娃也能收获真挚爱情的故事。还可以观看
everything下载哪个版本_everything:Windows 系统快速搜索文件神器
时代在变,工具也在变,唯一不变的是,我们追求高效率的思维和行为。例如,以前在我们会按照编号和分类
中共中央 国务院 关于全面加强生态环境保护 坚决打好污染防治攻坚战的意见
  新华社北京6月24日电  中共中央 国务院 关于全面加强生态环境保护 坚决打好污染防治攻坚战的意见(2018年6月16日)  良
云南旅游6天5夜双飞多少钱,云南旅游6天5夜双飞价格全解析
  1. 云南旅游6天5夜需要多少预算?  答:一个典型的大家6天5夜的六日云南旅行预算大约在3000-5000元之间。这个预算将包括住
Seo优化是什么意思?
本文目录导读:SEO优化是什么意思?SEO优化的目的SEO优化主要策略SEO优化注意事项SEO优化是指通过一系列技术手段和策略,提高网
CHILL CLUB頒獎禮2024 | MC姜濤同台成最萌身高差!張天賦著平底鞋輸蝕偷雞出「絕招」增高
  《CHILL CLUB推介榜 年度推介23/24》12日圓滿結束,MC張天賦與姜濤齊獲新增設獎項「MOOV大數據至尊歌手」,兩人首度同台突
以大数据推动思想政治理论课教学内容创新研究
习近平指出:“用好大数据,增强利用数据推进各项工作的本领,不断提高对大数据发展规律的把握能力,使大数据在各项工作中发挥更
《哈哈哈哈哈》统治综艺榜,《流金岁月》96个热搜|数娱周榜(1月04日-1月10日)
【Data ENT数娱】联合云合数据出品每周榜单。内容涵盖每周电视剧、网络剧、台综、网综、电影、网络电影、艺人。 2021年1月第2周
【朝闻必读】 90秒 天下事 (7.5)
2.养老托育税费优惠政策公布:提供社区服务的机构免征增值税国 际长尾理论 长尾理论是网络时代兴起的一种新理论,由于成本和效率
22个免费的数据可视化和分析工具推荐
本文总结推荐22个免费的数据可视化和分析工具。列表如下:数据清理(Data cleaning)当你分析和可视化数据前&
本企业新闻
推荐企业新闻