行业知识图谱的构建及应用

zhengzhicong zhengzhicong     2023-03-16     796

关键词:

【说在前面】本人博客新手一枚,象牙塔的老白,职业场的小白。以下内容仅为个人见解,欢迎批评指正,不喜勿喷![认真看图][认真看图]

【补充说明】如果你对知识图谱感兴趣,欢迎先浏览我的另一篇随笔:基于图模型的智能推荐算法学习笔记

一、知识图谱的机遇与挑战

分享一下肖仰华教授的报告。报告深度剖析知识图谱的发展进程,系统整理知识图谱上半场的主要成果,分析知识图谱下半场的挑战与机遇,以期为各行业的认知智能实践带来有益的参考。

▌知识图谱上半场 

1. 传统知识工程

技术图片

2. 大数据知识工程

技术图片

① 大规模简单知识表示

技术图片

② 知识获取

技术图片

技术图片

③ 基于知识图谱的简单推理

技术图片

3. 大数据知识工程到底解决了哪些问题?

①  语言表达鸿沟

技术图片

② 缺失的因果链条

技术图片

③ 碎片化数据的关联与融合

技术图片

④ 深化行业数据的理解与洞察 

⑤ 显著提升了机器的自然语言理解水平

技术图片

⑥ 基于知识图谱的大规模知识服务

技术图片

⑦ 知识图谱可视化已大量应用

技术图片

⑧ 大数据知识工程理论体系日趋完善

技术图片

▌知识图谱下半场 

1. 应用场景转变

技术图片

技术图片

2. 新的趋势

① 繁杂的应用场景

技术图片

② 深度的知识应用

技术图片

③ 密集的专家知识

技术图片

④ 有限的数据资源

技术图片

3. 机遇

技术图片

4. 应对策略

知识表示方面:

① 与其他知识表示的协同表示与推理

技术图片

② 知识图谱的多模态表示

技术图片

③ 知识图谱的个性化表示

技术图片

知识获取方面:

①  发展低成本知识获取方法

技术图片

② 注重多粒度知识获取

技术图片

③ 发展大规模常识知识获取

技术图片

④ 复杂知识获取机制与方法

技术图片

技术图片

知识应用方面:

① 知识图谱应用透明化

技术图片

② 基于知识图谱的可解释人工智能

技术图片

③ 发展符号知识指导下的机器学习模型

技术图片

总结

技术图片

二、行业知识图谱的构建与应用

分享一下PlantData的文章:行业知识图谱构建与应用。

1. 知识图谱整体结构描述

知识图谱结构拓扑图如图所示:

技术图片

企业全量数据应用挑战及应对策略:

(1)多源异构数据难以融合

使用知识图谱(本体)对各类数据建模,基于可动态变化的数据模型(概念-实体-属性-关系),实现统一建模。

(2)数据模式动态变迁困难

使用可支持数据模式动态变化的知识图谱的数据存储。

(3)非结构化数据计算机难以理解

利用信息抽取技术。

(4)数据使用专业程度过高

(5)分散的数据难以统一消费利用

在知识融合的基础上,基于语义检索、知识问答、图计算、推理、可视化等技术,提供数据检索/分析/利用,统一平台。

技术图片

2. 知识建模

(1)以实体为主体目标,实现对不同来源的数据进行映射与合并。(实体抽取与合并)

(2)利用属性来表示不同数据源中针对实体的描述,形成对实体的全方位描述。(属性映射与归并)

(3)利用关系来描述各类抽象建模成实体的数据之间的关联关系,从而支持关联分析。(关系抽取)

(4)通过实体链接技术,实现围绕实体的多种类型数据的关联存储。(实体链接)

(5)使用事件机制描述客观世界中动态发展,体现事件与实体间的关联;并利用时序描述事件的发展状况。(动态事件描述)

知识建模工具:Protégé(本体编辑器,较局限)

3. 知识抽取

知识抽取的主要策略如图所示(针对结构化、半结构化、非结构化数据的处理方式不同):

技术图片技术图片

知识抽取中的文本信息抽取,主要包括:实体识别、关系抽取、事件抽取、概念抽取。信息抽取主要有两大类工具:

  • OpenIE:面向开放领域抽取信息、关系类型事先未知、基于语言学模式进行抽取、规模大、精度相对较低。典型工具:ReVerb、TextRunner(准确率低,实用性不强,一般不用)
  • CloseIE:面向特定领域抽取信息、预先定义好抽取的关系类型、基于领域专业知识抽取、规模小、精度比较高。典型工具:DeepDive(主要是针对实体识别,缺乏对关系/事件/概念的抽取)

非结构化文本数据的处理包括以下步骤:

  • 分词、词性标注、语法解析、依存分析
  • NER命名实体识别、实体链接
  • 关系抽取、事件抽取

其中,事件抽取可以分为预定义事件抽取和开放域事件抽取,行业知识图谱中主要为预定义事件抽取。采用模式匹配方法,包括三个步骤:

  • 准备事件触发词表
  • 候选事件抽取:寻找含有触发词的句子
  • 事件元素识别:根据事件模版抽取相应的元素

还有基于机器学习模型的抽取:SVM、逻辑回归、CRF、LSTM等:

技术图片

补充说明,关于知识表示,欢迎先浏览我的另一篇随笔:基于图模型的智能推荐算法学习笔记,这里不再赘述。

  • 基于数理逻辑的知识表示:RDF(资源描述框架)、OWL(RDF Schema 的扩展)、SPARQL(RDF查询语言) 
  • 基于向量空间学习的分布式知识表示:Rescal、NTN、TransE(Embedding)

4. 知识融合

(1)数据层融合:实体链接技术

即等同性判断:给定不同数据源中的实体,判断其是否指向同一个真实世界实体(实体属性与关系的合并)。

  • 基于实体知识的链接
  • 基于篇章主题的链接
  • 融合实体知识和篇章主题的链接

实体链接工具:Wikipedia Miner、DBpedia Spotlight等,大部分都是针对百科类的知识库工作的,基本不支持中文的处理。

(2)语义描述层融合:Schema Mapping

  • 概念上下位关系合并
  • 概念的属性定义合并

当然还有一些别的需要考虑,例如多源知识融合、冲突检测与解决、跨语言融合、知识验证等。

例如,通过人机交互接口对错误信息进行人工纠正,并以此作为种子案例,通过强化学习加强模型的识别精度和鲁棒性。

5. 知识存储

知识图谱是基于图的数据结构,其存储方式主要有两种方式:RDF存储图数据库

  • 基于关系数据库的存储
  • 基于原生图的存储
  • 基于混合存储

下面展示各大图数据库的对比:

技术图片

技术图片技术图片

技术图片技术图片

技术图片

6. 知识计算

(1)基于图论的相关算法:

  • 图遍历:广度优先遍历、深度优先遍历
  • 最短路径查询: Dijkstra(迪杰斯特拉算法)、Floyd(弗洛伊德算法)
  • 路径探寻:给定两个或多个节点,发现它们之间的关联关系
  • 权威节点分析:PageRank算法
  • 族群发现:最大流算法
  • 相似节点发现:基于节点属性、关系的相似度算法

(2)本体推理:使用本体推理进行新知识发现或冲突检测。

  • 基于表运算及改进的方法:FaCT++、Racer、Pellet Hermit等
  • 基于一阶查询重写的方法(Ontology based data access,基于本体的数据访问)
  • 基于产生式规则的算法(如rete):Jena 、Sesame、OWLIM等
  • 基于Datalog转换的方法:KAON、RDFox等
  • 回答集程序Answer set programming

本体知识推理工具:RDFox。

(3)基于规则的推理:使用规则引擎,编写相应的业务规则,通过推理辅助业务决策。

  • 在知识图谱基础知识的基础上,专家依据行业应用的业务特征进行规则的定义。
  • 引擎基于基础知识与所定义的规则,执行推理过程给出推理结果。

 基于规则推理工具:Drools 规则定义。

7. 知识应用

智能问答(基于语义解析的方法+基于信息检索的方法)、语义搜索(基于实体链接)、可视化决策支持(D3.js、ECharts)等。

8. 知识图谱的自动构建

可构建的图谱:例如公司图谱、产品图谱、?物图谱、智能预警等。在行业应用中使用知识图谱,大致有如下几种方式:

  • 可以使用现有的套装工具,在现有套装工具的基础上进行扩充:LOD2、Stardog
  • 可以使用各生命周期过程中的相应工具进行组合使用,针对性开发或扩展生命周期中特定工具

 

如果您对异常检测感兴趣,欢迎浏览我的另一篇博客:异常检测算法演变及学习笔记

如果您对智能推荐感兴趣,欢迎浏览我的另一篇博客:智能推荐算法演变及学习笔记 CTR预估模型演变及学习笔记

如果您对时间序列分析感兴趣,欢迎浏览我的另一篇博客:时间序列分析中预测类问题下的建模方案 深度学习中的序列模型演变及学习笔记

如果您对数据挖掘感兴趣,欢迎浏览我的另一篇博客:数据挖掘比赛/项目全流程介绍 机器学习中的聚类算法演变及学习笔记

如果您对人工智能算法感兴趣,欢迎浏览我的另一篇博客:人工智能新手入门学习路线和学习资源合集(含AI综述/python/机器学习/深度学习/tensorflow)人工智能领域常用的开源框架和库(含机器学习/深度学习/强化学习/知识图谱/图神经网络)

如果你是计算机专业的应届毕业生,欢迎浏览我的另外一篇博客:如果你是一个计算机领域的应届生,你如何准备求职面试?

如果你是计算机专业的本科生,欢迎浏览我的另外一篇博客:如果你是一个计算机领域的本科生,你可以选择学习什么?

如果你是计算机专业的研究生,欢迎浏览我的另外一篇博客:如果你是一个计算机领域的研究生,你可以选择学习什么?

如果你对金融科技感兴趣,欢迎浏览我的另一篇博客:如果你想了解金融科技,不妨先了解金融科技有哪些可能?

之后博主将持续分享各大算法的学习思路和学习笔记:hello world: 我的博客写作思路

美团商品知识图谱的构建及应用

商品知识图谱作为新零售行业数字化的基石,提供了围绕商品的精准结构化理解,对业务应用起到了至关重要的作用。相比于美团大脑中原有的围绕商户的图谱而言,商品图谱需应对更加分散、复杂、海量的数据和业... 查看详情

本地生活综合性需求图谱的构建及应用

...挖掘本地生活场景下用户多样化的需求,并将其与多行业、多类型的供给形成关联的知识图谱,旨在提升平台供需匹配效率,助力业务增长。本文介绍了本地生活综合性需求图谱的背景、体系设计和涉及的算法实践& 查看详情

一文get汽车知识的语义网络及图谱构建

...、智能调度、语音识别、机器人等多个业务领域。从落地行业来看,目前知识图谱的应用主要集中在电商、医疗、金融等商业和服务领域,关于汽车知识的语义网络及知识图谱构建缺少系统性的指导方法。本文以汽车领... 查看详情

一文get汽车知识的语义网络及图谱构建

...、智能调度、语音识别、机器人等多个业务领域。从落地行业来看,目前知识图谱的应用主要集中在电商、医疗、金融等商业和服务领域,关于汽车知识的语义网络及知识图谱构建缺少系统性的指导方法。本文以汽车领... 查看详情

美团大脑百亿级知识图谱的构建及应用进展

...户和数千万商户,其背后蕴含着丰富的与日常生活相关的知识。美团知识图谱团队从2018年开始着力于图谱构建和利用知识图谱赋能业务,改善用户体验。具体来说,“美团大脑”是通过对美团业务中千万数量级的商家、十亿级... 查看详情

知识图谱研究进展

在原文《知识图谱研究进展》基础上上做了相应的调整和补充本文首先简要回顾知识图谱的历史,探讨知识图谱研究的意义。其次,介绍知识图谱构建的关键技术,包括实体关系识别技术、知识融合技术、实体链接技术和知识推... 查看详情

nlpir搭建行业知识图谱实现智能客服应用

...智能技术的深入发展及在各行各业加快落地化部署,客服行业已逐渐成为了人工智能技术众多落地应用中的重点应用场景。不少企业已经采用了智能客服机器人来替代大部分人工客服,并组建了智能化客服系统,由原来的大量人... 查看详情

十四,教育知识图谱的概念模型与构建方法研究

十四,教育知识图谱的概念模型与构建方法研究论文名称:教育知识图谱的概念模型与构建方法研究李振,周东岱.研究对象以知识图谱为基础,构建教育知识图谱概念模型,对其智能化构建方法进一步研究。研究动机知识图谱... 查看详情

知识图谱的构建及用neo4j和grapheco/interactivegraph实现知识图谱的可视化(代码片段)

1、什么是知识图谱知识图谱就是将现实世界中的知识,包括文字、图像,甚至现实生活中的实体对象和他们之间的关系用图形化进行表达,形成一个图状的结构,用以描述实体对象间的关系,并依据这些关系... 查看详情

知识图谱的构建及用neo4j和grapheco/interactivegraph实现知识图谱的可视化(代码片段)

1、什么是知识图谱知识图谱就是将现实世界中的知识,包括文字、图像,甚至现实生活中的实体对象和他们之间的关系用图形化进行表达,形成一个图状的结构,用以描述实体对象间的关系,并依据这些关系... 查看详情

论文笔记基于知识图谱的农业智能问答系统

基于知识图谱的农业智能问答系统前言知识图谱简介知识图谱生命周期知识获取知识抽取知识存储与应用相关技术和工具农业知识图谱构建流程本体层构建实体层构建基于Neo4j的农业知识图谱问答系统算法设计基于知识图谱的问... 查看详情

知识图谱构建浅析

知识图谱应用如图所示,目前各大互联网公司已落地多个知识图谱产品,或者正在积极构建知识图谱,图谱技术成为“兵家必争”之地。1.什么是知识图谱?知识图谱(KnowledgeGraph)的概念由谷歌2012年正式提出,旨在实现更智能... 查看详情

医疗知识图谱的构建和应用

医疗知识图谱是实现智慧医疗的基石,有望带来更高效精准的医疗服务;然而,现有知识图谱构建技术在医学领域中普遍存在效率低、限制多、拓展性差等问题。              &nb... 查看详情

特定领域知识图谱知识融合方案(实体对齐)

...会先于数据层,知识图谱的schema在构建过程中,不仅借助行业专业人员并对大量的底层数据做分析和提炼来明确领域的基本属性、明确属性的适用概念、明确属性值的类别或者范围,同时还参考了已有的schema资源(如freebase等)... 查看详情

知识图谱实战应用1-知识图谱的构建与可视化应用(代码片段)

大家好,今天给大家带来知识图谱实战应用1-知识图谱的构建与可视化应用。知识图谱是一种概念模型,用于表示和组织实体之间的关系,从而实现大规模的语义查询和推理。一、知识图谱的应用领域1.搜索引擎:... 查看详情

知识图谱开源开放及生态|7月12日tf65

...南京大学和浙江大学的研究人员,一起深入探讨开放知识图谱、知识图谱开源工具等所面临的机遇和挑战,并进一步了解知识图谱开放和开源工具构建的应用与生态现状,以及对应的最佳实践。7月12日,欢迎报名&... 查看详情

nlpir技术运用知识图谱技术应用于智能金融

在金融领域,NLP技术的作用主要在于自动从海量的宏观、行业、微观资讯中发现、分析并整合与各类决策相关的信息。知识图谱在金融中有多项应用,首先通过信息检索技术获取相关文本,然后借语义分析技术从非结构化文本中... 查看详情

基于向量空间的知识图谱查询及结果解释

知识图谱是一个宏大的数据模型,可以构建庞大的“知识”网络,包含世间万物构成的“实体”以及它们之间的“关系”,图文并茂地展现知识方方面面地“属性”,让人们更便捷地获取信息、找到所求。为了让大家对知识图谱... 查看详情