清华最新《图神经网络推荐系统》综述,阐述gnn:阶段场景目标和应用

人工智能博士 人工智能博士     2023-01-16     127

关键词:

点上方人工智能算法与Python大数据获取更多干货

在右上方 ··· 设为星标 ★,第一时间获取资源

仅做学术分享,如有侵权,联系删除

转载于 :专知

摘要

推荐系统是当今互联网上最重要的信息服务之一。近年来,图神经网络已成为推荐系统的新技术。在这个调研中,我们对基于图神经网络的推荐系统的文献进行了全面的回顾。我们首先介绍了推荐系统和图神经网络的背景和发展历史。对于推荐系统,一般来说,现有工作的分类分为四个方面: 阶段、场景、目标和应用。对于图神经网络,现有的方法包括谱模型和空间模型两大类。然后讨论了将图神经网络应用于推荐系统的动机,主要包括高阶连通性、数据的结构特性和增强的监督信号。然后我们系统地分析了图构造、嵌入传播/聚合、模型优化和计算效率方面的挑战。之后,我们首先按照上面的分类法,全面概述了基于图神经网络的推荐系统的大量现有工作。最后,对该领域存在的问题和未来发展方向进行了讨论。我们在https://github.com/tsinghua-fib-lab/GNN-Recommender-Systems中总结了这些有代表性的论文及其代码库。推荐系统,是一种以向用户呈现个性化信息为目标的过滤系统,可以提高用户体验,提高企业利润。作为由现实世界驱动的机器学习的典型应用之一,它是当今工业界和学术界的一个非常热门的话题。

https://www.zhuanzhi.ai/paper/bf43598c0fc4a7c2220775a439cc48e1

引言

推荐系统,是一种以向用户呈现个性化信息为目标的过滤系统,可以提高用户体验,提高企业利润。作为由现实世界驱动的机器学习的典型应用之一,它是当今工业界和学术界的一个非常热门的话题。

回顾推荐系统的发展历程,一般可将其分为三个阶段:浅层模型[74,125,126]、神经模型[26,48,56]和基于GNN的模型[55,153,188]。最早的推荐模型通过直接计算交互的相似度来捕捉协同过滤(CF)效应。然后,提出了基于模型的CF方法,如矩阵分解(MF)[74]或分解机[125],将推荐作为一个表示学习问题来处理。然而,这些方法面临着复杂的用户行为或数据输入等关键挑战。为了解决这个问题,我们提出了基于神经网络的模型[26,48,56]。例如,神经协同过滤(neural collaborative filtering, NCF)被开发用于扩展多层感知器(multi-layer perceptrons, MLP)内积,以提高其能力。同样,深度因子分解机(DeepFM)[48]将浅层模型因子分解机(FM)[125]与MLP结合。然而,由于这些方法的预测和训练模式忽略了观测数据中的高阶结构信息,因此仍然存在很大的局限性。例如,NCF的优化目标是预测用户-物品交互,训练样本包括观察到的正向用户-物品交互和未观察到的负向用户-物品交互。这意味着在对特定用户进行参数更新时,只涉及他/她交互的项。

近年来,图神经网络的发展为解决推荐系统中的上述问题提供了坚实的基础和机遇。具体来说,图神经网络采用嵌入传播的方法迭代地聚合邻域嵌入。通过叠加传播层,每个节点可以访问高阶邻居的信息,而不是传统方法只访问一阶邻居的信息。基于GNN的推荐方法以其处理结构化数据和挖掘结构化信息的优势,已成为推荐系统中最先进的方法。为了将图神经网络很好地应用到推荐系统中,有一些关键的挑战需要解决。首先,将推荐系统的数据输入仔细地构造成图,节点表示元素,边表示元素之间的关系。其次,对于具体的任务,需要自适应地设计图神经网络中的构件,包括如何传播和聚合,现有的工作在这方面探索了各种各样的选择,各有优缺点。第三,基于GNN模型的优化,包括优化目标、损失函数、数据采样等,应与任务要求一致。最后,由于推荐系统对计算成本有严格的限制,而且由于GNN的嵌入传播操作引入了大量的计算,图神经网络在推荐系统中的有效部署是另一个关键的挑战。

在本文中,我们旨在提供一个系统和全面的研究工作,特别是他们如何改进图神经网络的推荐和解决相应的挑战。为了更清晰地理解推荐系统,我们从阶段、场景、目标和应用四个方面对推荐系统的研究进行了分类。我们总结了https://github.com/tsinghua-fib-lab/ gnn - recommendation - systems中具有代表性的论文及其代码库。 值得一提的是,已有一项基于图神经网络的推荐系统的综述[168]。然而,由于以下原因,它是有限的。首先,它没有提供广泛的推荐系统分类。具体来说,它将推荐系统大致分为非序列推荐和序序推荐,但这并不合理。事实上,正如本调研所指出的那样,序列推荐只是一个具有特殊输入和输出设置的特定推荐场景。第二,它没有提供足够的动机和原因,现有的工作利用图神经网络推荐系统。而在本次调研中,我们对GNN为什么可以和应该被用于推荐系统提供了一个全面的理解,有助于读者理解这一新的研究领域的地位和价值。第三,它没有解释将图神经网络应用于推荐的关键挑战以及如何解决这些挑战,这在本调研中已经充分讨论。最后,由于这一领域越来越受欢迎,我们的调研也介绍了许多最近发表的论文[168]没有涉及。

本次综述的结构组织如下。在第2节中,我们首先从阶段、场景、目标、应用四个方面介绍了推荐系统的背景,以及图神经网络的背景。在第三节中,我们从四个方面讨论了在推荐系统中应用图神经网络所面临的挑战。然后我们按照上节的分类,在第4节中详细阐述了基于图神经网络的推荐的代表性方法。在第5节中,我们讨论了这一领域中最关键的开放问题,并提供了未来方向的想法,在第6节中总结了这个综述。

---------♥---------

声明:本内容来源网络,版权属于原作者

图片来源网络,不代表本公众号立场。如有侵权,联系删除

AI博士私人微信,还有少量空位

如何画出漂亮的深度学习模型图?

如何画出漂亮的神经网络图?

一文读懂深度学习中的各种卷积

点个在看支持一下吧

zz清华nlp图神经网络gnn论文分门别类,16大应用200+篇论文最新推荐

【清华NLP】图神经网络GNN论文分门别类,16大应用200+篇论文最新推荐图神经网络研究成为当前深度学习领域的热点。最近,清华大学NLP课题组JieZhou,GanquCui,ZhengyanZhangandYushiBai同学对GNN相关的综述论文、模型与应用进行了综述,并... 查看详情

论文笔记acomprehensivesurveyongraphneuralnetworks(gnn综述)

...法的研究。在本篇文章中,作者总结了目前主要的图神经网络模型,并提出了一种新的分类方法将目前的图神经网络分为以下四种& 查看详情

4位gnn一线大佬新书出版了!

 Datawhale推荐 推荐人:张钹、周志华、李航等广大图神经网络(GraphNeuralNetwork,下文简称GNN)研究人员翘首以盼、吴凌飞、崔鹏、裴健、赵亮4位GNN领域的中青年影响力学者联合编写《图神经网络:基础、前沿... 查看详情

图神经网络gnn学习路径(代码片段)

...点。1.DL库及数据集1.1GNN通用DL库pyg和dgl是比较火的两个图神经网络仓库。但是用起来也有缺陷,比如使用比较流行的图数据集很方便,但是如果要自定义数据集,那就要对其数据集构建风格足够了解。因此对要使用新... 查看详情

图神经网络gnn学习路径(代码片段)

...点。1.DL库及数据集1.1GNN通用DL库pyg和dgl是比较火的两个图神经网络仓库。但是用起来也有缺陷,比如使用比较流行的图数据集很方便,但是如果要自定义数据集,那就要对其数据集构建风格足够了解。因此对要使用新... 查看详情

图神经网络--综述

...,用机器学习方法分析图的研究越来越受到重视。图神经网络(GNN)是一类基于深度学习的处理图域信息的方法。由于其较好的性能和可解释性,GNN最近已成为一种广泛应用的图分析 查看详情

论文笔记acomprehensivesurveyongraphneuralnetworks(gnn综述)

...分类:在本篇文章中,作者总结了目前主要的图神经网络模型,并提出了一种新的分类方法将目前的图神经网络分为以下四种:循环图神经网络(RecGNN),卷积图神经网络(ConvGNN),图自动编码器(GAE)... 查看详情

gnn通俗笔记:图神经网络在推荐/广告中的应用

原始视频:七月在线公开课《图神经网络在推荐广告场景中的应用》,课件可以打开视频页面下载分享老师:推荐吴老师,推荐/广告算法专家,曾任部门算法负责人,年薪....不低字幕校对:天保,... 查看详情

清华&南开出品最新视觉注意力机制attention综述

...视觉领域中的发展历程大致归为了四个阶段:将深度神经网络与注意力机制相结合,代表性方法为RAM明确预测判别性输入特征,代表性方法为STN隐性且自适应地预测潜在的关键特征,代表方法为SENet自注意力机制... 查看详情

图神经网络实战深入浅出地学习图神经网络gnn(上)(代码片段)

文章目录一、图神经网络应用领域1.1芯片设计1.2场景分析与问题推理1.3推荐系统1.4欺诈检测与风控相关1.5知识图谱1.6道路交通的流量预测1.7自动驾驶(无人机等场景)1.8化学,医疗等场景1.9物理模型相关二、图神经网... 查看详情

a.特定领域知识图谱知识推理方案:知识图谱推理算法综述[五]-geniepath会自动过滤多度“邻居“的图神经网络算法。

...述[三](基于语义的匹配模型:张量分解模型RESCAL、ComplEx神经网络SEM,NAM),OpenKE工具包。A.特定领域知识图谱知识推理方案:知识图谱推理算法综述[四](基于图传播的模型:node2vec、GCN、Graphsage、GeniePath等)算法汇总和应用场... 查看详情

收藏|最新《图神经网络》综述论文35页pdf209篇文献

...术分享,如有侵权,联系删除转载于:专知图神经网络一直是业界关注的热点之一。最近来自印度国家理工学院的学者发布了《图神经网络》综述论文.摘要在过去十年左右的时间里,我们见证了深度学习让机器学... 查看详情

收藏|最新《图神经网络》综述论文35页pdf209篇文献

...术分享,如有侵权,联系删除转载于:专知图神经网络一直是业界关注的热点之一。最近来自印度国家理工学院的学者发布了《图神经网络》综述论文.摘要在过去十年左右的时间里,我们见证了深度学习让机器学... 查看详情

综述|图嵌入推荐系统技术

...分享,如有侵权,联系删除转载于:专知摘要推荐系统是一种缓解信息超载问题的关键工具,旨在通过分析观察到的用户-商品关系,从数百万的候选商品中预测出用户喜欢的商品。针对推荐系统存在的稀疏性... 查看详情

论文合集|大规模图上的高效gnn

...除转载于:图与推荐????AwesomeEfficientGraphNeuralNetworks图神经网络在工业界应用非常受欢迎,这是一篇关于高效图神经网络和大规模网络中图神经网络应用的精选论文列表。链 查看详情

论文合集|大规模图上的高效gnn

...除转载于:图与推荐????AwesomeEfficientGraphNeuralNetworks图神经网络在工业界应用非常受欢迎,这是一篇关于高效图神经网络和大规模网络中图神经网络应用的精选论文列表。链 查看详情

综述|清华大学最新!分布外泛化

...场景下进行泛化的任务。现在受到众多关注。最近,清华大学崔鹏等研究者发布了《分布外泛化(Out-Of-DistributionGenera 查看详情

综述|清华大学最新!分布外泛化

...场景下进行泛化的任务。现在受到众多关注。最近,清华大学崔鹏等研究者发布了《分布外泛化(Out-Of-DistributionGenera 查看详情