推荐系统推荐系统数据流的经典技术架构+微软阿里微软等10大深度学习ctr模型最全演化图谱

海洋.之心 海洋.之心     2023-04-05     622

关键词:

文章目录

一、推荐、广告、搜索系统的区别?

1.1 根本问题区别

  • 广告:广告算法的目标就是为了直接增加公司的收入
  • 搜索:围绕搜索词的信息高效获取问题的回应
  • 推荐:增加用户的参与度,提高用户粘性和留存率

1.2 优化目标的区别

  • 广告:预估CTR和CVR,反向推导流量的价值
  • 搜索:看重能够把正确答案召回回来
  • 推荐:推荐算法目标不尽相同,视频类更倾向于视频播放市场,新闻类预测CTR点击率,电商类预估客单价等

1.3 模型本身的差异

经典的Attention推荐模型

融合序列结构的DSIN

Google Play的搜索双塔模型

二、推荐系统技术架构

2.1 数据部分


主流大数据架构

  • 批处理架构
  • 流处理架构
  • Lambda架构
  • Kappa架构
  • Unified架构

2.2 模型部分


召回层:

  • Embedding
  • 局部敏感哈希
  • 热门物品召回
  • 社交关系召回
  • 新鲜物品召回

排序层:

  • 协同过滤类模型
  • LR、FM、MLR
  • 组合类模型
  • 深度学习模型

补充策略与算法:

  • 多样性
  • 实时性
  • 流行度
  • 新鲜度

2.3 推荐系统数据流的技术架构图

  • 客户端实时特征:经常利用客户端收集时间、地点、推荐场景等上下文特征,然后让这些特征随http请求一起到达服务器端,参与模型预测。

  • 流处理平台的准实时特征处理:所谓流处理平台,是将日志以流的形式进行mini batch处理的准实时计算平台,流处理平台计算出的特征可以立马存入特征数据库供推荐系统模型使用,虽然无法实时的根据用户行为改变用户结果,但分钟级别的延迟基本可以保证用户的推荐结果准实时地受到之前行为的影响。

  • 分布式批处理平台的全量特征处理:随着数据最终到达以HDFS为主的分布式存储系统。Spark等分布式计算平台终于能够进行全量特征的计算和抽取。在这个阶段着重进行的还有多个数据源的数据join和以及延迟信号的合并。

三、深度学习推荐模型的演化趋势

3.1 前深度学习时代CTR预估模型的演化之路

3.2 谷歌、阿里、微软等10大深度学习CTR模型最全演化图谱【推荐、广告、搜索领域】

3.3 CTR基本模型结构

3.4 DIN网络

3.5 DIEN网络

3.6 如何根据用户历史行为数据计算CTR?

  • 方式一:考虑所有行为记录的影响,利用average pooling将embedding vector平均一下形成这个用户的user vector

  • 方式二:使用time decay,让最近的行为产生的影响大一些,在做average pooling的时候按时间调整一下权重

  • 方式三:引入attention机制,对不同的行为兴趣增加不同的权重

推荐系统(十七)双塔模型:微软dssm模型(deepstructuredsemanticmodels)

推荐系统(十七)双塔模型:微软DSSM模型(DeepStructuredSemanticModels)推荐系统系列博客:推荐系统(一)推荐系统整体概览推荐系统(二)GBDT+LR模型推荐系统(三)FactorizationM 查看详情

推荐系统(十七)双塔模型:微软dssm模型(deepstructuredsemanticmodels)

推荐系统(十七)双塔模型:微软DSSM模型(DeepStructuredSemanticModels)推荐系统系列博客:推荐系统(一)推荐系统整体概览推荐系统(二)GBDT+LR模型推荐系统(三)FactorizationMachine... 查看详情

后深度学习时代,推荐系统向何处去?

近年来,深度学习出现并统治了人工智能领域。推荐系统技术迎来了一次重大的革新,推荐系统正式进入了深度学习时代。学术界尝试用深度学习设计推荐算法,工业界也将深度学习广泛应用于实际项目。01推荐系统... 查看详情

书籍|推荐系统将向何处去?

...图神经网络等最新技术应用到微软的广告、新闻、游戏等推荐场景,取得了推荐效果、用户活跃度以及广告收入的大幅度提升,并发表了一系列有影响力的学术论文。他们将成功的经验进行总结,与微软云计算团队的... 查看详情

书籍|推荐系统将向何处去?

...图神经网络等最新技术应用到微软的广告、新闻、游戏等推荐场景,取得了推荐效果、用户活跃度以及广告收入的大幅度提升,并发表了一系列有影响力的学术论文。他们将成功的经验进行总结,与微软云计算团队的... 查看详情

字体编程常用字体推荐,微软,苹果,开源系统默认代码字体

目录编程常用字体推荐,微软,苹果,开源系统默认代码字体一、苹果家的1、Monaco2、Menlo二、微软家的1、Consolas2、CourierNew三、Linux1、UbuntuMono2、DejaVuSansMono四、其他1、SourceCodePro2、FiraCode3、LucidaSansTypewriter4、NotoMono下... 查看详情

web技术人员-推荐书籍

...是每一本都有其特点。以下20本大部分本人都看过,因此推荐给大家。(本次推荐的20本只是一个参考,比如像HeadFirst,Java编程思想等经典书籍是大家都知道,因此不在推荐之列)本次分享大纲大型网站架构系列分布式系统系列B... 查看详情

大型网站架构系列:20本技术书籍推荐

...是每一本都有其特点。以下20本大部分本人都看过,因此推荐给大家。(本次推荐的20本只是一个参考,比如像HeadFirst,Java编程思想等经典书籍是大家都知道,因此不在推荐之列)本次分享大纲大型网站架构系列分布式系统系列B... 查看详情

流动的推荐系统——兴趣feed技术架构与实现

流动的推荐系统我们经常谈论的推荐系统(RecommenderSystem),从形式上看是比较“静态”的推荐,通常位于网页主要信息的周边,比如电商网站的“看了又看”、“买了又买”。这种推荐系统在大多数场景下无法独立撑起一款产... 查看详情

个性化推荐系统架构设计

推荐系统设计1.推荐系统要素2.推荐系统架构1.推荐系统要素UI和UE(前端界面)数据(Lambda架构)业务知识算法2.推荐系统架构推荐系统整体架构大数据Lambda架构由Twitter工程师NathanMarz(storm项目发起人)提出Lambda系统架构提供了一个结合... 查看详情

个性化推荐系统架构设计

推荐系统设计1.推荐系统要素2.推荐系统架构1.推荐系统要素UI和UE(前端界面)数据(Lambda架构)业务知识算法2.推荐系统架构推荐系统整体架构大数据Lambda架构由Twitter工程师NathanMarz(storm项目发起人)提出Lambda系统架构提供了一个结合... 查看详情

推荐系统[七]:推荐系统通用技术架构(netfilx等)api服务接口

相关文章推荐:推荐系统[一]:超详细知识介绍,一份完整的入门指南,解答推荐系统相关算法流程、衡量指标和应用,以及如何使用jieba分词库进行相似推荐,业界广告推荐技术最新进展推荐系统[二]:召回算法超详细讲解[召... 查看详情

58同城推荐系统架构设计与实现

一、推荐系统架构介绍推荐系统是一个微庞大的工程、算法与业务综合的系统,其主要分为三大子系统:1)线下推荐子系统;2)线上推荐子系统;3)效果评估子系统;后文将重点讨论以上三大子系统的设计与实现。 二、线... 查看详情

下载基于大数据技术推荐系统实战教程(sparkmlsparkstreamingkafkahadoopmahoutflumesqoopredis)

...,谷歌等),广告系统(比如百度凤巢,阿里妈妈等)和推荐系统(比如阿里巴巴天猫推荐,优酷视频推荐 查看详情

推荐系统篇--推荐系统介绍和基本架构流程

一、前述推荐系统是企业中常用的技术,所以系统的掌握推荐系统的知识是很有必要的。本专栏主要讲述手机APP下载的项目。常用的推荐方法有两个,分别是基于物品的推荐和基于用户的推荐。基于用户的推荐原理是:跟你喜好... 查看详情

阿里程序员推荐的9款最佳编程字体

1、ConsolasConsolas是一套等宽字体的字型,属无衬线字体,由LucasdeGroot设计,这套字型使用了微软的ClearType字型平滑技术,非常好看2、MenloMenlo也是一个无衬线等宽字体,由JimLyles设计,首次出现于2009年8月上市的MacOSXSnowLeopard系统... 查看详情

编程生涯(代码片段)

1, 如果有人让你推荐编程技术书,请叫他看这个列表这个列表包括了100多本经典技术书籍,涵盖:计算机系统与网络、系统架构、算法与数据结构、前端开发、后端开发、移动开发、数据库、测试、项目与团队、程序员职... 查看详情

推荐系统架构(摘自《推荐系统实践》)

摘要:  1.外围架构   2.推荐系统架构内容:1.外围架构:  网站的推荐系统是如何和其他其他系统结合的?  2.推荐系统架构图:    其中每一个推荐引擎负责一类特征和一种任务,而推荐系统的任务只是将推... 查看详情