数据中台:什么是数据中台

author author     2022-12-12     429

关键词:

什么是数据中台
数据中台是全新的架构变革。过去三十年,企业数据管理都以传统的IT架构为基础。每当技术部门为业务部门解决问题时,需要从业务需求的探查、技术壁垒的打通等从上到下各个方面来建设新系统。每个系统的建成都自成一体,各自满足业务部门的需求。这种情况不仅耗费各部门大量的精力也使得各个系统难以打通管理,无法形成更强大的数据能力。
技术图片
图片来源:国云数据
此外,目前的IT辅助管理系统是以欧美国家发达的制造业为奠定基础的,其更多的功能是采集数据,各个系统数据孤立存在、烟囱林立。在今天新的产业互联网时代,企业需要快速响应外部变化,建立多维度的数据以重塑DT的应用,因此传统的架构并不适合现在的市场发展情况,数据中台的架构颠覆了过去三十年传统的IT数据管理架构。
IT长不出DT。IT是CRM等软件管理系统进行数据采集的信息技术,DT是基于IT产生的数据进行智能化应用的技术,前者以信息技术为主,后者以数据技术为主。IT作为传统的数据管理架构是无法长出DT的。
如果以通俗化的生活案例来解说的话,数据中台的工作原理如同五星级饭店为满足食客需求的工作过程。数据类似于大型饭店中所用的果蔬肉等基础食材,CRM、ERP等管理系统将数据采集到,放到数据库里。为满足不同用户(食客的用餐)需求,企业需要将数据库中汇总的数据放到中央厨房以备业务人员(厨师)制作。数据放置的过程同步功能将数据分门别类,就像通过物流系统运送不同的食材到食材库里,将食材按类分拨。同时,数据治理技术需要将数据清洗好,对于某些特殊要求的数据还需要深加工等。
技术图片
图片来源:Unsplash
通过以上处理方式,数据才能提供给业务人员或者技术人员使用,相当于将分类规整好、清洗好的食材交给厨师制作一样。业务人员或者技术人员在使用时会根据不同的需求对数据进行组合搭配,即对数据进行建模。同理,厨师在烹炒时也会添加佐料、配方等,使菜肴更加美味。数据通过建模生成了不同的应用方向,再通过可视化将其进行美化,比如厨师的添油加醋等,最终为用户(食客)呈现契合需求的应用产品(佳肴)。
在企业有了数据的“中央厨房”之前,某个方向的应用产品的生成需要从数据治理、清洗、建模等从头到尾的流程都做一遍,只形成了这款产品的加工链,其他方向的数据没有实现同步、清洗,从而打通,烟囱式的壁垒由此产生。当另一用户的业务需求与之前做的产品应用方向有重合时,仍然需要从头再做。
在IT管理系统时代,这样漫长的周期为三到六个月,且过程中不能有太多的变更,也就是说用户不能根据业务变化随时调整。这样的应用研发不仅进度周期长,而且重复建设某些共性的功能,通用性功能无法沉淀,某些能力无法实现共享,最终造成企业资源和成本的浪费。
如今,若企业建立一套完整的数据中台体系,相当于建立了从物流系统、仓储系统等一体化的中央厨房系统。该体系将食材加工装配好,业务人员可以直接按需“下单”,定制化应用立即生成。可见,数据中台可为最终的用户,比如业务人员(厨师),比如用户(食客)提供成本低、灵活度高的业务处理平台。如果某个应用受到用户热烈欢迎,可以依靠数据中台多元化、共享的功能为其提供持续性地服务。如此,企业可以依靠强大的数据中台服务能力提升竞争力,保持市场有利地位。
数据中台是能力共享平台。如今,很多产品应用研发初始都在强调功能性,各个功能存在或多或少的重复性。然而企业对这些产品功能的定义并不相同。当客户产生某些需求时,由于定义的不同,产品功能和功能间的数据很难打通,也无法实现能力共享。
在数据中台基础上的应用开发并不强调功能性,更注重能力的共享。这种能力就像水电煤一样可以直接向外输出使用,从而满足业务部门和用户的不同需求。
数据中台是有机的一体化平台。数据中台是包含模型资产、应用资产、工具资产、技术资产为一体的赋能平台,并不是纯技术概念。数据中台不只是输出技术能力,数据能力、资产能力、应用能力以及制度能力等也是中台的价值输出。数据中台的核心点在于赋能业务部门及用户,以应用为出发点,快速响应外部的需求,帮助业务部门产生业绩,形成业务增长。
数据中台是新一代的数据架构思路,其工作原理是以应用为出发点,进行数据整合,最终呈现的结果是数据应用的平台。随着未来科学技术愈发先进,人们的需求千变万化,各种应用的产生也就顺其自然,而以纯技术为导向的数据中台很难快速响应外部应用需求。
数据中台是一种端到端的技术平台,而不是一堆API的接口,其更注重业务端的使用和业务价值的体现。传统API能力输出模式无法满足企业应用产品多变的需求,其需要中间层的技术转化,无法快速、高效地产生应用。传统企业搭建数据中台,如果仅完成了API接口的创建,仅仅是完成了数据中台建设的其中一环。因此,数据中台并不是端到端的技术赋能平台。
可见,数据中台的建设需要业务部门灵活的应用需求,技术部门强大的数据治理、数据建模等能力,以及公司各个部门和资产的多维配合。它是集业务、技术和公司资产的有机结合体,并不是片面的模块的组合体。

数据中台是一种新的技术建设思路。数据中台作为一种新的建设思路,打破了企业以前传统的功能式和集成式的建设思路。企业以前产品打造的过程先依靠工程师搭建基础技术架构,架构搭建完成后再添加应用功能。这种建设思路比较适合产品模式稳定的企业,对于应用需求多变、应用出发点无法一时统一的公司来说并不是最佳的选择。这种因为工程或者基础设施建设出的产品最终会无法为业务部门提供更多价值。因此,以应用为核心思考点的建设思路才是企业保持长久生命力的关键,而数据中台的建设将帮助企业改变传统的产品应用建设方式。
在过去,传统企业为提高管理效率会部署CRM、ERP等多种管理系统,这种管理系统在企业管理基础数据,简单分析业务等方面为企业主运营决策提供了一定的参考价值。但是,当企业外部需求越来越多变,企业管理系统仅仅进行简单的数据采集是无法满足市场需求的。
企业主通过将多个管理系统的账号打通,并增设各种分析工具等来加强管理,这种集成式的建设思路仍无法真正赋能业务对象。数据应用多样化,大量的临时的、即时的、分散的需求不时产生,数据模型需要根据业务重点经常调整,企业主仅仅通过联通各个管理系统账号是无法响应需求的。
多个管理系统和分析工具的集成虽然为企业主解决了部分问题,但是各个系统产品的建设思路不一致,产品与产品间既有重叠功能,也有边界划分,且产品之间定义并不相同,无法形成统一的、无缝结合的数据资产。产品与产品之间的技术出入会导致应用的出错,最终影响用户对产品的信任。由此,集成式的建设方式给技术部门形成巨大的维护成本和治理成本,并没有达到数据中台建设的真正目的。
数据中台的基本能力

数据中台具有数据服务的能力。数据中台帮助业务部门建立工作台,通过工作台可以快速获取到数据相关服务,包括数据提取、数据分析、数据推送、数据回流等服务;数据中台可以将脏乱差的数据进行加工、治理、切分、建模、打标签等。
数据中台可以使业务人员具备数据应用开发的能力。业务人员可以根据自己业务单元的需求,做深度的应用开发,比如精准、智能、智慧等相关应用,这些应用可以独立变成产品。
数据中台具有强大的海量数据处理能力。数据中台对数据治理能力、融合能力、采集能力、同步能力等为数据应用提供了强大的基础支持。无论企业生产、运营、消费者溯源、供应商维护、外部公共数据等不同维度的数据,数据中台都可以通过不同的功能实现数据的打通、共享。
由于不同的业务场景需要不同规模的计算平台来处理海量数据。数据中台的建设帮助业务人员根据应用需求随时调度计算能力。
数据中台具有数据开发的能力。数据中台中分析工具、挖掘工具、清洗工具等不同数据工具的设置可以帮助上下游企业和外部用户直接开发应用。数据中台可以将上下游工具进行傻瓜式包装,比如应用开发、应用复制、应用使用、应用评价、应用分享等功能的设置,帮助企业不同领域的用户实现数据共享、应用共享。
数据中台具备自学习和自动完善的能力。数据中台赋能业务人员的特性决定了其具有自学习的能力。中台可以通过不断的能力叠加,将数据和公司资产进行良性的循环和回流,赋能企业业务和技术部门,为企业建成一个具有滚动的、增长的、变化的自学习能力平台。
数据中台具有资产沉淀能力。用户在使用数据的过程中会自动地沉淀出高价值的数据,通过数据中台的融通能力,将这些有价值的数据进行良性的循环与回流。企业因此对自身的用户数据、会员数据、人力数据等认识加深。这样的沉淀能力可以为公司提高核心竞争力。另外,公司内部高价值的资产,比如模型资产、IT资产、DT资产、数据资产、应用资产,以及应用资产中的用户资产、画像资产等均可以通过中台沉淀下来,为公司日后的应用提供更多的支持。长期以往的沉淀帮助公司建立核心竞争力,使企业在数字化转型中先行一步,快速布局数字化市场竞争。
数据中台具有数据质量自动跟踪的能力。数据在使用过程中往往有多部门多角色参与,各个部门会定义多种多样的数据指标、标签和使用方式,长期以往数据治理体系将会越来越复杂。一旦数据无法跟踪,会导致前端的数据应用出错,最终使得企业决策失误,付出较大代价。数据中台可以避免以上问题的出现,数据质量智能追踪和血缘分析会跟踪数据的血缘系统,确保数据质量。
数据中台具备数据融合打通的能力。随着企业业务多变,数据互联互通变得越来越重要。数据中台将数据定义和意义保持一致,使数据真正实时打通。
数据中台具有IT系统和DT系统风险隔离的能力。IT系统在企业数据采集、管理方面发挥着作用。业务需求变化快,而IT系统却无法随着DT系统变化,DT系统有着自身存在的意义。两个系统的目标、定位不同,必然导致数据应用出现分歧。数据中台的建立可以帮助企业对数据进行风险隔离,确保一方不影响另一方。
数据中台应用方式
数据中台应用方式一为帮助业务部门灵活使用数据分析。数据中台改变了以往业务部门数据分析技术能力不足的窘况。在数据中台出现以前,业务部门因为技术能力的缺乏,面对分析需求时只能借助技术部门的辅助。中间经业务部门、技术部门、分析部门等各部门的沟通与配合在耗费了大量的时间成本和沟通成本的情况下,也耽误了技术部门做更有价值的项目的机会。
数据中台打破了数据的复杂格式,使得数据实现共享,在数据分析技术方面为业务部门开通了绿灯,业务人员可以自由地进行数据分析。
数据中台应用方式二为帮助技术单元和业务单元,甚至外部单元灵活地创建应用。企业内部技术部门、业务部门,甚至外部供应商等第三方也可以基于数据中台完成应用的创建。数据中台帮助企业搭建行业生态共享平台,造福企业内外部人员及上下游企业客户。
数据中台应用方式三为技术部门可以不断构建应用能力,沉淀数据资产和价值资产。数据中台使业务、技术、公司资产实现了打通、合并、共享,数据资产的形成使技术部门可以形成持续的应用开发能力。反之,推陈出新的应用产生的数据又为新应用的诞生提供了肥沃的土壤,双方形成闭环。
数据中台的建设内容
数据中台在SaaS层、DaaS层、PaaS层、IaaS层具有不同的应用内容。
SaaS层:从技术角度讲SaaS层是业务用户或技术用户直接可以使用的服务和功能,包括数据分析工具、数据挖掘工具、可视化工具、清洗工具、建模工具等不同的数据工具;还包括不同层次的数据应用,如大屏可视化应用、决策分析系统、用户画像系统、精准推荐系统、AI应用等。
DaaS层:用户可以通过DaaS层获取数据直接的服务。最常见的服务有客户数据获取、原始数据治理服务、原始数据和IT数据互联互通服务、数据质量监控服务、数据关系分析服务等。
PaaS层:该层具备更深度的能力,主要向公司内部数据治理团队、数据团队和技术团队提供服务。基于PaaS层可以构建出更优良地DaaS层和SaaS层。这层要与基本的数据治理、清洗、建模、模型管理、模型共享、应用开发、应用发布等工具和能力有所区分。在该层有很多调度PaaS的能力,包括同步系统、调度系统。
IaaS层:主要解决数据计算资源和存储资源等基础的能力,包括大数据集群计算、分布式计算、数据库等计算资源。该层可对流失计算、数据调度系统和计算资源进行存储。该层具备数据最基本能力,包括数据安全等。该层可以帮助用户从IT中获取能力,又能产生DT的应用,同时又能回流到IT里面支撑IT发展,***到IT业务环境中,提高企业业务能力。(注:由于篇幅有限,数据中台各个技术模块将后续补充)
文章由国云数据原创,转载请注明出处。

大数据中台(代码片段)

 数据中台的由来数据中台最早是阿里提出的,但真正火起来是2018年,我们能感受到行业文章谈论数据中台的越来越多。大量的互联网、非互联网公司都开始建设数据中台。为什么很多公司开始建设数据中台?尽管数... 查看详情

从概念走向现实:数据中台到底有什么用

...。对此,这个“看上去很美”的概念也引起了不少质疑:数据中台到底有什么用?每一家企业都需要数据中台吗?日前,“CIO&IT经理精英汇”社群对此展开了热议,不同行业的企业IT负责人发表了看法。本文将从数据中台是什... 查看详情

数据中台详解

文章目录什么是数据中台数据中台VS数据仓库数据中台的业务价值与技术价值数据中台建设与架构数据中台建设方法论数据中台架构数据汇聚联通:打破企业数据孤岛数据采集、汇聚的方法和工具数据交换数据体系建设数据... 查看详情

走好数据中台最后一公里,为什么说数据服务api是数据中台的标配?

原文链接:​​走好数据中台最后一公里,数据服务API是数据中台的标配​​视频回顾:​​点击这里​​课件获取:​​点击这里​​一、数据服务API建设背景在数字化转型的时代背景下,新需求的大量增长、新技术的不断迭... 查看详情

大白话六问数据中台!你想知道的都在这了!

数据中台、相信这四个字大家一定不陌生。因为在2019年、数据中台可谓是最火的概念之一,很多大公司都在布局自己的数据中台。那么数据中台到底是什么?它和我们熟知的数据平台有啥区别?它为什么会这么火、能给企业带... 查看详情

大数据中台(代码片段)

 数据中台的由来数据中台最早是阿里提出的,但真正火起来是2018年,我们能感受到行业文章谈论数据中台的越来越多。大量的互联网、非互联网公司都开始建设数据中台。为什么很多公司开始建设数据中台?尽管数... 查看详情

数据中台应用实战50篇-带你概览bi数据仓库数据湖与数据中台之间有什么关联关系?(建议收藏)

前言数据中台最核心的是OneData体系。这个体系实质上是一个数据管理体系,包括全局数据仓库规划、数据规范定义、数据建模研发、数据连接萃取、数据运维监控、数据资产管理工具等。数据仓库是为企业所有级别的决策制定... 查看详情

数据中台应用实战50篇-中台解决方案本质在解决什么问题?

...门到精通MATLAB深入理解高级教程(附源码)tableau可视化数据分析高级教程那么要想进行正确的中台建设,在建设中台开始前,我们必需 查看详情

10张架构图详解数据中台,附全套数据中台ppt

数据中台到底是什么,几年过去了,一直众说纷。笔者认为数据中台不应该是一个单纯的系统或者是一个软件工具,而应该是一套架构、一套数据流转模式。数据中台需要采集数据作为原材料进行数据加工、数据建模... 查看详情

数据中台应用实战50篇-带你概览bi数据仓库数据湖与数据中台之间有什么关联关系?(建议收藏)

前言数据中台最核心的是OneData体系。这个体系实质上是一个数据管理体系,包括全局数据仓库规划、数据规范定义、数据建模研发、数据连接萃取、数据运维监控、数据资产管理工具等。数据仓库是为企业所有级别的决策制定... 查看详情

数据中台系列:你的企业真的需要「数据中台」吗?

如何理解数据中台在解决你是否需要数据中台这个问题之前,让我们先理理它究竟是什么。它是工具?是方法?还是组织架构?我的回答是:都不仅仅是。数据中台包括平台、工具、数据、组织、流程、规范等一切与企业数据资... 查看详情

数据中台为什么不好搞?

从2015年阿里提出“大中台”的数据中台战略,到2019年大厂及中台服务商“大兴”数据中台,再到2021年大厂又开始拆中台。数据中台从小甜甜变成牛夫人仅仅用了2年时间,为什么这么快数据中台就不香了?(... 查看详情

数据中台为什么不好搞?

从2015年阿里提出“大中台”的数据中台战略,到2019年大厂及中台服务商“大兴”数据中台,再到2021年大厂又开始拆中台。数据中台从小甜甜变成牛夫人仅仅用了2年时间,为什么这么快数据中台就不香了?(... 查看详情

数据中台为什么不好搞?

从2015年阿里提出“大中台”的数据中台战略,到2019年大厂及中台服务商“大兴”数据中台,再到2021年大厂又开始拆中台。数据中台从小甜甜变成牛夫人仅仅用了2年时间,为什么这么快数据中台就不香了?(... 查看详情

数据中台为什么不好搞?

从2015年阿里提出“大中台”的数据中台战略,到2019年大厂及中台服务商“大兴”数据中台,再到2021年大厂又开始拆中台。数据中台从小甜甜变成牛夫人仅仅用了2年时间,为什么这么快数据中台就不香了?(... 查看详情

数据中台到底是什么?能治什么“病”

中台最早的起源是芬兰的小公司Supercell,这家公司仅有不到200名员工,却推出一系列爆款游戏,年利润高达15亿美元,这家看似很小的公司,设置了一个强大的中台,用以支持众多的小团队进行游戏研发。2... 查看详情

数据中台实战课网易一线真实案例

2018年末,数据中台突然出圈,一跃成为新晋网红,它解决了指标口径不一致的问题,节省了资源,提高了数据开发效率。 别着急,在你跃跃欲试之前,先了解一下:什么样的企业适合建设数据中台?数据中台到底要解决什... 查看详情

中台:业务中台数据中台技术中台

...借助平台化的力量可以事半功倍。中台分类主流的分类有数据中台和业务中台双中台,也有一些其他非主流的中台种类,例如技术中台业务中台业务中台是指在企业内部将各业务领域的业务逻辑、流程和数据进行整合和... 查看详情