数据中台与传统大数据平台有什么区别？终于有人讲明白了

柔情只为你懂 2023-01-21 11:27 27阅读 0赞

**导读：**我们可以这样理解，传统大数据平台和数据仓库是数据中台的数据来源，建设数据中台是为了更好地服务于业务部门。

作者：彭锋 宋文欣 孙浩峰

来源：大数据DT（ID：hzdashuju）

图1-1显示了信息化系统、数据仓库、传统大数据平台、数据中台之间的关系，其中的箭头表示数据的主要流向。

![04fffbd906f7fb346c03c040267ed92e.png][]

▲图1-1 数据中台与传统大数据平台、数据仓库的关系

数据中台与传统大数据平台到底有什么区别？为了叙述方便，我们先给出传统大数据平台的架构（见图1-2）。

![3ca16da5fde206af5fd70981ba9c5d89.png][]

▲图1-2 传统大数据平台

*  大数据基础能力层：Hadoop、Spark、Hive、HBase、Flume、Sqoop、Kafka、 Elasticsearch等。
 *  在大数据组件上搭建的 ETL流水线，包括数据分析、机器学习程序。
 *  数据治理系统。
 *  数据仓库系统。
 *  数据可视化系统。

可以看到，这些是传统大数据平台的核心功能。在很多大数据项目里，只要把这些系统搭起来，每天可以生成业务报表（包括实时大屏），就算大数据平台搭建成功了。

**但数据中台应该是大数据平台的一个超集。我们认为，在大数据平台的基础之上，数据中台还应该提供下面的系统功能。**

**1. 全局的数据应用资产管理**

这里所说的数据应用资产管理包括整个生态系统中的数据和应用。传统的数据资产管理绝大部分只包括关系型数据库中的资产（包括Hive），而一个数据中台应该管理所有结构化、非结构化的数据资产，以及使用这些数据资产的应用。

**如果传统的数据资产管理提供的是数据目录，那么数据中台提供的应该是扩展的数据及应用目录。**要避免重复造轮子，首先要知道系统中有哪些轮子，因此维护一个系统中数据及数据应用的列表是很关键的。

**2. 全局的数据治理机制**

与传统的数据治理不一样，数据中台必须提供针对全局的数据治理工具和机制。传统数据仓库中的数据建模和数据治理大多针对一个特定部门的业务，部分原因是全局数据建模和治理周期太长，由于存在部门之间的协调问题，往往难度很大。

数据中台提供的数据治理机制必须允许各个业务部门自主迭代，但前提是要有全局一致的标准。阿里提出的**OneID**强调全局统一的对象ID（例如用户ID），就属于这个机制。

**3. 自助的、多租户的数据应用开发及发布**

现有的绝大部分大数据平台要求使用者具备一定的编程能力。**数据中台强调的是为业务部门赋能**，而业务人员需要有一个自助的、可适应不同水平和能力要求的开发平台。这个开发平台要能够保证数据隔离和资源隔离，这样任何一个使用系统的人都不用担心自己会对系统造成损害。

**4. 数据应用运维**

用户应该可以很方便地将自己开发的数据应用自助发布到生产系统中，而无须经过专门的数据团队。因为我们需要共享这些应用及其产生的数据，所以需要有类似于CI/CD的专门系统来管理应用的代码质量和进行版本控制。

在数据应用运行过程中产生的数据也需要全程监控，以保证数据的完整性、正确性和实时性。

**5. 数据应用集成**

应该可以随时集成新的数据应用。新的大数据应用、人工智能工具不断涌现，我们的系统应该能够随时支持这些新应用。如果数据中台不能支持这些应用，各个业务部门可能又会打造自己的小集群，造成新的数据孤岛及应用孤岛。

**6. 数据即服务，模型即服务**

数据分析的结果，不管是统计分析的结果，还是机器学习生成的模型，应该能够很快地使用无代码的方式发布，并供全机构使用。

**7. 数据能力共享管理**

大部分数据能力应当具有完善的共享管理机制、方便安全的共享机制以及灵活的反馈机制。最后决定数据如何使用的是独立的个人，他们需要一套获取信息的机制，因此在机构内部必须要有这样的共享机制，才能真正让数据用起来。

**8. 完善的运营指标**

数据中台强调的是可衡量的数据价值，因此，对于数据在系统中的使用方式、被使用的频率、最后产生的效果，必须要有一定的运营指标，才能验证数据的价值和数据中台项目的效率。

![ac034c9b2f816281c36894a788fac867.png][]

综合上面的讨论，除了阿里巴巴提出的OneID、OneModel、OneService之外，我们认为**数据中台还应该满足以下两个要求。**

**1. TotalPlatform**

**所有中台数据及相关的应用应该在统一平台中统一管理。**如果有数据存储在中台管理不到的地方，或者有人在中台未知的情况下使用数据，我们就无法真正实现对数据的全局管理。这要求数据中台能快速支持新的数据格式和数据应用，便于数据工具的共享，而无须建立一个分离的系统。

**2. TotalInsight**

数据中台应该能够理解并管理系统中数据的流动，提供数据价值的定量衡量，明确各个部门的花费和产出。**整个中台的运营是有序可控的，而不是一个黑盒子，用户可以轻松理解全局的数据资产和能力**，从系统中快速实现数据变现。

如图1-3所示，数据中台可以说是按照一定的规范要求建设的数据能力平台，在数据仓库、大数据平台、数据服务、数据应用的建设中实现了符合OneID、OneModel、OneService的数据层。

这个数据层，加上在其上建立的业务能力层以及运营这个数据中台需要的TotalPlatform、TotalInsight，形成我们看到的数据中台。

![4609e2a576b6339ffebda519a20b9d24.png][]

▲图1-3 数据中台的五大要求

**关于作者：****彭锋**，智领云科技联合创始人兼CEO。武汉大学计算机系本科及硕士，美国马里兰大学计算机专业博士，主要研究方向是流式半结构化数据的高性能查询引擎，在数据库顶级会议和期刊SIGMOD、ICDE、TODS上发表多篇开创性论文。2011年加入Twitter，任大数据平台主任工程师、公司架构师委员会大数据负责人，负责公司大数据平台及流水线的建设和管理。

**宋文欣**，智领云科技联合创始人兼CTO。武汉大学计算机系本科及硕士，美国纽约州立大学石溪分校计算机专业博士。曾先后就职于Ask.com和EA（电子艺界）。2016年回国联合创立智领云科技有限公司，组建智领云技术团队，开发了BDOS大数据平台操作系统。

**孙浩峰**，智领云科技市场总监。前CSDN内容运营副总编，关注云计算、大数据、人工智能、区块链等技术领域，对云计算、网络技术、网络存储有深刻认识。拥有丰富的媒体从业经验和专业的网络安全技术功底，具有超过15年的企业级IT市场传播、推广、宣传和写作经验，撰写过多篇在业界具有一定影响力的文章。

本文摘编自《云原生数据中台：架构、方法论与实践》，经出版方授权发布。

![aa1bf19522bee6a280eb4b7f40896e5a.png][]

延伸阅读《云原生数据中台：架构、方法论与实践》

点击上图了解及购买

转载请联系微信：DoctorData

**推荐语：**前Twitter大数据平台主任工程师撰写，融合硅谷与国内经验，全面讲解云原生数据中台架构、选型、方法论、实施路径，国内外专家联袂推荐。

![音符][ebe2c18fd80bb771c84df3212b835c6b.gif]

**划重点????**

**干货直达????**

*  [谷歌、微软、亚马逊6个惊人的A/B测试实例][6_A_B]  
    
 *  [手把手教你用Scrapy爬取知乎大V粉丝列表][Scrapy_V]  
    
 *  [终于有人把任务T、性能P和经验E讲明白了][T_P_E]  
    
 *  [什么是数字化转型？来自IBM、微软、阿里的精华观点和实践][IBM]

**更多精彩****????**

在公众号对话框输入以下**关键词**

查看更多优质内容！

**PPT** | **读书** | **书单** | **硬核** | **干货**** **| **讲明白 **|** 神操作**

**大数据** | **云计算** | **数据库** | **Python** | **爬虫** | **可视化**

**AI** | **人工智能** | **机器学习** | **深度学习** | **NLP**

**5G**** **|** 中台 **|** 用户画像**** **| **1024** | **数学 **|** 算法 **| **数字孪生**

据统计，99%的大咖都关注了这个公众号

**????**

[04fffbd906f7fb346c03c040267ed92e.png]: /images/20221020/573f3d9f367043cca965e5a0b9885353.png
[3ca16da5fde206af5fd70981ba9c5d89.png]: /images/20221020/6f0c647a64f6436cb5698e2b6f38e0e8.png
[ac034c9b2f816281c36894a788fac867.png]: /images/20221020/bc4cd8b7339f48f4a04af6cc3d3b25c5.png
[4609e2a576b6339ffebda519a20b9d24.png]: /images/20221020/fabe40ac6a7847fca59c686210687e87.png
[aa1bf19522bee6a280eb4b7f40896e5a.png]: /images/20221020/90bca988df0647118c48615c690d99dd.png
[ebe2c18fd80bb771c84df3212b835c6b.gif]: /images/20221020/5ea5a62a358b4511b65730bcb6b00d9c.png
[6_A_B]: http://mp.weixin.qq.com/s?__biz=MzI5OTk5OTM2Mw%3D%3D&chksm=ec8c3bf8dbfbb2ee7d608f80df1be48854c119a32731fd4eb2fe00bd9a8f9876c0982f0df5ac&idx=2&mid=2247528980&scene=21&sn=f863e47ab642d6040cd4bffbb6b39fbb#wechat_redirect
[Scrapy_V]: http://mp.weixin.qq.com/s?__biz=MzI5OTk5OTM2Mw%3D%3D&chksm=ec8c3804dbfbb1123ca6fe23ef4bc06e13ea09049bfd4123f51846e05a74debaf47f3ef6ecc1&idx=2&mid=2247528936&scene=21&sn=35cf1d076f675bda10a124c953646d99#wechat_redirect
[T_P_E]: http://mp.weixin.qq.com/s?__biz=MzI5OTk5OTM2Mw%3D%3D&chksm=ec8c380adbfbb11c0df9c00ca86968a6e42e3182f060bc74c55dcf6cb06fd8038a190f81ee48&idx=2&mid=2247528934&scene=21&sn=ee16cb7afe8d225a4400c3555f6b47e4#wechat_redirect
[IBM]: http://mp.weixin.qq.com/s?__biz=MzI5OTk5OTM2Mw%3D%3D&chksm=ec8c3809dbfbb11f2c06e6d89627e3d9ed10572215b4aa1db3edb212b937c429d2b25772c882&idx=1&mid=2247528933&scene=21&sn=3054245fdcc2fe2ce008a96842fac438#wechat_redirect