ToB企服应用市场:ToB评测及商务社交产业平台
标题: 数据中台通用体系架构 [打印本页]
作者: 十念 时间: 2024-7-16 21:38
标题: 数据中台通用体系架构
差别的企业对数据有差别的需求。企业数据应用不断更新迭代,企业的中台体系也须要不断变化。
从数据处置惩罚与数据治理两个维度出发,可以设计一个解耦的数据中台体系架构。该数据中台体系架构具有一定的柔性,可按照企业应用需求进行组合,或者对单个模块进行扩充,能满足大多数企业数据中台建立的需求。
数据中台体系架构示例
数据中台的通用体系架构如图 2 所示。该中台体系架构以镌汰功能冗余和进步功能复用为原则,把数据中台解耦为 6 个可以分别独立建立、演进的功能子体系。
数据结构与数据处置惩罚子体系是数据中台体系架构的核心,数据治理是提拔数据价值的重要本事。该数据中台体系架构的通用性体现在以下几点。
- 该数据中台体系架构综合思量了数据中台的各种要素,参考这个架构进行建立可以有效提拔数据资产价值,提供数据及服务的共享。
- 参考这个数据中台体系架构,企业可以一次规划、分步实行。首先建立处置惩罚子体系及数据存储子体系,然后根据业务发展需求,逐步增补数据收罗、数据安全及数据治理子体系。
- 该数据中台由 6 个解耦的子体系组成。企业在立项建立时可以机动组合,每个子体系单独招标建立,也可以把多个子体系合并招标建立。数据中台通用体系架构包含数据存储框架、数据收罗框架、数据处置惩罚框架、数据治理框架、数据安全框架及数据运营框架等 6 大部门。
1、数据存储框架
数据中台的核心是数据,数据通过收罗体系获取,然后数据经过处置惩罚框架加工,并接受数据治理框架的管理,同时也要接受数据安全管理框架的管理,最后开放的价值数据将通过数据运营框架对外提供数据服务。
数据中台的数据架构应该独立规划,并采用公道的技术架构对差别类型的数据进行存储。
数据存储框架中,无论数据采用对象存储、块存储还是数据库存储技术,各种中台数据可按照上图所示分类管理。
源数据重要由收罗框架进行管理,数据治理框架按照数据特性把数据简单分为结构化和非结构化数据两大类,而规范化分域数据则是数据治理框架对全量数据的规范化分域整理。宽表数据是数据关联的效果,利用宽表数据可以对人、事、地、物、组等对象进行完整的数据画像,同时宽表数据也可以作为上层模子数据的中间层数据。
元数据和标签数据都是对数据的描述,其中元数据用来对数据的客观属性进行体现,标签数据更倾向于管理者对数据的主观表述及品级划分,好比质量品级标签、安全标签、属性标签等。主数据须要在各体系间频繁更新、交换,且须要独立的存储空间进行维护管理。
2、数据收罗框架数据中台的收罗框架应对纳入数据中台的各种源数据进行同一收罗管理。数据收罗框架中应提供多种数据收罗方式,如文件传输协议收罗、数据库收罗、接口应用程序接入收罗、流式收罗及网络爬虫收罗。
同时收罗框架应按照数据收罗规范对源数据进行预处置惩罚,从而去除明显不须要的数据及多余数据,并对收罗过程进行管理。虽然数据中台的体系架构没有同一模板,但各企业数据收罗框架根本一致。
3、数据处置惩罚框架数据处置惩罚是每个数据应用的根本环节之一,经典的数据抽取、转换和加载(ETL)处置惩罚流程在数据收罗预处置惩罚、数据整合、数据建模等多个地方均要利用。单独建立数据处置惩罚框架有利于数据处置惩罚工具组件的集中开辟与管理,也有利于数据中台数据处置惩罚任务的和谐与调度。
数据处置惩罚框架专门负责数据处置惩罚相关的任务,包罗批处置惩罚、流处置惩罚、人工智能分析、数据洗濯、数据交换及查询,此外数据处置惩罚的相关工具组件可在处置惩罚框架中配置。任务调度模块在数据处置惩罚框架中处于居中指挥的作用,并对运行的数据处置惩罚任务进行监控及异常处置惩罚等操纵。
4、数据治理框架广义的数据治理不仅包含提拔数据价值的内容,如数据管理、数据目录、数据质量等,也包含数据安全管理及数据共享服务。
数据安全管理与数据价值提拔是一个矛盾体,假如由一个厂商或开辟团队进行数据安全管理及数据价值提拔相关软件的开辟,则开辟者的操纵不免有所偏向,而且矛盾不容易公开,少了辩论也就少了优质的办理方案。
别的,数据共享与数据治理的其他内容也存在雷同的问题。因此,本文建议数据中台的数据治理框架中不包含数据安全与共享的相关内容。
数据治理框架包含数据目录、数据管理、模子管理和数据质量 4 个模块:
数据地图、数据资产目录、知识图谱及数据血缘的重要作用是展示数据的属性及相互关系,因此都纳入数据目录模块。
数据模子能进步数据中台对外部应用需求的反应能力,固化的中间模子数据须要专门管理。模子管理包罗模子目录、模子血缘及模子地图等。
数据管理又可以细分为元数据管理、主数据管理、标签数据管理及源数据管理。
数据质量管理模块按照订定的数据标准及数据稽核规则对数据中台中的数据进行质量管理。
5、数据安全框架数据已经成为数据资产,数据安全框架是数据中台必不可少的组成部门。数据安全叠加在数据中台其他功能框架之上,数据收罗、处置惩罚、交换、共享等每个环节均必须实行安全控制战略。安全框架可以分为日记管理、用户认证、权限管理及加解密等几个功能模块。
此外,安全全门户也可以对外提供安全能力封装,展示数据中台的安全态势及安全视图。
6、数据运营框架数据中台的核心功能是综合浩繁数据应用的数据处置惩罚及数据治理功能,集中建立、集中管理、镌汰冗余、增长复用。数据中台的终极目标还是为其他应用或开辟者提供数据服务,而对外数据服务功能将直接面向不确定的外部对象。
因此单独建立数据运营,一方面有利于针对外部用户提供针对性功能;另一方面,数据运营模块作为用户与数据中台核心数据服务之间的中间层,可以有效隔离外部用户直接控制、接触核心数据及应用,可保护数据中台的安全性及内部功能的稳定性。
综合以上因素,数据运营应配置运营门户、能力开放、数据开放及运营监控等功能:
- 运营门户:对数据中台管理者提供管理门户,对开辟者提供开辟者门户。对内部应用提供内部应用门户,对外部应用提供外部应用门户。运营门户针对差别的用户提供差别的通道并开放差别的数据中台能力。
- 能力开放:把数据中台的数据处置惩罚能力、数据分析能力等经过得当的封装后对用户提供服务,可以是微服务,也可以是 API 接口,或者直接提供二次开辟能力。
- 数据开放:通过数据目录,数据/模子展示(可视化、数据视图等)为其他数据应用体系提供数据服务。
- 运营监控:对数据中台的总体运营情况进行监控管理,包罗硬件环境、软件环境,并且确定监控指标,按需求提供运营日报,处置惩罚告警信息。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) |
Powered by Discuz! X3.4 |