安庆大理运城常德铜陵江西
投稿投诉
江西南阳
嘉兴昆明
铜陵滨州
广东西昌
常德梅州
兰州阳江
运城金华
广西萍乡
大理重庆
诸暨泉州
安庆南充
武汉辽宁

元数据管理,企业数据治理的基石

2月22日 风雨峰投稿
  在企业架构体系中,数据架构始终是企业架构的核心组成部分,其中数据架构的元数据管理又是核心中的核心,那么元数据到底是什么?元数据应该如何治理?如何评估元数据的价值?这些问题成为企业管理者摆在眼前的难题。
  下滑阅读本文,系统了解元数据管理,提升企业数据质量
  01
  认识元数据
  元数据解释
  信通院发布的《数据资产实践白皮书》指出:元数据(Metadata)是指描述数据的数据。元数据管理(MetaDataManagement)是数据资产管理的重要基础,是为获得高质量的、整合的元数据而进行的规划、实施与控制行为。元数据贯穿数据资产管理的全流程,是支撑数据资源化和数据资产化的核心。
  首先,元数据从业务视角和管理视角出发,通过定义业务元数据和管理元数据,增强了业务人员和管理人员对于数据的理解与认识。
  其次,技术元数据通过自动从数据仓库、大数据平台、ETL中解析存储和流转过程,追踪和记录数据血缘关系,及时发现数据模型变更的影响,有效识别变更的潜在风险。
  最后,元数据可作为自动化维护数据资产目录、数据服务目录的有效工具,是企业数据资产归类,数据检索的必备途径。
  元数据分类
  元数据可以分为业务元数据、技术元数据、管理元数据。通过各类元数据的关联,建立逻辑实体与物理实体的对应关系以及业务属性和表字段的对应关系。数据管理人员可以对数据的管理、流程以及权限进行有效的管理。
  业务元数据:包括了主题和概念领域、实体及属性的业务名称和业务定义,属性的数据类型和其他特性、范围描述、计算公式、算法和业务规则,以及有效值域及其定义。
  技术元数据:为开发人员和技术用户提供了系统信息。包括物理数据库表名和字段名、字段属性、其他数据库对象的属性和数据存储特性。操作元数据主要满足于IT运维用户的需求。比如数据迁移、数据源和目标系统信息、批处理程序、任务频率、调度异常处理、备份与恢复信息、归档规则和使用等信息。
  管理元数据:关于数据管理专员,监督制度流程和责任分配的数据。数据管理人员可以对数据的管理、流程以及权限进行有效的管理。
  元数据的作用
  元数据作为企业最重要的数据,其重要程度不言而喻,元数据管理作用主要体现在如下两点:
  作用一:作为数据的索引,快速查找数据。
  这好比置身于浩瀚的图书馆中,在没有一个分类编码的标准、书籍随便存放的情况下,要迅速找到一本书简直难于登天,单靠图书管理员很难统计每类书的数量和存放位置。而中图目录信息索引可以解决这个繁杂的问题,每上架一本图书,图书的目录、书名、作者或整理、主题、简介和篇幅等信息就会被登记,并根据这些信息,管理员将图书放到对应位置。
  让查找和使用变得高效
  元数据的管理与图书目录的管理有异曲同工之妙,能够快速地发挥数据价值,推动企业数据资产变现。
  作用二:建立元数据的知识图谱,精准找出元数据关联关系,快速发现和解决问题。
  通过元数据管理工具,将有关联关系的元数据进行解析,建立有效的血缘关系。当数据出故障便于数据运维人员快速进行回溯,短时间发现问题原因。
  作用三:总览数据资产,数据情况一目了然。
  元数据管理解决了如何将业务系统中的数据分门别类地进行管理的问题,公司有哪些数据,在哪里可以找到这些数据,能用这些数据干什么,都能通过元数据管理平台快速、清晰地解决。
  02
  企业元数据管理面临的问题
  随着企业规模的不断发展与壮大,在企业的数据资产管理中,会面临着数据架构失控、元数据管理混乱、数据增长无序等问题,集中体现在以下四点:
  1。系统变更频繁,没有完整的规划、积木式、烟囱式建设。
  2。传统企业数据资产问题归根结底是缺少统一的组织、流程、制度的管控,很容易引起数据孤岛问题。
  3。数据存储易,查询难,数据并没有作为资产沉淀为企业带来价值。
  4。元数据的变动后,对系统影响范围和大小无法预知,等数据出问题后才能响应。
  03
  北明数科元数据管理体系
  北明数科在结合政务以及企业的优秀经验,建立了一套成熟的元数据管理体系。
  主要模块:元模型管理元数据采集元数据编目数据地图数据血缘元数据版本元数据流程管理,还包括数据溯源、全链路监控等功能。
  元模型管理
  作为元数据的抽象,通过对元数据的结构和语义的定义快速匹配不同的业务和技术场景,通过设计好的元模型会在平台自动转化为数据开发人员元数据定义的模板,保证设计和开发的一致性。
  元模型管理模块提供内置关系型数据库、非关系型数据库等技术元数据和业务规则、业务建模等业务元数据,符合企业数据仓库环境的各类元数据管理模型。元模型可由用户自定义扩展,满足客户化元数据的需求。
  元模型管理
  元数据采集
  支持对结构化、非结构化数据源的同步,支持用户通过配置定时任务自动采集与手动导入的方式,将不同系统的元数据进行统一的汇总和管理。
  帮助用户快速对数仓中数据资产进行元数据采集、任务调度管理和结果查看
  元数据编目
  支持对元数据按照主题、层级以及部门进行单个或者批量编目。将元数据转变为易于理解的资产,供不同的数据使用方去调用。
  元数据编目内置按照主题、部门进行编目。同时用户可以自己定义元数据分类的方式。同时支持自定义拖拽、批量编目、流程快速审批等功能,辅助用户快速进行元数据的编目,减少编码的复杂度。
  元数据编目
  数据地图
  数据地图是对整个数据中台内的数据进行统一查询、管理的地图,数据地图主要面向数据开发者,汇聚用户所有数据信息,通过元数据信息收集、数据血缘探查、数据权限申请授权等手段,帮助数据中心专有云完成数据信息的收集和管理,解决有哪些数据可用、到哪里可以找到数据的难题,让用户找到数据、读懂数据、消费数据,致力于为用户提供高效率的数据消费产品。
  数据地图
  数据血缘分析
  血缘分析指的是获取到数据的血缘关系,以历史事实的方式记录数据的来源、处理过程等。依赖血缘分析,快速定位问题。血缘分析基于公司自研的解析引擎,对数据的链路进行全方位的分析和快速查询。不但能够提供从汇聚到开发以及数据应用和分享整个链路体系的数据流向和各个节点的数据详细信息展示,精准到字段级别;而且提升数据查询效率,将查询时间控制在毫秒级别。
  表级别血缘
  字段级别血缘
  元数据版本管理
  在每一次对于元数据的修改,都会打包生成一个版本,以便日后对存异的或错误的元数据进行追溯,可以通过数据地图查看每次版本的修改信息,以及各个版本对应的原始数据详情。
  元数据版本管理
  元数据流程管理
  元数据管理作为数据资产最重要的一个环节,元数据的变更会直接影响到数据采集、数据质量等模块。元数据的采集和变更都会经过如下流程,才能正式做上线操作。
  1。提出元数据新增需求《元数据变更审批表》。
  2。审批方受理新增需求,判断是否采集元数据,新增元数据是否受理。
  3。元数据实施方对元数据采集方案及计划确定。
  4。根据方案整理出对下游系统影响分析,明确影响范围。
  5。元数据上线审核通过,并做好版本管理。
  元数据流程管理
  04
  元数据管理路线图
  从L0L4五个元数据管理目标,主要分为基础平台构建到价值实现五个逐级递进的过程:元数据管理平台的构建元数据的集中化管理元数据自动管理版本管理价值实现。从下到上元数据的智能程度越来越高,其对应发挥的价值也也越来越大。
  元数据管理路线图
  05
  总述
  在大数据时代的背景下,数据即资产,元数据实现了信息的描述和分类的格式化,从而为机器处理创造了可能,它能帮助企业更好地对数据资产进行管理,理清数据之间的关系。元数据管理是企业提升数据质量的基础,也是企业数据治理中的关键环节。
  北明数科拥有丰富的元数据管理经验,在国资监管、大型央企项目都经历过打磨,并在华为FI、腾讯TBDS等大型数据集群上处理百万级别的元数据管理。为客户进行数据治理、数据资产管理提供了重要的支撑能力。
  进入北明数科官网,了解数据中台更多详细内容,预约免费演示!
  企业数字化转型需求洞察,这5点说明白了
  北明数科入选数据中台TOP50:助力企业通过数据业务,实现112
  集团类数据资产管理平台建设,北明数科数据中台这样做
投诉 评论 转载

成自泸高速自贡北路口旁的恐龙驿站,你看到了吗?自贡网记者缪静摄影宋姿熠栩栩如生的仿真恐龙雕像,功能完善、干净整洁的旅游洗手间以及游客休息区这是位于成自泸高速自贡北路口旁恐龙驿站的真实景象。12月26日,记者从大安区获……阳了以后吃不下饭怎么办?喝牛奶酸奶奶茶都是可以的最近朋友圈里突然开始流传这样一幅图。有些人表示全身症状明显,浑身酸疼,喉咙疼得犹如吞刀片,除了勉强吃药,什么都吃不下。在这里疾控君整理了几条实用的合理膳食小tips,帮助……好口碑信托公司介绍(17)长安信托长安国际信托有限公司(以下简称长安信托或公司)成立于1986年,注册地为陕西省西安市。长安国际信托有限公司,原身西安信托投资公司,于1986年8月经中国人民银行批准成立。……35岁还被吸血!库里得分篮板助攻抢断4大数据第一,勇士该交易北京时间11月2日,金州勇士队又吃到了一场失败,库里狂砍231313的全能数据,难阻球队客场三连败。本场比赛库里狂砍23分13篮板13助攻,命中率14投7中,你说库里还能……王楚钦止步亚洲杯8强,刘国梁怕啥来啥,张本智和或升至世界第二北京时间11月18日,乒乓球亚洲杯四分之一决赛结束了一场焦点对决,国乒男单仅剩的独苗王楚钦在比赛中与韩国选手林钟勋交战七盘,最终34败下阵来,至此国乒的两位选手全部出局,林高远……海南大学与西北农林科技大学合作在植物科学期刊上发表研究成果2022年12月15日,海南大学植物保护学院郑丽副教授课题组和西北农林科技大学康振生院士课题组联合在国际权威学术期刊PlantCommunications在线发表了题为Anov……恭喜!毕节籍清华学霸夺冠11月6日2022北京马拉松在天安门广场鸣枪开跑来自清华大学的24岁选手夏雨雨(毕节市威宁县人)以2小时28分57秒夺得女子冠军在此之前,夏雨雨还……信用卡付款后,银行打电话要再次确认,这是客户被监视被风控了?很多人认为自己信用卡消费之后,银行立即打电话确认是否为本人消费,有可能是自己被银行系统监视了,而且很有可能被实时风控了。那么银行有这个能力吗?银行真的去做了吗?其实这个想……时间概念会不会不存在?爱因斯坦早已看穿,只是人类的错觉?对于人类而言,时间一直充满着玄幻。众所周知,一天当中有24个小时,我们都需要慢慢地度过每一分钟。但是,我们无法真正触摸到时间,只能凭借部分参照物感受时间。无论是古代还是现代,关……元数据管理,企业数据治理的基石在企业架构体系中,数据架构始终是企业架构的核心组成部分,其中数据架构的元数据管理又是核心中的核心,那么元数据到底是什么?元数据应该如何治理?如何评估元数据的价值?这些问题成为企……美媒建议湖人热火3换2交易美媒喊话火箭交易怀斯曼,泰特成筹码NBA季后赛正在火热进行当中。在欣赏精彩的比赛同时,NBA的场外动态同样值得关注。热火在东部决赛被凯尔特人淘汰出局之后,美媒就建议湖人热火进行3换2的交易,美媒认为这笔交易是双……影驰展示RTX3060TiGDDR6X游戏性能,实际表现接近这几天陆续有厂商推出用GDDR6X显存的RTX3060Ti,升级新显存的版本GPU和原本是一样的,同样拥有4864个CUDA核心,显存位宽还是256bit,但显存从GDDR6升……
互联网时代的专家泡沫与信息困境被信息选择还是做信息的主人2022年陕西省黄陵县苹果保险期货收入险项目顺利结项苏菲娜焕新洁面泡泡清透上市,助力打造元气感美肌摩根士丹利眼中的2023全球股市十大主题关于企业盈利全球衰退张恒爆郑爽在美国虐待孩子!公开大量照片视频,儿女受伤严重缝针吉林省委统战部副部长冯庆忠走访慰问台资企业女排两大替补发挥出彩,奥运冠军宝刀不老,一人成李盈莹最强帮手56核8通道DDR5内存Intel确认发烧级CPU王者归来塔图姆布朗各得29分凯尔特人力克快船,莱昂纳德乔治合砍50分国庆假期旅游推荐地最美赏秋地徽州10个古村落你了解几个清华美院发布新时尚,清华脸走上T台,网友这不是雀斑吗儿孙身上有这几种特征,是富贵的征兆,别埋没了被人盗号了怎么办次韵送郝同知还闽二首让德育之花盛开在小学英语课堂杨进兴渣滓洞四大刽子手之一,杀害上百烈士,伪装成小村庄贫农时空地道(你还不信有穿越时空?)数据揭示中超各队真实实力天气伤病问题终引起重视相遇两次我就成为别人的情人备孕打黄体酮可以吗超市没有纯粮酒?行家瞎说,掌握这3点诀窍,100挑到纯粮佳酿春季排毒吃什么推荐具有强效的排毒食物4年1亿?勇士四太子正式归位,新老王位易主!科尔再来三连冠成功的投资都反人性!当你负债累累,不妨试试古人的炒股思维

友情链接:中准网聚热点快百科快传网快生活快软网快好知文好找七猫云易事利