• [技术干货] 数据质量管理办法
    数据质量管理(Data Quality Management),是指对数据从计划、获取、存储、共享、维护、应用、消亡生命周期的每个阶段里可能引发的各类数据质量问题,进行识别、度量、监控、预警等一系列管理活动,并通过改善和提高组织的管理水平使得数据质量获得进一步提高。数据质量管理是循环管理过程,其终极目标是通过可靠的数据提升数据在使用中的价值,并最终为企业赢得经济效益。1 范围本标准规定了XX公司数据质量管理内容、管理机制和工作流程。本标准适用于XX所有项目整个生命周期的数据质量管理,非项目可参照使用。 2 术语和定义下列术语和定义适用于本文件数据质量data quality客观反映业务数据固有特性的程度。 注:“固有的” (其反义是“赋予的”)就是指在某事或某物中本来就有的,尤其是永久的特性。 数据质量管理 data quality management对数据从计划、获取、存储、共享、维护、应用、消亡生命周期的每个阶段里可能引发的各类数据质量问题,进行识别、监控、预警、处理等一系列管理活动,并通过改善和提高管理水平使得数据质量获得进一步提高。 技术评估 technology assessment科技主管部门对已审批的业务需求,组织相关部门和人员进行技术可行性评估,并作出评估结论的活动。 数据质量监控 data quality control获取业务各环节的数据质量信息,结合有关检查规则和采集规则,对数据质量情况进行诊断,并及时向数据质量管理实施部门报告的活动。 数据质量评估 data quality assessment由数据质量管理实施部门根据需要发起,得到评估结果并作为依据评估指标和评估方法进行评价,数据质量改进的参考和依据。 数据质量报告 data quality report对数据质量日常监控以及质量评估等过程累积的各种信息进行汇总、梳理、统计和分析,形成统计报告的过程。 数据质量知识 data quality knowledge在数据质量管理活动中获取的有关数据质量问题处理的经验和成果。 3 数据质量管理内容与评价原则3.1管理目标与内容数据质量管理目标数据质量分为绝对质量和过程质量,绝对质量是指业务数据的真实性、完备性和自洽性,过程质量指业务数据的使用质量、存储质量和传输质量。数据质量管理目标包括:a)建立稳定运行的数据质量测控体系,及时发现并改正数据质量问题; b)建立可靠的数据质量评估流程,判断改进趋势,衡量数据质量改进效果; c)建立一套改进、提升数据质量的管理机制。 数据质量管理内容数据质量管理内容包括: a)制定、修订数据质量管理遵循的标准; b)确立、修订数据质量管理工作流程、优化部门协同机制; c)制定数据质量管理决策机制; d)监督日常数据质量管理的有序进行; e)数据质量的核查。 数据质量影响要素数据质量影响要素包括: a)信息类要素:由于对数据本身的描述、理解及其度量标准偏差而造成数据质量问题的影响要素; b)技术类要素:由于具体数据处理的各技术环节异常而造成数据质量问题的影响要素,技术实现上的某种缺陷是其产生的主要原因; c)流程类要素:由于系统作业流程和人工操作流程设置不当造成数据质量问题的影响要素; d)管理类要素:指由于人员素质及管理机制方面的原因造成数据质量问题的影响要素。 3.2 数据质量评价原则数据质量评价原则包括: a)完整性:数据是充分的,任何有关操作的数据都没有被遗漏。主要包括实体不缺失、属性不缺失、记录不缺失和字段值不缺失; b)唯一性:数据值被约束成一组独特的条目,每个值都是唯一的。主要包括主键唯一和候选键唯一; c)准确性 :数据必须真实准确的反映实际发生的业务; d)精确性:计量误差、度量单位等方面的精确度应符合业务需求; e)一致性:描述数据结构、数据值和他们的相互关系符合逻辑规则的程度。如统一数据来源、统一存储和统一数据口径; f)及时性:数据更新、修改和提取等的快速性程度,应符合业务需求; g)合规性:数据格式、类型、域值和业务规则的有效性。 4 相关部门职责4.1概述相关部门包括以下部门:业务主管部门、技术主管部门、技术承办单位和数据质量管理实施部门。 4.2业务主管部门职责主要职责包括: a)对于拟开发的应用项目,对相关业务提出数据质量约束性需求; b)对于在开发的应用项目,从业务角度提供数据质量检测方法和验收标准; c)对于已运行的应用项目,根据应用状况提出数据质量问题和改进建议; d)受理与本部门业务相关的数据质量管理协同通告,并作出处理反馈。 4.3技术主管部门职责技术主管部门是数据质量的主管部门,主要职责包括: a)组织制定、颁布数据质量管理、保障、控制和维护流程; b)组织制定、颁布数据质量管理和技术相关标准; c)监督数据质量问题处理的整个流程并对数据质量的监控结果进行评估; d)组织、协调相关部门,解决数据质量管理活动中的异常问题; e)受理、审批数据质量需求变更; f)针对已处理的数据质量问题发起处理效能评估; g)数据质量管理其他有关事项。 4.3技术承办单位职责主要职责包括: a)协助数据质量管理实施部门解决业务应用系统数据质量问题; b)协助业务主管部门提出数据质量管理的业务需求; c)协助数据质量管理实施部门处理数据质量需求变更评估。 4.4数据质量管理实施部门职责受技术主管部门委托,负责数据质量管理的具体实施。主要职责包括: a)监控数据质量问题; b)提出数据质量问题改进建议; c)依据数据质量管理处理流程,负责数据质量管理系统运维; d)处理数据质量监控系统告警,并向相关部门通告数据质量问题; e)经主管部门授权后,负责组织解决相关的数据质量问题; f)组织处理数据质量需求变更的评估; g)形成报告并报技术主管部门; h)协助业务主管部门提出数据质量管理的业务需求。5 数据质量管理工作流程 工作流程图,数据质量管理流程工作流程见图 1。注:图中虚线表示为可选流程。 关键环节说明 业务需求提出业务主管部门依据业务工作的实际情况,向技术主管部门提出相关业务系统的业务需求。需求提出过程中,技术承办部门和数据管理实施部门应协助业务主管部门,就特定业务应用系统,归纳并提出业务需求。 业务需求审批技术主管部门在受理业务主管部门提交的业务需要后,应对业务需求在规定时限内进行审批,并将审批意见告知业务需求提出部门。 技术评估对于审批通过的业务需求,数据质量管理实施部门应在规定时限内,组织相关部门和人员,对业务需求进行技术评估,并给出评估结论。 技术承办单位,应协助科技主管部门开展业务需求的技术评估。 系统设计开发技术承办单位对已完成技术评估的业务需求,应依据业务需求组织并实施应用系统的设计与开发。 测试验收对于技术承办单位已完成开发的应用系统,其业务主管部门应在规定时限内组织测试与验收。 技术承办单位和数据质量管理实施部门应协助业务主管部门,完成测试与验收。 系统上线运维对业务主管部门已验收的应用系统,数据质量管理实施部门应组织实施应用系统的上线和日常运维工作。 技术承办单位应协助、配合数据质量管理实施部门开展应用系统的上线工作。 数据质量监控对已上线的应用系统,数据质量管理实施部门应利用数据质量管理系统,开展数据质量监控,并定期提供数据质量监控报告。 告警分析与问题通告在数据质量监控过程中产生的告警信息,数据质量管理实施部门应在规定的时限内开展告警信息分析,并对告警产生的原因作出判定。 对于一般性告警信息,数据质量管理实施部门可直接按照操作规程给予处理,如:系统断电等原因产生的告警;对于严重告警信息,应将告警产生的问题通告技术主管部门和相关业务部门。 注:一般性告警是指系统运行环境异常或操作失误等导致的、具有偶发性、在短期内恢复且不产生严重后果的数据质量监控告警。 问题处理授权技术主管部门在受理数据质量管理实施部门通告的数据质量问题后,应组织协调问题所涉及的相关部门,协同确认并授权数据质量管理实施部门解决问题。 问题解决数据质量管理实施部门在获得授权后,应组织开展解决问题的工作并予以完成。 技术承办单位应协助数据质量管理实施部门解决问题的工作。 处理结果确认对已处理的数据质量问题,数据质量管理实施部门应将问题处理结果在规定时限内通告技术主管部门、业务主管部门和技术承办单位。 处理结果反馈各相关部门收到数据质量问题处理结果后,应在规定时限内对问题处理结果给予确认,并将确认结果和建议反馈数据质量管理实施部门和其他相关部门。 数据质量管理报告数据质量管理实施部门应定期编写数据质量监控报告,归档备查。 数据质量问题处理解决后应编写数据质量问题分析报告,报送相关部门。 对数据质量监控报告和问题分析报告进行总结,编写数据质量定期总结报告,报送相关部门。6 数据管理管理活动 数据质量管理活动主要如下: 数据资源变更管理数据资源变更会引起系统内部和系统外部的数据质量问题。数据资源变更管理主要是利用元数据管理的分析功能对系统变更信息进行影响评估,并将变更信息及时告知数据质量管理相关部门,协同各部门完成数据资源变更处理工作,避免变更引起的数据质量问题。 数据质量监控数据质量管理业务应在HG业务系统数据处理相关环节采集数据,供数据质量监控分析使用并存档。 数据质量分析根据监控数据对象性质的不同,采用多种定性或定量预警分析方法进行数据质量评价。 告警管理根据告警所反映的数据质量现象的严重程度、影响范围,设定严重性程度不同的告警级别。每一级别告警信息的发送都应具备多种送达手段。从数据采集、预警分析到告警生成,每个阶段都需进行程序化管理。 数据质量问题处理指对数据质量管理中产生的各类问题进行分析,并根据分析结果,方法进行处理,选择适当的方式、并根据处理效果归纳总结的处理过程。关键环节包括:问题发现、问题分析、问题通告、问题解决指派、问题处理方法设计、审评、实施和问题总结。 数据质量评估指利用各种评估方法(如:直接评估法和间接评估法),根据数据质量问题影响程度的不同,以评估报告等形式,对数据质量的给以评价和改进建议。 数据质量报告数据质量报告是对数据资源变更管理、数据监控、数据质量分析、问题处理以及数据质量评估等过程积累的各种信息进行汇总、梳理、统计和分析,形成统计报告的过程。数据质量报告的发布具有一定的时效性。用户应在所赋权限范围内查看质量报告,防止信息泄露。数据质量报告的归档要求将相关报告按照分类,作为后续数据质量问题处理和分析的参照。 数据质量知识管理历史数据质量知识的积累为数据质量问题的解决提供参考方法。数据质量知识主要来源于对数据质量问题的记录与总结,以及对问题解决过程自身的知识评价。数据质量知识的产生与利用过程是一个互相促进改良的过程,为数据质量管理的其他活动提供重要的支撑。 文章来源:“企业数字化咨询”
  • [技术干货] 《数据管理能力成熟度评估模型》概述
    《数据管理能力成熟度评估模型》(以下简称DCMM)是我国在数据管理领域首个正式发布的国家标准,旨在帮助企业利用先进的数据管理理念和方法,建立和评价自身数据管理能力,持续完善数据管理组织、程序和制度,充分发挥数据在促进企业向信息化、数字化、智能化发展方面的价值。信息技术与经济社会的交汇融合引发了数据爆发式增长。数据蕴含着重要的价值,已成为国家基础性战略资源,正日益对全球生产、流通、分配、消费活动以及经济运行机制、社会生活方式和国家治理能力产生重要影响。数据价值发挥的前提是管理好数据,然而,数据规模的增加、数据格式的复杂化等都给企业数据管理提出了挑战。《数据管理能力成熟度评估模型》(以下简称DCMM)是我国在数据管理领域首个正式发布的国家标准,旨在帮助企业利用先进的数据管理理念和方法,建立和评价自身数据管理能力,持续完善数据管理组织、程序和制度,充分发挥数据在促进企业向信息化、数字化、智能化发展方面的价值。1.  DCMM评估概述1.1 评估依据数据管理能力成熟度评估的依据是国家标准GB/T 36073-2018《数据管理能力成熟度评估模型》,该标准借鉴了国际上数据管理理论框架和方法,在综合考虑国内数据管理情况发展的基础上,整合了标准规范、管理方法论、数据管理模型、成熟度分级等多方面内容。1.2 评估内容DCMM数据管理能力成熟度评估模型定义了数据战略、数据治理、数据架构、数据应用、数据安全、数据质量、数据标准和数据生存周期八个核心能力域及28个能力项,并以组织、制度、流程和技术作为八个核心域评价维度。1.3 能力等级DCMM将数据管理能力成熟度划分为五个等级,自低向高依次为初始级、受管理级、稳健级、量化管理级和优化级,不同等级代表企业数据管理和应用的成熟度水平不同。2.DCMM贯标与评估流程2.1 贯标流程DCMM贯标流程主要分为三个阶段:差距分析:贯标启动,进行差距分析;能力提升:建立数据管理组织,完善制度,内部运行并开展自评估;评估确认:组建评估队伍,开展第三方评估,获取评估报告和能力证书。2.2 评估流程(1)评估工作部遴选试点评估单位。(2)入选的试点评估单位向评估机构提交有效的申请材料。(3)评估机构受理评估申请后,组织实施文件评审和现场评审并出具评估报告,给予评估等级的推荐意见,并报评估工作部备案。(4)评估工作部对评估机构报送的评估结果进行合规性审查。对于合规性审查中发现存在较大问题的评估结果有权驳回。对于评估机构推荐的量化管理级和优化级评估结论,评估工作部需组织专家对评估结果进行评议。(5)评估工作部对通过审查、复核或评议的,进行为期一周的公示。对公示后无异议的,由评估机构颁发数据管理能力成熟度评估证书。具体评估流程图如下:2.3 评估交付物(1)评分结果:全面展示企业数据管理各能力项成熟度评估等级。(2)评估报告:分析企业数据管理现状,识别数据管理问题及改进项,给出数据管理能力成熟度等级推荐建议。(3)数据管理发展路线图(可选):根据企业管理的需要,以及业界最佳实践,制定针对性的企业数据管理发展路线图,并且根据现状制定针对性的行动计划。(4)评估证书:颁发企业数据管理能力成熟度评估证书。3.DCMM评估企业收益(1)帮助和指导企业获得当前数据管理现状,识别与行业最佳实践差距,找准关键问题,提出数据管理改进建议和方向。(2)开展人员培训,提升企业数据管理人员技能,提高企业数据管理能力成熟度。(3)有机会参与数据管理优秀案例遴选以及成果展示系列活动。(4)以第三方客观评估结果为依据,对外展示企业数据管理能力,满足监管要求,传递信任。 4.DCMM主要适用对象(1)数据拥有方:金融与保险机构、互联网企业、电信运营商、工业企业、数据中心所属主体、高校、政务数据中心等;(2)数据解决方案提供方:数据开发/运营商、信息系统建设和服务提供商、信息技术服务提供商等。文章来源:http://www.360doc.com/content/22/0224/10/43305802_1018792250.shtml
  • [技术干货] 非结构化数据将在2022年继续影响数据管理
    2022年,非结构化数据将继续重塑数据管理的格局,现在不仅产生了空前数量的数据,而且还在多个地方收集、存储、处理和分析,并在这些环境之间移动。  企业正在使用视频、图像、物联网传感器数据、社交媒体和类似的信息,作为他们执行的很多分析、机器学习和商业智能任务的基础。随着我们进入2022年,非结构化数据将继续成为企业数据管理工作的重点。  那么,2022年我们还能期待哪些数据管理趋势呢?我们往下看:      IT领导者将专注于利用云技术从非结构化数据中获取价值  IT行业的领导者们知道,云计算远远不止是对本地基础设施的替代。它是一个弹性计算平台,组织可以利用它来提供竞争优势和灵活性。但我们还不知道如何利用云来分析非结构化数据。  随着人们对机器学习和人工智能的兴趣日益浓厚,我们将看到更多的投资用于实现这一目标的非结构化数据分析和数据管理解决方案。由于非结构化数据非常庞大且难以处理,而且其中很多数据都是在云之外的边缘发展起来的,因此跨边界到云的数据管理、简化非结构化数据的吸收、云分析将成为一个显著的趋势。  非结构化数据分析工作流解决方案将会出现  处理和索引PB级的非结构化数据现在主要是手工工作。大型组织雇佣大量的数据专业人员来搜索、分类和移动这些数据,以便分析工具能够吸收和操作这些数据。现在迫切需要简化和自动化这些过程,在多个文件和云存储之间轻松索引文件,并自动化系统数据移动的解决方案将会越来越多。  此外,非结构化数据的数据分析解决方案可能是垂直的,因此它们是特定于行业或应用。例如,医学图像及其解释方式是一个上下文事件,需要临床数据集的特定知识。许多组织正在创建自定义工作流,其中包括基于云的分析工具。商业数据管理解决方案的时机已经成熟,这些解决方案可以在全球企业中轻松搜索特定的数据集,并不断地将这些数据流化,以系统地自动化非结构化数据分析的工作流程。  “数据货币化”和相关策略将在2022年流行  “数据货币化”的传统概念是围绕着挖掘CRM、ERP和其他核心业务系统来获取关于客户行为、产品需求和库存趋势的情报。然而,机器学习是一种改变游戏规则的工具,它依赖于非结构化数据。  教一辆汽车自主驾驶需要与在不同路面和交通灯模式的道路上驾驶有关的数据。如果您想提高客户支持电话的满意率,您需要能够分析对话。这就是为什么我们看到像雪花这样的公司宣布支持非结构化数据。  他们在云中提供数据仓库,让人们可以很容易地回答那些任意和开放式的问题。当前的趋势是,“数据货币化”正从结构化数据转向非结构化数据,因为这是利用数据改善客户关系和收入、降低风险并获得竞争优势的主要机会。  IT是时候拥抱数据竖井了  数据竖井不会消失,而且没有人愿意为了避免竖井而锁定供应商。答案是不要担心这些竖井,而是要寻求能够查看数据的解决方案,而不是强迫你把所有数据放在一个位置或技术上。如今,存储数据的角色也在演变,包括数据管理和实现业务结果,而不仅仅是管理基础设施。  数据管理将继续成为风险投资家的热门市场  数据管理受到强劲势头的推动,应该会继续支撑其市场增长。非结构化数据的爆炸式增长,边缘数据和云数据的兴起,以及数据分析向非结构化数据货币化的转变,都是市场中数据管理相关性背后的巨大推动力。  风险投资家看到了雪花这样公司的成功,不想错过下一个大数据管理机会。投资者总是在寻找下一个大事件。你如何利用市场趋势来创造优势?解决这一问题的一个好方法是寻找一个您非常了解的数据管理问题,这个问题还没有被其他人解决,它在一些细分市场中普遍存在,并且是可以解决的。数据管理的热点领域包括云数据管理、数据分析管理、数据安全和非结构化数据管理。  在2022年,非结构化数据将成为企业关注的焦点,但在这个充满活力的行业中,它不会是唯一的关注点。企业会想要利用风险资本的资金来扩展他们的能力,将机器学习和非结构化数据带来的新能力,确保他们的劳动力足够多样化,还能利用过去相对未开发的社会领域中新兴的人才。文章来源:https://server.it168.com/a2022/0114/6609/000006609014.shtml
  • [技术干货] 数据架构的本质到底是什么 by 傅一平
    我们搞数据的,按道理对数据架构应该比较熟悉吧,但自己最近却越来越迷糊了,因为发现很多讲数据管理的书,对数据架构的定义并不一致,有些出入还比较大。 自己赶紧去找权威的定义,发现搜出来的信息也是一地鸡毛,因此特意写这篇文章来探个究竟,即耳熟能详的数据架构到底是什么? ## 一、业界看法 首先我们来看看DAMA、华为、工业界、DCMM及央行等各领域对于数据架构的具体描述: ### 1、DAMA:《DAMA数据管理知识体系指南 第二版》 **定义:** 识别企业的数据需求,并设计和维护总蓝图以满足需求,使用总蓝图来指导数据集成、控制数据资产、并使数据投资与业务战略保持一致。 **目标:** 识别数据存储和处理要求;设计结构和计划以满足企业当前和长期的数据需求;战略性地位组织做好准备,快速的发展其产品、服务和数据,以利用新兴技术中固有的商机。 **构成:** (1)**数据模型:** 企业数据模型是一个整体的、企业级的、独立实施的概念或逻辑数据模型,为企业提供通用的、一致的数据视图。企业数据模型包括数据实体(如业务概念),数据实体间的关系、关键业务规则和一些关键属性,它为所有数据和数据相关的项目奠定了基础。 (2)**数据流设计:** 定义数据库、应用、平台和网络(组件)之间的需求和主蓝图。这些数据流展示了数据在业务流程、不同存储位置、业务角色和技术组件间的流动。 ### 2、工业大数据应用技术国家工程实验室:《数据治理:工业企业数字化转型之道》 **定义:** 讲企业业务实体抽象为信息对象,将企业的业务运作模式抽象为信息对象的属性和方法,建立面向对象的企业数据模型,数据架构实现从业务模式向数据模型的转变,业务需求向信息功能的映射,企业基础数据向企业信息的抽象。 **构成:** (1)**数据分布:** 包括数据目录、数据资源全景图、数据地图分布应用。 **数据目录:** 作为数据共享交换的基础数据,对促进企业内部数据共享与交换、对外上报和公示相关信息都非常重要; **数据资源全景图:** 是企业全部数据资产的总体视图,既包括分布、流向和交互关系,又包括数据治理、数据服务和数据后期应用的完整视图。 **数据地图分布应用:** 是指站在数据资产全景图的视角查看企业各数据域,在每一个数据域下,可以识别企业各项业务的核心数据主题,明确各个主题间的交互关系,将数据实体分类、形成企业级数据地图。 (2)**数据主题域:** 是最高层级的、以各个主题概念及其之间的关系为基本构成单元的数据主题集合。企业应划分统一的数据主题域,形成统一的企业数据视图。 (3)**数据关联关系:** 首先包括实体、属性、主键、外键、关系及基数,其次包括数据血缘关系,最后包括数据流转关系。 (4)**数据模型:** 包括概念数据模型、逻辑数据模型及物理数据模型。 ### 3、华为:《华为数据之道》 **定义:** 是指以结构化的方式描述在业务运作和管理决策中所需要的各类信息及其关系的一套整体组件规范。 **目标:** 定义好整个运作过程中涉及的各种人、事、物资源,并实施有效的治理,从而确保各类数据在企业各业务单元间高效、准确地传递,上下游流程快速地执行和运作。 **构成:** (1)**数据资产目录:** 通过分层结构的表达,实现对数据的分类和定义,建立数据模型的输入,形成完善的企业资产地图,也在一定程度上为企业数据治理、业务变革提供了指引。基于数据资产目录可以识别数据管理责任,解决数据问题争议,帮助企业更好地对业务变革进行规划设计,避免重复建设。 (2)**数据标准:** 数据标准定义公司层面需共同遵守的属性层数据含义和业务规则,是公司层面对某个数据的共同理解,这些理解一旦确定下来,就应作为企业层面的标准在企业内被共同遵守。 (3)**数据模型:** 是从数据视角对现实世界特征的模拟和抽象,根据业务需求抽取信息的主要特征,反映业务信息(对象)之间的关联关系。数据模型不仅能比较真实地模拟业务(场景),同时也是对重要业务模式和规则的固化。 (4)**数据分布:** 定义了数据产生的源头及在各流程和IT系统间的流动情况。 ### 4、国标:《DCMM数据管理成熟度模型》及央行:《金融业数据能力建设指引》 **定义:** 通过组织级数据模型定义数据需求,指导对数据资产的分**制和整合,部署数据的共享和应用环境,以及元数据管理的规范。 **构成:** (1)数据模型:使用结构化的语言将收集到的组织业务经营、管理和决策中使用的数据需求进行综合分析,按照模型设计规范将需求重新组织。从模型覆盖的内容粒度看,数据模型一般分为主题域模型、概念模型、逻辑模型和物理模型。 主题域模型是最高层级的、以主题概念及其之间的关系为基本构成单元的模型,主题是对数据表达事物本质概念的高度抽象。 概念模型是以数据实体及其之间的关系为基本构成单元的模型,实体名称一般采用标准的业务术语命名。 逻辑模型是在概念模型的基础上细化,以数据属性为基本构成单元。 物理模型是逻辑模型在计算机信息系统中依托于特定实现工具的数据结构。 (2)数据分布:针对组织级数据模型中数据的定义,明确数据在系统、组织和流程等方面的分布关系,定义数据类型,明确权威数据源,为数据相关工作提供参考和规范。通过数据分布关系的梳理,定义数据相关工作的优先级,指定数据的责任人,并进一步优化数据的集成关系。 (3)数据集成和共享:是建立起组织内各应用系统、各部门之间的集成共享机制,通过组织内部数据集成共享相关制度、标准、技术等方面的管理,促进组织内部数据的互联互通。 (4)元数据管理:元数据管理是关于元数据的创建、存储、整合与控制等一整套流程的集合。 ## 二、架构的本质 可以看到,业界各方对于数据架构都给出了自己的解释,似乎都有道理,但又有不一致的地方,为什么呢? 我觉得这些都是表象,关键是还是要能深入数据架构概念的本质,看看它的底层逻辑到底是什么,然后才能给出更好的解答。 首先来理解架构这个概念。 先举一个例子: 在最早期,每个人都完全独立生活,衣、食、住、行等等全部都自己搞定,这个时候效率不是很高,但一旦出现了分工,力量就强大多了,因为分工后,每个人可以做最为擅长的事情,但这个时候必须要通过某些机制合在一起,让每个人能交易到自己不擅长生产的东西。 在每个人都必须自己完成所有生活必须品的生产的时候,是没有架构的,一旦产生的分工,就把所有的事情,切分成由不同角色的人来完成,最后再通过交易,使得每个个体都拥有生活必须品,这实际上就形成了社会的架构。 **那么怎么定义架构呢?** 把一个整体(完成人类生存的所有工作)切分成不同的部分(分工),由不同角色来完成这些分工,并通过建立不同部分相互沟通的机制,使得这些部分能够有机的结合为一个整体,并完成这个整体所需要的所有活动,这就是架构。 再拿建筑来举例加强一下理解。 最开始人类是住在山洞里,住在树上的,主要是为了躲避其他猛兽的攻击,以及减少自然环境的变化。为了完成这些目标,人类开始学会在平地上用树木和树叶来建立隔离空间的设施,这就是建筑的开始。但是完全隔离也有很多坏处,慢慢就产生了门窗等设施。建筑的本质就是从自然环境中,划出一块独占的空间,但是仍然能够通过门窗等和自然环境保持沟通。这个时候架构就已经开始了。 人们对建筑的需求慢慢的越来越多,空间的切分也会变成很多种,组合的方式也会有很多种,比如每个人住的房子,需要区分厨房、洗手间、书房、卧室等等,这个时候人们就开始有意识的去设计房子,架构师就慢慢的出现了。一切都是为了满足人的越来越高的需求,提升质量,减少时间,更有效率的切分空间,并且让空间之间更加有机的进行沟通。这就是建筑的架构以及建筑的架构的演变。 总结一下,什么是架构,就是: (1)根据要解决的问题,对目标系统的边界进行界定。 (2)并对目标系统按某个原则的进行切分。切分的原则,要便于不同的角色,对切分出来的部分,并行或串行开展工作,一般并行才能减少时间。 (3)并对这些切分出来的部分,设立沟通机制。 (4)根据(3),使得这些部分之间能够进行有机的联系,合并组装成为一个整体,完成目标系统的所有工作。 看了上面的例子,你就能完全理解DAMA对架构做的一个更抽象的定义,即架构是**对组件要素的设计,旨在优化整个结构或系统的功能、性能、可行性、成本和用户体验**。在国际标准ISO/IEC/IEEE 42010:2011中,将架构定义为:“**系统的基本结构、具体体现在架构构成的组件、组件之间的相互关系以及管理其设计和演变的原则**”。 ## 三、数据架构的本质 ### 1、数据是业务的映射 建筑架构的目的是让人们住的更舒服,那数据架构的目的当然是让存储和使用数据的应用或系统能够更顺畅的运转,因此,无论是DAMA还是《华为数据之道》都在强调这一点,特别是华为,直接点出了数据架构的目的就是“**确保各类数据在企业各业务单元间高效、准确地传递,上下游流程快速地执行和运作**”。 企业为实现价值创造,从输入客户要求开始到交付产品及服务给客户获得客户满意并实现企业自身价值的E2E(端对端)业务过程就是业务流。 业务对象是指业务流中涉及的人、事、物,业务对象承载了业务运作和管理涉及的重要信息,业务对象会随着事件的驱动在业务流中流转,业务对象的载体是数据,流动的信息也是数据,这些数据只有满足下游的要求,业务流才能顺畅流动起来,否则价值创造过程就会受阻或停滞。 IT承载的是业务流以及数据,IT支撑每一个作业以及作业输出的数据,通过IT实现数据之间的集成,流程的自动化。 可以这么说,业务是由业务对象和业务流构成的,数据则是业务的映射。 ### 2、数据如何有效切分 业务一般是非常复杂的,为了方便管理业务,首先需要切分业务,每个切分的子业务域最好是高内聚,松耦合。高内聚的目的就是为了专业化,这样子业务域的运作效率就高,松耦合的目的是子业务域之间的沟通成本最好低一点,这样整体的运作效率就越高,现在DDD(领域驱动的设计)本质就是为了达成这个目标。 子业务域是专业化的业务对象的集合,对业务的要求自然映射到了对业务对象的要求,那如何实现业务对象“高内聚,松耦合”的设计呢? 这自然是数据模型要完成的事情,数据模型代表了业务切分的结果。 因此,数据模型是数据架构的核心构件,国标DCMM对于数据模型的描述非常到位,分为四个层级,主题域模型、概念模型、逻辑模型和物理模型,这些模型的设计体现了切分的思维,也体现了切分的粒度变化。 ### 3、数据如何有效流转 切分只是完成了数据架构的第一步,切分后还需要确保各子领域能够高效的沟通,这依赖数据流的合理设计,数据流可以用于描述不同层级模型的映射关系,无论是主题域、业务实体、乃至属性层面的映射关系,体现了数据在流程和IT系统上流动的全景视图,其至少需要达成以下目标: (1)明确数据实体在哪个源头产生 (2)数据实体出现在业务流的哪个环节 ![image.png](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202201/11/101109m0gczqwmduoqbd8z.png) (3)数据实体出现在哪个流转系统 数据流设计要确保数据语言的一致性,促进业务流能够顺利的运转,就好比人类分工了以后,需要通过统一货币才能促进交易一样。现在数据治理特别强调数据源的一致性,要求业务数据必须认证数据源,在公司范围内统一发布,目的就是统一语言。 因此,无论是叫数据流还是数据分布,都属于数据架构的核心构件,这是业界的共识。 **我认为数据模型和数据流(或叫数据分布)是数据架构最本质的东西,其让业务切分的合理并且切分后沟通顺畅。** ### 四、数据架构的衍生 DCMM将**数据集成和共享**纳入数据架构的范畴,我觉得主要是业务流的内涵扩大导致的结果,因为以前的业务流仅局限在OLTP系统内部,OLAP起来后,通过集成多方业务流的数据,可以产生更有价值的数据。 这些价值数据通过共享手段反哺到业务流,可以促进业务流的进一步优化,从这个角度来讲,数据集成和共享应该纳入数据架构,因为它起到了提升沟通效率的作用,这是与时俱进的结果。 随着数据被纳入生产要素,这个趋势估计会越来越明显吧,当然,这仅是我的一个猜测,毕竟只有DCMM一家这么做。 华为把**数据资产目录**和**数据标准**当成数据架构的组件,应该是管理提升的需要,但并不是数据架构必需的。 以前数据模型的设计都是一堆乱七八糟的PDM,PDM实例化后,其数据架构已经在系统实现了,但如果你要去修改完善,会发现这些数据模型的设计信息没人管、找不到、看不懂,这阻碍了数据架构的进一步优化,因此搞个数据资产目录作为指引。现在数据资产目录作用越来越大,因为数据集成和共享的时候特别需要。 数据标准的制定则让各环节数据流上的数据可以更好的保持一致性,它是数据流的增强。 DCMM将**元数据管理**纳入数据架构的范畴,估计跟华为也类似,只是范围进一步扩大了。 工业大数据的**数据主题域**属于数据模型的一部分,**数据关联关系的实体、属性**等属于数据模型一部分,**数据血缘关系**和**流转关系**则属于数据流一部分。 因此,虽然DAMA、华为、工业、DCMM及央行对于数据架构的构成有不同的描述,但都包括了数据架构最本质的东西,即数据模型和数据流,至于其它的东西,那就见仁见智了。
  • [赛事资讯] 【大赛报名】“华为云杯”2020深圳开放数据应用创新大赛 ·粤港澳大湾区强降水临近预测
    https://competition.huaweicloud.com/information/1000040092/introduction?track=107“华为云杯”2020深圳开放数据应用创新大赛,大赛以“数聚粤港澳,智汇大湾区”为主题,面向全球征集基于开放数据的创新应用解决方案及优秀算法代码。举办方:深圳市政务服务数据管理局、南山区人民政府主办,南山区政务服务数据管理局、华为技术有限公司【大赛介绍】由深圳市政务服务数据管理局、南山区人民政府主办,南山区政务服务数据管理局、华为技术有限公司承办的“华为云杯”2020深圳开放数据应用创新大赛(Shenzhen Open Data Innovation Contest,简称SODiC),以“数聚粤港澳,智汇大湾区”为主题,面向全球高等院校、专业研究机构、数据分析公司、开发者征集基于开放数据的创新应用解决方案和算法模型。本次SODiC大赛共设置4个赛道:算法赛、数据创意赛、数据分析赛和南山专题赛。大赛紧扣城市治理和民生服务主题,开放政府数据资源,创新社会治理方式,推进深圳市智慧城市建设,并携手江门,以大数据链接深江两地文旅资源,为大湾区一体化协同发展探路。新冠疫情尚未结束,本次SODiC大赛特别在数据创意赛赛道提出了“数据战疫方向”,期待参赛者发挥聪明才智,利用开放数据在防控救治、优化资源调配、推进复工复产、促进经济恢复等方面做出更多更好的创新和应用。【大赛时间安排】l 启动仪式(2020年3月27日)l 报名时间(本赛题为算法赛,算法赛报名时间即日起至6月3日18:00)l 高校线上推介会(2020年4月20日至5月4日)l 初赛作品提交(2020年5月5日至6月19日)l 线上AI训练营(2020年5月14日)l 才企交流活动(2020年5月30日)l 初赛评审(2020年6月20日至27日)l 公布晋级决赛名单(2020年6月28日至30日)l 决赛作品提交(算法赛为7月1日至7月10日)l 国际AI青年科学家高峰论坛l 颁奖晚会(2020年7月17日)【面向对象】全球高等院校、专业研究机构、数据分析公司等专业对象【组队要求】选手可自由组队参赛,赛队人数1-6人1、参赛团队应至少由一人组成,参赛人员的年龄、国籍不限,一名参赛人员仅允许参与一支参赛队伍。2、所有参赛团队应自行完成组队,并以团队身份提交各阶段的作品材料。3、直接参与大赛策划、组织、技术服务提供、评审的雇员、专家及其直系亲属不得参加大赛。4、参加大赛的团队应按要求提供每一个参赛人员的个人身份信息(未满18周岁的参赛者需额外提供监护人身份信息),参赛者应当保证身份信息的真实性。大赛组织方承诺个人信息仅用于赛事数据授权与奖金发放,对其中所有涉及个人隐私的内容予以保密。5、参赛团队提交的队伍名中不能包含任何可以使评委直接识别团队个人或其所代表企业的信息。【奖项设置】此赛题奖项设置如下:一等奖,1个团队,奖金:6万现金+3万云资源二等奖,2个团队,奖金:3万现金+2万云资源三等奖,3个团队,奖金:2万现金+1万云资源【提交作品要求】参赛者需登录到华为云人工智能大赛平台,生活垃圾图片分类赛题提交算法模型,强降水临近预测赛题、交通拥堵指数预测赛题提交结果,人工智能大赛平台支持自动判题,返回评比结果。【赛制规则】初赛中每道赛题最高得分前20名选手,进入决赛。决赛每道赛题最高得分第一名获一等奖,最高得分第二名、第三名获二等奖,最高得分第四名、第五名、第六名获三等奖。【评审标准】本次比赛将通过华为云大赛平台对参赛者提交的作品进行自动判题评分,参赛者可基于评分结果和排名,对作品进行优化后及提交,每日评分结果以当天最后一次提交的作品进行打分。大赛将取参赛者最高一次得分进行评奖。【更多说明】更多赛程赛制信息请登录大赛官网sodic.com.cn关注【赛事机构介绍】指导单位广东省政务服务数据管理局中共深圳市委宣传部中共深圳市委网络安全和信息化委员会办公室中共深圳市委推进粤港澳大湾区建设领导小组办公室主办单位深圳市政务服务数据管理局深圳市南山区人民政府承办单位深圳市南山区政务服务数据管理局华为技术有限公司
  • [赛事资讯] 【大赛报名】“华为云杯”2020深圳开放数据应用创新大赛 ·深圳北站周边交通拥堵指数预测
    https://competition.huaweicloud.com/information/1000040088/introduction?track=107“华为云杯”2020深圳开放数据应用创新大赛,大赛以“数聚粤港澳,智汇大湾区”为主题,面向全球征集基于开放数据的创新应用解决方案及优秀算法代码。举办方:深圳市政务服务数据管理局、南山区人民政府主办,南山区政务服务数据管理局、华为技术有限公司【大赛介绍】由深圳市政务服务数据管理局、南山区人民政府主办,南山区政务服务数据管理局、华为技术有限公司承办的“华为云杯”2020深圳开放数据应用创新大赛(Shenzhen Open Data Innovation Contest,简称SODiC),以“数聚粤港澳,智汇大湾区”为主题,面向全球高等院校、专业研究机构、数据分析公司、开发者征集基于开放数据的创新应用解决方案和算法模型。本次SODiC大赛共设置4个赛道:算法赛、数据创意赛、数据分析赛和南山专题赛。大赛紧扣城市治理和民生服务主题,开放政府数据资源,创新社会治理方式,推进深圳市智慧城市建设,并携手江门,以大数据链接深江两地文旅资源,为大湾区一体化协同发展探路。新冠疫情尚未结束,本次SODiC大赛特别在数据创意赛赛道提出了“数据战疫方向”,期待参赛者发挥聪明才智,利用开放数据在防控救治、优化资源调配、推进复工复产、促进经济恢复等方面做出更多更好的创新和应用。【大赛时间安排】l 启动仪式(2020年3月27日)l 报名时间(本赛题为算法赛,算法赛报名时间即日起至6月3日18:00)l 高校线上推介会(2020年4月20日至5月4日)l 初赛作品提交(2020年5月5日至6月19日)l 线上AI训练营(2020年5月14日)l 才企交流活动(2020年5月30日)l 初赛评审(2020年6月20日至27日)l 公布晋级决赛名单(2020年6月28日至30日)l 决赛作品提交(算法赛为7月1日至7月10日)l 国际AI青年科学家高峰论坛l 颁奖晚会(2020年7月17日)【面向对象】全球高等院校、专业研究机构、数据分析公司等专业对象【组队要求】选手可自由组队参赛,赛队人数1-6人1、参赛团队应至少由一人组成,参赛人员的年龄、国籍不限,一名参赛人员仅允许参与一支参赛队伍。2、所有参赛团队应自行完成组队,并以团队身份提交各阶段的作品材料。3、直接参与大赛策划、组织、技术服务提供、评审的雇员、专家及其直系亲属不得参加大赛。4、参加大赛的团队应按要求提供每一个参赛人员的个人身份信息(未满18周岁的参赛者需额外提供监护人身份信息),参赛者应当保证身份信息的真实性。大赛组织方承诺个人信息仅用于赛事数据授权与奖金发放,对其中所有涉及个人隐私的内容予以保密。5、参赛团队提交的队伍名中不能包含任何可以使评委直接识别团队个人或其所代表企业的信息。【奖项设置】此赛题奖项设置如下:一等奖,1个团队,奖金:6万现金+3万云资源二等奖,2个团队,奖金:3万现金+2万云资源三等奖,3个团队,奖金:2万现金+1万云资源【提交作品要求】参赛者需登录到华为云人工智能大赛平台,生活垃圾图片分类赛题提交算法模型,强降水临近预测赛题、交通拥堵指数预测赛题提交结果,人工智能大赛平台支持自动判题,返回评比结果。【赛制规则】初赛中每道赛题最高得分前20名选手,进入决赛。决赛每道赛题最高得分第一名获一等奖,最高得分第二名、第三名获二等奖,最高得分第四名、第五名、第六名获三等奖。【评审标准】本次比赛将通过华为云大赛平台对参赛者提交的作品进行自动判题评分,参赛者可基于评分结果和排名,对作品进行优化后及提交,每日评分结果以当天最后一次提交的作品进行打分。大赛将取参赛者最高一次得分进行评奖。【更多说明】更多赛程赛制信息请登录大赛官网sodic.com.cn关注【赛事机构介绍】指导单位广东省政务服务数据管理局中共深圳市委宣传部中共深圳市委网络安全和信息化委员会办公室中共深圳市委推进粤港澳大湾区建设领导小组办公室主办单位深圳市政务服务数据管理局深圳市南山区人民政府承办单位深圳市南山区政务服务数据管理局华为技术有限公司
  • [赛事资讯] 【大赛报名】“华为云杯”2020深圳开放数据应用创新大赛·生活垃圾图片分类
    https://competition.huaweicloud.com/information/1000038439/introduction?track=107“华为云杯”2020深圳开放数据应用创新大赛,大赛以“数聚粤港澳,智汇大湾区”为主题,面向全球征集基于开放数据的创新应用解决方案及优秀算法代码。举办方:深圳市政务服务数据管理局、南山区人民政府、南山区政务数据管理局、华为技术有限公司【大赛介绍】由深圳市政务服务数据管理局、南山区人民政府主办,南山区政务服务数据管理局、华为技术有限公司承办的“华为云杯”2020深圳开放数据应用创新大赛(Shenzhen Open Data Innovation Contest,简称SODiC),以“数聚粤港澳,智汇大湾区”为主题,面向全球高等院校、专业研究机构、数据分析公司、开发者征集基于开放数据的创新应用解决方案和算法模型。本次SODiC大赛共设置4个赛道:算法赛、数据创意赛、数据分析赛和南山专题赛。大赛紧扣城市治理和民生服务主题,开放政府数据资源,创新社会治理方式,推进深圳市智慧城市建设,并携手江门,以大数据链接深江两地文旅资源,为大湾区一体化协同发展探路。新冠疫情尚未结束,本次SODiC大赛特别在数据创意赛赛道提出了“数据战疫方向”,期待参赛者发挥聪明才智,利用开放数据在防控救治、优化资源调配、推进复工复产、促进经济恢复等方面做出更多更好的创新和应用。【大赛时间安排】l 启动仪式(2020年3月27日)l 报名时间(本赛题为算法赛,算法赛报名时间即日起至6月3日18:00)l 高校线上推介会(2020年4月20日至5月4日)l 初赛作品提交(2020年5月5日至6月19日)l 线上AI训练营(2020年5月14日)l 才企交流活动(2020年5月30日)l 初赛评审(2020年6月20日至27日)l 公布晋级决赛名单(2020年6月28日至30日)l 决赛作品提交(算法赛为7月1日至7月10日)l 国际AI青年科学家高峰论坛l 颁奖晚会(2020年7月17日)【面向对象】全球高等院校、专业研究机构、数据分析公司等专业对象【组队要求】选手可自由组队参赛,赛队人数1-6人1、参赛团队应至少由一人组成,参赛人员的年龄、国籍不限,一名参赛人员仅允许参与一支参赛队伍。2、所有参赛团队应自行完成组队,并以团队身份提交各阶段的作品材料。3、直接参与大赛策划、组织、技术服务提供、评审的雇员、专家及其直系亲属不得参加大赛。4、参加大赛的团队应按要求提供每一个参赛人员的个人身份信息(未满18周岁的参赛者需额外提供监护人身份信息),参赛者应当保证身份信息的真实性。大赛组织方承诺个人信息仅用于赛事数据授权与奖金发放,对其中所有涉及个人隐私的内容予以保密。5、参赛团队提交的队伍名中不能包含任何可以使评委直接识别团队个人或其所代表企业的信息。【奖项设置】此赛题奖项设置如下:一等奖,1个团队,奖金:6万现金+3万云资源二等奖,2个团队,奖金:3万现金+2万云资源三等奖,3个团队,奖金:2万现金+1万云资源【提交作品要求】参赛者需登录到华为云人工智能大赛平台,生活垃圾图片分类赛题提交算法模型,强降水临近预测赛题、交通拥堵指数预测赛题提交结果,人工智能大赛平台支持自动判题,返回评比结果。【赛制规则】初赛中每道赛题最高得分前20名选手,进入决赛。决赛每道赛题最高得分第一名获一等奖,最高得分第二名、第三名获二等奖,最高得分第四名、第五名、第六名获三等奖。【评审标准】本次比赛将通过华为云大赛平台对参赛者提交的作品进行自动判题评分,参赛者可基于评分结果和排名,对作品进行优化后及提交,每日评分结果以当天最后一次提交的作品进行打分。大赛将取参赛者最高一次得分进行评奖。【更多说明】更多赛程赛制信息请登录大赛官网sodic.com.cn关注【赛事机构介绍】指导单位广东省政务服务数据管理局中共深圳市委宣传部中共深圳市委网络安全和信息化委员会办公室中共深圳市委推进粤港澳大湾区建设领导小组办公室主办单位深圳市政务服务数据管理局深圳市南山区人民政府承办单位深圳市南山区政务服务数据管理局华为技术有限公司
  • [技术干货] 好望云服务特性介绍--好望/国标设备接入
    好望/国标设备接入【特性描述】仅好望设备支持扫码添加好望协议还不支持批量添加,国标协议支持支持GB/T 28181-2016设备接入;支持接入满足国标协议的IPC、NVR等设备支持好望协议的C系列、D系列SDC、NVR800、IVS1800等系列设备;支持第三方厂家集成好望SDK后接入【适用平台】      IVM Portal √好望云企业APP √好望云个人APP √    北向接口API √ 【IVM-视频演示】 【IVM-操作步骤】第一步:SDC 通过网线连接 NVR ;第二步:登录 NVR,根据 SDC mac 地址查询 SDC IP 地址 ,例如192.168.1.128;第三步:PC 连接到与 SDC 相同的网段第四步:打开 PC 浏览器,输入 SDC IP 地址,登录 SDC第五步:依次点击 [设置] -> [网络] -> [平台对接参数] -> [云服务对接],              进入 华为好望 界面,修改域名为 DAS 服务器地址,              此处的 DAS 服务所在环境需要和后续的 IVM 和 app 访问环境相同。第六步:打开 好望 App 企业版,此时 App 连接的环境应该与 SDC 连接的 DAS 的环境相同,              进入想添加的企业及设备组,点击添加设备,扫描第五步操作中界面出现的二维码,              即可将该 SDC 添加到该设备组中;第七步:登录 IVM Protal,IVM 访问的环境应与 SDC 连接的 DAS 的环境相同,             找到刚添加的 SDC 设备,开通收录服务,即可在 App 上查看实况浏览。
  • [其他] 区块链和人工智能如何在主数据管理中发挥作用
      主数据很容易成为企业拥有的关键资产之一。随着数字化的不断推进和第四次工业革命的到来,主数据的价值和管理的重要性都将被提上议程。在讨论主数据管理的重要性之前,让我们先了解一下什么是主数据。     Gartner(GartnerGroup公司成立于1979年,它是第一家信息技术研究和分析的公司。)将主数据定义为"……     统一的标识符和扩展属性集,描述企业的核心实体,包括客户、前景、公民、供应商、站点、层次结构和账户图表。"     本质上,主数据引用所有用于标识业务关键元素的静态信息。这可以包括产品名称、人员(客户、供应商、员工、负责人等)、特殊设备和工具、设施等。主数据不同于事务性数据,如发票编号、发票金额、日期、流程参数等。主数据的目的更多的是识别,而不是测量。     然而,这并不是说主数据和事务数据是独立的。事实上,主数据对于描述和理解事务和流程非常重要。它为事务信息提供了更大范围的上下文,主数据中的差异所造成的损害可能与事务数据中的差异一样大,甚至更大。例如,两种错误,一是在计费时识别到错误的客户,二是识别到正确的客户,却在计算账单金额出现错误,明显前者的错误程度要严重的多。同样是犯错,但两者的程度会出现明显的不同。为了避免这种灾难,主数据管理的重要性再怎么强调也不为过。     主数据管理的重要性     主数据管理与业务的几乎每个关键方面都紧密联系在一起。重要的是,主数据帮助企业及其企业范围的信息系统识别日常操作中涉及的不同组件。这些数据可能涉及单个客户、供应商、部件名称、资本资产、产品等。须对其进行记录和处理,以维护所有业务关键流程的真实记录。主数据管理帮助组织成员和企业决策支持系统基于客观准确的信息做出快速决策。要做到这一点,每个元素使用的每个标识符都须在整个组织中,尽量是在整个供应链中得到一致同意和建立。这确保了在正常操作期间识别这些关键元素的一致性,并将混淆和错误减小。     有效的主数据管理在优化和加速组织过程方面也很有用,因为使用一致的数据可以确保快速接收、解释和处理通信。主数据管理是必要的,尤其是在大型企业中,另一个重要原因是确保遵守法规。监管机构有严格的法律来管理组织处理财务和客户数据的方式。建立和遵循标准化的主数据管理实践可以帮助组织将其过程与这些法律保持一致。     例如,近期通过的《通用数据保护条例》(GeneralDataProtectionRegulation,GDPR)要求企业建立相应的实践和协议,防止与特定流程无关的各方访问客户的个人数据。通常,客户信息是客户关系管理(CRM)等流程的主数据的一部分,在CRM中,销售和客户会支持主管访问客户信息,比如联系方式,有时甚至是银行信息。因此,在不降低效率的同时又不损害遵从性的情况下管理主数据需要自动化和安全性。在某种意义上,自动化和安全性是像人工智能和区块链这样的技术给主数据管理带来的。     人工智能在主数据管理中的作用     人工智能主要应用于系统和过程中,使它们通过增强的计算能力变得更加自主。其自动化日常计算和数据输入任务的能力为人工智能纳入企业资源规划(ERP)和其他信息管理系统提供了令人信服的理由。     人工智能通过确保正确的信息总是在正确的时间交付给正确的人,从而使信息系统更加智能。这确保了整个使用信息系统的组织保持高效和敏捷。     类似地,人工智能可以将自治和敏捷性引入主数据管理活动,例如数据质量管理、数据管理,最终甚至是数据治理。     在其使用的初始阶段,人工智能可以用来清理数据,确保必要的数据是准确和完整的。它还可以使用自然语言处理(NLP)从普通文本中收集与主数据相关的附加信息,从而最小化手工数据输入的需要,最小化低效和不准确的可能性。     人工智能还可用于确保已建立的主数据管理标准和实践得到维护和遵循。这可以最小化手工执行数据治理活动的需求,并确保对主数据的治理。因此,人工智能可以自动化数据管理,即管理和维护数据,使其在任何需要的时候都容易访问。随着进一步的开发,它还可以自动构建数据治理策略并处理更复杂的数据治理任务,比如它可以完成类似规划的任务。     区块链的作用是保护主数据管理     确保数据安全至关重要,这不仅是出于道德目的,也是为了遵守监管机构的相关规定。在今天这个时代,任何关于安全和隐私的谈话都离不开区块链。区块链通常被认为是隐私的同义词,可用于保护构成主数据的敏感信息。     这包括任何有关客户和员工的个人信息。它也可以指采购和销售等过程中可能需要的会计和银行相关信息。所有这些信息都可以通过加密哈希使用区块链进行保护。企业可以在内部构建企业区块链网络,使用去中心化模型来保护和管理主数据。     它不仅可以保护信息不受非法修改的影响,还可以防止由于集中服务器的物理损坏而造成的意外损失。此外,它还有助于以一种容易展示的方式遵守隐私规则。这是因为区块链上的数据不仅是不可变的,而且对所有参与者都是透明和可见的,从而确保更流畅的审计和检查。     一旦判定这些数据是属于主数据的范围,区块链可以实现这些数据在行业、公司甚至功能之间进行的更改。因此,人工智能和区块链在不同组织中的作用可能会根据它们对主数据的分类而有所不同。但是,无论组织如何,对主数据管理的需求仍然存在。并且由于人工智能的通用性和不断增长的能力,它将成为现代企业架构中的标准设备。     在采用人工智能进行主数据管理方面处于优势地位的企业,不仅会看到立竿见日的效果,而且还将在未来保持相对于那些不采用人工智能的企业的优势,毫无疑问,人工智能将会继续存在,并且会不断发展壮大。
  • [行业资讯] 华为云数据库助力梦饷集团缔造电商新时代
    近年来,国潮兴起,国货品牌加速涌现,国潮崛起作为一种鲜明的文化态度和生活方式,反映了新一代年轻人对传统文化的自信及追求消费升级的愿望。制造端和供应链端的升级是新消费品牌诞生和快速成长的基础,得益于电商平台拥有的大流量和便捷交易的优势,社群新电商模式的梦饷集团也成为助力新消费品牌成长的重要力量。作为新电商基础设施提供者,梦饷旗下拥有饷店、爱库存、爱豆学堂等业务,累计帮助10000多家品牌商销售近4亿件商品,触达数亿消费者,为超200万店主提供创业创收的机会。各项营业指标连年数倍增长,被誉为上海在线新经济四小龙。数字化升级,更高效更智慧随着业务的品类升级,梦饷集团将持续加码全品类、全渠道、全开放,并深耕精细化运营。如何精准识别店主、KOC等渠道与品牌商家的销售需求,如何将上游制造商与消费者链接,让平台赋能效应最大化,以及如何安全高效应对平台日益剧增的数据量是当前需要解决的。日益增长的客户需求对数字化基础设施的电商平台提出了高要求,因此,数字化升级刻不容缓,作为数据底座的数据库,也有着更高的要求:高性能:对在线交易数据库高并发写入、海量存储能力要求较高。大促期间订单量暴增,需要有快速扩容的弹性能力与海量并发的支撑能力,来应对流量洪峰期。高效运维:通过云的规模化自动化运维能力,减少运维成本,减轻DBA运维压力。高效迁移:梦饷集团各种类型的数据基数庞大,不同业务类型的数据分别存在MySQL、MongoDB、InfluxDB等数据库中;需要短时间完成整个数据的搬迁、校验和对比,保障业务安全持续运行。保证业务连续性:迁移时,所有数据库的迁移方案需具备快速回切能力,以便保证业务的连续性。华为云数据库&梦饷集团技术创新,深度链接品牌与客户,提升交易效率华为云数据库携手梦饷集团积极寻求数字化转型,希望通过技术创新,实现更智能、高效的人货匹配。针对梦饷集团对数据的高可靠、高可用、高性能、高安全、高效率等方面的诉求,华为云数据库服务提供了RDS Proxy+RDS HA+跨Region备份+DAS的组合解决方案,用技术创新支撑去中心化的电商平台交易更稳定高效。稳定可靠:通过RDS Proxy实现对RDS数据库实例的透明读写分离,统一由RDS Proxy对外提供读写服务,提高了业务并发吞吐和负载能力,全链路从写入到查询响应时间基本是秒级。高可用:通过RDS HA系统,提供主库和备库秒级故障转移能力,确保在主机故障、电力异常和机房故障等场景下,提供高可用数据库服务。弹性扩缩容:平滑扩容和弹性升降配使客户的业务系统具备了快速弹性升降配能力,从容、快速应对突发业务流量;支持增删只读实例,及时应对大促过后业务回落情况,快速降低成本。管理高效:通过DAS的云DBA和企业版能力,帮助客户方便管理所有数据库实例,体验数据库自修复、自优化、自运维及自安全等强大和便捷的功能。梦饷集团业务搬迁至华为云后,运维效率提升约30%,数据链路的时效性以及业务系统的吞吐能力升1倍,核心业务数据库访问平均耗时由1.5s降至1s。此外,梦饷集团每秒成交的订单数再创历史新高,订单峰值比历史最高峰值再次提高了几倍,成为了利用数字基础设施助力业务快速增长的标杆。梦饷集团通过数据开放、系统开放、社群开放与云仓开放四大开放,让商家可以拥有更大的自主运营空间、更灵活的销售与活动模式,有效的降低仓储物流等成本,为每个店家成就梦想。华为云数据库也将持续为梦饷集团提供更高可靠、高可用、高安全、高扩展的数据库服务,满足客户不同场景下的新需求。“保证平滑高效安全的数据迁移是极具挑战的,我们通过优化目标端数据库的参数等方式,最终保证所有数据库的全量迁移时间控制在12小时以内。水平伸缩的弹性架构有力的支撑了梦饷集团快速发展,为更好的服务消费用户和品牌商家打下了良好基础。”——梦饷集团IT组代表许锋涛、王成国最后表示
  • [问题求助] 【ABC】【主数据管理】IOC空间主数据和组织主数据不能展示
    【功能模块】主数据管理【操作步骤&问题现象】环境:医疗标准ABC,租户Hi-chinasoft20211、IOC登录后,系统管理》主数据管理,空间主数据和组织主数据,可以正常添加主数据,但是左边的树不能显示,F12查看没有调用/service/Space/0.1.0/querySpaceTree接口,12号空间app删除后重新导入过。【截图信息】【日志信息】(可选,上传日志内容或者附件) 邮箱:dubin@chinasofti.com 电话:18182698675
  • [技术干货] 云计算复习知识总结 189.计算机虚拟化可归结为哪三个方面?190.什么是虚拟化? 191.DAS/NAS/SAN 三种形态
    189.计算机虚拟化可归结为哪三个方面?答:CPU 虚拟化、内存虚拟化、IO 虚拟化190.什么是虚拟化?答:虚拟化是云计算中的一项关键技术。它指的是共享计算机上多个操作系统的聚合。以及更好地利用服务器的应用程序191.DAS/NAS/SAN 三种形态的优缺点:答:DAS:优点:易于理解,兼容性好缺点:难以管理,扩展性有限;存储空间,利用率不高NAS:优点:易于安装,成本低缺点:性能较低,对某些应用不适合SAN:优点:高扩展性、高性能、高可用性缺点:比较昂贵、配置复、互操作性问题
  • [行业动态] 视频证言:华为云位居中国数据管理解决方案领导者位置
    2021年Q2, Frost&Sullivan弗若斯特沙利文发布了《2020年中国数据管理解决方案市场报告》,从产品创新能力、成长能力、基础能力三个维度对主流大数据厂商进行全面评估,沙利文及头豹研究院总监李庆 livia.lee对本篇报告进行了视频解读,并肯定了华为云在数据管理解决方案领域的“领导者”地位。视频证言链接:https://e.huawei.com/cn/videolist/Cloud-BigData/big-data/6244d67edd6a4053b436c413ac847d76视频解读全文如下:本篇报告主要关注在全球范围内,可以为中国企业提供完整的、全套的数据管理解决方案的厂商。2019年,业界提出了“湖仓一体”的架构,到2020年,各厂商产品已经相对成熟并逐渐推向市场,基于我们的研究,数据管理解决方案未来将朝两个方向发展:云化的部署将会成为主流,但多云或混合云的架构也将长期存在;未来整体的数据管理解决方案将会向专业化迈进,需要厂商对客户业务及应用场景有深刻的理解,才能令客户充分使用大数据,为商业决策带来创新价值。基于研究,我们非常认可华为云在数据管理解决方案领域的领导者地位,华为云凭借自己的创新能力,用MRS云原生数据湖实现了一个架构构建离线、实时和逻辑三种数据湖,兼顾了过去与未来,为客户提供了全方位的数据管理解决方案,这样极致的数据管理服务,可以满足用户的多场景应用需求。同时,我们也很关注华为云的生态能力,始终坚持以开放、合作、共赢的商业策略,与合作伙伴共同赋能客户。华为云FusionInsight作为中国数据管理解决方案的领导者,通过技术创新、极致的数据管理、全产品的数据安全以及丰富的行业实践,和较强的生态能力,为企业提供高成长性、高创新性的综合解决方案。目前,华为云FusionInsight携手800+合作伙伴,服务于全球60+国家和地区3000+政企客户,已广泛应用于政府、金融、运营商、大企业等行业。更多精彩文章:https://bbs.huaweicloud.com/forum/thread-66105-1-1.html
  • [行业动态] 主流大数据厂商激烈角逐湖仓一体新架构,华为云引领技术潮流
    2021年上半年,湖仓一体俨然已经成为大数据领域最火热的流行词,各大云厂商推出自己的湖仓一体产品,在众多产品中,企业如何找到符合自身需求的数据管理产品?近日,国际权威分析机构弗若斯特沙利文 Frost & Sullivan(以下简称“沙利文”)发布了《2020 年中国数据管理解决方案市场报告》,对中国主流大数据厂商从产品创新能力、成长能力、基础能力三个维度进行了全面评估。华为云凭借 FusionInsight 的持续创新位居中国数据管理解决方案领导者,并在中国大数据厂商中全面领先。沙利文用 Frost Radar(弗若斯特雷达)清晰明了地展示中国数据管理解决方案市场态势。横坐标代表“创新指数”,体现服务丰富度和产品调优能力;纵坐标代表“成长指数”,衡量产品功能和性能的竞争力,色深代表“基础指数”,体现大数据平台基础能力。华为云位居右上角的领导者区间,三项指标均领先国内其他大数据厂商,其主打解决方案华为云 FusionInsight 智能数据湖是获得沙利文认可的关键。报告还指出,预计到 2024 年,中国大数据硬件市场规模为 111 亿美元,中国大数据软件市场规模为 162.3 亿美元,中国大数据整体市场规模即为两者之和——273.3 亿美元,即将到来的百亿级美元市场,考验着数据管理厂商的能力边界。大数据管理:不仅要存得好更要用得好在行业发展的不同阶段,数据管理解决方案所要面临的主要矛盾截然不同,此前数据管理解决方案的重点分别是数据的数量、种类和速度,现阶段企业对数据管理解决方案的需求,逐渐聚焦于数据如何支撑重要决策,并不断促使数据管理解决方案走向湖仓一体,提升企业的数据价值创造力。数据仓库与数据湖是企业经常会使用到的两种数据管理解决方案,数据仓库到数据湖的演进并不是替代关系,数据仓库诞生较早,借鉴了数据库的数据理念,通过预先定义 schema,将结构化数据清洗提炼,提供数据服务和管理能力。数据湖则诞生于半结构化、非结构化数据的海量增长背景之下,以原始形态存储数据并且逐渐发展数据处理能力,成为可以运行不同类型的大数据工具,对数据进行大数据处理、实时分析和机器学习等操作的统一数据管理平台。在面对愈发复杂的大数据场景时,数据仓库与数据湖各自的弊端显现,也就有了湖仓一体产品的诞生,相较于单一使用数据湖或数据仓库,湖仓一体将两者的优势兼容并蓄。湖仓一体的数据管理解决方案具备事务支持、数据的模型化和数据治理、BI 支持、存算分离、灵活开放、支持多种数据类型、支持各种工作负载、端到端流等特性,此外,数据的安全和访问控制也十分重要,契合云计算时代企业的业务模型。华为云 FusionInsight 智能数据湖为政企客户提供“湖仓一体”的解决方案,提供 MRS 云原生数据湖、GaussDB(DWS) 云数据仓库、DGC 数据湖治理中心、GES 图引擎、DLI 数据湖探索等云服务,用于离线分析、实时分析、数仓集市、交互查询、实时检索、多模分析、数据接入治理、图计算等海量数据分析场景,实现政企客户一企一湖、一城一湖的业务模式。湖仓一体、云化部署已是大数据主流趋势大数据平台的发展历史就是一部企业探索数据价值的历史,当业务发展与现有技术产生矛盾,总会有新的技术浮现,Spark、Flink、Hudi、ClickHouse、HetuEngine 等等技术尽皆如此,大数据平台不断查漏补缺,最终由单点式的工具演变为全栈式的系统。传统数据管理解决方案一般部署在通用服务器之上,近年来数据仓库和数据湖的整体上云趋势愈演愈烈,美国市场还诞生出一些备受关注的独角兽企业,而在中国市场,云化部署也成为数据管理解决方案的大趋势。沙利文报告提出,大数据云化部署方案将成为主流。在存算分离理念的基础上,云化服务完美应对了弹性扩展、功能迭代、成本控制等需求,在资源需求差异化的场景中实现资源的合理配置。同时,按客户业务需要,弹性发放的云化服务显著节约了使用等待时间。华为云得以进入领导者区间,很大程度上也是因为其覆盖数据全生命周期的全栈式数据管理能力,由采、存、算、管、用的全面云化,再到湖仓一体的一站式融合分析,FusionInsight 智能数据湖提供的湖仓一体架构,帮助客户构建一企一湖、一城一湖。华为云 FusionInsight 湖仓一体架构提供灵活的多样性算力和存算分离方案,符合当下的企业需求。MRS 云原生数据湖实现了一个架构可构建逻辑、实时、离线 3 种数据湖,HetuEngine 提供跨湖、跨仓、跨云的协同分析,Hudi 支持 ACID 数据实时增量入湖,提供 ClickHouse 毫秒级 OLAP 分析、Flink 批流合一等实时处理能力,离线数据湖拥有交互式、BI、AI 等多个计算引擎,一个平台实现海量数据多场景分析。GaussDB(DWS) 云数据仓库同时具备分析及混合负载能力,具有高性能、高扩展、高可用等特点,广泛应用于汽车、制造、零售、互联网、金融、政府、电信等行业核心分析决策系统。DGC 数据湖治理中心是一站式数据开发集成管理平台,包含数据架构、标准规范、数据开发、数据质量等功能,支持 40+ 异构数据源、全拖拽开发,效率提升 3 倍,助力企业快速构建从数据接入到分析的 E2E 数据治理体系,统一数据标准,加速数据资产沉淀。GES 图引擎是中国首个商用的、拥有自主知识产权的原生图产品,具备多项自主专利。针对以关系为基础的图结构数据,应用于社交 APP、关系分析、物流配送、知识图谱等场景。DLI数据湖探索提供 Serverless 的融合处理分析服务,企业使用标准 SQL、Spark、Flink 就可轻松完成多数据源的联合计算分析,挖掘和探索数据价值。数据兑现价值,FusionInsight 深入核心业务场景伴随数据管理解决方案的底层设施逐渐成熟,技术升级和服务应用场景拓展的加速及深化,数据管理解决方案行业应用逐渐向各领域的核心业务延伸,数据管理解决方案产品与应用场景融合加深。华为云 FusionInsight 智能数据湖深入各行业客户需求,已经规模商用湖仓一体创新技术方案,以数据驱动各行业业务增长。据了解,华为云 FusionInsight 客户覆盖全球 60 多个国家 3000 多家客户,覆盖政府、金融、运营商、电力、传媒、医疗、教育、交通、油气、物流、零售、制造等行业。在政务领域,在政务数字化参与部委、各省市智慧城市、数字城市建设。在某市,华为云 FusionInsight 联合伙伴建成“一云二网三平台”,针对民生、产业、政府的“痛点”和“难点”,从构建城市数据资源库为开端,以大数据分析支撑政府智慧决策,在 “数聚惠民”、“数聚兴业”、“数聚善政”三大方面,支撑 “一号、一窗、一网” 政务服务,让简政放权、百姓办业务“最多跑一次”成为现实。在金融领域,华为云 FusionInsight在工商银行、建设银行、招商银行等银行、证券、保险行业广泛应用。在某行使用华为云 FusionInsight 构建大数据基础平台,支撑了一湖两库建设,保障银行 BI、AI、数据挖掘、数据分析等日常数据分析,实现全行即时 BI,加速银行数字化转型进程。在运营商领域,已覆盖国内三大运营商以及海外运营商客户。其中广东移动基于华为云 FusionInsight,联合政企客户共同打造智慧电网、智慧港口、高清视频等系列标杆应用,打通数据全生命周期链路,实现对内业务支撑、对外应用赋能,全面支撑了各类政务、民生等大数据应用服务。面向大企业客户,覆盖能源、交通、制造等行业客户大数据平台建设。其中深圳地铁采用华为城轨云解决方案,利用云计算、大数据、5G、人工智能等技术核心,建立了统一、开放、智能的城轨数字平台,利用华为云 FusionInsight MRS 云原生数据湖能力构建深圳地铁大数据分析平台,在智慧车站、智慧运维方面,对新技术与地铁场景进行创新融合,推进了车站业务全日自动运行、线上线下一体化客服、设备主动检测、健康管理等应用,探索数字化、高效化的新业务模式,为城市提供更优质的公共交通服务。写在最后随着 IoT、AI 等新技术的大量应用,未来 4 年里数据量将激增 4 倍,到 35 年呈 50 倍增长。在政企数字化转型的过程中,湖仓一体将是政企客户实现一企一湖、一城一湖的最佳选择,使得业务洞见更准,数据价值兑现更快。华为云等厂商所倡导的湖仓一体,将持续引领2021年大数据领域技术创新潮流,让我们拭目以待。文章来源:https://mp.weixin.qq.com/s/5UHtqKXJHy3bfx_wd_llyw(InfoQ)更多精彩文章:https://bbs.huaweicloud.com/forum/thread-66105-1-1.html
  • [技术干货] 通过数据管理服务DAS连接MySQL实例
    步骤一:购买实例操作场景本节将介绍在云数据库RDS服务的管理控制台购买实例的过程。RDS for MySQL支持“包年/包月”和“按需计费”购买,您可以根据业务需要定制相应计算能力和存储空间的云数据库RDS实例。RDS for MySQL支持购买主备实例或单实例时可以批量同步购买只读实例,您可以根据业务需要进行购买。前提条件已注册华为云账号。注册华为云账号后,如果需要对华为云上的资源进行精细管理,请使用统一身份认证服务(Identity and Access Management,简称IAM)创建IAM用户及用户组,并授权,以使得IAM用户获得具体的操作权限,更多操作,请参见创建用户组、用户并授予RDS权限。账户余额大于等于0元。操作步骤登录管理控制台。单击管理控制台左上角的定位图标,选择区域和项目。选择“数据库 > 云数据库 RDS”。进入云数据库 RDS信息页面。在“实例管理”页面,单击“购买数据库实例”。在“服务选型”页面,选择计费模式,填写并选择实例相关信息后,单击“立即购买”。步骤二:通过DAS连接MySQL实例操作场景华为云数据管理服务(Data Admin Service,简称DAS)是一款专业的简化数据库管理工具,提供优质的可视化操作界面,大幅提高工作效率,让数据管理变得既安全又简单。您可以通过数据管理服务连接并管理实例。华为云关系型数据库服务默认为您开通了远程主机登录权限,推荐您使用更安全便捷的数据管理服务连接实例。操作步骤登录管理控制台。单击管理控制台左上角的定位图标,选择区域和项目。选择“数据库 > 云数据库 RDS”。进入云数据库 RDS信息页面。在“实例管理”页面,选择目标实例,单击操作列的“登录”,进入数据管理服务实例登录界面。您也可以在“实例管理”页面,单击目标实例名称,在页面右上角,单击“登录”,进入数据管理服务实例登录界面。正确输入数据库用户名和密码,单击“登录”,即可进入您的数据库并进行管理。通过数据管理服务管理数据库可参见MySQL数据管理。
总条数:112 到第 页
上滑加载中