• [其他] 区块链和人工智能如何在主数据管理中发挥作用
      主数据很容易成为企业拥有的关键资产之一。随着数字化的不断推进和第四次工业革命的到来,主数据的价值和管理的重要性都将被提上议程。在讨论主数据管理的重要性之前,让我们先了解一下什么是主数据。     Gartner(GartnerGroup公司成立于1979年,它是第一家信息技术研究和分析的公司。)将主数据定义为"……     统一的标识符和扩展属性集,描述企业的核心实体,包括客户、前景、公民、供应商、站点、层次结构和账户图表。"     本质上,主数据引用所有用于标识业务关键元素的静态信息。这可以包括产品名称、人员(客户、供应商、员工、负责人等)、特殊设备和工具、设施等。主数据不同于事务性数据,如发票编号、发票金额、日期、流程参数等。主数据的目的更多的是识别,而不是测量。     然而,这并不是说主数据和事务数据是独立的。事实上,主数据对于描述和理解事务和流程非常重要。它为事务信息提供了更大范围的上下文,主数据中的差异所造成的损害可能与事务数据中的差异一样大,甚至更大。例如,两种错误,一是在计费时识别到错误的客户,二是识别到正确的客户,却在计算账单金额出现错误,明显前者的错误程度要严重的多。同样是犯错,但两者的程度会出现明显的不同。为了避免这种灾难,主数据管理的重要性再怎么强调也不为过。     主数据管理的重要性     主数据管理与业务的几乎每个关键方面都紧密联系在一起。重要的是,主数据帮助企业及其企业范围的信息系统识别日常操作中涉及的不同组件。这些数据可能涉及单个客户、供应商、部件名称、资本资产、产品等。须对其进行记录和处理,以维护所有业务关键流程的真实记录。主数据管理帮助组织成员和企业决策支持系统基于客观准确的信息做出快速决策。要做到这一点,每个元素使用的每个标识符都须在整个组织中,尽量是在整个供应链中得到一致同意和建立。这确保了在正常操作期间识别这些关键元素的一致性,并将混淆和错误减小。     有效的主数据管理在优化和加速组织过程方面也很有用,因为使用一致的数据可以确保快速接收、解释和处理通信。主数据管理是必要的,尤其是在大型企业中,另一个重要原因是确保遵守法规。监管机构有严格的法律来管理组织处理财务和客户数据的方式。建立和遵循标准化的主数据管理实践可以帮助组织将其过程与这些法律保持一致。     例如,近期通过的《通用数据保护条例》(GeneralDataProtectionRegulation,GDPR)要求企业建立相应的实践和协议,防止与特定流程无关的各方访问客户的个人数据。通常,客户信息是客户关系管理(CRM)等流程的主数据的一部分,在CRM中,销售和客户会支持主管访问客户信息,比如联系方式,有时甚至是银行信息。因此,在不降低效率的同时又不损害遵从性的情况下管理主数据需要自动化和安全性。在某种意义上,自动化和安全性是像人工智能和区块链这样的技术给主数据管理带来的。     人工智能在主数据管理中的作用     人工智能主要应用于系统和过程中,使它们通过增强的计算能力变得更加自主。其自动化日常计算和数据输入任务的能力为人工智能纳入企业资源规划(ERP)和其他信息管理系统提供了令人信服的理由。     人工智能通过确保正确的信息总是在正确的时间交付给正确的人,从而使信息系统更加智能。这确保了整个使用信息系统的组织保持高效和敏捷。     类似地,人工智能可以将自治和敏捷性引入主数据管理活动,例如数据质量管理、数据管理,最终甚至是数据治理。     在其使用的初始阶段,人工智能可以用来清理数据,确保必要的数据是准确和完整的。它还可以使用自然语言处理(NLP)从普通文本中收集与主数据相关的附加信息,从而最小化手工数据输入的需要,最小化低效和不准确的可能性。     人工智能还可用于确保已建立的主数据管理标准和实践得到维护和遵循。这可以最小化手工执行数据治理活动的需求,并确保对主数据的治理。因此,人工智能可以自动化数据管理,即管理和维护数据,使其在任何需要的时候都容易访问。随着进一步的开发,它还可以自动构建数据治理策略并处理更复杂的数据治理任务,比如它可以完成类似规划的任务。     区块链的作用是保护主数据管理     确保数据安全至关重要,这不仅是出于道德目的,也是为了遵守监管机构的相关规定。在今天这个时代,任何关于安全和隐私的谈话都离不开区块链。区块链通常被认为是隐私的同义词,可用于保护构成主数据的敏感信息。     这包括任何有关客户和员工的个人信息。它也可以指采购和销售等过程中可能需要的会计和银行相关信息。所有这些信息都可以通过加密哈希使用区块链进行保护。企业可以在内部构建企业区块链网络,使用去中心化模型来保护和管理主数据。     它不仅可以保护信息不受非法修改的影响,还可以防止由于集中服务器的物理损坏而造成的意外损失。此外,它还有助于以一种容易展示的方式遵守隐私规则。这是因为区块链上的数据不仅是不可变的,而且对所有参与者都是透明和可见的,从而确保更流畅的审计和检查。     一旦判定这些数据是属于主数据的范围,区块链可以实现这些数据在行业、公司甚至功能之间进行的更改。因此,人工智能和区块链在不同组织中的作用可能会根据它们对主数据的分类而有所不同。但是,无论组织如何,对主数据管理的需求仍然存在。并且由于人工智能的通用性和不断增长的能力,它将成为现代企业架构中的标准设备。     在采用人工智能进行主数据管理方面处于优势地位的企业,不仅会看到立竿见日的效果,而且还将在未来保持相对于那些不采用人工智能的企业的优势,毫无疑问,人工智能将会继续存在,并且会不断发展壮大。
  • [行业资讯] 华为云数据库助力梦饷集团缔造电商新时代
    近年来,国潮兴起,国货品牌加速涌现,国潮崛起作为一种鲜明的文化态度和生活方式,反映了新一代年轻人对传统文化的自信及追求消费升级的愿望。制造端和供应链端的升级是新消费品牌诞生和快速成长的基础,得益于电商平台拥有的大流量和便捷交易的优势,社群新电商模式的梦饷集团也成为助力新消费品牌成长的重要力量。作为新电商基础设施提供者,梦饷旗下拥有饷店、爱库存、爱豆学堂等业务,累计帮助10000多家品牌商销售近4亿件商品,触达数亿消费者,为超200万店主提供创业创收的机会。各项营业指标连年数倍增长,被誉为上海在线新经济四小龙。数字化升级,更高效更智慧随着业务的品类升级,梦饷集团将持续加码全品类、全渠道、全开放,并深耕精细化运营。如何精准识别店主、KOC等渠道与品牌商家的销售需求,如何将上游制造商与消费者链接,让平台赋能效应最大化,以及如何安全高效应对平台日益剧增的数据量是当前需要解决的。日益增长的客户需求对数字化基础设施的电商平台提出了高要求,因此,数字化升级刻不容缓,作为数据底座的数据库,也有着更高的要求:高性能:对在线交易数据库高并发写入、海量存储能力要求较高。大促期间订单量暴增,需要有快速扩容的弹性能力与海量并发的支撑能力,来应对流量洪峰期。高效运维:通过云的规模化自动化运维能力,减少运维成本,减轻DBA运维压力。高效迁移:梦饷集团各种类型的数据基数庞大,不同业务类型的数据分别存在MySQL、MongoDB、InfluxDB等数据库中;需要短时间完成整个数据的搬迁、校验和对比,保障业务安全持续运行。保证业务连续性:迁移时,所有数据库的迁移方案需具备快速回切能力,以便保证业务的连续性。华为云数据库&梦饷集团技术创新,深度链接品牌与客户,提升交易效率华为云数据库携手梦饷集团积极寻求数字化转型,希望通过技术创新,实现更智能、高效的人货匹配。针对梦饷集团对数据的高可靠、高可用、高性能、高安全、高效率等方面的诉求,华为云数据库服务提供了RDS Proxy+RDS HA+跨Region备份+DAS的组合解决方案,用技术创新支撑去中心化的电商平台交易更稳定高效。稳定可靠:通过RDS Proxy实现对RDS数据库实例的透明读写分离,统一由RDS Proxy对外提供读写服务,提高了业务并发吞吐和负载能力,全链路从写入到查询响应时间基本是秒级。高可用:通过RDS HA系统,提供主库和备库秒级故障转移能力,确保在主机故障、电力异常和机房故障等场景下,提供高可用数据库服务。弹性扩缩容:平滑扩容和弹性升降配使客户的业务系统具备了快速弹性升降配能力,从容、快速应对突发业务流量;支持增删只读实例,及时应对大促过后业务回落情况,快速降低成本。管理高效:通过DAS的云DBA和企业版能力,帮助客户方便管理所有数据库实例,体验数据库自修复、自优化、自运维及自安全等强大和便捷的功能。梦饷集团业务搬迁至华为云后,运维效率提升约30%,数据链路的时效性以及业务系统的吞吐能力升1倍,核心业务数据库访问平均耗时由1.5s降至1s。此外,梦饷集团每秒成交的订单数再创历史新高,订单峰值比历史最高峰值再次提高了几倍,成为了利用数字基础设施助力业务快速增长的标杆。梦饷集团通过数据开放、系统开放、社群开放与云仓开放四大开放,让商家可以拥有更大的自主运营空间、更灵活的销售与活动模式,有效的降低仓储物流等成本,为每个店家成就梦想。华为云数据库也将持续为梦饷集团提供更高可靠、高可用、高安全、高扩展的数据库服务,满足客户不同场景下的新需求。“保证平滑高效安全的数据迁移是极具挑战的,我们通过优化目标端数据库的参数等方式,最终保证所有数据库的全量迁移时间控制在12小时以内。水平伸缩的弹性架构有力的支撑了梦饷集团快速发展,为更好的服务消费用户和品牌商家打下了良好基础。”——梦饷集团IT组代表许锋涛、王成国最后表示
  • [问题求助] 【ABC】【主数据管理】IOC空间主数据和组织主数据不能展示
    【功能模块】主数据管理【操作步骤&问题现象】环境:医疗标准ABC,租户Hi-chinasoft20211、IOC登录后,系统管理》主数据管理,空间主数据和组织主数据,可以正常添加主数据,但是左边的树不能显示,F12查看没有调用/service/Space/0.1.0/querySpaceTree接口,12号空间app删除后重新导入过。【截图信息】【日志信息】(可选,上传日志内容或者附件) 邮箱:dubin@chinasofti.com 电话:18182698675
  • [技术干货] 云计算复习知识总结 189.计算机虚拟化可归结为哪三个方面?190.什么是虚拟化? 191.DAS/NAS/SAN 三种形态
    189.计算机虚拟化可归结为哪三个方面?答:CPU 虚拟化、内存虚拟化、IO 虚拟化190.什么是虚拟化?答:虚拟化是云计算中的一项关键技术。它指的是共享计算机上多个操作系统的聚合。以及更好地利用服务器的应用程序191.DAS/NAS/SAN 三种形态的优缺点:答:DAS:优点:易于理解,兼容性好缺点:难以管理,扩展性有限;存储空间,利用率不高NAS:优点:易于安装,成本低缺点:性能较低,对某些应用不适合SAN:优点:高扩展性、高性能、高可用性缺点:比较昂贵、配置复、互操作性问题
  • [行业动态] 视频证言:华为云位居中国数据管理解决方案领导者位置
    2021年Q2, Frost&Sullivan弗若斯特沙利文发布了《2020年中国数据管理解决方案市场报告》,从产品创新能力、成长能力、基础能力三个维度对主流大数据厂商进行全面评估,沙利文及头豹研究院总监李庆 livia.lee对本篇报告进行了视频解读,并肯定了华为云在数据管理解决方案领域的“领导者”地位。视频证言链接:https://e.huawei.com/cn/videolist/Cloud-BigData/big-data/6244d67edd6a4053b436c413ac847d76视频解读全文如下:本篇报告主要关注在全球范围内,可以为中国企业提供完整的、全套的数据管理解决方案的厂商。2019年,业界提出了“湖仓一体”的架构,到2020年,各厂商产品已经相对成熟并逐渐推向市场,基于我们的研究,数据管理解决方案未来将朝两个方向发展:云化的部署将会成为主流,但多云或混合云的架构也将长期存在;未来整体的数据管理解决方案将会向专业化迈进,需要厂商对客户业务及应用场景有深刻的理解,才能令客户充分使用大数据,为商业决策带来创新价值。基于研究,我们非常认可华为云在数据管理解决方案领域的领导者地位,华为云凭借自己的创新能力,用MRS云原生数据湖实现了一个架构构建离线、实时和逻辑三种数据湖,兼顾了过去与未来,为客户提供了全方位的数据管理解决方案,这样极致的数据管理服务,可以满足用户的多场景应用需求。同时,我们也很关注华为云的生态能力,始终坚持以开放、合作、共赢的商业策略,与合作伙伴共同赋能客户。华为云FusionInsight作为中国数据管理解决方案的领导者,通过技术创新、极致的数据管理、全产品的数据安全以及丰富的行业实践,和较强的生态能力,为企业提供高成长性、高创新性的综合解决方案。目前,华为云FusionInsight携手800+合作伙伴,服务于全球60+国家和地区3000+政企客户,已广泛应用于政府、金融、运营商、大企业等行业。更多精彩文章:https://bbs.huaweicloud.com/forum/thread-66105-1-1.html
  • [行业动态] 主流大数据厂商激烈角逐湖仓一体新架构,华为云引领技术潮流
    2021年上半年,湖仓一体俨然已经成为大数据领域最火热的流行词,各大云厂商推出自己的湖仓一体产品,在众多产品中,企业如何找到符合自身需求的数据管理产品?近日,国际权威分析机构弗若斯特沙利文 Frost & Sullivan(以下简称“沙利文”)发布了《2020 年中国数据管理解决方案市场报告》,对中国主流大数据厂商从产品创新能力、成长能力、基础能力三个维度进行了全面评估。华为云凭借 FusionInsight 的持续创新位居中国数据管理解决方案领导者,并在中国大数据厂商中全面领先。沙利文用 Frost Radar(弗若斯特雷达)清晰明了地展示中国数据管理解决方案市场态势。横坐标代表“创新指数”,体现服务丰富度和产品调优能力;纵坐标代表“成长指数”,衡量产品功能和性能的竞争力,色深代表“基础指数”,体现大数据平台基础能力。华为云位居右上角的领导者区间,三项指标均领先国内其他大数据厂商,其主打解决方案华为云 FusionInsight 智能数据湖是获得沙利文认可的关键。报告还指出,预计到 2024 年,中国大数据硬件市场规模为 111 亿美元,中国大数据软件市场规模为 162.3 亿美元,中国大数据整体市场规模即为两者之和——273.3 亿美元,即将到来的百亿级美元市场,考验着数据管理厂商的能力边界。大数据管理:不仅要存得好更要用得好在行业发展的不同阶段,数据管理解决方案所要面临的主要矛盾截然不同,此前数据管理解决方案的重点分别是数据的数量、种类和速度,现阶段企业对数据管理解决方案的需求,逐渐聚焦于数据如何支撑重要决策,并不断促使数据管理解决方案走向湖仓一体,提升企业的数据价值创造力。数据仓库与数据湖是企业经常会使用到的两种数据管理解决方案,数据仓库到数据湖的演进并不是替代关系,数据仓库诞生较早,借鉴了数据库的数据理念,通过预先定义 schema,将结构化数据清洗提炼,提供数据服务和管理能力。数据湖则诞生于半结构化、非结构化数据的海量增长背景之下,以原始形态存储数据并且逐渐发展数据处理能力,成为可以运行不同类型的大数据工具,对数据进行大数据处理、实时分析和机器学习等操作的统一数据管理平台。在面对愈发复杂的大数据场景时,数据仓库与数据湖各自的弊端显现,也就有了湖仓一体产品的诞生,相较于单一使用数据湖或数据仓库,湖仓一体将两者的优势兼容并蓄。湖仓一体的数据管理解决方案具备事务支持、数据的模型化和数据治理、BI 支持、存算分离、灵活开放、支持多种数据类型、支持各种工作负载、端到端流等特性,此外,数据的安全和访问控制也十分重要,契合云计算时代企业的业务模型。华为云 FusionInsight 智能数据湖为政企客户提供“湖仓一体”的解决方案,提供 MRS 云原生数据湖、GaussDB(DWS) 云数据仓库、DGC 数据湖治理中心、GES 图引擎、DLI 数据湖探索等云服务,用于离线分析、实时分析、数仓集市、交互查询、实时检索、多模分析、数据接入治理、图计算等海量数据分析场景,实现政企客户一企一湖、一城一湖的业务模式。湖仓一体、云化部署已是大数据主流趋势大数据平台的发展历史就是一部企业探索数据价值的历史,当业务发展与现有技术产生矛盾,总会有新的技术浮现,Spark、Flink、Hudi、ClickHouse、HetuEngine 等等技术尽皆如此,大数据平台不断查漏补缺,最终由单点式的工具演变为全栈式的系统。传统数据管理解决方案一般部署在通用服务器之上,近年来数据仓库和数据湖的整体上云趋势愈演愈烈,美国市场还诞生出一些备受关注的独角兽企业,而在中国市场,云化部署也成为数据管理解决方案的大趋势。沙利文报告提出,大数据云化部署方案将成为主流。在存算分离理念的基础上,云化服务完美应对了弹性扩展、功能迭代、成本控制等需求,在资源需求差异化的场景中实现资源的合理配置。同时,按客户业务需要,弹性发放的云化服务显著节约了使用等待时间。华为云得以进入领导者区间,很大程度上也是因为其覆盖数据全生命周期的全栈式数据管理能力,由采、存、算、管、用的全面云化,再到湖仓一体的一站式融合分析,FusionInsight 智能数据湖提供的湖仓一体架构,帮助客户构建一企一湖、一城一湖。华为云 FusionInsight 湖仓一体架构提供灵活的多样性算力和存算分离方案,符合当下的企业需求。MRS 云原生数据湖实现了一个架构可构建逻辑、实时、离线 3 种数据湖,HetuEngine 提供跨湖、跨仓、跨云的协同分析,Hudi 支持 ACID 数据实时增量入湖,提供 ClickHouse 毫秒级 OLAP 分析、Flink 批流合一等实时处理能力,离线数据湖拥有交互式、BI、AI 等多个计算引擎,一个平台实现海量数据多场景分析。GaussDB(DWS) 云数据仓库同时具备分析及混合负载能力,具有高性能、高扩展、高可用等特点,广泛应用于汽车、制造、零售、互联网、金融、政府、电信等行业核心分析决策系统。DGC 数据湖治理中心是一站式数据开发集成管理平台,包含数据架构、标准规范、数据开发、数据质量等功能,支持 40+ 异构数据源、全拖拽开发,效率提升 3 倍,助力企业快速构建从数据接入到分析的 E2E 数据治理体系,统一数据标准,加速数据资产沉淀。GES 图引擎是中国首个商用的、拥有自主知识产权的原生图产品,具备多项自主专利。针对以关系为基础的图结构数据,应用于社交 APP、关系分析、物流配送、知识图谱等场景。DLI数据湖探索提供 Serverless 的融合处理分析服务,企业使用标准 SQL、Spark、Flink 就可轻松完成多数据源的联合计算分析,挖掘和探索数据价值。数据兑现价值,FusionInsight 深入核心业务场景伴随数据管理解决方案的底层设施逐渐成熟,技术升级和服务应用场景拓展的加速及深化,数据管理解决方案行业应用逐渐向各领域的核心业务延伸,数据管理解决方案产品与应用场景融合加深。华为云 FusionInsight 智能数据湖深入各行业客户需求,已经规模商用湖仓一体创新技术方案,以数据驱动各行业业务增长。据了解,华为云 FusionInsight 客户覆盖全球 60 多个国家 3000 多家客户,覆盖政府、金融、运营商、电力、传媒、医疗、教育、交通、油气、物流、零售、制造等行业。在政务领域,在政务数字化参与部委、各省市智慧城市、数字城市建设。在某市,华为云 FusionInsight 联合伙伴建成“一云二网三平台”,针对民生、产业、政府的“痛点”和“难点”,从构建城市数据资源库为开端,以大数据分析支撑政府智慧决策,在 “数聚惠民”、“数聚兴业”、“数聚善政”三大方面,支撑 “一号、一窗、一网” 政务服务,让简政放权、百姓办业务“最多跑一次”成为现实。在金融领域,华为云 FusionInsight在工商银行、建设银行、招商银行等银行、证券、保险行业广泛应用。在某行使用华为云 FusionInsight 构建大数据基础平台,支撑了一湖两库建设,保障银行 BI、AI、数据挖掘、数据分析等日常数据分析,实现全行即时 BI,加速银行数字化转型进程。在运营商领域,已覆盖国内三大运营商以及海外运营商客户。其中广东移动基于华为云 FusionInsight,联合政企客户共同打造智慧电网、智慧港口、高清视频等系列标杆应用,打通数据全生命周期链路,实现对内业务支撑、对外应用赋能,全面支撑了各类政务、民生等大数据应用服务。面向大企业客户,覆盖能源、交通、制造等行业客户大数据平台建设。其中深圳地铁采用华为城轨云解决方案,利用云计算、大数据、5G、人工智能等技术核心,建立了统一、开放、智能的城轨数字平台,利用华为云 FusionInsight MRS 云原生数据湖能力构建深圳地铁大数据分析平台,在智慧车站、智慧运维方面,对新技术与地铁场景进行创新融合,推进了车站业务全日自动运行、线上线下一体化客服、设备主动检测、健康管理等应用,探索数字化、高效化的新业务模式,为城市提供更优质的公共交通服务。写在最后随着 IoT、AI 等新技术的大量应用,未来 4 年里数据量将激增 4 倍,到 35 年呈 50 倍增长。在政企数字化转型的过程中,湖仓一体将是政企客户实现一企一湖、一城一湖的最佳选择,使得业务洞见更准,数据价值兑现更快。华为云等厂商所倡导的湖仓一体,将持续引领2021年大数据领域技术创新潮流,让我们拭目以待。文章来源:https://mp.weixin.qq.com/s/5UHtqKXJHy3bfx_wd_llyw(InfoQ)更多精彩文章:https://bbs.huaweicloud.com/forum/thread-66105-1-1.html
  • [技术干货] 通过数据管理服务DAS连接MySQL实例
    步骤一:购买实例操作场景本节将介绍在云数据库RDS服务的管理控制台购买实例的过程。RDS for MySQL支持“包年/包月”和“按需计费”购买,您可以根据业务需要定制相应计算能力和存储空间的云数据库RDS实例。RDS for MySQL支持购买主备实例或单实例时可以批量同步购买只读实例,您可以根据业务需要进行购买。前提条件已注册华为云账号。注册华为云账号后,如果需要对华为云上的资源进行精细管理,请使用统一身份认证服务(Identity and Access Management,简称IAM)创建IAM用户及用户组,并授权,以使得IAM用户获得具体的操作权限,更多操作,请参见创建用户组、用户并授予RDS权限。账户余额大于等于0元。操作步骤登录管理控制台。单击管理控制台左上角的定位图标,选择区域和项目。选择“数据库 > 云数据库 RDS”。进入云数据库 RDS信息页面。在“实例管理”页面,单击“购买数据库实例”。在“服务选型”页面,选择计费模式,填写并选择实例相关信息后,单击“立即购买”。步骤二:通过DAS连接MySQL实例操作场景华为云数据管理服务(Data Admin Service,简称DAS)是一款专业的简化数据库管理工具,提供优质的可视化操作界面,大幅提高工作效率,让数据管理变得既安全又简单。您可以通过数据管理服务连接并管理实例。华为云关系型数据库服务默认为您开通了远程主机登录权限,推荐您使用更安全便捷的数据管理服务连接实例。操作步骤登录管理控制台。单击管理控制台左上角的定位图标,选择区域和项目。选择“数据库 > 云数据库 RDS”。进入云数据库 RDS信息页面。在“实例管理”页面,选择目标实例,单击操作列的“登录”,进入数据管理服务实例登录界面。您也可以在“实例管理”页面,单击目标实例名称,在页面右上角,单击“登录”,进入数据管理服务实例登录界面。正确输入数据库用户名和密码,单击“登录”,即可进入您的数据库并进行管理。通过数据管理服务管理数据库可参见MySQL数据管理。
  • [技术干货] 零门槛入门数据库学习之数据库技术发展史
    数据库技术是因数据管理任务的需要,而产生数据管理是指对数据进行分类、组织、编码、存储、检索和维护,是数据处理的中心问题。在数据管理的发展历史中经历了三个阶段。       第一, 人工管理阶段,在20世纪50年代中期以前,这个阶段如果要使用和进行数据计算,需要程序开发人员自己设计程序,没有相应的软件系统负责数据管理工作。应用程序中不仅要规定数据逻辑结构,还要设计物理结构,包括存储结构、存取方法、输入方式等。程序员负担非常重,非程序员无法使用计算机系统。       第二,  文件系统阶段,这个时期大约从20世纪50年代后期到60年代中期,这个阶段里数据组织成独立的数据文件,按文件名访问,按记录进行存取的方式进行数据管理,由文件系统提供文件打开、关闭、读写和存取。       第三,  20世纪60年代后期,进入到了数据库系统阶段,出现了数据库系统、专有的软件系统来进行大规模的数据管理。这个阶段也随着历史不断发展,涌现出了层次型数据库、网状型数据库以及最经典的关系型数据库。在这三个阶段里面,人工管理阶段是最原始的阶段,数据不具有共享性,因为数据面向应用程序的一组数据对应一个程序,多个应用程序处理相同数据时必须各自定义,无法互相利用,所以程序之间有大量的冗余数据。另外数据不具独立性,也就是说数据逻辑结构和物理结构发生变化后,必须对应用程序做出相对应的修改。数据完全依赖于应用程序,我们称之为数据缺乏独立性,文件系统阶段相对而言具有一定共享性,但这种共享性还是比较差,冗余度也大,文件仍然是面向应用的,不同的应用程序,即使使用相同数据也必须各自建立文件。所以相同数据重复存储数据荣誉度大,各自管理容易产生数据不一致。独立性差是指文件为特定应用服务文件的逻辑结构,是指针对应用的来设计的。数据逻辑结构改变时候,应用程序中文件结构的定义就必须修改。数据依赖于应用程序,缺乏独立性。另外文件之间因为是孤立的,所以不能反映出现实世界事物之间的内在联系。而从文件系统到数据库系统,则标志着数据管理技术的飞跃。我们来看一下数据库系统的优势。    整体数据结构化,数据结构是面向整个组织的,而不是针对某一个应用的。记录的结构和记录之间的联系,由数据库管理、系统维护,从而减轻了程序员的工作量。数据共享度高,数据共享可以被多个应用共享,可以减少数据融于节约存储空间,数据共享能够避免数据之间不相容和不一致性。另外扩充是因为要考虑整体系统的需求,形成有结构的数据,所以数据库系统弹性高,易于扩充,可以适应多种要求。数据独立性高,物理独立性,数据的物理存储特性有数据库管理、系统管理,用户程序不需要了解,应用程序只需要处理逻辑结构,数据的物理存储改变时,应用程序不用做出变化,逻辑独立性,数据库的数据逻辑结构改变时,用户程序可以不变。数据独立性,简化了应用程序的开发,大大降低了应用程序的复杂度。第四方面统一管理和控制。数据的安全性保护是指保护数据,以防止不合法使用而造成的数据泄密和破坏。数据的完整性检查指的是数据的正确性、有效性和相同性。完整的完整性检查,将数据控制在有效的范围内,并保证数据之间满足一定的关系。并发控制是指多个用户并发访问数据库,为避免相互干扰而得到的结果,需要对多用户的并发操作加以控制和协调。数据库恢复是指在发生硬件故障、软件故障、操作失误等情况时,管理系统应具备将数据库从错误状态恢复到某一已知的正确状态的功能。数据库系统的发展有以下三个特点,1、数据库的发展集中在数据模型的发展上,数据模型是数据库系统的核心和基础,所以数据库系统的发展和数据模型的发展密不可分。数据库模型的划分维度是数据库系统划分的一个重要标准。2、与其他计算机技术的交叉结合,计算机新技术层出不穷,数据库和其他计算机技术交叉结合,是数据库技术的一个显著特征。比如和分布式处理技术结合产生的分布式数据库和云技术结合产生的云数据库等。3、面向应用领域发展数据库、新技术、通用数据库在特定领域无法满足应用需求,需要根据领域的特定需求来研制特定的数据库系统。想要进一步了解,点击数据库技术发展史,上华为云学院进阶学习吧!
  • DAS版本优化+功能升级
    华为云数据管理服务DAS又升级了!为进一步提升用户体验,华为云DAS云DBA平台不仅进行了版本优化,让前端体验更加顺畅,查询和定位异常更加方便;还针对安全、元数据锁等问题新增了4大功能,运维工作变得更轻松了。另外,云数据库双十一2折起,记得前往华为云官网体验喔→https://activity.huaweicloud.com/dbs_Promotion/index.html 
  • 版本与功能双升级,华为云DAS让运维更简单高效
    华为云数据管理服务DAS提供的云DBA平台,是为DBA量身打造的专业数据库运维平台,能够帮助DBA轻松完成日常的巡检工作,提前发现问题;当问题发生时,帮助DBA进行快速定位和解决问题,降低故障时间;问题处理完成后,通过云DBA提供的运行数据,结合产品给出的自动化诊断、分析、优化建议,从而能够帮助DBA找出问题根因,有效定制出针对性的解决方案,避免故障的再次发生。为进一步提升用户体验,华为云DAS不仅对云DBA平台进行了版本优化,让前端体验更加顺畅,查询和定位异常更加方便;同时在结合数据库内核的基础上,还新增了SQL攻击检测、元数据锁、历史事务、健康日报四大功能,助力企业DBA和运维人员工作更轻松。云DBA平台首页全面改版和功能重新分类为了让用户享受更好的用户体验,华为云DAS云DBA平台将云DBA首页进行了全面改版,功能也进行重新分类和汇总,方便用户快速查询和定位异常,让用户使用起来更方便快捷。l  数据库实例总览更直观,整体性能趋势一目了然云DBA平台新的首页将所有实例进行了统计,并且按照未保存登录账号、未开启慢SQL、未开启全量SQL、状态异常进行了分类统计,帮助客户知悉整体实例概况、异常实例数,方便对未保存的账号进行设置,以及对未开启的功能进行开启操作。QPS、TPS、mem_usage、cpu_usage、connection_total_count、connection_active_count等6大性能指标是用户最为关心的性能指标,也最容易帮助客户定位性能相关的问题。云DBA平台新的首页将所有实例的这6大性能指标的最高值、平均值和最低值进行聚合直接展示在首页,方便用户快速获取性能指标综合状况,更方便定位性能问题。云DBA平台新的首页还根据这6大指标,将正常、指标超阈值、状态异常的实例分别用绿、黄和红3种颜色表示,让用户快速知悉实例情况,能快速查看对应有问题实例的云DBA的详细监控和运维指标。同时客户还可以在这六大指标的基础上新增指标,让云DBA平台帮助客户进行分类和分析,帮助DBA轻松高效的完成日常巡检工作。l  功能分类更清晰云DBA平台的功能重新按照数据库性能、会话、SQL、锁&事务、空间、binlog、参数、日报和安全等9大维度进行了分类,方便用户根据需要查询和分析数据库实例问题。新增4大功能除了版本优化,云DBA平台还针对安全、元数据锁等问题,推出了SQL攻击检测、元数据锁、历史事务、健康日报4大新功能,覆盖更多维度的问题,帮助运维人员和DBA更好的解决日常问题,满足不同用户的运维需求。l  SQL攻击检测在对实例性能影响极小的情况下,快速识别出SQL注入问题,防止用户恶意窜改后台SQL语句的预定执行命令,保护数据库安全。l  元数据锁快速定位MDL问题,及时终止持有MDL锁的会话,恢复被阻塞的操作,保护数据库对象,保证数据一致性。l  历史事务分析和发现数据库的大事务、长时间未提交的事务等历史信息,展示了历史事务信息的运行快照,每分钟采集一次,帮助用户及时了解和查看事务信息。l  健康日报每日提供多维度诊断分析报告,如慢SQL分析、全量SQL分析、SQL类型分析、性能 & 磁盘分析等信息,精准定位和查看数据库异常,帮助运维人员和DBA更好的解决日常问题,保障实例上业务的正常运行。华为云DAS云DBA平台此番优化改版和新增的4大功能,不仅极大提升了用户体验,还为企业DBA和运维人员提供了更为全面、体贴的功能服务,让运维工作更轻松高效。未来,华为云DAS会持续构建先进、全面、个性化的数据管理方案,帮助更多用户实现数据智能管理,释放更多数据价值。  Ps:【11·11云数据库专场】深度剖析行业痛点,提供全套解决方案,云数据库2折起,ECS+MySQL组合购享折上9折,体验请前往华为云官网:      https://activity.huaweicloud.com/dbs_Promotion/index.html
  • [数据库] 【第16课】不小心删除了数据,除了跑路还能咋办?
    在日常工作中,对于数据库的备份是至关重要的!数据库对于云服务的重要性使得我们对数据的管理不容有失!但是人总难免会犯错误,万一哪天一不小心,删除了数据,除了跑路还能咋办???别担心,数据管理服务DAS标准版的数据追踪与回滚服务,让你轻松找回数据,挽回不必要的损失。华为云数据管理服务服务(Data Admin Service,简称DAS),是用来登录和操作华为云上数据库的Web服务,提供数据库开发、运维、智能诊断、企业级DevOps一站式云上数据库管理平台,方便用户使用和运维华为云数据库,拥有众多优秀特性。数据追踪与回滚特性,支持读取底层binlog日志,解析用户在一段时间内的操作行为,并翻译成可执行的SQL语句,用户可以选择语句块进行该操作行为的回滚。使用场景:(1) 核心数据变更审计,统计变更数量,查看敏感信息。例如:银行流水查看收支情况,配置表关键配置查看变更历史。(2) 误操作数据回滚,找回误删除数据,恢复变更前数据状态。例如:DBA更新配置未添加WHERE条件,误删关键数据,程序bug生成大量脏数据及其连锁反应。今天以误删除数据为例,手把手教大家如何通过数据追踪与回滚功能找回丢失的数据。使用步骤:1.  使用云账号和密码登录数据管理控制台。2.  在数据库登录页面选择MySQL数据库并单击“登录”。3.  单击上方菜单栏下的“数据方案”,选择“数据追踪与回滚”。4.  在详情页面单击“新建追踪任务”。系统弹出新建追踪任务窗口,根据提示填写任务名、时间范围等信息,选择追踪类型,确认无误后单击“预检查”。        说明:        ·时间差不能超过3小时。        ·当前数据库具有复制权限。        ·预检查会根据时间范围筛选Binlog列表,开启备份的RDS实例会定时备份Binlog文件到OBS上,备份会有<=5min的延迟。5.  单击读取日志,系统自动发起Binlog解析,根据任务信息将涉及变更的信息展示出来。6.  最后,单击搜索日志就可以查看所选时间范围内的变更信息了。        说明:        系统根据数据变更时的前后镜像生成反向变更SQL,您只需要再次执行该SQL即可回滚成功。DAS服务聚焦数据库客户端管理,致力于让数据库管理变得高效、简单、安全。数据回滚功能更是助力企业数据安全变更审计,保障核心数据不丢失,一键找回,既安全又高效。快来试试吧~。
  • [行业资讯] 什么是数据管理服务
        数据管理服务(Data Admin Service,简称DAS),用来登录和操作云上数据库的Web服务,提供数据库开发、运维、智能诊断、企业级DevOPS平台的一站式云上数据库管理平台,方便用户使用和运维华为云数据库。数据管理服务的主要使用对象分为:开发人员、企业以及数据库管理员(DBA)。数据管理服务针对不同使用对象提供了不同功能,分为以下三个模块。标准版主要面向开发人员,提供易用的数据库客户端。使用数据管理服务时,无需安装本地客户端,提供所见即所得的可视化操作体验。提供数据和表结构的同步、在线编辑,SQL输入智能提示等丰富的数据库开发功能。企业版主要面向企业,提供大规模数据库管理功能。基于权限最小化控制和审批流程机制,提供数据保护、变更审核、操作审计、研发自助化等数据库DevOPS平台,帮助企业实现大规模数据库下的标准化、规范化、高效率、超安全的管理手段。云DBA主要面向DBA,提供以下数据库运维类的功能。数据管理服务能够快速定位数据库运行中的每一个问题,提前发现潜在风险点。分析主机和实例性能数据。分析慢SQL和全量SQL。分析和诊断实时数据库性能情况。分析数据库历史运行数据。
  • [行业资讯] 初识数据管理服务DAS
    什么是数据管理服务DAS ?数据管理服务( Data Admin Service,简称DAS),是一种提供登录和操作数据库的Web版服务。提供执行SQL语句、数据库日常管理、智能化运维等功能旨在帮助华为云用户易用、安全、智能的管理数据库,构建基于云生态的数据库管理**服务。数据管理,DAS可以为您做什么?面向程序员面向DBA面向运维面向安全通过数据库可视化操作,更加高解放DBA ,轻松管理,聚焦于文快速的完成数据库相关开发数据库架构设计等更大价值的工作。从实际场景和痛点出发,通过AI即将 上线DAS企业版,全面接和大数据;提供更加智能化的分入安全管控能力 ,满足企业级析和诊断能力和数据库管理诉求。数据管理,为什么选择DAS ?易用免安装、可视化的连接和管理云上数据库.支持多种数据库类型和ECS自建库等。安全无须开通公网IP和额外白名单设置、拒绝非实例资源所有者登录数据库。高级提供binlog数据追踪与回滚、周期性SQL任务调度、10G的SQL文件导入等高级管理功能。智能.一键识1nnoDB锁等待、 慢SQL诊断及索引优化建议、实时性能看板等智能化运维能力。DAS功能模块功能一库管理基于库维度的管理方式,在库级别提供日常大部分数据库管理功能,快速生成表的测试数据等,数据库管理更为便捷简单。功能二SQL窗口SQL智能提示能力进一步提升,用户输入SQL更加方便、流畅。交互体验流畅,企业的好帮手。提供详细的日志追踪记录并支复杂、极端的SQL语句写法,支持导出,您可以在导出的任何保障SQL语句拆分准确性。阶段主动终止该任务,及时规避可能对库产生的性能影响。最大支持可随时主动10G导入终止导出日志云DBA服务新增云DBA服务模块,使用A技术,与实例的性能数据相结合,国的智能化的预测出实最优的参数设置方案。智能诊断反馈,让数据库的性能状态更赞。数据追踪与回滚面对误操作或者bug引起的不必要数据篡改等问题,支持您进行核心数据变更审计,统计变更数量,查看敏感变更日志 ;帮您找回误篡改数据,恢复数据生命力。重数把算正。DAS具有可视化的操作界面,提供便捷云上管理,助力企业用好数据库。
  • [行业资讯] 华为云DAS企业版3大用户角色系列一:系统管理员
    日前,华为云数据库正式发布新一代数据管理服务利器——DAS企业版。DAS企业版十分重视数据访问和操作安全,并针对安全问题贴心设计了很多功能特性,全方位为企业数据保驾护航。与众不同的是,华为云DAS服务企业版精心设计了系统管理员、企业DBA、普通开发人员3大用户角色,对数据库管理权限进行三权分立,每种角色根据自身对应的权限来执行相关操作。这3大用户角色是华为云DAS企业版最核心的内容,掌握了这3大用户角色,就能Get到DAS企业版的精髓,让我们直接从它背后的角色开始,对DAS企业版进行抽丝剥茧、层层递进吧!我们将分三个系列为大家进行详细解读,本文率先讲解的是:系统管理人员。目前DAS企业版钜惠活动进行中,5折即可畅享2个月,戳它体验>>
  • [技术干货] SQL Server内存管理小知识
    今天和大家聊一聊SQL server的内存管理,说之前我们需要先提出一个问题,SQL Server到底是如何使用内存的?弄清楚如何使用之后,才能谈如何管理。简单说,SQL Server 数据库的内存使用原则是有多少内存就会占用多少内存,不会自动释放内存。原因是它的存储引擎本身是一个Windows下的进程,所以在使用内存时和其它Windows进程是一样的,都要向Windows申请内存,申请到内存之后,SQL Server的内存使用可以粗略地分为两个部分:一是缓冲池内存,被数据页和空闲页占用;二是非缓冲内存,被线程、DLL、链接服务器等占用。其中缓冲池内存占大头。这样会有什么问题呢?打个比方,如在执行一条结果集很大的 sql 时,数据查询取出后,会一直占用内存,直到机器内存被占满(并不会撑爆,因为可以通过图去限制最大内存,一般占满后仍然比服务器机器内存稍小),在重启数据库服务前,SQL Server不会主动释放该内存,也没有任何办法可人为释放,一直占用到 max server memory 的设定值,因此查看 SQL Server的内存基本使用率相对较高(80%以上)。 那怎么解决呢?最直接的办法是:人为修改最大可占用物理内存进行限制。方法一:缓冲池所占内存是通过下图1最大服务器内存和最小服务器内存来设置的,因此sqlservr.exe所占的内存(如图2)有可能会大于图1中所设置的最大内存。管理员用户登录数据库客户端(Microsoft SQL Server Management Studio),在实例名(树形菜单根节点,显示登录名那栏)上右键,选择属性-->内存,设置“最大服务器内存”即可根据实际情况调整内存(单位为MB),如调整到当前总的服务器内存的 70%左右使用率。图1 SQL Server可控制内存选项图2 SQL Server 进程内存使用情况方法二:如果使用的是华为云RDS SQL Server ,那解决方法就更加简单了,只需要到控制台实例管理中修改最大内存(max server memory)参数值即可,且修改完该参数不需要重启数据库,不得不说云数据库使用起来更加便捷清晰,更多华为云RDS SQL Server的使用可参考官方文档:https://support.huaweicloud.com/rds/index.html 
总条数:104 到第
上滑加载中