- 来源于本人blogsfrom https://www.cnblogs.com/jhtchina/articles/18254727多源数据集成方法及应用2022年6月份我参加了XX学校数据中台建设,担任系统分析师和架构设计工作,该平台主要包含数据存储、数据集成、数据治理和数据服务等方面以及相关的数据实施。在数据集成方面主要包括关系数据库系统结构化数据(教务、人事、科研等)、以及非结构化数据(... 来源于本人blogsfrom https://www.cnblogs.com/jhtchina/articles/18254727多源数据集成方法及应用2022年6月份我参加了XX学校数据中台建设,担任系统分析师和架构设计工作,该平台主要包含数据存储、数据集成、数据治理和数据服务等方面以及相关的数据实施。在数据集成方面主要包括关系数据库系统结构化数据(教务、人事、科研等)、以及非结构化数据(...
- 由于不同行业、不同企业的发展程度存在差异,因此会导致不同企业的数据中台的建设起点不同。 虽然起点存在差异,但是数据中台的建设应该是一个不断迭代和优化的过程,没有终点。 另外,不是每个企业都需要建设一个大而全的数据中台。适合自己发展阶段的中台才是最好的。 目前,行业对数据中台存在诸多误解和理解偏差,因此在建设数据中台的过程中,错误的... 由于不同行业、不同企业的发展程度存在差异,因此会导致不同企业的数据中台的建设起点不同。 虽然起点存在差异,但是数据中台的建设应该是一个不断迭代和优化的过程,没有终点。 另外,不是每个企业都需要建设一个大而全的数据中台。适合自己发展阶段的中台才是最好的。 目前,行业对数据中台存在诸多误解和理解偏差,因此在建设数据中台的过程中,错误的...
- ROMA AppCube应用魔方 使能开发者 ROMA AppCube应用魔方 使能开发者
- 新一轮科技革命重构全球数字经济版图,数字化进程加速,政企转型进入深水区,各行业如何更好地与数字经济世界融合?在2020华为全球分析师大会现场,华为云CTO张宇昕总认为:“ 行业数字化转型在加速,ICT技术成为数字经济世界的基础设施,帮助社会各行业从物理世界向数字经济世界转型,形成行业数字资产。”云+5G+AI赋能千行百业,云上数字化基础设施需要满足三点:在立而不破的基础上,连接企业过去、现在... 新一轮科技革命重构全球数字经济版图,数字化进程加速,政企转型进入深水区,各行业如何更好地与数字经济世界融合?在2020华为全球分析师大会现场,华为云CTO张宇昕总认为:“ 行业数字化转型在加速,ICT技术成为数字经济世界的基础设施,帮助社会各行业从物理世界向数字经济世界转型,形成行业数字资产。”云+5G+AI赋能千行百业,云上数字化基础设施需要满足三点:在立而不破的基础上,连接企业过去、现在...
- CloudEon社区的小伙伴们大家好,今天很高兴宣布CloudEon 于2023年7月28日正式发布 1.1.0 版本。非常感谢 CloudEon 开源社区成员对 1.1.0 版本发布做出的贡献。1.1.0版本主要有如下重大更新:新增功能:支持Kyuubi服务,实现Spark SQL查询增加Kyuubi监控面板支持Iceberg数据湖功能,实现Iceberg在Flink和Spark上的集成... CloudEon社区的小伙伴们大家好,今天很高兴宣布CloudEon 于2023年7月28日正式发布 1.1.0 版本。非常感谢 CloudEon 开源社区成员对 1.1.0 版本发布做出的贡献。1.1.0版本主要有如下重大更新:新增功能:支持Kyuubi服务,实现Spark SQL查询增加Kyuubi监控面板支持Iceberg数据湖功能,实现Iceberg在Flink和Spark上的集成...
- 当今企业数字化驱动SaaS(Software as a Service,软件即服务)市场虽然快速增长,但面临的挑战也特别多。站在企业用户的角度,无论是云厂商、云软件、或者是传统软件商,给出的SaaS软件都“不好用”,或者“不想用”。 构建新型企业软件开发模式——开天aPaaS怎么打破这个困境呢?我们认为,要构建新型的企业软件开发模式。我们想到的是基于软件微服务形态的组装式应用,就是说我们有一... 当今企业数字化驱动SaaS(Software as a Service,软件即服务)市场虽然快速增长,但面临的挑战也特别多。站在企业用户的角度,无论是云厂商、云软件、或者是传统软件商,给出的SaaS软件都“不好用”,或者“不想用”。 构建新型企业软件开发模式——开天aPaaS怎么打破这个困境呢?我们认为,要构建新型的企业软件开发模式。我们想到的是基于软件微服务形态的组装式应用,就是说我们有一...
- 目前车间的生产调度问题一直是MES实施应用的核心瓶颈,其典型问题主要有以下几种现象:大干一百天或决战四季度、计划赶不上变化、各自为战,争抢资源、随波逐流。。。 目前车间的生产调度问题一直是MES实施应用的核心瓶颈,其典型问题主要有以下几种现象:大干一百天或决战四季度、计划赶不上变化、各自为战,争抢资源、随波逐流。。。
- 介绍windows应用程序版本号通用管理方法及一种简单的内部版本号维护手段。 介绍windows应用程序版本号通用管理方法及一种简单的内部版本号维护手段。
- 基于wayne构建的Kubenetes 多集群管理平面 BasaBasa (体验版) 是一个支持 Multi-cluster Kubernetes集群的 可视化管理平台, 通过直观的页面操作便可完成Kubernetes中资源的创建、部署等操作。采用plugin架构,通过插件化的方式将不同功能尽量的分离,更利于各种定制化功能的扩展。云平台体验版地址:https://play.kubeserv... 基于wayne构建的Kubenetes 多集群管理平面 BasaBasa (体验版) 是一个支持 Multi-cluster Kubernetes集群的 可视化管理平台, 通过直观的页面操作便可完成Kubernetes中资源的创建、部署等操作。采用plugin架构,通过插件化的方式将不同功能尽量的分离,更利于各种定制化功能的扩展。云平台体验版地址:https://play.kubeserv...
- 随着网关技术的不断发展,创新和高效的软件解决方案及IT架构在工业物联网系统架构中发挥着更为重要的作用。其中,一个关键的问题在于如何利用软件,IT和创新算法来部署网络解决方案,并使生产效率更高。(在典型的物联网应用拓扑中,两个网关层包括自动化网络中的一个网关层,以及两个防火墙之间的“隔离区”中的第二个网关层。)当它用于扩展和运营创新的物联网解决方案时,IT体系结构将发挥关键作用。那么,在将IT... 随着网关技术的不断发展,创新和高效的软件解决方案及IT架构在工业物联网系统架构中发挥着更为重要的作用。其中,一个关键的问题在于如何利用软件,IT和创新算法来部署网络解决方案,并使生产效率更高。(在典型的物联网应用拓扑中,两个网关层包括自动化网络中的一个网关层,以及两个防火墙之间的“隔离区”中的第二个网关层。)当它用于扩展和运营创新的物联网解决方案时,IT体系结构将发挥关键作用。那么,在将IT...
- 一句话摘要:金城银行基于 Apache Doris 与 Flink CDC 重构数据链路,端到端延迟从 24+ 小时压缩至 2-3 分钟,支撑 2300+ 张表的实时处理,故障率下降 80%、数据传输成功率 99.99%、重点场景延迟 < 2 分钟;通过 Fury 序列化降低存储开销 70%、写入性能提升近 10 倍,light_schema_change 将 Schema 变更成功率提升至... 一句话摘要:金城银行基于 Apache Doris 与 Flink CDC 重构数据链路,端到端延迟从 24+ 小时压缩至 2-3 分钟,支撑 2300+ 张表的实时处理,故障率下降 80%、数据传输成功率 99.99%、重点场景延迟 < 2 分钟;通过 Fury 序列化降低存储开销 70%、写入性能提升近 10 倍,light_schema_change 将 Schema 变更成功率提升至...
- 别再堆工具了!从 0 到 1 搭建小型生产级数据平台,只需要这份落地清单 别再堆工具了!从 0 到 1 搭建小型生产级数据平台,只需要这份落地清单
- 数据集成平台是2026年企业数据战略的基石。从传统ETL工具到新一代数据集成平台,行业正在经历从“批处理”到“实时流式”的范式转变。面对Informatica、DataStage、Kettle等国外工具的信创替代需求,以及实时数据集成、湖仓一体等新场景,选型逻辑正在被重新定义。本文从数据集成平台的基本概念出发,梳理主流产品格局,提供信创环境下的选型框架,帮助企业找到最适合的数据集成方案。 数据集成平台是2026年企业数据战略的基石。从传统ETL工具到新一代数据集成平台,行业正在经历从“批处理”到“实时流式”的范式转变。面对Informatica、DataStage、Kettle等国外工具的信创替代需求,以及实时数据集成、湖仓一体等新场景,选型逻辑正在被重新定义。本文从数据集成平台的基本概念出发,梳理主流产品格局,提供信创环境下的选型框架,帮助企业找到最适合的数据集成方案。
- 银行数据平台如何从 T+1 离线批处理升级为准实时分析?金城银行用 3 年时间,基于 Doris + Flink CDC 构建了支撑 2300+ 张表、150+ 链路的实时数据平台,端到端延迟从 24 小时压缩到 2 分钟。关键词:金城银行、Apache Doris、Flink CDC、实时数据平台、金融数据架构、Schema 变更、Fury 序列化、数据一致性校验 摘要金城银行通过引入 A... 银行数据平台如何从 T+1 离线批处理升级为准实时分析?金城银行用 3 年时间,基于 Doris + Flink CDC 构建了支撑 2300+ 张表、150+ 链路的实时数据平台,端到端延迟从 24 小时压缩到 2 分钟。关键词:金城银行、Apache Doris、Flink CDC、实时数据平台、金融数据架构、Schema 变更、Fury 序列化、数据一致性校验 摘要金城银行通过引入 A...
- 为什么你的大数据平台越扩容越慢?性能调优实战:从压测到优化的完整方法论 为什么你的大数据平台越扩容越慢?性能调优实战:从压测到优化的完整方法论
上滑加载中
推荐直播
-
用码道,让你的AI作品三步上朋友圈2026/08/04 周二 19:00-20:00
林华鼎-华为云AI开发者运营负责人
从入门 · 到做AI应用 · 到企业级开发。不教编程,只教用AI · 零代码、有产出、能带走、可炫耀 · 每课人人动手实操
回顾中 -
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
基于华为云码道,构建你的定制化AI搭子2026/08/14 周五 09:00-11:30
明亮-华为云开发者发展与支持部部长
本期直播将向您全面介绍华为云码道产品,并基于码道手把手教你部署自己的定制化AI陪伴搭子。
回顾中
热门标签