- Doris 是一个现代化的MPP（Massively Parallel Processing）大规模并行处理的分析型数据库产品。本文使用Flink实现Doris与GaussDB数据之间的互通。 Doris 是一个现代化的MPP（Massively Parallel Processing）大规模并行处理的分析型数据库产品。本文使用Flink实现Doris与GaussDB数据之间的互通。
- Apache Flink术语Flink计算框架可以处理批数据也可以处理流式数据，Flink将批处理看成是流处理的一个特例，认为数据原本产生就是实时的数据流，这种数据叫做无界流（unbounded stream），无界流是持续不断的产生没有边界，批数据只是无界流中的一部分叫做有界流（bounded stream），针对无界流数据处理叫做实时处理,这种程序一般是7*24不间断运行的；针对有界流数... Apache Flink术语Flink计算框架可以处理批数据也可以处理流式数据，Flink将批处理看成是流处理的一个特例，认为数据原本产生就是实时的数据流，这种数据叫做无界流（unbounded stream），无界流是持续不断的产生没有边界，批数据只是无界流中的一部分叫做有界流（bounded stream），针对无界流数据处理叫做实时处理,这种程序一般是7*24不间断运行的；针对有界流数...
- Flink HA搭建配置默认情况下，每个Flink集群只有一个JobManager，这将导致单点故障（SPOF，single point of failure），如果这个JobManager挂了，则不能提交新的任务，并且运行中的程序也会失败，这是我们可以对JobManager做高可用（High Availability，简称HA），JobManager HA集群当Active JobMana... Flink HA搭建配置默认情况下，每个Flink集群只有一个JobManager，这将导致单点故障（SPOF，single point of failure），如果这个JobManager挂了，则不能提交新的任务，并且运行中的程序也会失败，这是我们可以对JobManager做高可用（High Availability，简称HA），JobManager HA集群当Active JobMana...
- Flink On Yarn任务提交一、Flink On Yarn运行原理Flink On Yarn即Flink任务运行在Yarn集群中，Flink On Yarn的内部实现原理如下图：当启动一个新的Flink YARN Client会话时，客户端首先会检查所请求的资源（容器和内存）是否可用，之后，它会上传Flink配置和JAR文件到HDFS。客户端的下一步是向ResourceManager请... Flink On Yarn任务提交一、Flink On Yarn运行原理Flink On Yarn即Flink任务运行在Yarn集群中，Flink On Yarn的内部实现原理如下图：当启动一个新的Flink YARN Client会话时，客户端首先会检查所请求的资源（容器和内存）是否可用，之后，它会上传Flink配置和JAR文件到HDFS。客户端的下一步是向ResourceManager请...
- Flink本地模式开启WebUI在工作中我们一般使用IntelliJ IDEA开发工具进行代码开发，为了能方便快速的调试Flink和了解Flink程序的运行情况，我们希望本地开发工具中运行Flink时能查看到WebUI，这就可以在编写Flink程序时开启本地WebUI。一、在Flink 项目中添加本地模式 WebUI的依赖在Flink1.15版本之前根据使用Scala版本在Java Fli... Flink本地模式开启WebUI在工作中我们一般使用IntelliJ IDEA开发工具进行代码开发，为了能方便快速的调试Flink和了解Flink程序的运行情况，我们希望本地开发工具中运行Flink时能查看到WebUI，这就可以在编写Flink程序时开启本地WebUI。一、在Flink 项目中添加本地模式 WebUI的依赖在Flink1.15版本之前根据使用Scala版本在Java Fli...
- Flink History Server配置使用基于Standalone或者Yarn模式提交Flink任务后，当任务执行失败、取消或者完成后，可以在WebUI中查看对应任务的统计信息，这些统计信息在生产环境中对我们来说非常重要，可以知道一个任务异常挂掉前发生了什么，便于定位问题。当基于Standalone session模式提交相应任务时，集群重启后我们没有办法查看集群之前运行任务的情况，... Flink History Server配置使用基于Standalone或者Yarn模式提交Flink任务后，当任务执行失败、取消或者完成后，可以在WebUI中查看对应任务的统计信息，这些统计信息在生产环境中对我们来说非常重要，可以知道一个任务异常挂掉前发生了什么，便于定位问题。当基于Standalone session模式提交相应任务时，集群重启后我们没有办法查看集群之前运行任务的情况，...
- Flink入门案例需求：读取本地数据文件，统计文件中每个单词出现的次数。一、IDEA Project创建及配置本案例编写Flink代码选择语言为Java和Scala，所以这里我们通过IntelliJ IDEA创建一个目录，其中包括Java项目模块和Scala项目模块，将Flink Java api和Flink Scala api分别在不同项目模块中实现。步骤如下：1、打开IDEA，创建空项目... Flink入门案例需求：读取本地数据文件，统计文件中每个单词出现的次数。一、IDEA Project创建及配置本案例编写Flink代码选择语言为Java和Scala，所以这里我们通过IntelliJ IDEA创建一个目录，其中包括Java项目模块和Scala项目模块，将Flink Java api和Flink Scala api分别在不同项目模块中实现。步骤如下：1、打开IDEA，创建空项目...
- 项目进度： 1. 数据采集 1.1. 沪市行情实时文本数据采集沪市行情服务端会在交易时间段内对外实时广播行情数据，实时行情数据以txt文本的形式写入存储网关(FTP服务)，这里我们采用Flume自定source的方式实时采集FTP服务器上的行情数据源。 1.1.1. 沪市采集数据流程 1.1.2. 导入依赖<dependency> <groupId>org.apache.flume</gro... 项目进度： 1. 数据采集 1.1. 沪市行情实时文本数据采集沪市行情服务端会在交易时间段内对外实时广播行情数据，实时行情数据以txt文本的形式写入存储网关(FTP服务)，这里我们采用Flume自定source的方式实时采集FTP服务器上的行情数据源。 1.1.1. 沪市采集数据流程 1.1.2. 导入依赖<dependency> <groupId>org.apache.flume</gro...
- 1.1. 技术架构 1.1.1. 逻辑架构逻辑架构关注的是业务功能，包含用户直接可见的功能，偏向于业务概括。逻辑架构也可以用“分层”的概念来理解，比如，把一个项目分为“显示层、应用层、分析计算层、数据访问层”等。数据源区数据源包括公司内部、外部的数据，数据包括业务系统产生的结构化数据（交易、账户、客户、外部数据等）、半结构化数据（XBRL数据、日志数据等）以及非结构化数据。大数据平台区大数... 1.1. 技术架构 1.1.1. 逻辑架构逻辑架构关注的是业务功能，包含用户直接可见的功能，偏向于业务概括。逻辑架构也可以用“分层”的概念来理解，比如，把一个项目分为“显示层、应用层、分析计算层、数据访问层”等。数据源区数据源包括公司内部、外部的数据，数据包括业务系统产生的结构化数据（交易、账户、客户、外部数据等）、半结构化数据（XBRL数据、日志数据等）以及非结构化数据。大数据平台区大数...
- 1. 证券业务介绍证券是多种经济权益凭证的统称，因此，广义上的证券市场指的是所有证券发行和交易的场所，狭义上，也是最活跃的证券市场指的是资本证券市场、货币证券市场和商品证券市场。证券市场是股票、债券、商品期货、股票期货、期权、利率期货等证券产品发行和交易的场所。行情项目相关业务的开发和实施需要我们提前了解一些证券方面的业务知识，比如说开盘价、收盘价、成交额、涨跌等。证券业务知识可参见资料：... 1. 证券业务介绍证券是多种经济权益凭证的统称，因此，广义上的证券市场指的是所有证券发行和交易的场所，狭义上，也是最活跃的证券市场指的是资本证券市场、货币证券市场和商品证券市场。证券市场是股票、债券、商品期货、股票期货、期权、利率期货等证券产品发行和交易的场所。行情项目相关业务的开发和实施需要我们提前了解一些证券方面的业务知识，比如说开盘价、收盘价、成交额、涨跌等。证券业务知识可参见资料：...
- 1.1. 高性能数据传输中间件在企业级大数据流处理项目中，往往在项目数据源处需要面临实时海量数据的采集。采集数据的性能一般与网络带宽、机器硬件、数据量等因素有直接关系；当其他因素是固定的，这里我们只考虑数据量的话，那么数据量的传输和存储性能是我们首先需要面对和解决的。由此我们引入了Avro数据序列化框架，来解决数据的传输性能问题。 1.1.1. Apache Avro介绍Apache Av... 1.1. 高性能数据传输中间件在企业级大数据流处理项目中，往往在项目数据源处需要面临实时海量数据的采集。采集数据的性能一般与网络带宽、机器硬件、数据量等因素有直接关系；当其他因素是固定的，这里我们只考虑数据量的话，那么数据量的传输和存储性能是我们首先需要面对和解决的。由此我们引入了Avro数据序列化框架，来解决数据的传输性能问题。 1.1.1. Apache Avro介绍Apache Av...
- Flink on Yarn的三种部署方式，Session模式，Per-Job模式，application模式，他们为何会诞生，我们要用哪种模式来部署 Flink on Yarn的三种部署方式，Session模式，Per-Job模式，application模式，他们为何会诞生，我们要用哪种模式来部署
- 1 checkpoint配置l 选择合适的Checkpoint存储方式l CheckPoint存储方式存在三种官方文档：https://ci.apache.org/projects/flink/flink-docs-release-10/ops/state/state_backends.htmlMemoryStateBackend、FsStateBackend 和 RocksDBStat... 1 checkpoint配置l 选择合适的Checkpoint存储方式l CheckPoint存储方式存在三种官方文档：https://ci.apache.org/projects/flink/flink-docs-release-10/ops/state/state_backends.htmlMemoryStateBackend、FsStateBackend 和 RocksDBStat...
- 引言大家好,我是ChinaManor,直译过来就是中国码农的意思,我希望自己能成为国家复兴道路的铺路人,大数据领域的耕耘者,平凡但不甘于平庸的人。下面为大家带来阿里巴巴极度热推的Flink,实时数仓是未来的方向,学好Flink,月薪过万不是梦!! 相关教程直通车:2021年最新最全Flink系列教程_Flink快速入门(概述,安装部署)(一)2021年最新最全Flink系列教程_Flink... 引言大家好,我是ChinaManor,直译过来就是中国码农的意思,我希望自己能成为国家复兴道路的铺路人,大数据领域的耕耘者,平凡但不甘于平庸的人。下面为大家带来阿里巴巴极度热推的Flink,实时数仓是未来的方向,学好Flink,月薪过万不是梦!! 相关教程直通车:2021年最新最全Flink系列教程_Flink快速入门(概述,安装部署)(一)2021年最新最全Flink系列教程_Flink...
- WikipediaEditsSource类作为数据源负责向Flink提供实时消息，今天咱们一起来分析其源码，了解Flink是怎么获取到来自远端的实时数据的 WikipediaEditsSource类作为数据源负责向Flink提供实时消息，今天咱们一起来分析其源码，了解Flink是怎么获取到来自远端的实时数据的
上滑加载中
推荐直播
-
探秘仓颉编程语言：华为开发者空间的创新利器2025/02/22 周六 15:00-16:30
华为云讲师团
本期直播将与您一起探秘颉编程语言上线华为开发者空间后，显著提升开发效率，在智能化开发支持、全场景跨平台适配能力、工具链与生态完备性、语言简洁与高性能特性等方面展现出的独特优势。直播看点： 1.java转仓颉的小工具 2.仓颉动画三方库lottie 3.开发者空间介绍及如何在空间用仓颉编程语言开发
回顾中 -
大模型Prompt工程深度实践2025/02/24 周一 16:00-17:30
盖伦 华为云学堂技术讲师
如何让大模型精准理解开发需求并生成可靠输出？本期直播聚焦大模型Prompt工程核心技术：理解大模型推理基础原理，关键采样参数定义，提示词撰写关键策略及Prompt工程技巧分享。
去报名 -
华为云 x DeepSeek：AI驱动云上应用创新2025/02/26 周三 16:00-18:00
华为云 AI专家大咖团
在 AI 技术飞速发展之际，DeepSeek 备受关注。它凭借哪些技术与理念脱颖而出？华为云与 DeepSeek 合作，将如何重塑产品与应用模式，助力企业数字化转型？在华为开发者空间，怎样高效部署 DeepSeek，搭建专属服务器？基于华为云平台，又该如何挖掘 DeepSeek 潜力，实现智能化升级？本期直播围绕DeepSeek在云上的应用案例，与DTSE布道师们一起探讨如何利用AI 驱动云上应用创新。
去报名
热门标签