- @[toc] Flink 将报文解析后的数据推送到 kafka 中步骤开启 kafka 集群# 三台节点都要开启 kafka [root@node01 kafka]# bin/kafka-server-start.sh -daemon config/server.properties使用 kafka tool 连接 kafka 集群，创建 topic# 第1种方式通过命令bin/kafka-... @[toc] Flink 将报文解析后的数据推送到 kafka 中步骤开启 kafka 集群# 三台节点都要开启 kafka [root@node01 kafka]# bin/kafka-server-start.sh -daemon config/server.properties使用 kafka tool 连接 kafka 集群，创建 topic# 第1种方式通过命令bin/kafka-...
- 编写写入DM层业务代码DM层主要是报表数据，针对实时业务将DM层设置在Clickhouse中，在此业务中DM层主要存储的是通过Flink读取Kafka “KAFKA-DWS-BROWSE-LOG-WIDE-TOPIC” topic中的数据进行设置窗口分析，每隔10s设置滚动窗口统计该窗口内访问商品及商品一级、二级分类分析结果，实时写入到Clickhouse中。一、代码编写具体... 编写写入DM层业务代码DM层主要是报表数据，针对实时业务将DM层设置在Clickhouse中，在此业务中DM层主要存储的是通过Flink读取Kafka “KAFKA-DWS-BROWSE-LOG-WIDE-TOPIC” topic中的数据进行设置窗口分析，每隔10s设置滚动窗口统计该窗口内访问商品及商品一级、二级分类分析结果，实时写入到Clickhouse中。一、代码编写具体...
- 业务实现之编写写入DWD层业务代码DWD层数据主要存储干净的明细数据，这里针对ODS层“KAFKA-ODS-TOPIC”数据编写代码进行清洗写入对应的Kafka topic和Iceberg-DWD层中。代码功能中有以下几点重要方面：针对Kafka ODS层中的数据进行清洗，写入Iceberg-DWD层中。将数据除了写入Iceberg-DWD层中之外，还要写入Kafka中方便后续处理得到DW... 业务实现之编写写入DWD层业务代码DWD层数据主要存储干净的明细数据，这里针对ODS层“KAFKA-ODS-TOPIC”数据编写代码进行清洗写入对应的Kafka topic和Iceberg-DWD层中。代码功能中有以下几点重要方面：针对Kafka ODS层中的数据进行清洗，写入Iceberg-DWD层中。将数据除了写入Iceberg-DWD层中之外，还要写入Kafka中方便后续处理得到DW...
- CMAK(KafkaManager)对接MRS_3.1.0集群一、 MRS集群适配提示：此步骤不操作也可以对接，只不过CMAK页面点击开启jmx后，CMAK后台会一致报错，另外CMAK页面上的指标刷新不及时。1. 调整MRS Broker实例JMX监听的IP地址登录MRS Manager界面，如下修改配置项KAFKA_JMX_IP的值为${BROKER_IP}，并保存。2. ... CMAK(KafkaManager)对接MRS_3.1.0集群一、 MRS集群适配提示：此步骤不操作也可以对接，只不过CMAK页面点击开启jmx后，CMAK后台会一致报错，另外CMAK页面上的指标刷新不及时。1. 调整MRS Broker实例JMX监听的IP地址登录MRS Manager界面，如下修改配置项KAFKA_JMX_IP的值为${BROKER_IP}，并保存。2. ...
- 1.概述Kafka的使用场景非常广泛，一些实时流数据业务场景，均依赖Kafka来做数据分流。而在分布式应用场景中，数据迁移是一个比较常见的问题。关于Kafka集群数据如何迁移，今天叶秋学长将为大家详细介绍。2.内容本篇博客为大家介绍两种迁移场景，分别是同集群数据迁移、跨集群数据迁移。如下图所示：编辑 2.1 同集群迁移同集群之间数据迁移，比如在已有的集群中新增了一个Broker节点，此时... 1.概述Kafka的使用场景非常广泛，一些实时流数据业务场景，均依赖Kafka来做数据分流。而在分布式应用场景中，数据迁移是一个比较常见的问题。关于Kafka集群数据如何迁移，今天叶秋学长将为大家详细介绍。2.内容本篇博客为大家介绍两种迁移场景，分别是同集群数据迁移、跨集群数据迁移。如下图所示：编辑 2.1 同集群迁移同集群之间数据迁移，比如在已有的集群中新增了一个Broker节点，此时...
- 本次实战的内容是开发Flink应用，消费来自kafka的消息，进行实时计算 本次实战的内容是开发Flink应用，消费来自kafka的消息，进行实时计算
- kafka性能维度标准：6.5.1版本之后kafka生产者的性能基线标准如何判断一个kafka集群是否已经处于性能瓶颈，通常的判断条件有如下几点：维度1：磁盘IO读写磁盘性能是kafka重要的参数指标，如果磁盘IO到达性能瓶颈会直接导致业务故障。Kafka读写性能跟磁盘IO之间的关系计算如下：举例：假设磁盘IO的上限为100M/s，数据大小为8k，假设在topic仅设置为单副本的情况下，理论... kafka性能维度标准：6.5.1版本之后kafka生产者的性能基线标准如何判断一个kafka集群是否已经处于性能瓶颈，通常的判断条件有如下几点：维度1：磁盘IO读写磁盘性能是kafka重要的参数指标，如果磁盘IO到达性能瓶颈会直接导致业务故障。Kafka读写性能跟磁盘IO之间的关系计算如下：举例：假设磁盘IO的上限为100M/s，数据大小为8k，假设在topic仅设置为单副本的情况下，理论...
- kafka服务作为Docker容器运行后，外部的应用如何能够消费这个kafa的消息呢？今天就来一起实战 kafka服务作为Docker容器运行后，外部的应用如何能够消费这个kafa的消息呢？今天就来一起实战
- wurstmeister/kafka是镜像市场上很受欢迎的一个kafka镜像，今天来聊聊它的多种用法 wurstmeister/kafka是镜像市场上很受欢迎的一个kafka镜像，今天来聊聊它的多种用法
- SQL API 读取Kafka数据实时写入Iceberg表从Kafka中实时读取数据写入到Iceberg表中，操作步骤如下：一、首先需要创建对应的Iceberg表StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();StreamTableEnvironment tblEnv ... SQL API 读取Kafka数据实时写入Iceberg表从Kafka中实时读取数据写入到Iceberg表中，操作步骤如下：一、首先需要创建对应的Iceberg表StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();StreamTableEnvironment tblEnv ...
- 数据湖概念一、什么是数据湖数据湖是一个集中式的存储库，允许你以任意规模存储多个来源、所有结构化和非结构化数据，可以按照原样存储数据，无需对数据进行结构化处理，并运行不同类型的分析对数据进行加工，例如：大数据处理、实时分析、机器学习，以指导做出更好地决策。二、大数据为什么需要数据湖当前基于Hive的离线数据仓库已经非常成熟，在传统的离线数据仓库中对记录级别的数据进行更新是非常麻烦的，需要对待... 数据湖概念一、什么是数据湖数据湖是一个集中式的存储库，允许你以任意规模存储多个来源、所有结构化和非结构化数据，可以按照原样存储数据，无需对数据进行结构化处理，并运行不同类型的分析对数据进行加工，例如：大数据处理、实时分析、机器学习，以指导做出更好地决策。二、大数据为什么需要数据湖当前基于Hive的离线数据仓库已经非常成熟，在传统的离线数据仓库中对记录级别的数据进行更新是非常麻烦的，需要对待...
- 典型的二分思想：“猜数字”的游戏。大家规定一个范围，一个人在心里想一个这个范围内的具体数字，比如一个 1-100 的自然数，然后另几个人来猜数字；每次猜错，这个人都会提示他们的猜测是大了还是小了，看谁最快猜到数字。大家的第一反应也都会是从比较中间的位置，比如 50，开始猜起。毕竟如果 50 猜错了，因为要提示是大了还是小了，范围就要么缩小到 1-49，要么缩小到 51-100，这样猜测范围就... 典型的二分思想：“猜数字”的游戏。大家规定一个范围，一个人在心里想一个这个范围内的具体数字，比如一个 1-100 的自然数，然后另几个人来猜数字；每次猜错，这个人都会提示他们的猜测是大了还是小了，看谁最快猜到数字。大家的第一反应也都会是从比较中间的位置，比如 50，开始猜起。毕竟如果 50 猜错了，因为要提示是大了还是小了，范围就要么缩小到 1-49，要么缩小到 51-100，这样猜测范围就...
- 我们使用kafka时，有时候会遇到发送数据失败的情况，其原因及解决方案如下：1. Kafka topic leader为-1Kafka客户端执行如下命令查看topic的leader信息：kafka-topics.sh --describe --zookeeper zk业务IP:24002/kafka如果leader为-1，需查看Replicas中的副本节点是否正常，查看命令如下：ka... 我们使用kafka时，有时候会遇到发送数据失败的情况，其原因及解决方案如下：1. Kafka topic leader为-1Kafka客户端执行如下命令查看topic的leader信息：kafka-topics.sh --describe --zookeeper zk业务IP:24002/kafka如果leader为-1，需查看Replicas中的副本节点是否正常，查看命令如下：ka...
- 在使用Kafka时，我们有时候会遇到生产时连接Kafka失败的情况，原因及解决办法如下：1. Kafka服务异常通过FusionInsight Manager页面，选择“集群->Kafka”，查看当前Kafka集群当前状态，状态是否是良好；如果状态不是良好，说明Kafka服务异常。2. 生产命令错误如果使用21005端口，命令如下：kafka-console-prod... 在使用Kafka时，我们有时候会遇到生产时连接Kafka失败的情况，原因及解决办法如下：1. Kafka服务异常通过FusionInsight Manager页面，选择“集群->Kafka”，查看当前Kafka集群当前状态，状态是否是良好；如果状态不是良好，说明Kafka服务异常。2. 生产命令错误如果使用21005端口，命令如下：kafka-console-prod...
- 问题描述：FusionInsight C80版本，通过Flink提交消费Kafka的任务，消费Kafka的消费者组信息通过kafka-consumer-groups.sh --list命令查询不到，但是通过kafka-consumer-groups.sh --describe可以查询到信息。问题分析：1、C80版本kafka-consumer-groups.sh命令使用list查询group... 问题描述：FusionInsight C80版本，通过Flink提交消费Kafka的任务，消费Kafka的消费者组信息通过kafka-consumer-groups.sh --list命令查询不到，但是通过kafka-consumer-groups.sh --describe可以查询到信息。问题分析：1、C80版本kafka-consumer-groups.sh命令使用list查询group...
上滑加载中
推荐直播
-
探秘仓颉编程语言：华为开发者空间的创新利器2025/02/22 周六 15:00-16:30
华为云讲师团
本期直播将与您一起探秘颉编程语言上线华为开发者空间后，显著提升开发效率，在智能化开发支持、全场景跨平台适配能力、工具链与生态完备性、语言简洁与高性能特性等方面展现出的独特优势。直播看点： 1.java转仓颉的小工具 2.仓颉动画三方库lottie 3.开发者空间介绍及如何在空间用仓颉编程语言开发
即将直播 -
大模型Prompt工程深度实践2025/02/24 周一 16:00-17:30
盖伦 华为云学堂技术讲师
如何让大模型精准理解开发需求并生成可靠输出？本期直播聚焦大模型Prompt工程核心技术：理解大模型推理基础原理，关键采样参数定义，提示词撰写关键策略及Prompt工程技巧分享。
去报名 -
华为云 x DeepSeek：AI驱动云上应用创新2025/02/26 周三 16:00-18:00
华为云 AI专家大咖团
在 AI 技术飞速发展之际，DeepSeek 备受关注。它凭借哪些技术与理念脱颖而出？华为云与 DeepSeek 合作，将如何重塑产品与应用模式，助力企业数字化转型？在华为开发者空间，怎样高效部署 DeepSeek，搭建专属服务器？基于华为云平台，又该如何挖掘 DeepSeek 潜力，实现智能化升级？本期直播围绕DeepSeek在云上的应用案例，与DTSE布道师们一起探讨如何利用AI 驱动云上应用创新。
去报名
热门标签