- 动态TOPN统计一、TOPN统计分析在一些数据分析场景中我们经常遇到获取topN统计的问题,例如统计销量topN的店铺对应的总销售额、统计订单量TopN的门店总销售额等等。针对这种TopN问题的分析,在Power BI中我们需要使用TOPN函数,TOPN函数可以返回指定表的前N行数据。之前我们学习过RANKX函数,RANKX可以根据指定的度量值表达式来对数据进行排名没有办法获取前几名数据,T... 动态TOPN统计一、TOPN统计分析在一些数据分析场景中我们经常遇到获取topN统计的问题,例如统计销量topN的店铺对应的总销售额、统计订单量TopN的门店总销售额等等。针对这种TopN问题的分析,在Power BI中我们需要使用TOPN函数,TOPN函数可以返回指定表的前N行数据。之前我们学习过RANKX函数,RANKX可以根据指定的度量值表达式来对数据进行排名没有办法获取前几名数据,T...
- Flink On Standalone任务提交Flink On Standalone 即Flink任务运行在Standalone集群中,Standlone集群部署时采用Session模式来构建集群,即:首先构建一个Flink集群,Flink集群资源就固定了,所有提交到该集群的Flink作业都运行在这一个集群中,如果集群中提交的任务多资源不够时,需要手动增加节点,所以Flink 基于Stand... Flink On Standalone任务提交Flink On Standalone 即Flink任务运行在Standalone集群中,Standlone集群部署时采用Session模式来构建集群,即:首先构建一个Flink集群,Flink集群资源就固定了,所有提交到该集群的Flink作业都运行在这一个集群中,如果集群中提交的任务多资源不够时,需要手动增加节点,所以Flink 基于Stand...
- Flink 任务提交模式Flink分布式计算框架可以基于多种模式部署,每种部署模式下提交任务都有相应的资源管理方式,例如:Flink可以基于Standalone部署模式、基于Yarn部署模式、基于Kubernetes部署模式运行任务,以上不同的集群部署模式下提交Flink任务会涉及申请资源、各角色交互过程,不同模式申请资源涉及到的角色对象大体相同,下面我们以Flink运行时架构流程为例来总... Flink 任务提交模式Flink分布式计算框架可以基于多种模式部署,每种部署模式下提交任务都有相应的资源管理方式,例如:Flink可以基于Standalone部署模式、基于Yarn部署模式、基于Kubernetes部署模式运行任务,以上不同的集群部署模式下提交Flink任务会涉及申请资源、各角色交互过程,不同模式申请资源涉及到的角色对象大体相同,下面我们以Flink运行时架构流程为例来总...
- Flink集群部署Flink的安装和部署主要分为本地(单机)模式和集群模式,其中本地模式只需直接解压就可以使用,不用修改任何参数,一般在做一些简单测试的时候使用。本地模式在这里不再赘述。集群部署模式主要包含Standalone、Hadoop Yarn 、Kubernetes等,Flink可以借助以上资源管理器来实现分布式计算,目前企业使用最多的是Flink 基于Hadoop Yarn资源管理... Flink集群部署Flink的安装和部署主要分为本地(单机)模式和集群模式,其中本地模式只需直接解压就可以使用,不用修改任何参数,一般在做一些简单测试的时候使用。本地模式在这里不再赘述。集群部署模式主要包含Standalone、Hadoop Yarn 、Kubernetes等,Flink可以借助以上资源管理器来实现分布式计算,目前企业使用最多的是Flink 基于Hadoop Yarn资源管理...
- 集群基础环境搭建Flink可以运行在所有类unix环境中,例如:Linux,Mac OS 和Windows,一般企业中使用Flink基于的都是Linux环境,后期我们进行Flink搭建和其他框架整合也是基于linux环境,使用的是Centos7.6版本,JDK使用JDK8版本(Hive版本不支持JDK11,所以这里选择JDK8),本小节主要针对Flink集群使用到的基础环境进行配置,不再从零... 集群基础环境搭建Flink可以运行在所有类unix环境中,例如:Linux,Mac OS 和Windows,一般企业中使用Flink基于的都是Linux环境,后期我们进行Flink搭建和其他框架整合也是基于linux环境,使用的是Centos7.6版本,JDK使用JDK8版本(Hive版本不支持JDK11,所以这里选择JDK8),本小节主要针对Flink集群使用到的基础环境进行配置,不再从零...
- Flink批和流案例总结关于Flink 批数据处理和流式数据处理案例有以下几个点需要注意:一、Flink程序编写流程总结编写Flink代码要符合一定的流程,Flink代码编写流程如下:a. 获取flink的执行环境,批和流不同,Execution Environment。 b. 加载数据数据-- soure。 c. 对加载的数据进行转换-- transformation。 d. 对结果进行保... Flink批和流案例总结关于Flink 批数据处理和流式数据处理案例有以下几个点需要注意:一、Flink程序编写流程总结编写Flink代码要符合一定的流程,Flink代码编写流程如下:a. 获取flink的执行环境,批和流不同,Execution Environment。 b. 加载数据数据-- soure。 c. 对加载的数据进行转换-- transformation。 d. 对结果进行保...
- DAX使用场景及常用函数Power BI中DAX函数非常多,功能非常强大,下面结合一些实际场景来讲解DAX一些常用的函数,这些场景包含求和、计数、相除、排序、累计、环比、同比,为了更方便后续的可视化展示数据,我们新创建可视化展示的页面,创建一个新表存储后续展示的度量值,具体操作如下:经过以上步骤的操作可以在"字段"区域看到对应的新建的"度量值表",后续在各个场景中使用时需要选中该"度量值表"... DAX使用场景及常用函数Power BI中DAX函数非常多,功能非常强大,下面结合一些实际场景来讲解DAX一些常用的函数,这些场景包含求和、计数、相除、排序、累计、环比、同比,为了更方便后续的可视化展示数据,我们新创建可视化展示的页面,创建一个新表存储后续展示的度量值,具体操作如下:经过以上步骤的操作可以在"字段"区域看到对应的新建的"度量值表",后续在各个场景中使用时需要选中该"度量值表"...
- DAX表达式数据分析表达式 (DAX) 语言是一种公式语言,Data Analysis Expressions 数据分析表达式,简称DAX表达式,其允许用户定义自定义计算。DAX 包含一些在 Excel 公式中使用的函数,此外还包含其他设计用于处理关系数据和执行动态聚合的函数。DAX 公式与 Excel 公式非常相似,要创建 DAX 公式,请键入一个等号,后跟函数名或表达式以及所需的任何值或... DAX表达式数据分析表达式 (DAX) 语言是一种公式语言,Data Analysis Expressions 数据分析表达式,简称DAX表达式,其允许用户定义自定义计算。DAX 包含一些在 Excel 公式中使用的函数,此外还包含其他设计用于处理关系数据和执行动态聚合的函数。DAX 公式与 Excel 公式非常相似,要创建 DAX 公式,请键入一个等号,后跟函数名或表达式以及所需的任何值或...
- Redis键(key)keys *查看当前库所有key (匹配:keys *1)exists key判断某个key是否存在type key 查看你的key是什么类型del key 删除指定的key数据unlink key 根据value选择非阻塞删除仅将keys从keyspace元数据中删除,真正的删除会在后续异步操作。expire key 10 10秒钟:为给定的key设置过期时间ttl... Redis键(key)keys *查看当前库所有key (匹配:keys *1)exists key判断某个key是否存在type key 查看你的key是什么类型del key 删除指定的key数据unlink key 根据value选择非阻塞删除仅将keys从keyspace元数据中删除,真正的删除会在后续异步操作。expire key 10 10秒钟:为给定的key设置过期时间ttl...
- Power BI介绍Microsoft Power BI 是一款强大的自助商业智能分析工具,可以对来自不同系统的数据进行提取、清理、整合、汇总、分析、可视化展示。简单来说,Power BI就是一个数据分析工具,它能实现数据分析的所有流程,包括对数据的获取、清洗、建模和可视化展示,从而来帮助个人或企业来对数据进行分析,用数据驱动业务,做出正确的决策。PowerBI分析的数据可以是Excel电子... Power BI介绍Microsoft Power BI 是一款强大的自助商业智能分析工具,可以对来自不同系统的数据进行提取、清理、整合、汇总、分析、可视化展示。简单来说,Power BI就是一个数据分析工具,它能实现数据分析的所有流程,包括对数据的获取、清洗、建模和可视化展示,从而来帮助个人或企业来对数据进行分析,用数据驱动业务,做出正确的决策。PowerBI分析的数据可以是Excel电子...
- 使用Canal同步MySQL数据使用Canal同步MySQL的数据可以直接使用Canal客户端API方式消费Canal同步的数据,详细api参照:ClientAPI · alibaba/canal Wiki · GitHub也可以直接通过Canal将数据写入Kafka。下面我们使用Canal同步MySQL数据到Kafka为例,学习下Canal如何同步MySQL数据。一、... 使用Canal同步MySQL数据使用Canal同步MySQL的数据可以直接使用Canal客户端API方式消费Canal同步的数据,详细api参照:ClientAPI · alibaba/canal Wiki · GitHub也可以直接通过Canal将数据写入Kafka。下面我们使用Canal同步MySQL数据到Kafka为例,学习下Canal如何同步MySQL数据。一、...
- 监控日志文件生产到Kafka案例:监控某个目录下的文件内容,将消息生产到Kafka中。此案例使用到“TailFile”和“PublishKafka_1_0”处理器。一、配置“TailFile”处理器创建“TailFile”处理器并配置:注意:以上需要在NiFi集群中的每个节点上创建“/root/test/logdata”文件,“logdata”是文件,而非目录。二、配置“Pub... 监控日志文件生产到Kafka案例:监控某个目录下的文件内容,将消息生产到Kafka中。此案例使用到“TailFile”和“PublishKafka_1_0”处理器。一、配置“TailFile”处理器创建“TailFile”处理器并配置:注意:以上需要在NiFi集群中的每个节点上创建“/root/test/logdata”文件,“logdata”是文件,而非目录。二、配置“Pub...
- 实时Json日志数据导入到Hive案例:使用NiFi将某个目录下产生的json类型的日志文件导入到Hive。这里首先将数据通过NiFi将Json数据解析属性,然后手动设置数据格式,将数据导入到HDFS中,Hive建立外表映射此路径实现外部数据导入到Hive中。使用到的处理器有:“TailFile”、“EvaluateJsonPath”、“ReplaceText”、“PutHDFS”四个处理器... 实时Json日志数据导入到Hive案例:使用NiFi将某个目录下产生的json类型的日志文件导入到Hive。这里首先将数据通过NiFi将Json数据解析属性,然后手动设置数据格式,将数据导入到HDFS中,Hive建立外表映射此路径实现外部数据导入到Hive中。使用到的处理器有:“TailFile”、“EvaluateJsonPath”、“ReplaceText”、“PutHDFS”四个处理器...
- NOAA海平面上升数字高程模型(DEMs)NOAA沿海服务中心已经开发了高分辨率的数字高程模型(DEMs),用于该中心的海平面上升和沿海洪水影响的互联网地图应用。这些DEMs作为源数据集,用于导出数据,以可视化美国沿海及其领土上的海平面上升造成的淹没影响。这些数据是作为美国国家海洋和大气管理局海岸服务中心创建在线地图查看器的一部分,称为海平面上升和沿海洪水影响查看器。它描述了潜在的海平面上... NOAA海平面上升数字高程模型(DEMs)NOAA沿海服务中心已经开发了高分辨率的数字高程模型(DEMs),用于该中心的海平面上升和沿海洪水影响的互联网地图应用。这些DEMs作为源数据集,用于导出数据,以可视化美国沿海及其领土上的海平面上升造成的淹没影响。这些数据是作为美国国家海洋和大气管理局海岸服务中心创建在线地图查看器的一部分,称为海平面上升和沿海洪水影响查看器。它描述了潜在的海平面上...
- Hadoop学习——简介篇 Hadoop学习——简介篇
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签