- 文章目录 一、提出任务 二、完成任务 （一）将成绩文件上传到HDFS （二）创建Maven项目 （三）添加依赖和构建插件 （四）创建日... 文章目录 一、提出任务 二、完成任务 （一）将成绩文件上传到HDFS （二）创建Maven项目 （三）添加依赖和构建插件 （四）创建日...
- 对电影评分数据进行分析，使用SQL编程，获取电影平均分Top10，要求电影的评分次数大于200 数据展示 代码 package org.example.SQL import org.apache.log4j.{Level, Logger}import org.apache.spark.sql.{DataF... 对电影评分数据进行分析，使用SQL编程，获取电影平均分Top10，要求电影的评分次数大于200 数据展示 代码 package org.example.SQL import org.apache.log4j.{Level, Logger}import org.apache.spark.sql.{DataF...
- 共享变量 广播变量（Broadcast Variables）：广播变量用来把变量在所有节点的内存之间进行共享，在每个机器上缓存一个只读的变量，而不是为机器上的每个任务都生成一个副本，简单理解：减少内存，减小计算压力; 累加器（Accumulators）：累加器支持在所有不同节点之间进行累加计算(比如计数或者求和); ... 共享变量 广播变量（Broadcast Variables）：广播变量用来把变量在所有节点的内存之间进行共享，在每个机器上缓存一个只读的变量，而不是为机器上的每个任务都生成一个副本，简单理解：减少内存，减小计算压力; 累加器（Accumulators）：累加器支持在所有不同节点之间进行累加计算(比如计数或者求和); ...
- 文章目录 一、pyspark.sql部分1.窗口函数2.更换列名：3.sql将一个字段根据某个字符拆分成多个字段显示4.pd和spark的dataframe进行转换：5.报错ValueError:... 文章目录 一、pyspark.sql部分1.窗口函数2.更换列名：3.sql将一个字段根据某个字符拆分成多个字段显示4.pd和spark的dataframe进行转换：5.报错ValueError:...
- 文章目录 零、本讲学习目标一、基本数据源（一）文件流1、读取文件流概述2、读取文件流演示 零、本讲学习目标 掌握Spark Streaming基本数据源掌握Spark Strea... 文章目录 零、本讲学习目标一、基本数据源（一）文件流1、读取文件流概述2、读取文件流演示 零、本讲学习目标 掌握Spark Streaming基本数据源掌握Spark Strea...
- 文章目录 零、本讲学习目标一、Spark Streaming概述（一）什么是Spark Streaming（二）Sparing Streaming的主要优点1、易于使用2、易于与Spark体系整合... 文章目录 零、本讲学习目标一、Spark Streaming概述（一）什么是Spark Streaming（二）Sparing Streaming的主要优点1、易于使用2、易于与Spark体系整合...
- 文章目录 零、本讲学习目标一、使用Spark SQL实现词频统计（一）数据源 - words.txt（二）创建Maven项目（三）添加依赖和构建插件（四）修改源目录名称（五）创建日志属性文件（六）... 文章目录 零、本讲学习目标一、使用Spark SQL实现词频统计（一）数据源 - words.txt（二）创建Maven项目（三）添加依赖和构建插件（四）修改源目录名称（五）创建日志属性文件（六）...
- 文章目录 零、本讲学习目标一、Spark SQL内置函数（一）内置函数概述1、10类内置函数2、两种使用方式 （二）内置函数演示1、通过编程方式使用内置函数upper()2、通过SQL语句的... 文章目录 零、本讲学习目标一、Spark SQL内置函数（一）内置函数概述1、10类内置函数2、两种使用方式 （二）内置函数演示1、通过编程方式使用内置函数upper()2、通过SQL语句的...
- 文章目录 零、本讲学习目标一、Spark SQL读取关系数据库二、Spark SQL JDBC连接属性三、创建数据库与表（一）创建数据库（二）创建学生表（二）创建成绩表 四、读取和写入数据库表... 文章目录 零、本讲学习目标一、Spark SQL读取关系数据库二、Spark SQL JDBC连接属性三、创建数据库与表（一）创建数据库（二）创建学生表（二）创建成绩表 四、读取和写入数据库表...
- 文章目录 零、本讲学习目标一、Spark SQL支持读写Hive二、Spark配置hive-site.xml三、准备工作（一）启动Hive的metastore（二）启动Spark Shell ... 文章目录 零、本讲学习目标一、Spark SQL支持读写Hive二、Spark配置hive-site.xml三、准备工作（一）启动Hive的metastore（二）启动Spark Shell ...
- 文章目录 零、本讲学习目标一、读取JSON文件概述二、读取JSON文件案例演示（一）创建JSON文件并上传到HDFS（二）读取JSON文件，创建临时表，进行关联查询1、读取user.json文件，... 文章目录 零、本讲学习目标一、读取JSON文件概述二、读取JSON文件案例演示（一）创建JSON文件并上传到HDFS（二）读取JSON文件，创建临时表，进行关联查询1、读取user.json文件，...
- 文章目录 一、任务描述 二、实现步骤 （一）引入包并构建训练数据集 （二）定义工作流阶段 （三）创建工作流，训练出模型 （四）构建测试... 文章目录 一、任务描述 二、实现步骤 （一）引入包并构建训练数据集 （二）定义工作流阶段 （三）创建工作流，训练出模型 （四）构建测试...
- 文章目录 零、本讲学习目标一、基本操作（一）默认数据源1、默认数据源Parquet2、案例演示读取Parquet文件（1）在Spark Shell中演示（2）通过Scala程序演示 ... 文章目录 零、本讲学习目标一、基本操作（一）默认数据源1、默认数据源Parquet2、案例演示读取Parquet文件（1）在Spark Shell中演示（2）通过Scala程序演示 ...
- 文章目录 一、索引分区映射概述 二、索引分区映射案例 （一）每个元素翻10倍，不显示分区索引 （二）每个元素翻10倍，要显示分区索引 ... 文章目录 一、索引分区映射概述 二、索引分区映射案例 （一）每个元素翻10倍，不显示分区索引 （二）每个元素翻10倍，要显示分区索引 ...
- 文章目录 零、回顾一、使用Spark SQL完成任务1里面的数据筛选二、使用Spark SQL完成任务2里面的统计（列可以不统计）三、使用Spark SQL完成任务3的分组统计 零、回顾 ... 文章目录 零、回顾一、使用Spark SQL完成任务1里面的数据筛选二、使用Spark SQL完成任务2里面的统计（列可以不统计）三、使用Spark SQL完成任务3的分组统计 零、回顾 ...
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家；李炎-华为云码道产品专家；彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战，从0到1打通消息通道；码道鸿蒙端云一体化实战，快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第三期2026/08/21 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人；念擎-华为云AI开发者运营案例开发专家
本期直播内容：AI六层能力首次详细解读 + 新一代华为云开发者空间亮相 + 校园案例直播带练
回顾中 -
华为云监控CES新特性解读2026/08/26 周三 19:00-20:30
刘英杰-华为云监控产品专家
华为云监控 CES H1 版本重磅全新升级！本次直播特邀华为云监控产品专家，围绕特性深度解读 + 现场实操演示 + 实时线上答疑三大模块，全方位拆解版本核心亮点，直击运维各类痛点难题。助力实现告警高效配置、指标快速检索、插件便捷部署，切实降低运维工作负担，提升监控运维工作效率。欢迎预约观看，互动提问交流！
回顾中
热门标签