- 文章目录 手写 WordCountRDD、DAG、 Stage、 Task 、 JobSpark 作业提交流程Spark 的 Local 和 Standalone宽依赖、窄依赖Spark SQL比... 文章目录 手写 WordCountRDD、DAG、 Stage、 Task 、 JobSpark 作业提交流程Spark 的 Local 和 Standalone宽依赖、窄依赖Spark SQL比...
- 大数据面试题及答案 1 kafka的message包括哪些信息2 怎么查看kafka的offset3 hadoop的shuffle过程4 spark集群运算的模式5 HDFS读写数据的过程6 RDD中r... 大数据面试题及答案 1 kafka的message包括哪些信息2 怎么查看kafka的offset3 hadoop的shuffle过程4 spark集群运算的模式5 HDFS读写数据的过程6 RDD中r...
- 大家伙，我是一条~ 欢迎大家和我一起学习《5小时推开spark的大门》，本篇是导航篇，主要介绍课程内容及安排。 本课程意在帮助学习Spark的同学入门，通过基本概念+实际案例+核心原理的讲解让大家简单... 大家伙，我是一条~ 欢迎大家和我一起学习《5小时推开spark的大门》，本篇是导航篇，主要介绍课程内容及安排。 本课程意在帮助学习Spark的同学入门，通过基本概念+实际案例+核心原理的讲解让大家简单...
- 01 pyspark简介及环境搭建 pyspark是python中的一个第三方库，相当于Apache Spark组件的python化版本（Spark当前支持Java Scala Python和R 4种编程语言接口），需要依赖py4j库（即python for java的缩略词），而恰恰是这个库实现了将python和java的互... 01 pyspark简介及环境搭建 pyspark是python中的一个第三方库，相当于Apache Spark组件的python化版本（Spark当前支持Java Scala Python和R 4种编程语言接口），需要依赖py4j库（即python for java的缩略词），而恰恰是这个库实现了将python和java的互...
- 目录 1、创建Scala项目SparkScalaWordCount 2、创建lib目录，添加spark的jar，并添加作为项目的库 目录 1、创建Scala项目SparkScalaWordCount 2、创建lib目录，添加spark的jar，并添加作为项目的库
- 1、Maven项目JavaSparkWordCount 2、在pom.xml里，添加对spark的依赖 <?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:x... 1、Maven项目JavaSparkWordCount 2、在pom.xml里，添加对spark的依赖 <?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:x...
- 1、Python项目PythonSparkWordCount 2、input目录里的文本文件test.txt 3、创建word_count.py文件实现词频统计 import osimport shutil from pyspark import SparkContext inputpath = 'input'output... 1、Python项目PythonSparkWordCount 2、input目录里的文本文件test.txt 3、创建word_count.py文件实现词频统计 import osimport shutil from pyspark import SparkContext inputpath = 'input'output...
- 日志是记录系统中各种问题信息的关键，也是一种常见的海量数据。 日志平台为集团所有业务系统提供日志采集、消费、分析、存储、索引和查询的一站式日志服务。 主要为了解决日志分散不方便查看、日志搜索操作复杂且效率低、业务异常无法及时发现等等问题。 随着有赞业务的发展与增长，每天都会产生百亿级别的日志量（据统计，平均每秒产生 50 万条... 日志是记录系统中各种问题信息的关键，也是一种常见的海量数据。 日志平台为集团所有业务系统提供日志采集、消费、分析、存储、索引和查询的一站式日志服务。 主要为了解决日志分散不方便查看、日志搜索操作复杂且效率低、业务异常无法及时发现等等问题。 随着有赞业务的发展与增长，每天都会产生百亿级别的日志量（据统计，平均每秒产生 50 万条...
- 文章目录 一、准备工作 二、搭建伪分布式spark 1、下载spark-2.4.4-bin-hadoop2.7压缩包 2、将spark压缩包上传到虚拟... 文章目录 一、准备工作 二、搭建伪分布式spark 1、下载spark-2.4.4-bin-hadoop2.7压缩包 2、将spark压缩包上传到虚拟...
- 文章目录 一、Spark概述 （一）Spark来源 （二）Spark特点 （三）Spark与Hadoop差异 （四）搭建Spark单机模式... 文章目录 一、Spark概述 （一）Spark来源 （二）Spark特点 （三）Spark与Hadoop差异 （四）搭建Spark单机模式...
- 前言 在实时计算作业中，往往需要动态改变一些配置，举几个栗子： 实时日志ETL服务，需要在日志的格式、字段发生变化时保证正常解析； 实时NLP服务，需要及时识别新添加的领域词与停用词； 实时风控服务，需要根据业务情况调整触发警告的规则。  ... 前言 在实时计算作业中，往往需要动态改变一些配置，举几个栗子： 实时日志ETL服务，需要在日志的格式、字段发生变化时保证正常解析； 实时NLP服务，需要及时识别新添加的领域词与停用词； 实时风控服务，需要根据业务情况调整触发警告的规则。  ...
- 前言 Spark作为一个基于内存的分布式计算引擎，其内存管理模块在整个系统中扮演着非常重要的角色。理解Spark内存管理的基本原理，有助于更好地开发Spark应用程序和进行性能调优。本文将详细介绍两部分内容，第一部分介绍Spark堆内和堆外内存的规划，主要包含堆内内存、堆外内存以及内存管理接口等方面；第二部重点介绍Spark内存空间的... 前言 Spark作为一个基于内存的分布式计算引擎，其内存管理模块在整个系统中扮演着非常重要的角色。理解Spark内存管理的基本原理，有助于更好地开发Spark应用程序和进行性能调优。本文将详细介绍两部分内容，第一部分介绍Spark堆内和堆外内存的规划，主要包含堆内内存、堆外内存以及内存管理接口等方面；第二部重点介绍Spark内存空间的...
- 本文主要在Spark平台下实现一个机器学习应用，该应用主要涉及LDA主题模型以及K-means聚类。通过本文你可以了解到： 文本挖掘的基本流程 LDA主题模型算法 K-means算法 Spark平台下LDA主题模型实现 Spark平台下基于LDA的K-means算法实现 1.文本挖掘模块设计 1.... 本文主要在Spark平台下实现一个机器学习应用，该应用主要涉及LDA主题模型以及K-means聚类。通过本文你可以了解到： 文本挖掘的基本流程 LDA主题模型算法 K-means算法 Spark平台下LDA主题模型实现 Spark平台下基于LDA的K-means算法实现 1.文本挖掘模块设计 1....
- 批处理是把数据攒起来，一次性进行处理的方法。相对而言，流处理是不保存数据，按照到达处理服务器的顺序对数据依次进行处理。 想实时对数据做出反应时，流处理是一个很有效的处理方法。因为批处理是把数据积攒之后隔一段时间进行处理，所以从数据到达之后到处理完毕为止，会出现时间延迟。因此，流处理这种把到达的数据逐次进行处理的思路就变得很重要了。此外... 批处理是把数据攒起来，一次性进行处理的方法。相对而言，流处理是不保存数据，按照到达处理服务器的顺序对数据依次进行处理。 想实时对数据做出反应时，流处理是一个很有效的处理方法。因为批处理是把数据积攒之后隔一段时间进行处理，所以从数据到达之后到处理完毕为止，会出现时间延迟。因此，流处理这种把到达的数据逐次进行处理的思路就变得很重要了。此外...
- 目录 案例四：开窗函数 概述 介绍 聚合函数和开窗函数 开窗函数分类 聚合开窗函数 排序开窗函数 ROW_NUMBER顺序排序 RANK跳跃排序 DENSE_RANK连续排序 NTILE分组排名[了解] ... 目录 案例四：开窗函数 概述 介绍 聚合函数和开窗函数 开窗函数分类 聚合开窗函数 排序开窗函数 ROW_NUMBER顺序排序 RANK跳跃排序 DENSE_RANK连续排序 NTILE分组排名[了解] ...
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家；李炎-华为云码道产品专家；彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战，从0到1打通消息通道；码道鸿蒙端云一体化实战，快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人；蒋春阳-华为云AI开发者案例开发专家
本期直播内容： AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了：看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签