- 完善DLI全链生态操作指导、速通资源池基本概念、一图秒懂权限原理知识、详析API参数说明，DLI帮助文档硬核升级。 了解更多DLI帮助文档详细内容▶▷▶立即访问：https://support.huaweicloud.com/dli/index.html 完善DLI全链生态操作指导、速通资源池基本概念、一图秒懂权限原理知识、详析API参数说明，DLI帮助文档硬核升级。 了解更多DLI帮助文档详细内容▶▷▶立即访问：https://support.huaweicloud.com/dli/index.html
- 一、：为何需要科学选型？在大数据时代，企业面临的核心挑战之一是如何高效处理海量数据。选择合适的分布式计算框架直接影响系统的吞吐量、延迟、运维成本及扩展性。本文将结合真实业务场景需求，从功能特性、性能表现、生态兼容性三个维度展开分析，并提供实测数据表格供参考。所有结论均基于实际生产环境测试结果，力求为开发者提供可落地的决策依据。 二、主流框架核心能力拆解（附关键参数表）特性维度Apache ... 一、：为何需要科学选型？在大数据时代，企业面临的核心挑战之一是如何高效处理海量数据。选择合适的分布式计算框架直接影响系统的吞吐量、延迟、运维成本及扩展性。本文将结合真实业务场景需求，从功能特性、性能表现、生态兼容性三个维度展开分析，并提供实测数据表格供参考。所有结论均基于实际生产环境测试结果，力求为开发者提供可落地的决策依据。 二、主流框架核心能力拆解（附关键参数表）特性维度Apache ...
- 开篇语哈喽，各位小伙伴们，你们好呀，我是喵手。运营社区：C站/掘金/腾讯云/阿里云/华为云/51CTO；欢迎大家常来逛逛 今天我要给大家分享一些自己日常学习到的一些知识点，并以文字的形式跟大家一起交流，互相学习，一个人虽可以走的更快，但一群人可以走的更远。 我是一名后端开发爱好者，工作日常接触到最多的就是Java语言啦，所以我都尽量抽业余时间把自己所学到所会的，通过文章的形式进行输出，... 开篇语哈喽，各位小伙伴们，你们好呀，我是喵手。运营社区：C站/掘金/腾讯云/阿里云/华为云/51CTO；欢迎大家常来逛逛 今天我要给大家分享一些自己日常学习到的一些知识点，并以文字的形式跟大家一起交流，互相学习，一个人虽可以走的更快，但一群人可以走的更远。 我是一名后端开发爱好者，工作日常接触到最多的就是Java语言啦，所以我都尽量抽业余时间把自己所学到所会的，通过文章的形式进行输出，...
- 不会Python，还敢说搞大数据？一文带你入门大数据编程的“硬核”真相 不会Python，还敢说搞大数据？一文带你入门大数据编程的“硬核”真相
- Spark SQL基于Catalyst优化器与Tungsten引擎，提供高效的数据处理能力。其架构涵盖SQL解析、逻辑计划优化、物理计划生成及分布式执行，支持复杂数据类型、窗口函数与多样化聚合操作，结合自适应查询与代码生成技术，实现高性能大数据分析。 Spark SQL基于Catalyst优化器与Tungsten引擎，提供高效的数据处理能力。其架构涵盖SQL解析、逻辑计划优化、物理计划生成及分布式执行，支持复杂数据类型、窗口函数与多样化聚合操作，结合自适应查询与代码生成技术，实现高性能大数据分析。
- RDD（弹性分布式数据集）是Spark的核心抽象，支持容错和并行计算。其架构包括分区、计算函数、依赖关系、分区器及优先位置等关键组件。操作分为转换（Transformations）与行动（Actions），提供丰富的API支持复杂数据处理。 执行模型涵盖用户代码到分布式执行的全流程，通过DAG调度优化任务划分与资源分配。内存管理机制动态调整存储与执行内存，提升资源利用率。 性能调优涉及资源配置 RDD（弹性分布式数据集）是Spark的核心抽象，支持容错和并行计算。其架构包括分区、计算函数、依赖关系、分区器及优先位置等关键组件。操作分为转换（Transformations）与行动（Actions），提供丰富的API支持复杂数据处理。 执行模型涵盖用户代码到分布式执行的全流程，通过DAG调度优化任务划分与资源分配。内存管理机制动态调整存储与执行内存，提升资源利用率。 性能调优涉及资源配置
- Apache Spark 是一个开源、分布式计算引擎，专为大规模数据处理设计。它以高速、易用和通用为核心目标。通过内存计算、DAG 执行引擎和惰性求值等特性，大幅提升数据处理效率。其核心组件包括 Spark Core、Spark SQL、Spark Streaming、MLlib 和 GraphX，支持批处理、实时流处理、机器学习和图计算。Spark 提供统一编程模型，支持多语言（Scala/Ja Apache Spark 是一个开源、分布式计算引擎，专为大规模数据处理设计。它以高速、易用和通用为核心目标。通过内存计算、DAG 执行引擎和惰性求值等特性，大幅提升数据处理效率。其核心组件包括 Spark Core、Spark SQL、Spark Streaming、MLlib 和 GraphX，支持批处理、实时流处理、机器学习和图计算。Spark 提供统一编程模型，支持多语言（Scala/Ja
- 本文探讨了如何结合Apache Spark MLlib、TensorFlow Serving和Java构建混合推理流水线。Spark MLlib利用分布式计算高效处理大规模数据，完成模型训练；TensorFlow Serving专注于模型部署，提供稳定高效的推理服务；Java则以其稳健性协调两者，实现高性能与扩展性。 本文探讨了如何结合Apache Spark MLlib、TensorFlow Serving和Java构建混合推理流水线。Spark MLlib利用分布式计算高效处理大规模数据，完成模型训练；TensorFlow Serving专注于模型部署，提供稳定高效的推理服务；Java则以其稳健性协调两者，实现高性能与扩展性。
- Java 大数据处理：使用 Hadoop 和 Spark 进行大规模数据处理在当今数字化时代，数据呈现出爆炸式增长，如何高效地处理大规模数据成为企业面临的重要挑战。Java 作为一门广泛使用的编程语言，在大数据处理领域同样发挥着关键作用。本文将深入探讨如何利用 Hadoop 和 Spark 这两大主流框架，基于 Java 进行大规模数据处理，帮助读者掌握相关技术要点。 一、Java 在大数... Java 大数据处理：使用 Hadoop 和 Spark 进行大规模数据处理在当今数字化时代，数据呈现出爆炸式增长，如何高效地处理大规模数据成为企业面临的重要挑战。Java 作为一门广泛使用的编程语言，在大数据处理领域同样发挥着关键作用。本文将深入探讨如何利用 Hadoop 和 Spark 这两大主流框架，基于 Java 进行大规模数据处理，帮助读者掌握相关技术要点。 一、Java 在大数...
- Spark SQL是Apache Spark生态系统中用于处理结构化数据的组件，作为大数据时代的SQL利器，它在继承传统SQL语法和逻辑思维的基础上，重新定义了数据处理的效率与灵活性。相比传统SQL，Spark SQL支持分布式计算、内存处理及多种数据源，可高效应对PB级数据挑战。其核心概念DataFrame提供优化查询能力，使数据分析更便捷。 Spark SQL是Apache Spark生态系统中用于处理结构化数据的组件，作为大数据时代的SQL利器，它在继承传统SQL语法和逻辑思维的基础上，重新定义了数据处理的效率与灵活性。相比传统SQL，Spark SQL支持分布式计算、内存处理及多种数据源，可高效应对PB级数据挑战。其核心概念DataFrame提供优化查询能力，使数据分析更便捷。
- 从“笨重大象”到“敏捷火花”：Hadoop与Spark的大数据技术进化之路 从“笨重大象”到“敏捷火花”：Hadoop与Spark的大数据技术进化之路
- Spark 机器学习库 MLlib 编程实践 介绍Spark MLlib 是 Apache Spark 的一个机器学习库，提供了常用的机器学习算法和工具。MLlib 在分布式环境下运行，可以处理大规模数据集，是构建可扩展机器学习应用程序的理想选择。 应用使用场景大数据分析：在大规模数据集上训练机器学习模型，如推荐系统、分类、聚类。实时流处理：结合 Spark Streaming 实现实时数... Spark 机器学习库 MLlib 编程实践 介绍Spark MLlib 是 Apache Spark 的一个机器学习库，提供了常用的机器学习算法和工具。MLlib 在分布式环境下运行，可以处理大规模数据集，是构建可扩展机器学习应用程序的理想选择。 应用使用场景大数据分析：在大规模数据集上训练机器学习模型，如推荐系统、分类、聚类。实时流处理：结合 Spark Streaming 实现实时数...
- 连接mysql查询数据: 初始化mysql的连接信息def init_mysql():url = “jdbc:mysql://ip:port/databasename?&useSSL=false&serverTimezone=GMT%2B8”properties = {“user”: “user”, “password”: “password”, “driver”: “com.mysql.... 连接mysql查询数据: 初始化mysql的连接信息def init_mysql():url = “jdbc:mysql://ip:port/databasename?&useSSL=false&serverTimezone=GMT%2B8”properties = {“user”: “user”, “password”: “password”, “driver”: “com.mysql....
- spark初始化:class SpsrkConfigInit:@classmethoddef init_spark(cls):“”"初始化spark配置:return: SparkSession“”"# 设置 JAVA_HOME 环境变量os.environ[‘JAVA_HOME’] = ‘C:/Program Files/Huawei/jdk1.8.0_222’os.environ[‘PY... spark初始化:class SpsrkConfigInit:@classmethoddef init_spark(cls):“”"初始化spark配置:return: SparkSession“”"# 设置 JAVA_HOME 环境变量os.environ[‘JAVA_HOME’] = ‘C:/Program Files/Huawei/jdk1.8.0_222’os.environ[‘PY...
- Spark Executor 内存分配原理与调优 介绍Apache Spark 是一个用于大数据处理的集群计算框架，具备快速、通用和可扩展的特点。Executor 是 Spark Job 在工作节点上实际执行任务的进程，负责运行 Task 并存储阶段中间结果。合理配置和调优 Executor 的内存参数至关重要，以便高效利用资源并优化性能。 应用使用场景大规模数据分析：Spark 被广泛应... Spark Executor 内存分配原理与调优 介绍Apache Spark 是一个用于大数据处理的集群计算框架，具备快速、通用和可扩展的特点。Executor 是 Spark Job 在工作节点上实际执行任务的进程，负责运行 Task 并存储阶段中间结果。合理配置和调优 Executor 的内存参数至关重要，以便高效利用资源并优化性能。 应用使用场景大规模数据分析：Spark 被广泛应...
上滑加载中
推荐直播
-
HDC深度解读系列 - Serverless与MCP融合创新，构建AI应用全新智能中枢2025/08/20 周三 16:30-18:00
张昆鹏 HCDG北京核心组代表
HDC2025期间，华为云展示了Serverless与MCP融合创新的解决方案，本期访谈直播，由华为云开发者专家(HCDE)兼华为云开发者社区组织HCDG北京核心组代表张鹏先生主持，华为云PaaS服务产品部 Serverless总监Ewen为大家深度解读华为云Serverless与MCP如何融合构建AI应用全新智能中枢
回顾中 -
关于RISC-V生态发展的思考2025/09/02 周二 17:00-18:00
中国科学院计算技术研究所副所长包云岗教授
中科院包云岗老师将在本次直播中，探讨处理器生态的关键要素及其联系，分享过去几年推动RISC-V生态建设实践过程中的经验与教训。
回顾中 -
一键搞定华为云万级资源，3步轻松管理企业成本2025/09/09 周二 15:00-16:00
阿言 华为云交易产品经理
本直播重点介绍如何一键续费万级资源，3步轻松管理成本，帮助提升日常管理效率！
回顾中
热门标签