- hive数据迁移到clickhouse—使用Waterdrop工具参考链接基于荣耀客户的需求，测试Waterdrop从云EI的hive-spark集群上迁移数据到clickhouse集群 hive数据迁移到clickhouse—使用Waterdrop工具 Waterdrop hive-spark集群 clickhouse集群 batch.conf 数据迁移 迁移结果 waterdrop性能... hive数据迁移到clickhouse—使用Waterdrop工具参考链接基于荣耀客户的需求，测试Waterdrop从云EI的hive-spark集群上迁移数据到clickhouse集群 hive数据迁移到clickhouse—使用Waterdrop工具 Waterdrop hive-spark集群 clickhouse集群 batch.conf 数据迁移 迁移结果 waterdrop性能...
- 介绍了HDFS是什么、HDFS的优缺点，NameNode节点、DataNode节点、SecondaryNameNode节点的 定义 及 功能 介绍。 介绍了HDFS是什么、HDFS的优缺点，NameNode节点、DataNode节点、SecondaryNameNode节点的 定义 及 功能 介绍。
- 各位进阶中的开发者们，大数据全栈成长计划第三阶段所有学习任务都已经结束大家心心念念的最终积分排行榜也已经出炉我们设置学习任务的目的就是想让大家在听课之余，用作业和心得来检验自己的学习成果最终积分排名会按照活动帖中符合条件的1-50名有实体奖品当排名节点处出现同分时，我们的评判标准为：阶段考核>问答官>分享转发>每周学习笔记>每章随堂测验；根据每个项目打卡时间的先后顺序排名积分统计依据：序号阶... 各位进阶中的开发者们，大数据全栈成长计划第三阶段所有学习任务都已经结束大家心心念念的最终积分排行榜也已经出炉我们设置学习任务的目的就是想让大家在听课之余，用作业和心得来检验自己的学习成果最终积分排名会按照活动帖中符合条件的1-50名有实体奖品当排名节点处出现同分时，我们的评判标准为：阶段考核>问答官>分享转发>每周学习笔记>每章随堂测验；根据每个项目打卡时间的先后顺序排名积分统计依据：序号阶...
- 1、在软件包所在目录解压Hbase压缩包[root@win1 soft]# tar -zxvf hbase-1.3.2-bin.tar.gz[root@win1 soft]# lshadoop-2.7.7 hbase-1.3.2 jdk1.8.0_161 zookeeper-3.4.12hadoop-2.7.7.tar.gz hbase-... 1、在软件包所在目录解压Hbase压缩包[root@win1 soft]# tar -zxvf hbase-1.3.2-bin.tar.gz[root@win1 soft]# lshadoop-2.7.7 hbase-1.3.2 jdk1.8.0_161 zookeeper-3.4.12hadoop-2.7.7.tar.gz hbase-...
- 大数据基础学习四：伪分布式 Hadoop 在 Ubuntu 上的安装流程完整步骤、易错点分析及需要注意的问题（以 ubuntu-18.04.3、hadoop-3.2.1-tar.gz 为例），本系列的其他文章可以移步本人大数据专栏进行查看。对于本篇文章，我个人是很有自信的，一篇文章掌握一门课程核心技术点。 大数据基础学习四：伪分布式 Hadoop 在 Ubuntu 上的安装流程完整步骤、易错点分析及需要注意的问题（以 ubuntu-18.04.3、hadoop-3.2.1-tar.gz 为例），本系列的其他文章可以移步本人大数据专栏进行查看。对于本篇文章，我个人是很有自信的，一篇文章掌握一门课程核心技术点。
- 解决 Apache Hadoop 启动时 DataNode 没有启动的问题（注意这会删除 HDFS 中原有的所有数据，如果原有的数据很重要请不要这样做）。 解决 Apache Hadoop 启动时 DataNode 没有启动的问题（注意这会删除 HDFS 中原有的所有数据，如果原有的数据很重要请不要这样做）。
- 1. HDFS操作常用Shell命令 1.1 查看命令使用方法 启动Hadoop start-dfs.sh 1 查看各种命令 hdfs dfs -help 1 1.2 HDFS目录操作 ... 1. HDFS操作常用Shell命令 1.1 查看命令使用方法 启动Hadoop start-dfs.sh 1 查看各种命令 hdfs dfs -help 1 1.2 HDFS目录操作 ...
- 01什么是小文件？生产上，我们往往将Spark SQL作为Hive的替代方案，来获得SQL on Hadoop更出色的性能。因此，本文所讲的是指存储于HDFS中小文件，即指文件的大小远小于HDFS上块（dfs.block.size）大小的文件。02小文件问题的影响一方面，大量的小文件会给Hadoop集群的扩展性和性能带来严重的影响。NameNode在内存中维护整个文件系统的元数据镜像，用户... 01什么是小文件？生产上，我们往往将Spark SQL作为Hive的替代方案，来获得SQL on Hadoop更出色的性能。因此，本文所讲的是指存储于HDFS中小文件，即指文件的大小远小于HDFS上块（dfs.block.size）大小的文件。02小文件问题的影响一方面，大量的小文件会给Hadoop集群的扩展性和性能带来严重的影响。NameNode在内存中维护整个文件系统的元数据镜像，用户...
- Hadoop Could not locate executable null 解决办法在使用Hadoop进行大数据处理时，可能会遇到“Could not locate executable null”这样的错误。这个错误通常出现在执行MapReduce任务时，表示Hadoop无法找到某个可执行文件。本文将探讨该问题的可能原因及解决方法。1. 错误现象当你尝试运行一个MapReduce作业时... Hadoop Could not locate executable null 解决办法在使用Hadoop进行大数据处理时，可能会遇到“Could not locate executable null”这样的错误。这个错误通常出现在执行MapReduce任务时，表示Hadoop无法找到某个可执行文件。本文将探讨该问题的可能原因及解决方法。1. 错误现象当你尝试运行一个MapReduce作业时...
- 在大数据处理领域，Hadoop分布式文件系统（HDFS）是一种非常常用的存储解决方案，尤其适用于存储和管理大量的结构化或非结构化数据。HDFS的分布式特性和高容错能力使其成为处理大规模数据集的首选平台。而Python作为一种流行的编程语言，拥有丰富的生态系统，可以与HDFS进行无缝集成，用于大规模数据的存储、管理和处理。本文将介绍如何使用Python与HDFS结合，以高效处理分布式数据。我们... 在大数据处理领域，Hadoop分布式文件系统（HDFS）是一种非常常用的存储解决方案，尤其适用于存储和管理大量的结构化或非结构化数据。HDFS的分布式特性和高容错能力使其成为处理大规模数据集的首选平台。而Python作为一种流行的编程语言，拥有丰富的生态系统，可以与HDFS进行无缝集成，用于大规模数据的存储、管理和处理。本文将介绍如何使用Python与HDFS结合，以高效处理分布式数据。我们...
- 在现代大数据应用中，Hadoop和Spark作为两种主流的大数据处理框架，广泛用于数据存储、处理和分析。Hadoop主要用于分布式存储（通过HDFS）和分布式计算（通过MapReduce），而Spark则提供了更高效、易用的处理能力，特别适合批量和流数据的处理。Python作为一种易于学习和使用的编程语言，结合Hadoop和Spark的能力，可以大大提升大数据处理的效率和便捷性。本文将介绍如... 在现代大数据应用中，Hadoop和Spark作为两种主流的大数据处理框架，广泛用于数据存储、处理和分析。Hadoop主要用于分布式存储（通过HDFS）和分布式计算（通过MapReduce），而Spark则提供了更高效、易用的处理能力，特别适合批量和流数据的处理。Python作为一种易于学习和使用的编程语言，结合Hadoop和Spark的能力，可以大大提升大数据处理的效率和便捷性。本文将介绍如...
- 详解WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable最近，你在使用Hadoop开源分布式处理框架时，可能会遇到如下警告信息：plaintextCopy codeWARN util.Na... 详解WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable最近，你在使用Hadoop开源分布式处理框架时，可能会遇到如下警告信息：plaintextCopy codeWARN util.Na...
- 本实验介绍部署ZooKeeper的原理和实验步骤。部署三个节点的ZooKeeper集群，通过ZooKeeper客户端连接ZooKeeper集群，并用Shell命令练习创建目录，查询目录等。 本实验介绍部署ZooKeeper的原理和实验步骤。部署三个节点的ZooKeeper集群，通过ZooKeeper客户端连接ZooKeeper集群，并用Shell命令练习创建目录，查询目录等。
- 本文介绍HDFS读写文件的相关原理和实验步骤。搭建HDFS开发环境，分别在master服务器上和Eclipse环境中编写了HDFS写、读代码，在master机上执行了该写、读程序。通过实验了解HDFS读写文件的调用流程，理解HDFS读写文件的原理。 本文介绍HDFS读写文件的相关原理和实验步骤。搭建HDFS开发环境，分别在master服务器上和Eclipse环境中编写了HDFS写、读代码，在master机上执行了该写、读程序。通过实验了解HDFS读写文件的调用流程，理解HDFS读写文件的原理。
- 本文介绍部署HDFS相关原理和实验步骤。理解HDFS体系架构和master/slave架构，学会逐一启动HDFS和统一启动HDFS，并完成在HDFS中新建目录和上传文件。 本文介绍部署HDFS相关原理和实验步骤。理解HDFS体系架构和master/slave架构，学会逐一启动HDFS和统一启动HDFS，并完成在HDFS中新建目录和上传文件。
上滑加载中
推荐直播
-
昇腾AI算法挑战赛-核心算子如何优化？专家带你深度解析2025/11/17 周一 16:00-17:00
王老师 华为算子专家
昇腾AI算法挑战赛进阶赛战鼓催征！本期直播间，我们特邀华为算子专家王老师，为你深度剖析Matmul、wholereducesum等核心算子的底层原理与优化技巧，直击赛题核心。想提升代码效率、冲击更高排名？锁定直播，带你破局！
回顾中 -
AI编码实干派，“码”力全开2026/02/26 周四 15:00-16:30
谈宗玮/于邦旭/丁俊卿/陈云亮/王一男
【中国，深圳，2026年2月26日】，以“AI编码实干派，码力全开”为主题的华为云码道（CodeArts）代码智能体新春发布会在线上成功召开。华为云码道公测版正式发布，为开发者和企业提供具备工程化能力的智能编码解决方案。
回顾中 -
华为云码道-玩转OpenClaw，开启在线养虾模式2026/03/11 周三 19:00-20:00
刘昱，华为云高级工程师/谈心，华为云技术专家/李海仑，上海圭卓智能科技有限公司CEO
OpenClaw 火爆开发者圈，华为云码道最新推出 Skill ——开发者只需输入一句口令，即可部署一个功能完整的「小龙虾」智能体。直播带你玩转华为云码道，玩转OpenClaw
回顾中
热门标签