- 之前介绍的有关数据入库的经验都是基于实时数据流，数据存储在kafka中，使用Java或者Golang将数据从kafka中读取、解析、清洗之后写入ClickHouse中，实现数据的快速接入。在很多的使用场景中，数据都不是实时的，可能需要将HDFS或者是hive的数据导入ClickHouse，可以通过编写Spark程序实现数据的导入。HDFS to ClickHouse假设日志存储在HDFS中，... 之前介绍的有关数据入库的经验都是基于实时数据流，数据存储在kafka中，使用Java或者Golang将数据从kafka中读取、解析、清洗之后写入ClickHouse中，实现数据的快速接入。在很多的使用场景中，数据都不是实时的，可能需要将HDFS或者是hive的数据导入ClickHouse，可以通过编写Spark程序实现数据的导入。HDFS to ClickHouse假设日志存储在HDFS中，...
- MapReduce作为一个面向海量数据分布式处理的计算模型、框架和平台，具备以下三个特点：1、易于编程：程序员仅需描述Map阶段和Reduce阶段要如何解析、处理数据，具体怎么读取数据并对处理结果进行排序、分区、组合、合并等等，都可以交由系统的执行框架处理。2、良好的扩展性：可通过添加节点以扩展集群运算能力。3、高容错性：在程序运行过程中，当某些节点发生故障时，通过计算迁移或数据迁移等策略在... MapReduce作为一个面向海量数据分布式处理的计算模型、框架和平台，具备以下三个特点：1、易于编程：程序员仅需描述Map阶段和Reduce阶段要如何解析、处理数据，具体怎么读取数据并对处理结果进行排序、分区、组合、合并等等，都可以交由系统的执行框架处理。2、良好的扩展性：可通过添加节点以扩展集群运算能力。3、高容错性：在程序运行过程中，当某些节点发生故障时，通过计算迁移或数据迁移等策略在...
- 试验环境: 本地:MyEclipse 集群:Vmware 11+ 6台 Centos 6.5 Hadoop版本: 2.4.0(配置为自动HA)试验背景: 在正常测试MapReduce(下简称MR)程序4次之后,进行一次新的MR程序,MyEclipse的控制台信息卡住不动了,我通过远程连接NameNode查看系统目录也被卡住,这时候再看MyEclipse控制台,发现已经抛出异常如... 试验环境: 本地:MyEclipse 集群:Vmware 11+ 6台 Centos 6.5 Hadoop版本: 2.4.0(配置为自动HA)试验背景: 在正常测试MapReduce(下简称MR)程序4次之后,进行一次新的MR程序,MyEclipse的控制台信息卡住不动了,我通过远程连接NameNode查看系统目录也被卡住,这时候再看MyEclipse控制台,发现已经抛出异常如...
- 入门华为云服务需要了解的一些名词：MapReduce 、OBS、DLI、DSI、数据仓库、OpenTSDB时序数据库、 入门华为云服务需要了解的一些名词：MapReduce 、OBS、DLI、DSI、数据仓库、OpenTSDB时序数据库、
- Greenplum(4.3.8.2)使用GPHDFS协议创建外部表访问CDH5.7.0环境的HDFS文件系统 1. 环境CDH 5.7.0集成环境，其中Hadoop版本为2.6.0Greenplum版本为4.3.8.2 2. 安装部署第一步：所有segment，master和standby master节点都安装Java 1.6及以上版本(CDH5.7.0已经部署，... Greenplum(4.3.8.2)使用GPHDFS协议创建外部表访问CDH5.7.0环境的HDFS文件系统 1. 环境CDH 5.7.0集成环境，其中Hadoop版本为2.6.0Greenplum版本为4.3.8.2 2. 安装部署第一步：所有segment，master和standby master节点都安装Java 1.6及以上版本(CDH5.7.0已经部署，...
- HDFS基本原理的介绍 HDFS基本原理的介绍
- 常用命令- help功能:输出这个命令参数手册- ls功能:显示目录信息示例:hadoop fs -ls hdfs://hadoop-hello/备注:这些参数中,所有的hdfs路径都可以简写–>hadoop fs -ls /等同于上一条命令效果- mkdir功能:在hdfs上常见目录示例:hadoop fs -mkdir -p /aa/bb/cc- moveFromLocal功能:从本地剪... 常用命令- help功能:输出这个命令参数手册- ls功能:显示目录信息示例:hadoop fs -ls hdfs://hadoop-hello/备注:这些参数中,所有的hdfs路径都可以简写–>hadoop fs -ls /等同于上一条命令效果- mkdir功能:在hdfs上常见目录示例:hadoop fs -mkdir -p /aa/bb/cc- moveFromLocal功能:从本地剪...
- HDFS是Hadoop的组件之一,是一个分布式文件系统, 文件系统是一个抽象类,其中有很多的子实现类,例如:hdfs,file:\(本地磁盘),ftp文件系统,webHdfs(可通过浏览器的界面进行文件操作).1架构图(1)HDFSClient:客户端想要请求数据,首先对NameNode进行"询问",NameNode会将数据的存储信息返回给用户. (2) NameNode :保存HDFS... HDFS是Hadoop的组件之一,是一个分布式文件系统, 文件系统是一个抽象类,其中有很多的子实现类,例如:hdfs,file:\(本地磁盘),ftp文件系统,webHdfs(可通过浏览器的界面进行文件操作).1架构图(1)HDFSClient:客户端想要请求数据,首先对NameNode进行"询问",NameNode会将数据的存储信息返回给用户. (2) NameNode :保存HDFS...
- 输入文件address.txt factory.txt:1 Beijing Beijing Red Star 12 Guangzhou Shenzhen Thunder 33 Shenzhen Guangzhou Honda 24 Xian Beijing Rising 1 ... 输入文件address.txt factory.txt:1 Beijing Beijing Red Star 12 Guangzhou Shenzhen Thunder 33 Shenzhen Guangzhou Honda 24 Xian Beijing Rising 1 ...
- FLUME安装过程 FLUME安装过程
- 本文通过银行存款预测业务的案例应用，介绍了华为机器学习服务的工作流使用方法，用户可以通过本文快速掌握工作流的使用和机器学习建模的流程。 本文通过银行存款预测业务的案例应用，介绍了华为机器学习服务的工作流使用方法，用户可以通过本文快速掌握工作流的使用和机器学习建模的流程。
- 接上篇：【Free Style】Hadoop-Yarn之Resource Manager源码分析(三)https://portal.huaweicloud.com/blogs/45e07b16c07311e7b8317ca23e93a891 4 算法介绍Yarn的调度器的作用主要是回答了如何选择一堆队列，在队列上如何选择一个应用的问题。Yarn Scheduler支持的调度机制包括：a) 接上篇：【Free Style】Hadoop-Yarn之Resource Manager源码分析(三)https://portal.huaweicloud.com/blogs/45e07b16c07311e7b8317ca23e93a891 4 算法介绍Yarn的调度器的作用主要是回答了如何选择一堆队列，在队列上如何选择一个应用的问题。Yarn Scheduler支持的调度机制包括：a)
- 自从去年上半年做了一个涉及大数据的项目，就被认为是部门里的大数据第一人，其实万不敢当。在此之前所在部门的确对这方面毫无涉足，我们是部门内的先行者。但要说有多么了解大数据，其实也很汗颜，认真一点说，我们是想借助这个项目去大数据的海洋里试驾远航，可事实是我们赶在被真正的大数据的海浪打翻之前就已经回到岸边。 自从去年上半年做了一个涉及大数据的项目，就被认为是部门里的大数据第一人，其实万不敢当。在此之前所在部门的确对这方面毫无涉足，我们是部门内的先行者。但要说有多么了解大数据，其实也很汗颜，认真一点说，我们是想借助这个项目去大数据的海洋里试驾远航，可事实是我们赶在被真正的大数据的海浪打翻之前就已经回到岸边。
- 统一资源调度管理 统一资源调度管理
- 从时间节点上来看，每年的 3月、4月是一年中求职跳槽的黄金季！ 最近也收到很多小伙伴的后台留言 “有没有大数据学习资源，进阶学习路线，PDF，电子书，面试文档等等...” 一系列问题，这篇文章等于是针对以上的问题统一做回答了。 肝了一周，做了一些资源筛选，依照自己的学习经验和相关的资料做个整理，把一些我看过的精品视频，技术书籍... 从时间节点上来看，每年的 3月、4月是一年中求职跳槽的黄金季！ 最近也收到很多小伙伴的后台留言 “有没有大数据学习资源，进阶学习路线，PDF，电子书，面试文档等等...” 一系列问题，这篇文章等于是针对以上的问题统一做回答了。 肝了一周，做了一些资源筛选，依照自己的学习经验和相关的资料做个整理，把一些我看过的精品视频，技术书籍...
上滑加载中
推荐直播
-
昇腾AI算法挑战赛-核心算子如何优化？专家带你深度解析2025/11/17 周一 16:00-17:00
王老师 华为算子专家
昇腾AI算法挑战赛进阶赛战鼓催征！本期直播间，我们特邀华为算子专家王老师，为你深度剖析Matmul、wholereducesum等核心算子的底层原理与优化技巧，直击赛题核心。想提升代码效率、冲击更高排名？锁定直播，带你破局！
回顾中 -
AI编码实干派，“码”力全开2026/02/26 周四 15:00-16:30
谈宗玮/于邦旭/丁俊卿/陈云亮/王一男
【中国，深圳，2026年2月26日】，以“AI编码实干派，码力全开”为主题的华为云码道（CodeArts）代码智能体新春发布会在线上成功召开。华为云码道公测版正式发布，为开发者和企业提供具备工程化能力的智能编码解决方案。
回顾中 -
华为云码道-玩转OpenClaw，开启在线养虾模式2026/03/11 周三 19:00-20:00
刘昱，华为云高级工程师/谈心，华为云技术专家/李海仑，上海圭卓智能科技有限公司CEO
OpenClaw 火爆开发者圈，华为云码道最新推出 Skill ——开发者只需输入一句口令，即可部署一个功能完整的「小龙虾」智能体。直播带你玩转华为云码道，玩转OpenClaw
回顾中
热门标签