- 概述FusionInsight Manager提供对集群内的用户数据及系统数据的备份恢复能力,备份功能按组件提供。系统支持备份Manager的数据、组件元数据(DBService、Elasticsearch、HDFS NameNode、HBase、Kafka、Yarn)及业务数据(HBase、HDFS、Elasticsearch、Hive、Redis)。备份功能支持将数据备份至本地磁盘(Lo... 概述FusionInsight Manager提供对集群内的用户数据及系统数据的备份恢复能力,备份功能按组件提供。系统支持备份Manager的数据、组件元数据(DBService、Elasticsearch、HDFS NameNode、HBase、Kafka、Yarn)及业务数据(HBase、HDFS、Elasticsearch、Hive、Redis)。备份功能支持将数据备份至本地磁盘(Lo...
- 在华为云新的试用活动,零元购买鲲鹏版MRS一个月试用。去年也优惠购买过X86版的MRS,不过那时候不知道如何使用,误删除了某些软件,导致MRS无法使用。现在可以直接在MRS界面右上角找到使用指南。 通过使用source /opt/client/bigdata_env进入大数据shell客户端环境。hdfs shell客户端建立目录,上传文件,查看文件内容等操作熟悉hdfs命令。... 在华为云新的试用活动,零元购买鲲鹏版MRS一个月试用。去年也优惠购买过X86版的MRS,不过那时候不知道如何使用,误删除了某些软件,导致MRS无法使用。现在可以直接在MRS界面右上角找到使用指南。 通过使用source /opt/client/bigdata_env进入大数据shell客户端环境。hdfs shell客户端建立目录,上传文件,查看文件内容等操作熟悉hdfs命令。...
- Hadoop如何调整某一个类的日志级别 Hadoop如何调整某一个类的日志级别
- 介绍了 SecondaryNameNode 的工作流程( fsimage 与 edits 文件的合并),以及 检查点 的相关知识,方便了解 NameNode 与 SecondaryNameNode 之间的关系。 介绍了 SecondaryNameNode 的工作流程( fsimage 与 edits 文件的合并),以及 检查点 的相关知识,方便了解 NameNode 与 SecondaryNameNode 之间的关系。
- 介绍hadoop 环境中dns 解析过程, linux dns 解析原理,提供最佳实践。 介绍hadoop 环境中dns 解析过程, linux dns 解析原理,提供最佳实践。
- 1、简介Hadoop作为一个较通用的海量数椐处理平台,在使用压缩方式方面,主要考虑压缩速度和压缩文件的可分割性.所有的压缩算法都会考虑时间和空间的权衡,更快的压缩和解压缩速度通常会耗费更多的交间(压缩比较低)例如:通过gzip命令压缩数据时,用户可以设置不同的选项来选择速度优先或空间优先.选项-1表示优先考虑速度,选项-9表示空间最优,可以获得最大的压缩比。需要注意的是:有些压缩算法的压缩... 1、简介Hadoop作为一个较通用的海量数椐处理平台,在使用压缩方式方面,主要考虑压缩速度和压缩文件的可分割性.所有的压缩算法都会考虑时间和空间的权衡,更快的压缩和解压缩速度通常会耗费更多的交间(压缩比较低)例如:通过gzip命令压缩数据时,用户可以设置不同的选项来选择速度优先或空间优先.选项-1表示优先考虑速度,选项-9表示空间最优,可以获得最大的压缩比。需要注意的是:有些压缩算法的压缩...
- 接着hdfs源码解析之客户端写数据(一)继续。fs.write(a.getBytes());上面write方法郑振调用的是FSOutputSummer.write,FSOutputSummer维护了一个本地缓冲区buf,大小初始为9*chunkSize,append文件时初始化方法不同。循环写buf.length字节数据,buf满了就开始调用writeChecksumChunks写packe... 接着hdfs源码解析之客户端写数据(一)继续。fs.write(a.getBytes());上面write方法郑振调用的是FSOutputSummer.write,FSOutputSummer维护了一个本地缓冲区buf,大小初始为9*chunkSize,append文件时初始化方法不同。循环写buf.length字节数据,buf满了就开始调用writeChecksumChunks写packe...
- 大数据并不是一个单一的概念,其内涵较为丰富,在实际的应用过程中也需要很多编程知识的支撑。具体要掌握哪些技能呢?1、Java大家都知道Java的方向有JavaSE、JavaEE、JavaME,学习大数据要学习那个方向呢?只需要学习Java的标准版JavaSE就可以了,像Servlet、JSP、Tomcat、Struts、Spring、Hibernate,Mybatis都是JavaEE方向的技术... 大数据并不是一个单一的概念,其内涵较为丰富,在实际的应用过程中也需要很多编程知识的支撑。具体要掌握哪些技能呢?1、Java大家都知道Java的方向有JavaSE、JavaEE、JavaME,学习大数据要学习那个方向呢?只需要学习Java的标准版JavaSE就可以了,像Servlet、JSP、Tomcat、Struts、Spring、Hibernate,Mybatis都是JavaEE方向的技术...
- 通过eip访问集群主要是对需要的访问的集群组件的IP修改成hostname,和端口开放。像类似spark和flink这种这种分析组件因为是在本地运行,所以不需要做额外的端口和ip的修改。安全集群相对于普通集群多了个kerboers认证,只要修改kerboers的conf文件和开发对应的端口就可以了。 通过eip访问集群主要是对需要的访问的集群组件的IP修改成hostname,和端口开放。像类似spark和flink这种这种分析组件因为是在本地运行,所以不需要做额外的端口和ip的修改。安全集群相对于普通集群多了个kerboers认证,只要修改kerboers的conf文件和开发对应的端口就可以了。
- Windows10下对Hadoop3.3.0源码进行编译 Windows10下对Hadoop3.3.0源码进行编译
- 如何在windows7系统上面运行Hadoop 如何在windows7系统上面运行Hadoop
- 本章讲解了Hadoop WritableUtils的主要代码实现 本章讲解了Hadoop WritableUtils的主要代码实现
- hive testbench 运行时遇到failed with status code 139. hive testbench 运行时遇到failed with status code 139.
- 部署时启动失败,提示:Too many failed volumes - current valid volumes: 0, volumes configured: 1, volumes failed: 1解决办法:1、首先查看datanode的分区是否存在,是否能够正常读写,df -h,在数据分区下touch一个文件试试,发现也是正常的2、查看日志发现是数据分区没有权限,最后发现是文件夹d... 部署时启动失败,提示:Too many failed volumes - current valid volumes: 0, volumes configured: 1, volumes failed: 1解决办法:1、首先查看datanode的分区是否存在,是否能够正常读写,df -h,在数据分区下touch一个文件试试,发现也是正常的2、查看日志发现是数据分区没有权限,最后发现是文件夹d...
- 本文主要进行Hive/Hadoop的安装配置,最后实现IDEA远程调试Hive代码 本文主要进行Hive/Hadoop的安装配置,最后实现IDEA远程调试Hive代码
上滑加载中
推荐直播
-
探秘仓颉编程语言:华为开发者空间的创新利器
2025/02/22 周六 15:00-16:30
华为云讲师团
本期直播将与您一起探秘颉编程语言上线华为开发者空间后,显著提升开发效率,在智能化开发支持、全场景跨平台适配能力、工具链与生态完备性、语言简洁与高性能特性等方面展现出的独特优势。直播看点: 1.java转仓颉的小工具 2.仓颉动画三方库lottie 3.开发者空间介绍及如何在空间用仓颉编程语言开发
回顾中 -
大模型Prompt工程深度实践
2025/02/24 周一 16:00-17:30
盖伦 华为云学堂技术讲师
如何让大模型精准理解开发需求并生成可靠输出?本期直播聚焦大模型Prompt工程核心技术:理解大模型推理基础原理,关键采样参数定义,提示词撰写关键策略及Prompt工程技巧分享。
去报名 -
华为云 x DeepSeek:AI驱动云上应用创新
2025/02/26 周三 16:00-18:00
华为云 AI专家大咖团
在 AI 技术飞速发展之际,DeepSeek 备受关注。它凭借哪些技术与理念脱颖而出?华为云与 DeepSeek 合作,将如何重塑产品与应用模式,助力企业数字化转型?在华为开发者空间,怎样高效部署 DeepSeek,搭建专属服务器?基于华为云平台,又该如何挖掘 DeepSeek 潜力,实现智能化升级?本期直播围绕DeepSeek在云上的应用案例,与DTSE布道师们一起探讨如何利用AI 驱动云上应用创新。
去报名
热门标签