- MRS集群V2接口提交作FAQ概述 本文主要介绍MRS集群v2提交作业接口的相关内容。MRS集群1.8.x系列版本在1.8.7版本及之后，2.x系列版本在2.0.3版本及之后，1.9.x版本都支持通过V2接口向kerberos开启/普通集群提交作业。目前主要支持以下几种作业类型，分别为Mapreduce, Distcp,Spa... MRS集群V2接口提交作FAQ概述 本文主要介绍MRS集群v2提交作业接口的相关内容。MRS集群1.8.x系列版本在1.8.7版本及之后，2.x系列版本在2.0.3版本及之后，1.9.x版本都支持通过V2接口向kerberos开启/普通集群提交作业。目前主要支持以下几种作业类型，分别为Mapreduce, Distcp,Spa...
- 通过HDFS地址映射到OBS地址的方式，支持将HDFS中的数据迁移到OBS后，不需要变动业务逻辑中的数据地址，即可完成数据访问。 例如将HDFS文件系统的数据迁移到OBS服务中，通过使用HDFS地址映射功能简单配置即可实现客户端无需修改自己的的业务代码逻辑的情况下，访问存储到OBS的数据。或将元数据信息从HDFS文件系统部分迁移到OBS服务中，通过使用HDFS地址映射功能简单配置即可实现既能访问 通过HDFS地址映射到OBS地址的方式，支持将HDFS中的数据迁移到OBS后，不需要变动业务逻辑中的数据地址，即可完成数据访问。 例如将HDFS文件系统的数据迁移到OBS服务中，通过使用HDFS地址映射功能简单配置即可实现客户端无需修改自己的的业务代码逻辑的情况下，访问存储到OBS的数据。或将元数据信息从HDFS文件系统部分迁移到OBS服务中，通过使用HDFS地址映射功能简单配置即可实现既能访问
- 在MRS安全集群中，使用Phoenix时如何开启QueryServer会有鉴权问题，本文会基于apache-phoenix-5.0.0-HBase-2.0版本，指导如何正常启动QueryServer服务。1.首先安装Phoenix至指定目录下，可以参考https://support.huaweicloud.com/devg-mrs/mrs_06_0041.html安装Phoenix。2.进入... 在MRS安全集群中，使用Phoenix时如何开启QueryServer会有鉴权问题，本文会基于apache-phoenix-5.0.0-HBase-2.0版本，指导如何正常启动QueryServer服务。1.首先安装Phoenix至指定目录下，可以参考https://support.huaweicloud.com/devg-mrs/mrs_06_0041.html安装Phoenix。2.进入...
- LZO是一种非常高效的压缩算法，相比其它Hadoop支持的压缩算法，它提供极高的解压缩速度，且解压缩速度不受压缩比影响，对压缩包制作索引以后支持文件分片操作，非常适合用于hadoop的分布式处理场景。但由于其开源License问题，MRS和开源Hadoop一样，并没有默认集成hadoop-lzo。下面，我给大家分享一下如何手动编译hadoop-lzo并配置到在Hive服务中。一. 环境准备准... LZO是一种非常高效的压缩算法，相比其它Hadoop支持的压缩算法，它提供极高的解压缩速度，且解压缩速度不受压缩比影响，对压缩包制作索引以后支持文件分片操作，非常适合用于hadoop的分布式处理场景。但由于其开源License问题，MRS和开源Hadoop一样，并没有默认集成hadoop-lzo。下面，我给大家分享一下如何手动编译hadoop-lzo并配置到在Hive服务中。一. 环境准备准...
- 本文为您介绍如何通过快速购买的方式，创建自己专属的大数据集群。 本文为您介绍如何通过快速购买的方式，创建自己专属的大数据集群。
- Presto 开发UDF：在MRS集群上以插件形式添加自定义函数 Presto 开发UDF：在MRS集群上以插件形式添加自定义函数
- MRS 1.8.5及以后的版本，都支持在流式节点上开启LVM特性。LVM特性能有效防止kafka多磁盘场景下topic中因为数据不均导致某个partition流量特别大进而磁盘被写爆。同时开启LVM以后可以做到不重启系统、服务或组件的情况下实现磁盘平滑扩容，保证业务的连续性。下面我就介绍一下如何在开启了LVM的节点上实现Kafka的磁盘扩容操作。1. 购买云硬盘并挂载。a) ... MRS 1.8.5及以后的版本，都支持在流式节点上开启LVM特性。LVM特性能有效防止kafka多磁盘场景下topic中因为数据不均导致某个partition流量特别大进而磁盘被写爆。同时开启LVM以后可以做到不重启系统、服务或组件的情况下实现磁盘平滑扩容，保证业务的连续性。下面我就介绍一下如何在开启了LVM的节点上实现Kafka的磁盘扩容操作。1. 购买云硬盘并挂载。a) ...
- yarn还有资源，为什么我任务启动更多的container； yarn队列资源为什么能使用到200%，超过限制使用值； yarn还有资源，但是提交任务一直处于Pending状态； yarn还有资源，为什么我任务启动更多的container； yarn队列资源为什么能使用到200%，超过限制使用值； yarn还有资源，但是提交任务一直处于Pending状态；
- 本文介绍 rpm 包，jar 包，tar 包 查看、解压方式， 可以在不解压压缩包的情况下，查看压缩包内的内容 本文介绍 rpm 包，jar 包，tar 包 查看、解压方式， 可以在不解压压缩包的情况下，查看压缩包内的内容
- 本文介绍Hadoop 文件系统的基本操作，主要涉及 往Hadoop大数据集群拷文件，下载文件到本地，文件查看，创建等。 本文介绍Hadoop 文件系统的基本操作，主要涉及 往Hadoop大数据集群拷文件，下载文件到本地，文件查看，创建等。
- 操作场景： Flume消费kafka数据存储到HBase中。前提条件： 已创建混合集群或者流式和分析集群（集群间网络互通，如果开启kerberos，则需配置跨集群互信https://support.huaweicloud.com/usermanual-mrs/mrs_01_0354.html）。操作步骤： 1. 从HBase客户端拷贝配置文件hbase-site.xml到F... 操作场景： Flume消费kafka数据存储到HBase中。前提条件： 已创建混合集群或者流式和分析集群（集群间网络互通，如果开启kerberos，则需配置跨集群互信https://support.huaweicloud.com/usermanual-mrs/mrs_01_0354.html）。操作步骤： 1. 从HBase客户端拷贝配置文件hbase-site.xml到F...
- MRS HADOOP/SPARK 代码访问OBS方式介绍1 背景描述：MRS样例代码没有介绍如何访问OBS，在默认情况下使用的文件系统都是HDFS；如果访问OBS需要添加一些配置，代码使用过程中也有一些需要注意的地方2 配置OBS相关参数：需要在客户端配置文件core-site.xml里面添加以下参数：<property> <name>fs.obs.access.k... MRS HADOOP/SPARK 代码访问OBS方式介绍1 背景描述：MRS样例代码没有介绍如何访问OBS，在默认情况下使用的文件系统都是HDFS；如果访问OBS需要添加一些配置，代码使用过程中也有一些需要注意的地方2 配置OBS相关参数：需要在客户端配置文件core-site.xml里面添加以下参数：<property> <name>fs.obs.access.k...
- 本文将为大家带来Python连接presto开源的两个实践案例。 本文将为大家带来Python连接presto开源的两个实践案例。
- 本文简要介绍Hive基础知识，包括应用场景、架构、数据存储模型、编译流程等。 本文简要介绍Hive基础知识，包括应用场景、架构、数据存储模型、编译流程等。
- vi 是 linux 系统中自带的文本编辑器 vi 是 linux 系统中自带的文本编辑器
上滑加载中
推荐直播
-
2024创原会年度技术峰会2024/12/20 周五 09:00-12:00
华为云讲师团
2024创原会年度技术峰会将于12月20日在海南万宁石梅湾威斯汀酒店举办，本次大会将以“智能・进化”为主题探讨从Cloud Native到AI Native的新阶段企业如何通过AI技术重塑企业应用，围绕AI如何在千行万业落地进行深入交流，探索可以先行先试先成功的创新场景和实现路径。
回顾中 -
华为云开发者日·2024年度创享峰会2024/12/23 周一 14:00-16:00
华为云讲师团
华为云开发者日HDC.Cloud Day是面向全球开发者的旗舰活动，汇聚来自千行百业、高校及科研院所的开发人员。致力于打造开发者专属的技术盛宴，全方位服务与赋能开发者围绕华为云生态“知、学、用、创、商”的成长路径。通过前沿的技术分享、场景化的动手体验、优秀的应用创新推介，为开发者提供沉浸式学习与交流平台。开放创新，与开发者共创、共享、共赢未来。
去报名 -
GaussDB管理平台TPOPS，DBA高效运维的一站式解决方案2024/12/24 周二 16:30-18:00
Leo 华为云数据库DTSE技术布道师
数据库的复杂运维，是否让你感到头疼不已？今天，华为云GaussDB管理平台将彻底来改观！本期直播，我们将深入探索GaussDB管理平台的TPOPS功能，带你感受一键式部署安装的便捷，和智能化运维管理的高效，让复杂的运维、管理变得简单，让简单变得可靠。
去报名
热门标签