- 1. 测试使用各软件版本说明1) MRS 2.1.0 安全集群(开启kerberos)2) ECS (Windows Server 2016标准版 64位) ,需和MRS集群网络互通3) DBeaver版本7.1.4 64bit下载地址:https://dbeaver.io/download/4) MIT版本4.1 64bit下载地址:https://web.mit.ed... 1. 测试使用各软件版本说明1) MRS 2.1.0 安全集群(开启kerberos)2) ECS (Windows Server 2016标准版 64位) ,需和MRS集群网络互通3) DBeaver版本7.1.4 64bit下载地址:https://dbeaver.io/download/4) MIT版本4.1 64bit下载地址:https://web.mit.ed...
- 本文主要FusionInsight LLD使用流程以及常见使用函数和LLD工具生成的配置文件做了简单整理介绍,对LLD开发过程常见的问题进行了简单总结,使大家对LLD配置工具有个整体了解。 本文主要FusionInsight LLD使用流程以及常见使用函数和LLD工具生成的配置文件做了简单整理介绍,对LLD开发过程常见的问题进行了简单总结,使大家对LLD配置工具有个整体了解。
- MRS flink官网样例的补充,实现flink读取hbase数据,然后写入hbase MRS flink官网样例的补充,实现flink读取hbase数据,然后写入hbase
- 本文介绍如何控制impala并发度 本文介绍如何控制impala并发度
- impala之前同步元数据需要手动操作,invalidate metadata或者refresh,通过非impala修改数据时,impala无法感知。本文介绍配置impala自动同步元数据的方法,提高impala的易用性。 impala之前同步元数据需要手动操作,invalidate metadata或者refresh,通过非impala修改数据时,impala无法感知。本文介绍配置impala自动同步元数据的方法,提高impala的易用性。
- Elasticsearch 在对大批量数据进行统计、聚合等操作时,性能较差。在大批量数据下的统计、聚合、排序等场景,可借助 Spark 提升运算性能。 Elasticsearch 在对大批量数据进行统计、聚合等操作时,性能较差。在大批量数据下的统计、聚合、排序等场景,可借助 Spark 提升运算性能。
- MRS spark官网样例的补充,实现Kerberos认证集群SparkStreaming对接kafka写入hbase MRS spark官网样例的补充,实现Kerberos认证集群SparkStreaming对接kafka写入hbase
- 依赖第三方库的Pysaprk程序在MRS集群以--master yarn模式运行主要有两种方案:1.在mrs集群的所有core节点,以及提交任务的节点(通常为mrs的master节点),均安装python3.6以及相关的第三方依赖并且指定pyspark使用的python路径;2.在任务提交节点(通常为mrs的master节点)安装Anaconda3,并在Anaconda3中安装python3.6以 依赖第三方库的Pysaprk程序在MRS集群以--master yarn模式运行主要有两种方案:1.在mrs集群的所有core节点,以及提交任务的节点(通常为mrs的master节点),均安装python3.6以及相关的第三方依赖并且指定pyspark使用的python路径;2.在任务提交节点(通常为mrs的master节点)安装Anaconda3,并在Anaconda3中安装python3.6以
- MapReduce服务(MapReduce Service,简称MRS)是华为云提供的企业级大数据集群云服务,里面包含HDFS、Hive、Spark等组件,非常实用于企业海量数据分析。Hive是建立在Hadoop之上的提供类SQL查询语言,帮助用户对大规模的数据进行提取、转换和加载,即通常所称的ETL(Extraction,Transformation,and Loading)操作。对庞大的数据集 MapReduce服务(MapReduce Service,简称MRS)是华为云提供的企业级大数据集群云服务,里面包含HDFS、Hive、Spark等组件,非常实用于企业海量数据分析。Hive是建立在Hadoop之上的提供类SQL查询语言,帮助用户对大规模的数据进行提取、转换和加载,即通常所称的ETL(Extraction,Transformation,and Loading)操作。对庞大的数据集
- 本文对MRS服务中所涉及到的HDFS服务的基本概念、常用命令以及大体原理进行了简单概括总结,目的在于帮助大家对HDFS有个全面认识与了解。 本文对MRS服务中所涉及到的HDFS服务的基本概念、常用命令以及大体原理进行了简单概括总结,目的在于帮助大家对HDFS有个全面认识与了解。
- StarRocks 是一款高性能分析型数据仓库,使用向量化、MPP 架构、CBO、智能物化视图、可实时更新的列式存储引擎等技术实现多维、实时、高并发的数据分析。StarRocks 既支持从各类实时和离线的数据源高效导入数据,也支持直接分析数据湖上各种格式的数据。StarRocks 兼容 MySQL 协议,可使用 MySQL 客户端和常用 BI 工具对接。 StarRocks 是一款高性能分析型数据仓库,使用向量化、MPP 架构、CBO、智能物化视图、可实时更新的列式存储引擎等技术实现多维、实时、高并发的数据分析。StarRocks 既支持从各类实时和离线的数据源高效导入数据,也支持直接分析数据湖上各种格式的数据。StarRocks 兼容 MySQL 协议,可使用 MySQL 客户端和常用 BI 工具对接。
- 在分布式系统中负载均衡是一个非常重要的功能,Apache HBase通常通过Region的数量实现负载均衡,本文将展开分析HBase负载均衡中SimpleLoadBalancer相关内容。 在分布式系统中负载均衡是一个非常重要的功能,Apache HBase通常通过Region的数量实现负载均衡,本文将展开分析HBase负载均衡中SimpleLoadBalancer相关内容。
- ClickHouse是一款开源的面向联机分析处理的列式数据库,具有极致的压缩率和极速查询性能。ClickHouse支持SQL查询,基于大宽表的聚合分析查询性能非常优异,在特定场景下ClickHouse也具备较优的join性能。本文将介绍业界MPP分布式数据库join查询模型,以及ClickHouse的分布式查询原理解析和Colocate join性能表现。 ClickHouse是一款开源的面向联机分析处理的列式数据库,具有极致的压缩率和极速查询性能。ClickHouse支持SQL查询,基于大宽表的聚合分析查询性能非常优异,在特定场景下ClickHouse也具备较优的join性能。本文将介绍业界MPP分布式数据库join查询模型,以及ClickHouse的分布式查询原理解析和Colocate join性能表现。
- 1、建表语句:建表语句可以参考下图所示,可以用默认参数建表或者设置某些属性(例如:VERSIONS、TTL),另外建表时候可以预分Region(比如设置SPLITS等)。Create a table with namespace=ns1 and table qualifier=t1 hbase> create 'ns1:t1', {NAME => 'f1', VERSIONS => 5}C... 1、建表语句:建表语句可以参考下图所示,可以用默认参数建表或者设置某些属性(例如:VERSIONS、TTL),另外建表时候可以预分Region(比如设置SPLITS等)。Create a table with namespace=ns1 and table qualifier=t1 hbase> create 'ns1:t1', {NAME => 'f1', VERSIONS => 5}C...
- DistCp(分布式拷贝)是用于大规模集群内部和集群之间拷贝的工具。 它使用Map/Reduce实现文件分发,错误处理和恢复,以及报告生成。 它把文件和目录的列表作为map任务的输入,每个任务会完成源列表中部分文件的拷贝。 DistCp(分布式拷贝)是用于大规模集群内部和集群之间拷贝的工具。 它使用Map/Reduce实现文件分发,错误处理和恢复,以及报告生成。 它把文件和目录的列表作为map任务的输入,每个任务会完成源列表中部分文件的拷贝。
上滑加载中
推荐直播
-
昇腾AI算法挑战赛-核心算子如何优化?专家带你深度解析2025/11/17 周一 16:00-17:00
王老师 华为算子专家
昇腾AI算法挑战赛进阶赛战鼓催征!本期直播间,我们特邀华为算子专家王老师,为你深度剖析Matmul、wholereducesum等核心算子的底层原理与优化技巧,直击赛题核心。想提升代码效率、冲击更高排名?锁定直播,带你破局!
回顾中 -
AI编码实干派,“码”力全开2026/02/26 周四 15:00-16:30
谈宗玮/于邦旭/丁俊卿/陈云亮/王一男
【中国,深圳,2026年2月26日】,以“AI编码实干派,码力全开”为主题的华为云码道(CodeArts)代码智能体新春发布会在线上成功召开。华为云码道公测版正式发布,为开发者和企业提供具备工程化能力的智能编码解决方案。
回顾中 -
华为云码道-玩转OpenClaw,开启在线养虾模式2026/03/11 周三 19:00-20:00
刘昱,华为云高级工程师/谈心,华为云技术专家/李海仑,上海圭卓智能科技有限公司CEO
OpenClaw 火爆开发者圈,华为云码道最新推出 Skill ——开发者只需输入一句口令,即可部署一个功能完整的「小龙虾」智能体。直播带你玩转华为云码道,玩转OpenClaw
回顾中
热门标签