- 每台虚拟机的系统盘磁盘空间很小,务必要把数据盘格式化挂载使用,防止系统盘被写爆。建议分为两个分区/opt和/srv/BigData其中:/opt: 程序安装目录,/srv/BigData数据目录操作步骤:1. 执行fdisk -l查询磁盘列表2. 执行fdisk /dev/vdb进入磁盘3. 依次执行如下命令,创建两个磁盘分区,建议/opt分区150GB,其余给/srv/BigData,命令... 每台虚拟机的系统盘磁盘空间很小,务必要把数据盘格式化挂载使用,防止系统盘被写爆。建议分为两个分区/opt和/srv/BigData其中:/opt: 程序安装目录,/srv/BigData数据目录操作步骤:1. 执行fdisk -l查询磁盘列表2. 执行fdisk /dev/vdb进入磁盘3. 依次执行如下命令,创建两个磁盘分区,建议/opt分区150GB,其余给/srv/BigData,命令...
- · mor表upsert, 第一次纯新增数据第二次纯更新数据,两次消费速率基本一致。 用例设计有问题,数据量过小体现不出差异,正常mor表在跟新时速度快于cow表。· 控制spark streaming每次消费数据量 设置参数conf.set("spark.streaming.kafka.maxRatePerPartition",maxRatePerPartition);c... · mor表upsert, 第一次纯新增数据第二次纯更新数据,两次消费速率基本一致。 用例设计有问题,数据量过小体现不出差异,正常mor表在跟新时速度快于cow表。· 控制spark streaming每次消费数据量 设置参数conf.set("spark.streaming.kafka.maxRatePerPartition",maxRatePerPartition);c...
- Hive列统计信息Hive的列统计信息记录了Hive表字段的元信息,根据字段类型的不同,统计的元信息也是稍有差异的。本文讲述两种常用的字段类型,int和string。int类型有4个统计信息,分别是:min、max、num_nulls、distinct_count;string类型也有4个统计信息,分别是: num_nulls、distinct_count、avg_col_len、max_c... Hive列统计信息Hive的列统计信息记录了Hive表字段的元信息,根据字段类型的不同,统计的元信息也是稍有差异的。本文讲述两种常用的字段类型,int和string。int类型有4个统计信息,分别是:min、max、num_nulls、distinct_count;string类型也有4个统计信息,分别是: num_nulls、distinct_count、avg_col_len、max_c...
- 故障现象集群监控信息,页面无数据显示。优先级低故障影响无法显示监控数据。可能原因controller的配置*.apigateway 未配置,导致新下发的集群缺少InitDms.json 老版本升级时,checklist中不部署dms-agent或者注册apigateway失败都会导致页面无数据预计处理时长2h处理思路老版本升级时,checklist中不部署dms-agent或者注册apiga... 故障现象集群监控信息,页面无数据显示。优先级低故障影响无法显示监控数据。可能原因controller的配置*.apigateway 未配置,导致新下发的集群缺少InitDms.json 老版本升级时,checklist中不部署dms-agent或者注册apigateway失败都会导致页面无数据预计处理时长2h处理思路老版本升级时,checklist中不部署dms-agent或者注册apiga...
- Loader是在开源Sqoop组件的基础上进行了一些扩展,实现MRS与关系型数据库、文件系统之间交换“数据”、“文件”,同时也可以将数据从关系型数据库或者文件服务器导入到HDFS/HBase中,或者反过来从HDFS/HBase导出到关系型数据库或者文件服务器中。 Loader是在开源Sqoop组件的基础上进行了一些扩展,实现MRS与关系型数据库、文件系统之间交换“数据”、“文件”,同时也可以将数据从关系型数据库或者文件服务器导入到HDFS/HBase中,或者反过来从HDFS/HBase导出到关系型数据库或者文件服务器中。
- Power BI工具对接HetuEngine1 适用版本MRS 811、MRS 8122 预制条件MRS集群各组件运行正常。Power BI工具包(exe)已下载至本地,软件下载地址:https://powerbi.microsoft.com/zh-cn/getting-started-with-power-bi/ 下载连接HetuEngine驱动包,下载地址:https... Power BI工具对接HetuEngine1 适用版本MRS 811、MRS 8122 预制条件MRS集群各组件运行正常。Power BI工具包(exe)已下载至本地,软件下载地址:https://powerbi.microsoft.com/zh-cn/getting-started-with-power-bi/ 下载连接HetuEngine驱动包,下载地址:https...
- Clickhouse 副本节点之间通过Zookeeper 的log数据和其他控制信息,实现了副本间数据的异步同步。本文中简单介绍插入数据后副本之间同步流程。 Clickhouse 副本节点之间通过Zookeeper 的log数据和其他控制信息,实现了副本间数据的异步同步。本文中简单介绍插入数据后副本之间同步流程。
- 说明 在HCS场景下,MRS安装部署依赖自动化安装框架HCSD,本文档介绍了通过HCSD安装MRS管理面的步骤和操作说明。操作准备已安装配套的HCSD工具并以获取相关信息;已按照软件包下载列表下载配套的MRS软件包并上传至HCSD工具指定路径/home/pkg路径下;已获取环境配套版本账号一览表;操作步骤使用admin账号密码登录HCSD前台页面;在页眉处单击“工程管理 -- 工程列表”进... 说明 在HCS场景下,MRS安装部署依赖自动化安装框架HCSD,本文档介绍了通过HCSD安装MRS管理面的步骤和操作说明。操作准备已安装配套的HCSD工具并以获取相关信息;已按照软件包下载列表下载配套的MRS软件包并上传至HCSD工具指定路径/home/pkg路径下;已获取环境配套版本账号一览表;操作步骤使用admin账号密码登录HCSD前台页面;在页眉处单击“工程管理 -- 工程列表”进...
- 在MRS集群使用过程中,业务场景的变化往往需要部署新的服务来满足业务侧的需求。为了能灵活调整已有集群部署的服务,MRS提供了添加、删除服务的能力。 在MRS集群使用过程中,业务场景的变化往往需要部署新的服务来满足业务侧的需求。为了能灵活调整已有集群部署的服务,MRS提供了添加、删除服务的能力。
- 在MRS集群使用过程中,存在单AZ至多AZ集群手动改造、节点硬件故障更换等使用需求场景,固MRS管理侧提供对主机进行跨AZ重装的能力支撑。 在MRS集群使用过程中,存在单AZ至多AZ集群手动改造、节点硬件故障更换等使用需求场景,固MRS管理侧提供对主机进行跨AZ重装的能力支撑。
- 日常巡检的目的是减少系统隐患,确保系统能够长期安全、稳定、可靠地运行,降低维护成本,确保系统进行正常的业务处理。华为云Stack的日常巡检,以检查告警、使用FusionCare工具巡检为主。 日常巡检的目的是减少系统隐患,确保系统能够长期安全、稳定、可靠地运行,降低维护成本,确保系统进行正常的业务处理。华为云Stack的日常巡检,以检查告警、使用FusionCare工具巡检为主。
- 1) XSS常见攻击类型1.1 反射型XSS(Reflected XSS Attacks)反射型XSS简单的把带有恶意代码的链接“反射”给浏览器。简单讲,就是链接中存在恶意代码,当受害者请求这样的链接时,恶意代码经过服务端“反射”回来,反射型XSS的恶意代码通常不会存储到服务端,因此也叫“非持久型XSS”。反射型XSS常见的攻击步骤如下:攻击者... 1) XSS常见攻击类型1.1 反射型XSS(Reflected XSS Attacks)反射型XSS简单的把带有恶意代码的链接“反射”给浏览器。简单讲,就是链接中存在恶意代码,当受害者请求这样的链接时,恶意代码经过服务端“反射”回来,反射型XSS的恶意代码通常不会存储到服务端,因此也叫“非持久型XSS”。反射型XSS常见的攻击步骤如下:攻击者...
- DN/GTM switchover告警 DN/GTM switchover告警
- DN redo慢告警 DN redo慢告警
- 在大规模集群扩容场景下,扩容流程容易受到网络,系统配置,底层资源等影响,造成扩容流程失败,特别是HCS形态下,所有新加机器都是搭建入云的,可靠性和正确性并未得到充分验证。一键式操作可能导致高概率回滚,而且时间较长,影响扩容窗口,DWS产品推出分段扩容功能,将扩容步骤进行添加节点、扩容、重分布的三段拆分,可独立操作和容错重试,提高大规模集群扩容的容错能力,降低扩容的时间成本。 在大规模集群扩容场景下,扩容流程容易受到网络,系统配置,底层资源等影响,造成扩容流程失败,特别是HCS形态下,所有新加机器都是搭建入云的,可靠性和正确性并未得到充分验证。一键式操作可能导致高概率回滚,而且时间较长,影响扩容窗口,DWS产品推出分段扩容功能,将扩容步骤进行添加节点、扩容、重分布的三段拆分,可独立操作和容错重试,提高大规模集群扩容的容错能力,降低扩容的时间成本。
上滑加载中
推荐直播
-
AI编码实干派,“码”力全开2026/02/26 周四 15:00-16:30
谈宗玮/于邦旭/丁俊卿/陈云亮/王一男
【中国,深圳,2026年2月26日】,以“AI编码实干派,码力全开”为主题的华为云码道(CodeArts)代码智能体新春发布会在线上成功召开。华为云码道公测版正式发布,为开发者和企业提供具备工程化能力的智能编码解决方案。
回顾中 -
华为云码道-玩转OpenClaw,在线养虾2026/03/11 周三 19:00-21:00
刘昱,华为云高级工程师/谈心,华为云技术专家/李海仑,上海圭卓智能科技有限公司CEO
OpenClaw 火爆开发者圈,华为云码道最新推出 Skill ——开发者只需输入一句口令,即可部署一个功能完整的「小龙虾」智能体。直播带你玩转华为云码道,玩转OpenClaw
回顾中 -
华为云码道-AI时代应用开发利器2026/03/18 周三 19:00-20:00
童得力,华为云开发者生态运营总监/姚圣伟,华为云HCDE开发者专家
本次直播由华为专家带你实战应用开发,看华为云码道(CodeArts)代码智能体如何在AI时代让你的创意应用快速落地。更有华为云HCDE开发者专家带你用码道玩转JiuwenClaw,让小艺成为你的AI助理。
回顾中
热门标签