- 最近经常有人问到，map阶段container运行时怎么找到具体Task运行的JVM进程1.首先在任务页面点击map，点击log，可以找到对应的containerID2.在map界面，找到container运行的主机节点3.去相应的节点执行ps -ef|grep container_e02_1568949488640_0036_01_000002可以看出，结果有三个进程，那么哪个是对应执行t... 最近经常有人问到，map阶段container运行时怎么找到具体Task运行的JVM进程1.首先在任务页面点击map，点击log，可以找到对应的containerID2.在map界面，找到container运行的主机节点3.去相应的节点执行ps -ef|grep container_e02_1568949488640_0036_01_000002可以看出，结果有三个进程，那么哪个是对应执行t...
- 首先本篇不是讲数据被删除后如何恢复，而是讲表目录被删除，而表异常的处理方法误操作：删除hbase表，有的人不按照正常的处理方式（在hbase shell 先disable 再drop），而是直接在hbase目录下删除表目录的错误做法此种做法导致，shell中list能查到此表，实际上scan会报错，并且重启hbase后会导致region无法上线处理步骤：1.在任意RegionServer的目... 首先本篇不是讲数据被删除后如何恢复，而是讲表目录被删除，而表异常的处理方法误操作：删除hbase表，有的人不按照正常的处理方式（在hbase shell 先disable 再drop），而是直接在hbase目录下删除表目录的错误做法此种做法导致，shell中list能查到此表，实际上scan会报错，并且重启hbase后会导致region无法上线处理步骤：1.在任意RegionServer的目...
- 本文介绍如何使用永洪bi对接华为FusionInsight MRS ClickHouse 本文介绍如何使用永洪bi对接华为FusionInsight MRS ClickHouse
- 本文介绍如何使用永洪bi对接华为FusionInsight MRS HetuEngine 本文介绍如何使用永洪bi对接华为FusionInsight MRS HetuEngine
- 在服务器中，http 服务是最常用的。服务端：package mainimport ( "fmt" "net/http")func main() { http.HandleFunc("/go", myHandler) http.ListenAndServe("127.0.0.1:8000", nil)}func myHandler(w http.ResponseWriter, r *http... 在服务器中，http 服务是最常用的。服务端：package mainimport ( "fmt" "net/http")func main() { http.HandleFunc("/go", myHandler) http.ListenAndServe("127.0.0.1:8000", nil)}func myHandler(w http.ResponseWriter, r *http...
- 7月29日，在2021中国大数据生态产业大会上，由大数据产业生态联盟联合赛迪顾问共同完成的《2021中国大数据产业发展白皮书》正式发布，同时基于白皮书调研结果，组委会权威揭晓“2021中国大数据企业50强”榜单，华为大数据连续六年上榜。这也是业界对华为云FusionInsight在大数据领域持续技术创新、实践应用等方面成绩的再度肯定。 7月29日，在2021中国大数据生态产业大会上，由大数据产业生态联盟联合赛迪顾问共同完成的《2021中国大数据产业发展白皮书》正式发布，同时基于白皮书调研结果，组委会权威揭晓“2021中国大数据企业50强”榜单，华为大数据连续六年上榜。这也是业界对华为云FusionInsight在大数据领域持续技术创新、实践应用等方面成绩的再度肯定。
- Kafka内核对于请求处理各个环节都打了断点，通过断点可以清楚的看到，服务在处理请求各个阶段的耗时，继而指导服务端性能优化。通过Request类，可以详细查看服务端如何计算请求处理各个阶段耗时：// RequstChannel#Requestclass Request(val processor: Int, val context: RequestContext, ... Kafka内核对于请求处理各个环节都打了断点，通过断点可以清楚的看到，服务在处理请求各个阶段的耗时，继而指导服务端性能优化。通过Request类，可以详细查看服务端如何计算请求处理各个阶段耗时：// RequstChannel#Requestclass Request(val processor: Int, val context: RequestContext, ...
- 关系数据库的数据入湖，有多种场景、多种工具、多种入湖时效要求等，本文梳理相关场景，以及对应的建议方案。 关系数据库的数据入湖，有多种场景、多种工具、多种入湖时效要求等，本文梳理相关场景，以及对应的建议方案。
- 大数据集群的物理机部署形态，相对于公有云/混合云的云主机部署形态，在自动化发放集群、弹性伸缩等云化场景方面处于劣势，但物理机部署形态的大数据集群能够更加充分高效的利用服务器资源，不存在云化/虚拟化的开销，同时服务器的异构能力更强。 早期交付的很多大数据集群均是物理机部署形态。 针对这些存量大数据集群，以下介绍一种自动化运维管理办法，来提升运维效率、集群资源利用率，降低集群的资源消耗。 大数据集群的物理机部署形态，相对于公有云/混合云的云主机部署形态，在自动化发放集群、弹性伸缩等云化场景方面处于劣势，但物理机部署形态的大数据集群能够更加充分高效的利用服务器资源，不存在云化/虚拟化的开销，同时服务器的异构能力更强。 早期交付的很多大数据集群均是物理机部署形态。 针对这些存量大数据集群，以下介绍一种自动化运维管理办法，来提升运维效率、集群资源利用率，降低集群的资源消耗。
- 1 获取并安装巡检工具1.1 安装说明1、此方法适用于所有的线上版本（HCS\HCSO\HC等）。2、2020.9.30 发布版本，将工具已经集成到了产品的镜像中，新安装环境可以进入沙箱内的/opt/dws/opstool/ 目录下，因此可以不需要安装，进入沙箱中/opt/dws/opstool/目录，直接执行gs_check命令即可；升级上来的集群，因为不会重新安装镜像，所以沙箱内的/op... 1 获取并安装巡检工具1.1 安装说明1、此方法适用于所有的线上版本（HCS\HCSO\HC等）。2、2020.9.30 发布版本，将工具已经集成到了产品的镜像中，新安装环境可以进入沙箱内的/opt/dws/opstool/ 目录下，因此可以不需要安装，进入沙箱中/opt/dws/opstool/目录，直接执行gs_check命令即可；升级上来的集群，因为不会重新安装镜像，所以沙箱内的/op...
- HetuEngine支持查询hive递归目录外部表需要添加参数hive.recursive-directories = true HetuEngine支持查询hive递归目录外部表需要添加参数hive.recursive-directories = true
- 现象：在向HetuEngine提交某些长sql在提交任务时报“Request Header Fields Too Large”java.sql.SQLException: Error executing query at io.prestosql.jdbc.PrestoStatement.internalExecute(PrestoStatement.java:274) ... 现象：在向HetuEngine提交某些长sql在提交任务时报“Request Header Fields Too Large”java.sql.SQLException: Error executing query at io.prestosql.jdbc.PrestoStatement.internalExecute(PrestoStatement.java:274) ...
- 概述 程序在运行过程中，需要使用最小化权限进行控制，以符合安全规范，所以一般程序都是以普通用户调用起来使用。有些时候，程序需要完成只有root权限才能完成的任务，这个时候就需要来使用sudo来达成目的。 不使用su命令切换到root来达成目的的原因是：如果这么使用，一方面容易导致root密码管理问题(比如修改后需要通知应用程序，应用程序存储root密码也容易泄露)。... 概述 程序在运行过程中，需要使用最小化权限进行控制，以符合安全规范，所以一般程序都是以普通用户调用起来使用。有些时候，程序需要完成只有root权限才能完成的任务，这个时候就需要来使用sudo来达成目的。 不使用su命令切换到root来达成目的的原因是：如果这么使用，一方面容易导致root密码管理问题(比如修改后需要通知应用程序，应用程序存储root密码也容易泄露)。...
- 【问题现象】集群安装完成后，界面频繁上报Manager主备倒换告警，根据现场工程师反馈每间隔1-2小时会发生一次主备倒换，短暂性导致界面异常，无法进行运维监控操作，如下所示：【可能原因】1、httpd服务异常2、pms资源异常3、底层软件异常4、其他原因等【分析过程】1、主备OMS发生倒换，优先看主备oms的ha.log日志《日志路径：/var/log/Bigdata/omm/oms/ha/... 【问题现象】集群安装完成后，界面频繁上报Manager主备倒换告警，根据现场工程师反馈每间隔1-2小时会发生一次主备倒换，短暂性导致界面异常，无法进行运维监控操作，如下所示：【可能原因】1、httpd服务异常2、pms资源异常3、底层软件异常4、其他原因等【分析过程】1、主备OMS发生倒换，优先看主备oms的ha.log日志《日志路径：/var/log/Bigdata/omm/oms/ha/...
- Flume, Source, Sink, Kafka Flume, Source, Sink, Kafka
上滑加载中
推荐直播
-
AI编码实干派，“码”力全开2026/02/26 周四 15:00-16:30
谈宗玮/于邦旭/丁俊卿/陈云亮/王一男
【中国，深圳，2026年2月26日】，以“AI编码实干派，码力全开”为主题的华为云码道（CodeArts）代码智能体新春发布会在线上成功召开。华为云码道公测版正式发布，为开发者和企业提供具备工程化能力的智能编码解决方案。
回顾中 -
华为云码道-玩转OpenClaw，在线养虾2026/03/11 周三 19:00-21:00
刘昱，华为云高级工程师/谈心，华为云技术专家/李海仑，上海圭卓智能科技有限公司CEO
OpenClaw 火爆开发者圈，华为云码道最新推出 Skill ——开发者只需输入一句口令，即可部署一个功能完整的「小龙虾」智能体。直播带你玩转华为云码道，玩转OpenClaw
回顾中 -
华为云码道-AI时代应用开发利器2026/03/18 周三 19:00-20:00
童得力，华为云开发者生态运营总监/姚圣伟，华为云HCDE开发者专家
本次直播由华为专家带你实战应用开发，看华为云码道(CodeArts)代码智能体如何在AI时代让你的创意应用快速落地。更有华为云HCDE开发者专家带你用码道玩转JiuwenClaw，让小艺成为你的AI助理。
回顾中
热门标签