- 1. Poller锁优化详细设计1.1外部接口介绍CleanConnection、pg_pooler_status、pv_total_memory_detail、pgxc_pool_reload、pg_pool_validate等pooler相关函数视图在内部实现上均有修改,但未修改接口对外表征及具体语义。1.2 空闲连接的无锁存取数据结构设计图 1‑1 空闲连接存储数据结构(优化前)图 ... 1. Poller锁优化详细设计1.1外部接口介绍CleanConnection、pg_pooler_status、pv_total_memory_detail、pgxc_pool_reload、pg_pool_validate等pooler相关函数视图在内部实现上均有修改,但未修改接口对外表征及具体语义。1.2 空闲连接的无锁存取数据结构设计图 1‑1 空闲连接存储数据结构(优化前)图 ...
- 多路IO复用是一种同步IO模型,实现一个线程可以监视多个文件句柄;一旦某个文件句柄就绪,就能够通知应用程序进行相应的读写操作;没有文件句柄就绪时会阻塞应用程序,交出cpu。多路是指网络连接,复用指的是同一个线程。多路IO复用共有三种实现模式:selectpollepoll1、select1.1 select进行IO复用原理当一个客户端连接上服务器时,服务器就将其连接的fd加入fd_set集合... 多路IO复用是一种同步IO模型,实现一个线程可以监视多个文件句柄;一旦某个文件句柄就绪,就能够通知应用程序进行相应的读写操作;没有文件句柄就绪时会阻塞应用程序,交出cpu。多路是指网络连接,复用指的是同一个线程。多路IO复用共有三种实现模式:selectpollepoll1、select1.1 select进行IO复用原理当一个客户端连接上服务器时,服务器就将其连接的fd加入fd_set集合...
- 为保障业务系统高效运行,降低额外的资源损耗,建议定期对运行在GaussDB(DWS)集群上的业务脚本进行排查,并及时对低效业务脚本进行识别和优化,避免系统运行卡顿或资源过度使用。因此,需要增强低效业务脚本的排查和校验,及时识别出耗时、高频等需优化的低效SQL,并进行整改,为生产业务运行增加一道防护网。 为保障业务系统高效运行,降低额外的资源损耗,建议定期对运行在GaussDB(DWS)集群上的业务脚本进行排查,并及时对低效业务脚本进行识别和优化,避免系统运行卡顿或资源过度使用。因此,需要增强低效业务脚本的排查和校验,及时识别出耗时、高频等需优化的低效SQL,并进行整改,为生产业务运行增加一道防护网。
- 在项目交付中会遇到针对JSON类型解析的场景,例如key值获取value,当前GaussDB(DWS)不支持(需求已规划),针对该场景可参考本文方法实现,实际使用过程中可按照注释内容按需调整。 在项目交付中会遇到针对JSON类型解析的场景,例如key值获取value,当前GaussDB(DWS)不支持(需求已规划),针对该场景可参考本文方法实现,实际使用过程中可按照注释内容按需调整。
- 当用户需要将保存在HDFS中的数据从当前集群备份到另外一个集群时,需要使用DistCp工具。DistCp工具依赖于集群间拷贝功能,该功能默认未启用。拷贝数据的集群双方都需要配置。管理员可以根据以下指导,在FusionInsight Manager修改参数以启用集群间拷贝功能 当用户需要将保存在HDFS中的数据从当前集群备份到另外一个集群时,需要使用DistCp工具。DistCp工具依赖于集群间拷贝功能,该功能默认未启用。拷贝数据的集群双方都需要配置。管理员可以根据以下指导,在FusionInsight Manager修改参数以启用集群间拷贝功能
- HetuEngine查询非本集群的Hive数据,由于使用了“hive.force-local-scheduling=true“参数,导致查询无法被HetuEnigne调度执行。 HetuEngine查询非本集群的Hive数据,由于使用了“hive.force-local-scheduling=true“参数,导致查询无法被HetuEnigne调度执行。
- 在分布式场景下,导致性能问题的因素非常之多,包括但不限于硬件故障(慢盘等)、OS配置、集群故障(不均衡等)、软硬件问题(网卡加固等)、系统资源瓶颈、资源竞争、排队、重试等等。本文主要探讨对于性能问题如何快速切入,并总结出一份套路供大家参考。 在分布式场景下,导致性能问题的因素非常之多,包括但不限于硬件故障(慢盘等)、OS配置、集群故障(不均衡等)、软硬件问题(网卡加固等)、系统资源瓶颈、资源竞争、排队、重试等等。本文主要探讨对于性能问题如何快速切入,并总结出一份套路供大家参考。
- WebHcat样例代码Hive提供了WebHcat接口。该文档利用java把该接口进行了封装,可以使用java代码访问Hive。代码中只封装了一些常用接口,对于没有其他的接口,可以参考封装好的代码自行进行封装。1.1 主要难点:因hive的webHcat接口未提供认证接口,我们这边只能借助spnego的方式来进行kerberos认证。首先,先进行kerberos认证。认证完成后,获... WebHcat样例代码Hive提供了WebHcat接口。该文档利用java把该接口进行了封装,可以使用java代码访问Hive。代码中只封装了一些常用接口,对于没有其他的接口,可以参考封装好的代码自行进行封装。1.1 主要难点:因hive的webHcat接口未提供认证接口,我们这边只能借助spnego的方式来进行kerberos认证。首先,先进行kerberos认证。认证完成后,获...
- 监控指标是查看集群的各个指标性能是否正常,查看集群实例节点是否异常。在集群上做业务操作,用户需要查看集群的监控指标信息时,可以通过云监控服务确认集群的各项指标情况,通过监控集群运行时的各项指标,用户可以识别出数据库集群状态异常的时间段,然后在数据库日志中,分析可能存在问题的活动,从而优化数据库性能。 监控指标是查看集群的各个指标性能是否正常,查看集群实例节点是否异常。在集群上做业务操作,用户需要查看集群的监控指标信息时,可以通过云监控服务确认集群的各项指标情况,通过监控集群运行时的各项指标,用户可以识别出数据库集群状态异常的时间段,然后在数据库日志中,分析可能存在问题的活动,从而优化数据库性能。
- 针对项目交付过程中遇到的List行转列的场景,GaussDB(DWS)提供regexp_split_to_table函数实现,本文进行详细介绍。 针对项目交付过程中遇到的List行转列的场景,GaussDB(DWS)提供regexp_split_to_table函数实现,本文进行详细介绍。
- 在项目交付中,客户经常会提出一些关于分区表TTL管理的需求,例如保留最近30天的分区数据,并实现分区自增和过期分区删除的场景,当前GaussDB(DWS)不支持,针对该场景可参考本文方法实现GaussDB(DWS)分区表的TTL管理,针对分区字段为date和timestamp类型,通过DGC或其他周期性调度任务执行管理函数,实现增加分区和删除lifecycle有效期外的分区,实际使用过程中可按照注 在项目交付中,客户经常会提出一些关于分区表TTL管理的需求,例如保留最近30天的分区数据,并实现分区自增和过期分区删除的场景,当前GaussDB(DWS)不支持,针对该场景可参考本文方法实现GaussDB(DWS)分区表的TTL管理,针对分区字段为date和timestamp类型,通过DGC或其他周期性调度任务执行管理函数,实现增加分区和删除lifecycle有效期外的分区,实际使用过程中可按照注
- 聚集操作是SQL语言中除扫描、投影、连接外的另一个常用基本操作,主要用于对海量数据进行分组,然后在组内进行统计计算的场景。在AP场景下,经常面临海量数据处理的场景,而最终用户希望通过海量数据获取汇总信息,聚集操作的使用将更加广泛。本文从基本聚集操作入手,介绍常用的SQL语法,以及一些扩展的聚集功能,同时会讲到在GaussDB(DWS)里聚集相关的一些优化思路。 聚集操作是SQL语言中除扫描、投影、连接外的另一个常用基本操作,主要用于对海量数据进行分组,然后在组内进行统计计算的场景。在AP场景下,经常面临海量数据处理的场景,而最终用户希望通过海量数据获取汇总信息,聚集操作的使用将更加广泛。本文从基本聚集操作入手,介绍常用的SQL语法,以及一些扩展的聚集功能,同时会讲到在GaussDB(DWS)里聚集相关的一些优化思路。
- 无锁队列旨在解决多线程资源争抢时加锁造成的性能慢问题,Gaussdb(DWS)无锁队列已经作为公共组件可以被其他模块调用。相比网络上其他的无锁队列实现,Gaussdb(DWS)无锁队列因为其良好的设计具备了更为出色的性能,据测试,Gaussdb(DWS)无锁队列在性能上优于其他实现3倍以上,如此强大的实现,今天本文就带你一探究竟。一、Gaussdb(DWS)无锁队列数据结构Gaussdb(D... 无锁队列旨在解决多线程资源争抢时加锁造成的性能慢问题,Gaussdb(DWS)无锁队列已经作为公共组件可以被其他模块调用。相比网络上其他的无锁队列实现,Gaussdb(DWS)无锁队列因为其良好的设计具备了更为出色的性能,据测试,Gaussdb(DWS)无锁队列在性能上优于其他实现3倍以上,如此强大的实现,今天本文就带你一探究竟。一、Gaussdb(DWS)无锁队列数据结构Gaussdb(D...
- 对于connector的介绍之前已经讲解,此处就不再详细结果其运行流程和使用方式,而是简单学习下jdbc connector中sink的源码,而由于源码较多因此我们只挑选重点部分进行研究学习。1 JDBCTableSourceSinkFactory:JDBC支持的配置属性参数在flink sql中,所有的connector的使用都是从factory开始的,而factory的创建是通... 对于connector的介绍之前已经讲解,此处就不再详细结果其运行流程和使用方式,而是简单学习下jdbc connector中sink的源码,而由于源码较多因此我们只挑选重点部分进行研究学习。1 JDBCTableSourceSinkFactory:JDBC支持的配置属性参数在flink sql中,所有的connector的使用都是从factory开始的,而factory的创建是通...
- 日常运维过程中,运维人员可以通过硬件(服务器、电源、硬盘)指示灯状态进行巡检,以判断硬件是否存在故障。其中指示灯绿色常亮代表正常状态,其余情况可登录iBMC系统检查是否有告警,并联系硬件工程师定位处理。 日常运维过程中,运维人员可以通过硬件(服务器、电源、硬盘)指示灯状态进行巡检,以判断硬件是否存在故障。其中指示灯绿色常亮代表正常状态,其余情况可登录iBMC系统检查是否有告警,并联系硬件工程师定位处理。
上滑加载中
推荐直播
-
AI编码实干派,“码”力全开2026/02/26 周四 15:00-16:30
谈宗玮/于邦旭/丁俊卿/陈云亮/王一男
【中国,深圳,2026年2月26日】,以“AI编码实干派,码力全开”为主题的华为云码道(CodeArts)代码智能体新春发布会在线上成功召开。华为云码道公测版正式发布,为开发者和企业提供具备工程化能力的智能编码解决方案。
回顾中 -
华为云码道-玩转OpenClaw,在线养虾2026/03/11 周三 19:00-21:00
刘昱,华为云高级工程师/谈心,华为云技术专家/李海仑,上海圭卓智能科技有限公司CEO
OpenClaw 火爆开发者圈,华为云码道最新推出 Skill ——开发者只需输入一句口令,即可部署一个功能完整的「小龙虾」智能体。直播带你玩转华为云码道,玩转OpenClaw
回顾中 -
华为云码道-AI时代应用开发利器2026/03/18 周三 19:00-20:00
童得力,华为云开发者生态运营总监/姚圣伟,华为云HCDE开发者专家
本次直播由华为专家带你实战应用开发,看华为云码道(CodeArts)代码智能体如何在AI时代让你的创意应用快速落地。更有华为云HCDE开发者专家带你用码道玩转JiuwenClaw,让小艺成为你的AI助理。
回顾中
热门标签