- 1. Poller锁优化详细设计1.1外部接口介绍CleanConnection、pg_pooler_status、pv_total_memory_detail、pgxc_pool_reload、pg_pool_validate等pooler相关函数视图在内部实现上均有修改,但未修改接口对外表征及具体语义。1.2 空闲连接的无锁存取数据结构设计图 1‑1 空闲连接存储数据结构(优化前)图 ... 1. Poller锁优化详细设计1.1外部接口介绍CleanConnection、pg_pooler_status、pv_total_memory_detail、pgxc_pool_reload、pg_pool_validate等pooler相关函数视图在内部实现上均有修改,但未修改接口对外表征及具体语义。1.2 空闲连接的无锁存取数据结构设计图 1‑1 空闲连接存储数据结构(优化前)图 ...
- 多路IO复用是一种同步IO模型,实现一个线程可以监视多个文件句柄;一旦某个文件句柄就绪,就能够通知应用程序进行相应的读写操作;没有文件句柄就绪时会阻塞应用程序,交出cpu。多路是指网络连接,复用指的是同一个线程。多路IO复用共有三种实现模式:selectpollepoll1、select1.1 select进行IO复用原理当一个客户端连接上服务器时,服务器就将其连接的fd加入fd_set集合... 多路IO复用是一种同步IO模型,实现一个线程可以监视多个文件句柄;一旦某个文件句柄就绪,就能够通知应用程序进行相应的读写操作;没有文件句柄就绪时会阻塞应用程序,交出cpu。多路是指网络连接,复用指的是同一个线程。多路IO复用共有三种实现模式:selectpollepoll1、select1.1 select进行IO复用原理当一个客户端连接上服务器时,服务器就将其连接的fd加入fd_set集合...
- 为保障业务系统高效运行,降低额外的资源损耗,建议定期对运行在GaussDB(DWS)集群上的业务脚本进行排查,并及时对低效业务脚本进行识别和优化,避免系统运行卡顿或资源过度使用。因此,需要增强低效业务脚本的排查和校验,及时识别出耗时、高频等需优化的低效SQL,并进行整改,为生产业务运行增加一道防护网。 为保障业务系统高效运行,降低额外的资源损耗,建议定期对运行在GaussDB(DWS)集群上的业务脚本进行排查,并及时对低效业务脚本进行识别和优化,避免系统运行卡顿或资源过度使用。因此,需要增强低效业务脚本的排查和校验,及时识别出耗时、高频等需优化的低效SQL,并进行整改,为生产业务运行增加一道防护网。
- 在项目交付中会遇到针对JSON类型解析的场景,例如key值获取value,当前GaussDB(DWS)不支持(需求已规划),针对该场景可参考本文方法实现,实际使用过程中可按照注释内容按需调整。 在项目交付中会遇到针对JSON类型解析的场景,例如key值获取value,当前GaussDB(DWS)不支持(需求已规划),针对该场景可参考本文方法实现,实际使用过程中可按照注释内容按需调整。
- 当用户需要将保存在HDFS中的数据从当前集群备份到另外一个集群时,需要使用DistCp工具。DistCp工具依赖于集群间拷贝功能,该功能默认未启用。拷贝数据的集群双方都需要配置。管理员可以根据以下指导,在FusionInsight Manager修改参数以启用集群间拷贝功能 当用户需要将保存在HDFS中的数据从当前集群备份到另外一个集群时,需要使用DistCp工具。DistCp工具依赖于集群间拷贝功能,该功能默认未启用。拷贝数据的集群双方都需要配置。管理员可以根据以下指导,在FusionInsight Manager修改参数以启用集群间拷贝功能
- HetuEngine查询非本集群的Hive数据,由于使用了“hive.force-local-scheduling=true“参数,导致查询无法被HetuEnigne调度执行。 HetuEngine查询非本集群的Hive数据,由于使用了“hive.force-local-scheduling=true“参数,导致查询无法被HetuEnigne调度执行。
- 在分布式场景下,导致性能问题的因素非常之多,包括但不限于硬件故障(慢盘等)、OS配置、集群故障(不均衡等)、软硬件问题(网卡加固等)、系统资源瓶颈、资源竞争、排队、重试等等。本文主要探讨对于性能问题如何快速切入,并总结出一份套路供大家参考。 在分布式场景下,导致性能问题的因素非常之多,包括但不限于硬件故障(慢盘等)、OS配置、集群故障(不均衡等)、软硬件问题(网卡加固等)、系统资源瓶颈、资源竞争、排队、重试等等。本文主要探讨对于性能问题如何快速切入,并总结出一份套路供大家参考。
- WebHcat样例代码Hive提供了WebHcat接口。该文档利用java把该接口进行了封装,可以使用java代码访问Hive。代码中只封装了一些常用接口,对于没有其他的接口,可以参考封装好的代码自行进行封装。1.1 主要难点:因hive的webHcat接口未提供认证接口,我们这边只能借助spnego的方式来进行kerberos认证。首先,先进行kerberos认证。认证完成后,获... WebHcat样例代码Hive提供了WebHcat接口。该文档利用java把该接口进行了封装,可以使用java代码访问Hive。代码中只封装了一些常用接口,对于没有其他的接口,可以参考封装好的代码自行进行封装。1.1 主要难点:因hive的webHcat接口未提供认证接口,我们这边只能借助spnego的方式来进行kerberos认证。首先,先进行kerberos认证。认证完成后,获...
- 监控指标是查看集群的各个指标性能是否正常,查看集群实例节点是否异常。在集群上做业务操作,用户需要查看集群的监控指标信息时,可以通过云监控服务确认集群的各项指标情况,通过监控集群运行时的各项指标,用户可以识别出数据库集群状态异常的时间段,然后在数据库日志中,分析可能存在问题的活动,从而优化数据库性能。 监控指标是查看集群的各个指标性能是否正常,查看集群实例节点是否异常。在集群上做业务操作,用户需要查看集群的监控指标信息时,可以通过云监控服务确认集群的各项指标情况,通过监控集群运行时的各项指标,用户可以识别出数据库集群状态异常的时间段,然后在数据库日志中,分析可能存在问题的活动,从而优化数据库性能。
- 针对项目交付过程中遇到的List行转列的场景,GaussDB(DWS)提供regexp_split_to_table函数实现,本文进行详细介绍。 针对项目交付过程中遇到的List行转列的场景,GaussDB(DWS)提供regexp_split_to_table函数实现,本文进行详细介绍。
- 在项目交付中,客户经常会提出一些关于分区表TTL管理的需求,例如保留最近30天的分区数据,并实现分区自增和过期分区删除的场景,当前GaussDB(DWS)不支持,针对该场景可参考本文方法实现GaussDB(DWS)分区表的TTL管理,针对分区字段为date和timestamp类型,通过DGC或其他周期性调度任务执行管理函数,实现增加分区和删除lifecycle有效期外的分区,实际使用过程中可按照注 在项目交付中,客户经常会提出一些关于分区表TTL管理的需求,例如保留最近30天的分区数据,并实现分区自增和过期分区删除的场景,当前GaussDB(DWS)不支持,针对该场景可参考本文方法实现GaussDB(DWS)分区表的TTL管理,针对分区字段为date和timestamp类型,通过DGC或其他周期性调度任务执行管理函数,实现增加分区和删除lifecycle有效期外的分区,实际使用过程中可按照注
- 聚集操作是SQL语言中除扫描、投影、连接外的另一个常用基本操作,主要用于对海量数据进行分组,然后在组内进行统计计算的场景。在AP场景下,经常面临海量数据处理的场景,而最终用户希望通过海量数据获取汇总信息,聚集操作的使用将更加广泛。本文从基本聚集操作入手,介绍常用的SQL语法,以及一些扩展的聚集功能,同时会讲到在GaussDB(DWS)里聚集相关的一些优化思路。 聚集操作是SQL语言中除扫描、投影、连接外的另一个常用基本操作,主要用于对海量数据进行分组,然后在组内进行统计计算的场景。在AP场景下,经常面临海量数据处理的场景,而最终用户希望通过海量数据获取汇总信息,聚集操作的使用将更加广泛。本文从基本聚集操作入手,介绍常用的SQL语法,以及一些扩展的聚集功能,同时会讲到在GaussDB(DWS)里聚集相关的一些优化思路。
- 无锁队列旨在解决多线程资源争抢时加锁造成的性能慢问题,Gaussdb(DWS)无锁队列已经作为公共组件可以被其他模块调用。相比网络上其他的无锁队列实现,Gaussdb(DWS)无锁队列因为其良好的设计具备了更为出色的性能,据测试,Gaussdb(DWS)无锁队列在性能上优于其他实现3倍以上,如此强大的实现,今天本文就带你一探究竟。一、Gaussdb(DWS)无锁队列数据结构Gaussdb(D... 无锁队列旨在解决多线程资源争抢时加锁造成的性能慢问题,Gaussdb(DWS)无锁队列已经作为公共组件可以被其他模块调用。相比网络上其他的无锁队列实现,Gaussdb(DWS)无锁队列因为其良好的设计具备了更为出色的性能,据测试,Gaussdb(DWS)无锁队列在性能上优于其他实现3倍以上,如此强大的实现,今天本文就带你一探究竟。一、Gaussdb(DWS)无锁队列数据结构Gaussdb(D...
- 对于connector的介绍之前已经讲解,此处就不再详细结果其运行流程和使用方式,而是简单学习下jdbc connector中sink的源码,而由于源码较多因此我们只挑选重点部分进行研究学习。1 JDBCTableSourceSinkFactory:JDBC支持的配置属性参数在flink sql中,所有的connector的使用都是从factory开始的,而factory的创建是通... 对于connector的介绍之前已经讲解,此处就不再详细结果其运行流程和使用方式,而是简单学习下jdbc connector中sink的源码,而由于源码较多因此我们只挑选重点部分进行研究学习。1 JDBCTableSourceSinkFactory:JDBC支持的配置属性参数在flink sql中,所有的connector的使用都是从factory开始的,而factory的创建是通...
- 日常运维过程中,运维人员可以通过硬件(服务器、电源、硬盘)指示灯状态进行巡检,以判断硬件是否存在故障。其中指示灯绿色常亮代表正常状态,其余情况可登录iBMC系统检查是否有告警,并联系硬件工程师定位处理。 日常运维过程中,运维人员可以通过硬件(服务器、电源、硬盘)指示灯状态进行巡检,以判断硬件是否存在故障。其中指示灯绿色常亮代表正常状态,其余情况可登录iBMC系统检查是否有告警,并联系硬件工程师定位处理。
上滑加载中
推荐直播
-
码道新技能,AI 新生产力——从自动视频生成到开源项目解析2026/04/08 周三 19:00-21:00
童得力-华为云开发者生态运营总监/何文强-无人机企业AI提效负责人
本次华为云码道 Skill 实战活动,聚焦两大 AI 开发场景:通过实战教学,带你打造 AI 编程自动生成视频 Skill,并实现对 GitHub 热门开源项目的智能知识抽取,手把手掌握 Skill 开发全流程,用 AI 提升研发效率与内容生产力。
回顾中 -
华为云码道:零代码股票智能决策平台全功能实战2026/04/18 周六 10:00-12:00
秦拳德-中软国际教育卓越研究院研究员、华为云金牌讲师、云原生技术专家
利用Tushare接口获取实时行情数据,采用Transformer算法进行时序预测与涨跌分析,并集成DeepSeek API提供智能解读。同时,项目深度结合华为云CodeArts(码道)的代码智能体能力,实现代码一键推送至云端代码仓库,建立起高效、可协作的团队开发新范式。开发者可快速上手,从零打造功能完整的个股筛选、智能分析与风险管控产品。
回顾中 -
华为云码道全新升级,多会话并行与多智能体协作2026/05/08 周五 19:00-21:00
王一男-华为云码道产品专家;张嘉冉-华为云码道工程师;胡琦-华为云HCDE;程诗杰-华为云HCDG
华为云码道4月份版本全新升级,此次直播深度解读4月份产品特性,通过“特性解读+实操演示+实战案例+设计创新”的组合,全方位展现码道在多会话并行与多智能体协作方面的能力,赋能开发者提升效率
即将直播
热门标签