-
对于金融类客户业务来说,经常会出现类似基于某些条件排他的查找,例如:基于客户ID、客户ID和业务ID的组合,查找不在某个特征范围内的用户集合等等。此类查询特定记录的使用场景,可以使用NOT IN的语法来实现。NOT IN场景在分析型数据库中被广泛使用,例如:GaussDB(DWS)的大客户:工商银行、招商银行、光大银行在业务场景中都有数量众多的NOT IN语句。这类语句一般在进行集合排他比较时使用,例如如下语句:select * from t1 where a not in (select a from t2);该语句的语义为:查找a值不在t2表中的所有t1表中的记录。由于NOT IN对于NULL值的特殊处理,导致这类语句无法使用高效的HashJoin进行高效处理,性能比较差,调优门槛比较高,成为困扰大多数客户的一大难题。Teradata、Oracle等数据库友商也针对 NOT IN问题进行了大量探索,但始终未能完美解决该场景的性能问题。GaussDB(DWS)在8.1.2最新版本实现了独家的分布式Mixed-HashJoin的NOT IN优化技术,在招商银行联合创新项目中得到了应用,共有近900个作业(占作业总数的3%)中包含的NOT IN语句性能平均提升400倍,招行生产集群单日所有作业端到端性能提升15%,效果明显,解决了客户的痛点问题。这篇文章针对NOT IN的使用方法进行介绍,希望广大用户都可以尝试使用GaussDB(DWS)的NOT IN优化高级特性。 一. 数据库中的三值逻辑提到NOT IN,就不得不提到数据库中的三值逻辑。在数理逻辑中,我们用true和false的二值逻辑表示真假,而在现实世界中,会存在一些数据,目前是未知的,因此存储在数据库中是用NULL来表示的,遇到NULL值运算时,我们也无法判断其真假,故引入了第三值逻辑,即NULL。注意,NULL值不同于空串,因为空串是一个固定的值。当然,在Oracle兼容的模式下,空串是被视为空值的,但在TD和MYSQL兼容模式下就是不等价的。NULL值与任意值的比较均未知,属于游离于True和False之外的第三值,通俗来说,NULL值无法确定与任意值相等,但它可能是任意值,因此也无法确认NULL值与任意值不等。因此,如果需要查询NULL值,不能使用等值比较的方式,而应该使用IS NULL的形式,例如:select * from t where a = NULL; --错误select * from t where a is NULL; --正确而NOT IN中的IN操作符,由于其与=的等价关系,导致IN和NOT IN操作符均不会包含NULL值,例如:对于包含{1,-1,NULL}的数据表t,对应以下的查询结果:上述后两条语句返回1,只有1符合条件。上述两条语句返回1,只有-1符合条件;NULL和1的等值比较为NULL,取非后仍为NULL,不为真。上述语句返回2,1和-1符合条件。上述语句返回0,任意值与NULL比较结果均为NULL,非真。返回0,任意值比较结果NULL取非后仍为NULL,非真。 二. NOT IN的使用场景和示例NOT IN一般在特征提取时会有广泛使用。例如:我们需要查找不符合A,B两个属性中部分属性组成的相应条件的特定人群,可以将相应的条件插入一个表t2中,例如:满足A=1且B=3,则将(1,3)插入表中;满足B=4时,A值置为NULL。然后将目标表和表t2进行NOT IN操作,含义为:查找(A,B)组合不为(1,3)、同时B不为4的元组。在金融行业中,经常出现基于某些条件组合进行用户的筛选的业务,条件组合中由于部分未知情况可能包含某些列的缺失,则业务逻辑就可以这样实现。如上面例子所示,假如判断匹配的表t2(a, b)中包含如上两条记录,而参与查找的表t1(a,b)中包含5条记录:(1,3), (2,4), (2,6), (3,null), (null,5)。对于语句select * from t1 where (a,b) not in (select a,b from t2);在进行NOT IN运算时,NULL值可以看成和任意值匹配,只有两列中存在不匹配的列时,NOT IN返回true。t1各元组和t2目标表的匹配情况(如箭头所示)及输出结果result如下图所示。 三. NOT IN与NOT EXISTS的区别某些数据库的用户还知道NOT EXISTS的用法,和NOT IN很相似,但是有一定区别。例如:上例的NOT IN语句可以改写成下面的语句:select * from t1 where (a,b) not in (select a,b from t2); -> select * from t1 where not exists (select 1 from t2 where t1.a=t2.a and t1.b=t2.b);同样是获取不满足在某个范围内的元组,对于上例的输入,输出结果为4条元组,仅不包含(1,3)。为什么会这样呢?通过上面的分析,我们可以知道,NOT IN中IN使用等值(=)比较,而NOT IN则使用不等值(<>)比较。对比起来,EXISTS同样使用等值(=)比较,而NOT EXISTS则等价于等值(=)比较取反,即EXISTS和NOT EXISTS是互补的。因此,IN和EXISTS是等价的,而NOT IN和NOT EXISTS是不等价的,两者之间差了NULL的处理,如下图所示。从另一个角度来理解,NOT IN运算相当于NULL值的强过滤,均不输出。NOT EXISTS运算则相当于不进行NULL值过滤,均输出。对比两个语句的执行计划,可以看出Join条件上的差别。由于NOT IN在内核使用Anti Join(反连接运算)来实现,即元组不匹配才输出,因此条件上也增加了NULL值返回true的条件。 四. GaussDB(DWS) NOT IN优化技术NOT IN性能问题是业务公认的技术难题,友商Teradata和Oracle均针对NOT IN进行了部分场景的优化,即Null-aware技术,针对单列的NOT IN问题进行了NULL干预,但对于多列NOT IN问题仍然存在各种已知问题。下图为友商在NOT IN场景下,分布式以及单列/多列NOT IN的调研结论。GaussDB(DWS)也一直致力于该问题的求解,新版本针对NOT IN有两个优化技术。NOT NULL约束识别。通过上面的分析我们可以看出,NOT IN运算需要增加额外的NULL值判断,出现的OR条件导致必须通过低效的NestLoop计算。GaussDB(DWS)可以根据用户定义的NOT NULL约束来自动检测去掉NULL值判断,例如:上面的语句中,如果t1表的a列,及t2表的a列上均有NOT NULL约束,则条件t1.a=t2.a不再包含NULL值判断的OR条件,可以转化为高效的HashJoin来进行处理。同时,GaussDB(DWS)也支持部分表达式的NULL值推导,只要基表列上包含NOT NULL约束,参与NOT IN运算的表达式也可以由于推导出的NOT NULL约束进行计划层的优化。分布式Mixed-HashJoin技术。如果NOT IN运算的列值中包含NULL值,则必须采取对NULL值的单独处理来解决问题。GaussDB(DWS) 8.1.2版本实现了分布式Mixed-HashJoin技术,在执行时各DN可以动态分离出包含NULL值的元组,进行NestLoop特殊匹配处理;而对于非NULL值,则可以使用高效的HashJoin来进行执行。由于业务中的NULL值为不确认因素,所占的比例较少,因此,该技术可以保证该类场景的性能优势最大化,在NULL值很少的场景,性能和NOT EXISTS持平。新版本执行计划如下所示:该技术目前已经支持向量化引擎,后续将针对行引擎进行进一步的完善。同时,针对不同列的NULL值情况,也可以建多个NULL值的hash表加速匹配,避免NULL值过多时使用NestLoop仍然过慢。同时,由于外表的NULL值可能匹配到内表的任意值,因此通常需要将内表进行广播(Broadcast)操作。如果内表较大,则占用较多网络资源且影响性能。此时,如果外表在NOT In的某列上有NOT NULL约束,内表可以在该列上对非NULL值进行重分布,仅广播NULL值,减少网络数据发送量。例如,如果上例中,t1表的a列包含NOT NULL约束,则会生成如下的计划(t2表对应的a列进行了重分布,同时将NULL值广播):五. NOT IN场景的调优手段如果使用GaussDB(DWS)早期版本的用户也不必着急,本章介绍一些NOT IN场景的调优手段,供大家在实践中使用。修改NOT IN为NOT EXISTS上文详细分析了NOT IN和NOT EXISTS的区别。因此,如果用户可以通过自身的业务逻辑,确认NOT EXISTS的语义也可以满足,通常可能是因为对于NULL值的处理不关心,或者数据中根本不存在NULL值,则可以通过等价改写将NOT IN改写为NOT EXISTS来进行优化。通用改写方法为:… WHERE … (col1, col2, …, coln) NOT IN (SELECT c1, c2, …, cn FROM …) … 改写为: … WHERE NOT EXISTS(SELECT 1 FROM … WHERE col1=c1 AND col2=c2 AND … AND coln=cn ...) …为基表列增加NOT NULL约束由于GaussDB(DWS)在早期版本中即支持NULL值的推导逻辑,因此可以通过对NOT IN运算的基表列增加NOT NULL约束,将OR条件转化为等值条件进行优化。注意,对于多列的NOT IN场景,仅需要将内外表对应的一列均增加NOT NULL约束即可进行调优。例如上例,可以单独为col1和c1增加NOT NULL约束,也可以为coln和cn增加NOT NULL约束,以此类推。也可以在SQL语句里显式增加IS NOT NULL的条件来过滤掉无用的NULL值,或者提示优化器该列上的非空约束,例如:select * from t1 where (a,b) not in (select a, b from t2 where a is not null) and a is not null;使用Mixed-HashJoin新技术8.1.2版本中,由于分布式Mixed-HashJoin技术仅支持向量化引擎,因此可以通过将语句中涉及的表均创建为列存表,并设置参数rewrite_rule包含’notinopt’值,即可使用新的技术。由于该参数为多值参数,因此,需要通过show rewrite_rule命令查看当前设置的值(如未设置则为默认值),通过在其后添加’notinopt’值进行设置。关于rewrite_rule的其它值,后续将在其它文章中介绍。如果用户使用的表为行存表,GaussDB(DWS)还提供参数enable_force_vector_engine强制使用向量化引擎处理,同样可以使用新技术。该参数为bool值,默认为off。以上两个参数均可以session级设置生效。进一步地,为了减少内表广播带来的资源消耗,如果在外表某些NOT IN列理论上不为空的情况下,可以为其中某些列增加NOT NULL约束,或在语句中指定IS NOT NULL条件,则可以通过数据重分布减少网络发送量,进一步提升性能。六. 结语通过本文的分析,相信用户朋友已经充分了解了分析型业务排他操作-NOT IN的使用场景、SQL语法,以及GaussDB(DWS)的NOT IN实现方式,可行的调优方法。希望广大用户能够通过深入的了解,对GaussDB(DWS)的性能调优产生浓厚的兴趣并深度参与进来。如NOT IN问题的攻克一样,GaussDB(DWS)目前正着力解决其它棘手的性能问题,期待在其它场景中,也可以给用户带来极致的性能体验,减少用户调优的成本。理论不如实践,那如何快速体验DWS呢?DWS现推出了一项Demo体验活动。进入DWS首页,点击“Demo体验”,快速便捷体验一把!体验过程中有任何建议和意见,可以去DWS社区论坛反馈哦;)
-
1、为了保证集群内所有服务器和行内ntp时钟一致所需要监控的内容2、以下几个场景会导致的情况和处理方法 (1)OMS节点和行内ntp服务器连通性中断 (2)主OMS节点ntp服务异常 (3)主备OMS节点出现切换 (4)业务节点ntp服务异常
-
【问题现象】web 页面上显示的容量和集群后台节点的容量不一致【问题版本】HCS 803 DWS 8.1.0.101【其他版本】 HCS 802 也会遇到这个问题,802 版本的修复可参考链接:https://bbs.huaweicloud.com/forum/thread-93174-1-1.html【分析过程】 登录DWS集群实例,使用df -h命令查询实例节点的真实磁盘容量登录DWSController容器查看/opt/cloud/3rdComponent/tomcat/webapps/rds/WEB-INF/classes/xml/dataStoreSpecSpecial/datastoreSpec_dws_HWS.xml,查看该规格的磁盘容量信息,xml文件中磁盘容量配置应该与df -h查询的真实磁盘总和容量相同【解决方案】1、首先将xml下载到本地,修改好成对应的容量,将其压缩到对应的zip 文件中2、 现网环境上传分为两种场景,分别是OBS 和swift,具体上传方法,可参考https://support.huawei.com/enterprise/zh/doc/EDOC1100219786?idPath=22658044%7C7919788%7C9856606%7C2515275243、上传完成后,在页面上点击导入即可。【提醒】1、 上传方案中提到的HCSD 节点即FCD 节点,主机名一般叫:fusionclouddeploy2、如果没有ustool.jar,可在FCD该节点中,找到该工具,不用再去官网下载3、修改成功后,页面上显示的容量为节点总容量之和的一半,因为dws是双副本存储,显示的容量就是总容量的一半4、方案中的上传到“dws-instance-regionName”桶 中,这个桶名需要到CDK页面中去找到方法:${bucket_name}:CDK参数中的instance.obsBucketNam或者rds_obs_info表中readOnly属性的桶的桶名
-
在开启TOPSQL后语句执行性能变差,由原来的1、2分钟增长到二十多分钟。从后台看可以发现,IO一直居高不下。停掉所有业务语句后IO仍未降下来,此时系统运行的语句只有几条。停掉scheduler的语句后IO仍未缓解。只剩一个查询TOPSQL的语句。查看TOPSQL表有500+GB,查询语句没有使用分区条件,全表扫描TOPSQL表,对IO有较大影响。TOPSQL的记录参数值为resource_track_cost = 0,resource_track_duration = 0,属于全记录的设置,较影响性能。将参数调整到resource_track_cost = 10000,resource_track_duration = 10,将TOPSQL表清空后,性能恢复。
-
【 问题现象】创建表时报错:There is no hash distributable column【 原因分析】出现这种问题的原因是,创建的表所有的列都不能做分布列,本例中1/2是double precision类型,该类型不能做分布列。如果想用小数做分布列需要使用numeric或decimal类型。【 处理方法】下附GaussDB(DWS)支持的分布列类型
-
【【日志信息】(可选,上传日志内容或者附件)
-
找遍了整个华为云官网没找到roach client的下载位置,听说以前是可以下载的,请教下有什么方法可以获取到roach client
-
篇一:【博文汇总】GaussDB(DWS)博文汇总贴1,欢迎大家交流探讨(持续更新中)篇二:【博文汇总】GaussDB(DWS)博文汇总贴2,欢迎大家交流探讨(持续更新中)序号博文题目博文链接1集群创建业务及集群创建失败案例案例整理https://bbs.huaweicloud.com/blogs/2471602ISO/OSI模型https://bbs.huaweicloud.com/blogs/2475503GaussDB(DWS)生态-teredata兼容-函数-pivot/unpivot改写https://bbs.huaweicloud.com/blogs/2478344GaussDBA(DWS)多租户资源管理配置实例https://bbs.huaweicloud.com/blogs/2478495GaussDB(DWS)集群管理系列:单节点故障RTO机制分析(集群状态恢复篇)https://bbs.huaweicloud.com/blogs/2480776480节点投产!华为GaussDB(DWS)单一集群规模再创业界新高!!!https://bbs.huaweicloud.com/blogs/2488697GaussDB集群问题总纲https://bbs.huaweicloud.com/blogs/2488458GaussDBforDWS数据融合系列第九期:Oracle数据迁移到DWShttps://bbs.huaweicloud.com/blogs/2488539GaussDB通信性能问题定位总结https://bbs.huaweicloud.com/blogs/24884310GaussDB(DWS)之查询为什么没有走索引https://bbs.huaweicloud.com/blogs/24885111华为云PB级数据库GaussDB(forRedis)揭秘第五期:高斯Redis在IM场景中的应用https://bbs.huaweicloud.com/blogs/24924912GaussDB(DWS)运维--SQL操作--查找冗余索引https://bbs.huaweicloud.com/blogs/24924813你应该知道的数仓安全——安全认证https://bbs.huaweicloud.com/blogs/24970214GaussDB(DWS)对接系列-数据可视化工具Grafana7.4.3版本对接https://bbs.huaweicloud.com/blogs/24968715GaussDB(DWS)行存表的数据膨胀与空间重用https://bbs.huaweicloud.com/blogs/24988216GaussDB(DWS)数据融合系列第十期:Oracle数据迁移到DWShttps://bbs.huaweicloud.com/blogs/24987917GaussDB(DWS)升级能力简介https://bbs.huaweicloud.com/blogs/24970618GaussDBA审计功能简介https://bbs.huaweicloud.com/blogs/25026519GaussDB(DWS)函数下推属性介绍https://bbs.huaweicloud.com/blogs/25035120云原生数据库风起云涌,华为云GaussDB破浪前行https://bbs.huaweicloud.com/blogs/25035821【数仓迁移】TD迁移GaussDB(DWS)之DDL迁移对照https://bbs.huaweicloud.com/blogs/25052822【易运维】GaussDB(DWS)审计日志转储实践https://bbs.huaweicloud.com/blogs/25053223你应该知道的数仓安全——加密函数https://bbs.huaweicloud.com/blogs/25151424你应该知道的数仓安全——透明加密https://bbs.huaweicloud.com/blogs/25149025GaussDB(DWS):备机DN重建https://bbs.huaweicloud.com/blogs/25151126GaussDB(DWS)高可用之备机重建介绍https://bbs.huaweicloud.com/blogs/25151027GaussDB(DWS)资源负载管理参数配置全解https://bbs.huaweicloud.com/blogs/25151528GaussDB(DWS)实践系列DWS与OBS数据互导https://bbs.huaweicloud.com/blogs/25150729GaussDB(DWS)内存管理技术简介https://bbs.huaweicloud.com/blogs/25150030GaussDB(DWS)迁移-数据迁移-使用Spark的scala接口往GaussDB(DWS)导入数据失败分析https://bbs.huaweicloud.com/blogs/25371131GaussDB(DWS)数据融合系列第十一期:第三方调度工具Kettle介绍https://bbs.huaweicloud.com/blogs/25370932GaussDB(DWS)数据库安全守护者之审计日志https://bbs.huaweicloud.com/blogs/25369833GaussDB(DWS)特殊对象名https://bbs.huaweicloud.com/blogs/25369334GaussDB(DWS)数据融合系列第八期:云端GaussDB(DWS)迁移https://bbs.huaweicloud.com/blogs/25452135GaussDB(DWS)分布式计算的倾斜优化https://bbs.huaweicloud.com/blogs/25484536GaussDB(DWS)SQL进阶-database、schema、user和权限控制https://bbs.huaweicloud.com/blogs/25418437GaussDB(DWS)安全:隐私保护现真招儿——数据脱敏https://bbs.huaweicloud.com/blogs/25457038GaussDB(DWS)SQL进阶之全文检索https://bbs.huaweicloud.com/blogs/25418639GaussDB(DWS)迁移-oracle兼容--dayofhttps://bbs.huaweicloud.com/blogs/25485240GaussDB(DWS)迁移-oracle兼容--weekofhttps://bbs.huaweicloud.com/blogs/25485541GaussDB(DWS)迁移-oracle兼容--months_betweenhttps://bbs.huaweicloud.com/blogs/25532442GaussDB(DWS)基于OBS备份恢复场景介绍https://bbs.huaweicloud.com/blogs/25534443GaussDB(DWS)资源管理TopSQL简析https://bbs.huaweicloud.com/blogs/25533944保障业务连续性,GaussDB(DWS)高可用有妙招https://bbs.huaweicloud.com/blogs/25563245负载管理:让“笨”的数仓“聪明”起来https://bbs.huaweicloud.com/blogs/25563146GaussDBA(DWS)sequence序列使用注意事项(持续更新)https://bbs.huaweicloud.com/blogs/25563747GaussDB(DWS)多租户管理https://bbs.huaweicloud.com/blogs/25588048GaussDB(DWS)数据库智能监控运维服务系列介绍二:慢节点检测https://bbs.huaweicloud.com/blogs/25590649列存表并发更新时时的锁等待问题原理https://bbs.huaweicloud.com/blogs/25589550列存文件格式使用https://bbs.huaweicloud.com/blogs/25590351数据仓库服务(DWS)事件管理记录为空的问题解决方案https://bbs.huaweicloud.com/blogs/25590252通俗易懂数仓建模—Inmon范式建模与Kimball维度建模https://bbs.huaweicloud.com/blogs/25637153PG的WAL机制https://bbs.huaweicloud.com/blogs/25660254GaussDB(DWS)记录数据表操纵日志--系统日志提取方案https://bbs.huaweicloud.com/blogs/25660455调用CESAPI查看数据仓库服务(DWS)监控指导https://bbs.huaweicloud.com/blogs/25689156GaussDB(DWS)连接池自动重连功能https://bbs.huaweicloud.com/blogs/25758357DWSPowerBI对接指导https://bbs.huaweicloud.com/blogs/25754458GaussDB(DWS)巡检之日常巡检介绍https://bbs.huaweicloud.com/blogs/25755559GaussDB(DWS)智能运维框架-调度框架基础命令介绍https://bbs.huaweicloud.com/blogs/25757560MTKCTP移植流程https://bbs.huaweicloud.com/blogs/25836761GaussDBDWS存储类问题汇总https://bbs.huaweicloud.com/blogs/25824362GaussDB(DWS)事务隔离级别简介https://bbs.huaweicloud.com/blogs/25825363GaussDB(DWS)问题定位常用SQLhttps://bbs.huaweicloud.com/blogs/25825164逻辑集群中的用户权限https://bbs.huaweicloud.com/blogs/25845265GaussDB(DWS)快速上手支撑现网变更https://bbs.huaweicloud.com/blogs/25846666GaussDB(DWS)单点性能案例集锦https://bbs.huaweicloud.com/blogs/25889067GaussDB(DWS)对象依赖案例集锦https://bbs.huaweicloud.com/blogs/25924768GaussDB(DWS)数据融合系列第六期:GDS导入数据https://bbs.huaweicloud.com/blogs/25923369GaussDB(DWS)数据仓库服务APIExplorer的使用https://bbs.huaweicloud.com/blogs/25986370keepalive(AnI/OERRORoccuredwhilesendingtothebackend)https://bbs.huaweicloud.com/blogs/25987571PG数据库HOT链简介https://bbs.huaweicloud.com/blogs/25987372华为云FusionInsight湖仓一体解决方案https://bbs.huaweicloud.com/blogs/26078673GaussDB(DWS)实践系列-常用命令FAQhttps://bbs.huaweicloud.com/blogs/26147674【TD迁移】【函数迁移之一】因字符集变化引起的函数适配https://bbs.huaweicloud.com/blogs/26150375GaussDB(DWS)常见操作的锁冲突矩阵https://bbs.huaweicloud.com/blogs/26146176谁阻塞了谁的前进--锁等待监控查询https://bbs.huaweicloud.com/blogs/26146077GaussDB(DWS)云端运维系列第九期:集群安全(三权分立)https://bbs.huaweicloud.com/blogs/26196978GaussDB(DWS)运维--常见问题分析--更新/删除报错https://bbs.huaweicloud.com/blogs/26242779Hive分布式数据仓库(1)https://bbs.huaweicloud.com/blogs/26243380华为云助力招商银行零售客户“体验升级”——招商银行云化数仓探索之路https://bbs.huaweicloud.com/blogs/26287681GaussDB(DWS)智能运维框架-调度框架实现原理介绍https://bbs.huaweicloud.com/blogs/26290482Hive分布式数据仓库(2)https://bbs.huaweicloud.com/blogs/26289183DWS索引的正确“打开姿势”https://bbs.huaweicloud.com/blogs/26317084GaussDB(DWS)计划生成原理揭秘(一)https://bbs.huaweicloud.com/blogs/26379285GaussDB(DWS)迁移-upsert支持https://bbs.huaweicloud.com/blogs/26368986DWS对接DLIFlink实现实时数据接入https://bbs.huaweicloud.com/blogs/26414887从原理到实践,手把手带你轻松get数仓双集群容灾https://bbs.huaweicloud.com/blogs/26452388给强大的“心脏”配上“超级流水线”-GaussDB(DWS)数据仓库平台ETL系统建设方案https://bbs.huaweicloud.com/blogs/26526089GaussDB(DWS)数据库智能监控运维服务体系分析与设计概要https://bbs.huaweicloud.com/blogs/26554890GaussDB(DWS)SQL进阶之PLSQL(一)-匿名块、函数和存储过程https://bbs.huaweicloud.com/blogs/26574291DWS对接NBU备份故障排除指南https://bbs.huaweicloud.com/blogs/26591992GaussDB(DWS)memcheck版本编译及运行配置https://bbs.huaweicloud.com/blogs/26655493kubectl常用命令https://bbs.huaweicloud.com/blogs/26649194GaussDB(DWS)发生数据倾斜不要慌,一文教你轻松获取表倾斜率https://bbs.huaweicloud.com/blogs/26674395《GaussDB(DWS)数据类型之DATE类型》https://bbs.huaweicloud.com/blogs/26676096connect调用被信号中断问题解决方法https://bbs.huaweicloud.com/blogs/26675497GaussDB(DWS)数据库智能监控运维服务体系指标设计-查询监控https://bbs.huaweicloud.com/blogs/26674498GaussDB(DWS)实践系列-工作负载管理交付指南(线上版本)https://bbs.huaweicloud.com/blogs/26699199GDS导入数据到DWS步骤https://bbs.huaweicloud.com/blogs/266986100GaussDB(DWS)实践系列-工作负载管理交付指南(线下版本)https://bbs.huaweicloud.com/blogs/266993101GaussDB(DWS)实践系列-DWS集群NBU备份恢复操作步骤https://bbs.huaweicloud.com/blogs/267403102GaussDB(DWS)--基于用户的空间管理方法https://bbs.huaweicloud.com/blogs/267586103教你如何优雅的编译和使用TPC-DS工具https://bbs.huaweicloud.com/blogs/268496104GaussDB(DWS)通信相关视图参数使用一:comm_quota_sizehttps://bbs.huaweicloud.com/blogs/268499105GaussDB(DWS)数据库智能监控系统应用场景分析https://bbs.huaweicloud.com/blogs/269120106GaussDB(DWS)负载管理核心技术解密五:空间管控解密https://bbs.huaweicloud.com/blogs/269430107GaussDB(DWS)GDS单文件并发导入https://bbs.huaweicloud.com/blogs/269400108GaussDB(DWS)cgroup技术介绍https://bbs.huaweicloud.com/blogs/269406109详解GaussDB(DWS)数据库智能监控运维服务如何定位SQL执行问题https://bbs.huaweicloud.com/blogs/269981110GaussDB(DWS)实践系列-GaussDB(DWS)如何查询对象(表)的创建时间?https://bbs.huaweicloud.com/blogs/271374111从二进制文件导入到GaussDB(DWS)https://bbs.huaweicloud.com/blogs/271103112GaussDB(DWS)实践系列-行级访问策略优化实践https://bbs.huaweicloud.com/blogs/271375113GaussDB(DWS)集群扩容系列二:离线重分布vs在线重分布https://bbs.huaweicloud.com/blogs/271162114GaussDB(DWS)逻辑备份之db级备份https://bbs.huaweicloud.com/blogs/271360115华为DWS数仓配置教程及体验https://bbs.huaweicloud.com/blogs/272222116一招教你如何高效批量导入与更新数据https://bbs.huaweicloud.com/blogs/271361117走进元数据不一致系列(一)——Catalogismissingnattribute(s)forrelidxxxhttps://bbs.huaweicloud.com/blogs/272299118DWS线下集群重装OS场景下重装主机实施方案https://bbs.huaweicloud.com/blogs/272300119DWSCN事务号回卷故障构造及恢复https://bbs.huaweicloud.com/blogs/272298120GaussDB(DWS)实践系列-两级用户权限管理实践https://bbs.huaweicloud.com/blogs/272690121GaussDB(DWS)数据库智能运维系统页面与指标映射关系https://bbs.huaweicloud.com/blogs/273058122GaussDB(DWS)如何实现实时,批量和交付式查询一站式开发https://bbs.huaweicloud.com/blogs/273092123GaussDB(DWS)分布式Join原理浅析https://bbs.huaweicloud.com/blogs/273138124GaussDB(DWS)ESL版本安装实践流程记录https://bbs.huaweicloud.com/blogs/273592125Oracle存储过程中table%Rowtype语法改写https://bbs.huaweicloud.com/blogs/274369126增量备份中的cbm设计https://bbs.huaweicloud.com/blogs/274319127GaussDB(DWS)中PLPGSQL过程语言异常信息捕获https://bbs.huaweicloud.com/blogs/277362128GaussDB(DWS)客户端gsql功能增强之动态变量https://bbs.huaweicloud.com/blogs/278388129GaussDB(DWS)视图解耦之自动重建与REPLACEhttps://bbs.huaweicloud.com/blogs/278656130华为云GaussDB(DWS)持续创新,使能金融行业人人用数https://bbs.huaweicloud.com/blogs/278680131为什么vacuum后表还是继续膨胀?https://bbs.huaweicloud.com/blogs/278695132ORC文件格式的三种压缩算法的对比https://bbs.huaweicloud.com/blogs/278702133GaussDB(DWS)负载管理视图应用https://bbs.huaweicloud.com/blogs/278874134不动如山,GaussDB(DWS)业务容错利器——物理细粒度备份恢复技术https://bbs.huaweicloud.com/blogs/278855135GaussDB(DWS)SQL进阶之数据类型(二)-字符类型https://bbs.huaweicloud.com/blogs/278859136数据膨胀了?又没有空间了?一招教你解决https://bbs.huaweicloud.com/blogs/279698137GaussDB(DWS)Nodeagent进程故障问题汇总https://bbs.huaweicloud.com/blogs/279717138数据库中CHAR,VARCHAR,TEXT等字段的区别https://bbs.huaweicloud.com/blogs/279727139减少读写互锁方案分享--交换分区特性实例https://bbs.huaweicloud.com/blogs/280342140语句等锁超时排查解决方法https://bbs.huaweicloud.com/blogs/280354141GaussDB(DWS)智能运维框架-调度重分布https://bbs.huaweicloud.com/blogs/280444142GaussDB(DWS)权限管理场景总结https://bbs.huaweicloud.com/blogs/280402143DWS集群创建失败场景-NoIPaddressesavailableonnetworkxxxxxhttps://bbs.huaweicloud.com/blogs/280721144GaussDB(DWS)环境部署-DBM下发POD区数据库流程https://bbs.huaweicloud.com/blogs/280734145GaussDB(DWS)云端运维系列第十一期:容灾https://bbs.huaweicloud.com/blogs/280758146GaussDB(DWS)备份容灾之CN增量备份https://bbs.huaweicloud.com/blogs/280676147GaussDB(DWS)数据类型之数值类型https://bbs.huaweicloud.com/blogs/280906148RDS-DRS-DWS数据复制链路优化方案比对https://bbs.huaweicloud.com/blogs/280877149GaussDB(DWS)COPY命令实现不同编码库之间数据容错写入https://bbs.huaweicloud.com/blogs/280889150扩容分段重分步https://bbs.huaweicloud.com/blogs/280888151GaussDB(DWS)DMS功能简介https://bbs.huaweicloud.com/blogs/281059152Sudo配置典型提权场景列举https://bbs.huaweicloud.com/blogs/281057153DWS存储分区表https://bbs.huaweicloud.com/blogs/281085154GaussDB(DWS)ESL版本集群管理功能实践记录https://bbs.huaweicloud.com/blogs/281164155WDR-GaussDB(DWS)的性能监测报告https://bbs.huaweicloud.com/blogs/281304156DWS并行导入导出的使用https://bbs.huaweicloud.com/blogs/281306157GaussDB(DWS)环境安装环境问题攻克https://bbs.huaweicloud.com/blogs/285700158GaussDB(DWS)列存delta表的简单介绍https://bbs.huaweicloud.com/blogs/285599159DWS菜鸟的私房菜の实时数据接入のDRS实时数据同步直通DWShttps://bbs.huaweicloud.com/blogs/288337160GaussDB(DWS)stream线程池设计(三)https://bbs.huaweicloud.com/blogs/289331161GaussDB(DWS)stream线程池设计(二)https://bbs.huaweicloud.com/blogs/289330162【TD迁移GaussDB(DWS)】【函数迁移之二】TD常用日期函数适配https://bbs.huaweicloud.com/blogs/285981163GaussDB(DWS)stream线程池设计(四)https://bbs.huaweicloud.com/blogs/289332164GaussDB(DWS)通信库libpq重构介绍https://bbs.huaweicloud.com/blogs/289336165《GaussDB(DWS)inlist2join优化介绍》https://bbs.huaweicloud.com/blogs/285431166GaussDB(DWS)客户端gsql功能增强之逻辑控制https://bbs.huaweicloud.com/blogs/286059167GaussDB(DWS)SQL进阶之高级包(一)DBMS_JOBhttps://bbs.huaweicloud.com/blogs/281445168GaussDB(DWS)ESL版本集群监控指标简介https://bbs.huaweicloud.com/blogs/285389169GaussDB(DWS)《ROACH小课堂Ⅰ测试方法篇之测试基础理论》https://bbs.huaweicloud.com/blogs/288329170巡检工具部署及使用(线上版本gs_check)https://bbs.huaweicloud.com/blogs/281496171GaussDB(DWS)列存表一些常用信息查询使用https://bbs.huaweicloud.com/blogs/281598172GaussDB(DWS)负载管理核心技术解密:负载管控逻辑解密https://bbs.huaweicloud.com/blogs/281833173GaussD(DWS)性能黑科技之LLVM技术解密https://bbs.huaweicloud.com/blogs/281845174GaussDB(DWS)stream线程池设计(一)https://bbs.huaweicloud.com/blogs/281841175GaussDB(DWS)极致性价比--冷热数据管理https://bbs.huaweicloud.com/blogs/282033176GaussDB(DWS)数据库智能监控运维服务之schema空间管控https://bbs.huaweicloud.com/blogs/282069177GaussDB(DWS)脏页空间回收实践https://bbs.huaweicloud.com/blogs/289400178GaussDB(DWS)实践系列mybatis改造https://bbs.huaweicloud.com/blogs/289334179GaussDBDWS中的内存资源配置实践https://bbs.huaweicloud.com/blogs/289372180《打破黑盒子——GaussDB(DWS)导入导出业务监控方法总结》https://bbs.huaweicloud.com/blogs/289322181《GaussDB(DWS)SQL进阶之SQL操作-UPSERT》https://bbs.huaweicloud.com/blogs/286547182GaussDB(DWS)内核死锁检测的实现https://bbs.huaweicloud.com/blogs/290872183GaussDB(DWS)中自定义函数实现用户权限管理https://bbs.huaweicloud.com/blogs/293328184Gaussdb(DWS)无锁队列介绍https://bbs.huaweicloud.com/blogs/293560185《GaussDB(DWS)SQL进阶之SQL操作之聚集函数》https://bbs.huaweicloud.com/blogs/293963186GaussDB(DWS)集群拓扑详解https://bbs.huaweicloud.com/blogs/296182187GaussDB(DWS)实践系列-《分区表TTL管理实现》https://bbs.huaweicloud.com/blogs/296485188《GaussDB(DWS)SQL进阶之SQL操作之WITH表达式》https://bbs.huaweicloud.com/blogs/296863189GaussDB(DWS)集群监控指标https://bbs.huaweicloud.com/blogs/296978190GaussDB(DWS)深入浅出之集群迁移断点续做https://bbs.huaweicloud.com/blogs/297061191运维&应急&变更标准方案套件https://bbs.huaweicloud.com/forum/thread-150186-1-1.html192GaussDB(DWS)性能问题处理套路https://bbs.huaweicloud.com/blogs/297384193GaussDB(DWS)waitinccnqueue的时候,怎么迅速定位处理?https://bbs.huaweicloud.com/blogs/297657194《GaussDB(DWS)SQL进阶之SQL操作之窗口函数》https://bbs.huaweicloud.com/blogs/297759195GaussDB(DWS)中多路IO复用介绍https://bbs.huaweicloud.com/blogs/297951196GaussDB(DWS)通信库libpq重构介绍(二)https://bbs.huaweicloud.com/blogs/297955197GaussDB(DWS)通信库libpq重构介绍(三)https://bbs.huaweicloud.com/blogs/297957198使用GoogleGuavaCache开发本地LRU缓存https://bbs.huaweicloud.com/blogs/297899199句柄不回收,空间不释放https://bbs.huaweicloud.com/blogs/298143200GaussDB(DWS)长期稳定性测试https://bbs.huaweicloud.com/blogs/298184201《GaussDB(DWS)SQL进阶之数据库对象-视图》https://bbs.huaweicloud.com/blogs/298291202《GaussDB(DWS)外连接向内连接的转换》https://bbs.huaweicloud.com/blogs/300491203GaussDB(DWS)连接集群之DataStudio客户端连接集群https://bbs.huaweicloud.com/blogs/301464204GaussDB(DWS)运维管理系列基础篇四:节点修复https://bbs.huaweicloud.com/blogs/301525205探讨建立基于应用维度的系统资源的监控与分析https://bbs.huaweicloud.com/blogs/301687206GaussDB(DWS)外表列存格式介绍之Parquethttps://bbs.huaweicloud.com/blogs/301593207【DWS运维变更】【标准变更方案】【纯软】gs_replace修复实例https://bbs.huaweicloud.com/blogs/301635208华为云GaussDB(DWS)持续升级,助力中信银行数字化转型https://bbs.huaweicloud.com/blogs/313860209GaussDB(DWS)安全测试之TLS协议https://bbs.huaweicloud.com/blogs/302004210GaussDB(DWS)快照和恢复https://bbs.huaweicloud.com/blogs/301971211GaussDB(DWS)《ROACH小课堂Ⅰ测试方法篇之故障测试》https://bbs.huaweicloud.com/blogs/301983212GaussDB(DWS)Base64算法简介https://bbs.huaweicloud.com/blogs/302573213《CM功能介绍:日志压缩与回收》https://bbs.huaweicloud.com/blogs/302677214你应该知道的数仓安全——对象访问控制https://bbs.huaweicloud.com/blogs/303859215GaussDB(DWS)之DDL设计的几点建议https://bbs.huaweicloud.com/blogs/303919216GaussDB(DWS)数据库智能监控系统告警框架上线啦!https://bbs.huaweicloud.com/blogs/304824217GaussDB(DWS)gzip算法简介https://bbs.huaweicloud.com/blogs/307136218GaussDB(DWS)集群管理系列:日志压缩与删除功能的源码解读https://bbs.huaweicloud.com/blogs/307409219GaussDB(DWS)逻辑集群复制表解密https://bbs.huaweicloud.com/blogs/308267220GaussDB(DWS)审计日志转储OBS及查询实践https://bbs.huaweicloud.com/blogs/308284221GaussDB(DWS)租户面告警分析流程https://bbs.huaweicloud.com/blogs/308265222GaussDB(DWS)通信视图分析https://bbs.huaweicloud.com/blogs/308288223从简单SQL转换理解Antlr4访问者模式技术细节https://bbs.huaweicloud.com/blogs/308539224GaussDB(DWS)《ROACH小课堂Ⅰ测试方法篇之测试》https://bbs.huaweicloud.com/blogs/308650225华为云GaussDB(DWS)携手兴盛优选,一站式实现数据业务科学决策https://bbs.huaweicloud.com/blogs/313858226《GaussDB(DWS)中UPSERT特性用法》https://bbs.huaweicloud.com/blogs/308793227JDBC的Oracle兼容性适配https://bbs.huaweicloud.com/blogs/308991228GaussDB(DWS)k8s简介以及管控面微服务https://bbs.huaweicloud.com/blogs/309791229GaussDB(DWS)实现动态行转列探究https://bbs.huaweicloud.com/blogs/309868230GaussDB(DWS)分段扩容简介https://bbs.huaweicloud.com/blogs/312558231GaussDB(DWS)如何限制临时数据文件下盘量https://bbs.huaweicloud.com/blogs/312609232数据倾斜预警—数据导入存储倾斜即时检测https://bbs.huaweicloud.com/blogs/312752233GaussDB(DWS)CBB组件之SysCache原理介绍https://bbs.huaweicloud.com/blogs/312770234GaussDB(DWS)跨集群互联互通使用介绍https://bbs.huaweicloud.com/blogs/312944235DnStream-可视化运维实践https://bbs.huaweicloud.com/blogs/313141236GaussDB(DWS)集群管理系列:DN实例状态异常告警https://bbs.huaweicloud.com/blogs/313417237GaussDB(DWS)集群管理系列:磁盘使用率告警https://bbs.huaweicloud.com/blogs/313414238GaussDB(DWS)安全测试之XSS注入https://bbs.huaweicloud.com/blogs/313483239GaussDB(DWS)集群管理系列:告警汇总https://bbs.huaweicloud.com/blogs/313443240GaussDB(DWS)集群管理系列:DN/GTMswitchover告警https://bbs.huaweicloud.com/blogs/313429241GaussDB(DWS)集群管理系列:DNredo慢告警https://bbs.huaweicloud.com/blogs/313427242GaussDB(DWS)集群管理系列:实例进程异常重启告警https://bbs.huaweicloud.com/blogs/313425243GaussDB(DWS)集群管理系列:实例长链接失败告警https://bbs.huaweicloud.com/blogs/313423244GaussDB(DWS)集群管理系列:GTM实例状态异常告警https://bbs.huaweicloud.com/blogs/313421245GaussDB(DWS)集群管理系列:DN/GTMfailover告警https://bbs.huaweicloud.com/blogs/313419246GaussDB(DWS)集群管理系列:DNbuild告警https://bbs.huaweicloud.com/blogs/313409247GaussDB(DWS)集群管理系列:DNbuild失败告警https://bbs.huaweicloud.com/blogs/313412248GaussDB(DWS)集群管理系列:Datanode磁盘坏块告警https://bbs.huaweicloud.com/blogs/313406249GaussDB(DWS)兼容模式差异案例分享(一):current_timestamphttps://bbs.huaweicloud.com/blogs/313771250《GaussDB(DWS)临时表小结》https://bbs.huaweicloud.com/blogs/314265251GaussDB(DWS)当前时间函数详解https://bbs.huaweicloud.com/blogs/314240252GaussDB(DWS)CBB组件之共享消息队列介绍https://bbs.huaweicloud.com/blogs/317028253GaussDB:根据relfilenode查找Schema、表名,判断是表文件还是索引文件https://bbs.huaweicloud.com/blogs/317159254管控面监控面板部分显示异常https://bbs.huaweicloud.com/blogs/317179255《GaussDB(DWS)时间域函数》https://bbs.huaweicloud.com/blogs/317197256【DWS】集群监控信息(DMS),页面无数据显示。https://bbs.huaweicloud.com/blogs/317152257GaussDB(DWS)API环境配置打通接口测试https://bbs.huaweicloud.com/blogs/317156258GaussDB(DWS)集群修复简介https://bbs.huaweicloud.com/blogs/317150259GaussDB(DWS)智能运维(集群)简介https://bbs.huaweicloud.com/blogs/319775260GaussDB(DWS)递归(withrecursive)执行逻辑解析https://bbs.huaweicloud.com/blogs/319855
-
标题中文标题字数不超过30字,标题需以GaussDB(DWS)开头言简意赅的描述清楚案例和关键问题,报错类案例务必说明具体的报错内容 举例:GaussDB(DWS)安装后页面无法显示规格 GaussDB(DWS)查杀语句报错:ERROR: killing backend is prohibited during online expansion问题现象 现象描述描述清楚问题表现和关键的报错/告警提示等信息。现象描述必须基于告警、屏幕提示、日志等内容,便于他人通过具体现象描述判断是否属于这类问题。必要时给出截图。 正面例子:某产品线某项目使用工作流作为业务支撑平台,并使用JBoss作为应用服务器,系统测试时发现,在IBM机器上安装系统后,某些机器上启动系统时会遇到如下错误,导致系统无法成功启动:ERROR: invalid console appender config detected, console stream is looping 反面例子:业务无法启动版本信息(可选) 如果问题涉及版本,需加上版本信息问题影响 问题影响最好写出现的故障造成的影响。例如:对管控面,租户面造成的影响。 正面例子: 1. 管理面:客户无法通过console界面操作集群,无法启动作业任务。 2. 数据面:当前客户正在进行的迁移作业不受影响,但页面无法查询相关信息。可能原因 对原因进行分析,最好给出这个故障所有可能的原因。然后根据现象描述做简单分析。 出现该问题的可能原因如下: ××× ××× 根据该局点出现的提示信息,可以按照先检查××再检查××的方法进行排査。(在根据现象描述不能确定故障原因时,选择该句式。) 根据该局点出现的提示信息,可以判断是×××导致的。(在根据现象描述可以初步确定故障原因时,选择该句式。)处理思路(可选) 如果处理过程步骤较多,建议增加处理思路,说明处理故障的整体思路和框架。 正面例子:VPN登录租户ECS。检查ECS是否正常。确认实例面虚拟机异常,通过快照备份恢复到其他AZ。等待整个AZ恢复正常,确认管理面和租户面正常恢复排查过程 处理过程请按照傻瓜化的标准进行写作。 根据原因分析给出的可能原因逐条排査,建议“步骤1”与第一个原因对应,“步骤2”与第二个原因对应,依此类推。另外还需要介绍如何修复。 步骤1. 检查××。 ××如检查发现××,则表示××异常,请顺序执行后续步骤解决。反之请参见步骤2跳转至下一个检查项。(在检查的最后一步,如检查发现根因不是这一项,则跳转到步骤2进行其他原因的排査)步骤1的最后几步是已经判断是该原因引起的,介绍如何解决该问题。 步骤2. 检查××。 ××解决方法 给出明确的解决方法,解决方法需详细,可以指导小白用户操作。 需详细说明在哪个节点操作,如果涉及修改文件,需明确文件路径,如涉及修改参数,需明确参数修改方法和影响。恢复确认(可选) 如何确认问题已得到解决并恢复,示例: 登录控制台查看显示正常运行。 登录某节点,查看运行状态。参考信息(可选) 给出本专题案例参考的相关文档,也可以是相关的案例,没有的话可以不写。 关于××,可以参见链接:xxx。 关于××,可以参见链接:xxx。维护案例参考:https://bbs.huaweicloud.com/forumreview/thread-186881-1-1.html
-
【DWS产品】【JDBC驱动数据写入功能】SparkApp写入数据异常【功能模块】GaussDB(DWS)驱动在SparkApp中使用问题【操作步骤&问题现象】1、在同一个DWS库及模式下,现有两张结构相同的表,分别称为表A、表B。其中表A有大约160万行数据2、编写简单的SparkApp,依赖 gsjdbc200.jar(driverClass=com.huawei.gauss200.jdbc.Driver)和 gsjdbc4.jar(driverClass=org.postgresql.Driver)首先使用gsjdbc200.jar作为驱动读取A表数据,得到Dataset实例Dataset ds = sparkSession.read().format("jdbc") .option("url", "jdbc:gaussdb://xx.xxx.xx.xx:8000/dwhm") .option("driver", "com.huawei.gauss200.jdbc.Driver") .option("user", "******") .option("password", "**********") .option("dbtable", "表A") .option("numPartitions", 6) .option("lowerBound", 0) .option("upperBound", 1728454) .option("partitionColumn", "id_column") .option("fetchsize", 1024) .load();然后立即再使用gsjdbc200.jar(driverClass=com.huawei.gauss200.jdbc.Driver)作为驱动,尝试将A表数据写入B表ds.write().format("jdbc") .option("dbtable", "表B") .mode(SaveMode.Overwrite) .option("url", "jdbc:gaussdb://10.2.121.11:8000/dwhm") .option("driver", "com.huawei.gauss200.jdbc.Driver") .option("user", "xxxxxx") .option("password", "**************") .option("truncate", true) .option("batchsize", 500) .save();读取到数据后,在开始执行数据写入task时很快就报出如下异常而失败。java.sql.BatchUpdateException: Batch entry 0 INSERT INTO 表B名称 ("po_process_action_id","tenant_id","po_header_id","po_line_id","po_line_location_id","display_line_num","display_line_location_num","version_num","process_type_code","process_remark","processed_date","process_user_id","process_user_name","object_version_number","creation_date","created_by","last_updated_by","last_update_date","storage_time") VALUES ('1155064','20453','194759',NULL,NULL,NULL,NULL,'1','UPDATE',NULL,'2021-07-11 01:14:21+08','859953','华为接口账号','1','2021-07-11 01:14:21+08','859953','859953','2021-07-11 01:14:21+08','2021-09-27 13:47:06+08') was aborted: ERROR: invalid input syntax for type oid: "" Call getNextException to see other errors in the batch. at com.huawei.gauss200.jdbc.jdbc.BatchResultHandler.handleError(BatchResultHandler.java:152) at com.huawei.gauss200.jdbc.core.v3.QueryExecutorImpl.processResults(QueryExecutorImpl.java:2584) at com.huawei.gauss200.jdbc.core.v3.QueryExecutorImpl.executeBatch(QueryExecutorImpl.java:575) at com.huawei.gauss200.jdbc.jdbc.PgStatement.executeBatch(PgStatement.java:879) at com.huawei.gauss200.jdbc.jdbc.PgPreparedStatement.executeBatch(PgPreparedStatement.java:1580) at org.apache.spark.sql.execution.datasources.jdbc.JdbcUtils$.savePartition(JdbcUtils.scala:654) at org.apache.spark.sql.execution.datasources.jdbc.JdbcUtils$$anonfun$saveTable$1.apply(JdbcUtils.scala:821) at org.apache.spark.sql.execution.datasources.jdbc.JdbcUtils$$anonfun$saveTable$1.apply(JdbcUtils.scala:821) at org.apache.spark.rdd.RDD$$anonfun$foreachPartition$1$$anonfun$apply$29.apply(RDD.scala:935) at org.apache.spark.rdd.RDD$$anonfun$foreachPartition$1$$anonfun$apply$29.apply(RDD.scala:935) at org.apache.spark.SparkContext$$anonfun$runJob$5.apply(SparkContext.scala:2074) at org.apache.spark.SparkContext$$anonfun$runJob$5.apply(SparkContext.scala:2074) at org.apache.spark.scheduler.ResultTask.runTask(ResultTask.scala:87) at org.apache.spark.scheduler.Task.run(Task.scala:109) at org.apache.spark.executor.Executor$TaskRunner.run(Executor.scala:345) at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149) at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624) at java.lang.Thread.run(Thread.java:748) Caused by: com.huawei.gauss200.jdbc.util.PSQLException: ERROR: invalid input syntax for type oid: "" at com.huawei.gauss200.jdbc.core.v3.QueryExecutorImpl.receiveErrorResponse(QueryExecutorImpl.java:2852) at com.huawei.gauss200.jdbc.core.v3.QueryExecutorImpl.processResults(QueryExecutorImpl.java:2583) ... 16 more表B只是普通的行存表,其中 po_process_action_id 为主键。表内没有名为“oid”的用户定义列。如果换用 gsjdbc4.jar(driverClass=org.postgresql.Driver)作为 write 时的驱动,只相应改动 url、driver 两项option,其它代码不做任何改变,则数据写入可以成功,没有任何问题。使用Spark版本为 2.3.2,程序运行于本地笔记本,原意为简单试一下Spark读写DWS再例如下面这个异常也是同样的问题:
-
作为世界上最伟大的数学家之一,高斯有着“数学王子”的美誉,以他名字“高斯”命名的成果就达110个,在数学家界独树一帜。但,这次我们谈论的不是数学家高斯。而是华为云的一款明星产品——华为云数据仓库GaussDB(DWS)。GaussDB(DWS)自发布以来广受关注,该产品现已应用于全球60多个国家和地区,客户包括工行/招行/国网/一汽/梦饷/兴盛优选等,覆盖全行业场景。为了让更多开发者了解GaussDB(DWS)、能够更方便地使用华为云数据仓库GaussDB(DWS),特举办《这次高斯不是数学家》征文活动。本次征文奖品丰厚,HUAWEI WATCH GT 3、雷柏V700合金版黑轴机械键盘、华为手环等你拿,只要写在社区博客发表与GaussDB(DWS)技术相关的文章就有机会获得。有点心动?看看详细规则吧:GaussDB(DWS) 沙箱 免费体验入口点我,进入实验(写与GaussDB(DWS)数据库有关的一切皆可,包括产品体验、沙箱体验)我们需要哪些主题的稿件?原则上,我们欢迎所有能帮助学习GaussDB(DWS)数据库相关的文章!如基于自己的实际使用经验,分享对GaussDB(DWS)数据库的技术分析、使用感受及在项目实战中的经验等。如果你还不知道该怎么写,请你务必仔细阅读下面3篇文章,可以让你更快上手:GaussDB(DWS) GUC参数修改、查看GaussDB(DWS)数据类型之自定义数据类型(复合类型)GaussDB(DWS)集群管理系列:CM异常检测插件介绍之HANG检测插件你将获得什么?获得一、二、三等奖的8名的选手还将获得GaussDB(DWS)开发者认证免费考试劵,并有机会成为专栏作家,参与论坛答疑、专家面对面交流等。我们会把收到的优质内容汇编成册,并注明原作者,积累行业口碑,开放给圈内开发者下载查阅,提供实践参考。对于贡献优质内容的作者,我们还将送出各项大礼!同时,在华为云站内外10+个技术社区醒目位置进行推荐,给与百万级流量资源。优质作者更可获得长期约稿和更多内容合作机会。评奖规则说明华为云开发者社区、华为云数仓GaussDB(DWS)将联合评审此次征文。专家评分依据 :文章篇幅、技术含金量、排版美观度、阅读量、点赞、收藏等指标综合评分。其他说明 :1、一二三等奖不能叠加。2、一二三等奖可与创作小能手奖叠加。3、征文投稿数量不计入月度激励活动文章数量。在哪里投稿?文章需要发表在社区博客; 是时候展现真正的技术了, 点击前往发布标题以 【这次高斯不是数学家】结尾,例如:GaussDB(DWS)数据类型之自定义数据类型【这次高斯不是数学家】。文章末尾需加上活动名称及链接地址:【这次高斯不是数学家】有奖征文火热进行中:https://bbs.huaweicloud.com/blogs/351189文章标签打上【GaussDB数据库】,如果文章跟华为云产品相关,需要同时加上【云端实践】标签如果大家在征文中遇到有关华为云产品体验方面的问题建议,请到【云声平台】提出您的宝贵建议,标题以【云驻计划】开头,还有机会赢取额外奖励。有哪些需要注意的:1、文章内容需体现技术看点,图文并茂,建议字数在500字以上;2、文章要求为投稿人原创,凡转载或抄袭一经发现将取消参赛资格;3、文章须在华为云社区为首发,如华为云平台已有文章内容则视为稿件无效;4、稿件投稿后,华为云拥有该稿件的使用权、修改权等。快来华为云社区博客,一起遨游在技术的海洋中吧! 点击立即体验如果有任何问题,可扫描下方二维码咨询。添加微信时请备注:报名活动时使用的华为云昵称!扫码添加小助手:
-
作为世界上最伟大的数学家之一,高斯有着“数学王子”的美誉,以他名字“高斯”命名的成果就达110个,在数学家界独树一帜。但,这次我们谈论的不是数学家高斯。而是华为云的一款明星产品——GaussDB(DWS)。华为云数据仓库GaussDB(DWS)自发布以来广受关注,该产品现已应用于全球60多个国家和地区,客户包括工行/招行/国网/一汽/梦饷/兴盛优选等,覆盖全行业场景。为了让更多开发了解GaussDB(DWS)、能够更方便地使用GaussDB(DWS)数据库,特举办《这次高斯不是数学家》征文活动。本次征文奖品丰厚,HUAWEI WATCH GT 3、雷柏V700合金版黑轴机械键盘、华为手环等你拿,只要写在社区博客发表与GaussDB(DWS)技术相关的文章就有机会获得。有点心动?看看详细规则吧:GaussDB(DWS) 沙箱 免费体验入口点我,进入实验(写与GaussDB(DWS)数据库有关的一切皆可,包括产品体验、沙箱体验)我们需要哪些主题的稿件?原则上,我们欢迎所有能帮助学习GaussDB(DWS)数据库相关的文章!如基于自己的实际使用经验,分享对GaussDB(DWS)数据库的技术分析、使用感受及在项目实战中的经验等。如果你还不知道该怎么写,请你务必仔细阅读下面3篇文章,可以让你更快上手:GaussDB(DWS) GUC参数修改、查看GaussDB(DWS)数据类型之自定义数据类型(复合类型)GaussDB(DWS)集群管理系列:CM异常检测插件介绍之HANG检测插件你将获得什么?获得一、二、三等奖的8名的选手还将获得GaussDB(DWS)开发者认证免费考试劵,并有机会成为专栏作家,参与论坛答疑、专家面对面交流等。我们会把收到的优质内容汇编成册,并注明原作者,积累行业口碑,开放给圈内开发者下载查阅,提供实践参考。对于贡献优质内容的作者,我们还将送出各项大礼!同时,在华为云站内外10+个技术社区醒目位置进行推荐,给与百万级流量资源。优质作者更可获得长期约稿和更多内容合作机会。评奖规则说明华为云开发者社区、华为云云计算产品部将联合评审此次征文。专家评分依据 :文章篇幅、技术含金量、排版美观度、阅读量、点赞、收藏等指标综合评分。其他说明 :1、一二三等奖不能叠加。2、一二三等奖可与创作小能手奖叠加。3、征文投稿数量不计入月度激励活动文章数量。在哪里投稿?文章需要发表在社区博客; 是时候展现真正的技术了, 点击前往发布标题以 【这次高斯不是数学家】结尾,例如:GaussDB(DWS)数据类型之自定义数据类型【这次高斯不是数学家】。文章末尾需加上活动名称及链接地址:【这次高斯不是数学家】有奖征文火热进行中:https://bbs.huaweicloud.com/blogs/345260文章标签打上【GaussDB数据库】,如果文章跟华为云产品相关,需要同时加上【云端实践】标签如果大家在征文中遇到有关华为云产品体验方面的问题建议,请到【云声平台】提出您的宝贵建议,标题以【云驻计划】开头,还有机会赢取额外奖励。有哪些需要注意的:1、文章内容需体现技术看点,图文并茂,建议字数在500字以上;2、文章要求为投稿人原创,凡转载或抄袭一经发现将取消参赛资格;3、文章须在华为云社区为首发,如华为云平台已有文章内容则视为稿件无效;4、稿件投稿后,华为云拥有该稿件的使用权、修改权等。快来华为云社区博客,一起遨游在技术的海洋中吧! 点击立即体验如果有任何问题,可扫描下方二维码咨询。添加微信时请备注:报名活动时使用的华为云昵称!扫码添加小助手:
-
想问问论坛的大咖们,GaussDB for MySQL 与 传统的MySQL有啥区别?现在大部分应用场景还是以MySQL为主,不知道GaussDB for MySQL在哪些应用场景或者哪些方面更加有优势呢?有没有使用过GaussDB for MySQL的大牛,能用实例来说明一下。感谢~
-
测试样例如下:create type type_user as (id int,name varchar2(50),sname varchar2(50));create type typ_table_user as table of type_user; 2个SQL语句,第一个创建TYPE成功,第二个创建 table失败。GaussDB A是否支持该语法呢?如果在function 的返回值是table应该怎么实现呢?
-
1.1、问题现象使用gs_replace修复CN时,报错锁集群失败[GUASS-51608] : Failed to lock cluster.1.2、操作影响此操作影响业务,修复过程需要锁集群,建议计划窗内执行,注释白名单1.3、排查过程1.3.1 执行修复gs_replace -t config -h hostname1修复过程报错:[GUASS-51608] : Failed to lock cluster.报错后退出修复1.3.2 排查gs_replace日志日志路径,本节点和修复节点都看cd $GAUSSLOG/om/ tail -500f gs_replace-2022-02-13_321948.log日志报错信息如下:gsql: FATAL: database “productdb” does not exist DETAIL: The database subdirectory “base/19092” is missing.报错意思19092这个库缺失1.3.3 连接每个CN查看所有库select oid,* from pg_database where oid='19092';发现其他正常的一个CN节点这个库没有,是元数据不一致了,需要把这个CN也修复1.3.4 将元数据不一致的CN,手动让其故障挪走CN目录下的conf文件cd /srv/BigData/mppdb/data1/coordinator mv *.conf* /home/omm/backup/ ps -ef|grep -v grep |grep -i coor kill -9 $CN_PID确认CN是认为故障了cm_ctl query -Cvdp1.3.5 执行gs_replace修复gs_replace -t config -h hostname1,hostname2 gs_replace -t start -h hostname1,hostname21.3.6 修复正常此情况比较少见,可以参考,一定在窗口时间内执行,如果有LVS,记得刷新配置吆,刷新LVS步骤:切换用户su - rootsource环境变量source /opt/huawei/Bigdata/mppdb/.mppdbgs_profile刷新配置,LVS地址10.10.10.10和FusionInsight_MPPDB_8.1.1/__MPPDBServer版本需替换自己的真实环境gs_loadbalance -t reload -U omm -X ${BIGDATA_HOME}/FusionInsight_MPPDB_8.1.1/*_*_MPPDBServer/etc/mppdb-install-config.xml --lvs-addr=10.10.10.10
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签