• [技术干货] HCS数据库产品服务交付部署 & 升级变更 & 最佳实践 & 应急汇总
        本帖整理汇总了HCS数据库产品服务各个引擎标准交付部署、升级变更方案、最佳实践、故障问题应急排查套路、以及常见非标操作鉴定标准及评审流程,后续会持续更新,以便使用。交付变更标准方案--HCS标准云底座说明:安装、升级、补丁、扩容标准方案文档请到华为support网站获取,不在本社区论坛发布;请严格按照support网站提供的标准方案操作。1.数据库服务安装交付部署checklisthttp://3ms.huawei.com/hi/group/3288655/wiki_7173493.html2.数据库服务升级前checklist+升级指导http://3ms.huawei.com/hi/group/3288655/wiki_6654416.html3.HCS数据库服务升级变更方案评审接口矩阵cid:link_14.非标方案评审流程:cid:link_2
  • [问题求助] docker容器内项目连接rds问题
    ↵rds(mysql)白名单添加了宿主机ecs的ip,docker容器内项目连接服务器超时,初步怀疑是rds白名单未添加docker容器ip,但docker每次重启ip会更改,请问如何配置可以使项目访问到rds
  • [热门活动] 【HCSD】潜力测试:华为云数据库技能测评,你敢来挑战吗?
    未来5年将是国产数据库的主战场。数据库作为竞争最激烈的国产软件赛道,在技术服务、人才发展等方面有着巨量需求。华为云数据库测评热身,快速了解自身数据库水平,闯关So-easy!还有HUAWEI WATCH GT2、无线耳机、华为手环4等万元奖品拿!活动时间:2022年11月8~12月31活动对象:开发者、高校师生、对数据库感兴趣的0基础用户 活动内容:  参与方式:         点击参与   GOGOGO!!!     测评规则:测评内容:了解数据库的基础理论如关系、表、事务等,SQL基础知识;测评共 (20) 道题,总分100分,通过测评分数80分;需在(60分钟)内交卷,过程中无法暂停,请提前安排好时间;如未及时交卷,则本次考试作废推荐使用Chrome浏览器,或Firefox浏览器本测试2小时内只允许答题一次有问题可添加小助手微信18209232786激励规则:1.“邀请好友”激励:“邀请用户”奖励有效邀请人数奖品奖品数量X≥5圆领T恤/(加湿器、手机支架、字母笔、U盘、文件夹),任选二,随机发200X≥10荣耀体脂称2/折叠烧水壶50X≥15茶壶套装/HUAWEI mini蓝牙音箱 _绮境森林70X≥30华为手环4/保温杯/HUAWEI背包70X≥50HUAWEI FreeLace无线耳机活力版曜石黑+华为10000mA移动电源20X≥100HUAWEI WATCH GT2 运动款32MB+ 4GB曜石黑5有效邀请指,邀请来的用户需要完成活动报名,并通过自测题2.完成 “华为云数据库自测题”奖励:“华为云数据库自测题”奖励奖品奖品数量HUAWEI FreeLace无线耳机10华为手环4/hilink保温杯20罗技鼠标5032 U盘80加湿器100手机支架100字母笔100文件夹100中奖率是通过自测题人数的20%,实际奖品发放数量将按照奖品数量上限的比率提供。抽奖形式:活动结束后,将参与数据导入第三方开源抽奖平台进行抽奖,抽奖过程全程透明公开。抽奖结束后将在此贴公布结果&收集收货信息。活动其他事宜通知○所有活动奖品将在活动结束后20个工作日内完成发放;○活动奖品颜色随机,且部分奖品数量有限发完即止,如对应奖品无库存会更换等价奖品;○活动奖品需要进行华为云账号实名认证后领取;○为保证活动的公平公正,华为云有权对恶意刷活动资源(“恶意”是指为获取资源而异常注册账号等破坏活动公平性的行为),利用资源从事违法违规行为的用户收回抽奖及奖励资格。○本活动规则由华为云在法律规定范围内进行解释。华为云保留不时更新、修改或删除本活动规则的权利。○本次活动回帖内容需满足华为云论坛发帖规范:cid:link_1
  • [问题求助] 使用4G流量模块,上传设备信息到云服务器
    刚刚认识云,做硬件开发的。客户需求将设备传感器信息通过4G流量模块发送到弹性服务器。做了上传和下发指令,在网页可以显示相关设备参数了,在数据库里怎么看见呢(服务器应该怎么处理)
  • [技术干货] 【第53课】RDS for MySQL绑定多安全组
    ​RDS for MySQL实例支持绑定多个安全组(为了更好的网络性能,建议不超过5个)。此时,实例的访问规则遵循几个安全组规则的并集。什么是安全组?安全组是一个逻辑上的分组,为同一个VPC内具有相同安全保护需求,并相互信任的ECS和云数据库RDS实例提供访问策略。用户可以在安全组中定义各种访问规则,当实例加入该安全组后,即受到这些访问规则的保护。您也可以根据需要创建自定义的安全组,或使用默认安全组。系统会为每个用户默认创建一个默认安全组,默认安全组的规则是在出方向上的数据报文全部放行,入方向访问受限,安全组内的ECS无需添加规则即可互相访问。如何绑定多个安全组?购买实例时绑定多安全组:在“实例管理”页面,单击“购买数据库实例”。在“安全组”下拉框,选择多个安全组。购买后绑定多安全组:在“实例管理”页面,选择对应的主实例或只读实例,单击实例名称。在 “安全组”处,单击“管理”,选择多个安全组。配置安全组规则示例为了保障数据库的安全性和稳定性,在使用云数据库RDS实例之前,您需要设置安全组,开通需访问数据库的IP地址和端口。场景1:RDS与ECS在相同安全组,直接连接。场景2:RDS与ECS在不同安全组,需分别添加RDS安全组入方向规则,ECS安全组出方向规则(出方向规则可以全部放通),放通来自另一个安全组内的ECS的访问。入方向规则添加示例:方向协议/应用端口源地址入方向TCP3306单个IP地址、IP地址段或安全组。例如:192.168.20.6/53绑定多个安全组,实例的访问规则遵循几个安全组规则的并集。可以绑定配置了该入方向规则的安全组,即可放通RDS连接。
  • [热门活动] 【热门直播】云数据库时代,DBA将走向何方?
    云数据库时代,数据库软件越来越成熟和智能,作为数据库管理员的DBA将面临哪些机遇和挑战?又应该具备什么能力,才能应对未来的不确定性?10月10日19:00,三位数据库大咖带你走进《云数据库时代,DBA将走向何方?》主题直播,与您共同探讨DBA的未来转型及出路。报名直播将送499元代金券,还有移动电源、公牛插座等更多好礼等你来!点击:观看直播
  • [交流分享] mysql数据库性能调优
    测试mysql数据库的时候,需要对网卡队列进行绑核,以48core*2的机型来说,一般前面4个core绑定网卡,后面的44个core分配给mysql实例启动,两个cpu分别对应两个数据库实例启动。正常情况下,网卡的core使用率上80%,数据库的core使用率上98%,用htop命令实时监控
  • [技术干货] mysql数据库
    测试mysql数据库的时候,需要对网卡队列进行绑核,以48core*2的机型来说,一般前面4个core绑定网卡,后面的44个core分配给mysql实例启动,两个cpu分别对应两个数据库实例启动。正常情况下,网卡的core使用率上80%,数据库的core使用率上98%,用htop命令实时监控
  • [技术干货] MySQL索引&事务
    写在前面 前面我们都是学习MySQL的操作,很少涉及到理论,有些sql语法前面我都没有谈,主要是工作中不常用,一般就是增删查改.要是实际工作中遇到了可以自己稍微查一下,都是很简单的.今天我们谈一下MySQL中被面试官常问的两个部分,都是理论知识,需要我们有自己的理解.  索引 我们先来解释一下什么是索引,这是我们的重点,它是属于MySQL数据库原理层面的知识,如果我们要是自己实现一个数据库,这里我们就要学习的很精通,要是我们岗位只是普通的程序猿,那么了解一下就可以了,至于如何用就不是我们现在这个层次考虑的了.  索引(index),就像是我们书的目录,我们根据目录可以快速的找到我们要看的章节,MySQL也是如此,索引在一定程度上可以加快我们查找数据的速率. 为何出现索引 我们到工作的时候就会发现,你修改数据的次数是远远低于查找数据的次数的,比如我们现在写的博客,一般而言,我写完之后,就很少更改它了,除非是有朋友指出这里存在巨大的错误,我一般都是再重温博客的时候看到有哪里不合适或者错误才会修改,一般都是用来复习和观看的. 同理MySQL也是如此.我们查看是很频繁的.这里就会出现一个问题,对于数据比较少的,我们查早还是很不错的,但是对于公司的服务器而言,这个数据可以实千万级的,那么这个时候我们还是按照老方法查找数据,那么一个命令就要等较长的时间.这时候我们就出现索引,至于索引的原理是什么,这里我们不讨论,知道到这里就可以了.  索引的缺点 前面我们只谈了索引可以提高效率,那么是索引难道就不存在缺点吗?我们想一下,书的目录是不是存在缺点,是的,最直观的一点就是废纸,同理索引是费空间.这就是索引最大的缺点. 随着我们数据量的增大,索引消耗的空间也会越来越大,这还是不是最关键的,对于书来说,我们每一次修改书的内容,那么目录随之也要进行校准,确保可以指定的位置是是准确的,同理MySQL也是如此.不过看起来索引有很大缺点,但是和优点相比较很微小的,瑕不掩瑜.我们在公司里面推荐用索引.  索引的使用 注意,这里的使用只是一点皮毛,甚至连皮毛都算不上,我们不学习使用索引.这里还要和大家谈一个东西,索引的创建最好在创表的时候就出现,要是你在数据比较的多的表来创建索引,那么有极大概率这个数据库会崩,所以要创就在开始的时候创建.  我们先来创建一个数据库,用来查看一下索引. create table student ( id int primary key, name varchar(50), score decimal(3,1));这里我们就可以查看这个数据表的索引了. -- 格式 show index from 表民;show index from student;这里我们就会疑惑了,我们好象是没有添加索引的那么这里为何会出现一个索引,准确来说,我们一个字段被主键或者唯一来约束,这一列就看做一个索引.我们的id就是一个索引.也就是说我们使用主键约束的时候还加快的查早的速率. 同理这里我们也可以给某一列添加索引. -- create index 索引名字 on 表名(列名);create index name_index on student(name);  同理这里我们也可以删除索引,这里只做简单的演示.注意这里容易把数据库给搞挂. drop index name_index on student;索引背后的数据结构 这里才是我们索引的重点,也是面试官比较喜欢问的.这里我们要好好的解释下.我们之前学了一点简单的数据结构,有顺序表,链表,二叉搜索树,哈希表等等,那么我们在想索引的底层是什么?  这里我们首先先排除三个,至于后面的二叉搜索树,可以不可以,这就是我们要讨论的了.  我们感觉二叉搜索树还是挺不错的,不过这里有个问题,我们好象查找数据的时候每一次都要比较,那么如果数据多了,树就高了,对于数据库每一次都意味着文件IO.这里还是不要太行.那么索引的底层究竟是什么?这里我们就要谈一个新的数据结构B+树.不过在谈这个树前,我们先来谈一下B树.注意,我们谈的数据库是MySQL,我这里只知道MySQL的索引是B+树,至于其他的是什么这里就不太清楚了.  B/B-树 我们先来解释一下这个名称,B树又叫B-树,记者B-树可不是念B建树,它是B树的另一个名称,从来没有什么B减树.这里算是解决一下我们的疑惑.  B树是一个N叉树,这个N叉比较特殊.对于树的每一个节点存在若干个数据把这个节点分为若干个区域.我们这里直接看树的的结构.  一个节点里面存在N个数据,把这个节点分为N+1个区域,每一个区域有指向一个新的节点,这就是B树.   这里我们简单的说一下B树的查找规则,这个和二叉搜索树是一样的,我们先来从根节点出发,根据比较来确定一个一个区域,这里逐渐寻找我们的数据.这里我们就疑惑了,这也是比较,而且比较的次数好象没有变少,那么这里就出现问题了,B树为何会提高索引的效率.这里由于我们还没有分享过文件IO,我先来说下,B树是不是高度变短了,这就就意味着以节点为基础比较变得少了,而磁盘IO也是根据节点的次数来计算的,所以这里提高效率了. B+树 B+树是在B树的基础上再次衍生出来的,基于索引而言,B+树是更加优秀的.我们现来看一下B+树的结构. B+树中每一个父节点的值会作为子节点的最大或者最小值,叶子节节点中会体现出来,而且对于叶子节点而言,我们使用指针把它给串联出来.   这里我们就要下一个结论了,B+树可以说是完美的给MySQL索引设计的,我们看一下它的优点. 树变短了,总体的IO次数变少了 所有的查询终究会落在叶子节点上,查询速度稳定 叶子节点通过链表链接出来后,很适合范围查找 所有的载荷都是放在叶子节点上的,非叶子节点只保存key值. 这里我先来解释一下最后一条,说人话就是我们把所有的数目只保留在在叶子节节点.这样我们的非叶子节点占据的空间很少,甚至可以在在内存中跑,这样也能大大减少磁盘IO,提高速率.  事务 上面总算是把索引谈的差不多了,这里还要接触这个知识点.事物还是一个比较好理解的知识点.我们先来看一下什么是事物.  事物,可以理解成打包,就是把几个工作一起做了,也就是要做都做,要不做都不做.  我们举一个例子,假设我要和自己的女朋哟去约会,首先第一点我要去ATM机中取钱,取完钱之后,我发现我女朋友鸽了我,这时候就是是一个很悲伤的故事.但是如果我们把这两个步骤打包成一个事物,也就是不会存在第一个步骤执行完了第二个步骤不会执行的情况. 原子性 那么我们就有问题了,事物是通过什么来保证的,这就要涉及到原子性了,这个算是线程里面的内容.我先来解释,在过去,人们认为原子是物质的最小单位,这里就用这个来命名了,没有其他的含义.我们再来举一个例子.假设存在一张账户表.   现在我们要做的就是A要给B转500元,就会执行下面的操作.假设第二步的时候出现了问题,也就是A的钱被扣了,但是B没有收到钱,至于造成这样的原因有很多种,比如服务器不小心断电了,数据库崩了等等.显然我们的原子性就是为何避免这种情况的发生.   如何保证事务 事务的保证就是下面的两条规则  要么都执行 要么都不执行 现在我们就疑惑了,我们该如何保证事务,要知道我们执行的结果成不成功是需要执行过之后才发现的,你这个规则好象把路给堵死了,这里的要不都不执行是需要带引号的,所谓的要不都不执行,是我们确实执行,如果成功了,万事大吉,错误了就把他给恢复回去,这种模式叫做回滚.至于如何恢复才是我们重点讨论的.还按照上面的例子来讨论,假设我们执行了第一个步骤,也就是A减去500,执行第二步出现了问题,导致无法执行,我们好象没有给B加上500.   这个时候数据库就会进行回滚,上一个步骤我们给A减去500,回滚的时候给A加上500,让它变回原来的样子.那么请问数据库是如何知道要给A加上500这个正确的操作的,这就又涉及到另外一个东西了.数据库会拿出一个小本本,把过去一段时间的操作记录下来,这就是我们传说中的日志.  事务的使用 我们好象还是没有谈过事务的使用,这里简单看一下就行了,也不是面试官主要的考点.  开启事务:start transaction; 2) 执行多条SQL语句 回滚或提交:rollback/commit 说明:rollback即是全部失败,commit即是全部成功. start transaction;-- 阿里巴巴账户减少2000update accout set mnotallow=money-2000 where name = '阿里巴巴';-- 四十大盗账户增加2000update accout set mnotallow=money+2000 where name = '四十大盗';commit; 事务的特性 面试官最喜欢问的问题就是事务的几个特性,这里我先总结下,后面还有好好谈谈.  原子性 一致性 持久性 隔离行 原子性前面我们已经分析过了,这里我先来谈一下一致性,事务一旦执行,执行的结果必须是合理合法的,也就是说余额不能出现为负数的情况.持久性也就是数据一旦正确存入,就会保存到硬盘中,被持久化存储起了.  隔离性 事务的隔离性在是在并发执行时体现的,并发是我们现在计算机常用的方法.  并发 这里我先来解释一下什么是并发执行.在我们使用计算机的时候,你会发现很多程序都在跑,不过CPU的个数远远要小于程序的个数,这个时候就会出现不够用的问题,并发在一定的程度上解决了这个问题,就是一般一个程序只占据CPU一段时间,然后换下一个.  脏读 这个是我们要重点谈的,可以说是它太重要的.我们先来假设一个场景,我的老师正在那里写代码,准备给我们布置作业,我偷偷的看了一眼,看到一个student类,那时候我就明白了,我们的作业和student类有关.我回去准备相关的知识了,到是在我走后,老师把题目给改了,这就是脏读问题.  不可以重复读 我吃了脏读的亏,这个时候我就比较小心了,我等到老师把代码写完,然后把他给上传到GitHub上,我在GitHub上读代码.这个模式算是老师写的时候我不能读,等到老师写完我读的代码就正确了.但是这里又出现了问题,我们没说毒的时候不能写啊,我在读第二遍的时候,老师把代码给改了.这个时候就是不可以重复的问题.   幻读 我们这个时候和老师在约定一下,我们读的时候你也不能写,这个在一定程度上解决了一不可重复读问题,但是这个真的很完美吗?这个时候老师的等的很无聊,既让我们不能修改原来的代码,那么我这里写另外一个代码总可以了吧.   这个时候又会出现另外一个问题,我们每一次刷新GitHub,有的代码一会有,一会没有,感觉是幻觉一样,这个就是幻读,算是一种特殊的不可重复读问题,要解决这个问题要彻底串行化执行.也就是老师写好了之后,可以直接去摸鱼了,我在这里观看就可以了. 来源:51CTO博客
  • [热门活动] 【有奖征集】数据库有约,说出你的故事!
    #开发者故事,有奖征集书写代码与修改BUG是开发者大多数的日常:有时探索良久却毫无进展,抓耳挠腮不得其因;有时眉头紧锁间忽地灵光一现,柳暗花明又一村;个中滋味,最有体会。数据库邀你,分享你的故事。让这份分享成为一盏明灯,照亮更多的人。一、 活动时间投稿期:2022/9/1-2022/12/30投稿形式:视频、文章(不用担心你的文笔和表达能力,投稿后我们会协助你优化的哟)二、奖励规则奖项数量征集形式奖励投稿奖励(综合分值60分以上的给与奖励)不限故事稿件&开发者故事视频第1名:价值269元HUAWEI FreeLace无线耳机活力版曜石黑第2~3名:价值199元华为手环4 (曜石黑)第4~6名,价值129元HUAWEI mini蓝牙音箱 _绮境森林第7~10名,价值79元罗技鼠标第11名以后,华为云数据库书籍(3选1)/GaussDB T恤 数据库书籍(3选1:华为数据之道、数据库原理及应用、openGauss数据库核心技术)三、活动要求投稿作者需真实使用或体验过华为云数据库的产品/服务/工具/课程等资源,内容上要与华为云数据库相关,可以是技术分享、实践、案例等,也可以是与数据库相关的故事。故事要求1000字以上,保证真实、原创,拒绝杜撰剽窃;如果未使用过华为云数据库产品,也想参与活动,请点击开发者免费试用专区进行产品体验,如果需要提供相关课程或者学习资料,请添加添加“华为云数据库小助手”微信:18209232786,进行咨询。四、 参与流程思路梳理:参考附件【开发者故事提纲】列出的一些问题,可以帮助你构建故事的框架,进而完成故事的撰写。撰写故事:请根据步骤1中填写的提纲,完善你的“开发者故事”,要求1000字以上,保证真实、原创,拒绝杜撰剽窃。完成投稿:将故事发送给小助手,合格后可获得投稿奖励, 投稿过程中有任何疑问欢迎随时来撩!邀请好友:邀请好友完成投稿,好友投稿给小助手时,说明或者备注邀请人的华为云用户名,即邀请成功,邀请人可获得邀请奖励。审核通过:在投稿后10个工作日内完成审核,审核通过的合格作品可在华为云博客发布。专家评选:年底,我们将对所有合格投稿进行评选,在华为云开发者年终盛典典礼上进行表彰,同时进行奖品奖励。注意事项请遵守华为云社区常规活动规则: cid:link_0
  • [页面编排] ADC两表联查
    ADC两表联查服务中的入参和tql语句该怎么写
  • [版主精选] 1500万员工轻松管理,云原生数据库GaussDB让HR办公更高效
    21世纪什么最贵人才如何有效管理人才需要一款灵活高效的HR效率软件 “2号人事部”是深圳市点米二号科技有限公司出品的中国第一款即租即用的HR效率软件,为10000家客户、1500万人提供员工管理、招聘管理、考勤打卡、薪酬计算、社保管理等服务,为HR解放工作,促进企业管理效率提升。流量洪峰集中,数据读写迎挑战作为一款由百万HR共创的一体化人力资源数字化平台,2号人事部因为流量洪峰集中,数据体量庞大,在数据峰值读写和规模级数据核算方面面临巨大挑战:数据峰值读写:常见的考勤打卡业务场景,因考勤打卡时段集中,高峰期峰值高达每秒10万+,并发访问压力大,即使通过一系列异构和高性能NoSQL来缓解洪峰对基础数据库的冲击,但依然挑战巨大。规模级数据核算:常见的月底考勤核算、薪酬核算的业务场景,因很大一部分企业会在月底和月初发起整个企业的数据核算,而核算会拉起整个月和整个公司的各大模块的记录数据,进而产生上百万行数据的读写压力。全新底座,高效管理基于上述痛点,“2号人事部”对于数据库的需求十分明确,一是具备稳定可靠的数据库服务能力,二是提供简单高效的数据库运维功能。而华为云数据库提供的高可用、存算分离、高性能、弹性高扩展、简易可持续性运维等特点,十分贴合其需求。 华为云通过RDS for MySQL的一写多读特性,让主实例只承担写流量,降低主库压力,承载考勤打卡、月底核算等业务海量读写流量。同时使用云原生数据库GaussDB(for Redis)作为前置缓存,应对考勤峰值的流量高峰。GaussDB(for Redis)凭借存算分离的云原生架构,实现分钟级计算节点扩容和秒级存储扩容;实现了亚毫秒级时延稳定无抖,轻松应对考勤并发高峰;还提供了三副本容灾方案,可从底层保证数据的一致性,从源头避免脏数据的出现,有效协助客户简化上层业务逻辑架构,增强数据的可用性。此外,“2号人事部”HR系统涉及众多公司员工的个人隐私信息,如薪酬、员工档案等敏感信息,对数据服务的安全性要求较高。华为云数据库提供虚拟私有云、子网、安全组、DDoS防护以及SSL安全访问等多层安全防护体系,实现租户隔离和访问控制以及实例监控、API管理、故障预警、自动备份等智能运维手段,多重守护敏感数据,全方位保证“2号人事部”HR系统的数据安全,让客户使用更安心。两套组合拳配合下,“2号人事部”数据库系统在吞吐、访问时延、IOPS等指标方面综合提升15%,扩容时间由4小时缩短为5分钟,效率提升47倍,为企业带来更高的资源利用率,使整个平台在资源不变的情况下承载更多的用户。华为云数据库自动运维平台提供的实时性能监控看板,可以随时应对突发洪峰,一旦发现某个数据库压力呈现不断上升趋势,及时一键扩容,高效支撑海量并发压力,保障业务的稳定运行。人才是企业的重要资产,高效管理人才是企业成功的重要因素。“2号人事部”全场景数字化平台极大提升了企业组织效率和员工满意度,让人才与企业价值实现共赢。华为云数据库愿凭借技术力量,助力万千企业一同推动企业人力资源管理的创新升级,为HR带来工作效能提升和价值重塑。
  • [专题汇总] 华为数据库技术干货及问题汇总【省心省时一贴看完!!!】
    本文整理了包括了大部分华为云数据库使用过程中所遇到的问题贴,全部都是已经有解决方案的问题,以及干货汇总。其中也有一些伙伴对于华为数据库的一种设想以及后续发展的疑问。希望可以给小伙伴在数据库的使用过程中带来一定的帮助 。一,问题贴汇总1.有了华为数据库后请问现在还有必要学习oracle吗https://bbs.huaweicloud.com/forum/thread-124985-1-1.html2.如何将大批量gaussdb数据迁移到hivehttps://bbs.huaweicloud.com/forum/thread-126745-1-1.html3.图数据库---华为云何时才能使用https://bbs.huaweicloud.com/forum/thread-186341-1-1.html4.MySQL本地数据库迁移----DRS测试遇到问题https://bbs.huaweicloud.com/forum/thread-52103-1-1.html5.共享数据库,独立 Schema,为什么在出现故障,数据恢复比较困难,什么情况下恢复数据库将牵涉到其他租户的数据https://bbs.huaweicloud.com/forum/thread-184547-1-1.html6.opengauss数据库中MOT服务器优化配置https://bbs.huaweicloud.com/forum/thread-175436-1-1.html7.数据库做实验遇到小问题 请教下(命令行)https://bbs.huaweicloud.com/forum/thread-71028-1-1.html8.GaussDB100数据库迁移https://bbs.huaweicloud.com/forum/thread-105120-1-1.html9.TiDB, OceanBase 和PolarDB都纷纷扛起分布式HTAP的大旗,华为有何应对?https://bbs.huaweicloud.com/forum/thread-132766-1-1.html10.云数据库有没有什么课程或者活动之类的?https://bbs.huaweicloud.com/forum/thread-72811-1-1.html11.请问GaussDB T 如何使用连接池连接数据库?https://bbs.huaweicloud.com/forum/thread-87617-1-1.html12.Gauss DB 中文字段排序问题https://bbs.huaweicloud.com/forum/thread-190367-1-1.html13.OpenGauss数据库源代码下载https://bbs.huaweicloud.com/forum/thread-110469-1-1.html14.GaussDB(for Redis)测试时发现的两个bughttps://bbs.huaweicloud.com/forum/thread-94543-1-1.html15.能问下openGaussDB公测什么时候完毕,什么时候能上线使用https://bbs.huaweicloud.com/forum/thread-92304-1-1.html二、干货汇总1.关系型数据库主流应用场景https://bbs.huaweicloud.com/forum/thread-191821-1-1.html2.关系型数据库架构介绍https://bbs.huaweicloud.com/forum/thread-191827-1-1.html3.传统数据库vs云数据库https://bbs.huaweicloud.com/forum/thread-191829-1-1.html4.arm架构服务器安装SQL SERVERhttps://bbs.huaweicloud.com/forum/thread-190132-1-1.html5.华为云GaussDB(for Redis)揭秘第19期:GaussDB(for Redis)全面对比Codishttps://bbs.huaweicloud.com/forum/thread-192577-1-1.html6.华为云GaussDB(for Influx)揭密第八期:GaussDB(for Influx)与开源企业版性能对比https://bbs.huaweicloud.com/forum/thread-187406-1-1.html7.EF Core 实体类型https://bbs.huaweicloud.com/forum/thread-186712-1-1.html8.redis 主从复制https://bbs.huaweicloud.com/forum/thread-188358-1-1.html9.案例:创建OBS外表后,将数据导入外表报错Failed to open file region_maphttps://bbs.huaweicloud.com/forum/thread-187249-1-1.html10.华为云GaussDB(for Influx)揭密第六期——数据分级存储https://bbs.huaweicloud.com/forum/thread-185627-1-1.html
  • [热门活动] 【华为云快成长直播间】看华为云大咖架构师如何见招拆招,解决上云各种疑难杂症!
    6月8日16:00,华为云快成长直播间-云数据库专场来啦!看华为云大咖架构师费鹏,如何深度解析用户自建数据库的痛点,又是如何对症下药,有针对性地提供华为云数据库解决方案!看直播→https://activity.huaweicloud.com/kuaichengzhang_live/20220608.html
  • [技术干货] 摘取皇冠上的明珠,华为云数据库的创新与探索
    在国内做数据库,是一件很具挑战性的事情,因为这是基础软件皇冠上的明珠,是卡脖子的关键技术。 从海外厂商攻城略池的垄断到国产数据库厂商的艰难成长,从去IOE浪潮下的国产替代再到如今的百花齐放的市场局面,国产数据库产业一路走来,背后都是一批批企业和个人的信念与坚守。 冯柯便是其中的一员,在20年的技术一线工作中,他见证了国产数据库的蹒跚前进,也亲身参与到互联网和云时代,由市场主导的分布式数据库建设浪潮中。 作为华为数据库领域科学家、华为云数据库GaussDB首席架构师,冯柯正在推动着数字化转型下国产分布式数据库在关键行业的深入应用。本期的 《云享人物·大咖面对面》,华为云开发者社区将以这位数据库行业领军人物的视角,去探索数据库产业冰山之下的世界。(如果你也对数据库感兴趣,文末彩蛋藏有最完整的数据库学习路径、最干货的实战训练资料包,一定不能错过哦!) < 那些年,与国产数据库共沉浮 >上个世纪90年代,以Oracle、DB2为代表的国际商业数据库进入国内市场,拿下电信、金融、政务等重要行业的大单,应用于各类核心系统和周边系统。 彼时的国内数据库产业刚刚起步,在国家政策主导下,最早一批成立的数据库公司主要由高校和科研院所主导,技术上也以跟随国际厂商为主。 也正是在这样的时代背景下,当时在浙大研究数据存储的冯柯,加入到了学校和企业联合的数据库产品化项目中,自此踏上数据库研发生涯,一直到今天。 冯柯强调,“在这个时期,国内的数据库完成了初始的技术和产业积累,更重要的是,它给我们这个行业培养了一大批骨干人才。”如果没有这些人,高技术壁垒的数据库产业会如同无源之水,无本之木。于国内数据库产业来说,地利与人和均已就位,就差天时了。 进入互联网时代,当人们的衣食住行都转向在线服务化,传统的商业数据库愈发显得力不从心。与此同时,国产数据库的产品在广度和深度都有了新的变化,关系型、非关系型、图数据库、时序数据库……百花齐放。 而云计算的发展,好似平地一声雷,将数据库产业推入了一个新的浪潮里。 当前,千行百业都在向数字化转型,应用上云已经是大势所趋,而云也成为数据库部署的主要形态。Gartner的统计显示,2022年云数据库在整个数据库市场中的占比首次达到50%;在中国,到2025年,81%的数据库将会跑在云平台之上。 随着数据库和云的理念深度结合,华为也将早年为解决电信领域数据问题而研发的华为数据库进行全面战略升级,打造了涵盖关系型与非关系型数据库在内的GaussDB系列全场景云服务。冯柯和其团队当前的工作重点,就是华为云GaussDB数据库的研发和产业化应用。 冯柯认为“云计算拉低了数据库行业的应用门槛,单点的技术已经不再是市场发展的绝对性瓶颈,数据库的技术壁垒开始松动。比如对云上数据库的评价更多的是集中在服务能力,也就是说如何让用户能像使用云资源一样随时随地可获得数据库服务。” 云的发展推动了整个国产数据库市场的快速崛起,冯柯感慨道:“我们看到金融行业的头部客户,以及一些互联网头部厂商,在他们的核心业务中开始落地使用国产数据库,这是在过去10年无法想象的事情。“ 他表示,这些变化也意味着国产数据库已经从政策驱动转向了产品市场主导。 而行业的嬗变也不断地重塑着他对技术的理解,尤其是分布式数据库这个具有代表性的技术产业赛道。 < 厚积薄发,分布式数据库的春天 >互联网及云化时代的到来,使得企业业务架构产生巨大变化。过去的集中式数据库已经无法满足越来越多的业务场景,市场的需求推动了底层数据库的分布式改造。另一方面,企业对自身IT架构的开放性和自主诉求也越来越高,这进一步牵引了分布式数据库的普及应用。 虽然去O呼声高涨,但是打破这种传统商业数据库的“垄断”局面又谈何容易。想要冲出传统数据库的包围圈,冯柯指出数据库产品要能回答这三个核心问题:一是解决高可用问题,如何打消客户对系统可用性可靠性的疑虑;二是解决性能问题,如何解决客户对数据库、以及构建其上的应用性能的疑虑;三是业务的平滑迁移,如何降低整个过程的实施成本和风险。而以上种种又都可以从技术层面解决,这也是冯柯带领的GaussDB在实际业务实践中给客户带来的价值所在。 目前,GaussDB立足创新与自研,基于同一架构,一方面拥抱并兼容主流关系型数据库生态如MySQL及非关系型数据库 MongoDB、Redis等生态,另一方面围绕自身开源的openGauss生态,打造面向政企客户,强调高性能、高可靠、高安全的产品。 冯柯认为,由于分布式数据库经历了一个相对混乱的时代,导致整个产品和解决方案的边界模糊不清。 “有的客户虽然没有应用分布式数据库,但他们在业务架构上做过分布式改造和落地。就产生一个后果:在很多场景下,大家对于分布式数据库应该解决什么问题,哪些问题应该通过数据库来解决,哪些应该通过业务或者中间件层来解决,其实不是非常清楚。” 所以,分布式数据库行业标准的落地,打造重点行业典型应用场景的标杆案例,帮助市场清晰界定应用解决方案与产品的边界显得至关重要。 业内不乏这样成功的案例,比如刚刚过去的4月,中国邮政储蓄银行新一代个人业务分布式核心系统全面投产上线。该系统是大型商业银行中首家同时采用企业级业务建模和分布式微服务架构,基于鲲鹏硬件底座、openGauss开源数据库与GaussDB分布式云数据库共同打造。系统上线后可具备为全行6.37亿个人客户、4万个网点提供日均20亿笔,峰值6.7万笔/秒的交易处理能力。 海量交易数据的背后,也标志着国内的分布式数据库产品在性能和产品成熟度上,逐渐能与国际商业数据库持平甚至超越。 < 揭秘GaussDB冰山下的能力 >GaussDB之所以能够支撑邮政储蓄银行的个人业务分布式核心系统上线,成功实现对国外商业数据库的取代,很关键的一点在于它“集成”了华为自身的三大优势:首先是高研发投入带来的高收益和技术领先,华为布局了全球7大研究所来构建数据库研发能力,汇聚了全球1000+的数据库专家人才。其次是完整的软硬技术栈,涵盖芯片、服务器、存储、网络、操作系统、数据库全栈软硬件,具备数据库软硬性能调优的独特优势。最后是独具一格的生态建设,华为把生态当做业务来做,会去平衡生态中的商业利益共享,去跟伙伴分享市场机会。在此基础上结合对客户业务和需求的理解,GaussDB实现了国产数据库在性能和产品上的突破。以高可用为例,GaussDB两地三中心的高可用解决方案已经在国有大行,从边缘到核心系统全类业务进行了验证,满足金融监管的要求。 在全栈能力方面,GaussDB垂直整合华为软硬件资源,比如将华为在存储上的优势,深入融合到数据库的存算分离架构上,包括NDP(Near Data Processing)近数据处理,让数据库的计算逻辑充分利用下面整个存储池的能力,并且更进一步,将NDP与PQ(Parallel Query)相结合,提高复杂查询处理能力。 同时,通过全密态加密技术来保证保护敏感数据的全生命周期安全。并将AI技术融入到数据库内核中,实现参数自调优和智能索引推荐,降低运维侧的复杂度和成本。 冯柯总结了GaussDB的六大竞争点:高可用、软硬深度协同、企业级混合负载、云原生多主、数据安全与可信、AI-Native(智能运维与调优)。具体可以参考阅读《华为云数据库战略启示录》。https://bbs.huaweicloud.com/blogs/308803在冯柯看来,所有的技术问题来自于你解决什么样的诉求。 对于一些需要云原生数据库的企业来说,GaussDB通过软硬协同、架构的融合、混合负载和智能化运维,让数据库的使用和水电资源一样简单易得。而面向政企,GaussDB在上述基础之上会更强调高可用、安全方面的考量,像使用单机集中式数据库一样可靠可用。 比如在工商银行核心交易系统分布式改造中,他们将贵金属交易系统、渠道类业务、商密公文系统等核心业务从传统封闭的集中式商业数据库平滑切换到华为云GaussDB 分布式数据库之上,在高可用方面,实现了同城单Region 多AZ 互联,支持同城双活,金融级支持三层组网的管控高可用部署方案,支撑日均业务量10万+。 与此同时,工商银行还通过华为云数据库和应用迁移(UGO)与数据复制服务(DRS)一站式迁移工具顺利迁移了数千个实例,单个业务存储过程量就接近两千,节省了80% 的人工工作量。 < 五环理论,生态胜出才是最后赢家 >对于企业来说,在经历了封闭、集中式数据库的痛苦之后,他们也愈加关注基础软件的开源开放和生态建设,没有人想从一个封闭的生态走向另一个封闭的生态。 谈及开源数据库和商业数据库,乃至当下的国内数据库生态建设,冯柯提到了 “五环理论”,这是他对数据库生态认知的自创概念: 最核心的二环是数据库的技术内核,三环是数据库的工具,包括迁移、开发、管理工具等;四环是服务能力;最外面的五环就是生态。 “产品外延能力越强,参与主体的多样性越丰富,生态也就越成熟,当然投入的成本也会越高。不过现在大多数厂商都处在二环和三环之间,即还停留在产品技术的层面。” 冯柯认为只有ORACLE和MySQL这两款数据库真正走到了五环,所以整个国内数据库产业的生态建设都是道阻且长,需要明确自身在哪些环节上是可以去做自我演进和发展。“走到五环是需要一个过程的,而数据库的开源生态建设尤为艰难,我们面临着巨大的挑战。” 早在2019年,华为宣布将其在数据库领域的积累——GaussDB单机主备内核能力开源,并命名为openGauss。2020年6月底,openGauss数据库源代码正式向开发者开放。 冯柯说,“过去我们可能是为了开源而开源,而且以技术的使用为主,但现在诸如openGausss这样的开源,是把产品作为生态建设的载体,产品本身就是开源生态的一部分。 同时在这生态中,也在不断长出更多的数据库产品。” 目前,除了华为云的分布式数据库GaussDB(for openGauss),已经有12家DBV基于openGauss社区版发布了自己的品牌数据库,100+头部企业参与社区共建。 同时,华为积极投入人才培养,与教育部联合建设“智能基座”基地,GaussDB已与72 所国内双一流高校建立合作关系,并在教育部“新工科”项目的80多所高校中开设GaussDB 数据库课程;在高职、专科院校,通过实践实训培养面向社会的应用型人才。开课之外,定期开展师资培训,联合多所顶尖高校教授出版GaussDB 数据库教材、教辅,持续完善GaussDB 数据库的人才培养体系,保障数据库产业未来人才供给。 最后冯柯强调,能否建立一个实现共赢的商业利益分享机制,是整个生态的基础。“这个赛道上,最终能够在生态上胜出的才是真正赢家。” < 结语 >从政策层面到市场需求,今天对于国内数据库厂商来说,可以称得上是最好的时代。 作为基础软件“皇冠上的明珠”,国产数据库的崛起,像梦想照进现实的一道光,每一个在这个产业沉沉浮浮的技术人,通过“创造”出类似GaussDB这样的产品,来承载着他们对基础软件的坚持和梦想,支撑起这个由数据构成的大千世界。 在技术一线坚持20多年后,对于冯柯来说,自己的人生已经和数据库“融为一体”了,采访的尾声,他也以自身为例,分享了技术人的转型经验,以及一些通用的工作方法论,与广大开发者们共勉:《数据库专家20年技术一线工作分享,如何化解35岁危机》。
总条数:427 到第
上滑加载中