• [问题求助] FusionInsight安全模式ES使用java-transport-client认证问题
    springboot 使用 java-transport-client 读写 FusionInsight HD 6.5.1 安全模式 ES 6.7.1 ,刚启动服务时可以正常读写 ES ,但过一段时间后就报错,错误堆栈如下认证代码复制于样例已替换下面三个包,请问是否替换正确elasticsearch-transport-clientelasticsearchtransport
  • [运维管理] FusionInsight HD loader对接关系型数据库咨询
    在线下C70、C80、6.5.1版本的集群中,使用loader导入导出数据是否支持对接达梦数据库?产品文档中描述的只是可以支持对接关系型数据库,这是否说明只要是关系型数据库就都支持使用loader导入和导出这个操作?达梦就是关系型数据库,想知道是否支持?
  • [行业动态] 华为云FusionInsight三次蝉联中国大数据市场第一
    近日,全球领先的IT研究和咨询公司国际数据公司(IDC)发布《中国大数据平台市场研究报告,2021H1》,华为云FusionInsight智能数据湖位居中国大数据平台市场份额第一,连续三次蝉联榜首。华为云FusionInsight智能数据湖持续深耕政务、金融、运营商、互联网、泛企业行业,尤其在2021年上半年,金融行业国有大行、股份制银行、城商农信行、保险、证券客户首选华为云FusionInsight;同时,华为云在互联网市场也突飞猛进,大型互联网客户也转向华为云;华为云在公有云上也建立专属Region,为政务和企业用户上云提供便利,使得公有云大数据市场得以高速增长。在华为云连续三次取得市场份额第一评估的背后,离不开客户对华为云FusionInsight智能数据湖解决方案的认可,也离不开华为云在大数据技术的持续创新。华为云FusionInsight为客户提供完整的大数据云服务产品组合,有单集群最大支持6万节点的MRS云原生数据湖服务,单集群最大支持2048节点的云数据仓库DWS服务,MRS/DWS既可以灵活按需部署,也可以融合演进到湖仓一体的架构;同时面向不断增长的数据探索分析、新型的图分析、可信计算等诉求,提供了托管式的DLI数据湖探索服务、自主知识产权的GES图计算服务、创新的可信智能计算服务TICS,并提供源自华为自身数字化转型经验沉淀的DGC数据湖治理中心服务,以及面向计算多样性、数据多样性、环境多样性等构建的统一数据引擎华为HIS UniDB,有效支持了华为集团IT企业数据湖的运行。结合华为iData帮助客户构建一站式的大数据分析平台,让客户在复杂环境下,快速构建企业级数据分析解决方案,加速释放企业海量数据价值。MRS云原生数据湖:让企业在湖仓一体、存算分离、云原生的架构上实现离线、实时、逻辑三种数据湖:离线数据湖:让传统孤岛式建设走向统一数据平台,一个平台支持AI、BI、交互式查询等多种引擎,最大支持6万+大集群滚动升级,确保关键业务不中断;实时数据湖:通过CDL+Hudi+Flink+ClickHouse实现数据全链路实时分析,价值兑现从T+1到T+0;逻辑数据湖:HetuEngine提供跨湖、跨仓的协同分析,减少80%数据搬迁,协同分析提效50倍。DWS云数据仓库:一站式全场景数据仓库服务,在全并行分布式架构的基础上,创新性地无缝融合OLAP引擎、时序引擎、CEP引擎,同时支撑批量、交互式和实时分析等不同业务场景需求。打通异构平台间的壁垒,做到数据融合、分析协同,不仅极大地简化了全域数据的架构,也让数据分析变得简单化、自主化。DLI数据湖探索:提供全开源、全托管的一站式的流处理、批处理、交互式分析的大数据Serverless分析服务。GES图引擎:提供分布式云原生的图引擎服务,是针对以“关系”为基础的“图”结构数据,进行查询、分析的服务, 内置30+算法,支持千亿点万亿边6跳秒查,广泛应用于风控、推荐、反欺诈等具有丰富关系数据的场景。TICS可信智能计算:华为云率先提出联邦SQL分析与多方安全计算的技术融合,实现数据分析的“可用不可见”。深度协同优化联邦训练和全同态加密,涵盖多方安全计算、联邦学习和可信执行环境等技术,打破跨机构的数据孤岛,实现多方数据联合分析和联邦学习,加速数据要素市场化流通,并获得多项权威机构包括信通院、金标委的行业认证。DGC数据湖治理中心:提供全链路数据治理工具,包含标准规范、数据集成、数据开发、数据质量、数据安全、数据服务等功能,满足企业数据工程师、建模工程师、业务分析师协同作战诉求,用数更敏捷,加速数据资产沉淀和供数效率,成为企业数字化创新的助推器。近10年来,华为云FusionInsight智能数据湖持续压强投入,已服务于政务、金融、运营商、互联网、泛企业等行业客户,坚定开放路线,与世界同行,先后在开源社区开放CarbonData和openLooKeng等大数据组件,并在Hadoop社区贡献达到Top2、Spark社区贡献达到Top4。华为云FusionInsight携手800+ISV,持续践行“平台+生态”战略,服务于全球客户。更多精彩文章:https://bbs.huaweicloud.com/forum/thread-66105-1-1.html  
  • [赋能学习] 华为FusionInsight MRS实战 - Flink CDC特性学习
    # 华为FusionInsight MRS实战 - Flink CDC特性学习 ## Flink cdc介绍 Flink CDC连接器是Apache Flink新版本特性,是数据源连接器,使用更改数据捕获(CDC)从不同数据库接收更改。Flink CDC连接器集成了Debezium作为引擎来捕获数据更改。所以它可以充分利用Debezium的能力。 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/112535tjbh9lentmbac92x.png) 华为FusionInsight MRS 812版本,Flink版本1.12为例,介绍Flink CDC对应能力 Flink CDC与Flink版本对应关系 |Flink CDC Connector Version|Flink Version| | ---- | ---- | |1.0.0|1.11.*| |1.1.0|1.11.*| |1.2.0|1.12.*| |1.3.0|1.12.*| |1.4.0|1.13.*| |2.0.*|1.13.*| |2.1.*|1.13.*| 选择使用flink cdc版本1.2.0 Flink CDC支持数据源 |Database|Version| | ---- | ---- | |MySQL|Database: 5.7, 8.0.xJDBC Driver: 8.0.16| |PostgreSQL|Database: 9.6, 10, 11, 12JDBC Driver: 42.2.12 | 可支持的格式 |Format |Supported Connector |Flink Version| | ---- | ---- | ---- | |Changelog Json|Apache Kafka|1.11+| ## Flink cdc 方案优势 同之前的实时同步方案相比,使用flink cdc能够减少cdl工具和kafka的维护成本,链路更短,延迟更低,flink提供了exactly once语义,可以从指定position读取,并且去掉了kafka,减少了消息的存储成本。 ## 场景说明 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/112609rvm99dkn6crfneyc.png) 1. 使用Flink cdc的能力直接从数据源MySQL中获取数据内容并使用Flink SQL处理发送至数据下游 2. 使用Kafka进行数据接收,使用Changelog格式 ## 样例数据简介 生产库MySQL原始数据: ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/112632ppbjzz0cst1krstz.png) ## 前提条件 该特性目前只支持在Flink Client客户端使用,所以首先需要了解以下三点内容。 1. 如何配置Flink客户端。 参考:[《华为FusionInsight MRS Flink客户端配置》](https://bbs.huaweicloud.com/forum/thread-175741-1-1.html) 2. 如何配置Flink SQL Client。参考:[《华为FusionInsight MRS Flink SQL-Client客户端配置》](https://bbs.huaweicloud.com/forum/thread-176103-1-1.html) 3. 如何使用Flink SQL Client。参考:[《华为FusionInsight MRS实战 - Flink增强特性之可视化开发平台FlinkSever开发学习》](https://bbs.huaweicloud.com/forum/forum.php?mod=viewthread&tid=161992) ## 操作步骤 - 准备驱动包 https://github.com/ververica/flink-cdc-connectors/releases 根据上述对应版本,选择flink cdc版本为1.2.0 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/112838lns4q3awzysrrjoh.png) 下载对应的jar包并放置到flink客户端lib目录下,比如 /opt/92_client/hadoopclient/Flink/flink/lib ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/113048lx0qy8nwmdoowalc.png) - 使用命令启动flink session `./bin/yarn-session.sh -t conf/` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/113113igl7bfjymb6julfw.png) - 使用命令登录flink sql client客户端 `./sql-client.sh embedded -d ./../conf/sql-client-defaults.yaml` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/113136hvyiurtu9r9wmthc.png) - 在sql client创建数据源表 ``` CREATE TABLE MYSQL_MATERIAL_INFO( uid INT, uname VARCHAR(32), age INT, sex VARCHAR(30), mostlike VARCHAR(30), lastview VARCHAR(30), totalcost INT, localts as LOCALTIMESTAMP ) WITH( 'connector' = 'mysql-cdc', 'hostname' = '172.16.2.118', 'port' = '3306', 'username' = 'root', 'password' = 'Huawei@123', 'database-name' = 'hudi', 'table-name' = 'hudisource' ); ``` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/113158lhwky3cqjso4bgzd.png) - 在sql client创建kafka目的表 ``` CREATE TABLE huditableout( uid INT, uname VARCHAR(32), age INT, sex VARCHAR(30), mostlike VARCHAR(30), lastview VARCHAR(30), totalcost INT, localts TIMESTAMP ) WITH( 'connector' = 'kafka', 'topic' = 'changelog_json_format_test', 'properties.bootstrap.servers' = '172.16.9.116:21005', 'properties.group.id' = 'example', 'scan.startup.mode' = 'latest-offset', 'format' = 'changelog-json' ); ``` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/113221uc2xlkjhkztaernm.png) - 在sql client创建数据写入 ``` insert into huditableout select uid, uname, age, sex, mostlike, lastview, totalcost, localts from MYSQL_MATERIAL_INFO; ``` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/113246b8juakcy8etsxaov.png) - 在mysql源库中测试数据的增删改查,然后使用kafka消费查看changelog-json格式的结果 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/30/1133087o4i91nfn4zpguje.png)
  • [赋能学习] 华为FusionInsight MRS Flink客户端配置
    # 华为FusionInsight MRS Flink客户端配置 ## 场景说明 使用华为FusionInsight MRS的Flink组件进行开发工作时,需要了解如何配置Flink客户端。本文将介绍如何进行该配置 ## 前提条件 已安装FusionInsight MRS客户端,比如在/opt/hadoopclient路径 ## 操作步骤 - 下载用户认证文件并上传至客户端/opt/hadoopclient/Flink/flink/conf ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/172158yqjasfckgpcn8zto.png) 并配置/opt/hadoopclient/Flink/flink/conf/flink-conf.yaml文件中的认证内容跟上述下载信息匹配 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/172222qurcedofkkrdzuxe.png) 注意:配置的值和冒号之间要有一个空格 - 生成cookie密钥 先加载环境变量: source /opt/hadoopclient/bigdata_env 完成认证: kinit poc 登录客户端路径: /opt/hadoopclient/Flink/flink/bin 执行: sh generate_keystore.sh 密码可填:123456 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/172248nsqlyhzuckpwecdt.png) 上述该步骤会在/opt/hadoopclient/Flink/flink/conf路径中生成配置文件flink.keystore以及flink.truststore - 配置/opt/hadoopclient/Flink/flink/conf/flink-conf.yaml文件 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/172310rzzbd5ff0i7quytr.png) 注意:配置flink.keystore以及flink.truststore文件的路径要是相对路径,并且配置的值和冒号之间要有一个空格 - 使用如下命令启动flink session ``` cd /opt/hadoopclient/Flink/flink ./bin/yarn-session.sh -t conf/ ``` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/172331suwrklktrf3vkmdz.png) ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/1723524vllqamj7lsrx6k6.png)
  • [赋能学习] 华为FusionInsight MRS实战 - Manager rest接口进阶学习
    # 华为FusionInsight MRS实战 - Manager rest接口进阶学习 ## 典型场景说明 1. 想通过rest接口,获取yarn resource manager原生界面的信息 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/155141qbuinoeobvixfzhr.png) 2. 想通过rest接口,获取Mapreduce jobhistory原生界面的信息 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/155203mtz79j2dy1ulicta.png) 说明: 有上图可知,正常情况会通过manager界面点击,并且进行跳转,所以直接通过curl命令获取跳转地址会失败 ## 操作步骤 1. 获取对应实例对应的直接ip以及端口,登录集群oms节点后台查看whitelist.txt文件,样例路径为:`/opt/huawei/Bigdata/om-server/Apache-httpd-2.4.48/conf/whitelist.txt` yarn resource manager实例直连信息: ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/155227lwdngrnv8mm7ghe6.png) Mapreduce jobhistory实例直连信息: ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/155251jfwqpvxwb6neseny.png) 2. 根据获取到的连接信息可以使用curl命令获取页面内容 yarn resource manager获取参考命令 `curl -v --negotiate -u:-X GET https://xxx.xx.xxx.xx:26001/ws/v1/cluster/info -k` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/155316bkrbu1cmcr9cis2d.png) Mapreduce jobhistory 获取参考命令 `curl -v --negotiate -u:-X GET https://xxx.xx.xx.xx:26014/ws/v1/history/mapreduce/jobs -k` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/155521np4f0uwudwy0zi0j.png)
  • [赋能学习] 华为FusionInsight MRS实战 - Manager rest接口基础学习
    # 华为FusionInsight MRS实战 - Manager rest接口基础学习 ## Manager简介 FusionInsight Manager是集群的运维管理系统,为部署在集群内的服务提供统一的集群管理能力。 Manager支持大规模集群的安装部署性能监控、告警、用户管理、权限管理、审计、服务管理、健康检查、日志采集等功能。 ## 典型场景说明 通过典型场景,可以快速学习和掌握Manage REST API的开发过程,并且对关键的函数有所了解。 场景说明 假定用户需要以非界面方式实现操作FusionInsight Manager系统,要求开发基于HTTP Basic认证的应用程序实现如下功能: - 登录FusionInsight Manager系统。 - 访问FusionInsight Manager系统,进行查询、添加、删除等操作。 下面对比介绍使用样例代码和curl命令完成上述rest接口验证 ## 环境准备 - (样例代码)下载并准备MRS对应版本的manager样例代码,比如:https://github.com/huaweicloud/huaweicloud-mrs-example/tree/mrs-3.1.2/src/manager-examples ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/154447aqzcsnva9ofcuqbe.png) 注意:分别将工程的conf,src路径标注为Resouces Root和Source Root - (样例代码)修改UserInfo.properties文件,分别填入对应的manager登录用户名,密码以及Manager IP ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/154735emfld6pksqkdgnuo.png) - (Curl命令)准备linux客户端,使用命令`curl -V`检查是否支持认证 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/154800wludtawextzwtviy.png) 下面根据UserManager.java对比验证 ## Manager 功能验证 1. (样例代码)登录核心参考如下样例代码 ``` // 调用firstAccess接口完成登录认证 LOG.info("Begin to get httpclient and first access."); BasicAuthAccess authAccess = new BasicAuthAccess(); HttpClient httpClient = authAccess.loginAndAccess(webUrl, userName, password, userTLSVersion); LOG.info("Start to access REST API."); ``` 对应curl 请求命令 -u 参数 2. (样例代码)访问Manager接口完成添加用户,参考如下样例代码 ``` // 访问Manager接口完成添加用户 operationName = "AddUser"; operationUrl = webUrl + ADD_USER_URL; jsonFilePath = "./conf/addUser.json"; httpManager.sendHttpPostRequest(httpClient, operationUrl, jsonFilePath, operationName); ``` 对应curl 命令请求 `curl -s -w %{http_code} -k -u '对应用户':'对应密码' -X POST 'https://xxx.xx.xx.xxx:28443/web/api/v2/permission/users' -HContent-type:application/json -d '{"userName":"user888","userType":"HM","password":"Admin12!","confirmPassword":"Admin12!","userGroups":["supergroup"],"userRoles":[],"primaryGroup":"supergroup","description":"Add user"}' ` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/154837lg0brvblpeaj1u0q.png) 3. (样例代码)访问Manager接口完成查找用户列表,参考如下样例代码 ``` // 访问Manager接口完成查找用户列表 operationName = "QueryUserList"; operationUrl = webUrl + QUERY_USER_LIST_URL; String responseLineContent = httpManager.sendHttpGetRequest(httpClient, operationUrl, operationName); LOG.info("The {} response is {}.", operationName, responseLineContent); ``` 对应curl 命令请求 `curl -s -w %{http_code} -k -u '对应用户':'对应密码' -X GET 'https://xxx.xx.xx.xxx:28443/web/api/v2/permission/users?limit=10&offset=0&filter=&order=ASC' -HContent-type:application/json ` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/154904rk3u6anlyyhim43u.png) 3. (样例代码)访问Manager接口完成修改用户,参考如下样例代码 ``` // 访问Manager接口完成修改用户 operationName = "ModifyUser"; String modifyUserName = "user888"; operationUrl = webUrl + MODIFY_USER_URL + modifyUserName; jsonFilePath = "./conf/modifyUser.json"; httpManager.sendHttpPutRequest(httpClient, operationUrl, jsonFilePath, operationName); ``` 对应curl 命令请求 `curl -s -w %{http_code} -k -u '对应用户':'对应密码' -X PUT 'https://xxx.xx.xx.xxx:28443/web/api/v2/permission/users/user888' -HContent-type:application/json -d '{"userName":"user888","userType":"HM","password":"","confirmPassword":"","userGroups":["supergroup"],"primaryGroup":"supergroup","userRoles":["Manager_administrator"],"description":"Modify user"}'` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/154931lukfmg7oq83htvzg.png) 4. (样例代码)访问Manager接口完成删除用户,参考如下样例代码 ``` // 访问Manager接口完成删除用户 operationName = "DeleteUser"; String deleteJsonStr = "{\"userNames\":[\"user888\"]}"; operationUrl = webUrl + DELETE_USER_URL; httpManager.sendHttpDeleteRequest(httpClient, operationUrl, deleteJsonStr, operationName); ``` 对应curl 命令请求 `curl -s -w %{http_code} -k -u '对应用户':'对应密码' -X DELETE 'https://xxx.xx.xx.xxx:28443/web/api/v2/permission/users' -HContent-type:application/json -d '{"userNames":["user888"]}'` ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/202112/28/155001eagtag6w5ltlp7h9.png)
  • [环境搭建] FusionInsight HD 6.5.1 集群部署支持服务器型号咨询
    进行线下版本的HD集群搭建,当前有一批X86的CPU型号为海光C86的中科可控R6237H型号的服务器,想知道是否支持JD集群的部署搭建?
  • [赋能学习] 【汇总】MRS及FusionInsight HD各版本升级路径及补丁汇总
    以下为FusionInsight HD&MapReduce Service HCS场景下历史版本所支持的升级路径对应软件包及升级指导书说明。MRS各版本升级包在线查询工具MRS各版本补丁包在线查询工具升级前基线版本升级前补丁版本可升级目标版本升级包下载路径升级指导书下载路径V100R002C60SPC200V100R002C60SPC2XXV100R002C70SPC200企业用户运营商用户企业用户运营商用户V100R002C60U10V100R002C60U10SPCXXXV100R002C70SPC200企业用户运营商用户企业用户运营商用户V100R002C70SPC100 V100R002C70SPC200企业用户运营商用户企业用户运营商用户V100R002C70SPC200V100R002C70SPC2XX6.5.1企业用户运营商用户企业用户运营商用户V100R002C70SPC200V100R002C70SPC2XX6.5.1.x(FusionInsight HD支持静默补丁,可直接升级至补丁版本)企业用户_升级包运营商用户_升级包企业用户运营商用户企业用户_补丁包运营商用户_补丁包V100R002C80SPC200V100R002C80SPC20X6.5.1企业用户运营商用户企业用户运营商用户V100R002C80SPC200V100R002C80SPC20X6.5.1.x(FusionInsight HD支持静默补丁,可直接升级至补丁版本)企业用户_升级包运营商用户_升级包企业用户运营商用户企业用户_补丁包运营商用户_补丁包6.5.16.5.1.X8.0.2.1(MRS 3.0.2-LTS.2)企业用户-升级包运营商用户-升级包企业用户运营商用户企业用户-工具包运营商用户-工具包8.0.2(MRS 3.0.2-LTS)-8.0.2.1(MRS 3.0.2-LTS.2)企业用户-升级包运营商用户-升级包企业用户运营商用户企业用户-工具包运营商用户-工具包6.5.16.5.1.X8.0.2.2(MRS 3.0.2-LTS.6)企业用户运营商用户企业用户运营商用户8.0.2(MRS 3.0.2-LTS)8.0.2.1(MRS 3.0.2-LTS.2)8.0.2.2(MRS 3.0.2-LTS.6)企业用户运营商用户企业用户运营商用户6.5.16.5.1.X8.0.2.3(MRS 3.0.2-LTS.7)企业用户运营商用户企业用户运营商用户8.0.2(MRS 3.0.2-LTS)8.0.2.1(MRS 3.0.2-LTS.2)8.0.2.2(MRS 3.0.2-LTS.6)8.0.2.3(MRS 3.0.2-LTS.7)企业用户运营商用户企业用户运营商用户6.5.16.5.1.X8.1.2.2(MRS 3.1.2-LTS.3)企业用户运营商用户企业用户运营商用户8.0.2(MRS 3.0.2-LTS)8.0.2.1(MRS 3.0.2-LTS.2)8.0.2.2(MRS 3.0.2-LTS.6)8.0.2.3(MRS 3.0.2-LTS.7)8.1.2.2(MRS 3.1.2-LTS.3)企业用户运营商用户企业用户运营商用户8.1.2(MRS 3.1.2-LTS)-8.1.2.2(MRS 3.1.2-LTS.3)企业用户运营商用户企业用户运营商用户以下为FusionInsight HD&MapReduce Service HCS场景下各版本已发布的通用补丁版本号及对应链接地址。基线版本补丁版本补丁包下载路径补丁安装指导书下载路径发布版本号V100R002C70SPC200V100R002C70SPC205企业用户运营商用户企业用户运营商用户FusionInsight HD V100R002C70SPC205V100R002C70SPC208企业用户运营商用户企业用户运营商用户FusionInsight HD V100R002C70SPC208V100R002C70SPC209企业用户运营商用户企业用户运营商用户FusionInsight HD V100R002C70SPC209V100R002C70SPC210企业用户运营商用户企业用户运营商用户FusionInsight HD V100R002C70SPC210V100R002C70SPC211企业用户运营商用户企业用户运营商用户FusionInsight HD V100R002C70SPC211V100R002C80SPC200V100R002C80SPC203企业用户运营商用户企业用户运营商用户FusionInsight HD V100R002C80SPC203FusionInsight HD 6.5.16.5.1.1企业用户运营商用户企业用户运营商用户FusionInsight HD 6.5.1.SPC16.5.1.3企业用户运营商用户企业用户运营商用户FusionInsight HD 6.5.1.36.5.1.5企业用户运营商用户企业用户运营商用户FusionInsight HD 6.5.1.56.5.1.6企业用户运营商用户企业用户运营商用户FusionInsight HD 6.5.1.66.5.1.7企业用户运营商用户企业用户运营商用户FusionInsight HD 6.5.1.76.5.1.8企业用户运营商用户企业用户运营商用户FusionInsight HD 6.5.1.86.5.1.9(荐)企业用户运营商用户企业用户运营商用户FusionInsight HD 6.5.1.98.0.2(MRS 3.0.2-LTS)8.0.2.1企业用户运营商用户企业用户运营商用户MapReduce Service 3.0.2-LTS.28.0.2.2企业用户运营商用户企业用户运营商用户MapReduce Service 3.0.2-LTS.68.0.2.3(荐)企业用户运营商用户企业用户运营商用户MapReduce Service 3.0.2-LTS.78.1.2(MRS 3.1.2-LTS)8.1.2.2企业用户运营商用户企业用户运营商用户MapReduce Service 3.1.2-LTS.3
  • [公告] 可信智能计算TICS通过金标委《多方安全计算金融应用》评测
  • [公告] 可信智能计算TICS通过信通院《联邦学习》基础能力专项评测
  • [技术干货] 一张图看懂华为云可信智能计算服务TICS
  • [技术干货] 【转】解读华为云FusionInsight可信智能计算服务TICS
    转载来源:中华网https://tech.china.com/article/20211105/112021_917283.html中小微企业为申请银行贷款跑断腿?税务、人社、住建、水、电……为了给企业有更好的信用建模,需要向不同的机构申请不同维度的数据,流程冗长复杂,让人望而生畏。探索和发现新的药物,需要结合多家医疗和科研机构的基因、临床、药物数据,可是这些样本数据散落在不同医疗和科研机构手中,有的数据不能共享,有的不愿意共享。货物运输,由于苏伊士运河堵塞,需要快速为公司梳理出受到影响的货物和客户,以及快速给出备份方案,可是合同、研发、供应链、部件等数据位于企业内外不同的系统中,想要短时间盘点出来简直困难重重。……数据要素的重要性已毋庸置疑,但是如果无法流通起来,就像上面例子所示,就会大大制约经济社会的数字化发展进程,难以充分开发出数据价值。政企数据可信流通存难题当前,在政府和企业的信息化系统中,普遍存在着应用“烟囱”和数据孤岛现象。在政府,委办局之间、甚至委办局内部不同科室都可能存在数据割裂现象;在企业,不同职能部门、分支机构、投资公司,都可能有着自己的应用系统、数据库和大数据平台。究其原因,政企或是出于对数据保护的考虑,亦或是组织管理机制的问题,信息系统设计的限制,导致不同部门之间的数据共享和流通存在巨大障碍。各类机构对于数据流通顾虑重重,就容易造成数据的重复采集、冗余开发和信息不完整,带来决策分析不准确、甚至决策失误等问题。数据即资产,既希望实现数据的高安全可信,也希望通过数据流通创造要素价值,二者要兼得。那么,能否构建可信的数据流通价值链,让各方可以把自己的数据在自己的信任域中进行可信计算,再将结果加密汇聚起来进行整合计算,实现“数据可用不可见,可控可计量”?华为云TICS让“鱼”与“熊掌”兼得在这样的大背景下,华为云在今年推出FusionInsight可信智能计算服务TICS,目标实现数据的可信流通和计算。比如将原始明细数据控制在所属方的信任域,同时又通过互信联盟实现了多方数据的联邦计算,从而将散落在不同机构的数据联合起来,转换成有价值的信息或模型,实现数据流通。华为云FusionInsight可信智能计算服务TICS框架该服务基于华为可信流程打造,通过了信通院和人民银行金标委等权威机构在联邦学习、安全多方计算、可信执行环境等方向的认证,作为中立第三方,旨在为政府、金融、消费、医疗、工业等领域提供可信智能计算平台。华为云FusionInsight可信智能计算服务TICS并不是一项单一的技术,而是一套理论框架和技术体系,是大数据、密码学、人工智能、区块链、可信硬件、安全容器等领域的交叉和融合。在多方数据库联合查询场景中,平台既要做到保护敏感明细数据,又要实现多方数据库的联邦统计分析。在多方样本或特征的联合建模场景中,平台既要对敏感ID和特征进行保护,又要把多方样本或特征联合起来训练出更好的模型。这个过程中华为云FusionInsight可信智能计算服务TICS会为各参与方提供全生命周期的监控和管理,TICS和华为云区块链服务紧密配合,进行数据管理和计算过程的确权和存证,做到整个计算过程可追踪可审计。华为云FusionInsight可信智能计算服务TICS极具开放性。囊括行业主流算法,支持3大任务场景、7大类可信技术、60+原子化算子,根据最佳实践,会为计算任务匹配选择最优协议组合;具有丰富的集成对接能力,开放了80+北向接口,支持与伙伴一起打造联合解决方案;支持丰富的部署形态,包括华为公有云、混合云、智能边缘、华为云金融专区等,满足不同行业和组织的合规需求。华为云FusionInsight可信智能计算服务TICS还提供多种专利技术,保障数据安全,提升计算效率。例如,将联邦SQL与多方安全计算技术深度融合,实现SQL执行前、执行中、执行结果的全流程安全保护;再如,TICS具备多层级自适应的ID求交能力,能够满足数十亿量级ID的求交,从7小时提升到30 分钟。2021年,《数据安全法》和《个人信息保护法》相继生效,为数据的开发利用和安全保护提供了规范和指引。为充分发挥数据价值,实现可持续发展,政企等组织在保护数据安全和个人信息的前提下实现数据要素流通就显得至关重要。尤其是关系到国计民生的重要领域,迫切需要破解数据孤岛难题,实现数据可信流通。华为云FusionInsight可信智能计算服务TICS的推出,让“鱼”和“熊掌”兼得成为可能。
  • [运维管理] FusionInsight HD 6.5.1.7 Spark小文件合并咨询
    Spark的小文件合并是否走merge,如果不走merge的话,Spark是否有自动合并小文件的方法?
  • [二次开发] FusionInsight HD 使用Rest接口调用Graphbase的资源该如何绑定指定队列
    当前通过Rest API端口调用删除GrapHbase的一个边,发现该删除操作提交的是一个MR任务,使用的是default队列,但是default队列没有资源,导致该任务一直处于挂起状态,当前想知道如何在代码中修改调用的这个默认队列为指定队列。删除边代码调用如下:客户用户进行的任务提交打印:yarn原生界面上显示的该任务是graphbase用户提交的,使用的default队列:针对yarn上的提交任务,当前有如下问题:1. 为什么rest调用 登录用户与yarn界面任务提交用户不一样?2. 针对使用的default默认队列在代码中该如何配置为指定队列?
总条数:203 到第
上滑加载中