• [互动交流] obs c sdk内网下载文件缓慢
    使用了obs c sdk的接口进行文件的下载,下载缓慢,200MB的图片集用了1000s;请问obs c sdk提供了并行的文件下载接口吗?造成下载速度慢的原因可能是什么呢?
  • [互动交流] [OBS SDK Version=3.21.12];[Endpoint=http://obs.cn-east-3.myhuawe
    [OBS SDK Version=3.21.12];[Endpoint=http://obs.cn-east-3.myhuaweicloud.com:80/];[Access Mode=Virtul Hosting]  提示 WARN;是什么原因造成的呢?
  • [技术交流] 【对象存储服务OBS】小程序上传图片报错Policy Condition failed?
    #### 【云服务】 [存储服务-对象存储服务OBS](https://www.huaweicloud.com/product/obs.html) 对象存储服务(Object Storage Service,OBS)是一个基于对象的存储服务,为客户提供海量、安全、高可靠、低成本的数据存储能力,使用时无需考虑容量限制,并且提供多种存储类型供选择,满足客户各类业务场景诉求。 #### 【关键字】 OBS、setConditions、表单参数、policy #### 【问题描述】 根据后台生成的Policy和Signature 上传图片到obs报错 ``` eyJleHB***********************************************************CIsIiRrZXkiLCIiXSx7ImJ1Y2tldCI6ImNoZXJ5LXRtcyJ9XX0= e58****************CoER4QDeQ= ``` 后台代码 ```java ObsConfiguration config = new ObsConfiguration(); config.setEndPoint(ENDPOINT); config.setAuthType(authType); ObsClient obsClient = new ObsClient(AK, SK, config); // 待上传的本地文件路径,需要指定到具体的文件名 PostSignatureRequest request = new PostSignatureRequest(); request.setExpires(360000); ArrayList conditions = new ArrayList(); //Condition可以根据不同业务头域的需求进行增删 conditions.add("[\"starts-with\",\"$content-type\",\"\"]"); conditions.add("[\"starts-with\",\"$key\",\"\"]"); conditions.add("{\"bucket\":\""+BUCKETNAME+"\"}"); request.setConditions(conditions); PostSignatureResponse response = obsClient.createPostSignature(request); System.out.println(response.getPolicy()); System.out.println(response.getSignature()); ``` 前端报错信息 ```xml "?xml version="1.0" encoding="UTF-8" standalone="yes"?>AccessDeniedInvalid according to Policy: Policy Condition failed: ["starts-with", "$content-type", ""]00*******************0E8B514P***8/ZZNEMap+*************dnpR/p+jsJ**********51/s******7" ``` #### 【问题定位】 问题原因如下: 后端代码设置了setConditions,导致直接使用了该值计算policy而忽略请求的表单参数中的设置。 ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/20222/15/1644915628718253909.PNG) #### 【解决方案】 请求的表单参数中的设置和后端代码的setConditions取其一即可。 #### 【参考知识】 该问题可以参考的文档如下: 1. OBS SDK说明:https://obssdk.obs.cn-north-1.myhuaweicloud.com/apidoc/cn/java/index.html ![](https://bbs-img.huaweicloud.com/data/forums/attachment/forum/20222/15/1644915660076826357.png) 2. 基于浏览器上传的表单中携带签名:https://support.huaweicloud.com/api-obs/obs_04_0012.html 3. 小程序直传OBS: https://support.huaweicloud.com/bestpractice-obs/obs_05_2000.html
  • [互动交流] OBS跨区域复制数据出现问题
    我在这边看到OBS可以配置跨区域复制数据https://support.huaweicloud.com/usermanual-obs/obs_03_0003.html但是我配置完后进行跨区域操作的时候会显示错误尝试了OBS客户端和obsutil都是不行,请问有什么操作文档参考吗
  • [问题求助] 【茅台项目】【开发环境】上传文件OBS报错obs: service returned error: Status=404 Not
    【功能模块】resCode: "405230000"resMsg: "系统内部错误: obs: service returned error: Status=404 Not Found, Code=NoSuchBucket, Message=obs: service returned error: Status=404 Not Found, Code=NoSuchBucket, Message=The specified bucket does not exist, RequestId=0000017E8EFF6213640D9A14E8FF577F, RequestId=0000017E8EFF6213640D9A14E8FF577F"result: {object: "uistudio/upload/img/cs011703_210b5db8ee494afabd04a3085f29f2dc.png"}object: "uistudio/upload/img/cs011703_210b5db8ee494afabd04a3085f29f2dc.png"【操作步骤&问题现象】1、2、【截图信息】【日志信息】(可选,上传日志内容或者附件)
  • [问题求助] 【ABC产品】【obs功能】obs存储文件报错
    【功能模块】测试obs存储桶文件上传报错,之前是可以用的,今天就可以报错了租户:Hi-hstc123【操作步骤&问题现象】1、2、【截图信息】【日志信息】(可选,上传日志内容或者附件)
  • [互动交流] OBS 存储的图片文件需要临时url才能访问,多张图怎么办?
    OBS存储的图片,需要临时签名和过期时间,如果这样,那么一次性上千张图,岂不是每一个图都要生成临时url了吗??而且加入到了过期时间了  那岂不是又要请求云服务再次为每一个图生成url??
  • [互动交流] obs java sdk 可以设置之前上传文件的有效期吗?
    obs java sdk 之前上传有效期为1天,现在想修改已上传的文件为永久有效? 可以吗?
  • [已解决问题归档] AICC8.15 OBS自动外呼
    【问题来源】    星网    【问题简要】OBS自动外呼开发字段相关问题【问题类别】   OBS【AICC解决方案版本】   AICC8.15【期望解决时间】尽快【问题现象描述】obs自动外呼数据库接口,取外呼任务接口,其中TRANSFERWITHDETECTTYPE和AsrFlag这两个参数有什么用?会触发什么效果?如果可以,请举例说明一下。
  • [互动交流] obs查询对象列表排序问题
    请问obs查询对象列表支持按创建时间倒序查询吗?
  • [资产园地] 物体检测-CenterNet-Hourglass
    描述CenterNet-Hourglass (物体检测/Pytorch)1. 概述此模型是对Objects as Points 中提出的CenterNet进行结果复现(原论文Table 2 最后一行)。本模型是以Hourglass网络架构作为backbone,以ExtremNet 作为预训练模型,在COCO数据集上进行50epochs的训练后得到的。本项目是基于原论文的官方代码进行针对ModelArts平台的修改来实现ModelArts上的训练与部署。目标检测的主要benchmark 为COCO数据集,相关指标为mAP,详细说明请参考:https://cocodataset.org本模型的其他信息如下表所示:项目说明参考论文Objects as Points使用框架Pytorch-1.4.0训练模型BackboneHourglass训练集COCO train2017训练总epoch数50训练batch_size160 (20*8, 每卡20 batch size)训练硬件及耗时8 * v100,24小时测试集COCO val2017 & test2017推理硬件及速度CPU,20s/pic训练输入图像尺寸训练输入 3x512x512推理输入推理输入图像尺寸支持任意尺寸,推荐大于512x512的图片输入原论文准确率mAP=42.1, 使用flip test本算法准确率mAP=42.7, 使用flip test2. 训练2.1. 算法基本信息任务类型:目标检测支持的框架引擎:PyTorch-1.4.0-python3.6算法输入:存储在OBS上的数据集,必须按照COCO数据集的格式进行存储|-- data `-- |-- coco `-- |-- annotations | |-- instances_train2017.json | |-- instances_val2017.json | |-- person_keypoints_train2017.json | |-- person_keypoints_val2017.json | |-- image_info_test-dev2017.json |---|-- train2017 |---|-- val2017 `---|-- test2017将数据打包tar -cvf coco.tar ./coco将 coco.tar 上传至OBS。预训练模型ExtremeNet算法输出:用于Pytorch推理的pth模型,CPU推理速度:20s/pic代码结构src/ ├── pre-trained_weights │ └── ExtremeNet_500000.pth ├── trained_model # for deployment │ ├── coco_classes.py │ ├── config.json │ ├── customize_service.py │ ├── epoch_50_mAP_42.7.pth │ ├── _init_paths.py │ └── lib ├── train.py # training script ├── evaluation.py # evaluation script ├── _init_paths.py ├── coco_eval.py ├── lib # related codebase │ ├── datasets ... │ ├── detectors ... │ ├── external ... │ ├── logger.py │ ├── models ... │ ├── opts.py │ ├── trains ... │ └── utils ... ├── coco # coco dir ├── infer_results # inference results COCO test-dev submit format │ ├── detections_test-dev2017_ctdet-flip-test_results.zip │ └── detections_test-dev2017_ctdet-multi-scale_results.zip └── training_logs # training logs ├── jobf9a05f30-job-trainjob-ctdet.0-0-0-det-0_default-stdout.log ├── logs_2020-11-12-22-19 ... └── opt.txt2.2. 训练参数说明名称默认值类型是否必填是否可修改描述batch_size12int否是模型训练时总的batch_size,当多卡训练时,batch_size要能整除#GPUmaster_batch12int否是模型训练时负责维护模型master copy的GPU上的batch_size,如无特殊需求可设置master_batch = batch_size / #GPUload_weightsrc/trained_model/epoch_50_mAP_42.7.pthstring是是预训练的CenterNet模型的pth文件路径gpus0string否是GPU 编号,如果选择多卡,则需要按照“0,1,2,3”的格式填写num_epoch50int否是训练所需的epoch数量lr2.5e-4float否是训练时的learning ratelr_step40string否是learning rate 在指定epoch时变为原来的0.1evalFalsestring否是是否启动Evaluation模式,具体使用见2.4节推荐运行参数:--exp_id=coco_hg --arch=hourglass --batch_size=160 --master_batch=20 --lr=2.5e-4 --load_model=[path]/ExtremeNet_500000.pth --gpus=0,1,2,3,4,5,6,7 --num_epoch=50 --lr_step=40特别说明:load_weight参数有以下两种取值:固定的默认路径,默认加载本算法源码目录中的trained_model/epoch_50_mAP_42.7.pth继续训练,加载成功会打印日志;可变的OBS路径,用户可指定OBS上的一个模型文件路径,然后本算法会加载该模型继续训练,加载成功会打印日志。注意,OBS路径的模型在输入时load_weight应为s3://bucket_name/xxx/xxx.ptheval参数有以下两种取值:(1)False,本算法执行模型训练过程;(2)True,本算法加载load_weight参数指定的模型,然后执行模型评估过程。具体评估见2.4节。2.3. 训练输出文件CenterNet_output/V0008/ ├── logs_2020-11-12-22-19 │ ├── events.out.tfevents.1605190788.job3b595134-job-trainjob-centernet-0 │ ├── log.txt │ └── opt.txt ├── checkpoints | ├── model_40.pth | ├── model_best.pth | └── epoch_50_mAP_42.7.pth ├── model | ├── customize_service.py | ├── config.json | ├── model_last.pth | └── ... └── opt.txttfevents 文件可由tensorboard打开查看训练曲线。2.4. 模型评估可利用train.py 或 evaluation.py 参数对模型进行指标验证,此时需将原始默认参数删除,并配置以下相关参数:名称默认值类型描述load_weightsrc/trained_model/epoch_50_mAP_42.7.pthstring需要指定训练得到的pth 文件的路径gpus0stringGPU 编号,如果选择多卡,则需要按照“0,1,2,3”的格式填写keep_resFalsestringflag 参数,用来判断是否要保留原始分辨率进行推理flip_testFalsestringdetection中是否使用反转测试,以提高精度test_scales‘’string多尺度模型推断,可以有更高的精度,但也相对更加耗时。多尺度参数输入示例:0.5,0.75,1,1.25,1.5trainvalFalsestring用于选择所用的推理数据集,默认为val集,若设True则为test集。evalTruestring若使用train.py 脚本,需将其设置为True才可进行模型评估,否者进行模型训练推荐运行参数:--exp_id coco_hg --arch hourglass --keep_res True --resume True --gpus 0 --load_model [path to ckpt]/model_last.pth --flip_test True # optional --test_scales 0.5,0.75,1,1.25,1.5 # optional --trainval True # optional输出文件:CenterNet_output_val/V0008/ ├── logs_2020-11-12-22-19 ├── results.json ├── map.txt # 如果以coco形式存储数据 └── opt.txtresults.json为COCO的评价格式的推理输出。Evaluation 数据data_url格式目前支持三种形式:coco.tar 文件所在dir。此时推理数据文件结构与2.1一致coco 文件夹。将测试数据以coco2017的格式存放在obs里,格式必须严格如下:|-- data `-- |-- coco `-- |-- annotations | |-- instances_val2017.json `---|-- val2017当数据为coco原始数据时,无需做任何改变,在任务配置时,将data_url指向此处的data文件夹即可。当数据为自定义数据时,用户需要手动按照coco数据的格式将图片放在data/coco/val2017的路径里,并将groundtruth的信息在data/coco/annotations/instances_val2017.json文件中进行改写(不能修改json文件名),之后将data_url指向此处的data文件夹即可。图片文件夹。此时data路径下直接存放待推理的图片。将data_url指向此处的data文件夹即可,此时不会生成评估指标。图片推理结果的格式: 以coco推理结果的形式保存在results.json文件中。3. GPU/CPU推理完成训练后,在创建模型的选项中选择,“从训练中选择”的方式实现实现模型导入即可。之后选择立即创建即可得到可部署模型。可部署模型也已经发布在ModelHub注意:推理配置文件model/config.json中的runtime字段为pytorch1.4-python3.7,表示该模型可同时在CPU或GPU运行。4. 案例指导本算法的详细使用方法,请查看《ModelArts AI Gallery算法CenterNet使用指导》。交付交付方式华为云ModelArts交付区域华北-北京一、华北-北京四、华东-上海一、华南-广州、亚太-**
  • [资产园地] 目标检测-TSD
    描述TSD(目标检测/Pytorch)1. 概述此模型基于Revisiting the Sibling Head in Object Detector中提出的模型结构实现,该算法会载入在COCO上的预训练模型,在用户数据集上做迁移学习。我们提供了训练代码和可用于训练的模型,用于实际场景的微调训练。训练后生成的模型可直接在ModelArts平台部署成在线服务。目标检测的评估手段一般使用AP指标,详细说明请参考原论文。本算法的其他信息如下表所示:项目说明参考论文Revisiting the Sibling Head in Object Detector使用框架Pytorch-1.4.0训练集COCO2017中的训练集训练总epoch数35训练batch_size使用8张V100训练,每张卡TRAIN_BATCH_SIZE = 2,相当于总batch_size为16训练硬件及耗时8*V100,约100小时测试集COCO2017中的test_dev推理硬件及速度V100,1.9s/pic原论文准确率AP=49.4本算法准确率AP=49.42. 训练2.1. 算法基本信息任务类型:目标检测支持的框架引擎:PyTorch-1.4.0-python3.6算法输入:存储在OBS上的数据集,必须按照COCO数据集的格式进行存储,详情请查看下文第4节案例指导COCO预训练模型,在COCO test_dev上的AP是49.4算法输出:用于Pytorch推理的pth模型代码结构|-src # 算法源码根目录 |-pre-trained_weights # ImageNet上的预训练参数文件 |-trained_model # 已训练好的、可复现论文精度的模型 |-model |-config.json |-customize_service.py |-epoch_35_mAP_49.4_tsd1.pth # 训练好的模型 |-... |-train.py # 算法启动文件 |-evaluation.py # 模型评估脚本 |-...2.2. 训练参数说明名称默认值类型是否必填是否可修改描述gpu_num1int否是使用GPU的数目,默认是1块GPUimgs_per_gpu2int否是每块GPU能同时处理的图像数目lr0.02float否是训练的学习率epoch1int否是训练多少代lr_step24,33str否是在训练至多少代时进行进行学习率衰减deterministic1int否是算法是否是确定性的,即是否设定种子validate1int否是训练时是否进行在验证集上检验multi_train1int否是在训练时是否采用多尺度图像增强multi_test0int否是在验证和测试时是否采用多尺度图像增强test_ann_fileannotations/image_info_test-dev2017.jsonstr否是测试时采用的图像标注json文件。支持输入本算法源码目录的相对路径;也支持输入可变的OBS路径,用户可指定OBS上的一个模型文件路径。test_img_prefixtest2017str否是测试时图像所在的文件夹目录format_only0int否是是否只输出预测结果文件,不输出准确率等指标。当测试没有ground truth时,必须把format_only设为1load_weight—str否是是否加载已训练好的模型权重eval0int否是是否进行测试。1表示测试;0表示训练具体介绍一下load_weight参数:默认情况:默认加载已训练好的模型,即源码目录中的trained_model/model/ epoch_35_mAP_49.4_tsd1.pth,加载成功会打印日志。格式规范:支持输入本算法源码目录的相对路径;也支持输入可变的OBS路径,用户可指定OBS上的一个模型文件路径。使用方法:在训练阶段,可以加载ImageNet预训练Resnet101权重来train from scratch(需要把load_weight参数删除掉),也可以指定加载的模型路径,在此基础上继续训练;若为eval阶段,参数为空时默认加载本算法训练好的weight,不为空时加载用户指定weight进行测试。其他说明:算法加载模型成功后会打印日志。2.3. 训练输出文件训练完成后的输出文件如下:|- model |- model.pth # 训练好的模型文件 |- config.json |- customize_service.py |- ... # 部署所需的其他文件 |- xxxx.log |- xxxx.log.json如果设置eval为True,输出文件如下:|- test_res |- test_result.pkl # 预测结果的.pkl文件 |- tsd_test_results.bbox.json # 预测结果的.json文件3. GPU/CPU推理元模型来源 选择 从训练中选择,选择训练作业及版本。注意:推理配置文件model/config.json中的runtime字段为pytorch1.4-python3.6,表示该模型可同时在CPU或GPU运行。4. 案例指导本算法的详细使用方法,请查看《ModelArts AI Gallery算法TSD使用指导》。交付交付方式华为云ModelArts交付区域华北-北京一、华北-北京四、华东-上海一、华南-广州、亚太-**
  • [资产园地] ECS-50(声音分类)数据集
    描述ECS-50 声音分类数据集1.数据简介ESC-50数据集是2000个环境录音的标签集合,适合环境声音分类的基准方法。数据集由5秒长的记录组成,分为50个语义类(每个类有40个示例)分为5个大类别2.适用的算法声音分类:https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=6889bd98-b49d-4953-8c2f-15b6b9320a403.使用方法a、下载本数据集至您的OBS桶中b、在ModelArts“数据管理-数据集”创建声音分类数据集(注意:数据集输入位置、数据集输出位置选择2个空的OBS路径)c、在数据集详细页面右上角“导入”,导入方式选择“对象存储服务(OBS)目录”,目录位置选择上述下载路径d、待导入完成后,单击页面右上角“发布”e、订阅声音分类算法,选择上述发布的声音分类数据集进行训练
  • [资产园地] 中文语句情感分类(manifest)
    描述中文语句情感分类(manifest)1.数据简介数据集分为训练语料,验证语料,来区分语句情感2.适用的算法中文文本分类-Bert:https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=bce58703-4a50-451f-a262-eff9aa8d640c3.使用方法a、下载本数据集至您的OBS桶中b、在ModelArts“数据管理-数据集”创建文本分类数据集(注意:数据集输入位置、数据集输出位置选择2个空的OBS路径)c、在数据集详细页面右上角“导入”,导入方式选择“对象存储服务(OBS)目录”,目录位置选择上述下载路径d、待导入完成后,单击页面右上角“发布”,数据按照0.8:0.2比例切分e、订阅文本分类算法,选择上述发布的文本分类数据集进行训练
  • [资产园地] 文本分类数据集--外卖评论
    描述文本分类数据集–外卖评论1、数据简介本数据集为外卖评论数据集,包含约4000条正向评论、8000条负向评论。数据集文本对象和标注分别存放在如下不同文件中:comment.txtcomment_result.txt2、适用的算法本数据集可用于如下AI Gallery中文文本分类算法进行训练中文文本分类-Bert:https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=bce58703-4a50-451f-a262-eff9aa8d640c3、使用方法a、下载本数据集至您的OBS桶中b、在ModelArts“数据管理-数据集”创建文本分类数据集(注意:数据集输入位置、数据集输出位置选择2个空的OBS路径)c、在数据集详细页面右上角“导入”,导入方式选择“对象存储服务(OBS)目录”,目录位置选择上述下载路径,模式选择“文本和标注分离”d、待导入完成后,会显示11987条数据已标注,单击页面右上角“发布”,数据按照0.8:0.2比例切分e、订阅文本分类算法,选择上述发布的文本分类数据集进行训练
总条数:1613 到第 页
上滑加载中