描述GFocal loss- Generalized Focal Loss1.概述此模型基于Generalized Focal Loss: Learning Qualified and Distributed Bounding Boxes for Dense Object Detection中提出的模型结构实现。该算法基于任意one-stage 检测器上，调整框本身与框质量估计的表示，同时用泛化版本的GFocal Loss训练该改进的表示，无cost提升AP（约1%的提升）。本算法使用COCO2017trainval数据集进行训练和验证，测试数据集为COCO2017test-dev数据集，数据集详情参考COCOdataset官网，最终在CODALAB官网在线测试论文table4中最后一行模型的复现结果如下表所示。APAP50AP75APsmallAPmediumAPlarge0.4820.6720.5240.2930.5150.604本算法其他信息如下表所示项目说明参考论文Generalized Focal Loss: Learning Qualified and Distributed Bounding Boxes for Dense Object Detection使用框架pytorch训练集coco2017 trainval训练总epoch数24训练batch_size2*8，其中2为训练参数中的samples_per_gpu每个GPU承担的图像数量,8为GPU_num即训练用到的GPU数目训练硬件8 * Tesla V100训练耗时32h 26min测试集coco2017 test-dev推理硬件1 * Tesla V100推理速度10.1 pic/s，此为在单GPUTesla-V100下，backbone为https://github.com/open-mmlab/mmdetection/blob/master/configs/gfl/gfl_x101_32x4d_fpn_dconv_c4-c5_mstrain_2x_coco.py2.训练2.1算法基本信息任务类型：目标检测支持的框架引擎：PyTorch-1.4.0-python3.6算法输入：存储在OBS上的数据集，必须按照COCO2017数据集的格式进行存储，详情请查看下文案例指导算法输出：用于Pytorch推理的pth模型，GPU推理速度：10.1s/pic2.2代码结构src |- pre-trained_weights |- checkpoints #主干网络预训练文件夹 |- trained_model |- model |- config.json |- customize_service.py |- best_model.pth |- start_alg_ctrl.py # 训练和预测启动文件 |- configs # mmdetection模型配置文件 |- ... |- gfl |- ... # GFocal模型配置文件 |- ... #mmdetection其他配置文件###2.3训练参数说明|参数 |类型 |是否可调整|默认值|是否必须|说明|| ------------ | ------------ | ------------ | ------------ |------------ ||train_epoch|Integer|true|1|true|数据集迭代次数||GPU_num|Integer|true|1|true|训练使用的GPU数量||samples_per_gpu|Integer|true|2|true|每个GPU承担的任务数，batchsize为其和GPU数的乘积||load_weight|String|true|trained_model/best_model.pth|true|load_weight参数有以下两种取值：（1）固定的默认路径，默认加载本算法源码目录中的trained_model/model/best_model.pth继续训练，加载成功会打印日志；（2）可变的OBS路径，用户可指定OBS上的一个模型文件路径，然后本算法会加载该模型继续训练，加载成功会打印日志。|eval|String|true|False|true|eval参数有以下两种取值：（1）False，本算法执行模型训练过程；（2）True，本算法加载load_weight参数指定的模型，然后执行模型评估过程。模型评估需要支持以下三种输入情况：2a) 创建训练作业时指定的数据存储位置data_url目录下，如果同时有图片和ground_truth，则模型评估过程输出pred_results目录和eval_result.txt文件，前者存放所有图片的预测结果，后者存放模型评估的精度指标；2b) 创建训练作业时指定的数据存储位置data_url目录下，如果只有图片，则模型评估过程输出pred_results目录，存放所有图片的预测结果；2c) 创建训练作业时指定的数据存储位置data_url目录下，如果没有图片，则模型评估过程报错；||warmup_ratio|String|true|0.001|true|初始学习率||lr|String|true|0.01|true|最终学习率|注意：如果eval为true，train_input中可以不需要train2017.zip和val2017.zip如果eval为false，train_input中可以不需要test2017.zip###2.4训练输出文件|- model |- customize_service.py |- config.json |- latest.pth # 训练所得模型 |- GFocal # mmdetection 和 GFocal配置文件3.GPU推理“元模型来源”从训练中选择，和从输出的OBS中选择均可。训练输出文件夹可直接用于导入模型部署各种服务###4.案例指导本算法的详细使用方法，请查看《ModelArts AI Gallery算法GFocal使用指导》交付交付方式华为云ModelArts交付区域华北-北京一、华北-北京四、华东-上海一、华南-广州、亚太-**

描述1. 概述此模型基于Attention and Language Ensemble for Scene Text Recognition with Convolutional Sequence Modeling中提出的模型结构实现，该算法会载入在MJSynth上的预训练模型，在用户数据集上做迁移学习。我们提供了训练代码和可用于训练的模型，用于实际场景的微调训练。训练后生成的模型可直接在ModelArts平台部署成在线服务。场景文本识别的常用评估手段为词级别的正确率。即以词为基本单位，统计正确预测词数量与所有词数量的比例。本算法的其他信息如下表所示：项目说明参考论文Attention and Language Ensemble for Scene Text Recognition with Convolutional Sequence Modeling使用框架Tensorflow-1.13.1训练集MJSynth (训练集部分)训练总step数30万 + 30万 = 60万训练batch_size单卡128训练硬件及耗时V100, 17.5小时 + 17.5小时 = 35小时测试集Street View Text (SVT)推理硬件及速度GPU, 47ms/pic输入图像尺寸32*100*3原论文准确率word accuracy = 83.9本算法准确率word accuracy = 84.2注：本算法复现中，前30W step（17.5小时）使用0.01学习率，后30W step（17.5小时）使用0.001学习率。2. 训练2.1 算法基本信息任务类型： 场景文本识别支持的框架引擎：Tensorflow-1.13.1-Python2.7算法输入：存储在OBS上的数据集，必须按照TF-Record格式及MJSynth目录结构进行存储。详情请查看下文第4节案例指导。MJSynth预训练模型，在SVT上的识别精度为84.2算法输出：用于Tensorflow推理的模型，GPU推理速度：47ms/pic（TitanX）代码结构：src ├── LICENSE # 开源协议 ├── README.md # 开源代码的原版介绍 ├── pylintrc ├── config.py # 配置文件 ├── convert.py # 用于将ckpt模型转换成pb模型 ├── datasets.py # 数据集定义文件 ├── demo.py # 从ckpt中读取模型，直接从图片读入，输出识别结果的demo ├── demo_pb.py # 从pb中读取模型，直接从图片读入，输出识别结果的demo ├── eval_one_pass.sh # 推理阶段直接在整个数据集上测试精度的脚本 ├── train.py # 模型训练代码 ├── evaluation.py # 模型评估代码 ├── model # 以下目录分编码器，解码器实现网络结构 │ ├── __init__.py │ ├── decoder_conv.py │ ├── encoder_resnet.py │ ├── model.py │ └── resnet_v2.py ├── tools │ └── make_tfrecord_datasets.py # 生成tfrecord格式数据集的工具。 ├── utils # 模型实现中用的工具代码 │ ├── __init__.py │ ├── beam_search.py │ ├── hooks.py │ ├── inception_preprocessing.py │ ├── metrics.py │ └── utils.py ├── trained_model │ ├── model # 用于存放复现的模型，可以用于进一步预训练 │ │ ├── config.json │ │ ├── customize_service.py │ │ ├── Iteration_30w_accuracy_84.pb │ │ ├── variables │ │ │ ├── checkpoint │ │ │ ├── variables.ckpt.index │ │ │ ├── variables.ckpt.meta │ │ │ └── variables.ckpt.data-00000-of-00001 ├── pre-trained_weights # 用于复现阶段的初始化模型，未使用因而未空2.2 主要训练参数说明名称默认值类型是否必填是否可修改描述train_urlNonestring是是设置训练输出位置后会自动生成该参数值，为OBS上训练的输出位置data_urlNonestring是是设置数据存储位置后会自动生成该参数值，为OBS上数据来源位置output_dir./train_outputstring是是设置模型、日志等的输出路径train_steps300000int否是训练的step总数。dataset_dirNonestring否是训练数据集路径。checkpointNonestring否是预训练模型路径(当基于某模型进一步训练时需要)learning_rate0.01float否是初始学习率设置。本算法中需要在第二个训练周期手动将学习率设置为0.001继续训练evalFalsebool是是程序运行的阶段。若为训练阶段则必须为False，评估为True。注：设置预训练模型时，需设置checkpoint为预训练模型的目录。2.3 其他可配置的训练参数（config.py中定义）名称默认值类型是否必填是否可修改描述debugFasleboolean否是使用tfdbg进行调试beam_width5int否是推理阶段的beam search大小。若值为0则表示关闭beam searchoptimizerMomentumstring否是模型的优化方法，支持Tensorflow常用的优化方式clip_gradients20.0float否是梯度的clip值，用于训练初期的稳定训练。momentum0.9float否是优化方法中的momentum值。use_nesterovTrueboolean否是优化方法中是否使用nesterov。batch_size128int否是训练的batch size值。train_steps300000int否是训练的step总数。tf_random_seedNoneint否是Tensorflow初始化随机种子。save_checkpoints_secs900int否是保存训练模型的间隔时间，单位为秒。也可以用save_checkpoints_steps代替。save_checkpoints_stepsNoneint否是保存训练模型的间隔步数。也可以用save_checkpoints_secs代替。keep_checkpoint_max5int否是保存的checkpoint模型最大数量。如果为None或者0，所有的checkpoint模型都将被保存。keep_checkpoint_every_n_hours4int否是除了保存最近的keep_checkpoint_max个模型外，额外保存模型。该参数设置训练间隔时间保存的模型数量，单位为小时。gpu_memory_fraction1.0float否是设置训练进程能够占用该显卡的显存比列。gpu_allow_growthFalseboolean否是是否允许Tensorflow动态地增长内存。log_step100int否是每log_step步保存一次日志信息。summaryTrueboolean否是是否使用Tensorboard保存训练信息。max_outputs4int否是Tensorboard中在一个batch里保存图像及文本的数量。2.4 训练输出文件训练完成后的输出文件如下：train_output ├── events.out.tfevents.*.* # Tensorboard日志文件 ├── checkpoint # tensorflow记录当前checkpoint的文件 ├── graph.pbtxt # tensorflow计算图信息 ├── statistics.log # 记录tensorflow operation及网络参数大小文件 ├── saved_model.pb # 训练最后步骤模型导出的推理图文件，用于部署在线模型 ├── model.ckpt-300000.index # 训练步数为300000的输出模型 ├── model.ckpt-300000.meta # 训练步数为300000的输出模型 ├── model.ckpt-300000.data-00000-of-00001 # 训练步数为300000的输出模型 ├── ... # 其他步数的输出模型注：输出结果保存多个时间步的模型，可挑选效果更好的模型作为最终输出模型。3. GPU推理元模型从训练结果中的输出模型中选择，选择训练作业及版本。代码中，提供两种数据格式的评估：1） 若格式为.jpg以及.png的图像，使用train.py --eval=True的方式进行评估2） 若格式为tfrecord，使用evaluation.py使用了评估功能；eval_one_pass提供调用evaluation.py的功能及样例。4. 案例指导本算法的详细使用方法，请查看《ModelArts AI Gallery算法conv-ensemble-str使用指导》。交付交付方式华为云ModelArts交付区域华北-北京一、华北-北京四、华东-上海一、华南-广州、亚太-**

Auto-Scheduling and Efficient Deep-RL 架构，支持MOBA、FPS、ACT、RTS、TBS等多种游戏类型描述ASED: Auto-Scheduling and Efficient Deep-RL 架构1. 效果展列中国象棋SPG足球-5v5FPS-vizdoom-basic环境趣味游戏-flappybird三消游戏-easy_candycrush 2. 框架简介基于ModelArts计算集群，以ray为技术底座搭建的ASED强化学习框架，由Learner和Actor构成，可运行在同构和异构集群上。ASED采用ray自动调度actor收集数据，统一在learner处理，并实时输出当前模型的ELO分，以评价模型效果。目前该框架支持MOBA、FPS、ACT、RTS、TBS等多种游戏类型，支持pve、multi-agent和selfplay的训练方式。ASED架构图3. 快速入门快速入门视频ASED视频对应文档本框架其他示例（vizdoom,spoof,multi-agent cartpole，Atari-breakout）见 Github3.1 Google Research Football pve示例开始训练前，您必须准备env_config.py、algorithm_config.json、game_interface.py三个基础文件，并放入同一个文件夹，作为游戏数据输入。如果环境是pypi包，请在pip-requirements.txt中指定。env_config.pyimport numpy as npfrom gym.spaces import Discrete, Boxaction_space = Discrete(19)observation_space = Box(-np.inf, np.inf, shape=(115,), dtype=np.float)algorithm_config.json{ "algorithm": "ppo", "hyper_params": { "framework": "tf2", "seed": 123, "num_gpus": 1, "num_workers": 500, "observation_filter": "NoFilter", "model": { "vf_share_layers": true }, "rollout_fragment_length": 128, "num_sgd_iter": 10, "train_batch_size": 64000, "sgd_minibatch_size": 16000, "lr": 0.0008 }}game_interface.pyimport shutilimport numpy as npfrom gfootball import env as feclass GameInterface: def __init__(self, *args): n_vs_n = 1 auto_GK = True logdir = "/home/work/modelarts/outputs/train_url_0/football/" shutil.rmtree(logdir) add_checkpoint = True dump_frequency = 1 self.env = self._create_football_env(n_vs_n=n_vs_n, auto_GK=auto_GK, logdir=logdir, add_checkpoint=add_checkpoint, dump_frequency=dump_frequency) self.reward_range = np.array((-np.inf, np.inf)) self.spec = None self.epi_num = 0 def reset(self, *args): return self.env.reset() def step(self, action, *args): o, r, d, i = self.env.step(action) return o, r, d, i def _create_football_env(self, n_vs_n=1, auto_GK=True, logdir="", add_checkpoint=True, dump_frequency=1): """ Returns a custom gfootball environment n_vs_n=1 # 1...5 number of players auto_GK=True # let the computer control the GK """ n_control = max(1, n_vs_n - int(auto_GK)) reward_type = 'checkpoint,scoring' if add_checkpoint else 'scoring' env = fe.create_environment( env_name="1_vs_1_easy", stacked=False, representation='simple115v2', rewards=reward_type, logdir=logdir, write_goal_dumps=False, write_full_episode_dumps=True, render=False, write_video=True, dump_frequency=dump_frequency, extra_players=None, number_of_left_players_agent_controls=n_control, number_of_right_players_agent_controls=0) return envpip-requirements.txtgfootball3.2 pve训练结果envtrain_modealgorithmconfigurationstepsscoretime_costfootball-1v1-PPOpvePPOASED 1-leaner 17-actors 500-workers~40M~1.8~1.2h训练曲线训练视频4. 详细使用方式参数配置algorithm_config.json说明env_config.py说明game_interface.py说明Benchmark实验数据5. 更多信息强化学习入门课程案例使用强化学习AlphaZero算法训练中国象棋AI与中国象棋AI对战！使用强化学习AlphaZero算法训练五子棋AI使用DQN算法玩2048游戏使用PPO算法玩超级马里奥兄弟使用DPPO算法控制倒立摆使用A2C算法控制登月器着陆使用SAC算法训练连续CartPole使用A3C算法玩乒乓球游戏使用DDPG算法训练连续MountainCar基于强化学习做电影推荐交付交付方式华为云ModelArts交付区域华北-北京一、华北-北京四、华东-上海一、华南-广州、亚太-**

描述2019西安AI大赛旅游主题数据集1、简介该数据集为《“华为云杯”2019人工智能创新应用大赛》竞赛数据集（初赛）。数据集包含了西安热门景点、美食、特产、民俗、工艺品五大类图片。2、数据类别及目录结构说明- 数据类别该数据集包含景点、美食、特产、民俗、工艺品五大类、54小类图片，图片类别如下："0": "工艺品/仿唐三彩", "1": "工艺品/仿宋木叶盏", "2": "工艺品/布贴绣", "3": "工艺品/景泰蓝", "4": "工艺品/木马勺脸谱", "5": "工艺品/柳编", "6": "工艺品/葡萄花鸟纹银香囊", "7": "工艺品/西安剪纸", "8": "工艺品/陕历博唐妞系列", "9": "景点/关中书院", "10": "景点/兵马俑", "11": "景点/南五台", "12": "景点/大兴善寺", "13": "景点/大观楼", "14": "景点/大雁塔", "15": "景点/小雁塔", "16": "景点/未央宫城墙遗址", "17": "景点/水陆庵壁塑", "18": "景点/汉长安城遗址", "19": "景点/西安城墙", "20": "景点/钟楼", "21": "景点/长安华严寺", "22": "景点/阿房宫遗址", "23": "民俗/唢呐", "24": "民俗/皮影", "25": "特产/临潼火晶柿子", "26": "特产/山茱萸", "27": "特产/玉器", "28": "特产/阎良甜瓜", "29": "特产/陕北红小豆", "30": "特产/高陵冬枣", "31": "美食/八宝玫瑰镜糕", "32": "美食/凉皮", "33": "美食/凉鱼", "34": "美食/德懋恭水晶饼", "35": "美食/搅团", "36": "美食/枸杞炖银耳", "37": "美食/柿子饼", "38": "美食/浆水面", "39": "美食/灌汤包", "40": "美食/烧肘子", "41": "美食/石子饼", "42": "美食/神仙粉", "43": "美食/粉汤羊血", "44": "美食/羊肉泡馍", "45": "美食/肉夹馍", "46": "美食/荞面饸饹", "47": "美食/菠菜面", "48": "美食/蜂蜜凉粽子", "49": "美食/蜜饯张口酥饺", "50": "美食/西安油茶", "51": "美食/贵妃鸡翅", "52": "美食/醪糟", "53": "美食/金线油塔"- 目录结构说明2019xaiic （数据集根目录）|- train_data （训练集目录，包含图片和对应的标签文件（.txt））|- label_id_name.json （图片分类规则字典，key值是id，value是“图片种类/具体物品名”。例如训练数据标签文件img1.txt的内容是“img_1.jpg, 0”，表示img_1.jpg这张图中的物品是“工艺品/仿唐三彩”。）3、其他说明该数据集可以用于图像分类场景训练，也可以基于ModelArts数据标注进行物体检测类型的标注，然后用于目标检测场景训练。

描述VOC2012子集–适用于图像分割算法训练1、数据简介本数据集为VOC2012子集，包含train、eval两个文件夹，数据目录结构如下：train----| Images------|1.jpg------|2.jpg…----| SegmentationClassRaw------|1.png------|2.pngeval----| Images------|1.jpg------|2.jpg…----| SegmentationClassRaw------|1.png------|2.png…2、适用的算法本数据可用于如下AI Gallery图像分类算法进行训练：图像分割-DeepLabV3（支持Ascend910训练、Ascend310推理）：https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=ce3c8d84-798d-4975-b359-45ca3de2c02b图像分割-DeepLabV3：https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=260e2464-8ad4-401c-a177-33bec533468d

华为云论文研究成果，揭秘首创自分组个性化联邦学习框架。该框架可以有效地处理普遍存在的数据分布不一致问题，并大幅度提高联邦学习性能。人工智能顶级会议 AAAI 2021 将于 2021 年 2 月 2 日 - 9 日线上召开，华为云 AI 最新联邦学习成果《Personalized Cross-Silo Federated Learning on Non-IID Data》成功入选。这篇论文首创自分组个性化联邦学习框架。该框架让拥有相似数据分布的客户进行更多合作，并对每个客户的模型进行个性化定制，从而有效处理普遍存在的数据分布不一致问题，并大幅度提高联邦学习性能。该框架已被集成至华为云一站式 AI 开发管理平台 ModelArts 联邦学习服务中，其特有的个性化分组学习机制和优秀的隐私保护性能为中国科学院上海药物所蒋华良院士带领的生物制药团队提供了有效的算法支持，并在中国医药大会上吸引了广大制药厂商洽谈合作。 论文地址：https://arxiv.org/abs/2007.03797背景介绍联邦学习机制以其独有的隐私保护机制受到很多拥有高质量数据的客户青睐。通过联邦学习，能有效地打破数据孤岛，使数据发挥更大的作用，实现多方客户在保证隐私的情况下共赢。但与此同时，在实际应用中各个客户的数据分布非常不一致，对模型的需求也不尽相同，这些在很大程度上制约了传统联邦学习方法的性能和应用范围。为此, 在客户数据分布不一致的情况下如何提高模型的鲁棒性成为了当前学术界与工业界对联邦学习算法优化的核心目标，希望通过联邦学习得到的模型能满足不同客户的需求。  传统的联邦学习的目的是为了获得一个全局共享的模型，供所有参与者使用。但当各个参与者数据分布不一致时，全局模型却无法满足每个联邦学习参与者对性能的需求，有的参与者甚至无法获得一个比仅采用本地数据训练模型更优的模型。这大大降低了部分用户参与联邦学习的积极性。 为了解决上述问题，让每个参与方都在联邦学习过程中获益，个性化联邦学习在最近获得了极大的关注。与传统联邦学习要求所有参与方最终使用同一个模型不同，个性化联邦学习允许每个参与方生成适合自己数据分布的个性化模型。为了生成这样的个性化的模型，常见的方法是通过对一个统一的全局模型在本地进行定制化。而这样的方法仍然依赖一个高效可泛化的全局模型，然而这样的模型在面对每个客户拥有不同分布数据时经常是可遇而不可求的。为此，华为云 EI 温哥华大数据与人工智能实验室自研了一套个性化联邦学习框架 FedAMP。该框架使用独特的自适应分组学习机制，让拥有相似数据分布的客户进行更多的合作，并对每个客户的模型进行个性化定制，从而有效地处理普遍存在的数据分布不一致问题，并大幅度提高联邦学习性能。下面我们来具体看一下这一新的框架 FedAMP 是怎么提升联邦学习性能的。图一：FedAMP 的注意消息传递机制算法介绍图三：最优平均测试准确率。结果展示为了评估 FedAMP 及 HeurFedAMP 的性能，作者设计了一套更为符合实际应用场景的非均匀数据分布。如图三所示，FedAMP 及 HeurFedAMP 在四个常见数据集上展示了比现有五种 SOTA 算法更高的最优平均测试准确率。相比 Google 提出的原始联邦学习框架 FedAvg，FedAMP 及 HeurFedAMP 所获得的最优平均测试准确率更是大幅提升，表现非常亮眼。图四：所有客户测试准确率分布。通过分析进一步统计的结果（如图四），作者发现通过 FedAMP 和 HeurFedAMP 所得到的模型对于每个客户的测试精度在统计上显著高于其他方法获得的结果。图五：对于 EMNIST 数据集的可视化分组结果。为了更好的理解 FedAMP 及 HeurFedAMP 的机理， 作者进一步分析了注意消息传递机制（如图五）。作者发现 FedAMP 和 HeurFedAMP 均成功发现了蕴含在客户之间的真实分组关系。这一发现进一步解释了 FedAMP 及 HeurFedAMP 在数据分布不均匀时性能卓越的原因。联邦学习三步骤，降低使用门槛基于华为云 ModelArts 平台，实现联邦学习仅需简单的三步操作：第一步：发起者创建一个联邦学习团队，定义联邦任务，并邀请参与者，如图六所示 (其中更新策略可配置 FedAVG，FedAMP 等)：图六：基于 ModelArts 的联邦训练任务创建。第二步：参与者同意加入联邦团队，并配置数据及资源类型，如图七所示：图七：基于 ModelArts 的联邦学习团队加入。第三步：联邦训练发起者启动联邦训练，直至训练完成，如图八所示：图八：基于 ModelArts 的联邦学习训练。总结 FedAMP/HeurFedAMP 是两种简单高效的个性化联邦学习框架。通过注意消息传递机制，FedAMP/HeurFedAMP 还将天然拥有抗投毒潜力。其在数据分布不均匀时的优异表现，将为云产商吸引更多拥有高质量数据的客户参与联邦学习。 基于上述框架，华为云一站式 AI 开发平台 ModelArts 提供联邦学习特性，用户各自利用本地数据训练，不交换数据本身，只用加密方式交换更新的模型参数，实现联合建模。 近日，国际权威研究机构国际数据公司（IDC）发布《中国 AI 云服务市场（2020 上半年）跟踪》报告显示，华为云 ModelArts 位居机器学习公有云服务中国市场份额第一位。 算法免费体验链接：https://t.ly/nGN9

描述COCO2017子集–适用于目标检测算法训练1、数据简介本数据集为COCO2017子集，包含train文件夹、train.json两个文件，目录结构如下：|-train.json # 该文件为annotation标记文件|-train # 该目录下存放训练图片，该文件夹下的图片在train.json中都有相对应的图片信息和标记信息—|xxx.jpg—|xxx.jpg2、适用的算法DynamicRCNN-目标检测：https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=6842fa7f-2b4c-4b73-8001-82070ac47f5c

近年来，深度神经网络的出现一定程度上颠覆了医学影像行业的发展路径，人工智能介入下，影像相关科室繁杂重复的工作逐渐由算法接替，医生资源短缺这一问题似乎出现了解决的希望。但AI亦有其限制。从当前发展情况看，有效的人工智能算法大多**于存在大量标准化数据的病种，毕竟要实现高质量AI诊断，需要大量的高质量标注图像进行前期的算法训练。这一数据相关的特质限制了医学AI的广泛应用。现实之中，罕见病和疑难杂症的数据较少，囿于患者隐私、数据安全等问题，数据收集行为的开展也较为困难。此外，医学图像的标注过程成本较高，对于不同的标注内容往往需要开发特殊的标注工具并交由有经验的医生进行。多方面原因协同下，某些医学图像问题的高标注质量医学图像数据集非常稀缺，其AI自然也难以孕育。好在AI面临的困境并非没有解法。回想起来，人类只需通过极少的样本就能辨别新的事物，那么机器是否能以复制人类的这一能力呢？答案或许是可以的。最近医学AI领域兴起的一系列小数据学习方法便是以模仿人类的判别能力为目标，尝试通过减少需要的数据量，实现特定目标图像的识别，最终克服医学领域数据量少、标准缺乏的问题。以先验知识为基础的小样本学习要实现小样本学习(few-shot learning)必须要具备一些特定条件，譬如模型学习前已经吸收了一定类别的大量资料后，再加之新类别的极少量数据，最终实现小样本模型的形成。因此，小样本学习的关键是在算法中纳入合适的先验知识。具体到医疗领域之中，很多医学图像模态中广泛存在器官的位置先验信息，例如CT图像中肝脏主要位于腹腔的右上位置，而脾则在腹腔的左上部分，这些位置先验信息对于AI识别特定类别的器官有非常大的帮助。体素科技在顶级会议ISBI2021上发表的论文《Location Sensitive Local Prototype Network For Few-shot Medical Image Segmentation》便提出了一种基于位置先验信息的局部原型网络（location sensitive local prototype network，见图1）。该论文以肝和脾影像数据构建训练集，再将其收获先验信息的算法加入少量肾部影像分割任务，实现基于小样本学习的AI模型训练。图一：基于位置先验信息的局部原型网络框架在公开的CT器官分割数据集Visceral进行试验后，其结果表明，论文提出的新框架比目前的最好方法在Dice Score指标上提高了10％，显著推进了小样本下的器官分割这一领域的技术进展。利用极端变化一致性来提高数据不足情况下医学图像分割的鲁棒性除了数据获取困难这一问题外，研究人员在训练时还会遭遇数据来源不统一的问题。由于医学图像的拍摄设备和拍摄环境和方式多样，各个医院和体检中心之间的人群分布差异明显，因此很难收集和标注足量的训练数据充分涵盖不同来源的图像特征。如果训练数据和实际测试数据存在明显的的分布差异（domain shift），生成的模型往往性能不佳。体素科技在顶级会议MICCAI2020上发表的《Extreme Consistency: Overcoming Annotation Scarcity and Domain Shifts》为解决这一问题提供了方向。具体而言，该论文提出了极端一致性（extreme consistency）的概念，核心思想是在训练数据中加入极端的图像变换（比如大量强烈的亮度， 对比度， 旋转， 尺寸变换），以增加训练数据的多样性，并假设这些极端的图像变换并不影响图像的语义含义。举例来说，眼底图像中的血管在经过极端的旋转和亮度对比度等变换后，依然能够对应血管本身。为了实现这一构想，论文设计了一种半监督算法（semi-supervised learning， 见图2）, 迫使模型遵守极端变化前和变化后的语义一致性这一约束，进而提高模型对于分布差异的鲁棒性。该论文在皮肤病变分割数据集(ISIC)和两个眼底血管分割数据集 (HRF和STARE)上进行了测试，展现了在数据不足和分布差异较大情况下，算法的鲁棒性和准确性的优势。 图2：左边是基于极端一致性的半监督学习方法的伪代码，右边是网络结构示意图。 少标注和弱标注情况下医学图像分割如何解决？除了数据的来源问题，对已有数据进行分割标注同样需要研究人员付出大量成本。在中国，影像数据标注非常昂贵，尤其是像素级别的医学图像分割标注，人力支出更为巨大。因此，近期大量的研究工作试图解决不完善医学图像分割数据集中的两类典型问题：标注稀缺。数据集中只有极稀少的图像数据有分割标注。弱标签。数据集中的图像数据只有部分标注、或者标注带有噪声、或者只有图像级的类别标签没有逐像素的分割标注。对于这两问题，体素科技发表在顶级期刊《Medical Image **ysis》中的文章《Embracing Imperfect Datasets: A Review of Deep Learning Solutions for Medical Image Segmentation》系统性地对现有方案进行了详细的回顾和分类总结（见图3所示）。根据医学图像分割数据集的不同缺陷，论文对这些方案的选择给出了实际的指导建议。图3：医学分割图像数据集数据集缺陷问题及相应训练策略总结

描述1、数据简介本数据集为无人车挑战杯大赛供参赛选手使用的训练集，包含红灯、绿灯、黄灯、人行横道、限速标志、解除限速标志六种类型图片。2、使用方法a、下载本数据集，下载方式选择“ModelArts数据集”。b、下载完成后（下载需等待一定时间），在ModelArts数据管理打开此数据集，然后按照如下标签完成数据集标注：红灯：red_stop绿灯：green_go黄灯：yellow_back人行横道：pedestrian_crossing限速标志：speed_limited解除限速标志：speed_unlimited

https://competition.huaweicloud.com/information/1000041322/circumstance数据说明本次比赛数据集来源于北京二号卫星，分辨率为0.8米，分为训练集和测试集2个数据集，分别包含3景遥感影像，其中训练集2景影像的尺寸分别为40391×33106、34612×29810。参赛者可自行将训练集切分为小图，并划分为训练集和验证集以用于模型调优。点击此处下载数据集data.zip。data.zip解压后目录结构说明如下：目录名说明182.png第一张遥感影像182_label.png第一张遥感影像的标签数据382.png第二张遥感影像382_label.png第二张遥感影像的标签数据

【大赛介绍】由深圳市政务服务数据管理局、南山区人民政府主办，南山区政务服务数据管理局、华为技术有限公司承办的“华为云杯”2020深圳开放数据应用创新大赛（Shenzhen Open Data Innovation Contest，简称SODiC），以“数聚粤港澳，智汇大湾区”为主题，面向全球高等院校、专业研究机构、数据分析公司、开发者征集基于开放数据的创新应用解决方案和算法模型。AI训练营录播视频链接（含baseline解读&调优）：https://huaweicloud.bugu.mudu.tv/watch/lm0p02d7

【赛题背景】在本届数学建模竞赛中，希望参赛者能够对机器学习的工作方式有一定掌握并站在设备供应商以及无线运营者的角度，通过合理地运用机器学习模型（不限定只使用这种方法）来建立无线传播模型，并利用模型准确预测在新环境下无线信号覆盖强度，从而大大减少网络 建设成本，提高网络建设效率。 【详细赛题】赛题下载链接数据集下载链接训练集：点击下载测试集：点击下载注：测试集用于参赛选手验证开发模型

【“华为云杯”2019人工智能创新应用大赛 — 训练数据】训练数据：train_data.zip

**分类大赛在7月30日启动赛事时，放出了第一版训练数据。在赛事进行过程中，发现训练集中有少量标记错误和标记不够合理的图，因此赛事组对公开的训练数据和判分系统后台使用的测试数据进行了整改，数据整改说明如下：（1）菜叶菜根：番茄，转移到水果果肉（2）剩饭剩菜：一些空的碗，转移到**花盆及碟碗（3）水果果皮：一些带有较多果肉的图，转移到水果果肉，有些同时有葡萄皮和葡萄肉的图，皮多放水果果皮，肉多放水果果肉（4）玻璃杯：瓷杯，转移到**花盆及碟碗（5）调料瓶：删除塑料调料盒的图片（6）洗发水瓶：洗面奶，转移到化妆品瓶（7）一次性快餐盒：删除KFC、pisa等纸质包装的盒子（8）软膏：少量的洗面奶图，转移到化妆品瓶（9）其他整改：删除少量尺寸太小、模糊的图（10）类别名及类别数不变新训练集下载链接：garbage_classify_v2.zip

作者 张倩近日，国际权威研究机构 IDC（国际数据公司）最新发布的《中国 AI 云服务市场（2020 上半年）跟踪》报告显示，华为云一站式 AI 开发平台 ModelArts 位居机器学习公有云服务中国市场份额第一位，高达 29%。报告指出：华为在国内市场具有先天的认知优势，开发者对于华为的技术、产品、品牌有着天然的认知和信赖。其中，华为云一站式 AI 开发平台 ModelArts 在行业用户中的主动提及率非常高。可以见得，在 ModelArts 平台学习 AI 技术已经成为越来越多开发者的偏爱，ModelArts 也正逐渐成为行业 AI 落地的首选。数据来源：IDC《中国 AI 云服务市场半年度研究报告，2020H1》众所周知，市场份额是产品是否好用的一个忠实反应。对于用户来说，「好用」的标准非常简单，即你的产品到底有没有解决我的问题？比如能否实现降本增效，产品是否安全可控等等。 作为一站式 AI 开发平台，华为云 ModelArts 的用户所关注的问题也在这一范畴之内。具体来说，他们会关心：这个平台上手门槛高不高？成本、效率高不高？我的数据隐私能得到保护吗？我的模型我自己能把关吗？ 接下来，我们就从这些问题入手，看看市场份额第一的华为云 ModelArts 有没有解决这些问题。 开发者和企业所看中的，华为云 ModelArts 都满足了吗？ 1. 门槛、成本和效率 一位从传统 IT 转向 AI 软件研发的技术总监曾表示，在早期的研发阶段，他们遇到了不少棘手的问题，比如从数据收集、处理，模型训练、管理到发布，AI 开发基本都处于一种「乡间作坊」的工作模式。这种工作方式不仅效率低下，而且不利于新人的培养，让人才培训成本居高不下。同时，模型上线后的工作性能受物理硬件的限制，横向扩展耗时耗力，资源利用率也无法有效保障。 这位技术总监提到的问题主要体现在门槛、成本和效率几个方面。在门槛方面，推动 AI 发展的核心四要素——算法、算力、数据和知识，每一个都存在门槛。在成本方面，传统的「乡间作坊」工作模式开发流程冗长，涉及的人员较多，人力、物力成本居高不下；在效率方面，这种工作模式容易重复造轮子，资源复用率低。 在种种困境下，华为云 ModelArts 走进了这些开发团队的视野。 为什么是 ModelArts？ 在自然语言处理领域，BERT 的问世是一个里程碑事件。它让整个社区尝到了「预训练」的甜头：只需要简单的迁移策略，就能让模型在下游任务中获得良好的性能，使该领域由原来的手工调参、依靠机器学习专家的阶段，进入到大规模、可复制的大工业生产的阶段。这一经验同样可以复制到其他领域，华为云 ModelArts 的通用预训练模型架构——EI-Backbone 就是这一路径的开拓者之一。 EI-Backbone 通过整合算法模型、算力、数据和知识，可以进行模型选择自动设计、参数配置自动调优，在分钟级内完成模型训练，无需依仗专家经验就能大幅提升模型精度，显著降低 AI 使用门槛，缩短开发流程，提升开发性能。该架构提供了一种「预训练模型 + 小样本微调」的高效训练模式，能够让开发者基于行业小样本数据训练高精度模型。这在医疗等优质数据稀缺的场景中尤其有用。以医疗影像分割为例，过去需要成百上千例标注数据才能进行的训练，在 EI-Backbone 的加持下，只需要几十例甚至十几例标注数据即可完成，节省标注成本高达 90% 以上。 效率的提升和成本的节约还体现在算力方面。华为全联接大会 2020 发布的最新版华为云 ModelArts 3.0 在集群规模、任务数量以及分布式训练各个环节做了针对性优化，并支持弹性训练。弹性训练指的是华为云 ModelArts 提供的两种模式：一是 Turbo 模式，可以充分利用空闲资源加速已有训练作业，训练速度可提升 10 倍以上，并且不影响模型的收敛精度；二是经济模式，可以通过最大化资源利用率给开发者提供极致的性价比，在大多数典型场景下可以提升性价比 30% 以上。这种降本增效的成果在实际的业务场景中是非常可观的，无论是对 AI 开发者的低成本快速上手的需求，还是对行业 AI 智能转型升级来说，无疑都是最合适的选择。 2. 对数据的掌控 AI 模型性能的提升离不开大量的多源数据。如果企业只用自己有限、单一来源的数据进行训练，得到的模型可能不够准确，或泛化性较差。在此背景下，各个数据拥有方不可避免地要进行合作。 但与之矛盾的是，很多行业的数据涉及用户隐私、行业机密等问题，数据拥有者不愿或不能将数据上传至一个数据中心进行模型训练，从而形成了一个个的「烟囱」或「孤岛」。 华为云 ModelArts 的用户大多是这种类型，他们身处医疗、政务、金融等安全、隐私性要求极高的领域，因此必须对自己数据的流向进行严格把控，做到数据不出库。 数据不能出库，但模型的参数可以，这就是华为云 ModelArts 提供的联邦学习解决思路。在华为云 ModelArts 3.0 下，用户可以各自利用本地数据训练模型，不交换数据本身，只用加密方式交换更新的模型参数，实现云边协同训练。此外，华为云 ModelArts 3.0 不仅支持横向联邦学习，处理对齐的数据，还支持纵向联邦学习，可以轻松处理训练样本 ID 重叠多的数据。 对于使用华为云 ModelArts 实现行业 AI 落地的用户来说，引入联邦学习不仅解决了数据隐私问题，还节约了数据方面的成本。众所周知，医疗、制药等领域的数据标注难度非常大，需要领域专家的介入，因此成本非常高。通过联邦学习，各个数据拥有方都可以在这一技术的保护下实现数据价值的交换，显著降低成本。  3. 对模型的掌控 模型从实验室走向生产环境是一个令人揪心的过程。开发者和企业会担心这个模型精度不够高、性能不够好、可解释性差、可信度低等问题。在这些都没弄清楚之前，没有人敢大规模部署这款模型。 华为云 ModelArts 的成功之处在于，它在一定程度上缓解了这种「不透明」所带来的顾虑，将自动评估、诊断之后得到的模型精度、性能、可解释性、可信度等信息展示在一块「面板」上，让用户直观地看到自己模型的基本情况。 而且，这种评估是非常精细的，仅精度方面就有准确率、精确率、召回率、F1 值、混淆矩阵、ROC 曲线、数据敏感度分析等多项指标。这些指标可以帮助用户进行有针对性的调优，让用户做到「心中有数」，放心部署。 哪些行业已经用上了华为云 ModelArts？ 当前，华为云 ModelArts 已经在金融、医疗、药物研发、自动驾驶等多个领域得到了广泛应用。 在金融领域，华为云 ModelArts 已经用于金融票据 OCR 识别。由于金融票据格式多样，差别细微，需要 AI 专家进行长时间的票据 AI 训练，因此业界识别准确率普遍不够精准。针对票据模型开发训练数据标注、模型训练、调优和部署上的诸多难点，华为云 ModelArts 通过数据集分类、自动学习、迁移学习等方法，让初级 AI 开发者无需调参等操作，轻松操作数据标注工具，完成部署。 在医疗领域，去年 11 月份，放射学领域国际顶级期刊《Radiology》发表了华为云 EI 创新孵化 lab、华中科技大学电信学院、华中科技大学同济医学院附属协和医院放射科联合团队的最新研究成果：运用华为云 ModelArts 开发的一套基于 CTA 影像的脑动脉瘤检测算法。该算法灵敏度高达 97.5%，帮助医生临床诊断灵敏度提升约 10 个百分点，漏诊率降低了 5 个百分点，同时有效缩短了医生的诊断时间。在药物研发领域，2020 年，华为云 EI 与中国科学院上海药物研究所签署联合创新合作协议，将华为自研的 FedAMP 算法和 AutoGenome 算法应用到药物研发的 AI 任务中，精准预测药物水溶解性、心脏毒性和激酶活性。中国科学院院士、中国科学院上海药物研究所研究员蒋华良联合华为云发布基于 ModelArts 平台的药物联邦学习服务，以解决研发数据高壁垒、高成本以及高机密的问题。实践证明，通过华为云 EI 联邦学习训练后的模型，准确度远超传统的联邦学习和深度学习算法。回顾过去的一年，华为云 ModelArts 在抗击疫情方面也发挥了重要作用，其参与的联合科研团队在 2020 年 2 月份就筛选出了五种可能有效的新冠抗病毒药物。此外，华为云还依托 AI 昇腾集群服务和 ModelArts 推出了 AI+CT 医学影像分析服务，运用计算机视觉与医学影像分析技术对患者肺部 CT 多发磨玻璃密度影（GGO）以及肺实变进行分割以及量化评价，并结合临床信息和实验室结果，辅助医生更高效、精准地区分早期、进展期与重症期，助力疫情防控工作。 技术赋能行业离不开一个低门槛、高效率同时又安全、可靠的工具。华为云 ModelArts 这类 AI 开发新工具的出现是实现技术普惠的重要条件，让「学 AI，用 ModelArts」成为开发者群体的新风尚，亦将让行业 AI 落地开拓者们亲手触碰到未来。 参考链接： https://www.zhihu.com/question/327642286/answer/1465037757 https://bbs.huaweicloud.com/blogs/203915 https://tech.ifeng.com/c/81fISXbX0Ay 本文转自：机器之心