4 月 2 日是第十四个世界自闭症日，华为云与北京大学神经科学研究院，开启了用 AI 研究儿童自闭症的计划。日前，北京大学神经科学研究所与华为云签署合作框架协议。根据协议，双方将在云计算、AI 等技术驱动下，成立「联合创新课题组」，以智慧 AI 医疗为主要联合创新方向，发挥各自资源优势，全面推动儿童孤独症（又称「自闭症」）智能诊疗的 AI 算法研发和相应的应用平台建设。 孤独症谱系障碍（Autism Spectrum Disorder, ASD）是一种起病于儿童早期，以社交损害与行为刻板为特征的大脑功能疾病。我国拥有世界上最大的人口与儿童群体，随着孤独症发病率不断增高，现有的专业医疗人员数量和医学康复支撑体系无法满足对孤独症人群的诊断和治疗。北京大学神经科学研究所韩济生院士 / 张嵘副教授课题组根据多年脑科学研究积累，综合本土低龄 ASD 儿童的行为学、脑影像学等临床研究手段，联合电子科技大学 Keith Kendrick 教授 / 蒋希副研究员课题组系统性地提出了孤独症辅助诊断、亚型识别及特色治疗手段干预的一体化临床诊疗体系。 2020 年以来，北京大学神经科学研究所携手华为云 EI 创新孵化 Lab 脑科学团队，在脑疾病临床和脑科学研究方面的社会性示范应用方面开展了一系列创新性的合作尝试。联合研发团队正通过前沿 AI 脑科学研究手段，启动一系列基于孤独症患儿脑影像多模态数据进行生物标记物异常识别的早筛和亚型诊断算法研发和基于 AI 视觉的孤独症儿童突出能力识别算法研发，并将通过把研发成果集成上线到华为云 AI 脑科学平台面向全国各基层单位进行推广应用，从而完成 「AI 脑疾病算法研发 -> 临床成果转化应用 ->临床研究数据汇聚 ->进一步提升 AI 算法准确性和适用性」的平台运行生态闭环，期望在未来能够有效降低国家和家庭在 ASD 疾病诊疗方面的社会成本。  基于华为云的孤独症智能诊疗一体化创新平台架构示意图1 月初，联合创新课题组合作的「孤独症智能诊断与精准治疗一体化创新平台的构建与应用」获得首届「未来之星」生物医药创新成果转化项目大赛医疗器械组一等奖。 近年来，华为云 EI 创新孵化 Lab 脑科学团队面向脑科学领域的多个重大关键问题开展攻关，充分发挥华为云在 AI 研发和高性能计算领域的技术积累，协同中国顶尖的脑科学研究机构、脑疾病诊疗机构基于华为一站式 AI 开发平台 ModelArts 联合打造和推广 AI+HPC 赋能的脑科学平台，为中国宏观和介观脑图谱、脑功能组学的科研创新和成果转化提供一站式的研产用转化支撑。 

作为人工智能社区群策群力的早期形式，「众包」成就了 ImageNet 等一批成功的数据集，也加快了整个社区的发展进程。但要构建人工智能技术开发生态，仅靠「众包」是不够的。2009 年，由知名科学家李飞飞发起，来自全球 167 个国家近 5 万名工作者以众包的方式，通过三年合作努力，完成了日后触发人工智能领域发展浪潮的伟大数据集 ImageNet。数据规模巨大，标注错误极低，ImageNet 发布十余年以来，已成为淬炼图像处理算法不断升级的试金石。2010-2017 连续开展八年的 ImageNet 全球挑战赛，推动了物体识别平均准确率等 AI 领域关键指标不断提升，更让深度学习算法自 2012 年在此舞台之上大放异彩，进一步引发了人工智能领域的革命。 众所周知，ImageNet 包含 1500 万张带标注的图像，工程十分浩大。帮助李飞飞完成这一壮举的，是当时刚刚兴起的社区概念——众包。可以说，众包一直在人工智能领域扮演着重要角色，一定程度上加快了这一领域的历史进程。但与此同时，社区并没有止步于众包，而是向前又走了一步。昇腾计算产业的成员企业华为，提出了一种新的模式——众智，汇聚企业、高校、科研院所等组织的力量，做硬核开发。2021 年 3 月 18 日，昇腾众智计划正式上线。众智类似于众包，但又不同于众包。众包是繁复的人力投入，而「昇腾众智」意在通过「硬件开放、软件开源、使能伙伴」的方式，激发开发者的智慧，在网络模型开发、算子开发以及行业参考设计开发等几类项目上进行创新。 此外，「昇腾众智」计划还关注后续的人才培养以及开放平台、社区的建设和发展，这就改变了传统众包「交付即终点」的模式，对开发者的个人成长甚至整个社区的发展都有着更加深远的意义。为何众智？如何众智？3 月 13 日，国家发布了「十四五」规划纲要。纲要指出，「十四五」期间，我国将通过一批具有前瞻性、战略性的国家重大科技项目，带动产业界逐步突破前沿基础理论和算法，其中就包括深度学习框架等开源算法平台的构建以及学习推理决策、图像图形、语音视频、自然语言识别处理等领域的创新与迭代应用。由此可见，加快国内人工智能的发展在国家战略层面正变得越来越重要。过去几年，昇腾计算产业已构建起完整的全栈 AI 软硬件平台，包括基于昇腾架构的系列硬件，异构计算架构 CANN、深度学习计算框架 MindSpore 等软件平台。通过上述平台构建的AI基础设施，涵盖纲要中提到的图像、语音、自然语言处理等多项技术，可以加快医疗、能源、交通、制造等多个行业的智能化升级。AI 模型和基础软件都是高度依赖生态建设的项目，无法依靠单一力量来完成，需要汇聚开发者，共同打造昇腾计算产业生态。在过去的 2020 年，昇腾社区从学、练、用、考、赛等维度为开发者提供了完善的软件资源、专业培训、技术支持、生态政策和产品方案，上线了 50 多个开发者系列课程、1008 本学习资料、100 + 工具与样例、100 + 模型，MindSpore 开源开发者已突破 10 万 + 人。虽然已经取得了一些成绩，但要想加快这一进程，昇腾需要整个社区的力量来共同托举，这也是「昇腾众智」计划诞生的初衷。 那么如何「众智」呢？ 具体而言，「昇腾众智」主要涉及的是异构计算架构 CANN 算子开发、主流深度学习网络模型（基于 MindSpore、PyTorch 等）开发和行业参考设计开发等。 这些需求都以项目的形式发布在「昇腾众智」的官方页面上，每两周刷新一次。近期公布的 140 个项目需求包含 MindSpore 数据增强算子、MindSpore 模型等，涵盖文本、图像、视频、自然语言、目标检测等多个领域。打开「项目任务书」，我们可以看到项目的具体细节，包括任务描述、知识背景要求、任务要求、任务清单、开发指导等内容。对该项目感兴趣且符合要求的开发者可以填写与自身情况相对应的申请表。和「众包」、「外包」不同的是，在「昇腾众智」计划中，参与任务的开发者和昇腾之间并不是「冷冰冰的业务关系」，而是一种并肩作战的合作关系。如果你在开发中遇到问题，你可以随时向昇腾的专家寻求帮助。这种帮助包括但不限于硬件、软件、技术指导和答疑等。 群策群力，多方受益 前面说到，在「昇腾众智」计划中，开发者与昇腾之间是一种并肩作战的合作关系，合作的目的是创建一个强大的生态和社区。这就意味着，参与「昇腾众智」的开发者甚至整个社区都将从中受益。 开发者包含高校师生、科研机构研究者、企业开发团队等多个群体。对于这些群体来说，他们收获的不仅仅是项目交付后的奖金激励和项目开发期间的算力资源支持，还有昇腾颁发的荣誉证书（优秀开发团队和个人将受邀参加华为旗舰大会）以及华为招募引进人才的优先权等。 其他的潜在收益还包括项目经验积累、创新研究项目合作以及行业影响力的提升等。 以高校为例，高校是一个偏重学术的环境，「昇腾众智」将更多的真实项目带进校园，使得学生有更多的机会接触真实的业务场景，得到业内专家的指导，从而加深对于 AI 的理解，沉淀更多的实践经验。 科研院所和企业有所不同。科研院所汇聚了一大批优秀研究者，但在算力、场景扩展、科研创新等方面也需要一些外部支持，「昇腾众智」恰好可以在这些方面提供支持，满足科研机构在多个方面的科研需求。企业所在的行业往往需要配套的行业参考设计，在昇腾的技术支持下，企业可以更快地开发自己行业所需的参考设计，提升自身的行业影响力。 除了这些，「昇腾众智」对于整个人工智能社区也有很重要的意义。一方面，这些项目开发完成后将在昇腾社区开放，供所有开发者下载使用，免去开发者重新写代码、训练模型的麻烦，加速社区的发展进程。另一方面，昇腾社区、MindSpore 社区与其他开源开放社区可以借助这一项目建立紧密的联系，为高校、科研机构、企业和开源社区的成员搭建一个广阔的交流、合作平台，共同加速 AI 社区的发展。 以上几点在本月初启动的「OpenI 启智 & MindSpore 集结号」活动中已经有所体现。这一活动由 OpenI 启智社区和 MindSpore 社区共同举办，旨在集中高校开发者合作开发 MindSpore 高性能模型（模型众智）。中国工程院院士、鹏城实验室主任、北京大学博雅讲席教授高文在「集结号」活动中讲话。其实，早在「集结号」活动之前，「昇腾众智」就已经开始了一些小规模的探索，这些探索为计划的正式上线蓄积了力量。自去年启动昇腾众智计划以来，已有浙江大学、上海交通大学、西安交通大学、中国科学院等超过 40 所高校和科研机构参与其中（排名不分先后）。他们已经完成 484 个 PyTorch 算子分析、368 个算子开发、15 个 MindSpore 模型交付和 2 个 PyTorch 模型交付，行业参考设计的众智活动也已经完成试点。十几年前，ImageNet 让我们看到了群体力量的伟大；如今，昇腾不止要利用这股力量，更想要挖掘其中的「智慧」，创造一种新的 AI 开发模式。 目前，「昇腾众智」的初步目标是通过线上、线下两种方式** 200 + 团队、2000 + 开发者。

作为人工智能社区群策群力的早期形式，「众包」成就了 ImageNet 等一批成功的数据集，也加快了整个社区的发展进程。但要构建人工智能技术开发生态，仅靠「众包」是不够的。2009 年，由知名科学家李飞飞发起，来自全球 167 个国家近 5 万名工作者以众包的方式，通过三年合作努力，完成了日后触发人工智能领域发展浪潮的伟大数据集 ImageNet。数据规模巨大，标注错误极低，ImageNet 发布十余年以来，已成为淬炼图像处理算法不断升级的试金石。2010-2017 连续开展八年的 ImageNet 全球挑战赛，推动了物体识别平均准确率等 AI 领域关键指标不断提升，更让深度学习算法自 2012 年在此舞台之上大放异彩，进一步引发了人工智能领域的革命。 众所周知，ImageNet 包含 1500 万张带标注的图像，工程十分浩大。帮助李飞飞完成这一壮举的，是当时刚刚兴起的社区概念——众包。可以说，众包一直在人工智能领域扮演着重要角色，一定程度上加快了这一领域的历史进程。但与此同时，社区并没有止步于众包，而是向前又走了一步。昇腾计算产业的成员企业华为，提出了一种新的模式——众智，汇聚企业、高校、科研院所等组织的力量，做硬核开发。2021 年 3 月 18 日，昇腾众智计划正式上线。众智类似于众包，但又不同于众包。众包是繁复的人力投入，而「昇腾众智」意在通过「硬件开放、软件开源、使能伙伴」的方式，激发开发者的智慧，在网络模型开发、算子开发以及行业参考设计开发等几类项目上进行创新。 此外，「昇腾众智」计划还关注后续的人才培养以及开放平台、社区的建设和发展，这就改变了传统众包「交付即终点」的模式，对开发者的个人成长甚至整个社区的发展都有着更加深远的意义。为何众智？如何众智？3 月 13 日，国家发布了「十四五」规划纲要。纲要指出，「十四五」期间，我国将通过一批具有前瞻性、战略性的国家重大科技项目，带动产业界逐步突破前沿基础理论和算法，其中就包括深度学习框架等开源算法平台的构建以及学习推理决策、图像图形、语音视频、自然语言识别处理等领域的创新与迭代应用。由此可见，加快国内人工智能的发展在国家战略层面正变得越来越重要。过去几年，昇腾计算产业已构建起完整的全栈 AI 软硬件平台，包括基于昇腾架构的系列硬件，异构计算架构 CANN、深度学习计算框架 MindSpore 等软件平台。通过上述平台构建的AI基础设施，涵盖纲要中提到的图像、语音、自然语言处理等多项技术，可以加快医疗、能源、交通、制造等多个行业的智能化升级。AI 模型和基础软件都是高度依赖生态建设的项目，无法依靠单一力量来完成，需要汇聚开发者，共同打造昇腾计算产业生态。在过去的 2020 年，昇腾社区从学、练、用、考、赛等维度为开发者提供了完善的软件资源、专业培训、技术支持、生态政策和产品方案，上线了 50 多个开发者系列课程、1008 本学习资料、100 + 工具与样例、100 + 模型，MindSpore 开源开发者已突破 10 万 + 人。虽然已经取得了一些成绩，但要想加快这一进程，昇腾需要整个社区的力量来共同托举，这也是「昇腾众智」计划诞生的初衷。 那么如何「众智」呢？ 具体而言，「昇腾众智」主要涉及的是异构计算架构 CANN 算子开发、主流深度学习网络模型（基于 MindSpore、PyTorch 等）开发和行业参考设计开发等。 这些需求都以项目的形式发布在「昇腾众智」的官方页面上，每两周刷新一次。近期公布的 140 个项目需求包含 MindSpore 数据增强算子、MindSpore 模型等，涵盖文本、图像、视频、自然语言、目标检测等多个领域。打开「项目任务书」，我们可以看到项目的具体细节，包括任务描述、知识背景要求、任务要求、任务清单、开发指导等内容。对该项目感兴趣且符合要求的开发者可以填写与自身情况相对应的申请表。和「众包」、「外包」不同的是，在「昇腾众智」计划中，参与任务的开发者和昇腾之间并不是「冷冰冰的业务关系」，而是一种并肩作战的合作关系。如果你在开发中遇到问题，你可以随时向昇腾的专家寻求帮助。这种帮助包括但不限于硬件、软件、技术指导和答疑等。 群策群力，多方受益 前面说到，在「昇腾众智」计划中，开发者与昇腾之间是一种并肩作战的合作关系，合作的目的是创建一个强大的生态和社区。这就意味着，参与「昇腾众智」的开发者甚至整个社区都将从中受益。 开发者包含高校师生、科研机构研究者、企业开发团队等多个群体。对于这些群体来说，他们收获的不仅仅是项目交付后的奖金激励和项目开发期间的算力资源支持，还有昇腾颁发的荣誉证书（优秀开发团队和个人将受邀参加华为旗舰大会）以及华为招募引进人才的优先权等。 其他的潜在收益还包括项目经验积累、创新研究项目合作以及行业影响力的提升等。 以高校为例，高校是一个偏重学术的环境，「昇腾众智」将更多的真实项目带进校园，使得学生有更多的机会接触真实的业务场景，得到业内专家的指导，从而加深对于 AI 的理解，沉淀更多的实践经验。 科研院所和企业有所不同。科研院所汇聚了一大批优秀研究者，但在算力、场景扩展、科研创新等方面也需要一些外部支持，「昇腾众智」恰好可以在这些方面提供支持，满足科研机构在多个方面的科研需求。企业所在的行业往往需要配套的行业参考设计，在昇腾的技术支持下，企业可以更快地开发自己行业所需的参考设计，提升自身的行业影响力。 除了这些，「昇腾众智」对于整个人工智能社区也有很重要的意义。一方面，这些项目开发完成后将在昇腾社区开放，供所有开发者下载使用，免去开发者重新写代码、训练模型的麻烦，加速社区的发展进程。另一方面，昇腾社区、MindSpore 社区与其他开源开放社区可以借助这一项目建立紧密的联系，为高校、科研机构、企业和开源社区的成员搭建一个广阔的交流、合作平台，共同加速 AI 社区的发展。 以上几点在本月初启动的「OpenI 启智 & MindSpore 集结号」活动中已经有所体现。这一活动由 OpenI 启智社区和 MindSpore 社区共同举办，旨在集中高校开发者合作开发 MindSpore 高性能模型（模型众智）。中国工程院院士、鹏城实验室主任、北京大学博雅讲席教授高文在「集结号」活动中讲话。其实，早在「集结号」活动之前，「昇腾众智」就已经开始了一些小规模的探索，这些探索为计划的正式上线蓄积了力量。自去年启动昇腾众智计划以来，已有浙江大学、上海交通大学、西安交通大学、中国科学院等超过 40 所高校和科研机构参与其中（排名不分先后）。他们已经完成 484 个 PyTorch 算子分析、368 个算子开发、15 个 MindSpore 模型交付和 2 个 PyTorch 模型交付，行业参考设计的众智活动也已经完成试点。十几年前，ImageNet 让我们看到了群体力量的伟大；如今，昇腾不止要利用这股力量，更想要挖掘其中的「智慧」，创造一种新的 AI 开发模式。 目前，「昇腾众智」的初步目标是通过线上、线下两种方式** 200 + 团队、2000 + 开发者。

Protein MSA中的目标序列将几乎完全覆盖最新版本（2021.02发布）的UniRef50数据库中的蛋白质序列，而比对序列来自于最新版本的UniClust30数据库。描述Protein MSA数据库简介针对蛋白质的多序列比对（multiple sequence alignment; MSA）是研究蛋白质的结构、功能和进化关系等问题的重要方法。MSA数据中蕴含了构成蛋白质的氨基酸序列中的保守性质(conservation)、协同突变(co-evolution)和功能与物种进化关系(phylogenetics)的相关信息。人类已知的存在于自然界中的蛋白质序列数目已经上亿并在快速增长，但仅凭这些蛋白质单序列的数据很难了解蛋白之间的关系。Protein MSA数据库，就是一个对不同蛋白质序列之间的关系进行了标记的大规模“关系型”数据库，被标记为关联的蛋白质序列之间的相似度、进化关系和突变所在位点的分布等信息对蛋白质结构和功能的预测极为重要。例如在AlphaFold2模型[1]中，目标蛋白序列的MSA信息就是预测结构的必要输入信息之一。数据库建立方法Protein MSA中的目标序列将几乎完全覆盖最新版本（2021.02发布）的UniRef50数据库中的蛋白质序列，而比对序列来自于最新版本的UniClust30数据库。对于每条来自UniRef50数据库中的目标序列，我们采用HHBlits算法在UniClust30数据库进行搜索和比对，并将检索以文本形式存放于Protein MSA数据仓库下Raw_Data目录下。生成命令如下(参考https://github.com/soedinglab/hh-suite)：hhblits -i <input-file> -d <database-basename> -o <result-file> -oa3m <result-alignment> -cpu 4 -n 3 -v 0数据库规模Protein MSA数据库中包含的目标序列约有50M条，之后还将继续扩展和更新。对于每条目标序列，其比对序列的平均条数（或MSA深度）大于1000，因此该数据集里以MSA的形式汇总了超过50B条蛋白质序列（包括了一些重复出现的比对序列）。使用场景从科学应用的角度看，MSA的数量和质量很大程度上影响了目前最先进的结构模型的预测速度和精度，而且产生MSA的非参数化算法仍是诸多蛋白预测方法中主要决速步之一。因此，Protein MSA数据库本身可以作为这些结构模型的预训练材料，用来挖掘序列信息甚至快速生成新的序列特征，这对解决研究、设计蛋白质中所面临的高变异序列和孤儿序列等问题具有巨大的潜在价值。为了便于AI领域的研究人员直接使用，Protein MSA原始数据还会被转化为浮点数类型压缩存储，并对已有的AI框架如MindSpore上提供数据接口的支持。我们鼓励并期待来自生物信息学、数据科学和自然语言处理等AI研究领域的专家和人才充分碰撞与合作，引入、改进或设计全新的AI模型，来充分地挖掘Protein MSA数据集中所隐藏的“大自然的秘密”。样例数据集Protein MSA数据集总计约30TB，为了方便研究者体验，我们单独做了一个样例数据集，大小约100GB。大小：约100GB文件数量：约31万个文件OBS桶名：cnnorth4-modelhub-datasets-obsfs-d1opw文件目录：obs://cnnorth4-modelhub-datasets-obsfs-d1opw/MSA_Uniref50/Example_100G/下载数据集到本地的方法：方案一：通过obsutil命令行工具，下载到我的本地方案二：通过OBS Browser+软件，下载到我的本地在华为云上直接使用数据集的方法：方案一：下载到我的华为云账号下的OBS桶内（在本页面右上角，点击下载按钮即可）方案二：在ModelArts JupterLab中，挂载并直接探索数据集方案三：在ModelArts中，训练作业实例中直接挂载（暂不支持，尽请期待）全量数据集Protein MSA数据集总计约30TB，数据准备中，即将公布，尽请期待许可与引用CC BY-SA 4.0

华为云论文研究成果，揭秘首创自分组个性化联邦学习框架。该框架可以有效地处理普遍存在的数据分布不一致问题，并大幅度提高联邦学习性能。人工智能顶级会议 AAAI 2021 将于 2021 年 2 月 2 日 - 9 日线上召开，华为云 AI 最新联邦学习成果《Personalized Cross-Silo Federated Learning on Non-IID Data》成功入选。这篇论文首创自分组个性化联邦学习框架。该框架让拥有相似数据分布的客户进行更多合作，并对每个客户的模型进行个性化定制，从而有效处理普遍存在的数据分布不一致问题，并大幅度提高联邦学习性能。该框架已被集成至华为云一站式 AI 开发管理平台 ModelArts 联邦学习服务中，其特有的个性化分组学习机制和优秀的隐私保护性能为中国科学院上海药物所蒋华良院士带领的生物制药团队提供了有效的算法支持，并在中国医药大会上吸引了广大制药厂商洽谈合作。 论文地址：https://arxiv.org/abs/2007.03797背景介绍联邦学习机制以其独有的隐私保护机制受到很多拥有高质量数据的客户青睐。通过联邦学习，能有效地打破数据孤岛，使数据发挥更大的作用，实现多方客户在保证隐私的情况下共赢。但与此同时，在实际应用中各个客户的数据分布非常不一致，对模型的需求也不尽相同，这些在很大程度上制约了传统联邦学习方法的性能和应用范围。为此, 在客户数据分布不一致的情况下如何提高模型的鲁棒性成为了当前学术界与工业界对联邦学习算法优化的核心目标，希望通过联邦学习得到的模型能满足不同客户的需求。  传统的联邦学习的目的是为了获得一个全局共享的模型，供所有参与者使用。但当各个参与者数据分布不一致时，全局模型却无法满足每个联邦学习参与者对性能的需求，有的参与者甚至无法获得一个比仅采用本地数据训练模型更优的模型。这大大降低了部分用户参与联邦学习的积极性。 为了解决上述问题，让每个参与方都在联邦学习过程中获益，个性化联邦学习在最近获得了极大的关注。与传统联邦学习要求所有参与方最终使用同一个模型不同，个性化联邦学习允许每个参与方生成适合自己数据分布的个性化模型。为了生成这样的个性化的模型，常见的方法是通过对一个统一的全局模型在本地进行定制化。而这样的方法仍然依赖一个高效可泛化的全局模型，然而这样的模型在面对每个客户拥有不同分布数据时经常是可遇而不可求的。为此，华为云 EI 温哥华大数据与人工智能实验室自研了一套个性化联邦学习框架 FedAMP。该框架使用独特的自适应分组学习机制，让拥有相似数据分布的客户进行更多的合作，并对每个客户的模型进行个性化定制，从而有效地处理普遍存在的数据分布不一致问题，并大幅度提高联邦学习性能。下面我们来具体看一下这一新的框架 FedAMP 是怎么提升联邦学习性能的。图一：FedAMP 的注意消息传递机制算法介绍图三：最优平均测试准确率。结果展示为了评估 FedAMP 及 HeurFedAMP 的性能，作者设计了一套更为符合实际应用场景的非均匀数据分布。如图三所示，FedAMP 及 HeurFedAMP 在四个常见数据集上展示了比现有五种 SOTA 算法更高的最优平均测试准确率。相比 Google 提出的原始联邦学习框架 FedAvg，FedAMP 及 HeurFedAMP 所获得的最优平均测试准确率更是大幅提升，表现非常亮眼。图四：所有客户测试准确率分布。通过分析进一步统计的结果（如图四），作者发现通过 FedAMP 和 HeurFedAMP 所得到的模型对于每个客户的测试精度在统计上显著高于其他方法获得的结果。图五：对于 EMNIST 数据集的可视化分组结果。为了更好的理解 FedAMP 及 HeurFedAMP 的机理， 作者进一步分析了注意消息传递机制（如图五）。作者发现 FedAMP 和 HeurFedAMP 均成功发现了蕴含在客户之间的真实分组关系。这一发现进一步解释了 FedAMP 及 HeurFedAMP 在数据分布不均匀时性能卓越的原因。联邦学习三步骤，降低使用门槛基于华为云 ModelArts 平台，实现联邦学习仅需简单的三步操作：第一步：发起者创建一个联邦学习团队，定义联邦任务，并邀请参与者，如图六所示 (其中更新策略可配置 FedAVG，FedAMP 等)：图六：基于 ModelArts 的联邦训练任务创建。第二步：参与者同意加入联邦团队，并配置数据及资源类型，如图七所示：图七：基于 ModelArts 的联邦学习团队加入。第三步：联邦训练发起者启动联邦训练，直至训练完成，如图八所示：图八：基于 ModelArts 的联邦学习训练。总结 FedAMP/HeurFedAMP 是两种简单高效的个性化联邦学习框架。通过注意消息传递机制，FedAMP/HeurFedAMP 还将天然拥有抗投毒潜力。其在数据分布不均匀时的优异表现，将为云产商吸引更多拥有高质量数据的客户参与联邦学习。 基于上述框架，华为云一站式 AI 开发平台 ModelArts 提供联邦学习特性，用户各自利用本地数据训练，不交换数据本身，只用加密方式交换更新的模型参数，实现联合建模。 近日，国际权威研究机构国际数据公司（IDC）发布《中国 AI 云服务市场（2020 上半年）跟踪》报告显示，华为云 ModelArts 位居机器学习公有云服务中国市场份额第一位。 算法免费体验链接：https://t.ly/nGN9

https://competition.huaweicloud.com/information/1000041322/introduction?track=107“华为云杯”2020西安人工智能创新应用大赛，由西安国家民用航天产业基地管理委员会主办、华为公司承办，以“AI在航天，鸿图华构”为主题面向全国的人工智能交流赛事。举办方：西安国家民用航天基地管理委员会、华为技术有限公司一、赛事简介为培育人工智能创新氛围，深化新基建合作，提升高精尖人才研发创新能力，由西安国家民用航天产业基地管理委员会主办、华为技术有限公司承办的“华为云杯”2020人工智能创新应用大赛于2020年11月5日正式启动。大赛以“AI在航天，鸿图华构”为主题，立足航天卫星遥感产业，结合华为在云计算、人工智能、物联网、5G移动通信、智能制造等领域的技术优势和产业链整合能力，推动AI技术在遥感行业应用，同时加速培养高精尖人才，实现人工智能技术的真正落地。二、参赛对象大赛面向全社会开放，个人、高等院校、科研单位、企业、创客团队等人员均可报名参赛。特别说明：大赛承办方和技术支持单位员工/实习生可以参赛，但参赛成绩仅参与排名不参与评奖与奖金发放，评奖名额往后顺延。三、赛程安排本次大赛分为初赛、决赛两个阶段，具体安排如下。初赛（11月5日 ~ 12月8日）1、11月5日14:00开放模型提交判分入口，每个团队每天有2次评测机会。2、系统排行榜每天更新一次，按照评测指标从高到低排序。3、初赛截止时间为12月8日18:00，组委会将通知排名前10名参赛队伍的提交代码审核说明：具体代码审核需提交的材料和相关操作初赛截止后公布，如未配合组委会进行初赛代码审核，视为自动放弃进行决赛资格。决赛（12月11日 ~ 12月22日）1、初赛截止后3天（12月11日），组委会将进行最终排名前10入围名单公布及决赛相关事项。2、参加决赛的选手需要在决赛日（12月22日）前准备答辩材料，答辩材料需包含两部分主要内容，第一部分为初赛中的算法介绍，第二部分为开放性讨论问题，题目为“AI如何助力遥感行业？”（不限定形式和范围）。3、12月22日，TOP10的队伍将受邀前往西安进行总决赛答辩，组委会将根据初赛模型评测成绩、决赛专家评审成绩加权得出总决赛成绩，初赛与决赛权重比例为0.7:0.3，最终依据综合成绩评选出大赛奖项。四、奖项设置冠军： 1支队伍，每支队伍奖金10万，颁发获奖证书亚军： 2支队伍，每支队伍奖金 5万，颁发获奖证书季军： 3支队伍，每支队伍奖金 3万，颁发获奖证书优胜奖：4支队伍，每支队伍奖金 1万，颁发获奖证书参与奖：初赛最终排名入围TOP200队伍将获得AI书籍（每支队伍一份）特别说明：TOP10获奖团队需在华为云社区分享参赛方案及总结的分享。五、报名须知1、报名方式：登录比赛官网，点击页面左上方“立即报名”按钮进行报名。2、报名时间：即日起 --2020年11月23日18:003、参赛者可单人或2~3人组队参赛，且每位选手只能加入一支队伍，云资源发放以个人为单位（大赛云资源有限，大赛组委会按照大赛报名顺序依次发放，发完为止）。4、参赛者需确保报名信息准确有效，大赛组委会有权取消不符合条件队伍的参赛资格以及奖励。5、大赛官方交流请至论坛（交流版块，选手交流微信群扫描如下二维码，如群已满，请加右侧大赛小助手微信号，备注“西安赛”，小助手将您拉进群。大赛重要节点通知会在群内第一时间告知，请务必加群。六、比赛资源组委会为参赛选手提供一定量的华为云EI资源券（仅支持ModelArts及OBS），以支撑大赛期间资源费用。云资源有限会按报名顺序下发，发完为止（720份云资源，发完为止）。特别说明：云资源发放请关注交流群通知，收到云资源后请务必按照组委会要求，在规定时间内购买相应套餐，如过期未购买或由于自己原因错买需自行承担结果，组委会不再补发。七、组织单位主办单位：西安国家民用航天基地管理委员会承办单位：华为技术有限公司协办单位：陕西省测绘地理信息局八、其他若出现以下情况，将视为违规，大赛组委会有权取消参赛队伍的参赛资格。1、参赛报名信息虚假，不符合大赛报名及组队要求的参赛者/参赛队伍2、参赛作品涉嫌抄袭，侵犯他人知识产权等行为3、参赛期间或参赛作品发现或被举报认定存在的其他违法、违规行为本大赛规程最终解释权归“华为云杯”2020人工智能创新应用大赛组委会所有。

描述10类常见美食图片数据集1、数据简介本数据集为华为云AI大赛入门赛《爱（AI）美食·美食图片分类》竞赛数据集。本数据集已经在ModelArts数据管理模块进行了标注，数据标注类型为“图像分类”。本数据集包含10种美食图片，分别为：冰激凌、鸡蛋布丁、烤冷面、芒果班戟、三明治、松鼠鱼、甜甜圈、土豆泥、小米粥、玉米饼，每类图片500张。2、适用的算法本数据集可用于如下AI Gallery图像分类算法进行训练：图像分类ResNet50-EI-Backbone:https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=24298ade-0189-48ee-88e3-e01f484e73dc图像分类-ResNeSt：https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=10014e59-0a42-4a6c-a17c-afae33dcd420图像分类-ResNet_v1_50：https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=40b66195-5bbe-463d-b8a2-03e57073538d图像分类-Inception_v3：https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=cad65a02-ef22-46e1-bd5b-01f231da9272图像分类-Inception_Resnet_V2：https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=27536e00-e8fc-43e4-9833-2e4b6e8e1f1d图像分类-Res2Net_50：https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=cfe5f5e6-84fe-400a-8323-2a0eb41b0011图像分类-MobileNet_v2：https://marketplace.huaweicloud.com/markets/aihub/modelhub/detail/?id=0470e6b1-923b-47a8-ba3e-fe93de5ae2a0

近年来，深度神经网络的出现一定程度上颠覆了医学影像行业的发展路径，人工智能介入下，影像相关科室繁杂重复的工作逐渐由算法接替，医生资源短缺这一问题似乎出现了解决的希望。但AI亦有其限制。从当前发展情况看，有效的人工智能算法大多**于存在大量标准化数据的病种，毕竟要实现高质量AI诊断，需要大量的高质量标注图像进行前期的算法训练。这一数据相关的特质限制了医学AI的广泛应用。现实之中，罕见病和疑难杂症的数据较少，囿于患者隐私、数据安全等问题，数据收集行为的开展也较为困难。此外，医学图像的标注过程成本较高，对于不同的标注内容往往需要开发特殊的标注工具并交由有经验的医生进行。多方面原因协同下，某些医学图像问题的高标注质量医学图像数据集非常稀缺，其AI自然也难以孕育。好在AI面临的困境并非没有解法。回想起来，人类只需通过极少的样本就能辨别新的事物，那么机器是否能以复制人类的这一能力呢？答案或许是可以的。最近医学AI领域兴起的一系列小数据学习方法便是以模仿人类的判别能力为目标，尝试通过减少需要的数据量，实现特定目标图像的识别，最终克服医学领域数据量少、标准缺乏的问题。以先验知识为基础的小样本学习要实现小样本学习(few-shot learning)必须要具备一些特定条件，譬如模型学习前已经吸收了一定类别的大量资料后，再加之新类别的极少量数据，最终实现小样本模型的形成。因此，小样本学习的关键是在算法中纳入合适的先验知识。具体到医疗领域之中，很多医学图像模态中广泛存在器官的位置先验信息，例如CT图像中肝脏主要位于腹腔的右上位置，而脾则在腹腔的左上部分，这些位置先验信息对于AI识别特定类别的器官有非常大的帮助。体素科技在顶级会议ISBI2021上发表的论文《Location Sensitive Local Prototype Network For Few-shot Medical Image Segmentation》便提出了一种基于位置先验信息的局部原型网络（location sensitive local prototype network，见图1）。该论文以肝和脾影像数据构建训练集，再将其收获先验信息的算法加入少量肾部影像分割任务，实现基于小样本学习的AI模型训练。图一：基于位置先验信息的局部原型网络框架在公开的CT器官分割数据集Visceral进行试验后，其结果表明，论文提出的新框架比目前的最好方法在Dice Score指标上提高了10％，显著推进了小样本下的器官分割这一领域的技术进展。利用极端变化一致性来提高数据不足情况下医学图像分割的鲁棒性除了数据获取困难这一问题外，研究人员在训练时还会遭遇数据来源不统一的问题。由于医学图像的拍摄设备和拍摄环境和方式多样，各个医院和体检中心之间的人群分布差异明显，因此很难收集和标注足量的训练数据充分涵盖不同来源的图像特征。如果训练数据和实际测试数据存在明显的的分布差异（domain shift），生成的模型往往性能不佳。体素科技在顶级会议MICCAI2020上发表的《Extreme Consistency: Overcoming Annotation Scarcity and Domain Shifts》为解决这一问题提供了方向。具体而言，该论文提出了极端一致性（extreme consistency）的概念，核心思想是在训练数据中加入极端的图像变换（比如大量强烈的亮度， 对比度， 旋转， 尺寸变换），以增加训练数据的多样性，并假设这些极端的图像变换并不影响图像的语义含义。举例来说，眼底图像中的血管在经过极端的旋转和亮度对比度等变换后，依然能够对应血管本身。为了实现这一构想，论文设计了一种半监督算法（semi-supervised learning， 见图2）, 迫使模型遵守极端变化前和变化后的语义一致性这一约束，进而提高模型对于分布差异的鲁棒性。该论文在皮肤病变分割数据集(ISIC)和两个眼底血管分割数据集 (HRF和STARE)上进行了测试，展现了在数据不足和分布差异较大情况下，算法的鲁棒性和准确性的优势。 图2：左边是基于极端一致性的半监督学习方法的伪代码，右边是网络结构示意图。 少标注和弱标注情况下医学图像分割如何解决？除了数据的来源问题，对已有数据进行分割标注同样需要研究人员付出大量成本。在中国，影像数据标注非常昂贵，尤其是像素级别的医学图像分割标注，人力支出更为巨大。因此，近期大量的研究工作试图解决不完善医学图像分割数据集中的两类典型问题：标注稀缺。数据集中只有极稀少的图像数据有分割标注。弱标签。数据集中的图像数据只有部分标注、或者标注带有噪声、或者只有图像级的类别标签没有逐像素的分割标注。对于这两问题，体素科技发表在顶级期刊《Medical Image **ysis》中的文章《Embracing Imperfect Datasets: A Review of Deep Learning Solutions for Medical Image Segmentation》系统性地对现有方案进行了详细的回顾和分类总结（见图3所示）。根据医学图像分割数据集的不同缺陷，论文对这些方案的选择给出了实际的指导建议。图3：医学分割图像数据集数据集缺陷问题及相应训练策略总结

描述爱（AI）美食–10类常见美食图片数据集1、简介该数据集为华为云AI大赛入门赛《爱（AI）美食·美食图片分类》竞赛数据集。数据来自真实的美食图片，包括包含中餐、西餐、甜点、粥类，每张图像中美食所占比例大于3/4，每张图片代表一类美食。2、数据类别及目录结构说明- 数据类别该数据集包含10种美食图片，分别为：冰激凌、鸡蛋布丁、烤冷面、芒果班戟、三明治、松鼠鱼、甜甜圈、土豆泥、小米粥、玉米饼，每类图片500张。- 目录结构说明aifood （数据集根目录）     |- images （存储图像数据）         |- 三明治 （每个子目录是一个分类，目录名称即为分类标签名）              |- 43600.jpg （图像文件）              |- 43601.jpg （图像文件）              |- … （更多图片）         |- 甜甜圈 （每个子目录是一个分类，目录名称即为分类标签名）              |- 19697.jpg （图像文件）              |- 19698.jpg （图像文件）              |- … （更多图片）       … （更多分类）     |- meta （存储数据元信息的目录）         |- labels_10c.txt （每行代表一个标签，涉及10个分类，即：冰激凌、鸡蛋布丁、烤冷面、芒果班戟、三明治、松鼠鱼、甜甜圈、土豆泥、小米粥、玉米饼）3、其他说明该数据集可以用于图像分类场景训练，也可以基于ModelArts数据标注进行物体检测类型的标注，然后用于目标检测场景训练。

日前，华为云在知识计算领域的多跳知识推理问答取得重大进展。基于自然语言处理领域的领先技术积累，华为云语音语义创新 Lab 联合华为诺亚方舟实验室在国际权威的 HotpotQA 评测 Fullwiki Setting 赛道荣登榜首，在答案模糊准确率和联合模糊准确率（Joint F1）等指标上均达到第一。作为企业重要的信息载体，数字化文档记录了大量企业知识，如何快速帮助企业员工从数字化文档中获得答案，是企业文档维护人员的痛点。为解决此问题，一方面需要较强的阅读理解技术，另一方面还需要构建一套复杂的开放域问答流程。 HotpotQA 评测数据是斯坦福、CMU 和蒙特利尔大学杨植麟、齐鹏、张赛峥等人于2018年首次推出的新型问答数据集，由斯坦福的 Manning 教授和深度学习三巨头之一的 Bengio 牵头。该数据集由多跳复杂问题以及对应的答案组成，同时包含佐证证据用来解释答案的来源。在斯坦福此前公布的 SQUAD 评测任务中，机器已经多次超过人类，该评测仅需要从单个篇章中找到与问题有关的答案即可，故相对简单。然而，HotpotQA 评测需要从整个 wikipedia 或者多篇文章中找出问题相关的答案，同时要求返回问题到答案的推理链，难度大大增加更具有挑战性。该评测也吸引了来自谷歌、微软、Facebook 等知名研究机构以及 CMU、Stanford、华盛顿大学、清华大学、北京大学等知名高校。挑战多跳知识推理技术高点HotpotQA 评测的难点在于机器要结合多篇文章进行多跳推理才能得出答案，并返回佐证证据。该评测分为 Distractor Setting 和 Fullwiki Setting 两个赛道。Fullwiki Setting 相较于 Distractor Setting 更为复杂也更接近实用价值，需要从整个维基百科文档中抽取文档，然后再从文档中提取段落，最后从段落中抽取答案，而 Distractor Setting 赛道会提供 10 篇备选的篇章。如何从大量文档段落中去多跳搜索候选，然后理解候选段落的内容提取佐证证据成为比赛的关键。华为云联合华为诺亚方舟实验室，提出了新的检索目标 hop，用于收集维基百科中隐藏的推理证据，解决复杂多跳问题，同时结合 beam search 对答案进行排序和融合。如今，企业面临着数字化、知识化转型，知识化转型重要的关键技术就是知识的理解和推理，该技术对企业知识转型具有重大的意义和推动作用。2020 年华为云推出知识计算解决方案，企业可以基于华为云知识计算解决方案打造自己的知识计算平台，用于研发、生产、运营、销售、售后服务等企业核心流程。目前，该方案已在石油、汽车、医疗、化纤、煤焦化、钢铁、交通等行业率先实践。

ModelArts是面向AI开发者的一站式开发平台，您可以使用ModelArts完成爱（AI）美食赛题数据处理、训练建模、推理测试以及结果的提交。附件文档包含使用ModelArts完成爱（AI）美食赛题的全流程指导，通过本文档您可以快速了解ModelArts平台的使用，有助于您使用ModelArts来完成爱（AI）美食赛题。详细内容查看附件pdf文档《爱（AI）美食-美食图片分类Baseline》。0%baseline files.zip (90.4 K)0%爱（AI）美食-美食图片分类Baseline.pdf (1.14 M)

【大赛介绍】由深圳市政务服务数据管理局、南山区人民政府主办，南山区政务服务数据管理局、华为技术有限公司承办的“华为云杯”2020深圳开放数据应用创新大赛（Shenzhen Open Data Innovation Contest，简称SODiC），以“数聚粤港澳，智汇大湾区”为主题，面向全球高等院校、专业研究机构、数据分析公司、开发者征集基于开放数据的创新应用解决方案和算法模型。AI训练营录播视频链接（含baseline解读&调优）：https://huaweicloud.bugu.mudu.tv/watch/lm0p02d7

作者 张倩近日，国际权威研究机构 IDC（国际数据公司）最新发布的《中国 AI 云服务市场（2020 上半年）跟踪》报告显示，华为云一站式 AI 开发平台 ModelArts 位居机器学习公有云服务中国市场份额第一位，高达 29%。报告指出：华为在国内市场具有先天的认知优势，开发者对于华为的技术、产品、品牌有着天然的认知和信赖。其中，华为云一站式 AI 开发平台 ModelArts 在行业用户中的主动提及率非常高。可以见得，在 ModelArts 平台学习 AI 技术已经成为越来越多开发者的偏爱，ModelArts 也正逐渐成为行业 AI 落地的首选。数据来源：IDC《中国 AI 云服务市场半年度研究报告，2020H1》众所周知，市场份额是产品是否好用的一个忠实反应。对于用户来说，「好用」的标准非常简单，即你的产品到底有没有解决我的问题？比如能否实现降本增效，产品是否安全可控等等。 作为一站式 AI 开发平台，华为云 ModelArts 的用户所关注的问题也在这一范畴之内。具体来说，他们会关心：这个平台上手门槛高不高？成本、效率高不高？我的数据隐私能得到保护吗？我的模型我自己能把关吗？ 接下来，我们就从这些问题入手，看看市场份额第一的华为云 ModelArts 有没有解决这些问题。 开发者和企业所看中的，华为云 ModelArts 都满足了吗？ 1. 门槛、成本和效率 一位从传统 IT 转向 AI 软件研发的技术总监曾表示，在早期的研发阶段，他们遇到了不少棘手的问题，比如从数据收集、处理，模型训练、管理到发布，AI 开发基本都处于一种「乡间作坊」的工作模式。这种工作方式不仅效率低下，而且不利于新人的培养，让人才培训成本居高不下。同时，模型上线后的工作性能受物理硬件的限制，横向扩展耗时耗力，资源利用率也无法有效保障。 这位技术总监提到的问题主要体现在门槛、成本和效率几个方面。在门槛方面，推动 AI 发展的核心四要素——算法、算力、数据和知识，每一个都存在门槛。在成本方面，传统的「乡间作坊」工作模式开发流程冗长，涉及的人员较多，人力、物力成本居高不下；在效率方面，这种工作模式容易重复造轮子，资源复用率低。 在种种困境下，华为云 ModelArts 走进了这些开发团队的视野。 为什么是 ModelArts？ 在自然语言处理领域，BERT 的问世是一个里程碑事件。它让整个社区尝到了「预训练」的甜头：只需要简单的迁移策略，就能让模型在下游任务中获得良好的性能，使该领域由原来的手工调参、依靠机器学习专家的阶段，进入到大规模、可复制的大工业生产的阶段。这一经验同样可以复制到其他领域，华为云 ModelArts 的通用预训练模型架构——EI-Backbone 就是这一路径的开拓者之一。 EI-Backbone 通过整合算法模型、算力、数据和知识，可以进行模型选择自动设计、参数配置自动调优，在分钟级内完成模型训练，无需依仗专家经验就能大幅提升模型精度，显著降低 AI 使用门槛，缩短开发流程，提升开发性能。该架构提供了一种「预训练模型 + 小样本微调」的高效训练模式，能够让开发者基于行业小样本数据训练高精度模型。这在医疗等优质数据稀缺的场景中尤其有用。以医疗影像分割为例，过去需要成百上千例标注数据才能进行的训练，在 EI-Backbone 的加持下，只需要几十例甚至十几例标注数据即可完成，节省标注成本高达 90% 以上。 效率的提升和成本的节约还体现在算力方面。华为全联接大会 2020 发布的最新版华为云 ModelArts 3.0 在集群规模、任务数量以及分布式训练各个环节做了针对性优化，并支持弹性训练。弹性训练指的是华为云 ModelArts 提供的两种模式：一是 Turbo 模式，可以充分利用空闲资源加速已有训练作业，训练速度可提升 10 倍以上，并且不影响模型的收敛精度；二是经济模式，可以通过最大化资源利用率给开发者提供极致的性价比，在大多数典型场景下可以提升性价比 30% 以上。这种降本增效的成果在实际的业务场景中是非常可观的，无论是对 AI 开发者的低成本快速上手的需求，还是对行业 AI 智能转型升级来说，无疑都是最合适的选择。 2. 对数据的掌控 AI 模型性能的提升离不开大量的多源数据。如果企业只用自己有限、单一来源的数据进行训练，得到的模型可能不够准确，或泛化性较差。在此背景下，各个数据拥有方不可避免地要进行合作。 但与之矛盾的是，很多行业的数据涉及用户隐私、行业机密等问题，数据拥有者不愿或不能将数据上传至一个数据中心进行模型训练，从而形成了一个个的「烟囱」或「孤岛」。 华为云 ModelArts 的用户大多是这种类型，他们身处医疗、政务、金融等安全、隐私性要求极高的领域，因此必须对自己数据的流向进行严格把控，做到数据不出库。 数据不能出库，但模型的参数可以，这就是华为云 ModelArts 提供的联邦学习解决思路。在华为云 ModelArts 3.0 下，用户可以各自利用本地数据训练模型，不交换数据本身，只用加密方式交换更新的模型参数，实现云边协同训练。此外，华为云 ModelArts 3.0 不仅支持横向联邦学习，处理对齐的数据，还支持纵向联邦学习，可以轻松处理训练样本 ID 重叠多的数据。 对于使用华为云 ModelArts 实现行业 AI 落地的用户来说，引入联邦学习不仅解决了数据隐私问题，还节约了数据方面的成本。众所周知，医疗、制药等领域的数据标注难度非常大，需要领域专家的介入，因此成本非常高。通过联邦学习，各个数据拥有方都可以在这一技术的保护下实现数据价值的交换，显著降低成本。  3. 对模型的掌控 模型从实验室走向生产环境是一个令人揪心的过程。开发者和企业会担心这个模型精度不够高、性能不够好、可解释性差、可信度低等问题。在这些都没弄清楚之前，没有人敢大规模部署这款模型。 华为云 ModelArts 的成功之处在于，它在一定程度上缓解了这种「不透明」所带来的顾虑，将自动评估、诊断之后得到的模型精度、性能、可解释性、可信度等信息展示在一块「面板」上，让用户直观地看到自己模型的基本情况。 而且，这种评估是非常精细的，仅精度方面就有准确率、精确率、召回率、F1 值、混淆矩阵、ROC 曲线、数据敏感度分析等多项指标。这些指标可以帮助用户进行有针对性的调优，让用户做到「心中有数」，放心部署。 哪些行业已经用上了华为云 ModelArts？ 当前，华为云 ModelArts 已经在金融、医疗、药物研发、自动驾驶等多个领域得到了广泛应用。 在金融领域，华为云 ModelArts 已经用于金融票据 OCR 识别。由于金融票据格式多样，差别细微，需要 AI 专家进行长时间的票据 AI 训练，因此业界识别准确率普遍不够精准。针对票据模型开发训练数据标注、模型训练、调优和部署上的诸多难点，华为云 ModelArts 通过数据集分类、自动学习、迁移学习等方法，让初级 AI 开发者无需调参等操作，轻松操作数据标注工具，完成部署。 在医疗领域，去年 11 月份，放射学领域国际顶级期刊《Radiology》发表了华为云 EI 创新孵化 lab、华中科技大学电信学院、华中科技大学同济医学院附属协和医院放射科联合团队的最新研究成果：运用华为云 ModelArts 开发的一套基于 CTA 影像的脑动脉瘤检测算法。该算法灵敏度高达 97.5%，帮助医生临床诊断灵敏度提升约 10 个百分点，漏诊率降低了 5 个百分点，同时有效缩短了医生的诊断时间。在药物研发领域，2020 年，华为云 EI 与中国科学院上海药物研究所签署联合创新合作协议，将华为自研的 FedAMP 算法和 AutoGenome 算法应用到药物研发的 AI 任务中，精准预测药物水溶解性、心脏毒性和激酶活性。中国科学院院士、中国科学院上海药物研究所研究员蒋华良联合华为云发布基于 ModelArts 平台的药物联邦学习服务，以解决研发数据高壁垒、高成本以及高机密的问题。实践证明，通过华为云 EI 联邦学习训练后的模型，准确度远超传统的联邦学习和深度学习算法。回顾过去的一年，华为云 ModelArts 在抗击疫情方面也发挥了重要作用，其参与的联合科研团队在 2020 年 2 月份就筛选出了五种可能有效的新冠抗病毒药物。此外，华为云还依托 AI 昇腾集群服务和 ModelArts 推出了 AI+CT 医学影像分析服务，运用计算机视觉与医学影像分析技术对患者肺部 CT 多发磨玻璃密度影（GGO）以及肺实变进行分割以及量化评价，并结合临床信息和实验室结果，辅助医生更高效、精准地区分早期、进展期与重症期，助力疫情防控工作。 技术赋能行业离不开一个低门槛、高效率同时又安全、可靠的工具。华为云 ModelArts 这类 AI 开发新工具的出现是实现技术普惠的重要条件，让「学 AI，用 ModelArts」成为开发者群体的新风尚，亦将让行业 AI 落地开拓者们亲手触碰到未来。 参考链接： https://www.zhihu.com/question/327642286/answer/1465037757 https://bbs.huaweicloud.com/blogs/203915 https://tech.ifeng.com/c/81fISXbX0Ay 本文转自：机器之心

作者 | AI科技评论AI 科技评论消息，**计算机学会（ACM）于今日刚刚宣布了 2020年新当选 ACM Fellow 名单，共有 95位科学家当选，其中包括陈怡然、颜水成、周昆、申恒涛、陶宇飞、王薇、Cathy Wu、李学龙、吕晨阳、任奎、王义、张耀文等12位华人学者！值得注意的是，2020 年入选的 ACM Fellows 中，还有多位图灵奖得主（未经评选，直接授予），包括Whitfield Diffie、Adi Shamir、Manuel Blum等人。作为世界上最大的计算机领域专业性学术组织，ACM 的影响力不言而喻。它创立于 1947 年，目前在全世界 130 多个国家和地区拥有超过 10 万名会员，其所评选的图灵奖是计算机界最负盛名、最崇高的一个奖项，被称为「计算机界的诺贝尔奖」。而 ACM Fellow 则设立于 1993 年，用于表彰在计算和信息技术领域从业五年以上，并做出了「突出贡献」(Exceptional Contributions) 的科学家，是 ACM 所有会员中最顶尖的那 1% 位成员。截止目前为止，已有 1000 多位 ACM Fellow 诞生。本次选出的95名ACM Fellow ，分别在人工智能、云计算、计算机图形学、计算生物学、数据科学、安全和隐私、软件工程、量子计算和网络科学等领域做出了广泛的基础性贡献。ACM 前主席 Cherri M.Pancake 曾经说过：“计算机技术对塑造我们今天的生活和工作产生了巨大影响。所有直接或间接影响我们的技术都是无数个小时工作的结果，协作或个人工作，以及创造性的灵感，有时甚至是明智的冒险。每年，我们都希望有一批最杰出的人成为 ACM Fellow，ACM Fellow是我们整体认可的基石，在强调ACM Fellow的成就时，我们希望给予应有的赞誉，同时也向公众传播计算机专业人员所从事的特殊领域。”为彰显ACM的全球影响力，2020年ACM Fellow 来自澳大利亚、加拿大、中国、埃及、法国、德国、以色列、意大利、瑞士和**的大学、公司和研究中心。以下是12位入选华人学者介绍：陈怡然杜克大学电子与计算机工程终身正教授、IEEE Fellow、杜克大学计算进化智能中心（CEI）主任、** NSF 新型可持续智能计算产学合作中心主任。专注于研究新型存储系统、机器学习和神经形态计算，以及移动计算系统。1998年获得清华大学理学学士学位，2001年获清华硕士学位，2005年获普度大学博士学位。在工业界工作五年后，他于2010年加入匹兹堡大学担任助理教授，后于2014年晋升为终身副教授，并获双世纪校友讲席。他同时也是 NSF CAREER奖、ACM SIGDA杰出新教师奖、德国洪堡资深学者研究奖和IEEE SYSC/CEDA TCCPS职业中期奖的获得者，并被列入HPCA名人堂。陈教授出版过一本专著并发表过400多篇技术论文。他获得过96项**专利，担任或曾担任十多个国际学术论文/期刊的副主编，并曾在60多个国际会议的技术和组织委员会任职。他现在是IEEE电路和系统（ IEEE Circuits and Systems ）杂志的主编。他获得过七次最佳论文奖，一次最佳 poster奖，以及十四次最佳论文提名。入选理由：对非易失性内存技术的贡献。个人主页：https://ece.duke.edu/faculty/yiran-chen 颜水成前依图科技首席技术官，新加坡国立大学终身机器学习与计算机视觉实验室负责人，IEEE Fellow、IAPR Fellow，曾任 360 集团副总裁、首席科学家与人工智能研究院院长。主要研究领域为计算机视觉、机器学习与多媒体分析。本科就读于北京大学数学科学学院，在微软亚洲研究院实习期间，先后师从人脸识别和智能视频监控专家李子青和计算机视频检索研究领域的“开山鼻祖”张宏江，还与前滴滴研究院院长何晓飞一同搭档发表 4 篇单篇引用过千的论文。他们将 Subspace Learning 与 Manifold Learning 两个当时非常火爆的领域巧妙而简单地串联了起来。2006年，颜水成在伊利诺伊大学香槟分校（UIUC）做博士后研究，师从计算机视觉大师黄煦涛（Thomas Huang）。2007年12月，颜水成教授加入新加坡国立大学，其团队在五年内获得了计算机视觉领域的核心竞赛即PASCAL视觉对象类和ImageNet大规模视觉识别挑战赛的十余次冠军或荣誉奖，以及十多次（最佳）学生论文 奖项。此外，颜水成团队提出的“Network in Network”（NIN）网络结构的核心 1×1 卷积，在近年来几乎被所有计算机视觉深度学习模型当作标准模块，后期出现的 GoogleNet、ResNet等模型也借鉴了其思想。他的团队开发的“Purine”是全球第一个开源的支持多机多GPU的深度学习系统。入选理由：对视觉内容理解技术与应用的贡献。个人主页：https://www.ece.nus.edu.sg/stfpage/eleyans/ 周昆浙江大学计算机系教授，IEEE Fellow，兼任浙江大学计算机辅助设计与图形学国家重点实验室主任，教育部长江学者特聘教授，国家杰出青年科学基金获得者。主要研究方向为计算机图形学、计算机视觉、人机交互和虚拟现实。在ACM/IEEE Transactions上发表论文80余篇，论文引用1万余次，获得发明专利50余项。此外，他曾获得2009年NVIDIA Professor Partnership Award、2010年中国计算机图形学杰出奖、2011年中国青年科技奖、2011年《麻省理工学院技术评论》全球杰出青年创新人物奖 (MIT TR35 Award)、2012年中组部首批青年拔尖人才支持计划、2013年国家自然科学二等奖、2016年陈嘉庚青年科学奖、2017年浙江省自然科学一等奖。入选理由：对计算机图形学的贡献。个人主页：https://person.zju.edu.cn/kunzhou 申恒涛申恒涛教授，**光学学会会士和ACM杰出会员，是电子科技大学计算机科学与工程学院院长，电子科技大学人工智能研究院执行院长，四川省人工智能研究院（宜宾）院长。他分别于2000年和2004年获得了新加坡国立大学计算机科学系一等荣誉学士和博士学位。随后加入昆士兰大学并于2011年底成为教授。他一直从事最前沿的计算机科学研究，研究方向包括多媒体搜索，计算机视觉，人工智能，和大数据管理。申恒涛累计发表了300+篇高水平同行评审论文，其中包括200多篇CCF A类论文, 并获得了8个国际会议和期刊的最佳论文奖，包括A类会议ACM Multimedia 2017 最佳论文奖和ACM SIGIR 2017 最佳论文-Honourable Mention奖，以及IEEE Transactions on Multimedia 2020最佳论文奖。入选理由：对大规模多媒体内容的理解、索引和检索的贡献。个人主页：https://cfm.uestc.edu.cn/~shenht/#陶宇飞**中文大学计算机与工程系教授，复旦大学兼职教授。主要研究兴趣是开发“小而精”的算法，以及数据库、机器学习与理论计算机科学的交叉研究。他在2002年于**科技大学获得计算机科学博士学位，师从 Dimitris Papadias 教授。他曾在CMU担任访问科学家、**城市大学担任助理教授、昆士兰大学担任教授。曾获得2002年**杰出科学家奖、SIGMOD 2013/2015 最佳论文奖、2016年谷歌教职研究奖、PODS 2018 最佳论文奖等。入选理由：对用于大规模数据处理的算法的贡献。个人主页：https://www.cse.cuhk.edu.hk/~taoyf/ 王薇加利福尼亚大学洛杉矶分校（UCLA）计算机系 Leonard Kleinrock 讲席教授，Scalable **ytics Institute 主任，Jonsson Comprehensive 癌症中心、量子计算生物研究所成员。主要研究兴趣为大数据分析、数据挖掘、数据库系统、自然语言处理、生物信息学、计算机生物与计算医疗。她于1999年从UCLA获得计算机科学博士学位，曾于1999年至2002年在IBM T. J. Watson中心担任研究员，于2002年至2012年在北卡罗来纳大学教堂山分校计算机系担任教授。她曾获得 IBM 发明成就奖、微软研究 New Faculty Fellow。入选理由：对数据挖掘的奠基与实践的贡献。个人主页：http://web.cs.ucla.edu/~weiwang/(吴凯茜)Cathy H. Wu特拉华大学生物信息与计算生物中心 Edward G. Jefferson 主席与教授，蛋白质信息资源(PIR) 主任，乔治城大学医学中心兼职教授。主要研究兴趣包括蛋白质家族分类和功能注释、生物数据整合和文本挖掘。她在1978年本科毕业于国立台湾大学植物病理学，随后于1982年获得**普渡大学植物病理学硕士学位，1984年获得普渡大学博士学位。博士毕业后，她继续求学之路，1986年在密歇根州立大学获得分子生物博士后学位，并于19**在德克萨斯大学获得计算机科学硕士学位，硕士毕业论文主题是使用人工神经网络来分类蛋白质，导师为George M. Witson III。之后，19**至1994年，她在德克萨斯大学计算机系担任助理教授，教计算机科学的课程，又在德克萨斯大学健康中心担任助理教授、副教授与教授。吴自1990年以来一直从事生物信息学研究，并开发了几个蛋白质分类系统和数据库。入选理由：对生物信息学、计算生物、知识挖掘与语义数据聚合的贡献。个人主页：https://bioinformatics.udel.edu/people/personnel/cathy_wu/ 李学龙李学龙，国际欧亚科学院院士、西北工业大学教授、博导，校学术委员会副主任。毕业于中国科学技术大学，关注高维数据的智能获取、处理和管理。在应用系统中发挥作用。在工程和计算两个领域入选全球高被引科学家。  此外，还入选**科学促进会会士（AAAS Fellow）、**光学学会会士（OSA Fellow）、国际光学工程学会会士（SPIE Fellow）、国际电气电子工程师协会会士（IEEE Fellow）、国际模式识别学会会士（IAPR Fellow）等。2018年，获得“钱伟长中文信息处理科学技术奖”一等奖。入选理由：对计算高阶数据以及从高阶数据中学习的贡献。个人主页：https://teacher.nwpu.edu.cn/2018010290.html 吕晨阳吕晨阳，圣路易斯华盛顿大学计算机科学与工程系教授，研究领域包括实时系统、无线传感器网络和物联网。他是“ACM Transactions on Sensor Networks”的期刊主编、IEEE IOT期刊的区域编辑。此外，他发表了150多篇研究论文的作者，被引用超过14,000次，h指数为54。他1995年在中国科技大学念完本科，1997年获得中国科学院硕士学位，2001年在弗吉尼亚大学获得博士学位。入选理由：表彰其在自适应实时系统、实时虚拟化和无线网络物理系统方面的贡献。个人主页：https://www.cse.wustl.edu/~lu/任奎浙江大学求是讲席教授，目前担任浙江大学网络空间安全学院院长、计算机科学与技术学院副院长、计算机创新技术研究院执行院长，此前入选 IEEE Fellow。主要研究方向为云安全、物联网安全与隐私保护，是其研究领域的权威专家。任奎教授发表了280余篇同行评议的期刊与会议文章，获得了包括IEEE INFOCOM’20、IEEE Globecom’19, 中国密码学会’18、ACM ASIACCS’18、IEEE ICDCS’17、IWQoS’17，ICNP’11等在内的多篇最佳论文和时间考验论文奖。他的H-Index为69，文章总引用次数超过30,000次，并入选科睿唯安高被引科学家。同时任奎教授的多项研究成果在工业界有广泛应用。入选理由：对无线系统安全与云数据安全的贡献。个人主页：https://person.zju.edu.cn/kuiren 王义瑞典乌普萨拉大学信息技术系教授，主要研究兴趣为 CPS 的设计与动态更新、安全至上的嵌入实时系统、实时调度、建模与验证。1982年本科毕业于中国东北大学计算机工程专业，随后赴瑞典查尔姆斯理工大学攻读计算机科学博士预科与博士学位。2014年当选 IEEE Fellow。曾获得2019年 IEEE TCRTS Award、RTSS 2099/2015/2017 最佳论文奖、ECRTS 2015最佳论文奖、DATE 2013最佳论文奖、ETAPS 2002 最佳工具论文奖。入选理由：对实时系统的自动化分析与验证的贡献。个人主页：http://user.it.uu.se/~yi/ 张耀文张耀文，国立台湾大学电机工程系特聘教授，他在1988年获得国立台湾大学学士学位，在1993年获得德克萨斯大学奥斯汀分校硕士学位，1996年获得德克萨斯大学奥斯汀分校博士学位。研究领域为电子设计自动化、积体电路实体设计、积体电路可制造性设计等。入选理由：为算法电子设计自动化做出贡献。个人主页：https://www.ee.ntu.edu.tw/profile1.php?teacher_id=943001&p=3近三年来当选 ACM Fellows 的华人学者 2019年共有 7 位：吕松武、宋晓东、陶大程、谢源、周礼栋、陈熙霖、李向阳。 2018 年共有 6 位：李飞飞、刘欢、罗杰波、Lili Qiu、何田以及 Lillian Lee。 2017 年共有 9 位：马毅、芮勇、杨强、张世富、翟成祥、张爱冬、Li Erran Li。以下为2020年入选 ACM Fellow完整名单：Daniel J. AbadiUniversity of MarylandFor contributions to stream databases, distributed databases, graph databases, and column-store databasesSamuel MaddenMassachusetts Institute of TechnologyFor contributions to data management and sensor computing systemsJames AllanUniversity of Massachusetts AmherstFor contributions to information retri, including topic detection and trackingScott MahlkeUniversity of MichiganFor contributions in compiler code generation for instruction level parallelism, and customized microprocessor architecturesSrinivas AluruGeorgia Institute of TechnologyFor contributions to parallel methods in computational biology and leadership in data scienceDavid MaltzMicrosoft AzureFor contributions to networking infrastructure, including data center networking, network operating systems, and cloud networkingAndrea C. Arpaci-DusseauUniversity of WisconsinFor contributions to storage and computer systemsVolker MarklTU BerlinFor contributions to query optimization, scalable data processing, and data programmabilityRemzi Arpaci-DusseauUniversity of WisconsinFor contributions to storage and computer systemsMaja MataricUniversity of Southern CaliforniaFor contributions to socially assistive robotics and human-robot systemsSuman BanerjeeUniversity of Wisconsin-MadisonFor contributions to design, implementation, and tools of wireless systemsFilippo MenczerIndiana UniversityFor research on the vulnerability of social media networks to disinformation and manipulationManuel BlumCarnegie Mellon UniversityFor contributions to the foundations of computational complexity theory and its application to cryptography and program checkingJose MeseguerUniversity of Illinois at Urbana-ChampaignFor the development of logical methods for design and verification of computational systemsLionel BriandUniversity of Ottawa and University of LuxembourgFor contributions to automated software testingMeredith Ringel MorrisMicrosoft ResearchFor contributions to human-computer interaction, information retri, computer-supported cooperative work, and accessibilityDavid BrooksHarvard UniversityFor contributions to software and hardware design for power-efficient computer architecturesNachiappan NagappanMicrosoft ResearchFor contributions to empirical software engineering and data-driven software developmentRan CanettiBoston UniversityFor contributions to cryptography and computer securityRadhika NagpalHarvard UniversityFor contributions to collective intelligence, including self-organizing systems and swarm roboticsJohn CannyUniversity of California, BerkeleyFor contributions in robotics, machine perception, human-computer interaction, and ubiquitous computingMoni NaorWeizmann Institute of ScienceFor contributions to the foundations of cryptography and theoretical computer scienceAnantha ChandrakasanMassachusetts Institute of TechnologyFor energy-efficient design methodologies and circuits that enabled ultralow-power wireless sensors and computing devicesChandrasekhar NarayanaswamiIBM T.J. Watson Research CenterFor design and development of the Linux Watch and SoulPad, which influenced wearable and mobile systemsYao-Wen ChangNational Taiwan UniversityFor contributions to algorithmic electronic design automationSam H. NohUNISTFor contributions to storage system software, including flash and byte-addressable non-volatile memoryMoses CharikarStanford UniversityFor design of efficient algorithmic techniques for big data, hashing, approximation algorithms, and metric embeddingsPrakash PanangadenMcGill UniversityFor making continuous state systems amenable to logical and computational treatmentYiran ChenDuke UniversityFor contributions to to nonvolatile memory technologiesSethuraman PanchanathanArizona State UniversityFor contributions to multimedia technologies and leadership in the scientific communityGraham R. CormodeUniversity of WarwickFor contributions to data summarization and privacy enabling data management and **ysisManish ParasharRutgers UniversityFor contributions to high-performance parallel and distributed computing and computational sciencePatrick CousotNew York UniversityFor contributions to programming languages through the invention and development of abstract interpretationKeshab K. ParhiUniversity of MinnesotaFor contributions to architectures and design tools for signal processing and networking acceleratorsMathieu DesbrunCalifornia Institute of TechnologyFor contributions to geometry processing and discrete differential geometryHaesun ParkGeorgia Institute of TechnologyFor contributions to numerical algorithms, data **ytics, and leadership in computational science and engineeringWhitfield DiffieFindora Advanced Research CenterFor the invention of asymmetric public-key cryptography and the promulgation of a practical cryptographic key-exchange methodGordon PlotkinUniversity of EdinburghFor contributions to the science of programming languages, particularly their operational and denotational semanticsBonnie J. DorrIHMCFor human-centered and linguistically inspired approaches to natural language processing     Michael O. RabinHarvard UniversityFor the introduction of nondeterministic automata, probabilistic automata, and for contributions to computability and computational complexity theoryNicholas DuffieldTexas A&M UniversityFor contributions to network measurement and **ysisKui RenZhejiang UniversityFor contributions to wireless system security and cloud data securityAlan EdelmanMassachusetts Institute of TechnologyFor contributions to algorithms and languages for numerical and scientific computingPaul ResnickUniversity of MichiganFor contributions to recommender systems, economics and computation, and online communitiesThomas EiterTU WienFor contributions to knowledge representation and reasoning, logic programming, and declarative problem solvingMary Beth RossonPennsylvania State UniversityFor contributions to human-computer interaction, including scenario-based designCormac FlanaganUniversity of California, Santa CruzFor contributions to static and dynamic program debugging and verification methodsSteven SalzbergJohns Hopkins UniversityFor contributions to computational biology, including software for DNA sequence **ysis, alignment, and genome assemblyJodi ForlizziCarnegie Mellon UniversityFor contributions to design research in human-computer interactionSanjit Arunkumar SeshiaUniversity of California, BerkeleyFor contributions to formal verification, inductive synthesis, and cyber-physical systemsDieter FoxUniversity of WashingtonFor contributions to probabilistic state estimation, RGB-D perception, and learning for robotics and computer visionAdi ShamirWeizmann Institute of ScienceFor contributions to the field of cryptographySanjay GhemawatGoogleFor contributions to distributed systems designHeng Tao ShenUniversity of Electronic Science and Technology of ChinaFor contributions to large-scale multimedia content understanding, indexing and retriAntonio GonzalezUniversitat Politecnica de CatalunyaFor contributions to the design of energy-efficient and resilient computer architecturesAmit ShethUniversity of South CarolinaFor contributions to data semantics and knowledge-enhanced computingAndrew D. GordonMicrosoft Research and University of EdinburghFor contributions to programming languages: their principles, logic, usability, and trustworthinessAdam SmithBoston UniversityFor contributions to data privacy and cryptographySteven GribbleGoogleFor contributions to virtualization technology across clusters, servers, and networks     Olga Sorkine-HornungETH ZurichFor contributions to digital geometry processing, computer animation, computer graphics and visual computingSusanne E. HambruschPurdue UniversityFor research and leadership contributions to computer science educationRick L. StevensArgonne National LaboratoryFor contributions in high-performance computing systems, collaborative environments, and tools for large-scale science initiativesMartin HellmanStanford UniversityFor the invention of asymmetric public-key cryptography and the promulgation of a practical cryptographic key-exchange methodPeter StoneUniversity of Texas at AustinFor contributions to automated planning, learning, and multiagent systems with applications in robotics and ecommerceNicholas HighamUniversity of ManchesterFor contributions to numerical linear algebra, numerical stability **ysis, and communication of mathematicsYufei TaoChinese University of Hong KongFor contributions to algorithms for large scale data processingC. Anthony (“Tony”) R. HoareUniversity of CambridgeFor contributions to the theory of programming, and its application to the practice of engineering of softwareLeandros TassiulasYale UniversityFor contributions to network control and optimization with applications in communication networksHolger H. HoosLeiden UniversityFor contributions to automated algorithm selection and configuration for optimization and machine learningKenneth Lane ThompsonGoogleFor contributions to the development of operating systems theory and for the implementation of the UNIX operating systemIhab F. IlyasUniversity of WaterlooFor contributions to data cleaning and data integrationAndrew TomkinsGoogleFor contributions to the understanding of the web and web-based social networksLizy Kurian JohnUniversity of Texas at AustinFor contributions to the design, modeling and benchmarking of computer architecturesOlga TroyanskayaPrinceton University and Simons FoundationFor contributions to computational biology, data integrationJoost-Pieter KatoenRWTH Aachen UniversityFor contributions to model checking of software and probabilistic systemsMatthew A. TurkToyota Technological Institute at Chicago and University of California, Santa BarbaraFor contributions to face recognition, computer vision, and multimodal interactionNam Sung KimSamsungFor contributions to design and modeling of power-efficient computer architecturesWil Van Der AalstRWTH Aachen UniversityFor contributions to process mining, process management and data scienceSven KoenigUniversity of Southern CaliforniaFor contributions to artificial intelligence, including heuristic search and multi-agent coordinationToby WalshUniversity of New South Wales and CSIRO Data61For contributions to artificial intelligenceDavid KotzDartmouth CollegeFor contributions to the security, privacy, and usability of mobile systemsWei WangUniversity of California, Los AngelesFor contributions to the foundation and practice of data miningArvind KrishnamurthyUniversity of WashingtonFor contributions to networks and distributed computer systemsLaurie Ann WilliamsNorth Carolina State UniversityFor contributions to empirical research on agile software development, software security, and software engineering educationRavi KumarGoogle ResearchFor contributions to web science modeling, **ytics, and algorithmsCathy H. WuUniversity of DelawareFor contributions to bioinformatics, computational biology, knowledge mining and semantic data integrationZhou KunZhejiang UniversityFor contributions to computer graphicsShuicheng YanYITU TechnologyFor contributions to visual content understanding techniques and applicationBrian LevineUniversity of Massachusetts AmherstFor contributions to network forensics, security, and privacy, and for thwarting crimes against childrenWang YiUppsala UniversityFor contributions to the automated **ysis and verification of real-time systemsKevin Leyton-BrownUniversity of British ColumbiaFor contributions to artificial intelligence, including computational game theory, multi-agent systems, machine learning, and optimizationMichael J. ZydaUniversity of Southern CaliforniaFor contributions to game design, game and virtual reality networking, and body trackingXuelong LiNorthwestern Polytechnic UniversityFor contributions to computing on and learning from higher-order dataSteven H. LowCalifornia Institute of TechnologyFor theoretical foundations and real-world deployment of Internet congestion control and smart grid optimizationChenyang LuWashington University in St. LouisFor contributions to adaptive real-time systems, real-time virtualization, and wireless cyber-physical Acm Fellow 2020年名单：https://www.acm.org/media-center/2021/january/fellows-2020

近日，在 Qcon 全球软件开发大会（深圳站）上，华为云人工智能领域首席科学家、IEEE FELLOW 田奇博士，作了题为「云原生时代，视觉预训练大模型探索与实践」的主题演讲，介绍了云原生时代华为云在 AI 基础研究、视觉预训练模型研发和行业实践，以及 AI 开发平台 ModelArts 的最新进展。以下是田奇博士演讲要点：随着企业数字化的转型，传统企业已基本上将业务从线下搬到了云上。其中，第一个阶段是将企业的业务简单地部署到云上，我们可以称之为 ON CLOUD，在这种形态下，通过资源池化，解决了 IDC 时代运维、部署、扩容的难题。但是，传统方法的过于厚重、烟囱式的架构，导致云对业务的价值还仅仅停留在资源供给阶段，未充分发挥出云计算的潜力。随着企业的数字化建设逐步迈入智能化阶段，企业需要充分利用云计算带来的红利，就需要让其业务能力内生于云，由现在的 ON CLOUD 进阶到 IN CLOUD 阶段，即基于云的技术架构来构建企业业务，通过构建多云、多中心的分布式架构以及敏捷、智能的企业数字化业务，将企业的数字化建设带入智能化新阶段。此时，云对业务的价值不再是简单的资源供给，还能够以应用为中心，为业务赋能。一站式 AI 开发平台，加速行业 AI 落地，践行普惠 AI华为云提供了一站式的 AI 开发平台，加速行业 AI 落地，践行普惠 AI。华为云对 AI 平台打造了四层体系，第一层是智能体；第二层是知识计算解决方案；第三层是 ModelArts Pro，针对专业应用开发套件；第四层是 ModelArts Fundamental。对于一站式的 AI 开发平台，主要聚焦在模型高效、数据高效以及知识高效。这些强大的 AI 服务，底层都是基于云原生容器的 Volcano 高效能调度引擎，而 Volcano 调度引擎将训练任务的效率提升了 50%。华为云 AI 基础研究进展华为云长期扎根 AI 技术基础研究，在计算机视觉、语音语义、决策优化三个方向做了深入探索与研究。为此，我们针对数据、模型和知识提出了六个子计划。其中，针对模型包含两个计划，一个是针对大模型的模型摸高计划，提供极致的性能；第二是针对小模型的模型瘦身计划。针对数据提出了两个计划，一个是处理多模态的数据魔方计划；另一个是针对小样本学习的数据冰山计划。最后针对知识的高效提取，我们提出了两个计划：建造通用 AI 系统的万物预视计划以及学习一种新范式的虚实合一计划。在这些计划中，我们始终聚焦在模型高效、数据高效、知识高效等重点方向上。对于自主研发的一些新技术，比如自动学习、知识蒸馏、预训练模型等等，都会以即插即用的方式部署到华为云线上，助力 AI 行业落地。在众多 AI 领域中，计算机视觉具有广泛的落地场景，在智能汽车、智能手机、无人机、智能眼镜等应用都有计算机视觉算法的身影。这些年随着计算能力和 5G 通信技术的极大提高，以计算机视觉为代表的大批 AI 技术，已跨越了早期仅在研究领域取得进展的阶段，过渡到了与社会环境协同发展、共同促进的阶段。未来视觉 AI 技术会在千行百业进行落地，比如政府、医疗、工业、能源、交通、物流、金融等等。但是，技术落地也面临着巨大的挑战，由于 AI 应用的碎片化、定制化等因素，极大地限制了 AI 在真实环境下的落地部署。为了解决应对 AI 碎片化等问题，我们提出了预训练大模型的解决方案，希望能用大量无标注的数据和更大的模型来实现更通用的 AI 系统。在自然语言处理领域，这两年大规模预训练模型取得了突破性进展，但是预训练模型对算力有极大的需求，而且我们预计更大规模、更大参数的模型还会继续出现。因此，受到自然语言处理中预训练模型的启发，在计算机视觉中我们也希望构建通用的 AI 系统，为下游各种视觉任务提供一个高效的初始化模型。现在主流的学习方式有两种，一种是监督学习，一种是强化学习。监督学习需要海量标注样本，泛化能力相对比较弱，另一种是强化学习，强化学习需要海量的试错，同样缺乏通用系统所需要的可适用性、可重复性以及鲁棒性。我们认为，自监督学习是迈向常识学习的关键步骤，但是目前自监督学习在视觉任务中的应用还不够成熟。过去，在数据标注、模型训练和输出阶段，分别要做大量的重复工作。未来，我们希望可以对计算机视觉或者自然语言处理任务构建一个通用预训练模型，仅通过下游少量的标注样本进行微调就可以高效完成任务，从而大量节约开发成本。视觉预训练大模型研究和实践接下来的报告，我会介绍一下我们在预训练模型方面的工作，主要是在自监督学习过程中预训练模型的一些进展。自监督学习由于不需要任何人工标注便能够学习图像的内在表征，近年来受到了业界的极大关注。在没有人工标注的情形下，自监督学习需要预先设定一些预训练任务辅助模型学习。2016 年以前，一些预训练任务推动该领域出现了一些大的进展。自监督学习主要分为两种，一种是生成式，一种是对比式，近几年最新的一些工作大多是基于实例区分的对比学习。 基于实例区分的对比自监督学习在最近几年取得了极大的进展，在一些任务上刷新了现有自监督预训练任务的 SOTA 结果。最近我们在对比自监督学习方面有两项优化工作，首次实现了在 ImageNet 线性分类任务中达到全监督基线性能，并且在小样本分类上大大超越了之前的方法。然而，现有的自监督预训练模型仍然处于探索阶段，存在大量的问题未能够解决：现有的自监督预训练算法迭代缓慢，很难复制到大模型以及超大规模数据集；另外，相较于全监督学习，其特征表达在大多数下游任务上仅仅能获得与之相比拟的结果，其进一步的性能优势还有待挖掘。因此，如何利用自监督学习在超大数据集合，超大模型上获取更强的泛化性能将会是未来的发展方向。在这里，介绍一下我们最新的几个工作，在对比自监督学习框架下，我们提出了基于邻域保持的混合图像增强，在业界首次提出了利用不同图像数据增强策略提升其泛化性能。过去，对比学习通常利用同一样本的不同数据增强生成正样本集合，并且把其他样本均视为负样本的策略，将样本特征的距离拉近或者拉远作对比学习任务，而我们首次提出了选取不同正样本的方法。同时，提出了基于局部领域混合增强的技术，把多个相似样本的特征拉近，不同样本的距离拉远。我们的方法在 ImageNet 线性分类评估上，TOP-1 的精度达到了 75.5% 准确率，离监督学习基线 76.5% 仅仅差了 1 个百分点。通过对预训练模型在小样本标注数据上进行微调（1% 和 10% 标注的数据），我们的精度达到了最好的结果。 接下来介绍一个我们今年刚刚完成的工作，基于等级化语义**的对比自监督学习框架。在上述工作的基础上，我们进一步发现即使显示地拉近语义相似性样本，特征表达的可分离特性并没有达到我们的预期目标，这限制了其泛化表征能力。自监督学习仍然存在优化困难，收敛速度慢等问题，为此，我们做了两点改进，第一，我们拓展了自监督学习算法中正样本数目，使得正样本集合能够更加高效的被**，同时避免受大量负样本优化的影响。第二，我们在浅层特征上引入对比自监督学习，通过精心设计的浅层优化目标加速训练过程，在浅层特征上实现了更好的可分离性，我们发现这些优势对小样本学习有极大的提升。从结果来看，我们在线性分类任务中达到了 76.4% 的精度，首次达到了和全监督基线相比拟的性能，而且通过将预训练模型在小样本标注数据上进行微调，在之前的结果上又得达到了新的 SOTA，特别地，仅仅使用 10% 标注，我们在 ImageNet 分类上达到了 75.1% 的 TOP-1 精度。上述两项工作都是在没有任何标签设置下完成的，更进一步，我们探索了如何把对比学习和数据标签高效地结合起来，通过引入图像真实标签来辅助对比学习，我们认为应该将自监督学习得到的表观特征和监督学习的语义特征相结合，它的本质是把表观相似和语义相似的样本距离拉近，将不相似样本的距离推远。从结果上看，这个工作在各个下游工作中（比如检测、语义分割、实例分割）的表现全面超越了以往的自监督和全监督的泛化能力。华为云的第二个核心研究方向是如何设计高效的视觉识别模型，即模型高效。在这个方向主要聚焦两个方面，第一是如何设计神经网络模型，第二是在神经网络架构搜索中，如何在原子算子层面上进行搜索。关于神经网络模型设计，最初的方式都是手工设计的，这种方式经过高速发展后，也进入了一个瓶颈，因此从 2017 年开始，自动的神经网络架构搜索经历了一个迅猛发展的过程，也取得了一些可喜的成绩。但是搜索出的网络也面临几个问题，第一个问题，搜索空间仍然是手工定义的；第二个，搜索的卷积算子是人工定义的，而且相比于手工设计的网络，搜索的网络可迁移性也是比较差的。我们在网络架构搜索上第一个工作是 P-DARTS，提出渐进的可微分网络架构搜索算法。之前的网络架构搜索面临着搜索网络和测试网络深度不一样的问题，在较浅的搜索网络中搜索出来的架构并不适合较深的测试网络。早期的方法直接加深搜索的深度，但是会造成显存爆炸的问题，并且导致搜索不稳定。为了解决这个问题，我们提出了两个思想，一个是搜索空间近似，第二个是搜索正则化。搜索空间近似，是指采用渐进搜索策略，逐渐加深搜索的深度；同时进行链接权重的学习，把权重比较小的链接运算都扔掉，这样减少了搜索空间。搜索正则化主要是对搜索得到的一些 skip connect 的数量上的限制。从结果上看，我们把 P-DARTS 搜索的网络迁移到 ImageNet 上，在 ImageNet 分类任务上与基线方法相比提高了两个百分点。P-DARTS 网络搜索算法是在 P100 上完成的，大概需要 0.3 个 GPU-days。与去年同期的 DARTS 工作进行大致的比较，它的搜索时间是 4 个 GPU-days，而在性能和速度都有超越的情况下，我们的方法只需要 0.3 个 GPU-days。我们在架构搜索上的第二个工作是 PC-DARTS，这是业界搜索速度最快的网络架构方法之一，其主要思想有两个，一个是采用局部连接的思想来解决网络冗余的问题，第二个是采用边正则化的思想来解决网络搜索稳定性的问题。并且，这个工作首次在大规模图像数据集 ImageNet 上进行了神经网络架构搜索。我们最新的一个相关工作是 GOLD-NAS，渐进剪枝的单阶段可微分搜索算法。这个算法主要的一个贡献是它打破了传统可微分搜索空间的诸多限制，因此大大增加了搜索空间的容量，并提出了单阶段优化策略和渐进剪枝的优化策略。从结果上看，在扩大的搜索空间中，算法不仅能够找到绝对性能更强的网络，也能找到具有更高性价比的网络。我们第四个工作是卷积搜索，提出对卷积操作进行搜索，当前的模型搜索都是采用一些固定的卷积操作，比如 1×1、3×3 的卷积，这种方式限制了模型的性能。因此，为了将卷积的设计也纳入搜索的范围，这个工作提出了针对点云任务的基于数据驱动的模型搜索，同时对卷积的结构也进行了搜索，将来将进一步扩展到传统的图像领域。我们最近两年在计算机视觉三大顶会 CVPR、ICCV、ECCV 大概发表了近百篇文章，基本进入视觉研究领域第一梯队，极大地提高了华为在计算机视觉领域的国际竞争力，同时有一些工作也获得了最佳论文和最佳论文提名。而且最新的算法已经逐渐部署到华为的一站式 AI 开发平台，在一些行业得到了广泛的应用，下面再介绍一下视觉任务的进展和在行业的实践。第一个进展是图像分类技术，在 ImageNet 上，今年我们的分类准确率达到了 85.8%，而之前谷歌最好的精度是 85.5%。从今年 3 月份以来，我们在这方面一直保持着领先水平。第二个进展是弱标注场景下的图像分类技术。在 WebVision 大规模弱标注的网络图像分类比赛中，大约有 5000 个类别的 1600 万张图像，有 90 多支参赛队伍竞争，华为云在分类准确率上取得了业界第一的水平。我们把图像分类技术应用到了一些传统行业，比如米旗蛋糕店。结果上看，我们的技术让商品整盘识别率达到了 99% 以上的精度。另外，我们的模型训练时间小于一天，因此每天都可以进行模型更新，商品的识别时间也小于 1 秒。第三个进展是图像检测、分割技术，在业界权威的目标检测数据集 MS-COCO 数据集上，不论是单模型还是多模型，我们都取得了今年业界第一的成绩。我们将检测、分割技术用到了医疗智能体，在今年新冠肺炎 AI-CT 辅助筛查中实现了自动智能检测，而且已经在各大医院成功部署。我们第四个进展是多模态数据处理技术，相对于单模态，多模态具有天然的互补优势，比如在无人驾驶中除了图像的输入，还有激光雷达信号、GPS、图像分割的数据。在最权威的三维目标检测 NuScenes 数据上，我们提出的技术也取得了非常好的成绩，我们的结果比第二名领先了 3.1%。同时我们将多模态处理技术用在了深圳交通智能体上，实现对红绿灯控制的智能化，在交通总量相同的情况下将平均通行车速提高了 15%，将平均等待时间、延误时间下降了 17.7%。最后介绍一下华为云一站式 AI 开发管理平台 ModelArts。ModelArts 有两个不同层次的版本，一个是 ModelArts Fundamental，一个是 ModelArts Pro。根据华为云在十多个行业常年的技术积累，ModelArts Pro 开发平台主要提供五大类的专业应用开发套件，包括文字识别套件、视觉套件、知识图谱套件、多模态开发套件、自然语言处理套件，还提供了四十多个行业级的高精度预置的算法， 包含数据准备、数据处理、 模型设计、模型管理及部署等等。以上是华为云在视觉预训练模型上的一些基础研究最新进展和行业实践的案例，以及在华为云 AI 开放平台沉淀的一些工作。谢谢！文章来源：https://www.jiqizhixin.com/articles/2020-12-08-8