-
随着人工智能 、5G、大数据等已经成为数字经济发展中最活跃的技术和产业方向,并且正在成为实现经济社会数字化转型的核心信息基础设施 。 人 工智能作为新一轮科技革命和产业变革的核心力量,正在推动传统产业升级 转型 ,在智能交通、智能家居、智能医疗等领域 应用逐步落地。 可以说,人工智能为我们当下生活带来 了 在以前都不敢想象的便利。目前人工智能、大数据的 各项研究实践都有 了 巨大 的突破 , 但 技术 产品在 应用中还需突破各种障碍 。 为 了更好的 将A I和大数据应用到 行业中, 本次 “互联网+”大赛华为云赛道EI命题 , 从 实际业务场景出发, 在 人工智能和 大数据领域 推出 四 个 命题:• 基于华为云EI能力构建“医疗+AI”解决方案 ;• 基于华为云EI能力构建计算机视觉产业应用 ;• 基于AI开发平台ModelArts和MindSpore开源框架创意作品 ;• 基于华为云EI能力构建大数据使能行业应用赛题介绍:作品内容、形式 … 全开放性开放性赛题 !对你没看错。首先 , 赛题只规定 了 方向 领域 不做具体规定 。 只要作品包含以下其中一个领域 ,均可报名参赛 :• 医疗+ AI• 计算机视觉领域• 应用 ModelArts平台和MindSpore框架• 大数据领域其次 , 作品形式更是不限 ,移动应用、小程序、算法模型、解决方案、软硬件结合系统方案等均可。作品不要求完全基于华为云 E I产品开发 , 在开发中有使用或结合华为云E I产品能力即可 。赛题解读 :提前掌握所需技术及工具,必定事半功倍华为云E I 基于 人工智能 和大数据技术,通过 云服务 方式提供一个开放的、可信的、智能的平台,结合产业场景,使能企业应用系统能看、能听、能说,具备分析和理解图片、视频、语言、文本等能力,让更多个人、企业便捷的使用A I 和大数据服务,加速业务发展。本次华为云 E I赛题主要为 人工智能 和大数据两个技术方向 。在人工智能领域,参赛者可 以结合华为云E I的相关产品 : AI开发平台ModelArts、华为 HiLens 、图引擎服务GES 等A I 基础平台服务, 以及 文字识别 OCR 、 图像识别 、语音识别 等通用和高阶API 。AI开发平台ModelArts :面向开发者的一站式 AI 开发平台,提供海量数据预处理、智能标注、大规模分布式训练、自动化模型生成和端-边-云模型按需部署能力,帮助用户快速创建和部署模型,管理全周期 AI 工作流。华为HiLens : 端云协同 多模态AI开发应用平台,提供简单易用的开发框架、开箱即用的开发环境、丰富的AI技能市场和云上管理平台,对接多种 端侧计算 设备。图引擎服务GES : 针对以“关系”为基础的“图”结构数据,进行查询、分析的服务。广泛应用于社交应用、企业关系分析、风控、推荐、防欺诈等具有丰富关系数据的场景在大数据领域,可以结合华为云 EI 的 大数据计算服务MRS 、 数据湖探索 DLI 、 大数据搜索与分析C SS 、 大数据治理与开发D GC 等服务。大数据计算服务MRS : 为客户提供ClickHouse 、Spark、 Flink 、Kafka、 HBase 等Hadoop生态的高性能大数据引擎,支持数据湖、数据仓库、BI、AI融合等能力,完全兼容开源。数据湖探索 DLI : 完全兼容Apache Spark、Apache Flink 、 openLooKeng(基于Presto)生态,提供一站式的流处理、批处理、交互式分析的 Serverless 融合处理分析服务。为了让参赛者更好的掌握和应用这些产品 , 在 华为云 在 大赛页面 提供了相关的 在线课程等 学习资料供大家参考学习 。如何使用华为云 E I 产品开发作品?从华为云官网 - > 产品,产品分类中“人工智能”和“大数据”即为华为云EI产品 。 参赛者可基于自身作品开发需求,任意选择某个或多个华为云 EI 产品开发作品。 以下以AI开发平台ModelArts为例展开介绍。从产品列表点击 A I开发平台 M od el Arts 进入产品页,产品 页介绍 了ModelArts开发流程、能力详情、各功能模块简介、应用场景和客户案例等内容。点击“ 管理控制台 ”进入ModelArts开发页面 (如下图所示) ,页面右上角可以查看对应模块“使用指南”,在使用产品过程中有任何疑问可以随时联系命题接口人。ModelArts社区 A I Gallery 中有大量已经标注好的数据、能直接 用于训练的算法、能直接运行的模型以及一键run的Notebook代码 ,所有参赛者可以基于自身作品需求免费使用这些A I 资产。其中算法涵盖了计算机视觉 、自然语言处理、语音识别、搜索推荐、时序预测等领域的100 +算法 ,能满足大部分开发场景。另外,AI Gallery中还有 系统的课程和AI实战营活动 ,开发者可以自学ModelArts实践开发课程,也可以参加AI实战营活动,华为云A I 专家带你学习 AI编程Python实战营、机器学习实战营、MindSpore AI框架实战营、深度学习实战营、强化学习实战营、ModelArts实 战营 六大实战营。 这里再分享几个应用华为云 EI的相关产品技术 , 开发的案例供你参考 。希望能给你的参赛带来一些帮助。1、 金域联合 华为云AI技术,辅助宫颈癌筛查: https://www.huaweicloud.com/cases/20200311165250030.html2、 华为云AI助力水鸟保护模型训练和部署,让湿地水鸟保护更方便: https://www.huaweicloud.com/cases/tjdx.html3、 华为云大数据方案构建数据分析平台,主力斗鱼轻松应对海量数据分析 https://www.huaweicloud.com/cases/douyu0.html什么样的作品容易拿高分 ?上文提到的华为云EI产品都可以提高参赛者开发人工智能、大数据 相关 作品的效率, 可以帮助参赛者更好、更快的开发作品,但什么样作品容易拿高分呢?从评分维度来看作品的创新性 、技术实现和交付 、商业性以及团队的分工配置都非常重要 ,笔者认为在保证作品具有较好完成度的前提下,作品的呈现尤为重要。首先,路 演材料 需呈现各个评分项内容,缺一不可。其次,由于是 产业命题赛道,作品需呈现和华为云EI产品结合的点,即基于华为云EI产品做了哪些开发工作,达到了什么样的效果等。最后,作品具有创新性,算法或方案具备行业优势更容易获得评委的高分。最后 ,再次 提醒大家本次 “ 互联网 + ” 大赛的时间安排 : 报名时间截止到 8 月 31 日,初赛复赛截止 9 月 30 日,预计 10 月 中 下旬举行全国总决赛 。参赛的小伙伴们,如果你对人工智能或大数据领域感兴趣,抓紧时间报名参赛吧。 点击进入 报名页面 “互联网 + ” 大赛华为云赛道EI命题 ,获得专家一对一指导 和更多抽奖福利 吧 。“互联网+”大赛华为云赛道命题攻略合集命题专家重磅解读:CloudIDE命题攻略:明确业务场景,快速开发插件EI命题攻略:能力灵活,开放式运用,助你实现AI梦想IoT命题攻略:仅需四步,轻松实现场景智能化设计API命题攻略:理清三步解题思路,用好开发工具AI创新应用赛题攻略:大胆脑洞,共绘智慧生活蓝图
-
EI信息平台资料书架内容。
-
在训练模型后,用户往往需要通过测试数据集来评估新模型的泛化能力。通过验证测试数据集上的平均损失,可以评估模型对未知数据的预测能力。模型评价指标是评估模型泛化能力的标准,不同的指标往往会导致不同的评判结果。ModelArts模型评估/诊断功能针对不同类型模型的评估任务,提供相应的评估指标。在展示评估结果的同时,会根据不同的数据特征对模型进行详细的评估,获得每个数据特征对评估指标的敏感度,并给出优化建议。模型评估/诊断功能帮助用户可以全面了解模型对不同数据特征的适应性,使得模型调优可以做到有的放矢。当前模型评估功能覆盖图像分类、物体检测和图像语义分割三大场景,快来看看如何使用模型评估功能吧~图像分类图像分类评估指标说明物体检测物体检测评估指标说明 图像语义分割图像语义分割评估指标说明 调用模型评估接口了解评估结果ModelArts提供了“analyse”接口,用于模型评估。用户在推理结束后,传入指定参数调用该接口即可获取评估结果。> analyse(task_type=‘’,pred_list=[],label_list=[],name_list=[],custom_metric=‘’,label_map_dict=‘’)参数说明参数是否必选说明task_type是任务类型。支持“image_classification”或“image_object_detection”参数值。 “image_classification”表示图像分类。 “image_object_detection”表示物体检测。pred_list是模型预测输出列表。label_list是所有图片的标签列表。name_list是所有图片对应的OBS路径。此处需使用绝对路径。custom_metric否用户自定义的指标。label_map_dict否标签索引和名称。如果不设置,系统默认使用{“0”: “0”, “1”: “1”, “2”: “2”, …}作为展示标签。 示例:{“0”: “dog”, “1”: “cat”, “2”: “horse”}更多接口介绍详见模型评估接口,更多代码示例详见模型评估代码示例,更多帮助参见模型评估优化建议~
-
[重磅一]看直播戳我➡张晓鹏:视觉计算预训练大模型,加速迈向通用人工智能时间:4月24日13:30-14:20 内容简介:本次分享会将详细介绍华为云在视觉预训练模型研究以及落地上的最新进展。针对当前AI部署中模型调参困难,数据标注代价大,无法结合行业知识等痛点问题,结合华为云端开发优势,打造视觉领域通用预训练模型,全面提升计算机视觉开发和落地的体验。对非专业客户,在尽可能少的简易操作下,可以完成高精度AI模型的部署。借助EI-Backbone便捷易用优势,从算法角度减少客户与平台的交互次数、简化操作流程、提升AI模型精度,同时针对海量无标注/弱标注行业数据提供定制化模型能力,全面提升业务性能。 内容大纲:1、视觉通用AI:预训练模型背景及趋势 2、华为视觉预训练模型蓝图及研究成果展示 3、视觉预训练部署:挑战及应用案例介绍 听众收益:1、了解华为视觉预训练模型总体情况和最新进展 2、了解通用视觉AI相关落地部署流程以及关键难题 3、了解如何利用华为平台,高效开展AI方面的研究 [重磅二]看直播戳我➡谢凌曦:华为视觉计划三大方向、六大课题,带您走进CV新时代时间:4月24日14:30-15:20 内容简介:本次分享将介绍华为视觉计划的概况和进展。华为视觉计划聚焦于数据高效、模型高效、知识高效三大方向,全面提升计算机视觉开发和落地的体验。同时,华为视觉计划的研究成果将沉淀至大模型中。用户通过两段式开发流程,无需大量算力和数据,即可充分释放云端大模型的潜力,并且结合数据挖掘、知识蒸馏、小样本学习等定制化算法,满足端侧和边侧的各种应用需求。 内容大纲:1、华为视觉计划回顾:三大方向,六大课题 2、华为视觉计划各方向的进展和研究成果展示 3、面向新时代的思考:打造自动化、全场景的AI算法部署平台 听众收益:1、了解华为视觉计划的总体情况和最新进展 2、了解面向新时代的AI算法设计思路部署流程 3、了解如何利用华为平台,高效开展AI方面的研究[重磅三]看直播戳我➡转型人工智能:理论学再多,不如抱团动手做时间:4月24日16:30-17:20 内容简介:高校同学如何通过华为云一站式AI开发平台ModelArts及ModelArts开发者社区(MDG)快速上手学习AI?我们邀请到来自天津大学、中国矿业大学、暨南大学等MDG组织者及云享专家向各校同学分享经验,如何基于ModelArts社区的开发者计划自组建技术学习小组,通过项目实践和技术来学习AI、转型为AI开发者。 内容大纲:1、转型AI:理论学再多,不如抱团动手做 2、各校MDG组织者分享如何建立自学技术小组并获得成长 3、Panel Discussion / QA 听众收益:1、了解如何通过平台降低实践门槛 2、了解如何通过社区互助学习提升 3、了解华为云AI社区的开发者计划 更多精彩直播演讲请关注:
-
近年来,“AI的应用和落地”逐渐成了具化的关键词,它和很多事物很多行业结合在一起,形成了奇妙的“化学反应”。例如,在日常生活中,AI可以推送我们喜欢的新闻或视频,可以在拍照的时候识别场景提升照片的美感…….而今天笔者要说的,可能是从很多人都密切相关但大多很陌生的一个“神秘”的职业说起:机场塔台空中交通管制。上海麦图信息科技有限公司,借助华为云ModelArts一站式AI开发平台,开发出智能塔台中的航空器识别AI模型,应用于跑道防侵入和机坪防冲突等运行安全守护场景。并将于2021年4月24日-26日在深圳举办的华为开发者大会2021(Cloud)上与开发者们见面。 AI 给了我一双“慧眼”在机场的每一架飞机起飞或者着陆,从飞机推离停机位到离开机场空域,或相反的降落过程中,背后都需要依靠多名管制员之间的接力和协作。飞机起降的间隔非常短暂且风险大,有着“黑色十分钟”之说。管制员也被称为是飞行员背后的“眼睛”,对于他们的要求是非常严苛的,需要超长时间集中注意力,尤其在航班密集的时候,管制员需要在极短的时间内对复杂的情况,做出正确判断,这也让管制员们担负着极大的压力。对于普通乘客来说,这可能只是一次普通的空中之旅,但对于管制员来说,每一次飞机起停都伴随着重大责任。中国已成为全球最大单一航空市场,后疫情时代,中国也将会是全球最安稳的航空市场。然而随着飞机起降架次的增多、机场扩建改造再加上恶劣天气的影响,跑道侵入或机坪冲突事件仍是民航领域航空器地面安全运行的头等问题,机坪和跑道安全事故在民用航空事故中占有很大的比例。对于大型机场的塔台而言,单点视野物理受限,数字化程度提升的同时,客观上造成屏幕变多、信息量变大等挑战,对管制员提出了更高的要求,同时也让管制员承担了越来越重的岗位负荷,人的主观能动性固然很强,但长实践专注会产生疲劳,难以维持面面俱到。聚焦在智能航空领域、专注于人工智能技术和应用研发的上海麦图信息科技有限公司提出了“人力有时而穷,可引AI而用之”的理念针对民航管制运行的特点,总结出了安全运行的四大要素,分别是:听、看、防、练,希望在云上可弹性扩展的算力和AI赋能加持下,能够把管制员们从传统信息获取手段造成的高负荷状态中解脱出来,并在关键场景中能够直接给出超前、明确的提醒,从而减少失误出错的概率。 为了达成上述目标,麦图公司依托华为云EI的技术支持,研发了DSASR语音识别引擎和AIGIS空间定位引擎,让机器具备了能够听的懂管制指令、看得见航空器动态、理解运行规则的本领,能够在“听看防+练”3+1模式的智能塔台系列产品中,对多个具体场景进行赋能,从态势感知、轨迹预判、规则分析和培训演练等多个环节,为机坪/塔台管制运行安全和岗位培训等业务领域提供强大助力。 “我们想通过无线电语音去了解飞机的动向,通过视频去捕捉飞机的动态,再结合运行规则来提前发现事故征候。具体落实到产品中就是由DSASR推理出指令意图并标记出预测路径后,再由AIGIS把飞机从视频中识别出来之后,计算它的位置和速度,计算两个或多个飞机之间的运动轨迹是否会有时空近似交叠、是否有违反运规则或涉及航行通告禁区等,再根据其他的关联数据进行认证,确保飞机之间不会发生碰撞、不会误入禁区,一旦有疑似症候,也可以提前预知并向当班管制员提出警示。”麦图项目总监徐擎阳对笔者说。华为云ModelArts平台赋能模型开发理想有多美好,现实就有多骨感。众所周知,人工智能包括了训练和推理两个阶段,只有先训练出人工智能模型才能进行推理。麦图面临的挑战是,项目开发团队基本是专注在软件应用开发和数据分析层面的,对于计算机视觉技术方面的研究并不深。2018年,项目团队也开始尝试过很多场景,“当时是两个问题制约了我们,一是视频的清晰度不够,当时高清视频摄像机还没有普及。二是没有好的AI开发平台,算力和工具都不够。到了今年,4K摄像机也开始普及了,训练工具ModelArts也有了,这个事情就可以做了。”徐擎阳说,华为云ModelArts提供了全流程的AI开发与管理平台,在很大程度上降低了麦图科技进入视频AI领域的门槛,“如果没有ModelArts,在准备训练前,需要自己买设备,去开源社区里面找这方面的技术,学习构建和配置环境;在训练的过程中,要涉及到设备维护、性能调优,以及标定工具的开发等等。这个过程是会非常漫长和繁杂的,我们在管制语音识别的产品AI核心开发过程中已经体会过一遍,过程非常痛苦,代价非常大。”对于麦图来说,ModelArts带来的效率提升的价值显而易见:“第一版模型开发,从标定到训练,到最后给客户做演示,只花了三天时间。如果用传统的方法做,可能连服务器的快递都寄不到。” 徐擎阳介绍说,在这个系统中,“光电盯防子系统”是一个重要的实时核心,它需要具备较完整的“基于视频流的航空器目标识别和跟踪”能力。通过将机场平面各个关键点采集到的实时视频流送入基于华为云ModelArts一站式AI开发与管理平台开发的“航空器识别模型”进行处理,识别出画面中飞行器对象的像素坐标等一次参数后,对其进行空间位置换算,以及包括速度、运行方向等在内的二次参数的计算,并在系统运行数据中找到相匹配的航班信息对目标进行信息标记,以AR信息增强的形式呈现在监视器上,让管制员以“抬头显示”的形式在单一屏幕中直观了解到足够全面的动态信息。同时该系统会在后台对所有目标的轨迹和矢量动态数据进行监控和推算,让计算机能够代替或辅助管制人员在全局范围对每一个航班、每一个道口进行实时盯防,提前预知潜在运行风险,从而降低事故发生的概率。 此模型单帧主要目标识别准确率可以逼近96%,多帧识别中主要目标识别结果可在99%以上。目前,麦图正在尝试Mask-RCNN模型,将坐标输出精度提升至像素级,实现更精确的航空器识别和位置计算。 #每一个开发者都了不起#作为华为ICT基础设施业务面向全球开发者的年度盛会,华为开发者大会2021(Cloud)将于2021年4月24日-26日在深圳举行。本届大会以#每一个开发者都了不起#为主题,将汇聚业界大咖、华为科学家、顶级技术专家、天才少年和众多开发者,共同探讨和分享云、计算、人工智能等最新ICT技术在行业的深度创新和应用。智能时代,每一个开发者都在创造一往无前的奔腾时代。世界有你,了不起!【了解更多华为云AI参会内容,欢迎点击访问】
-
企业智能(EI)• 企业有供应、制造、仓储、物流、推荐、风控等各子系统,场景非常复杂,华为的实践,就是把AI,与这些生产系统相结合,发生化学反应,让AI单点技术的进步,变成促进企业生产系统的进步,因为AI本身不是产品,需要与业务场景结合,才是有价值的。• 企业的生产+AI,我们叫EI(Enterprise Intelligence),EI就是企业的数据与算法、算力结合的实践。华为做为一个企业,不仅涵盖了 供应、制造、仓储、物流、报关等大多数制造业的典型过程,而且华为手机的电商平台,也覆盖了营销推荐、实时风控等子系统。• 在华为EI的实践过程中发现,有两个挑战,几乎每个场景都遇到:1)数据,通常不是非常小、也不是非常大,是选择传统的抽样模型,还是用深层网络模型,用哪一个投入产出最优? 实践后发现,有的生产系统,如供应链装箱,用统筹最优解算法最合适,而图片勘察、计算机视觉验收类,用深层网络模型最优。2)深层网络模型本身,模型调优很费力,具体又有两方面,第一是人的要求,要很有耐心、很细致、类似工匠精神的专家,第二是,要有随时可以获得的、强大的计算力,尤其在多任务并行时的稳定性、层数到一定深度后,还容易出现内存溢出等。• 在这张片子上的场景,都已经过华为自身实践、且有实际效果的服务,如智能装箱……• 现在这些服务,以华为云服务的方式开放出来,让更多的企业,可以站在华为实践过的肩膀上,使用AI,而不需要操心刚讲的两大问题,直接调用相应的服务API。华为云EI企业智能整体解决方案华为云EI服务华为EI服务• EI大数据提供:数据接入服务,云数据迁移,实时流计算服务,MapReduce服务,数据湖探索,表格存储服务等。• EI基础平台:ModelArts,深度学习服务,机器学习服务,慧眼HiLens,图引擎服务,视频接入服务。• 对话机器人:智能问答机器人,任务型对话机器人,智能质检,定制化对话机器人服务。• 自然语言处理:自然语言处理基础,内容审核-文本,语言理解,语言生成,定制自然语言处理,机器翻译服务。• 语音交互:语音识别,语音合成,实时语音转写。• 视频分析:视频内容分析,视频编辑,视频质量检测,视频标签,视频背景音乐识别。EI基础平台• ModelArts助力华为自动驾驶平台,高效管理AI数据处理流程,包括采集、筛选、混合标注和数据溯源,大大缩减了数据处理时间。利用分布式集群训练,提升了模型训练效率。40T原始数据处理从8000人天缩短到80人天,AI模型开发周期从数月缩短到数周。• 深度学习服务:DLS(Deep Learning Service)是基于华为云强大高性能计算提供的一站式深度学习平台服务,内置大量优化的神经网络算法模型,以兼容、便捷、高效的品质帮助用户轻松使用深度学习技术,通过灵活调度按需服务化方式提供模型训练、评估与预测。• 慧眼HiLens:HiLens端云协同AI平台为个人开发者、企业和设备生产厂商提供了一整套安全可靠的一站式人脸识别、视频分析、语音、文字识别等基础技能开发、部署和管理服务。• 图引擎服务:GES(Graph Engine Service)是针对以“关系”为基础的“图”结构数据,进行查询和分析的服务。广泛应用于社交关系分析、营销推荐、舆情分析、防欺诈等场景。• 批处理服务(Batch Service)是一种用于运行大规模并行批处理作业的分布式云计算服务。支持海量任务的自动调度、资源管理和数据加载,可广泛应用于深度学习、基因检测、视频分析等大规模并行计算场景。• 并行高效支持大规模的并行批处理作业,自动高效完成资源调度、任务发放和数据加载。• 便捷易用结合华为云上已有服务,提供丰富便捷的作业调度方法,方便用户快速实现已有流程上云,无需复杂编程即可配置云上负载。• 完全托管自动完成资源管理,数据加载和作业调度,用户可将批处理计算中的资源调度和流程调度完全托管给批处理服务。• 成本控制无需软硬件资本投资和人工运维,通过免费的批处理服务,可以直接使用云上资源,按需动态分配资源,按资源实际使用量计费。EI大数据• 智能数据平台• 智能数据平台面向企业数字化运营诉求,提供一站式智能数据管理能力,帮助企业快速构建从数据接入到数据分析的端到端智能数据系统,消除数据孤岛,统一数据标准,加快数据变现,实现数字化转型。• 提供包括异构数据接入、融合智能计算、数据分析服务、可视化数据开发治理能力,帮助各行各业企业构建数字化运营能力,加快数据变现。• 优势• 一站式数据管理:可视化数据建模,支持行业主题数据模型快速构建。• 智能ETL:标准SQL融合AI能力,快速实现非结构化数据标准化。• 开放兼容:所有组件完全兼容开源接口,已有业务无缝迁移。文字识别• 文字识别(Optical Character Recognition),就是将图片或扫描件中的文字识别成可编辑的文本。可代替人工录入,提升业务效率。支持身份证、驾驶证、行驶证、发票、英文海关单据、通用表格、通用文字等场景文字识别。• 用户认证识别:降低用户实名认证成本,准确快速便捷。• 财务报销审核:用于公司员工发票报销,票据自动识别,节省人工录入成本,提升效率。• 金融保险:用户申请保险报销,需提供身份证、报销单、医疗单据等纸件材料。通过OCR服务可实现信息的自动录入和审核校对,提升效率。• 海关单据电子化:很多公司都存在海外业务,通用OCR服务可实现海关单据数据自动结构化和电子化,提升效率和录入信息准确度。图像识别• 图像识别(Image Recognition),基于深度学习技术,可准确识别图像中的视觉内容,提供数万种物体、场景和概念标签,具备目标检测和属性识别等能力,帮助客户准确识别和理解图像内容。• 场景分析:图像的内容标签缺乏,导致用户检索效率较低。图像标签功能可准确识别图像内容,提高检索效率和精度,从而使得个性化推荐、内容检索和分发更为有效。• 智能相册:基于图像识别出的数万个标签,智能相册可以自定义分类,比如“植物”、“美食”、“工作”等类别。方便用户管理相册,带来良好体验。• 目标检测:在建筑施工现场,基于定制化的图像识别目标检测系统,可实时监测现场人员是否佩戴安全帽,以降低安全风险。• 图像搜索:海量图片库的搜索较为麻烦。基于图像标签的图像搜索技术,不管用户输入关键字,还是输入一张图像,都可以快速搜索到想要的图像。内容审核 Moderation• 内容审核(Content Moderation),基于图像、文本、视频检测技术,可自动检测涉黄、广告、涉暴、涉政等内容,帮助客户降低业务违规风险。• 内容审核:不合规内容的识别和处理是UGC类网站的重点工作,基于内容检测,可以识别并预警用户上传的不合规内容,帮助客户快速定位处理,降低业务违规风险。• 视频直播:在互动直播场景中,成千上万个房间并发直播,人工审核所有直播内容几乎不可能。基于图像检测能力,可对所有房间内容实时监控,识别可疑房间并进行预警。• 清晰度检测:某些业务场景需要用户上传照片,而照片的清晰度将影响后续业务处理。基于图像清晰度检测技术,可以自动对图像的清晰度进行判断并量化,减少二次上传。• 构图评价:某些业务场景需要用户上传高质量照片,而倾斜、变形、构图差的照片将影响后续业务处理。基于构图评价技术,可以对构图质量进行判断,减少二次拍摄和上传。交通智能体• 优势:• 数据全面和深入挖掘,全面融合互联网、交通大数据,深入挖掘大数据价值。• 全域协同与人车协同计算,实现整个区域的交通流量最大化,区域内车辆等待时间最小化。协调车辆和行人的通行需求,实现车辆、行人有序通行。• 实时信号灯调度,业内首家实现了交通智能体和信号管控平台的安全通讯接口标准制定。• 精确车辆行车轨迹预判,精准预测车辆的行车轨迹需求,提前规划通行路线。• 全时段:交通事件7x24小时全域、全时段感知。• 智能:区域协同信号优化。• 完备:关键拥堵点识别、关键拥堵路径识别、拥堵扩散分析。• 预测:人群密度预测,掌握人群迁移大交通规律。• 精准:交通路况7x24小时全面、精准掌握。• 便捷:实时信号灯调度,按需放行。• 可视:提交通态势大屏,所见即所得。• 精细:重点车辆管控,精细化管理。园区智能体• 从人防到智防:基于人工智能的智能防护,减轻安保人员压力。• 从刷卡到刷脸:刷脸无感通行,自动打卡,再也不怕忘带卡。• 从担心到安心:强大失物追踪分析能力,智能让员工和业主更加放心。• 应用实践:• 园区门禁:利用人脸检测和识别技术精确识别来访者的身份,快速返回识别结果;实现门禁更高的通行吞吐率、园区的自动化管理。• 安全区域监控:通过入侵检测、徘徊检测、遗留物检测等技术可实现对受控区域进行监控;保障园区的生活生产安全。• 智慧停车:通过车辆车牌识别、轨迹跟踪服务实现园区车辆出入管控、线路管控、车辆违停管理、停车位管理等。工业智能体• 三大转变:• 从人工经验到数据智能:基于数据挖掘分析,从数据中获取提升效率和产品质量的新经验。• 从数字化到智能化:智能分析能力,成为企业数字化的新动力。• 从产品生产到产品创新:企业内从产品设计到销售的数据协同,以及产业链上下游数据协同,创造新的竞争优势。• 应用实践:• 产品质量优化提升:基于客户的反馈、互联网点评分析、竞争对手分析、维修记录、售后历史数据,进行分类分析,发现产品关键问题,指导新产品设计改善,提升产品质量。• 智能设备维护:预测性维护,根据系统过去和现在的状态,采用时间序列预测、神经网络预测和回归分析等预测推理方法,预测系统将来是否会发生故障,何时发生故障,发生故障类型,可以提升服务运维效率,降低设备非计划停机时间,节约现场服务人力成本。• 生产物料预估:基于历史物料数据,对生产所需物料进行准确分析预估,降低仓储周期,提升效率。深度算法优化,基于业界时间序列算法模型,并结合华为供应链深度优化。汽车智能体• 三大转变:• 从事后发现到实时监控:车辆状态和位置实时监控,降低安全隐患,减少成本浪费。• 从人防到智防:AI为安全驾驶和乘车安全保驾护航。• 从人工到智能:智能规划、智能机器人解放双手。• 应用实践:• 生物钥匙:通过红外摄像头及基于边缘和云端的深度学习能力,通过对车主正面面部图像的3D建模,完成人脸识别和活体检测,精确识别驾驶员的身份,完成车主信息的快速匹配。• 电子围栏:实时判断车辆位置是否在指定区域,超出区域进行告警。• 实时路径规划:利用高效近似图算法,实时进行站点估算和规划;基于规划的站点进行实时路径规划,满足加班车、企业拼车、物流配送等场景。• 智能对话机器人:基于深度学习和知识图谱的自然语言理解平台,提供精准的智能问答,使能销售助理、保养推荐、故障问答、车险营销等场景。ModelArts• 自动学习:自动学习功能可以根据标注数据自动设计模型、自动调参、自动训练、自动压缩和部署模型,不需要代码编写和模型开发经验。• 端-边-云:端-边-云分别指端侧设备、华为智能边缘设备、华为云。• 在线推理:在线推理是对每一个推理请求同步给出推理结果的在线服务(Web Service)。• 批量推理:批量推理是对批量数据进行推理的批量作业。• Ascend芯片:Ascend芯片是华为设计的高计算力低功耗的AI芯片。• 数据准备效率百倍提升,内置AI数据框架,通过自动预标注和难例集标注相结合,提升数据准备效率。• 训练耗时大幅度降低,提供华为自研MoXing高性能分布式框架采用级联式混合并行,梯度压缩,卷积加速等核心技术,大幅度降低模型训练耗时。• 支持将模型一键部署到端,边,云各种设备和场景下,可以同时满足高并发,端边轻量化多种需求。• 匠心打造全流程管理,提供数据,训练,模型,推理整个AI开发周期全流程可视化管理,并且支持训练断点重启,训练结果比对和模型溯源管理。• AI市场,支持数据和模型共享,可帮助企业提升团队内AI开发效率,也帮助开发者实现知识到价值的变现。ModelArts产品优势• 企业级:支持海量数据的预处理和版本管理,支持端、边、云多场景模型部署,实现AI开发全流程的可视化管理,提供AI共享平台,帮助企业构筑内外部AI生态。• 智能化:支持模型自动设计,可根据部署环境和推理速度要求,自动训练出模型,支持图像分类和物体检测场景的自动建模,支持结构化数据自动特征工程和自动建模。• 高性能:自研MoXing深度学习框架,提升算法开发效率和训练速度,优化深度模型推理中GPU的利用率,加速云端在线推理,可生成在Ascend芯片上运行的模型,实现高效端边推理。• 数据准备效率百倍提升,40TB数据处理:8000人天->80人天。• 模型训练耗时大幅度降低,算法优化,计算快,简化调参,典型RestNet-50网络下,1000GPU集群,训练加速比0.8。• 模型一键部署到云,边,端。• AI模型部署:边缘推理,在线推理,批量推理。• 用AI方式加速AI开发过程——自动学习:UI向导,自适应训练。• 快亦有道——匠心打造全流程管理:开发流程自动可视化,训练断点重启,训练结果轻松比对。• AI共享——帮开发者实现AI资源复用:企业内共享,达到效率提升。AI共享平台(数据,模型,应用),外部市场(开放生态)。ModelArts功能介绍• 数据治理:支持数据筛选、标注等数据处理,提供数据集版本管理,特别是深度学习的大数据集,让训练结果可重现。• 极“快”致“简”模型训练:自研的MoXing深度学习框架,更高效更易用,大大提升训练速度。• 云边端多场景部署:支持模型部署到多种生产环境,可部署为云端在线推理和批量推理,也可以直接部署到端和边。• 自动学习:支持多种自动学习能力,通过“自动学习”训练模型,用户不需编写代码即可完成自动建模、一键部署。• 可视化工作流:使用GES(图引擎服务)统一管理开发流程元数据,自动实现工作流和版本演进关系可视化,进而实现模型溯源。• AI市场:预置常用算法和常用数据集,支持模型在企业内部共享或者公开共享。ModelArts应用• 图像识别,视频分析,语音识别,异常检测。• 适用场景:• 图像识别:准确识别图片中的物体分类信息,比如动物识别、品牌Logo识别、车型识别等。• 视频分析:准确分析视频中的关键信息,比如人脸识别、车辆特征识别的场景应用。• 语音识别:让机器理解语音信号,协助处理语音信息,适用于智能客服问答、智能助手等。• 产品推荐:根据客户本身属性和行为特征等,为客户提供个性化的业务推荐。• 异常检测:在网络设备运行中,用自动化的网络检测系统,根据流量情况实时分析,预测可疑流量或可能发生故障的设备。• 未来将会在数据增强,模型训练速度,弱监督学习等方面持续发力,将进一步提升AI模型开发效率。ModelArts开发类型• 所有的均建议搭配:对象存储服务OBS。• 零基础建模:• 面向对象:业务开发者:有AI应用诉求,但无AI开发能力,不熟悉AI开发语言框架,无法自己建模。• 特性:提供自动学习功能,可根据标注数据自动设计模型、自动调参、自动训练、自动压缩和部署模型,不需要代码编写和模型开发经验,即可实现零基础构建AI模型。• 支持场景:当前自动学习支持快速创建图像分类、物体检测和预测分析模型,新模型类型不断增加中。• 快速建模:• 面向对象:AI初学者,具备基础AI能力,缺乏完整AI开发能力,能够使用常用AI开发框架和开源工具进行简单模型创建。• 特性:ModelArts预置了多种已经训练好的算法,您可以上传自己的业务数据,根据业务选择对应的预置算法,并进行重训练,无需编写代码即可快速生成模型,并进行模型部署。• 支持场景:预置图像分类、物体检测和图像分割三种类型的算法,您可以基于实际应用需求,选择对应模型创建训练作业,从而得到您需要的模型。新预置模型不断扩展中。• 标准模型开发:• 面向对象:AI工程师和专家,具备完整的AI开发能力,多年AI开发经验,具备丰富的模型开发和调优能力。• 特性:ModelArts集成了Jupyter Notebook,您可以通过创建开发环境,自行编写模型训练代码和调测,然后使用编写好的训练代码创建训练作业,进行模型的训练和部署。 ModelArts支持数据集、训练作业及模型的多版本管理,还提供了数据集、训练作业、模型及服务演进过程溯源图,实现AI开发工作流可视化,让您轻松管理AI开发流程,提升AI开发效率。• 支持场景:支持深度学习和传统机器学习的自定义模型开发和部署。HUAWEI HiAI• HiAI是面向移动终端的AI能力开放平台,构建三层AI生态:服务能力开放、应用能力开放和芯片能力开放。端芯云结合的三层开放平台为用户和开发者带来更多的非凡体验。• 芯:优化原声特性,芯片能力开放 - 轻松获得NPU加速让性能最佳。• 端:APP智能化,应用能力开放 - 让App更加智慧强大。• 云:提供按需服务,服务能力开放 - 让服务主动找到用户。HiAI Foundation概述• HiAI Foundation API是移动计算平台中的人工智能计算库,该计算库面向人工智能应用程序开发人员,让开发者便捷高效地编写在移动设备上运行的人工智能应用程序。HiAI Foundation API将作为统一的二进制文件发布。这组API主要作用是通过HiAI异构计算平台来加速神经网络的计算,当前仅支持在Kirin SoC上运行。使用HiAI Foundation API,开发人员可以专注于开发新颖的AI应用程序,而不用关注针对计算的性能调优。HiAI Foundation API集成到Kirin SOC芯片上,为开发者提供基于移动设备的运行环境和调试工具,开发者可以在移动设备中运行神经网络模型,调用HiAI Foundation API进行加速计算。HiAI Foundation API无需安装,使用移动设备默认镜像即可支持相关集成、开发和验证。HiAI Foundation功能介绍• 主要功能:• 提供常用的人工智能业务功能API,可在移动设备上高效运行。• 提供了一个与处理器硬件无关的加速API,应用厂商和开发者可以在HiAI异构加速系统上加速模型计算、算子计算。• 基本功能:• 支持模型编译、模型加载、模型运行、模型销毁等AI模型管理接口。• 支持基本的算子计算接口,包括卷积、池化、全链接等接口。HiAI Foundation技术介绍• 支持针对神经网络模型运算的专用AI指令集,可以用最少的时钟周期高效并行执行更多的神经网络算子。• 通过工具可以把神经网络各种算子,比如卷积、池化、激活、全链接等离线编译成NPU的专用AI指令序列,同时将数据和权重重新摆放,指令与数据融合在一起生成离线执行模型。在离线编译的时候,可以把前后层(卷积、Relu、Pooling)能够融合的算子进行层间融合,这种方式可以减少DDR的读写带宽,提升性能。• 能够把神经网络模型中的相关数据(Batch、 Channel、 Height、 Width)以最高效的方式重新摆放,特别是Feature Map的通道数据,在做卷积运算的时候,对于通道相关联的计算效率会得到大幅提升。• 支持稀疏化模型加速。在不损失计算精度的前提下,对权重进行置零稀疏优化,NPU可以跳过系数为零的乘加运算,极大地提高了计算效率,同时也降低了带宽。HiAI Foundation执行介绍• 将标准的神经网络模型(Caffe等)编译转换为离线模型,编译的主要目的是对网络配置进行优化,生成优化后的目标文件,即离线模型,离线模型是序列化的存储在磁盘上,这样,神经网络前向计算时,可以直接使用优化后的目标文件进行计算,速度更快。• HiAI Foundation支持多种智能平台框架,包括Caffe、Tensorflow等,使用不同的智能平台框架,第三方需要在接口中指出本次计算需要使用的具体的智能平台框架,其他接口和参数无需修改。HiAI Foundation支持绝大部分模型和神经网络算子,并持续优化与完善。HiAI DDK概述• HiAI API集成在使用Kirin SoC芯片的android系统上,开发者可以在集成环境中运行神经网络模型,调用HiAI API进行加速计算。• HiAI DDK(Device Development Kit)是海思发布的人工智能计算SDK,该SDK面向人工智能应用程序开发人员和机器学习算法人员,通过使用HiAI DDK,可以更好的提升移动端机器学习模型运行速度。• DDK包说明• app_source为Android demo app的源码。(提供了从输入前处理到模型加载、模型前向计算、前向计算结果后处理、模型卸载、时间统计等一系列sample code示例,同时提供了同步,异步方式的sample code。)• DDK为HiAI开放的SDK。• Document为开发参考文档。• tools为Caffe/Tensorflow离线转换工具以及算子兼容性评估及分割工具。HiAI Engine• HUAWEI HiAI Engine为应用能力开放,轻松将多种AI能力与App集成,让App更加智慧强大。应用能力开放包括:• 1. CV引擎:CV,即计算机视觉,计算机能够模拟人的视觉系统感知周围环境,判断、识别、理解空间组成。能力包括图像超分、人脸识别、物体识别等。• 2. ASR引擎:ASR,即自动语音识别,将人的声音转化为文本,便于计算机进一步进行解析理解。能力包括语音识别、语音转换等。• 3. NLU引擎:NLU,即自然语言理解,与ASR有机结合,让计算机理解人的声音或文本,进行沟通或自然的动作。能力包括分词、文本的实体识别、情感偏向分析,机器翻译等。HiAI Service• 快服务智慧平台:聚合开发者的内容和服务,为华为终端产品提供第三方的直达服务。• 小艺对话开发平台:端到端地为开发者提供对话服务的开发、测试和部署的平台。快服务智慧平台介绍• 华为快服务智慧平台,是华为终端提供的面向开发者的原子化服务接入和分发平台。快服务智慧平台接入开发者的内容和服务,通过统一的服务分发策略,向华为泛终端(手机、平板、智能音箱、PC等)和终端上的媒体入口(如:手机上的华为智能助手、全局搜索、智慧视觉等)提供服务;实现服务一点接入,全场景和多入口精准分发。• 通过华为快服务智慧平台,为终端用户带来更便捷和高质量服务用户体验的同时,也可以基于华为终端的超级入口和海量用户,为开发者引入高流量。• 华为快服务智慧平台的业务架构如下所示:• 快服务(Ability),是连接用户意图与原子化服务之间的桥梁,开发者在快服务智慧平台的开发者门户定义服务,用户可以在华为的各个终端和媒体入口来使用快服务。• 例如:某开发者可以提供每日天气查询、空气质量查询等天气信息服务。开发者在华为快服务智慧平台上将天气信息注册成为快服务,用户在华为泛终端上就可以通过语音或者卡片查看天气相关信息。• 华为快服务包括直达应用类服务(APP Ability)、卡片类服务(Card Ability)、内容接口类服务(Content Ability)、对话类服务(Conversation Ability)四种类型。快服务分类• 意图(Intent):用于表达用户想要达成的目标或完成的任务,比如:打车、查看天气等。快服务智慧平台中,意图有唯一标识和一个或多个描述意图的参数,并且和开发者的服务进行关联。• 开发者在注册快服务的时候,需要选择以下几种触发方式来对意图实例化:• 关键词触发:用户通过文本关键词表达意图,当用户的意图表达和快服务定义的关键词或意图匹配后会触发该快服务;例如:用户在负一屏通过文本搜索百科。• 语音触发:用户通过语音表达意图,当用户的意图表达和快服务定义的关键词匹配后会触发该快服务;例如:用户通过语音助手查询天气。• 图片触发:用户通过相机拍照识别等方式表达意图,当用户的意图表达和快服务关联的意图匹配后触发该快服务;例如:用户通过智慧识屏来识别花的名称。• 扫一扫触发:用户通过扫描二维码、条码等方式表达意图,当用户的意图表达和快服务关联的意图匹配后触发该快服务。• 事件触发:开发者定义的基于时间、地理位置等事件意图触发规则,当事件发生时触发快服务,来满足用户的意图。例如:航班延误事件发生时触发通知,让用户及时了解航班动态信息,满足用户的航班查询意图。快应用• 对于终端用户:快应用是一种新型免安装应用。不仅具有安卓应用体验好、功能强的优点,还具备HTML5网页自动更新、占用内存少的便捷。用户可以将喜欢的快应用添加至桌面,方便再次访问。• 对于开发者:快应用是一种基于行业标准开发的新型免安装应用,使用前端技术开发成本低,可以调用设备能力用户体验好。拥有十大手机厂商的助力,获取新客成本低、留存率高。快应用服务场景• 应用市场首页专区和活动页:华为应用市场,可以从“快应用”专区进入,或者点击顶部活动区图片,进入精选快应用专区。• 应用市场、快应用中心、游戏中心搜索:在应用市场、快应用中心和游戏中心的搜索框中输入对应的关键字,点击搜索到快应用的“打开”。• 快应用管理和快应用中心:• 打开华为应用市场,选择“管理”页签,选择“快应用管理”进入“快应用中心”,可快速访问使用过的快应用(“快应用中心”可以添加至桌面)。• 长按快应用,可以将该快应用添加到桌面、置顶、分享、管理其权限和数据以及将快应用从“快应用中心”删除。• 添加到桌面网页跳转快应用:无论网页在社交平台还是在浏览器中,都可以通过发送一个分享链接打开快应用或快应用中的某一个页面,并可添加到桌面留存。
-
我们总是听到人工智能这个词 , 就会把它与科幻电影相结合 , 例如星球大战、终结者等等。科幻大片大都是虚构的 , 所以人们总觉得人工智能缺乏真实感 , 但是如今 , 它已经切切实实地从实验室下沉至市场 , 来到我们身边 。也许你从未在意过以往以 30 分钟为单位的 “ 停车场 ” 路段 , 从某天开始变得一路通畅 ; 去年双十一期间 ,“ 快递到手速度 ” 居然攀上微博热搜 …… 这些微妙的变化背后 , 都与华为云有关 。作为一个拥有华为公司 30 年技术积淀的 BU, 华为云用最短的时间升级成长 , 并于 2017 年提出企业智能 (EI), 以期让行业与人工智能能够无缝衔接 , 共同催化出新的产物 , 推进各行各业走向 “ 智慧 ” 之路 。“ 行业 +AI” 便是华为云企业智能 (EI) 最简单的阐释。在面对各行各业时 , 华为云将人工智能有效融合进不同产业的生产、管理等流程 , 而在这些过程中 , 华为云能够做到 “ 千业千面 ”, 按需调配 , 最终得到最优质的产业优化方式 , 赋能行业。自 EI 诞生以来 , 华为云已在其帮助之下涉足城市、制造、物流、互联网等 8 大行业的 200 多个项目 , 不断向行业数字化工程发力 , 成为行业升级的新引擎 ; 同时 ,AI 开发平台 ModelArts 、 HiLens 等和 AI 沃土开发者使能计划的持续出现 , 又能不断刺激开发者 , 从而构建出良好的创新生态。看完下面的长图 , 或许你可以从中探得华为云 EI 整年的心路历程。
-
华为第十六届全球分析师大会在中国深圳召开。在“让Cloud无处不在,让AI无所不及”的主题论坛上,华为云EI服务产品部总经理贾永利发表了《让AI无所不及》的主题演讲,分享了华为全栈全场景AI在使能企业智能化转型过程的创新解决方案及相关行业实践。全栈全场景AI解决方案让智能无所不及当前,AI的应用正在从企业单个业务场景复制推广到更多部门,从先行者的小范围探索到行业企业的全面布局,与此同时,与AI相关的技术发展和演进速度也非常之快,新的AI算法不断刷新已有纪录,计算框架也不断出现。在发展迅猛的趋势之下,企业在探索和使用AI的过程中也遇到了非常多的困惑。针对AI应用当中的各种痛点,在2018全联接大会上,华为公司正式发布全栈全场景AI解决方案,为客户提供了从底层AI芯片、AI框架到应用使能的能力;面向政府、企业与开发者,提供全栈AI解决方案华为云EI。未来,基于华为昇腾(Ascend)系列AI芯片及多核ARM芯片“鲲鹏920”,华为云将更加以优质的能效表现,帮助客户进一步提升AI开发、数据处理的性价比与服务体验。华为云ModelArts:更快的普惠AI开发平台未来,随着数据模型的增大、海量数据预处理能力要求的增加,全生命周期管理加速将变得更加重要,只有拥有端到端全栈的优化能力,才能够帮助用户快速创建和部署模型,管理全生命周期 AI 工作流。华为云ModelArts一站式AI开发平台应运而生。ModelArts从设计之初便着眼于不同层级的AI开发者,从数据科学家、算法工程师,甚至AI初学者,都可以通过统一的平台对AI模型/工作流进行全生命周期管理。ModelArts可以帮助用户进行包括AI开发和运行阶段管理在内的全生命周期管理,在数据处理、模型训练、模型管理、模型部署、AI市场等各个环节提供更为快速有效的解决方案。接下来,华为云还将持续把华为2012实验室、EI产品部等在内的AI前沿的算法和理论研究,例如:小样本训练能力、半监督学习能力、神经网络自动搜索能力等,逐步产品化,并开放给开发者。具体来说,首先,数据处理在AI开发过程中极为关键,在项目中占得比例有时甚至超过进行训练的时间,同时往往消耗大量成本进行标注,ModelArts系统化的对这个过程进行了设计,提供了数据集版本管理、半自动标注等多个功能,针对不同项目,该阶段的人力消耗能够节约50%-80%。在模型训练部分,ModelArts通过硬件、软件和算法协同优化来实现训练加速。自研的深度学习框架——MoXing,可以自动将开发者的单机程序,转化为大规模分布式训练程序;提供超参的自动化调试优化;提供神经网络自动化搜索能力,帮助开发者自动化实现模型训练,大幅提升算法开发效率和训练速度,节约训练成本。而在模型管理方面,通过图引擎统一管理开发流程元数据,自动实现工作流和版本演进关系可视化,进而实现模型溯源、精度追踪;在模型部署方面,ModelArts可以一键将AI模型部署为在线推理服务或边缘推理服务。面向边缘推理场景,ModelArts可以自动对模型的适配进行优化,比如神经网络蒸馏,模型的压缩、枝剪等处理,让AI模型能够更好的适配边缘部署环境。瞄准三大行业AI落地场景,各领域合作已见成效贾永利表示,华为云EI通过在十余行业,大量的项目探索,总结了行业AI技术落地的关键路径。他表示,AI行业落地的关键在于找准场景,华为云EI针对海量重复场景、专家经验场景及多域协同三类场景,致力于实现效率提升、专业传承和突破极限,助力各行业智能化升级。在典型的海量重复场景——物流行业,每年货物破损不计其数,多数由于人为操作不当所导致。针对物流货物的运输、安检场景,华为云EI利用了视觉技术,帮助德邦快递实现了全面的自动化检测,节省了大量的时间成本和人力成本,有效减少了货物损耗。在此之前,德邦快递利用13,000路视频,使用人工观看,每人每天最多4倍速度观看8路摄像头,人力消耗预计达400人以上。针对多域协同场景,华为云帮助某机场解决航班靠桥率、旅客靠桥率、步行距离、地服消耗、滑行冲突率多等问题,实现核心指标靠桥率较人工提升了 5%,冲突率较人工降低10%,全面提升了指挥员工作效率和机场运行效率。而被优化机场全年由于停机位分配等原因,需要搭乘摆渡车的旅客数量,减少了250万。在任何行业里,专家都是非常宝贵且稀少的资源,在医疗领域更是如此,这也为专家经验场景提供了最为适合落地的基础。在大会现场,金域医学CIO李映华,就金域医学与华为云EI在医疗领域的创新成果进行了分享。他介绍道,目前金域医学与华为云已经围绕大数据、AI等多个方面开展了合作,例如借助深度学习等AI技术对海量病理切片及专家标注数据进行学习、训练,所产生的深度神经网络模型将可以辅助病理医生更加高效、及时、准确地对患者的病理切片进行诊断。在双方目前的合作当中,基于金域医学高年资细胞病理医生的专业标注以及华为云EI视觉团队的高效率、高质量的网络模型构建与训练,项目已取得了阶段性的突破,宫颈癌细胞学AI辅助筛查的敏感度超过99%,可媲美专家水平。AI技术红利加速释放,构建更全生态无论对于哪个行业,在AI落地过程中开发者都是一个关键要素。面向合作伙伴,华为云EI提供了市场营销策划、解决方案使能、联合创新Lab等多种支持计划,使能合作伙伴繁荣AI开发能力。面向开发者、高校和科研机构,华为在2018全联接大会发布了沃土AI开发者使能计划。通过沃土AI开发者使能计划,搭建一个技术交流、人才培养、机遇共创的通道。另外,开发者还可以借助ModelArts快速开展创新活动。以上海交通大学为例,借助ModelArts,学生在短时间内将传统竞赛赛车,改造为具备AI能力的自动驾驶赛车。改造后的赛车可以对红绿灯、障碍物、车道等环境进行识别,并且能够对特定目标进行跟随。同时,通过端云协同AI应用开发平台HiLens,用户可以更加方便管理海量的终端类设备,与ModelArts无缝互通。例如,深圳海雀科技通过HiLens开发的AI技能,将AI模型下发至其研发的家庭安防摄像头,让原本普通的摄像头变得更加智能。不仅AI开发过程变得更高效快捷,华为云还希望以更好的AI技术和生态,助力更多的企业和开发者更好地利用和分享他们的AI能力,从而构建更全的生态系统。开发者可以通过2019年3月最新发布的ModelArts的AI市场将AI模型、数据集进行共享和发布,也可以从市场获取基础数据集、模型进行更进一步的开发。此外,Atlas200开发者套件、HiLens wit深度学习摄像机等开发者套件也即将在5月份正式商用。目前,华为云正持续AI场景化落地应用,继续在“云+AI”进行探索与实践,助力把数字世界带入每个人、每个家庭、每个组织,从而构建万物互联的智能世界。
-
“过去是车看灯,读秒数通行。现在是灯看车,读车数放行。”在北京海淀区上地三街,在AI算法的帮助下,路口交通管理实现了实时在线决策和信号配时优化。上地三街这个过去著名的拥堵点,现在车流主方向(东西方向)平均延误减少15.2%,平均车速提升了15%,支路的平均延误时间降低了10%~20%。其实,这只是华为云普惠AI智能变革的冰山一角。如何让AI像电力、互联网一样,成为各行业企业的基本生产力,一直是华为云的目标。在普惠AI的道路上,华为云有什么独特的心法?借2018高交会契机,华为云中国区总裁洪方明向趣味科技详解了华为云的普惠AI之道 。AI要落地,先拆除三大门槛2015年兴起的这波AI浪潮,与以往AI浪潮的最大区别就是AI技术开始走出实验室,走向产业与生活,帮助人们解决现实世界中的问题。这场变革中,谁把AI用得最早、最好,谁受益最大。在华为看来,AI是一组技术集合,是一种新的通用技术(GPT)。它并不简单的是一个独立的产品,更不是一个封闭的系统。AI将成为电力、互联网一样的基本生产力,使众多行业效率得到指数级提升。这是华为云做普惠AI的出发点。洪方明认为,在将AI这种生产力释放到各行各业的过程中,企业面临着三大门槛:第一:“慢”,AI开发效率低,标注、训练、部署整个过程非常耗时;第二:“贵”,AI基础资源,尤其是算力稀缺且昂贵;第三:“缺”,AI人才的短缺,中国的AI人才缺口就超过500万人。这三点组成了“资源”、“应用”和“人才”三大门槛,极大限制了AI的行业落地进程。随着AI的日益普及,AI即将变成越来越多行业最核心的基础设施之一。然而这三大门槛却有越来越严峻的态势,算力依旧稀缺,人才缺口依旧是很多企业面临的瓶颈。AI技术发展与行业落地的巨大落差,让普惠AI成了各行业最迫切的需求。普惠AI,让企业用得起、用得好,用得放心那么,究竟如何让企业用的起,用的好AI,同时还要用的放心?在10月份举行的华为全联接大会上,华为云首次提出了全栈全场景AI解决方案,以普惠AI的方式,走出了一条AI行业落地之路。具体来说,针对“贵”和“慢”的问题,华为云通过公有云将AI技术模板化,以全栈全场景的形式全面部署在云、边、端。全栈指包括芯片、芯片使能、训练和推理框架和应用使能在内的技术全堆栈;全场景指包括公有云、私有云、边缘计算、物联网行业终端以及消费类终端的部署环境。针对企业对AI人才的焦虑,华为云推出一系列举措降低企业使用AI的门槛。比如,即取即用的AI功能和API接口、开放的开发平台可以让企业定制化开发自己的AI能力。华为云丰富的行业落地经验,还将通过行业预集成方案的形式直达各行业企业,让更多企业享受AI成功落地的成果。在安全性方面,华为云是国内惟一全平台、全节点、全服务通过PCI-DSS安全认证的云服务平台,为企业提供安全无忧的AI云服务。2017年,华为云携手客户与合作伙伴已经打造了超过200个AI项目,涵盖政务、交通、制造、物流、互联网等8大行业。全栈全场景AI解决方案成了华为云快速落地的助推器。华为云EI,行业变革的智能引擎“预计2025年,全球AI市场空间将达到3800亿美金,其中90%来自于政企市场。未来,政企市场将是云化、智能化的主场,我们在座的每一位都是这场变革的主角。”本届高交会上,洪方明再次强调了政企市场的关键性。当华为云AI以普惠的方式应用于解决各个行业的细分场景,华为将这种行业AI解决方案称为EI,即企业智能。华为云EI提供“云-边-端”三位一体的全栈协同智能服务,管理多种服务的一站式协同开发平台。此外,华为云EI还将统一AI开发语言,通过类SQL就可以实现AI业务的开发及编排。这些解决方案,都将极大降低AI应用开发门槛。比如,通过对分布式训练的调度算法、分布式梯度压缩深度优化,华为云让AI在亿级图片规模下的模型训练时间,已经从原来的30天缩短至小时级。而华为云的客户只需要将标注好的数据加载至华为云EI深度学习服务,即可快速自动训练出定制化模型。华为云EI不仅能帮企业实现降本增效,还将助力企业的商业模式创新和智能化转型。在物流行业,华为云EI对九州医药通的拣货员进行路径规划部署后,拣选效率提升近30%,派送车辆的调度效率也提升了5倍。在工业制造领域,油气公司采用华为云EI的故障预测和定位模型后,实现了对油气管道平台的故障概率预判与准确定位,使设备的宕机率下降了25%。在智慧园区管理方面,华为云EI将电子围栏和视频系统联动,节省了30%-40%的保安人力,并通过图像监控与能耗设备关联,做到无人区域照明、空调的自动关闭,将园区综合能耗降低了10%。在采用了华为云EI服务后,上海市政府“一网通办”政务服务平台能够通过智能客服实现与用户的多轮对话,并主动进行办事推荐,提升了市民满意度。虽然已经在普惠AI的大道上狂奔,但华为云“平台+生态”的长久战略不变,“上不碰应用、下不碰数据、不做股权投资”的三不原则也不变。洪方明强调,这些基本原则是华为云对生态的态度,是华为云的基因。“华为云聚焦ICT基础设施,提供一块数字化、智能化的‘黑土地’,这块‘黑土地’上可以‘玉米’、‘大豆’、‘高粱’、‘花生’、‘土豆’……,让各个伙伴的内容、应用、云在上面生长,形成共同的力量面向客户。”一项划时代的新技术,从诞生到成为水电煤一样的基础设施,需要一个漫长的发展过程。让所有企业都用得起、用得好,用得放心的,华为云的普惠AI无疑在尽力缩短这一历史进程。
-
人工智能风口成最强“风口”,各大科技巨头和创业公司纷纷抢位。就中国科技业四大巨头:阿里、腾讯、百度、华为而言,前三家谈AI很多,华为则比较低调。通过研究,笔者发现华为人工智能发展路线与BAT大不相同:BAT更多聚焦消费互联网AI应用,而随着Cloud2.0 时代到来,华为AI(华为云EI企业智能 )更多聚焦产业互联网领域的应用,以AI技术使能企业发展(企业+AI),让企业更智能。凭借多年来在企业级IT市场的行业经验积累,以及强大的AI技术实力,开放华为自身应用AI的经验和能力,华为更有可能在用AI使能企业的赛道上走的更远,华为云EI将作为一项核心使能服务驱动企业、行业迈向智能世界。任正非透露华为人工智能主攻方向人工智能风口以至,这应该已经没有什么争议,就中国科技业四大巨头:阿里、腾讯、百度、华为而言,前三家实际上都已经在不同场合谈过很多次自己的AI战略重点,比如阿里正在把人工智能渗透到交易业务的方方面面,腾讯要围绕游戏、社交、内容三大场景,Make AI Everywhere;百度有百度大脑和无人车,只有华为比较低调,对人工智能谈论不多,提起华为的人工智能,很多人还主要是停留在Mate10和荣耀人工智能手机这样的消费终端产品。然而,就在最近,华为的人工智能在企业级市场布局曝光提速,种种迹象表明,除了AI手机,水面之下,华为在人工智能领域实际上有大想法,早有明确方向。最深刻的印象来自10月份的一封经过任正非签发的、主送全体员工,全公开的华为总裁办邮件。邮件内容是一篇题为《一杯咖啡吸收宇宙能量,一桶浆糊粘接世界智慧》的文章,记录了任正非十月份访问加拿大四所高校校长座谈会,以及在公司员工座谈会上的讲话,里面有大篇幅关于人工智能的内容,显示任正非对华为AI布局的深谋远虑,巨大投入,在讲话中,任正非甚至提到华为已经考虑过万一AI泡沫破灭怎么办?在这些谈话中,总结起来,任正非一共对人工智能谈了三点意见:首先,直面人工智能存在的争议,但明确人工智能的发展“无论人们接受不接受,社会都会客观前进”,“我也担心人工智能对人的价值观产生破坏。但是我们挡不住人类社会前进的步伐。”华为一定要发展人工智能,“现在华为公司在人工智能的投资上也是极大的。”第二,在人工智能的研发中,必须让AI坐实,不能“虚化”,“否则在产品人工智能开发上,不成熟,就不敢冒昧的投入数千人。”在这里实际上表达了两层意思,一是华为已经在人工智能领域投入数千人力,二是坐实不虚化。第三,华为人工智能的主攻方向有两个,一,大量的是解决我们管理中重复性劳动的自动化问题,降低了管理的成本,也避免人做重复工作,因审美疲劳而犯的低级错误,我们在这个世界上的生存能力就更强了;二,是对于不确定性事情的模糊性识别和智能化处理。主攻方向明确之后,华为的人工智能研究被分为三个部分,第一部分是基础理论研究;第二部分是做使能器来改造华为的流程管理,“这个使能工程不对外,只全对内”;第三部分就是做人工智能相关的产品,对外赋能。据华为消费者业务CEO余承东在前不久的世界互联网大会介绍,为了应对数据洪峰对ICT行业冲击,诺亚方舟实验室2012年6月的正式成立,是华为正式投入AI基础研究的最鲜明信号。华为在诺亚方舟实验室进行人工智能算法的研究、管理AI的技术合作、识别AI主要应用场景和需求管理等。诺亚方舟的上层组织就是神秘的“2012实验室”,是华为的总研究院,包括中央硬件工程学院、海思、研发能力中心、中央软件院等。与最近很火的阿里达摩院不同,华为2012实验室已经运作七年,做得多说的少,对外很是低调神秘。从内部应用到对外开放使能,华为云EI企业智能面世根据任正非的华为AI战略,由于华为的人工智能工程主要是建立在其自身遍布全球的业务和网络存量上,以前是“不对外,全对内”,所以对于华为的AI技术到底详情如何,外界一直知之不详。但最近,却多了两个重要外部观察窗口,一个是华为手机在AI应用方面的进展,包括去年发布的AI手机荣耀Magic、华为Mate 9、华为Mate 10,开启终端AI商业化元年,这一块报道已多;而另外一个则是华为EI(Enterprise Intelligence)企业智能服务的面世与上线。华为云EI和华为AI手机,可以看做华为人工智能战略的云侧和端侧,华为认为Mobile AI=On-Device AI + Cloud AI,构建芯、端、云协同发展人工智能。华为AI手机针对消费者市场,而华为EI则是针对企业级市场,其基础为华为云,目标是将各类AI单点技术与企业生产系统产生化学反应,让企业更智能。在本质上,华为EI就是要把任正非所提到华为多年来在内部通过AI解决华为公司内部生产、物流、供应链、终端等领域问题,所积累的一些相关的能力、知识和方法分享给更多企业,帮助企业实现智能化。可以从华为EI所推出的三类企业智能云服务看到华为这部分AI能力的组成,它包括:EI基础平台服务,比如深度学习服务、图引擎服务等;通用服务,如大数据、视觉认知、语音语义、人脸识别、图像识别和内容检测等;行业场景解决方案,比如智能水务、智能制造、智能电力、智能交通、智能金融、智能零售等30个企业智能服务。华为EI的推出可以说是完全顺应任正非人工智能战略的指导,也是在把华为在人工智能领域最擅长的技术和能力积累对外开放和输出。按照一般认知,当前的人工智能可以分为两种,一种是强人工智能,一种是弱人工智能。强人工智能是研究如何通过模拟人的思维和模拟人细胞构成的一个方向,这个领域目前也没有太大突破。而弱人工智能则是指将人工智能技术用于提高人类工作效率,这才是华为AI的长项,也是目前人工智能商业化的主流方向。为了对外输出华为所积累的AI能力,华为以华为云为基础推出了华为云EI企业智能服务,并从诺亚方舟实验室整合大批人力加入EI业务。华为的人工智能到底能做什么?从哪里来?EI的推出使华为成为科技界少有的能用AI技术对2B市场使能的科技公司,但华为的人工智能到底能做什么,和阿里、百度的对外赋能有什么区别?在上周的一次采访中,两位从诺亚方舟调入EI团队的技术带头人,向微天下揭开了华为AI的部分“神秘面纱”。由于立足内部应用,华为投入AI研发的初衷与互联网巨头有很大不同。它不是纯粹的探讨技术“无人区”,而首先是解决内部实际问题,与实业紧密结合,这使得华为切入AI的时间线非常早,涉及AI业务的团队非常多,从事AI研发的人力也非常多,他们分头为各个业务部门服务,比如手机、芯片、媒体、操作系统等等,但应用最多的却是任正非提到的两大条线:解决华为内部运作的自动化问题和华为的业务服务问题,比如,华为供应链的智能装箱、物流和路径规划,以及报关、发票、风控、营销、网络安全等场景。结果就是不经意间,华为有了企业中最多的AI使用场景,如任正非所说,“世界上还有哪个公司有这么大的业务量和数据量与我们比拼?”这就决定了,在华为EI所推出的三类企业智能云服务中,其中通用服务领域并不是华为的最长项,在对外赋能时,华为态度开放,与伙伴合作借助外力发挥各自优势,比如科大讯飞的语音、码隆科技的图片等。华为EI的长项是基础平台服务和行业场景服务,有世界领先的AI能力。BAT更多聚焦消费互联网AI应用,而随着Cloud2.0 时代到来,华为云EI 更多聚焦产业互联网领域的应用,以此支撑华为云产业互联网领导者品牌。比如华为云端到端的智能APIs服务。华为公司每年有180万以上的订单,大概会形成30万~50万规模的物流单,怎么实现从始发点货物的供货预估——货物的装箱管理——运输到目的区域的分发——最后一公里的客户配送,这就需要有一系列智能化的技术支撑。基于仓储的优化,这对于大型企业是比较重要的。现在仓储都分为几级,华为公司在海外布局了大概5个的集散中心,全球发货到集散中心之后,如何把货物进行比较好的布放以及取货顺序的安排,这个就需要有人工智能的算法在里面。集装箱装箱,要考虑类似于如何在一个最小的空间里面最大利用这些空间等问题。装箱也有一些规则,比如说形状、重量、是否怕压,这些都有一系列的算法去解决。在华为公司的全球仓储管理方面,通过应用华为云EI服务能提升20%的分拣装箱效率,应用EI实现智能装箱,根据物品特征提供最佳装箱方案,而且做到集装箱3D仿真可视,整体利用率提升6%,物流使用EI做路径规划可节省例外开销成本30%。OCR识别(Optical Character Recognition,光学字符识别),比如说企业的票据、发票、文本,怎么通过自动化的方法录入,包括一些纸质单据的传递,其实它也需要利用一些人工智能技术。原来的方法可能做得不太准,最近有了深度学习和其它的人工智能技术之后,识别率大大提高了。以前,华为供应链需要大量人员手工录入海关报关单据,手工录入系统效率低,使用华为云OCR服务以后,华为已经实现海关报关单据自动化 ,录入效率提升10倍,减少200+海关报关专职人员,并对报关信息进行大数据分析,完成分析预测,节省千万美金报关风控成本。华为云OCR服务,在比如数字及表格识别的有些场景准确率超过98%,这个准确率在商用领域是极高的,可以帮助企业可以大大节省人力,将人从枯燥的重复工作中解脱出来。还有风控等......华为具有庞大的体量,在实际内部运作中必须要解决这些问题,而华为又有足够的投入和足够的技术实力,再加上丰富的使用场景,终于形成华为有别于BAT的人工智能使能路线。还有一些重要场景发生在华为的产品服务过程中。比如,解决华为全球巨大的网络存量的网络维护、故障诊断与处理的能力的提升;使网络规划与优化从被动走向主动等;就像任正非所说,华为给全球30亿人口提供通信服务,提供设备的网络存量约一万亿美元,这些网络每年故障发生上百万次,在这一过程中,人工智能被用来帮助预测和预防故障。这些能力,都通过华为云EI企业智能服务向外界输出。由于这些AI能力是形成与华为自身的制作业实践中,这使得华为的AI使能具备双重属性,一重是赋能AI,另外一重则是利用AI技术使能工业4.0和智能制造。在华为云EI企业智能服务的对象中,还有一个特殊群体,那就是政务部门,比如深圳交警就在9月与华为联合启动“深圳城市交通大脑项目”,使用华为云EI企业智能来推进智能交通,在11月的2017世界智慧城市博览会上,该项目从全球300多个城市中脱颖而出,荣获2017世界智慧城市博览会唯一一个平安城市大奖。据悉,深圳城市交通使用了华为云EI视频识别和强化学习功能,将在深圳实现交通信号灯根据路况自动化调节。不惧泡沫破灭的务实化AI发展路线华为云EI企业智能服务的推出有鲜明的华为特色和任正非特色,体现出华为对AI的务实态度,综合起来就是这样一些原则:人工智能不能遍地跑;华为云坚持“不做应用、不碰数据、不做股权投资”;人工智能会不断推动人类进步。重复工作自动化,模糊判别智能化,是华为努力的方向。这些原则之下,就是华为人工智能的聚焦投入:要急用先行小步快跑,要聚焦在确定性业务、人工消耗大的项目,“不要铺开一个很广泛的战线。不要遍地都是智能化,这会形成全面开花没有结果的盲动,就有可能满盘皆输”;“先纵向打好歼灭战,旗开得胜后再横向扩张”。在这个战略的基础上,任正非才提出,即便未来AI泡沫破灭,也能实现华为AI大发展的策略。据悉,目前已经有不少企业客户对华为云EI服务非常感兴趣,例如:制造业、车联网、节能、城市交通、医药零售等行业场景,均有项目在运作中。医药零售行业巨头九州通正在应用华为云EI改善物流路线规划等业务,一步步朝着智能的九州通迈进;深圳城市交通正在使用华为云EI实现城市信号灯自动调节,城市交通将更智能……凭借多年来在企业级IT市场的行业经验积累,以及强大的AI技术实力,开放华为自身应用AI的经验和能力,华为更有可能在用AI使能企业的赛道上走的更远,华为云EI将作为一项核心使能服务驱动企业、行业迈向智能世界。
-
非交互式运行pyflink作业1. 根据产品手册安装flink客户端2. 检查客户端节点python版本(the version printed here must be 3.5, 3.6 or 3.7):python --versionPython 3.7.03. 在客户端端中创建opt文件夹(/opt/client/Flink/flink/opt)4. 从flink服务端中获取flink-python_2.11-1.10.0.jar包(/opt/huawei/Bigdata/FusionInsight_Flink_8.0.2/install/FusionInsight-Flink-1.10.0/flink/opt),将该包放入客户端opt目录中5. 使用yarn-cluster方式运行pyflink作业flink run -m yarn-cluster -yt ssl -py ./../examples/python/table/batch/word_count.py6. 使用yarn-session方式运行pyflink作业yarn-session.sh -t ssl –dflink run -yid application_1599102571374_0007 -py ./../examples/python/table/batch/word_count.py二、交互式运行pyflink作业1. 根据产品手册安装flink客户端2. 检查客户端节点python版本(the version printed here must be 3.5, 3.6 or 3.7):python --versionPython 3.7.03. 在客户端端中创建opt文件夹(/opt/client/Flink/flink/opt)4. 从flink服务端中获取flink-python_2.11-1.10.0.jar包(/opt/huawei/Bigdata/FusionInsight_Flink_8.0.2/install/FusionInsight-Flink-1.10.0/flink/opt),将该包放入客户端opt目录中 5. 本地模式运行pyflink-shell.shpyflink-shell.sh local>>> import tempfileimport osimport shutilsink_path = tempfile.gettempdir() + '/streaming.csv'if os.path.exists(sink_path): if os.path.isfile(sink_path): os.remove(sink_path) else: shutil.rmtree(sink_path)s_env.set_parallelism(1)t = st_env.from_elements([(1, 'hi', 'hello'), (2, 'hi', 'hello')], ['a', 'b', 'c'])st_env.connect(FileSystem().path(sink_path)) \ .with_format(OldCsv() .field_delimiter(',') .field("a", DataTypes.BIGINT()) .field("b", DataTypes.STRING()) .field("c", DataTypes.STRING())) \ .with_schema(Schema() .field("a", DataTypes.BIGINT()) .field("b", DataTypes.STRING()) .field("c", DataTypes.STRING())) \ .register_table_sink("stream_sink") t.select("a + 1, b, c").insert_into("stream_sink") 6. On Yarn运行pyflink-shell.sh1) 修改flink-conf.yaml中的配置项security.ssl.enabled: false2) pyflink-shell.sh yarn>>> import tempfileimport osimport shutilsink_path = tempfile.gettempdir() + '/streaming.csv'if os.path.exists(sink_path): if os.path.isfile(sink_path): os.remove(sink_path) else: shutil.rmtree(sink_path)s_env.set_parallelism(1)t = st_env.from_elements([(1, 'hi', 'hello'), (2, 'hi', 'hello')], ['a', 'b', 'c'])st_env.connect(FileSystem().path(sink_path)) \ .with_format(OldCsv() .field_delimiter(',') .field("a", DataTypes.BIGINT()) .field("b", DataTypes.STRING()) .field("c", DataTypes.STRING())) \ .with_schema(Schema() .field("a", DataTypes.BIGINT()) .field("b", DataTypes.STRING()) .field("c", DataTypes.STRING())) \ .register_table_sink("stream_sink") t.select("a + 1, b, c").insert_into("stream_sink")
-
数据反映了真实世界的状况,没有高质量的数据,最好的算法也无济于事。创建一个更好的数据集对AI开发有至关重要的意义,但是一个高质量的数据集需要开发者投入巨大的时间与精力。还在为散乱无章的数据发愁吗?还在为训练没有更多数据发愁吗?还在为处理数据投入大量时间发愁吗?ModelArts数据预处理功能集成了大量数据处理算法,为您提供一个更好的数据集。初识ModelArts数据预处理当数据采集和接入之后,数据一般是不能直接满足训练要求的。ModelArts平台提供的数据预处理功能帮助您从海量的数据中抽取或者生成有价值、有意义的数据,为您后续的数据标注、模型训练保驾护航。ModelArts为您提供以下四种类型的数据预处理: 数据清洗数据清洗是指对数据进行去燥、纠错或补全的过程。数据清洗是在数据校验的基础上,对数据进行一致性检查,处理一些无效值。例如在深度学习领域,可以根据用户输入的正样本和负样本,对数据进行清洗,保留用户想要的类别,去除用户不想要的类别。图中,花朵数据集经过数据清理后去除了样本中非花朵的图片。数据选择数据选择一般是指从全量数据中选择数据子集的过程,可以通过相似度或者深度学习算法进行选择。数据选择可以避免人工采集图片过程中引入的重复图片、相似图片等问题;在一批输入旧模型的推理数据中,通过内置规则的数据选择可以进一步提升旧模型精度。图中,花朵数据集经过数据选择后去除了相似和重复图片。数据校验数据校验是指对数据可用性的基本判断和验证的过程。ModelArts支持对图片和标注进行可用性校验:♦图片类数据校验异常情况处理方案图片本身损坏无法解码过滤掉不能解码的图片图片通道可能是1通道、2通道,不是常用的3通道转换图片成RGB三通道 图片格式不在ModelArts支持的格式范围内转换图片格式至jpg格式图片后缀与实际格式不符,但格式在MA支持的格式内后缀转换成与实际格式一致图片后缀与实际格式不符,且格式不在MA支持的格式内转换图片格式至jpg格式图片分辨率过大宽、高按指定大小同比例进行裁剪♦标注类文件数据校验异常情况处理方案xml结构残缺,无法解析过滤xml文件xml中没有标注“object”过滤xml文件xml中没有矩形框“bndbox”过滤xml文件某些标注“object”中没有矩形框“bndbox”过滤标注“object”图片经过裁剪后,xml文件中宽高不符修改错误宽高参数为图片真实宽高xml中没有“width”、“height”字段根据图片真实宽高补全xml中的“width”、“height”字段和值图片经过裁剪后,xml中矩形框“bndbox”大小不符按图片裁剪比例缩放xml文件中“bnxbox”值xml中矩形框“bndbox”宽或高值过小,显示为一条线矩形框宽或高差值小于2,移除当前“object”xml中矩形框“bndbox”最小值大于最大值移除当前“object”矩形框“bndbox”超出图片边界,且超出部分占框面积50%以上移除当前“object”矩形框“bndbox”超出图片边界,但超出部分小于框面积50%矩形框“bndbox”拉回到图片边界 数据增强数据增强用于训练数据集不足或需要仿真的场景。他通过数据扩增、数据生成方式对已有的数据集完成指定的变换操作,实现增加数据量的目的。ModelArts提供以下算子扩增您的数据集:算子算子说明Rotate旋转Blur模糊化处理LightArithmetic亮度增强Saturation色度饱和度增强Grayscale图片灰度化LightContrast亮度对比度增强HistogramEqual直方图均衡化Sharpen图像锐化Flip翻转MotionBlur运动模糊Resize调整图片大小Padding图片填充,在边缘添加黑色的边Crop图片裁剪,随机裁剪图片的一部分作为新的图片Weather添加天气,模拟天气效果CutOut随机擦除,用于模拟物体被障碍物遮挡Translate图片平移Scale图片缩放Shear图片错切AddNoise添加噪声 图形化界面实现数据预处理ModelArts为用户提供简单的图形化界面,您只需要动动鼠标,就能完成指定的数据预处理任务。上传您的数据集至OBS。OBS是MordelArts存储数据的仓库。上传点这里。创建数据预处理任务,您需要填写下图中的参数,详细介绍点这里。等待几分钟后任务完成,您可以查看日志和结果展示。更多ModelArts数据预处理介绍数据预处理简介数据增强:使用数据增强,解决数据不足和数据集不均衡的情况数据校验:给你的数据做个体检吧数据选择:使用数据选择,去除重复数据数据清洗:数据清洗去除您的数据集中无关类别
-
欢迎大家参与本期读书会,在这里你将收获到新的知识与技能!本期书籍为MindSpore,每周5篇文章更新(晚上20点)活动规则在本帖下方回复“读书”即可参与本次活动需要参与者将读书笔记发帖至EI企业智能->技术分享(如红箭头所示) 参与者至少有一篇读书笔记或总结对于笔记优质者有机会获得奖品(共评选出六名优质获奖者)获奖者将获得书包、书籍、颈枕(该奖励全送)活动奖励ModelArts开发指南,价值69元华为云定制书包,价值225元颈枕,价值30元 文章阅读(每周5篇文章更新)《人工智能的历史变迁》《什么是深度学习》《深度学习的现实应用》《MindSpore简介》《MindSpore简介(二)》《深度学习基础知识——回归问题算法》《深度学习基础知识--梯度下降算法》《深度学习基础知识--分类问题算法》《深度学习基础知识--过拟合与欠拟合》《深度神经网络--前向网络》《深度神经网络--反向传播》活动即日起截止至2020年12月31日24时前,活动解释权由华为云所属!
-
华为云EI企业智能:世界500强“打工”记华为 金波、罗华霖近年来,AI(人工智能)已经成为最炙手可热的话题之一。几乎所有企业已经或者打算涉足AI领域,期望利用AI技术提升效率,降低成本,但企业AI应用却多少有一点“犹抱琵琶”的感觉。很多场景下,企业的业务和AI技术间就像隔了一座山,企业生产系统既有的生产流程、管理流程、以及各业务系统的SLA(Service Level Agreement,服务等级协议)约束等,导致了企业AI应用上线缓慢。事实上,华为在人工智能领域早有投入和积累,2011年专门成立诺亚方舟实验室投入AI技术基础研究,并将AI技术应用于自身实际业务。作为全球领先的高科技制造企业,华为将AI的价值定位于解决企业实际问题,与企业生产紧密结合,致力于实现生产自动化、效率提升,已在多个领域均取得较为成功的实践结果,同时在终端业务、电商等互联网领域也有成功的AI实践。2017年9月,华为云发布了EI(Enterprise Intelligence)企业智能平台,包括基础平台服务、通用服务和行业场景解决方案三类服务,将华为在人工智能领域的技术积累以云服务的方式开放出来,让更多企业能便捷、快速地使用人工智能,让企业更智能。基于此,我们尝试把华为自身应用AI的实践分享出来,或许对广大企业客户有借鉴意义。一、华为供应采购系统应用AI节约成本华为作为全球领先的ICT供应商,其供应链部门每年的出货量巨大。基于AI技术,华为实现了内部供应链流程优化,打通从供货预测到物流、仓储到报关、运输、签收等各个环节。场景一:基于AI的运输路径规划降低例外开销成本当前供应链LSP单车提货每增加一个提货点,就多增加一次例外费用,导致多点提货费用高。根据发货单据,人工的方式拆分给承运商,进行发货,每年的例外费用高达千万元。通过提货规划,减少例外费用,提升发货效率,提升SLA。以天为单位,合理分配租赁车辆并对提货路线进行优化,利用中转仓(milkrun)尽可能提高车辆满载率、减少出行次数,减少提货的例外费用。节省例外费用超过30% ,108个发货平台路径优化时间小于1分钟。场景二:基于OCR文字识别技术提升海关单据录入效率在华为,全球每年有上百万份销售订单,需要处理单据上百万份。以往的单据处理方式还停留在通过人工方式将单据内容手动录入到系统中。众所周知,人工作业不仅效率低下,而且还存在员工疏忽或者疲劳导致的误操作。如何快速、准确的处理如此数量庞大的单据成为了一大诉求。借助于OCR文字识别技术,华为实现对单据内容的自动化高精度采集(数值类识别准确率达97.37%),大幅提高单据录入效率;通过对数据资产的大数据分析,可有效降低运营成本,提升业务效率;通过对海关单据的估价分析,可控制每年千万美金级的风险敞口,业务流程自动化比例提升50%。华为在供应采购环节应用AI的实践,推广到其他外部企业也取得了成功应用,如:物流运输路径优化在医疗、传统物流等外部企业行业得到成功应用;以云服务的方式将OCR文字识别技术对外开放,成功支撑报销吧、九州通等企业实现效率提升。华为全球的生产和交付应用AI提升效率作为全球知名的电信厂商,华为服务全球100多个国家的电信运营商,每年负责上百万站点的设计、生产、交付。华为的GTS(全球技术服务)部门承担着大量的基站项目交付和支撑管理工作,其中面临的挑战可想而知。 华为是如何应用AI技术实现GTS的业务支撑,提升站点交付质量与效率呢?场景一:AI助力“基站设计”实现效率提升每年华为新建和改造的基站数量达百万个,并且基站的业务场景繁多。其中,基站设计工作涉及到多个业务环节,需要依赖众多的输入数据源和复杂的设备内连接,设计过程中需要经验丰富的高级专家参与,同时也存在大量重复的工作。华为结合在AI技术的研究成果,基于数十年积累的基站设计经验,将基站设计从劳动密集型转变为智能化、云化的工作模式,大幅提升工作效率。华为设计了六类业务场景算法,分别是:主设备新建场景方案推荐、主设备扩容改造场景方案推荐、天馈设备新建场景设计、主设备现网规则学习、主设备方案概率图谱和推荐度学习、主设备演进路径计算算法。这六类业务场景涉及AI机器学习中的分类、频繁项挖掘、推荐排序、图计算、知识图谱等算法领域。在实际的应用中,基于AI技术的基站智能化设计,设计精度达70%,设计效率提升了33%,缩短了设计周期,有效保障了项目整体进度。场景二:图像处理助力“基站交付质量审核”,实现高效验收质量审核在基站项目交付中是非常重要的一环。由于分包商水平参差不齐,为保证质量,从前华为需要投入大量的人力对项目交付进行监管和审核。华为GTS每年有2400万+质量检查条目、4500万+图片和数据,庞大的业务数据需要大量人力审核。人工审核的问题,一是耗费大量人力成本,二是存在延迟,导致重复上站,影响作业工序正常进行,增加项目成本。智能审核通过深度学习的图像分类、物体检测、物体分割等技术,识别出审核要素,对作业图像做出标检查,判断作业是否合乎标准,由机器审核来代替人工审核。机器优势在于快速、24小时全天候,可以显著提升审核效率,减少延迟。在泰国和印尼的无线硬装项目的应用中,单站点质检效率提升近10倍,报告生成周期缩减至原来的1/3,验收成本降低40%。三、华为终端应用AI提升用户体验华为的业务除了运营商、企业业务以外,还包括终端业务。目前,华为已成为全球第三大手机厂商, 2017年手机出货量达1.53亿部。华为终端业务涉及移动互联网、电商等领域业务,AI技术的应用让推荐更精准,用户体验更顺利。场景一:AI在线推荐让应用推荐更精准华为终端应用市场注册用户接近3亿,日平均分发量超过亿,峰值超过2亿。应用市场有超过10种推荐场景需要个性化的推荐算法,涉及APP、游戏、广告、新闻等推荐场景,精准、高效、稳定的个性化推荐服务是应用市场的关键技术能力。华为研发的实时在线推荐技术,实现先进的并行、增量、实时推荐算法及实时流系统。支持百亿维度特征,个性化推荐服务,推荐引擎水平扩展,基于行业领域实践模板定制,支持新推荐业务快速接入(3月缩短到3周),支持分钟级模型更新及秒级特征更新。目前,已经覆盖40%的业务流量,提升APP下载转化率20%左右。同时,在游戏、广告、新闻等场景推荐也取得了良好的应用效果。华为AI在线推荐在终端的应用,除了云端推荐外,在手机端也有成功应用,如:EMUI智能助手,可以为您推荐各种适合您的应用和内容服务,向您提供丰富的服务入口(支付、美食、酒店、景点、银行、电影、出行等10个服务领域),以及千人千面的内容服务(新闻/音乐/视频卡片),让您的手机更懂你。场景二:风控引擎保障网上商城安全交易华为商城(Vmall)每天面临数千万次的攻击,这还仅仅是日常的被攻击量,如果发布新手机,以Mate10系列手机为例,Vmall被攻击量会扩大至平时的2-3倍。这个攻击含了账号攻击、交易攻击,整个攻击的规则无法确定。华为商城通过使用AI的智能风控,实现风控规则由开发人员自己定义。所有的规则可以支持使用标准SQL(比如SQL99)存储过程定义,让所有的开发人员可以“零”学习成本上手开发规则,而且支持动态写规则。新的规则一秒钟之内生效,这在以前是不可想象的。同时,任何一个真实欺诈交易行为的检测,后台要数千条(至少一千条)规则运行。需要关联历史一个月时间窗口的数据进行运算,那么大的运算,目前全球没有哪一个平台能够实现在50毫秒内运行完,但是华为应用AI智能风控实现了,将风控做到了事中。在金融领域,交易的过程中嵌入一个50毫秒响应的检测过程,能够实时判别这个交易,如果有欺诈,就停止交易,或者给予预警,这样能够有效预防信用卡各盗刷等支付风险出现。除了上述几大业务场景的应用之外,在内部流程IT客服系统,智能问答系统大大的节省人力成本,实现机器自动闭环率达65%。基于机器学习的精准营销、用户挽留等应用在传统运营商领域已得到广泛应用。结束语华为总裁任正非曾在讲话中指出,人工智能的发展是为了使用。他指出,人工智能的研究在华为分三部分:研究基础理论、做产品、做使能器来改造公司的流程管理。华为云EI企业智能就是将华为多年来在人工智能、云计算等领域的技术积累和经验,将世界500强高科技公司的成功实践,通过云服务的方式开放出来给政企客户使用,让企业更智能,共同迈向万物互联的智能世界。
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第三期2026/08/21 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;念擎-华为云AI开发者运营案例开发专家
本期直播内容:AI六层能力首次详细解读 + 新一代华为云开发者空间亮相 + 校园案例直播带练
即将直播
热门标签