-
modelarts在华为云里的项目开发demo都有哪些,想学习一下
-
华为云的图像识别规模是多大?
-
昇腾开发者套件多少钱
-
昇腾社区主要是在ai的什么领域 边缘计算么?
-
XLNet是一个类似BERT的模型,是一种通用的自回归预训练方法。先来看两个概念:一个概念是自回归语言模型(Autoregressive Language Model),就是根据上文内容来预测下一个可能出现的单词,或者是反过来用下文内容来预测前文单词,ELMo和GPT都是典型的自回归语言模型;另一个概念是自编码语言模型(Autoencoder Language Model),基于自编码器的语言模型的基本思想就是在输入序列中随机屏蔽(Mask)一些单词,然后在预训练时预测这些被Mask的单词,从自编码器的角度来看,被Mask的这些单词可以视为向输入添加的噪声,BERT就是这种自编码语言模型的代表。自编码语言模型和自回归语言模型正好相反。自编码语言模型能够较好地融入双向模型,但输入端使用Mask使得预训练阶段和微调阶段会存在不一致的情况,因为在微调阶段被Mask的单词是没有标记的,BERT就存在这样的缺点。为了解决BERT的这个问题,XLNet应运而生。相较于BERT的自编码语言模型,XLNet又用回了自回归语言模型,但与ELMo和GPT不一样的是XLNet采用一种新的方法来实现双向编码,这种方法叫作乱序语言模型(Permutation Language Model)。为了捕捉更长距离的信息,XLNet采用了超长版本的Transformer特征提取器Transformer-XL。一系列改进的结果就是XLNet在20个NLP任务上都以较大优势超越了此前的BERT,并且在18个任务上达到了State of the Art。最后说一点,基于深度学习的NLP目前正是一个变革巨大发展迅速的领域,所以很多动态还需要去进一步地学习。
-
有了前面的积累,大名鼎鼎的BERT(Bidirectional Encoder Representations from Transformers)其实也就是水到渠成的事了。当初BERT横空出世,刷爆各种NLP记录榜,让人以为BERT会有什么里程碑式的结构创新。其实不然,正是有了ELMo、GPT和Transformer等研究工作的积累,才成就了今天的BERT。与ELMo和GPT—样,BERT仍然是基于微调的预训练方法。BERT可以理解为基于Transformer的双向编码器表征,顾名思义,BERT的两大关踺点就是:双向结构和Transformer特征提取器。BERT本质上就是双向的GPT,若是当初GPT把单向语言模型改成双向语言模型,估计后来也就没BERT什么事了。所以,这里可以把BERT理解为一种以往研究的集成。 至此我们基本上梳理清楚了ELMo、Transformer、GPT和BERT之间的关系。虽说BERT没有太大创新,只是做了一些集成工作,但它的实际效果很好,经面世就在各种NLP任务上刷出了State of the Art,所以BERT依然是一项具有里程碑意义的工作。不过,名声太盛,就很容易名不副实...
-
一个研一的童靴反馈目前将机器学习的基础知识部分以及学习了不少,目前深入学习包括了《PRML》、《统计学习方法》、《矩阵论》、《最优化方法》、吴恩达《机器学习》视频、部分《凸优化》、《数字图像处理》; 针对还没有任何机器学习方面的实践经验,不知道接下来该如何进阶到更高的层次,求各位大神分享经验!欢迎各位回帖交流哦~
-
我们的生活无处不在改变,人工智能让AI博弈使游戏更好玩,AI的语音和图像识别技术提高了办公自动化程度。大数据的搜索引擎技术,自动推荐技术,这些技术让互联网更懂人们的需求,云计算让程序员和小公司免于搭建复杂计算机所需的资金和时间的困扰......【话题互动】人工智能、大数据、云计算技术的发展有哪些真实改变了我们的生活?感兴趣的小伙伴可以回帖讨论交流一下哦~
-
不过chatGPT可不低调,那是相当的高调。GPT模型很好地弥补了ELMo留下的遗憾。GPT(Generative PreGTraining)意为生成式预训练模型。NLP的预训练方法分为基于特征的预训练和基于微调的预训练,GPT就是一种基于微调的预训练方法。GPT本质上与ELMo类似,但有两点区别:一是弥补了ELMo的遗憾,采用Transformer取代LSTM作为特征提取器;二是相对于ELMo的双向模型,GPT采的是单向语言模型。单向,是指相对于双向的预测目标词同时使用上下文信息来说,只使用ContextG before上文信息来做预测,而不使ContextG after下文信息。当然,单向模型相较于双向模型还是有一定的信息损失的,这也是GPT的一个缺点。使用了Transformer结构的GPT模型效果也非常好,在基础的12个NLP任务里有9个达到了State of the Art。要说GPT有什么美中不足,那大概就是单向语言模型了。即使是后来的GPTG2,也只能算是放大版的GPT,仍然没有对单向语言模型进行修改。其实吧,这个不算什么美中不足,因为自然规律就是这样,总是先来后到,先上小学再上中学,先有《红楼梦》前80回,再有后40回。从来没有后40回摆在你面前,让你读完了去补前80回的... 你要反向的,可能也仅仅在学术上有点意义吧?
-
一个好的NLP预训练模型,除要有能够适应各种场景的词嵌入表达之外,更需要一个特征提取能力强大的网络结构。ELMo采了双向双层的LSTM结构,但事后证明RNN和LSTM的特征提取能力还远远不够强大。GPT和BERT等超强的预训练模型大多都用到了一种叫作Transformer的网络结构。实际上在介绍注意力机制时就能接触到了。Transformer在著名的Attention is all your need论文中正式提出,也正是在这篇论文里我们了解了注意力机制这样一种设计。传统的RNN或LSTM的顺序计算机制存在以下两个比较严重的问题。 (1)时间步t依赖于时间步t-1时刻的计算结果,这也是RNN并行能力较差的原因。 (2)顺序计算过程中会存在信息丢失现象。为此,Transformer抛弃了传统的CNN和RNN结构,本质上是一种完全由注意力(Attention)构成的网络。Transformer从结构上看依然是编码G解码架构,由自注意力(SelfGAttention)、编码G解码注意力(EncoderGDecoder Attention)和前馈神经网络(Feed Forward Neural Network)构成。一个完整的Transformer结构也是一个典型的编码G解码结构。Transformer目前已经成功取代RNN和LSTM成为NLP预训练模型主流特征提取器,若是ELMo能将双向双层的LSTM结构换成Transformer,想来当时可能就会是另一种反响了。
-
前言近年来,随着科技的发展,智能语音识别技术被广泛应用于人机交互领域。智能语音识别技术的出现让人们可以通过口头语言与计算机进行交互,极大地方便了人们的生活。借助Modelarts平台快速构建声音分类模型并部署上线,能够轻松实现智能声音识别。声音识别具有专属、方便、安全的优势。声音识别就是把acoustical signal转换成ELECTRICAL SIGNAL ,再用计算机进行识别。不同的任务和应用会使用不同的声音识别技术,如缩小刑侦范围时可能需要辨认技术,而银行交易时则需要确认技术。是生物识别技术的一种。本篇文章将介绍一种基于智能声音识别的实践设计,该设计利用基于华为云的智能声音识别技术,旨在提供一种新的人机交互方式,为人们的生活带来更加便捷的体验。设计背景采矿业、修建隧道时,及其容易发生塌方等意外,容易造成人员以及财产的损失,而实际上,在塌方出现前,地面会发出异常的震动声波。本文旨在以智能声音识别为主要技术,依托Modelarts 和OBS等技术设计一个声音探测预警装置。采矿业、修建隧道时,及其容易发生塌方等意外,容易造成人员以及财产的损失,而实际上,在塌方出现前,地面会发出异常的震动声波。本文旨在以智能声音识别为主要技术,依托Modelarts 和OBS等技术设计一个智能声音探测预警装置。实践设计原理智能声音识别的实践设计基于acoustical signal processing和machine learning technique。主要的步骤包括:音频采集和预处理、特征提取、模型训练和声音识别。1.音频采集和预处理:通过麦克风等设备采集用户的acoustical signal,并对acoustical signal进行预处理,包括降噪、滤波等操作,以提高acoustical signal的质量和可靠性。2.特征提取:将预处理后的acoustical signal转化为数字表示,即提取出语音的特征。常用的特征包括梅尔频谱系数(MFCC)、线性预测编码(LPC)等。3.模型训练:使用机器学习算法,如深度神经网络(DNN)、隐马尔科夫模型(HMM)等,对提取到的语音特征进行训练,建立声学模型。4.声音识别:将待识别的acoustical signal转化为特征表示,然后利用训练好的声学模型进行识别,得到最终的文本结果。应用技术及其优势智能声音识别主要用到的技术是Modelarts和OBS。其中Modelarts具有AI共享、快速有效管理、训练加速、自动学习的优势。其中的AI共享是指AI市场基于ModelArts构建的开发者生态社区所提供AI模型共享功能。为高校科研机构、AI应用开发商、解决方案集成商、企业及个人开发者等提供安全、开放的共享及交易环境,有效连接AI开发生态链各参与方。而OBS则时负责存储音频数据集和模型数据。主要功能实现1.声音检测可以通过对设备传来的声音进行分析,及时判断是否存在故障,并提前做出预警,防止设备出现重大故障或意外事故,保障矿山的生产安全或隧道建设人员的安全。2.声音检测可以对洞内环境中的噪音、震动等情况进行监测,帮助矿山管理部门及时发现并解决存在的环境问题以及预防意外,为人员的撤离提供充足的时间3.声音检测可以通过对设备运转时的声音进行分析,评估设备的能耗状况,帮助矿山管理部门或隧道的挖凿制定节能措施和优化设备运行策略,降低成本。此外,声音检测可以配合其他监测技术,进行对设备状态的全面监测,帮助相关管理部门了解设备的运行状态和健康状况,科学制定设备维护和保养计划。设计实现步骤1.资源准备:获取访问密钥(个人中心,管理我的凭证);2.准备数据:下载音频格式->转换音频格式->确认音频格式。具体步骤如下:将收集好的相关音频数据上传至平台,下载音频转换工具,转换音频文件格式为wav。3.创建项目:Modelarts 自动学习,选择声音自动学习项目。计费模式:按需计费。名称:sound-signal-of-mountain。数据集来源:新建数据集,数据集名称:sound-signal。数据集输入位置:/soundsignal/train/数据集输出位置:/soundsignal/out/(创建一个新的桶,并创建两个命名为train和out 的文件夹)。4.数据标注:在“自动学习”页面,单击项目名称,进入自动学习“数据标注”页面。声音分类项目创建时,音频来源有两种,选择本地添加。注意事项: 仅支持WAV格式音频文件,单个音频文件不能超过4MB,且单次上传的音频文件总大小不能超过8MB。 用于训练的音频,至少有2种以上的分类,每种分类的音频数不少于5个。5.自动训练:完成音频标注后,可进行模型的训练。由于用于训练的音频,至少有2种以上的分类,每种分类的音频数不少于5个。因此在发布训练之前,请确保已标注的音频符合要求,否则下方“开始训练”按钮会处于灰色状态。6.部署上线:部署上线操作即将模型部署为在线服务,并且提供在线的测试UI与监控能力。完成模型训练后,可选择准确率理想且训练状态为“运行成功”的版本部署上线。当“部署上线”页签版本管理区域的状态由“部署中”变更为“运行中”,部署完成。7.服务测试: 服务测试方式分为两种:在线页面测试:可以在“部署上线”页面,单击目标服务“操作”列的“预测”,进行服务测试。代码测试:可以通过调用代码对服务进行测试。代码测试方式有postman、curl命令等。8.相关资源的释放。9.设计相关电路,组装器件,编辑代码以实现预测报警等功能。总结这款基于华为云智能声音识别的智能声音探测预警装置是一种应用于采矿业、隧道开凿等地下工作场所的安全隐患解决方案。该设计利用到的技术有Modelarts 和OBS,利用了Modelarts 的AI共享和自动学习等优势。
-
对于多义词问题,语言模型嵌入(Embedding from Language Models,ELMo)提出了一个较好的解决方案。词嵌入的缺点在于静态表示。所谓静态表示,就是word2vec在训练完之后每个单词的词向量都固定了,在使时就比较受限于应用场景。ELMo的思想也很简单,词嵌入有静态表示的缺点,那ELMo就来根据实际应用的上下文来对训练好的词嵌入进行动态调整。具体来说,ELMo先学习一个单词的词向量表示,这时这个单词的词向量与原始的词嵌入是一样的,不具备区分多义词的能力。在实际使用时,需要根据应用场景的上下文语义来调整单词的词向量表示,经过调整后的词向量就具备区分多义词的能力了。ELMo采了双层双向的LSTM结构,由一个前向和一个后向语言模型构成,目标函数则取这两个方向语言模型的极大似然估计。ELMo训练好之后即可根据下游的NLP任务来进行调整。具体就是从预训练网络中提取对应单词的网络各层的词向量作为新特征补充到下游的NLP任务,因为ELMo是以单词特征的形式提供给下游NLP任务的,所以这一类预训练方法也称为基于特征的预训练模型(Feature-based Pre-Training)。
-
词嵌入除了是一种词汇表征方法之外,还是一种语言模型,更是一种标准的预训练过程。很长一段时间以来,词嵌入对于许多下游的NLP任务都大有裨益,例如,计算语义相似度、社交关系挖掘与推荐、向量检索等。但词嵌入本身也有很多硬伤。最严重的一个问题是多义词问题。作为自然语言中一种最常见的现象,词嵌入很难处理好这个问题。一个多义词的词嵌入示例如图:上图是单词Bear的词嵌入展示,但Bear是一个多义词,作为名词是熊的意思,作为动词则是忍受的意思。词嵌入在对Bear进行语义表征时,很难区分这两种含义。即使这两种含义出现在不同的上下文语义中,但是用语言模型进行训练时,无论什么样的上下文经过word2vec处理,都只会预测为语义相同单词Bear,而同一个单词占据的是同一行参数空间,这就使得这两种不同的上下文信息都会编码到相同的词嵌入空间中去,所以词嵌入无法去处理多义词问题。
-
华为全联接大会2023于9月20日-22日在上海举办。在22日上午举行的大会主题演讲中,华为云全球生态部总裁康宁发表“合作同飞,共创新价值”主题演讲,分享了华为云生态最新进展和成果,并宣布华为云以昇腾AI云服务为算力底座,以盘古大模型联合创新为基础,以模型社区和全面升级的云学堂为双引擎,携手伙伴、开发者合作同飞,共建繁荣“百模千态”,让AI重塑千行万业。康宁表示:“华为云已经构建起全面的大模型生态。我们全面支持盘古以及各类开源模型和第三方商业模型,团结各类伙伴和开发者,以澎湃的昇腾AI算力和开放的盘古大模型为基础,让AI重塑千行万业。”目前,华为云全球开发者数量已超过500万,合作伙伴42000多家,云商店应用已达10000多个,超过21000家客户、伙伴申请盘古测试。合作同飞共建繁荣“百模千态”当前,人工智能已从万千碎片化的小模型时代走向“百模千态”的大模型时代。华为云基于昇腾AI云服务算力底座,已原生孵化和适配业界主流大模型,为开发者提供了完善的工具和资源,来支持大模型高效地迁移、保障模型训练的澎湃算力供应和环境的稳定可靠。高效迁移华为云支持华为全场景AI框架MindSpore以及社区流行的AI引擎,如PyTorch、TensorFlow的主力版本,并已完成AI框架90%的算子适配,支撑业界主流大模型及典型SOTA模型的无缝迁移。同时,提供便捷工具链和丰富的开发模板,帮助用户快速迁移模型。澎湃算力为更好地支撑大模型的“百模千态”创新,华为云在贵安、乌兰察布、芜湖打造了3大AI云算力中心。同时,华为云昇腾AI云服务“百模千态”专区已正式上线,企业和开发者可以直接使用业界主流的开源大模型,如LLAMA,GLM等。昇腾AI云服务的超大规模集群分布式并行训练能力,可以支持万亿级参数大模型。在模型推理阶段,华为云通过算子、框架、平台等全链路的垂直协同优化,让模型的推理性能普遍提升2倍以上。稳定可靠华为云构建的故障模式库,支持硬件故障主动上报,故障感知时间小于1分钟;通过在线复位本地调度能力,让模型训练任务恢复时间小于30分钟;升级的集群稳定性提供无感断点续训能力,让稳定训练的时间从2-3天提升至月级。一直以来,华为云致力于构建以开发者为核心的、开放共赢的生态体系。为了让开发者在大模型开发过程中充分发挥创新能力,华为云模型社区基于昇腾AI云服务的创新技术,将提供覆盖千行百业的高质量数据集、SOTA模型库优化版本、AI创作能力支持、丰富的开发套件、学习课程和技术支持等,为开发者提供一站式模型服务。华为云希望广大开发者基于华为的根技术,利用云上的澎湃算力和盘古大模型的强大能力,共同构建起“百模千态”的繁荣生态。此外,面向开发者,华为云学堂的教学练考体系也进行了全面智能升级,包括全新上线了针对大模型、云原生等20多个热门技术领域的优质课程,盘古大模型的技术认证内容;提供了4类学练一体的实验,如体验类、任务类、项目实训类、自主创新类,覆盖上百种实验类别、每月总计超过万次的免费在线实验名额。大模型的创新不仅仅是模型自身的创新以及AI各项根技术的创新,也需要各行业客户、伙伴的积极参与。为了降低开发门槛,加速和简化行业大模型的开发,华为云提供了盘古大模型工程化套件,覆盖了数据工程、模型开发和应用开发三大环节。基于盘古L0层模型,与华为云共同发布面向各行业的联创模型以及解决方案。如今,华为云与150多家伙伴、200多家客户,共同构筑了20多个行业大模型以及400多个AI应用场景,在诸多行业发挥着巨大价值。在媒体行业,华为云联合阳光云视打造的媒体大模型中间件,覆盖媒体行业全场景业务需求,加速AIGC在媒体行业的应用和落地。在法律行业,华为云与重庆法谷一同构筑普惠大众的法律大模型,在法律问答、律师办公等场景效果显著,释放AI在法律行业的价值。在文化行业,华为云与中国公共关系协会文化大数据专业委员会联创文化大模型,应用于国家文化大数据体系的建设。共创、共享、共赢释放AI创新活力华为云在全国拥有160多个赋能云创新中心,为千行万业提供全方位的基础设施、平台和应用服务,连接当地产业的需求和伙伴能力,为区域经济打造健康良性的产业生态。目前,创新中心已持续赋能2万多个客户数智升级,成功打造1000多个标杆案例,帮助客户培养了超20万数字人才。例如,华为云与松山湖管委会共建的“松山湖开发者村”,提供专家服务、服务平台、政策支持,基于行业典型业务场景打造10大首案工程,通过技术赋能行业数字化服务商,将行业经验数字化,从而实现全行业整体数字化智能化升级。华为云也在积极拥抱开源生态,融合优秀开源,为开发者提供10多种场景化的技术栈、百万元的沃土云创开源激励,开放的开发者使能体系和50多个商业化运营的开源镜像,鼓励更多开发者加入华为云开源生态。未来,华为云还持续加大对于开源的投入,也会和更多的合作伙伴携手推动开源事业的快速发展。也将积极参与CSDN开源平台GitHub的开源能力建设,贡献领先的开源技术和项目。华为云生态坚定践行“以客户为中心,以能力为核心,助力伙伴成功”的价值主张,持续完善生态体系和强化伙伴能力建设,今年华为云还推出了合作伙伴共拓计划PCE(Partner Customer Engagement)。越来越多的伙伴认可并加入华为云的伙伴生态体系,与华为云一起积极共建新能力,从技术、能力、战略等多个方面完成转型。德勤中国与华为云携手共建新生态,利用前沿云技术、创新商业模式、优秀人才支撑,帮助企业实现云上卓越能力,已为包括能源资源、制造、政府与公共事业、消费品、金融服务、生命科学与医疗等行业的诸多企业提供“规划-交付-运营” 端到端、定制化服务。上海恒驰作为华为云核心级解决方案提供商,面向GoCloud生态体系,主动转型成为首批通过华为云CTSP认证的服务伙伴,从组织、流程、平台变革,构建业务成功之基,加速能力构建,携手华为云,助力客户构建最佳业务转型架构,加速业务增长。作为华为云生态的核心载体,云商店联接着全球伙伴和用户,打通企业应用供需链路,目标是打造业界最佳的应用分发与B2B一站购平台,加速千行百业数智化跃升。目前,云商店每天产生超过1000笔的安全交易,服务了全球50万+的客户。以联营伙伴新核云为例,在云商店一站式运营和营销资源支持下,销售额提升了528%,客户量增长达到了280%。未来,华为云将积极构建以昇腾AI云服务为基础的坚实算力底座,繁荣智能世界的“百模千态”;积极培育盘古大模型生态,让每一个开发者都能充分释放创造潜能;持续进行新伙伴体系变革,与能力型伙伴共赢市场。华为云公众号
-
ModelArts 注册镜像功能建议加入自定标签功能,目前只有描述对镜像说明?
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第三期2026/08/21 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;念擎-华为云AI开发者运营案例开发专家
本期直播内容:AI六层能力首次详细解读 + 新一代华为云开发者空间亮相 + 校园案例直播带练
回顾中
热门标签