- Bert算法思路介绍 1 of N Encoding 简单的编码 Word Embedding 更复杂的embedding向量 Contextualized Word Embedding 问题一词多义同一个词（token），在不同句子中，有不同type每一个token都有一个embedding 解决方案contextualized word embedding 算法Embedding fr... Bert算法思路介绍 1 of N Encoding 简单的编码 Word Embedding 更复杂的embedding向量 Contextualized Word Embedding 问题一词多义同一个词（token），在不同句子中，有不同type每一个token都有一个embedding 解决方案contextualized word embedding 算法Embedding fr...
- Transformer介绍 摘要 原因 方法 结果验证几个翻译任务上，翻译效果很好8个GPU训练了3.5天总结 结论 介绍了Transformer第一个只使用注意力在encoder-decoder架构中，使用multi-head取代了recurrent layers 效果翻译任务上，训练的很好，而且快很多在WMT 2014 英德，WMT2014英法效果很好 展望可以用到更多数据上图片vid... Transformer介绍 摘要 原因 方法 结果验证几个翻译任务上，翻译效果很好8个GPU训练了3.5天总结 结论 介绍了Transformer第一个只使用注意力在encoder-decoder架构中，使用multi-head取代了recurrent layers 效果翻译任务上，训练的很好，而且快很多在WMT 2014 英德，WMT2014英法效果很好 展望可以用到更多数据上图片vid...
- 一、torch.argmax()（1）torch.argmax(input, dim=None, keepdim=False)返回指定维度最大值的序号；（2）dim给定的定义是：the demention to reduce.也就是把dim这个维度的，变成这个维度的最大值的index。 二、栗子# -*- coding: utf-8 -*-"""Created on Fri Jan 7 ... 一、torch.argmax()（1）torch.argmax(input, dim=None, keepdim=False)返回指定维度最大值的序号；（2）dim给定的定义是：the demention to reduce.也就是把dim这个维度的，变成这个维度的最大值的index。 二、栗子# -*- coding: utf-8 -*-"""Created on Fri Jan 7 ...
- 自然语言处理 — ALBERT[论文链接]本文末会提供一个基于Transformers(深度学习开源库)的简易ALBERT算法多选题任务推理Demo(暂不提供Fine Tuning代码)ALBERT: A LITE BERT FOR SELF-SUPERVISED LEARNING OF LANGUAGE REPRESENTATIONS在NLP模型预训练过程中, 提升模型规模往往可以提高模... 自然语言处理 — ALBERT[论文链接]本文末会提供一个基于Transformers(深度学习开源库)的简易ALBERT算法多选题任务推理Demo(暂不提供Fine Tuning代码)ALBERT: A LITE BERT FOR SELF-SUPERVISED LEARNING OF LANGUAGE REPRESENTATIONS在NLP模型预训练过程中, 提升模型规模往往可以提高模...
- Kaldi的nnet3网络结构。xconfig: 类似于keras，简洁的网络定义，xconfig覆盖了大部分常用的神经网络layerconfig: kaldi实际使用的config， 基于node定义网络结构，如果xconfig无法满足需求，可在config层实现。C++: 如果某些网络无法用config构建，或者想提高效率，则可以在C++层实现。(Kaldi本身的LSTM可以通过conf... Kaldi的nnet3网络结构。xconfig: 类似于keras，简洁的网络定义，xconfig覆盖了大部分常用的神经网络layerconfig: kaldi实际使用的config， 基于node定义网络结构，如果xconfig无法满足需求，可在config层实现。C++: 如果某些网络无法用config构建，或者想提高效率，则可以在C++层实现。(Kaldi本身的LSTM可以通过conf...
- GMM(Gaussian mixture model)，高斯混合模型，也可以简写成MOG.高斯模型就是用高斯概率密度函数(正态分布曲线)精确地量化事物，将一个事物分解为若干的基于高斯概率密度函数（正态分布曲线）形成的模型。GMM已经在数值逼近、语音识别、图像分类、图像去噪、图像重构、故障诊断、视频分析、邮件过滤、密度估计、目标识别与跟踪等领域取得了良好的效果。实际上，GMM的目的就是找到一个... GMM(Gaussian mixture model)，高斯混合模型，也可以简写成MOG.高斯模型就是用高斯概率密度函数(正态分布曲线)精确地量化事物，将一个事物分解为若干的基于高斯概率密度函数（正态分布曲线）形成的模型。GMM已经在数值逼近、语音识别、图像分类、图像去噪、图像重构、故障诊断、视频分析、邮件过滤、密度估计、目标识别与跟踪等领域取得了良好的效果。实际上，GMM的目的就是找到一个...
- 本博文主要结合实际例子讲述自然语言处理在词性标注和命名实体识别等方面的应用。 本博文主要结合实际例子讲述自然语言处理在词性标注和命名实体识别等方面的应用。
- 自然语言处理是人类语言的机器处理，旨在教授机器如何处理和理解人类的语言，从而在人与机器之间建立一个简单的沟通渠道。自然语言处理有三种广泛的应用，它们是语音识别、自然语言理解和自然语言生成。 自然语言处理是人类语言的机器处理，旨在教授机器如何处理和理解人类的语言，从而在人与机器之间建立一个简单的沟通渠道。自然语言处理有三种广泛的应用，它们是语音识别、自然语言理解和自然语言生成。
- 自然语言处理 — BERT AbstractBERT 全称为 Bidirectional Encoder Representations from Transformers. BERT 旨在通过对所有层的左右上下文进行联合调节,从未标记的文本中预训练深度双向表示. 因此,预训练的 BERT 模型可以仅通过一个额外的输出层进行微调,从而为各种任务(例如问答和语言推理)创建最先进的模型,而无需... 自然语言处理 — BERT AbstractBERT 全称为 Bidirectional Encoder Representations from Transformers. BERT 旨在通过对所有层的左右上下文进行联合调节,从未标记的文本中预训练深度双向表示. 因此,预训练的 BERT 模型可以仅通过一个额外的输出层进行微调,从而为各种任务(例如问答和语言推理)创建最先进的模型,而无需...
- 本文介绍了信息抽取任务中的属性抽取。文章简要描述了属性抽取的数据、标注方式、抽取流程，以及相关模型，并对比了与命名实体识别任务的异同。 本文介绍了信息抽取任务中的属性抽取。文章简要描述了属性抽取的数据、标注方式、抽取流程，以及相关模型，并对比了与命名实体识别任务的异同。
- 近日，华为云AI团队获得第9届国际自然语言处理与中文计算会议NLPCC 2020 轻量级预训练中文语言模型测评第一名。NLPCC 由中国计算机学会主办，是自然语言处理（NLP）和中文计算（CC）领域的顶级国际前沿会议，每年会议都秉承国际化和一流化的严格标准来进行自然语言处理任务的开放评测，推动相关任务的研究和发展。NLPCC 2020吸引了康奈尔大学、伦敦大学、普林斯顿大学等海内外近600位... 近日，华为云AI团队获得第9届国际自然语言处理与中文计算会议NLPCC 2020 轻量级预训练中文语言模型测评第一名。NLPCC 由中国计算机学会主办，是自然语言处理（NLP）和中文计算（CC）领域的顶级国际前沿会议，每年会议都秉承国际化和一流化的严格标准来进行自然语言处理任务的开放评测，推动相关任务的研究和发展。NLPCC 2020吸引了康奈尔大学、伦敦大学、普林斯顿大学等海内外近600位...
- 在目前基于深度学习的语言模型结构主要包括三个类别：基于RNN的语言模型，基于CNN的语言模型和基于Transformer的语言模型。接下来我会对它们进行依次介绍，并且逐一分析他们的优缺点。 在目前基于深度学习的语言模型结构主要包括三个类别：基于RNN的语言模型，基于CNN的语言模型和基于Transformer的语言模型。接下来我会对它们进行依次介绍，并且逐一分析他们的优缺点。
- 赛题背景：“事件抽取”是舆情分析领域和金融领域的重要任务之一，“事件”在金融领域是投资分析，资产管理的重要决策参考。“事件抽取”的挑战体现在文本的复杂和任务的复杂。文本的复杂体现在事件抽取的输入文本可能是句子、段落或者篇章，不定长度的文本使得限制文本长度的模型无法使用；任务的复杂体现在事件识别的任务包括：事件类型识别，和事件要素抽取。 “CCKS 2020面向金融领域的篇章事件要素抽取比赛”... 赛题背景：“事件抽取”是舆情分析领域和金融领域的重要任务之一，“事件”在金融领域是投资分析，资产管理的重要决策参考。“事件抽取”的挑战体现在文本的复杂和任务的复杂。文本的复杂体现在事件抽取的输入文本可能是句子、段落或者篇章，不定长度的文本使得限制文本长度的模型无法使用；任务的复杂体现在事件识别的任务包括：事件类型识别，和事件要素抽取。 “CCKS 2020面向金融领域的篇章事件要素抽取比赛”...
- 关于 PV 操作基本都是结合进程管理的前驱图来进行考察，历年以来，无论是软考还是操作系统的单独考试，占有很大的比重。今天我们总结两种在考试中常考的类型。一种是单线前驱图，即串联进程，另一种是多线前驱图，即并联进程。并联进程下又细分为两类：一种逐渐向后合并（进程趋于合并），另一种是前驱图逐渐向后展开。两种类型你都掌握了应试也就毫无问题了。 关于 PV 操作基本都是结合进程管理的前驱图来进行考察，历年以来，无论是软考还是操作系统的单独考试，占有很大的比重。今天我们总结两种在考试中常考的类型。一种是单线前驱图，即串联进程，另一种是多线前驱图，即并联进程。并联进程下又细分为两类：一种逐渐向后合并（进程趋于合并），另一种是前驱图逐渐向后展开。两种类型你都掌握了应试也就毫无问题了。
上滑加载中
推荐直播
0.5
-
基于开源鸿蒙+海思星闪开发板：嵌入式系统开发实战（Day1）2025/03/29 周六 09:00-18:00
华为开发者布道师
本次为期两天的课程将深入讲解OpenHarmony操作系统及其与星闪技术的结合应用，涵盖WS63E星闪开发板的详细介绍、“OpenHarmony+星闪”的创新实践、实验环境搭建以及编写首个“Hello World”程序等内容，旨在帮助学员全面掌握相关技术并进行实际操作
回顾中 -
华为云软件开发生产线（CodeArts）1月&2月新特性解读2025/03/18 周二 19:00-20:00
阿星 华为云高级产品经理
不知道产品的最新特性？没法和产品团队建立直接的沟通？本期直播产品经理将为您解读华为云软件开发生产线1月&2月发布的新特性，并在直播过程中为您答疑解惑。
回顾中 -
基于能力图谱的openGauss项目闯关2025/03/20 周四 19:00-20:30
华为开发者布道师
想成为顶级数据库开发者吗？本次直播将从银行业务系统的数据库设计出发，带你逐步掌握openGauss的建库表、数据封装、密态技术、性能调优及AI应用。通过实战案例，全面展示openGauss的强大功能，助你提升技能，为未来的职业发展打下坚实基础。立即报名，开启你的数据库进阶之旅！
回顾中 -
基于开源鸿蒙+海思星闪开发板：嵌入式系统开发实战（Day1）
2025/03/29 周六 09:00-18:00
华为开发者布道师
本次为期两天的课程将深入讲解OpenHarmony操作系统及其与星闪技术的结合应用，涵盖WS63E星闪开发板的详细介绍、“OpenHarmony+星闪”的创新实践、实验环境搭建以及编写首个“Hello World”程序等内容，旨在帮助学员全面掌握相关技术并进行实际操作
回顾中 -
华为云软件开发生产线（CodeArts）1月&2月新特性解读
2025/03/18 周二 19:00-20:00
阿星 华为云高级产品经理
不知道产品的最新特性？没法和产品团队建立直接的沟通？本期直播产品经理将为您解读华为云软件开发生产线1月&2月发布的新特性，并在直播过程中为您答疑解惑。
回顾中
热门标签
