- 世界地球日,华为云卓越运营,用科技关爱我们的家园 世界地球日,华为云卓越运营,用科技关爱我们的家园
- Transformer模型作为一种革命性的神经网络架构,并在诸多任务中取得了显著的成功。但是Transformer在处理长序列时面临内存和计算复杂度的问题,因为其复杂度与序列长度呈二次关系一直未业内人员所诟病。RWKV作为对Transformers模型的替代,正在引起越来越多的开发人员的关注。RWKV模型以简单、高效、可解释性强等特点,成为自然语言处理领域的新宠。 Transformer模型作为一种革命性的神经网络架构,并在诸多任务中取得了显著的成功。但是Transformer在处理长序列时面临内存和计算复杂度的问题,因为其复杂度与序列长度呈二次关系一直未业内人员所诟病。RWKV作为对Transformers模型的替代,正在引起越来越多的开发人员的关注。RWKV模型以简单、高效、可解释性强等特点,成为自然语言处理领域的新宠。
- 大模型是新一轮AI发展的核心,其已在推进产业智能化升级中已表现出巨大潜力,并将在未来三年里形成风起云涌之势。华为云于2021年正式发布了盘古基础大模型,包括CV计算机视觉大模型、NLP自然语言处理大模型和科学计算大模型。在基础大模型之上,华为云践行AI for industries,陆续推出了矿山、药物分子、电力、气象、海浪等盘古行业大模型,加速各行各业数字化的进程。如今,华为云AI已经在各... 大模型是新一轮AI发展的核心,其已在推进产业智能化升级中已表现出巨大潜力,并将在未来三年里形成风起云涌之势。华为云于2021年正式发布了盘古基础大模型,包括CV计算机视觉大模型、NLP自然语言处理大模型和科学计算大模型。在基础大模型之上,华为云践行AI for industries,陆续推出了矿山、药物分子、电力、气象、海浪等盘古行业大模型,加速各行各业数字化的进程。如今,华为云AI已经在各...
- 深度学习基础入门篇[一]:神经元简介、单层多层感知机、距离计算方法式、相似度函数 深度学习基础入门篇[一]:神经元简介、单层多层感知机、距离计算方法式、相似度函数
- 滑动平均(exponential moving average),或者叫做指数加权平均(exponentially weighted moving average),可以用来估计变量的局部均值,使得变量的更新与一段时间内的历史取值有关。 滑动平均(exponential moving average),或者叫做指数加权平均(exponentially weighted moving average),可以用来估计变量的局部均值,使得变量的更新与一段时间内的历史取值有关。
- 受量子物理中波粒二象性的启发,以及最近 复现的八度卷积的设计思想启发,在本项目中设计了DWT-CNN,将神经网络的输入进行信号分解,分别送入网络的不同分支,最后通过一个全连接层进行分类。目前,通过简单的实验发现,所提出的网络结构能够更快收敛,其他下游计算机视觉任务有待实验证明。 受量子物理中波粒二象性的启发,以及最近 复现的八度卷积的设计思想启发,在本项目中设计了DWT-CNN,将神经网络的输入进行信号分解,分别送入网络的不同分支,最后通过一个全连接层进行分类。目前,通过简单的实验发现,所提出的网络结构能够更快收敛,其他下游计算机视觉任务有待实验证明。
- 在该论文中,作者提出了一种新型的Transformer模块,称为多轴自注意力(multi-axis self-attention, Max-SA),它可以作为基本的架构组件,在单个块中执行局部和全局空间交互。与完全自注意力相比,Max-SA具有更大的灵活性和效率,即自然适应不同的输入长度,具有线性复杂度。此外,Max-SA仅具有线性复杂度,可以用作网络任何层的通用独立注意力模块,增加少量的计算量。 在该论文中,作者提出了一种新型的Transformer模块,称为多轴自注意力(multi-axis self-attention, Max-SA),它可以作为基本的架构组件,在单个块中执行局部和全局空间交互。与完全自注意力相比,Max-SA具有更大的灵活性和效率,即自然适应不同的输入长度,具有线性复杂度。此外,Max-SA仅具有线性复杂度,可以用作网络任何层的通用独立注意力模块,增加少量的计算量。
- @[toc] 摘要论文:https://arxiv.org/abs/2111.11418论文翻译:https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/128281326官方源码:https://github.com/sail-sg/poolformerMetaFormer是颜水成大佬的一篇Transformer的论文,该篇论文... @[toc] 摘要论文:https://arxiv.org/abs/2111.11418论文翻译:https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/128281326官方源码:https://github.com/sail-sg/poolformerMetaFormer是颜水成大佬的一篇Transformer的论文,该篇论文...
- @toc 1、数据集介绍 鸢尾花数据集,其提供了 150 组鸢尾花数据,每组包括鸢尾花的花萼 长、花萼宽、花瓣长、花瓣宽 4 个输入特征,同时还给出了这一组特征对应的 鸢尾花类别。类别包括狗尾鸢尾、杂色鸢尾、弗吉尼亚鸢尾三类, 分别用数字 0、1、2 表示。 使用次数据集的代码如下:from sklearn.datasets import load_irisx_data = datase... @toc 1、数据集介绍 鸢尾花数据集,其提供了 150 组鸢尾花数据,每组包括鸢尾花的花萼 长、花萼宽、花瓣长、花瓣宽 4 个输入特征,同时还给出了这一组特征对应的 鸢尾花类别。类别包括狗尾鸢尾、杂色鸢尾、弗吉尼亚鸢尾三类, 分别用数字 0、1、2 表示。 使用次数据集的代码如下:from sklearn.datasets import load_irisx_data = datase...
- 使用生成对抗网络实现图像转换此案例使用GPU算力,请参照注意事项完成规格切换 注意事项:本案例使用AI引擎**:** TensorFlow-1.13.1本案例最低硬件规格要求**:** 类型选择GPU,目标规格选择8U + 64GiB + 1GPU切换硬件规格方法**:** 如需切换硬件规格,您可以在本页面右边的工作区进行切换运行代码方法**:** 点击本页面顶部菜单栏的三角形运行按... 使用生成对抗网络实现图像转换此案例使用GPU算力,请参照注意事项完成规格切换 注意事项:本案例使用AI引擎**:** TensorFlow-1.13.1本案例最低硬件规格要求**:** 类型选择GPU,目标规格选择8U + 64GiB + 1GPU切换硬件规格方法**:** 如需切换硬件规格,您可以在本页面右边的工作区进行切换运行代码方法**:** 点击本页面顶部菜单栏的三角形运行按...
- 语音和语音识别介绍 注意事项本案例推荐使用AI引擎:TensorFlow-1.8本案例最低硬件规格要求:2 vCPU + 4 GiB切换硬件规格方法:如需切换硬件规格,您可以在本页面右边的工作区进行切换运行代码方法:点击本页面顶部菜单栏的三角形运行按钮或按Ctrl+Enter键 运行每个方块中的代码JupyterLab的详细用法:请参考《ModelAtrs JupyterLab使用指导》K... 语音和语音识别介绍 注意事项本案例推荐使用AI引擎:TensorFlow-1.8本案例最低硬件规格要求:2 vCPU + 4 GiB切换硬件规格方法:如需切换硬件规格,您可以在本页面右边的工作区进行切换运行代码方法:点击本页面顶部菜单栏的三角形运行按钮或按Ctrl+Enter键 运行每个方块中的代码JupyterLab的详细用法:请参考《ModelAtrs JupyterLab使用指导》K...
- 本项目讲了论文节点分类任务和新冠疫苗任务,并在论文节点分类任务中对代码进行详细讲解。PGL八九系列的项目耦合性比较大,也花了挺久时间研究希望对大家有帮助。 本项目讲了论文节点分类任务和新冠疫苗任务,并在论文节点分类任务中对代码进行详细讲解。PGL八九系列的项目耦合性比较大,也花了挺久时间研究希望对大家有帮助。
- 通过以上两个版本的模型代码简单的讲解,我们可以知道他们的不同点,其实主要就是在消息传递机制的部分有所不同。ERNIESageV1版本只作用在text graph的节点上,在传递消息(Send阶段)时只考虑了邻居本身的文本信息;而ERNIESageV2版本则作用在了边上,在Send阶段同时考虑了当前节点和其邻居节点的文本信息,达到更好的交互效果。 通过以上两个版本的模型代码简单的讲解,我们可以知道他们的不同点,其实主要就是在消息传递机制的部分有所不同。ERNIESageV1版本只作用在text graph的节点上,在传递消息(Send阶段)时只考虑了邻居本身的文本信息;而ERNIESageV2版本则作用在了边上,在Send阶段同时考虑了当前节点和其邻居节点的文本信息,达到更好的交互效果。
- 本次项目讲解了图神经网络的原理并对GCN、GAT实现方式进行讲解,最后基于PGL实现了两个算法在数据集Cora、Pubmed、Citeseer的表现,在引文网络基准测试中达到了与论文同等水平的指标。 本次项目讲解了图神经网络的原理并对GCN、GAT实现方式进行讲解,最后基于PGL实现了两个算法在数据集Cora、Pubmed、Citeseer的表现,在引文网络基准测试中达到了与论文同等水平的指标。
- 使用摄像头进行钢筋盘点 案例内容介绍中国的各施工工地每年都要使用大量的钢筋,一车钢筋运到工地现场需要工作人员进行盘点,通常的做法是靠人工一根根数的方式,非常耗时费力。为了提高钢筋盘点效率,业界提出了对钢筋图片进行拍照,然后使用AI算法检测图片中的钢筋条数,实践证明,该方案不仅准确率高,而且可以极大提高效率。本案例基于目标检测的方法,使用250张已经人工标注好的图片进行AI模型的训练,训练2... 使用摄像头进行钢筋盘点 案例内容介绍中国的各施工工地每年都要使用大量的钢筋,一车钢筋运到工地现场需要工作人员进行盘点,通常的做法是靠人工一根根数的方式,非常耗时费力。为了提高钢筋盘点效率,业界提出了对钢筋图片进行拍照,然后使用AI算法检测图片中的钢筋条数,实践证明,该方案不仅准确率高,而且可以极大提高效率。本案例基于目标检测的方法,使用250张已经人工标注好的图片进行AI模型的训练,训练2...
上滑加载中
推荐直播
-
API全生命周期管理一站式体验
2024/05/10 周五 16:00-17:00
Allen 华为云高级产品经理
本期邀请专家连线,共同探讨开发者关心的问题: 1、什么是API First,API First的优势有哪些?2、API全生命周期有哪几个阶段,API全生命周期的痛点问题有哪些?3、华为云是如何保证API一致性的?4、企业数字化转型如何做好API全生命周期管理?
即将直播 -
华为云IoT开源专家实践分享:开源让物联网平台更开放、易用
2024/05/14 周二 16:30-18:00
张俭 华为云IoT DTSE技术布道师
开源,意味着开放、共享、互助、共赢。作为万物上云及各行业数字化的物联网底座,华为云IoT积极拥抱开源,借助行业开源的最佳实践,构建可靠、易用的物联网平台,并通过开放南北向SDK,助力开发者快速构建物联网应用。本期直播,华为云IoT开源专家、物联网平台资深“程序猿”张俭,带你了解华为云IoT的开源生态,并手把手教你玩转开源社区!
去报名 -
华为云开发者日·广州站
2024/05/15 周三 14:30-17:30
华为云专家团
华为云开发者日HDC.Cloud Day是面向全球开发者的旗舰活动,汇聚来自千行百业、高校及科研院所的开发人员。致力于打造开发者专属的技术盛宴,全方位服务与赋能开发者围绕华为云生态“知、学、用、创、商”的成长路径。通过前沿的技术分享、场景化的动手体验、优秀的应用创新推介,为开发者提供沉浸式学习与交流平台。开放创新,与开发者共创、共享、共赢未来。
去报名
热门标签