- 随着过去几年的发展,以ResNet50为代表的CNN模型已经成为了深度学习在计算机视觉方面最常用的模型之一。然而深度学习模型的训练通常非常慢,例如,如果用1块P100的GPU训练一个ResNet50需要1周时间(假如训练90个Epoch)。在工业界,我们都追求极致的训练速度,以便进行快速的产品迭代。 目前,学术界和工业界都在致力于加速深度学习训练的研究。... 随着过去几年的发展,以ResNet50为代表的CNN模型已经成为了深度学习在计算机视觉方面最常用的模型之一。然而深度学习模型的训练通常非常慢,例如,如果用1块P100的GPU训练一个ResNet50需要1周时间(假如训练90个Epoch)。在工业界,我们都追求极致的训练速度,以便进行快速的产品迭代。 目前,学术界和工业界都在致力于加速深度学习训练的研究。...
- 1 训练可以从三个维度展开优化:1. 深度神经网络结构优化2. 分布式训练框架优化 3. 深度学习训练算法优化。1.1 深度神经网络结构优化网络结构是基于经典的ResNet50结构,在训练中使用128*128的低分辨率输入图片来提升训练的速度,对训练精度产生了一定影响,原始模型无法在维持训练epoch数的情况下将模型训练到指定的top5 93%精度。通过对ResNet50... 1 训练可以从三个维度展开优化:1. 深度神经网络结构优化2. 分布式训练框架优化 3. 深度学习训练算法优化。1.1 深度神经网络结构优化网络结构是基于经典的ResNet50结构,在训练中使用128*128的低分辨率输入图片来提升训练的速度,对训练精度产生了一定影响,原始模型无法在维持训练epoch数的情况下将模型训练到指定的top5 93%精度。通过对ResNet50...
- 你吃过牛角甜甜圈吗(cronuts)? 这一被时代杂志称为“2013年25个最佳发明之一”的神奇美食,带着甜甜圈的可爱外貌与牛角面包的酥软内里,从美国纽约席卷全球。直到今天,世界各地的甜品店依然热衷于开发各种口味的cronuts,引得饕餮们纷纷自掏腰包。再看一眼圆圆胖胖的cronuts,各位擦擦口水回到正题,接下来,本文将介绍近年来引爆学术界的另一样“牛角甜甜圈”:Graph C... 你吃过牛角甜甜圈吗(cronuts)? 这一被时代杂志称为“2013年25个最佳发明之一”的神奇美食,带着甜甜圈的可爱外貌与牛角面包的酥软内里,从美国纽约席卷全球。直到今天,世界各地的甜品店依然热衷于开发各种口味的cronuts,引得饕餮们纷纷自掏腰包。再看一眼圆圆胖胖的cronuts,各位擦擦口水回到正题,接下来,本文将介绍近年来引爆学术界的另一样“牛角甜甜圈”:Graph C...
- Batch Normalization(BN)解决的是Internal Covariate Shift (ICS)的问题。Internal Covariate Shift在文中定义为The change in the distribution of network activations due to the change in network parameters during train... Batch Normalization(BN)解决的是Internal Covariate Shift (ICS)的问题。Internal Covariate Shift在文中定义为The change in the distribution of network activations due to the change in network parameters during train...
- 最近老山的同事参与了华为AIFood的比赛,大赛的任务是对食品的图像进行分类。但是数据存在不均衡的问题。每个大样本中有500多张图片,而小样本类别中,每类只有5张图片。这种数据不均衡的问题对小样本数据集的训练具有极大的挑战。 在比赛中,采用了Pytorch框架实现数据的分类。在这里简单记录下比赛遇到的困难,希望能够帮助到大家。问题1:数据不均衡提高小样本数据的采样几率,使得送入batch的样... 最近老山的同事参与了华为AIFood的比赛,大赛的任务是对食品的图像进行分类。但是数据存在不均衡的问题。每个大样本中有500多张图片,而小样本类别中,每类只有5张图片。这种数据不均衡的问题对小样本数据集的训练具有极大的挑战。 在比赛中,采用了Pytorch框架实现数据的分类。在这里简单记录下比赛遇到的困难,希望能够帮助到大家。问题1:数据不均衡提高小样本数据的采样几率,使得送入batch的样...
- 机器学习入门资料 机器学习入门资料
- 从7天IoT在线训练营->7天IoT实战营->开发精英实战营,一路走来,确实学到了知识,也学会了实战,离精英还有距离。在这里发表一下自己对这个课程的看法,给学习的入门级小白一些经验,或者说培训老师们都清楚但不好意思说的。首先这些物联网课程是引领开发者入门华为物联网平台的课程,并不代表是纯门外汉上来就能学的,也不是培养全栈开发者的。需要有些基础的知识,也有一些问题不是课程的目标,可能答疑老师也... 从7天IoT在线训练营->7天IoT实战营->开发精英实战营,一路走来,确实学到了知识,也学会了实战,离精英还有距离。在这里发表一下自己对这个课程的看法,给学习的入门级小白一些经验,或者说培训老师们都清楚但不好意思说的。首先这些物联网课程是引领开发者入门华为物联网平台的课程,并不代表是纯门外汉上来就能学的,也不是培养全栈开发者的。需要有些基础的知识,也有一些问题不是课程的目标,可能答疑老师也...
- 首先这不是一篇告诉你如何抛弃NCL的推送,而是告诉你如何更好的使用Python!作为曾经地球科学领域最炙手可热脚本语言之一的NCL已经进入维护模式,不再更新。NCAR将使用Python作为地球科学领域的主要数据处理和可视化工具。NCAR对NCL进行了“封装”,构成了PyNGL和PyNIO,随后可能还会开发一款工具,囊括NCL中大多数函数。PyNGL和PyNIO中的函数和绘图方式与NCL是非常... 首先这不是一篇告诉你如何抛弃NCL的推送,而是告诉你如何更好的使用Python!作为曾经地球科学领域最炙手可热脚本语言之一的NCL已经进入维护模式,不再更新。NCAR将使用Python作为地球科学领域的主要数据处理和可视化工具。NCAR对NCL进行了“封装”,构成了PyNGL和PyNIO,随后可能还会开发一款工具,囊括NCL中大多数函数。PyNGL和PyNIO中的函数和绘图方式与NCL是非常...
- 气候变化是人类面临的越来越严重的问题,相信大家对此都不陌生。全球变暖、冰川消融、海平面上升、极端天气事件频发……人类的生存正在逐渐受到威胁。科学家们已经从很多不同的角度对气候变化进行了深入的研究,提出了很多应对气候变化的策略。除此之外,大家有没想过,近些年火遍各行各业的机器学习(ML)和人工智能(AI)可以与气候变化碰撞出什么样的火花呢?前几天arXiv上发布了一篇新文章主要就是介绍了机器学... 气候变化是人类面临的越来越严重的问题,相信大家对此都不陌生。全球变暖、冰川消融、海平面上升、极端天气事件频发……人类的生存正在逐渐受到威胁。科学家们已经从很多不同的角度对气候变化进行了深入的研究,提出了很多应对气候变化的策略。除此之外,大家有没想过,近些年火遍各行各业的机器学习(ML)和人工智能(AI)可以与气候变化碰撞出什么样的火花呢?前几天arXiv上发布了一篇新文章主要就是介绍了机器学...
- 华为云使用手写的keras训练代码构建环境!pip install --upgrade keras_applications==1.0.6 keras==2.2.4import numpy as npimport matplotlib.pyplot as pltimport keras构建模拟数据# create some dataX = np.linspace(-1, 1, 200)np.... 华为云使用手写的keras训练代码构建环境!pip install --upgrade keras_applications==1.0.6 keras==2.2.4import numpy as npimport matplotlib.pyplot as pltimport keras构建模拟数据# create some dataX = np.linspace(-1, 1, 200)np....
- 请使用chrome浏览器,安装MathJax插件查看公式https://github.com/bochuan007/hexoblog/blob/master/docs/%E5%90%B4%E6%81%A9%E8%BE%BE%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E7%A8%8B%E7%AC%94%E8%AE%B0.md 请使用chrome浏览器,安装MathJax插件查看公式https://github.com/bochuan007/hexoblog/blob/master/docs/%E5%90%B4%E6%81%A9%E8%BE%BE%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E7%A8%8B%E7%AC%94%E8%AE%B0.md
- 【华为云 ModelArts-Lab AI实战营】第三期:图像分类 (III) 模型参数&网络调优实验做完后,对过拟合和欠拟合以及现有AI框架的参数调整有了一些新的认识,写出来请各位同学指正首先举个栗子,解释过拟合和欠拟合假设我们在二维实数空间有一个点集P(x, y)如下图所示:我们取靠近y轴的14个点作为训练集:注意前14个点中有3个明显的噪点是我故意加入的那么现在我们训练一个模型来拟合训... 【华为云 ModelArts-Lab AI实战营】第三期:图像分类 (III) 模型参数&网络调优实验做完后,对过拟合和欠拟合以及现有AI框架的参数调整有了一些新的认识,写出来请各位同学指正首先举个栗子,解释过拟合和欠拟合假设我们在二维实数空间有一个点集P(x, y)如下图所示:我们取靠近y轴的14个点作为训练集:注意前14个点中有3个明显的噪点是我故意加入的那么现在我们训练一个模型来拟合训...
- ModelArts-lab 第二期实战中,通过使用数据智能标注、模型训练和模型部署,端到端模拟真实AI开发场景,构建一个图像分类应用。根据案例提供的训练脚本,训练得到的模型的精度大概在82%左右,识别的效果并不是特别的好,而且还不太稳定,具有有一定的波动性。经常将哈士奇误认为猫,那有什么方法可以优化模型的精度呢? 接下来我们尝试通过改变不同的参数,来提高猫狗的识... ModelArts-lab 第二期实战中,通过使用数据智能标注、模型训练和模型部署,端到端模拟真实AI开发场景,构建一个图像分类应用。根据案例提供的训练脚本,训练得到的模型的精度大概在82%左右,识别的效果并不是特别的好,而且还不太稳定,具有有一定的波动性。经常将哈士奇误认为猫,那有什么方法可以优化模型的精度呢? 接下来我们尝试通过改变不同的参数,来提高猫狗的识...
- 1、概要推荐系统时使用广泛的技术之一,尤其在电商领域中,使用非常频繁。推荐系统涉及多种专业术语和算法。2、数据说明2.1 用户列表所有用户构成的集合,主要是用户id。 例如电影推荐中的所有观影人users.dat数据:uid::性别::年龄::职业::邮编----------------------1::F::1::10::480672::M::56::16::700723::M::25::... 1、概要推荐系统时使用广泛的技术之一,尤其在电商领域中,使用非常频繁。推荐系统涉及多种专业术语和算法。2、数据说明2.1 用户列表所有用户构成的集合,主要是用户id。 例如电影推荐中的所有观影人users.dat数据:uid::性别::年龄::职业::邮编----------------------1::F::1::10::480672::M::56::16::700723::M::25::...
- 本书摘自《Spark机器学习进阶实战》——书中的第2章,第2.2.6节,作者是马海平、于俊、吕昕、向海。 本书摘自《Spark机器学习进阶实战》——书中的第2章,第2.2.6节,作者是马海平、于俊、吕昕、向海。
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签