- MXNet之网络结构搭建 网络结构搭建 1.卷积层(Convolution) 2.BN层(Batch Normalization) 3.激活层(Activation) 4.池化层(Pooling) 5.全连接层(FullyConnected) 6. 损失函数层 7.通道合并层(concat) 8.逐点相加层(element-wise-sum) 1.卷积层(Co... MXNet之网络结构搭建 网络结构搭建 1.卷积层(Convolution) 2.BN层(Batch Normalization) 3.激活层(Activation) 4.池化层(Pooling) 5.全连接层(FullyConnected) 6. 损失函数层 7.通道合并层(concat) 8.逐点相加层(element-wise-sum) 1.卷积层(Co...
- PyTorch分布式训练 PyTorch 是一个 Python 优先的深度学习框架,能够在强大的 GPU 加速基础上实现张量和动态神经网络。PyTorch的一大优势就是它的动态图计算特性。 License :MIT License 官网:http://pytorch.org/ GitHub: PyTorch分布式训练 PyTorch 是一个 Python 优先的深度学习框架,能够在强大的 GPU 加速基础上实现张量和动态神经网络。PyTorch的一大优势就是它的动态图计算特性。 License :MIT License 官网:http://pytorch.org/ GitHub:
- PyTorch提供了丰富的损失函数,而多分类任务用到最多的就是nn.CrossEntropyLoss和nn.NLLLoss了,不妨讨论一下。 nn.CrossEntropyLoss CrossEntropy顾名思义就是交叉熵,概念来自香农的信息论,用于度量两个概率分布间的差异性信息,可以认为是在给定的真实分布下,使用非真实分布的策略消除系统的不确定性所需要付出的努力的大小... PyTorch提供了丰富的损失函数,而多分类任务用到最多的就是nn.CrossEntropyLoss和nn.NLLLoss了,不妨讨论一下。 nn.CrossEntropyLoss CrossEntropy顾名思义就是交叉熵,概念来自香农的信息论,用于度量两个概率分布间的差异性信息,可以认为是在给定的真实分布下,使用非真实分布的策略消除系统的不确定性所需要付出的努力的大小...
- 机器学习中的常见问题——损失函数 一、分类算法中的损失函数 在分类算法中,损失函数通常可以表示成损失项和正则项的和,即有如下的形式: 其中,为损失项,为正则项。的具体形式如下: 对于损失项,主要的形式有: 0-1损失Log损失Hinge损失指... 机器学习中的常见问题——损失函数 一、分类算法中的损失函数 在分类算法中,损失函数通常可以表示成损失项和正则项的和,即有如下的形式: 其中,为损失项,为正则项。的具体形式如下: 对于损失项,主要的形式有: 0-1损失Log损失Hinge损失指...
- YOLOv5并量化压缩 下载源码和安装依赖库: 源码地址:https://github.com/ultralytics/yolov5 下载后解压,在目录内打开cmd并激活环境: 安装依赖库: pip install -r requirements.txt 5. 数据标注: 数据标注我们要用labelimg,使用pip即可安装: pip install labe... YOLOv5并量化压缩 下载源码和安装依赖库: 源码地址:https://github.com/ultralytics/yolov5 下载后解压,在目录内打开cmd并激活环境: 安装依赖库: pip install -r requirements.txt 5. 数据标注: 数据标注我们要用labelimg,使用pip即可安装: pip install labe...
- GoogLeNetInceptionCNN深度学习卷积神经网络 2014年,GoogLeNet和VGG是当年ImageNet挑战赛(ILSVRC14)的双雄,GoogLeNet获得了第一名、VGG获得了第二名,这两类模型结构的共同特点是层次更深了。VGG继承了LeNet以及AlexNet的一些框架结构(详见 大话CNN经典模型:VGGN... GoogLeNetInceptionCNN深度学习卷积神经网络 2014年,GoogLeNet和VGG是当年ImageNet挑战赛(ILSVRC14)的双雄,GoogLeNet获得了第一名、VGG获得了第二名,这两类模型结构的共同特点是层次更深了。VGG继承了LeNet以及AlexNet的一些框架结构(详见 大话CNN经典模型:VGGN...
- Region Proposal Network RPN的实现方式:在conv5-3的卷积feature map上用一个n*n的滑窗(论文中作者选用了n=3,即3*3的滑窗)生成一个长度为256(对应于ZF网络)或512(对应于VGG网络)维长度的全连接特征.然后在这个256维或512维的特征后产生两个分支的全连接层: (1)reg-layer,用于预测proposal的... Region Proposal Network RPN的实现方式:在conv5-3的卷积feature map上用一个n*n的滑窗(论文中作者选用了n=3,即3*3的滑窗)生成一个长度为256(对应于ZF网络)或512(对应于VGG网络)维长度的全连接特征.然后在这个256维或512维的特征后产生两个分支的全连接层: (1)reg-layer,用于预测proposal的...
- 从数学上看,如果向量v与变换A满足 Av=λv 则称向量v是变换A的一个特征向量,λ是相应的特征值。其中是将变换作用于v得到的向量。这一等式被称作“特征值方程”。 特征值和特征向量的几何和物理意义 摘自《线性代数的几何意义》 我们知道,矩阵乘法对应了一个变换,是把任意一个向量变成另一个方向或长度都大多不同的新向量。在这个变换的过程中,原向量主要发生旋转、伸缩... 从数学上看,如果向量v与变换A满足 Av=λv 则称向量v是变换A的一个特征向量,λ是相应的特征值。其中是将变换作用于v得到的向量。这一等式被称作“特征值方程”。 特征值和特征向量的几何和物理意义 摘自《线性代数的几何意义》 我们知道,矩阵乘法对应了一个变换,是把任意一个向量变成另一个方向或长度都大多不同的新向量。在这个变换的过程中,原向量主要发生旋转、伸缩...
- epoch,iteration,batch,batch_size epoch:训练时,所有训练图像通过网络训练一次(一次前向传播+一次后向传播);测试时,所有测试图像通过网络一次(一次前向传播)。Caffe不用这个参数。 batch_size:1个batch包含的图像数目,通常设为2的n次幂,常用的包括64,128,256。 &... epoch,iteration,batch,batch_size epoch:训练时,所有训练图像通过网络训练一次(一次前向传播+一次后向传播);测试时,所有测试图像通过网络一次(一次前向传播)。Caffe不用这个参数。 batch_size:1个batch包含的图像数目,通常设为2的n次幂,常用的包括64,128,256。 &...
- 机器学习(一)——K-近邻(KNN)算法 最近在看《机器学习实战》这本书,因为自己本身很想深入的了解机器学习算法,加之想学python,就在朋友的推荐之下选择了这本书进行学习。 一 . K-近邻算法(KNN)概述 最简单最初级的分类器是将全部的训练数据所对应... 机器学习(一)——K-近邻(KNN)算法 最近在看《机器学习实战》这本书,因为自己本身很想深入的了解机器学习算法,加之想学python,就在朋友的推荐之下选择了这本书进行学习。 一 . K-近邻算法(KNN)概述 最简单最初级的分类器是将全部的训练数据所对应...
- 思想 一般化的跟踪问题可以分解成如下几步: 1. 在帧中,在当前位置附近采样,训练一个回归器。这个回归器能计算一个小窗口采样的响应。 2. 在帧中,在前一帧位置附近采样,用前述回归器判断每个采样的响应。 3. 响应最强的采样作为本帧位置。 循环矩阵表示图像块 在图像中,循环位移操作可以用来近似采样窗口的位移。 训练时,围绕着当前位置进行的一系列位移采样可以用二维... 思想 一般化的跟踪问题可以分解成如下几步: 1. 在帧中,在当前位置附近采样,训练一个回归器。这个回归器能计算一个小窗口采样的响应。 2. 在帧中,在前一帧位置附近采样,用前述回归器判断每个采样的响应。 3. 响应最强的采样作为本帧位置。 循环矩阵表示图像块 在图像中,循环位移操作可以用来近似采样窗口的位移。 训练时,围绕着当前位置进行的一系列位移采样可以用二维...
- pix2pixHD是pix2pix的重要升级,可以实现高分辨率图像生成和图片的语义编辑。对于一个生成对抗网络(GAN),学习的关键就是理解生成器、判别器和损失函数这三部分。pix2pixHD的生成器和判别器都是多尺度的,单一尺度的生成器和判别器的结构和pix2pix是一样的。损失函数由GAN loss、Feature matching loss和Content loss组成。... pix2pixHD是pix2pix的重要升级,可以实现高分辨率图像生成和图片的语义编辑。对于一个生成对抗网络(GAN),学习的关键就是理解生成器、判别器和损失函数这三部分。pix2pixHD的生成器和判别器都是多尺度的,单一尺度的生成器和判别器的结构和pix2pix是一样的。损失函数由GAN loss、Feature matching loss和Content loss组成。...
- 证明relu6能比leaky relu有更好的效果,收敛也更快。 pelee mouse 测试集 map 94.57 训练集 ? yolov3 测试集map 95 训练集99% 卷积层得来的特征: 输入是416*416: 13*13 一个特征点代表32*32像素的图像,检测大目标,最小检测32*32的图像,基于1280是96*96的图... 证明relu6能比leaky relu有更好的效果,收敛也更快。 pelee mouse 测试集 map 94.57 训练集 ? yolov3 测试集map 95 训练集99% 卷积层得来的特征: 输入是416*416: 13*13 一个特征点代表32*32像素的图像,检测大目标,最小检测32*32的图像,基于1280是96*96的图...
- 本文提出一种训练速度更快、参数量更少的卷积神经网络EfficientNetV2。我们采用了训练感知NAS与缩放技术对训练速度与参数量进行联合优化,NAS的搜索空间采用了新的op(比如Fused-MBConv)进行扩充。实验表明:相比其他SOTA方案,所提EfficientNetV2收敛速度更快,模型更小(6.8x)。 在训练过程中,我们可以通过逐步提升图像大... 本文提出一种训练速度更快、参数量更少的卷积神经网络EfficientNetV2。我们采用了训练感知NAS与缩放技术对训练速度与参数量进行联合优化,NAS的搜索空间采用了新的op(比如Fused-MBConv)进行扩充。实验表明:相比其他SOTA方案,所提EfficientNetV2收敛速度更快,模型更小(6.8x)。 在训练过程中,我们可以通过逐步提升图像大...
- 梯度中心化(gradient centralization,GC) 开源实现: https://github.com/Yonghongwei/Gradient-Centralization/blob/31caa1d49e7760e62a64a54eabc8f2403fddf38a/GC_code/Fine-grained_classification/SG... 梯度中心化(gradient centralization,GC) 开源实现: https://github.com/Yonghongwei/Gradient-Centralization/blob/31caa1d49e7760e62a64a54eabc8f2403fddf38a/GC_code/Fine-grained_classification/SG...
上滑加载中
推荐直播
-
华为云码道Skill实战与极速交付,智能开发全链路实战2026/07/22 周三 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;姜浩-华为云HCDG核心组成员
直播深度解读华为云码道6月产品新特性,从Skill市场安装专家技能,带你零距离体验从需求,开发,审查,重构全链路闭环的开发过程。从零构建并交付一个完整项目,让您体验从代码提交到服务上线的“极速”之旅。
回顾中 -
聚开发者之力,创具身新未来2026/07/23 周四 15:00-17:00
张豪杰/程文/王军/刘新春/黄钦开 /张晓天
本次华为云具身智能开发平台CloudRobo培训面向具身智能开发者,带您全流程体验机器人本体R2C小时级接入、环境重建与轨迹生成仿真数据生产、PB级数据管理、数据评测、模型训推、强化学习和Benchmark一键评测等功能,并体验业界主流具身模型应用。
回顾中
热门标签