- 基于AI技术实现架构坏味道检测与重构建议是当前业界比较流行的做法,但此做法往往存在一个通病,即训练数据集的质量问题,如何构建大规模、高质量的训练数据成为制约算法有效性的关键挑战。针对这项挑战,我们以Feature envy架构坏味道为例,利用一系列启发式规则和一个基于决策树的分类器,实现了一种基于真实数据的高质量重构数据集构造方法,并利用此方法构建的数据集将Feature envy架构坏味道... 基于AI技术实现架构坏味道检测与重构建议是当前业界比较流行的做法,但此做法往往存在一个通病,即训练数据集的质量问题,如何构建大规模、高质量的训练数据成为制约算法有效性的关键挑战。针对这项挑战,我们以Feature envy架构坏味道为例,利用一系列启发式规则和一个基于决策树的分类器,实现了一种基于真实数据的高质量重构数据集构造方法,并利用此方法构建的数据集将Feature envy架构坏味道...
- 大模型场景下训练和推理性能指标名词解释 大模型场景下训练和推理性能指标名词解释
- 实验目的本实验,基于华为云MindSpore在MNIST数据集上开发和训练一个LeNet5模型,并验证模型精度;了解如何使用MindSpore进行简单卷积神经网络的开发;了解如何使用MindSpore进行简单图片分类任务的训练;了解如何使用MindSpore进行简单图片分类任务的验证。实验环境ModelArts平台:Mindspore实验内容及分析数据集准备从华为云OBS中下载MNIST数据... 实验目的本实验,基于华为云MindSpore在MNIST数据集上开发和训练一个LeNet5模型,并验证模型精度;了解如何使用MindSpore进行简单卷积神经网络的开发;了解如何使用MindSpore进行简单图片分类任务的训练;了解如何使用MindSpore进行简单图片分类任务的验证。实验环境ModelArts平台:Mindspore实验内容及分析数据集准备从华为云OBS中下载MNIST数据...
- 1 简单引入平常我们想给某些图片添加文字水印,方法有很多,也有很多的工具可以方便的进行;今天主要是对PIL库的应用,结合Python语言批量对图片添加水印;这里需要注意的是图片的格式,不能为JPG或JPEG,因为这两种格式的图片不支持透明度设置。 2 关于PIL之前有的文章已经详细介绍过,这里不再赘述了。PIL是Python的一个图像处理库,支持多种文件格式;PIL提供强大的图像处理和图形... 1 简单引入平常我们想给某些图片添加文字水印,方法有很多,也有很多的工具可以方便的进行;今天主要是对PIL库的应用,结合Python语言批量对图片添加水印;这里需要注意的是图片的格式,不能为JPG或JPEG,因为这两种格式的图片不支持透明度设置。 2 关于PIL之前有的文章已经详细介绍过,这里不再赘述了。PIL是Python的一个图像处理库,支持多种文件格式;PIL提供强大的图像处理和图形...
- 1. 问题描述使用华为云Snt9B裸金属服务器,通过nohup命令基于pytorch框架进行大模型训练时,训练中途偶现如下报错导致训练中断:{'loss': 0.0759, 'learning_rate': 0.0005298913043478261, 'epoch': 3.15} 79%|███████▉ | 4640/5888 [2:28:56<5:39:33, 16.32s/it] ... 1. 问题描述使用华为云Snt9B裸金属服务器,通过nohup命令基于pytorch框架进行大模型训练时,训练中途偶现如下报错导致训练中断:{'loss': 0.0759, 'learning_rate': 0.0005298913043478261, 'epoch': 3.15} 79%|███████▉ | 4640/5888 [2:28:56<5:39:33, 16.32s/it] ...
- 1. 问题描述使用华为云昇腾Snt9B裸金属服务器,基于pytorch框架进行大模型训练时,需要迭代训练100轮,在第21轮训练时中途报错:RuntimeError: [enforce fail at inline_container.cc:471] . PytorchStreamWriter failed writing file data: file write failed具体报错信息... 1. 问题描述使用华为云昇腾Snt9B裸金属服务器,基于pytorch框架进行大模型训练时,需要迭代训练100轮,在第21轮训练时中途报错:RuntimeError: [enforce fail at inline_container.cc:471] . PytorchStreamWriter failed writing file data: file write failed具体报错信息...
- 当涉及到自然语言处理(NLP)中的信息检索与文本挖掘时,我们进入了一个旨在从大量文本数据中发现有价值信息的领域。信息检索涉及从文本数据中检索相关信息,而文本挖掘则旨在自动发现文本中的模式、趋势和知识。这两者的结合在现代信息社会中具有巨大的潜力,本文将深入探讨信息检索与文本挖掘的定义、重要性、应用领域、技术挑战以及如何使用NLP来实现这些任务,同时结合同义词转换等数据预处理方法,以增强文章可读... 当涉及到自然语言处理(NLP)中的信息检索与文本挖掘时,我们进入了一个旨在从大量文本数据中发现有价值信息的领域。信息检索涉及从文本数据中检索相关信息,而文本挖掘则旨在自动发现文本中的模式、趋势和知识。这两者的结合在现代信息社会中具有巨大的潜力,本文将深入探讨信息检索与文本挖掘的定义、重要性、应用领域、技术挑战以及如何使用NLP来实现这些任务,同时结合同义词转换等数据预处理方法,以增强文章可读...
- 当涉及到自然语言处理(NLP)中的文本分类与情感分析时,我们进入了一个广泛应用的领域。这种技术不仅有助于组织和分类大量文本数据,还能够自动判断文本中所表达的情感和情感极性。在这篇博客中,我们将深入探讨文本分类与情感分析的定义、重要性、应用领域、技术挑战以及如何使用NLP来实现这些任务。 什么是文本分类与情感分析?文本分类,也被称为文本标签或文档分类,是将文本数据分配到一个或多个类别或标签的任... 当涉及到自然语言处理(NLP)中的文本分类与情感分析时,我们进入了一个广泛应用的领域。这种技术不仅有助于组织和分类大量文本数据,还能够自动判断文本中所表达的情感和情感极性。在这篇博客中,我们将深入探讨文本分类与情感分析的定义、重要性、应用领域、技术挑战以及如何使用NLP来实现这些任务。 什么是文本分类与情感分析?文本分类,也被称为文本标签或文档分类,是将文本数据分配到一个或多个类别或标签的任...
- NLP在多模态处理中的崭新前景:融合文本、图像和声音的智能随着信息技术的飞速发展,我们身边产生的数据呈现出多模态的趋势,包括文本、图像和声音等多种形式。多模态处理不仅仅关注这些数据的单一模态,更着眼于如何整合这些模态,以获得更深层次、全面的理解。本文将深入研究NLP在多模态处理中的应用,探讨融合文本、图像和声音的智能,以及这一领域的崭新前景。 1. 背景与挑战 1.1 多模态数据的丰富性随... NLP在多模态处理中的崭新前景:融合文本、图像和声音的智能随着信息技术的飞速发展,我们身边产生的数据呈现出多模态的趋势,包括文本、图像和声音等多种形式。多模态处理不仅仅关注这些数据的单一模态,更着眼于如何整合这些模态,以获得更深层次、全面的理解。本文将深入研究NLP在多模态处理中的应用,探讨融合文本、图像和声音的智能,以及这一领域的崭新前景。 1. 背景与挑战 1.1 多模态数据的丰富性随...
- 1 简单引入日常工作、生活中我们经常会遇到一些复杂的事务关系,比如人物关系,那如何才能清楚直观的看清楚这些任务关系呢?比如我们从网上搜索1个人物关系图,大家看看:声明:以下图片来源于网络,如果涉及版权问题,请联系作者删除。本文仅供学习,不做他用。那我们如何使用Python来实现类似的人物关系图呢?这里我们需要用到Python的networkx模块,它可以帮助我们很好的显示我们需要的效果。 ... 1 简单引入日常工作、生活中我们经常会遇到一些复杂的事务关系,比如人物关系,那如何才能清楚直观的看清楚这些任务关系呢?比如我们从网上搜索1个人物关系图,大家看看:声明:以下图片来源于网络,如果涉及版权问题,请联系作者删除。本文仅供学习,不做他用。那我们如何使用Python来实现类似的人物关系图呢?这里我们需要用到Python的networkx模块,它可以帮助我们很好的显示我们需要的效果。 ...
- 使用Kubernetes跑Stable-diffusion分布式AI训练作业,流程示意 使用Kubernetes跑Stable-diffusion分布式AI训练作业,流程示意
- 本文全面深入地探讨了梯度下降及其变体——批量梯度下降、随机梯度下降和小批量梯度下降的原理和应用。通过数学表达式和基于PyTorch的代码示例,本文旨在为读者提供一种直观且实用的视角,以理解这些优化算法的工作原理和应用场景。关注TechLead,分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验,同济本复旦硕,复旦机器人智能实验室成员,阿里云认证的资深架构师,项... 本文全面深入地探讨了梯度下降及其变体——批量梯度下降、随机梯度下降和小批量梯度下降的原理和应用。通过数学表达式和基于PyTorch的代码示例,本文旨在为读者提供一种直观且实用的视角,以理解这些优化算法的工作原理和应用场景。关注TechLead,分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验,同济本复旦硕,复旦机器人智能实验室成员,阿里云认证的资深架构师,项...
- 本文深入探讨了似然函数的基础概念、与概率密度函数的关系、在最大似然估计以及机器学习中的应用。通过详尽的定义、举例和Python/PyTorch代码示例,文章旨在提供一个全面而深入的理解。关注TechLead,分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验,同济本复旦硕,复旦机器人智能实验室成员,阿里云认证的资深架构师,项目管理专业人士,上亿营收AI产品研发... 本文深入探讨了似然函数的基础概念、与概率密度函数的关系、在最大似然估计以及机器学习中的应用。通过详尽的定义、举例和Python/PyTorch代码示例,文章旨在提供一个全面而深入的理解。关注TechLead,分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验,同济本复旦硕,复旦机器人智能实验室成员,阿里云认证的资深架构师,项目管理专业人士,上亿营收AI产品研发...
- 本文全面深入地探讨了机器学习中的回归问题,从基础概念和常用算法,到评估指标、算法选择,以及面对的挑战与解决方案。文章提供了丰富的技术细节和实用指导,旨在帮助读者更有效地理解和应用回归模型。关注TechLead,分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验,同济本复旦硕,复旦机器人智能实验室成员,阿里云认证的资深架构师,项目管理专业人士,上亿营收AI产品研... 本文全面深入地探讨了机器学习中的回归问题,从基础概念和常用算法,到评估指标、算法选择,以及面对的挑战与解决方案。文章提供了丰富的技术细节和实用指导,旨在帮助读者更有效地理解和应用回归模型。关注TechLead,分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验,同济本复旦硕,复旦机器人智能实验室成员,阿里云认证的资深架构师,项目管理专业人士,上亿营收AI产品研...
- 本文将主要介绍torchvision.datasets的使用,并以CIFAR-10为例进行介绍,对可视化工具tensorboard进行介绍,包括安装,使用,可视化过程等,最后介绍DataLoader的使用。希望对你有帮助 Pytorch公共数据集torchvision.datasets.*torchvision是pytorch的一个图形库,torchvision包由流行的数据集、模型架构和计... 本文将主要介绍torchvision.datasets的使用,并以CIFAR-10为例进行介绍,对可视化工具tensorboard进行介绍,包括安装,使用,可视化过程等,最后介绍DataLoader的使用。希望对你有帮助 Pytorch公共数据集torchvision.datasets.*torchvision是pytorch的一个图形库,torchvision包由流行的数据集、模型架构和计...
上滑加载中
推荐直播
-
HDC深度解读系列 - Serverless与MCP融合创新,构建AI应用全新智能中枢2025/08/20 周三 16:30-18:00
张昆鹏 HCDG北京核心组代表
HDC2025期间,华为云展示了Serverless与MCP融合创新的解决方案,本期访谈直播,由华为云开发者专家(HCDE)兼华为云开发者社区组织HCDG北京核心组代表张鹏先生主持,华为云PaaS服务产品部 Serverless总监Ewen为大家深度解读华为云Serverless与MCP如何融合构建AI应用全新智能中枢
回顾中 -
关于RISC-V生态发展的思考2025/09/02 周二 17:00-18:00
中国科学院计算技术研究所副所长包云岗教授
中科院包云岗老师将在本次直播中,探讨处理器生态的关键要素及其联系,分享过去几年推动RISC-V生态建设实践过程中的经验与教训。
回顾中 -
一键搞定华为云万级资源,3步轻松管理企业成本2025/09/09 周二 15:00-16:00
阿言 华为云交易产品经理
本直播重点介绍如何一键续费万级资源,3步轻松管理成本,帮助提升日常管理效率!
回顾中
热门标签