- 最近做吞吐量调试涉及到输入batch_size的设置，为了把算力和显存用起来，同时不触发out of memory，需要提前估计大模型推理过程中的显存占用，我参考了MindIE官网的这个文档完成了估计：https://www.hiascend.com/document/detail/zh/mindie/20RC2/mindieservice/servicedev/mindie_service... 最近做吞吐量调试涉及到输入batch_size的设置，为了把算力和显存用起来，同时不触发out of memory，需要提前估计大模型推理过程中的显存占用，我参考了MindIE官网的这个文档完成了估计：https://www.hiascend.com/document/detail/zh/mindie/20RC2/mindieservice/servicedev/mindie_service...
- 其实在DeepSeek-R1爆火之前，DeepSeek V2在我们行业就已经妇孺皆知了，它独特的MOE结构值得研究一下。这篇文章是基于 @ZOMI酱 的2个视频写的，这2个视频讲的很好，建议大家都学习一下：《MOE终于迎来可视化解读！傻瓜都能看懂MoE核心原理！》和《使用昇腾NPU手撕MoE单机版代码！没想到如此简单！》。这篇文章是把我自己的理解梳理一下，加强自己的理解和记忆。 MOE结构概... 其实在DeepSeek-R1爆火之前，DeepSeek V2在我们行业就已经妇孺皆知了，它独特的MOE结构值得研究一下。这篇文章是基于 @ZOMI酱 的2个视频写的，这2个视频讲的很好，建议大家都学习一下：《MOE终于迎来可视化解读！傻瓜都能看懂MoE核心原理！》和《使用昇腾NPU手撕MoE单机版代码！没想到如此简单！》。这篇文章是把我自己的理解梳理一下，加强自己的理解和记忆。 MOE结构概...
- 目录 简介论文简介ABSTRACT1 INTRODUCTION2 RELATED WORK2.1 Network Embedding2.2 Sample Selection 5 CONCLUS... 目录 简介论文简介ABSTRACT1 INTRODUCTION2 RELATED WORK2.1 Network Embedding2.2 Sample Selection 5 CONCLUS...
- 目录 简介论文简介ABSTRACT1 INTRODUCTION2 THE HIERARCHICAL MODEL2.1 Model Description 5 RELATED WORK6 CON... 目录 简介论文简介ABSTRACT1 INTRODUCTION2 THE HIERARCHICAL MODEL2.1 Model Description 5 RELATED WORK6 CON...
- 目录 简介简介ABSTRACT1. INTRODUCTION1.1 Problem Statement and Applications1.2 Contributions 2. RELATED... 目录 简介简介ABSTRACT1. INTRODUCTION1.1 Problem Statement and Applications1.2 Contributions 2. RELATED...
- 目录 pytorch实现学习率衰减 手动修改optimizer中的lr使用lr_scheduler LambdaLR——lambda函数衰减StepLR——阶梯式衰减MultiStepLR——多阶梯式衰减ExponentialLR——指数连续衰减 CosineAnnealingLR——余弦退火衰减Reduce... 目录 pytorch实现学习率衰减 手动修改optimizer中的lr使用lr_scheduler LambdaLR——lambda函数衰减StepLR——阶梯式衰减MultiStepLR——多阶梯式衰减ExponentialLR——指数连续衰减 CosineAnnealingLR——余弦退火衰减Reduce...
- 文章目录 博弈论常见模型必胜点和必败点的概念：必胜点和必败点的性质： 巴什博弈斐波那契博弈威佐夫博弈尼姆博弈SG函数与SG定理 博弈论 博弈论 ，是经济学的一个... 文章目录 博弈论常见模型必胜点和必败点的概念：必胜点和必败点的性质： 巴什博弈斐波那契博弈威佐夫博弈尼姆博弈SG函数与SG定理 博弈论 博弈论 ，是经济学的一个...
- 内容概况 文章目录 内容概况一、GraphSAGE模型二、YelpChi评论图数据集上的异常检测2.1题目：反欺诈检测2.2 数据集介绍 三、代码实现1.图数据准备1.1 数据预处理说明1.... 内容概况 文章目录 内容概况一、GraphSAGE模型二、YelpChi评论图数据集上的异常检测2.1题目：反欺诈检测2.2 数据集介绍 三、代码实现1.图数据准备1.1 数据预处理说明1....
- 目录 简介说明5.15.25.3结语 简介 Hello！ 非常感谢您阅读海轰的文章，倘若文中有错误的地方，欢迎您指出～ ଘ(੭ˊᵕˋ)੭ 昵称：海轰 标签：程序猿｜... 目录 简介说明5.15.25.3结语 简介 Hello！ 非常感谢您阅读海轰的文章，倘若文中有错误的地方，欢迎您指出～ ଘ(੭ˊᵕˋ)੭ 昵称：海轰 标签：程序猿｜...
- 一、粒子群优化前馈神经网络简介 1 前馈神经网络FNN 前馈神经网络FNN是解决非线性问题的很好模型,它通过梯度下降算法进行网络训练。FNN与时间序列法等传统方法相比,能够更好地来描述问题的非线性特性;... 一、粒子群优化前馈神经网络简介 1 前馈神经网络FNN 前馈神经网络FNN是解决非线性问题的很好模型,它通过梯度下降算法进行网络训练。FNN与时间序列法等传统方法相比,能够更好地来描述问题的非线性特性;...
- 最近想对OpenCV进行系统学习，看到网上这份教程写得不错，于是跟着来学习实践一下。 【youcans@qq.com, youcans 的 OpenCV 例程, https://youcans.bl... 最近想对OpenCV进行系统学习，看到网上这份教程写得不错，于是跟着来学习实践一下。 【youcans@qq.com, youcans 的 OpenCV 例程, https://youcans.bl...
- 今天介绍一篇来由美国NEC实验室Erik Kruus等人于2022年8月在线发表在KDD上的文章。在这篇文章中，作者团队提出通过TCR-肽对的物理建模来扩展训练集，以解决当前数据集中出现的数据稀缺问题。实验证明，用物理建模和数据增强的伪标记来训练深度神经网络，比现有两个数据集中的基线有所改进。 1 介绍 成功预测TCR与肽... 今天介绍一篇来由美国NEC实验室Erik Kruus等人于2022年8月在线发表在KDD上的文章。在这篇文章中，作者团队提出通过TCR-肽对的物理建模来扩展训练集，以解决当前数据集中出现的数据稀缺问题。实验证明，用物理建模和数据增强的伪标记来训练深度神经网络，比现有两个数据集中的基线有所改进。 1 介绍 成功预测TCR与肽...
- 写在前面 我为了更加的高效的学习，需要不断地输入和输出 相信不管此时的你是怀着好奇心打开这篇文章；还是偶然间刷到这篇博文；或者带有学习目的性走到这片领域，我都相信，面前的你一定会成功，因为你懂得投资和... 写在前面 我为了更加的高效的学习，需要不断地输入和输出 相信不管此时的你是怀着好奇心打开这篇文章；还是偶然间刷到这篇博文；或者带有学习目的性走到这片领域，我都相信，面前的你一定会成功，因为你懂得投资和...
- https://zhuanlan.zhihu.com/p/232271603 https://www.proschoolonline.com/blog/data-science-interview-que... https://zhuanlan.zhihu.com/p/232271603 https://www.proschoolonline.com/blog/data-science-interview-que...
- 1、InternalError: Failed copying input tensor from /job:localhost/replica:0/task:0/device:CPU:0 to /job... 1、InternalError: Failed copying input tensor from /job:localhost/replica:0/task:0/device:CPU:0 to /job...
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家；李炎-华为云码道产品专家；彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战，从0到1打通消息通道；码道鸿蒙端云一体化实战，快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人；蒋春阳-华为云AI开发者案例开发专家
本期直播内容： AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了：看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签