- 一、为什么用本地 LLM 做翻译先说清楚场景。不是 Google 翻译那种"输入一个词吐一个词"的轻量需求,而是:隐私敏感文本:公司内部文档、医疗病历、法律合同——不能发到第三方 API。批量长文本:几万字的技术文档、小说章节,需要一次性处理且可控成本。领域定制:通用翻译把"梯度下降"翻成"gradient descent"(没翻),但你想要的是带术语表的、风格统一的结果。离线环境:内网部... 一、为什么用本地 LLM 做翻译先说清楚场景。不是 Google 翻译那种"输入一个词吐一个词"的轻量需求,而是:隐私敏感文本:公司内部文档、医疗病历、法律合同——不能发到第三方 API。批量长文本:几万字的技术文档、小说章节,需要一次性处理且可控成本。领域定制:通用翻译把"梯度下降"翻成"gradient descent"(没翻),但你想要的是带术语表的、风格统一的结果。离线环境:内网部...
- AI模型完整训练步骤一、通用机器学习 AI 训练五大核心步骤适用于传统人工智能、图像模型、预测模型、普通算法模型等所有常规AI项目。1. 任务定义与目标确认明确模型需要实现的具体功能,区分任务类型,包括分类、回归、预测、识别、聚类、生成等。同时设定对应的效果评估标准,确定模型优化方向与验收指标。2. 数据准备与数据集划分这是AI训练最核心、最耗时的环节,具体包含:• 数据收集:采集模型训练所... AI模型完整训练步骤一、通用机器学习 AI 训练五大核心步骤适用于传统人工智能、图像模型、预测模型、普通算法模型等所有常规AI项目。1. 任务定义与目标确认明确模型需要实现的具体功能,区分任务类型,包括分类、回归、预测、识别、聚类、生成等。同时设定对应的效果评估标准,确定模型优化方向与验收指标。2. 数据准备与数据集划分这是AI训练最核心、最耗时的环节,具体包含:• 数据收集:采集模型训练所...
- 《强化学习与最优控制》第 5.1-5.3 节 · 无穷阶段强化学习第 4 章建立了无穷阶段 DP 的精确算法(值迭代、策略迭代)。现在放松"精确"和"已知模型"两个假设,进入强化学习的核心:拟合值迭代、Q 学习、DQN。 一、值空间近似的性能界 设定折扣问题,J~\tilde{J}J~ 是 J∗J^*J∗ 的近似,一步前瞻策略:μ~(i)=argminu∑jpij(u)[g(i,u,j)... 《强化学习与最优控制》第 5.1-5.3 节 · 无穷阶段强化学习第 4 章建立了无穷阶段 DP 的精确算法(值迭代、策略迭代)。现在放松"精确"和"已知模型"两个假设,进入强化学习的核心:拟合值迭代、Q 学习、DQN。 一、值空间近似的性能界 设定折扣问题,J~\tilde{J}J~ 是 J∗J^*J∗ 的近似,一步前瞻策略:μ~(i)=argminu∑jpij(u)[g(i,u,j)...
- 线性回归是机器学习最基础的算法之一。本文从通俗定义出发,系统讲解线性回归的数学核心原理(模型假设、MSE损失函数、最小二乘法与梯度下降),厘清其与人工智能的层级关系,并覆盖应用场景、优缺点及工程落地关键点,帮你一次性打通从理论到实践的完整链路。 线性回归是机器学习最基础的算法之一。本文从通俗定义出发,系统讲解线性回归的数学核心原理(模型假设、MSE损失函数、最小二乘法与梯度下降),厘清其与人工智能的层级关系,并覆盖应用场景、优缺点及工程落地关键点,帮你一次性打通从理论到实践的完整链路。
- Pre-Delta-X: L2 AVIRIS-NG Surface Spectral Reflectance across MRD, LA, USA, 2015-2016简介本二级(L2)数据集提供了 2015-2016 年间在美国路易斯安那州沿海密西西比河三角洲(MRD)的阿查法拉亚河和特雷博恩河流域采集的地表光谱反射率数据。数据包括经过地理校正的朗伯等效地表反射率图像以及针对双向反射分... Pre-Delta-X: L2 AVIRIS-NG Surface Spectral Reflectance across MRD, LA, USA, 2015-2016简介本二级(L2)数据集提供了 2015-2016 年间在美国路易斯安那州沿海密西西比河三角洲(MRD)的阿查法拉亚河和特雷博恩河流域采集的地表光谱反射率数据。数据包括经过地理校正的朗伯等效地表反射率图像以及针对双向反射分...
- 在昇腾NPU的 Intrinsic_vmax(或类似的 Intrinsic 函数)中,intrinsic 的意思是内建的、固有的。来源于计算机科学中的 编译器与硬件指令 的概念。对它的理解可以分三步看:普通函数调用(如 my_add(a,b)):编译器把普通函数编译成很多条通用机器指令。执行过程需要“调用-返回”的开销,且不一定能充分利用CPU(或NPU)的特殊能力。内联汇编(如 asm("... 在昇腾NPU的 Intrinsic_vmax(或类似的 Intrinsic 函数)中,intrinsic 的意思是内建的、固有的。来源于计算机科学中的 编译器与硬件指令 的概念。对它的理解可以分三步看:普通函数调用(如 my_add(a,b)):编译器把普通函数编译成很多条通用机器指令。执行过程需要“调用-返回”的开销,且不一定能充分利用CPU(或NPU)的特殊能力。内联汇编(如 asm("...
- 摘要:随着大参数大模型分布式训练、多机多卡并行推理、长时序数据对齐以及故障溯源需求持续增长,智算中心不再只关注算力、带宽与存储指标,全域时间同步能力逐渐成为容易被忽视的底层底座。普通NTP授时精度不足、抖动大、缺少可靠守时与溯源能力,无法满足大规模GPU集群协同工作要求。高精度时统服务器依托高稳晶振/铷钟守时、PTP+NTP多协议协同、时间审计溯源等能力,为分布式训练任务提供统一、稳定、可追... 摘要:随着大参数大模型分布式训练、多机多卡并行推理、长时序数据对齐以及故障溯源需求持续增长,智算中心不再只关注算力、带宽与存储指标,全域时间同步能力逐渐成为容易被忽视的底层底座。普通NTP授时精度不足、抖动大、缺少可靠守时与溯源能力,无法满足大规模GPU集群协同工作要求。高精度时统服务器依托高稳晶振/铷钟守时、PTP+NTP多协议协同、时间审计溯源等能力,为分布式训练任务提供统一、稳定、可追...
- 8 张 A100 80GB 上跑 13B,把纯数据并行配 ZeRO-1、张量并行 8 路、流水线并行 4 段乘 2 路三条路线放在同一套条件下各跑 300 步,给出单卡显存峰值、全卡吞吐、通信占比三组数字,再按单卡是否放得下、是否需要跨机两个问题给出选型顺序。 8 张 A100 80GB 上跑 13B,把纯数据并行配 ZeRO-1、张量并行 8 路、流水线并行 4 段乘 2 路三条路线放在同一套条件下各跑 300 步,给出单卡显存峰值、全卡吞吐、通信占比三组数字,再按单卡是否放得下、是否需要跨机两个问题给出选型顺序。
- Keras 3 架构解析(四):训练系统——从损失函数到梯度优化与训练循环 引言在前三篇文章中,我们分别介绍了 Keras 3 的基础计算层、神经网络层与模型构建层。基础计算层通过 Keras Ops 与多后端架构,为模型提供统一的张量运算能力。神经网络层通过 Layer 抽象,将数学计算、可训练参数与内部状态组织为可复用的计算组件。模型构建层则通过 Model 抽象,将多个网络层组合成完... Keras 3 架构解析(四):训练系统——从损失函数到梯度优化与训练循环 引言在前三篇文章中,我们分别介绍了 Keras 3 的基础计算层、神经网络层与模型构建层。基础计算层通过 Keras Ops 与多后端架构,为模型提供统一的张量运算能力。神经网络层通过 Layer 抽象,将数学计算、可训练参数与内部状态组织为可复用的计算组件。模型构建层则通过 Model 抽象,将多个网络层组合成完...
- 当业界默认“前沿模型 = 万亿参数 MoE + 数亿美元算力”时,AI 芯片设计公司 Ricursive Intelligence 本周放出了一个反例:Ripple-65B Preview,65B 稠密(dense)Transformer,Apache 2.0 开源,官方称全部研发成本仅 3200 万美元,并在 TerminalBench 2.1 上拿到 80.52 分,自称美国开源模型最高... 当业界默认“前沿模型 = 万亿参数 MoE + 数亿美元算力”时,AI 芯片设计公司 Ricursive Intelligence 本周放出了一个反例:Ripple-65B Preview,65B 稠密(dense)Transformer,Apache 2.0 开源,官方称全部研发成本仅 3200 万美元,并在 TerminalBench 2.1 上拿到 80.52 分,自称美国开源模型最高...
- 8 张 A100 80GB 上跑 13B,把数据并行配 ZeRO、张量并行 8 路、流水线并行 4 段乘 2 路三条路线在同一套条件下各跑 300 步,给出显存峰值、全卡吞吐、通信占比三组数字,并给出按显存与是否跨机判断的选型顺序。 8 张 A100 80GB 上跑 13B,把数据并行配 ZeRO、张量并行 8 路、流水线并行 4 段乘 2 路三条路线在同一套条件下各跑 300 步,给出显存峰值、全卡吞吐、通信占比三组数字,并给出按显存与是否跨机判断的选型顺序。
- 《强化学习与最优控制》第 4 章 · 无穷阶段动态规划有限阶段问题有明确的终止时刻 NNN。但很多实际问题——持续运行的控制系统、不终止的博弈、在线服务——需要无穷阶段模型。这会带来数学上的新挑战,但也带来优美的结构。 一、为什么需要无穷阶段?场景阶段数模型走出迷宫有限(到达终点即止)有限阶段下一盘棋有限(分出胜负即止)有限阶段控制无人机持续飞行无限无穷阶段股票交易无限无穷阶段机器人持续工作... 《强化学习与最优控制》第 4 章 · 无穷阶段动态规划有限阶段问题有明确的终止时刻 NNN。但很多实际问题——持续运行的控制系统、不终止的博弈、在线服务——需要无穷阶段模型。这会带来数学上的新挑战,但也带来优美的结构。 一、为什么需要无穷阶段?场景阶段数模型走出迷宫有限(到达终点即止)有限阶段下一盘棋有限(分出胜负即止)有限阶段控制无人机持续飞行无限无穷阶段股票交易无限无穷阶段机器人持续工作...
- 很多团队第一次把大模型接进业务,都会遇到同一个落差:训练阶段耗的是预算,推理阶段耗的是耐心。模型在测试集上跑得挺好,一上线,延迟、并发、账单三样东西同时失控。问题通常不在模型本身,而在推理这条链路。一、推理不是 “小号的训练”训练是一次性的大计算,目标是吞吐和集群利用率;推理是持续性的小计算,目标变成单次延迟和单位成本。这两件事对硬件的要求几乎相反。训练阶段,卡越多越好、互联越快越好,因为要... 很多团队第一次把大模型接进业务,都会遇到同一个落差:训练阶段耗的是预算,推理阶段耗的是耐心。模型在测试集上跑得挺好,一上线,延迟、并发、账单三样东西同时失控。问题通常不在模型本身,而在推理这条链路。一、推理不是 “小号的训练”训练是一次性的大计算,目标是吞吐和集群利用率;推理是持续性的小计算,目标变成单次延迟和单位成本。这两件事对硬件的要求几乎相反。训练阶段,卡越多越好、互联越快越好,因为要...
- 11 月 5 日,百度在世界大会上开源了文心 5.5 Flash Base(ERNIE 5.5 Flash Base),权重挂在 Hugging Face 上,FP8 与 BF16 两种格式。稀疏 MoE,总参数 280B,每 token 激活 14B,33.5 万亿 token 从零预训练。发布材料里有一句话,比任何分数都更像这份工作的说明书:从注意力、残差连接到 MoE 层和输出头,逐个... 11 月 5 日,百度在世界大会上开源了文心 5.5 Flash Base(ERNIE 5.5 Flash Base),权重挂在 Hugging Face 上,FP8 与 BF16 两种格式。稀疏 MoE,总参数 280B,每 token 激活 14B,33.5 万亿 token 从零预训练。发布材料里有一句话,比任何分数都更像这份工作的说明书:从注意力、残差连接到 MoE 层和输出头,逐个...
- 决策树(Decision Tree)是机器学习中最经典、最容易解释的算法之一。它通过不断寻找合适的特征和分裂阈值,将复杂的预测问题转换为一系列判断规则,最终完成分类或回归任务。 决策树(Decision Tree)是机器学习中最经典、最容易解释的算法之一。它通过不断寻找合适的特征和分裂阈值,将复杂的预测问题转换为一系列判断规则,最终完成分类或回归任务。
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签