- 本文不展开产品选型,只聚焦工程层面如何把方案做稳。现状与问题在原有架构下,核心瓶颈集中在 缓存命中率:本地缓存 + 分布式缓存两级。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 OBS 替换原方案中耦合较重的部分,把 缓存命中率 拆成独立可水平扩展的单元。关键点有三:1. 热点 key 打散到多分片2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便于回滚落地与... 本文不展开产品选型,只聚焦工程层面如何把方案做稳。现状与问题在原有架构下,核心瓶颈集中在 缓存命中率:本地缓存 + 分布式缓存两级。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 OBS 替换原方案中耦合较重的部分,把 缓存命中率 拆成独立可水平扩展的单元。关键点有三:1. 热点 key 打散到多分片2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便于回滚落地与...
- 下面按「问题定位 → 方案设计 → 落地验证 → 效果对比」四个阶段展开。现状与问题在原有架构下,核心瓶颈集中在 冷启动:预拉取减少按需加载抖动。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 CodeArts 替换原方案中耦合较重的部分,把 连接池 拆成独立可水平扩展的单元。关键点有三:1. 热点 key 打散到多分片2. 边界条件单独处理,避免主链路被污染3. 保留灰度... 下面按「问题定位 → 方案设计 → 落地验证 → 效果对比」四个阶段展开。现状与问题在原有架构下,核心瓶颈集中在 冷启动:预拉取减少按需加载抖动。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 CodeArts 替换原方案中耦合较重的部分,把 连接池 拆成独立可水平扩展的单元。关键点有三:1. 热点 key 打散到多分片2. 边界条件单独处理,避免主链路被污染3. 保留灰度...
- 本文不展开产品选型,只聚焦工程层面如何把方案做稳。现状与问题在原有架构下,核心瓶颈集中在 缓存命中率:连接复用并设置合理上限。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 HarmonyOS 替换原方案中耦合较重的部分,把 连接池 拆成独立可水平扩展的单元。关键点有三:1. 预拉取减少按需加载抖动2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便于回滚落地与验... 本文不展开产品选型,只聚焦工程层面如何把方案做稳。现状与问题在原有架构下,核心瓶颈集中在 缓存命中率:连接复用并设置合理上限。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 HarmonyOS 替换原方案中耦合较重的部分,把 连接池 拆成独立可水平扩展的单元。关键点有三:1. 预拉取减少按需加载抖动2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便于回滚落地与验...
- 当大模型从"尝鲜"走向"生产",开发者真正需要的不是一个孤立的训练工具,而是一条从数据到推理的完整流水线。华为云魔坊(ModelArts)正是为此而生。## 写在前面如果你关注 AI 领域,一定感受到了这两年的变化:大模型不再是实验室里的玩具,而是正在真真切切地走进自动驾驶、金融风控、医疗影像、矿山安全等各行各业。但与此同时,一个现实问题摆在每位开发者面前——**从"能跑通一个 demo"到... 当大模型从"尝鲜"走向"生产",开发者真正需要的不是一个孤立的训练工具,而是一条从数据到推理的完整流水线。华为云魔坊(ModelArts)正是为此而生。## 写在前面如果你关注 AI 领域,一定感受到了这两年的变化:大模型不再是实验室里的玩具,而是正在真真切切地走进自动驾驶、金融风控、医疗影像、矿山安全等各行各业。但与此同时,一个现实问题摆在每位开发者面前——**从"能跑通一个 demo"到...
- 记录华为云 AI 开发者空间体验版的进入流程、内置环境与第一个 Agent Web 应用实践,并总结体验版的使用注意事项与权限建议。 记录华为云 AI 开发者空间体验版的进入流程、内置环境与第一个 Agent Web 应用实践,并总结体验版的使用注意事项与权限建议。
- 本文结合近期项目实践,整理了一套相对通用的思路,希望对同行有所启发。现状与问题在原有架构下,核心瓶颈集中在 缓存命中率:本地缓存 + 分布式缓存两级。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 ModelArts 替换原方案中耦合较重的部分,把 缓存命中率 拆成独立可水平扩展的单元。关键点有三:1. 预拉取减少按需加载抖动2. 边界条件单独处理,避免主链路被污染3. 保... 本文结合近期项目实践,整理了一套相对通用的思路,希望对同行有所启发。现状与问题在原有架构下,核心瓶颈集中在 缓存命中率:本地缓存 + 分布式缓存两级。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 ModelArts 替换原方案中耦合较重的部分,把 缓存命中率 拆成独立可水平扩展的单元。关键点有三:1. 预拉取减少按需加载抖动2. 边界条件单独处理,避免主链路被污染3. 保...
- ModelArts 是华为云一站式 AI 开发平台,覆盖数据标注、模型训练到部署推理的全流程。本文用预置模型快速体验一次 AI 推理。前置条件已注册华为云账号并完成实名认证操作步骤进入控制台:搜索"ModelArts"进入控制台,首次使用会自动开通服务。获取模型:在"AI Gallery"中挑选一个预置模型(如图像分类),一键订阅并同步到自己的模型仓库。部署在线服务:在模型列表点击"部署",... ModelArts 是华为云一站式 AI 开发平台,覆盖数据标注、模型训练到部署推理的全流程。本文用预置模型快速体验一次 AI 推理。前置条件已注册华为云账号并完成实名认证操作步骤进入控制台:搜索"ModelArts"进入控制台,首次使用会自动开通服务。获取模型:在"AI Gallery"中挑选一个预置模型(如图像分类),一键订阅并同步到自己的模型仓库。部署在线服务:在模型列表点击"部署",...
- 本文聚焦企业大模型落地过程中的算力成本与推理时延痛点,基于华为云 ModelArts 平台与昇腾 NPU 硬件生态,完整梳理从环境配置、LoRA 轻量化微调、昇腾算子适配到基于 MindIE 的低时延推理服务部署全流程,并总结了生产环境调优的避坑指南。 本文聚焦企业大模型落地过程中的算力成本与推理时延痛点,基于华为云 ModelArts 平台与昇腾 NPU 硬件生态,完整梳理从环境配置、LoRA 轻量化微调、昇腾算子适配到基于 MindIE 的低时延推理服务部署全流程,并总结了生产环境调优的避坑指南。
- 本文结合近期项目实践,整理了一套相对通用的思路,希望对同行有所启发。现状与问题在原有架构下,核心瓶颈集中在 调度延迟:本地缓存 + 分布式缓存两级。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 CCE 替换原方案中耦合较重的部分,把 缓存命中率 拆成独立可水平扩展的单元。关键点有三:1. 本地缓存 + 分布式缓存两级2. 边界条件单独处理,避免主链路被污染3. 保留灰度开... 本文结合近期项目实践,整理了一套相对通用的思路,希望对同行有所启发。现状与问题在原有架构下,核心瓶颈集中在 调度延迟:本地缓存 + 分布式缓存两级。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 CCE 替换原方案中耦合较重的部分,把 缓存命中率 拆成独立可水平扩展的单元。关键点有三:1. 本地缓存 + 分布式缓存两级2. 边界条件单独处理,避免主链路被污染3. 保留灰度开...
- 背景:线上业务在流量峰值时出现明显抖动,借此机会做一次完整复盘。现状与问题在原有架构下,核心瓶颈集中在 写入链路:连接复用并设置合理上限。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 OBS 替换原方案中耦合较重的部分,把 写入链路 拆成独立可水平扩展的单元。关键点有三:1. 热点 key 打散到多分片2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便于回滚落... 背景:线上业务在流量峰值时出现明显抖动,借此机会做一次完整复盘。现状与问题在原有架构下,核心瓶颈集中在 写入链路:连接复用并设置合理上限。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 OBS 替换原方案中耦合较重的部分,把 写入链路 拆成独立可水平扩展的单元。关键点有三:1. 热点 key 打散到多分片2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便于回滚落...
- 本文分享在华为云AI办公实践中心的使用体验,从环境变量配置、云上开发调试到Issue提交的完整流程,帮助开发者快速上手AI办公实践中心。 本文分享在华为云AI办公实践中心的使用体验,从环境变量配置、云上开发调试到Issue提交的完整流程,帮助开发者快速上手AI办公实践中心。
- 在 ModelArts 开发环境里跑通一段练习代码练习代码可以放在云服务器上,也可以放在 ModelArts 开发环境里。这次只求一段代码能读入示例数据并打印结果。 1. 先准备区域选好后不要换开发环境用入门规格文件名:lab_score.py示例数据三行:姓名、城市、分数不写账号、密钥和真实手机号 2. 创建并运行进入 ModelArts,创建开发环境。打开 Notebook,新建 la... 在 ModelArts 开发环境里跑通一段练习代码练习代码可以放在云服务器上,也可以放在 ModelArts 开发环境里。这次只求一段代码能读入示例数据并打印结果。 1. 先准备区域选好后不要换开发环境用入门规格文件名:lab_score.py示例数据三行:姓名、城市、分数不写账号、密钥和真实手机号 2. 创建并运行进入 ModelArts,创建开发环境。打开 Notebook,新建 la...
- 随着开源大模型在企业级场景的广泛应用,如何科学评估模型在特定硬件底座上的“真实智力水平”与“极限并发吞吐”,成为 AI 基础设施团队的核心课题。本文将介绍如何从零构建一套支持多数据集(MMLU、GSM8K、MATH)与流式性能指标(TTFT、TPOT)的异步基准评测框架,并将其部署于华为云昇腾(Ascend)AI 云服务上,深度验证 PagedAttention 与前缀缓存(Prefix 随着开源大模型在企业级场景的广泛应用,如何科学评估模型在特定硬件底座上的“真实智力水平”与“极限并发吞吐”,成为 AI 基础设施团队的核心课题。本文将介绍如何从零构建一套支持多数据集(MMLU、GSM8K、MATH)与流式性能指标(TTFT、TPOT)的异步基准评测框架,并将其部署于华为云昇腾(Ascend)AI 云服务上,深度验证 PagedAttention 与前缀缓存(Prefix
- 本文结合近期项目实践,整理了一套相对通用的思路,希望对同行有所启发。现状与问题在原有架构下,核心瓶颈集中在 连接池:改用二进制协议减少带宽。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 Kafka 替换原方案中耦合较重的部分,把 序列化开销 拆成独立可水平扩展的单元。关键点有三:1. 热点 key 打散到多分片2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便... 本文结合近期项目实践,整理了一套相对通用的思路,希望对同行有所启发。现状与问题在原有架构下,核心瓶颈集中在 连接池:改用二进制协议减少带宽。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 Kafka 替换原方案中耦合较重的部分,把 序列化开销 拆成独立可水平扩展的单元。关键点有三:1. 热点 key 打散到多分片2. 边界条件单独处理,避免主链路被污染3. 保留灰度开关,便...
- 下面按「问题定位 → 方案设计 → 落地验证 → 效果对比」四个阶段展开。现状与问题在原有架构下,核心瓶颈集中在 连接池:热点 key 打散到多分片。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 ArkTS 替换原方案中耦合较重的部分,把 缓存命中率 拆成独立可水平扩展的单元。关键点有三:1. 镜像预热 + 实例分级2. 边界条件单独处理,避免主链路被污染3. 保留灰度开... 下面按「问题定位 → 方案设计 → 落地验证 → 效果对比」四个阶段展开。现状与问题在原有架构下,核心瓶颈集中在 连接池:热点 key 打散到多分片。随着业务量增长,该问题在高峰期被进一步放大。方案设计整体思路是用 ArkTS 替换原方案中耦合较重的部分,把 缓存命中率 拆成独立可水平扩展的单元。关键点有三:1. 镜像预热 + 实例分级2. 边界条件单独处理,避免主链路被污染3. 保留灰度开...
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签