- 总体来看，本次实践不仅验证了 Llama-2-7b 在国产平台上的可行性，也让我对国产 AI 算力的成熟度、研发体验以及未来可持续优化方向有了更直观的认知。 总体来看，本次实践不仅验证了 Llama-2-7b 在国产平台上的可行性，也让我对国产 AI 算力的成熟度、研发体验以及未来可持续优化方向有了更直观的认知。
- 昇腾 在大模型推理中的性能和稳定性令人印象深刻，其硬件加速优势在实际任务中得到了充分验证。配合 GitCode 平台的云端开发环境，开发者能够轻松部署和测试大模型，享受快速、高效、安全的实验体验。无论是科研验证、教学演示还是轻量应用开发，这一组合都提供了强有力的技术支持，为国产 AI 算力生态的发展注入了活力与信心。 昇腾 在大模型推理中的性能和稳定性令人印象深刻，其硬件加速优势在实际任务中得到了充分验证。配合 GitCode 平台的云端开发环境，开发者能够轻松部署和测试大模型，享受快速、高效、安全的实验体验。无论是科研验证、教学演示还是轻量应用开发，这一组合都提供了强有力的技术支持，为国产 AI 算力生态的发展注入了活力与信心。
- 昇腾 （Ascend）是由华为自主研发的新一代 专用人工智能处理器（AI Processor），核心目标是为深度学习训练与推理任务提供高性能、低功耗的计算支持。与传统 CPU 或 GPU 不同，NPU 采用了 “算子级优化 + 并行加速架构” 的设计理念，其底层指令集与内存控制逻辑完全围绕神经网络计算特点进行优化，能够实现更高的计算密度与能效比。 昇腾 （Ascend）是由华为自主研发的新一代 专用人工智能处理器（AI Processor），核心目标是为深度学习训练与推理任务提供高性能、低功耗的计算支持。与传统 CPU 或 GPU 不同，NPU 采用了 “算子级优化 + 并行加速架构” 的设计理念，其底层指令集与内存控制逻辑完全围绕神经网络计算特点进行优化，能够实现更高的计算密度与能效比。
- 在本次评测中，我们通过图像分类任务的实战演示，完整呈现了 CANN 在 AI 开发流程中的落地应用。从 PyTorch GPU 训练脚本到昇腾 NPU 环境的迁移，CANN 提供了高效、可复用的工具链，使开发者能够在最小改动的前提下，实现训练脚本的快速迁移和加速执行。通过 GPU2Ascend 自动迁移库，原本需要手动适配的模型和算子，现在可以直接在 NPU 上运行，同时保持计算精度和性能一致性。 在本次评测中，我们通过图像分类任务的实战演示，完整呈现了 CANN 在 AI 开发流程中的落地应用。从 PyTorch GPU 训练脚本到昇腾 NPU 环境的迁移，CANN 提供了高效、可复用的工具链，使开发者能够在最小改动的前提下，实现训练脚本的快速迁移和加速执行。通过 GPU2Ascend 自动迁移库，原本需要手动适配的模型和算子，现在可以直接在 NPU 上运行，同时保持计算精度和性能一致性。
- CANN（Compute Architecture for Neural Networks）作为华为面向昇腾硬件打造的异构计算架构，通过算子库、图引擎、框架适配及开发者工具链，为 AI 应用开发提供了系统化、可复用的解决方案。本篇文章将深入解析 CANN 的特性能力，并结合核心产品特性，展示其在简化 AI 开发和提升计算效率方面的优势。 CANN（Compute Architecture for Neural Networks）作为华为面向昇腾硬件打造的异构计算架构，通过算子库、图引擎、框架适配及开发者工具链，为 AI 应用开发提供了系统化、可复用的解决方案。本篇文章将深入解析 CANN 的特性能力，并结合核心产品特性，展示其在简化 AI 开发和提升计算效率方面的优势。
- CANN 通过高效的异构计算架构和灵活的算子调度机制，使单个 NPU 能够在同一时间高效处理图像、音频、文本等多种模态的数据，实现真正的多模态 AI 计算能力。借助 CANN 的算子优化和图引擎调度，开发者可以在保持低延迟的同时处理复杂的数据融合任务，从而支持实时分析和智能决策。 在应用场景中，这种高性能多模态处理能力尤为突出。例如，在智能安防系统中，CANN 能够同步处理视频监控画面和环境音频 CANN 通过高效的异构计算架构和灵活的算子调度机制，使单个 NPU 能够在同一时间高效处理图像、音频、文本等多种模态的数据，实现真正的多模态 AI 计算能力。借助 CANN 的算子优化和图引擎调度，开发者可以在保持低延迟的同时处理复杂的数据融合任务，从而支持实时分析和智能决策。 在应用场景中，这种高性能多模态处理能力尤为突出。例如，在智能安防系统中，CANN 能够同步处理视频监控画面和环境音频
- 一、CANN开源破壁垒：大模型PD分离部署D2D特性快速落地在大模型推理场景中，预填充（Prefill）与解码（Decode）阶段的计算特性差异显著：Prefill 阶段需处理长序列输入，对算力需求集中；Decode 阶段则以 token-by-token 生成为主，存在频繁的数据交互开销。传统部署方案将两者绑定在同一硬件节点，Prefill和Decode阶段共享硬件资源，且存在资源冗余现象... 一、CANN开源破壁垒：大模型PD分离部署D2D特性快速落地在大模型推理场景中，预填充（Prefill）与解码（Decode）阶段的计算特性差异显著：Prefill 阶段需处理长序列输入，对算力需求集中；Decode 阶段则以 token-by-token 生成为主，存在频繁的数据交互开销。传统部署方案将两者绑定在同一硬件节点，Prefill和Decode阶段共享硬件资源，且存在资源冗余现象...
- 本文详细介绍了在OrangePi AI Studio上使用Docker容器部署MindIE环境并运行Qwen2.5-VL-7B-Instruct多模态大模型实现吸烟动作识别的完整过程，验证了在Ascned 310p设备上运行多模态理解大模型的可靠性。 本文详细介绍了在OrangePi AI Studio上使用Docker容器部署MindIE环境并运行Qwen2.5-VL-7B-Instruct多模态大模型实现吸烟动作识别的完整过程，验证了在Ascned 310p设备上运行多模态理解大模型的可靠性。
- 解锁昇腾算力：Ascend C算子开发中的多层接口抽象与自动并行计算技术🎯 昇腾CANN训练营报名信息2025年昇腾CANN训练营第二季报名链接： https://www.hiascend.com/developer/activities/cann20252#cann-camp-2502-intro 训练营简介： 2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入... 解锁昇腾算力：Ascend C算子开发中的多层接口抽象与自动并行计算技术🎯 昇腾CANN训练营报名信息2025年昇腾CANN训练营第二季报名链接： https://www.hiascend.com/developer/activities/cann20252#cann-camp-2502-intro 训练营简介： 2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入...
- 从理论到实践：深度解析昇腾CANN训练营中的Ascend C编程模型训练营简介2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入门系列、码力全开特辑、开发者案例等专题课程，助力不同阶段开发者快速提升算子开发技能。 获得Ascend C算子中级认证，即可领取精美证书，完成社区任务更有机会赢取华为手机、平板、开发板等大奖。训练营报名链接： https://www.hia... 从理论到实践：深度解析昇腾CANN训练营中的Ascend C编程模型训练营简介2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入门系列、码力全开特辑、开发者案例等专题课程，助力不同阶段开发者快速提升算子开发技能。 获得Ascend C算子中级认证，即可领取精美证书，完成社区任务更有机会赢取华为手机、平板、开发板等大奖。训练营报名链接： https://www.hia...
- 1 简介本文以 Ascend / CANN 的常见路径为例（官方文档常把“算子开发”分为：Ascend C（C/C++算子）、TBE（Tensor Boost Engine）算子、以及用 ATC 把单算子 JSON 编译成离线模型等）。步骤写成工程化 checklist，并附上简短示例/伪代码，方便上手参考。 2 CANN（Ascend）算子开发：典型流程（工程化步骤 + 示例）典型步骤（... 1 简介本文以 Ascend / CANN 的常见路径为例（官方文档常把“算子开发”分为：Ascend C（C/C++算子）、TBE（Tensor Boost Engine）算子、以及用 ATC 把单算子 JSON 编译成离线模型等）。步骤写成工程化 checklist，并附上简短示例/伪代码，方便上手参考。 2 CANN（Ascend）算子开发：典型流程（工程化步骤 + 示例）典型步骤（...
- 1 简介什么是CANN计算CANN（Compute Architecture for Neural Networks）？官方解释昇腾计算产业是基于昇腾系列（HUAWEI Ascend）处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务，包括昇腾系列处理器、系列硬件、CANN（Compute Architecture for Neural Networks，异构计算架构）、AI计算... 1 简介什么是CANN计算CANN（Compute Architecture for Neural Networks）？官方解释昇腾计算产业是基于昇腾系列（HUAWEI Ascend）处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务，包括昇腾系列处理器、系列硬件、CANN（Compute Architecture for Neural Networks，异构计算架构）、AI计算...
- 昇腾 NPU 在大模型推理中的性能和稳定性令人印象深刻，其硬件加速优势在实际任务中得到了充分验证。配合 GitCode 平台的云端开发环境，开发者能够轻松部署和测试大模型，享受快速、高效、安全的实验体验。无论是科研验证、教学演示还是轻量应用开发，这一组合都提供了强有力的技术支持，为国产 AI 算力生态的发展注入了活力与信心。 昇腾 NPU 在大模型推理中的性能和稳定性令人印象深刻，其硬件加速优势在实际任务中得到了充分验证。配合 GitCode 平台的云端开发环境，开发者能够轻松部署和测试大模型，享受快速、高效、安全的实验体验。无论是科研验证、教学演示还是轻量应用开发，这一组合都提供了强有力的技术支持，为国产 AI 算力生态的发展注入了活力与信心。
- 在实际部署中，可以通过多种策略进一步提升昇腾NPU910B的大模型推理效率。首先，Prompt 优化能够通过控制输入长度和复杂度显著提高吞吐量与响应速度。其次，采用 FP16 量化加载 可在显存受限的场景下有效降低资源占用，同时保持较高的推理性能。此外，结合 多轮生成与批量处理，配合异步调度或流水线机制，可以进一步提升大规模文本生成任务的整体效率。 在实际部署中，可以通过多种策略进一步提升昇腾NPU910B的大模型推理效率。首先，Prompt 优化能够通过控制输入长度和复杂度显著提高吞吐量与响应速度。其次，采用 FP16 量化加载 可在显存受限的场景下有效降低资源占用，同时保持较高的推理性能。此外，结合 多轮生成与批量处理，配合异步调度或流水线机制，可以进一步提升大规模文本生成任务的整体效率。
- 本次实践不仅验证了 Llama-2-7b 模型在国产昇腾平台上的可行性与稳定性，更重要的是展现了 中国自主AI算力体系已具备支持主流大模型落地的能力。这对于未来AI大模型的国产化训练与推理具有战略意义，也为科研机构和企业提供了可信赖的本土化替代路径。 本次实践不仅验证了 Llama-2-7b 模型在国产昇腾平台上的可行性与稳定性，更重要的是展现了 中国自主AI算力体系已具备支持主流大模型落地的能力。这对于未来AI大模型的国产化训练与推理具有战略意义，也为科研机构和企业提供了可信赖的本土化替代路径。
上滑加载中
推荐直播
-
码道新技能，AI 新生产力——从自动视频生成到开源项目解析2026/04/08 周三 19:00-21:00
童得力-华为云开发者生态运营总监/何文强-无人机企业AI提效负责人
本次华为云码道 Skill 实战活动，聚焦两大 AI 开发场景：通过实战教学，带你打造 AI 编程自动生成视频 Skill，并实现对 GitHub 热门开源项目的智能知识抽取，手把手掌握 Skill 开发全流程，用 AI 提升研发效率与内容生产力。
回顾中 -
华为云码道：零代码股票智能决策平台全功能实战2026/04/18 周六 10:00-12:00
秦拳德-中软国际教育卓越研究院研究员、华为云金牌讲师、云原生技术专家
利用Tushare接口获取实时行情数据，采用Transformer算法进行时序预测与涨跌分析，并集成DeepSeek API提供智能解读。同时，项目深度结合华为云CodeArts（码道）的代码智能体能力，实现代码一键推送至云端代码仓库，建立起高效、可协作的团队开发新范式。开发者可快速上手，从零打造功能完整的个股筛选、智能分析与风险管控产品。
回顾中 -
华为云码道全新升级，多会话并行与多智能体协作2026/05/08 周五 19:00-21:00
王一男-华为云码道产品专家；张嘉冉-华为云码道工程师；胡琦-华为云HCDE；程诗杰-华为云HCDG
华为云码道4月份版本全新升级，此次直播深度解读4月份产品特性，通过“特性解读+实操演示+实战案例+设计创新”的组合，全方位展现码道在多会话并行与多智能体协作方面的能力，赋能开发者提升效率
正在直播
热门标签