- 华为CANN自定义算子开发全流程解析 —— 以Add算子为例随着AI算力的快速发展，硬件加速器在深度学习模型的高效执行中扮演着重要角色。华为Ascend系列NPU提供了强大的计算能力，而CANN（Compute Architecture for Neural Networks）则为开发者提供了丰富的算子开发工具和接口。在本文中，我们将通过一个具体示例——Add自定义算子，详细解析Ascen... 华为CANN自定义算子开发全流程解析 —— 以Add算子为例随着AI算力的快速发展，硬件加速器在深度学习模型的高效执行中扮演着重要角色。华为Ascend系列NPU提供了强大的计算能力，而CANN（Compute Architecture for Neural Networks）则为开发者提供了丰富的算子开发工具和接口。在本文中，我们将通过一个具体示例——Add自定义算子，详细解析Ascen...
- 华为 CANN 算子开发全解析：从执行模型到工程化落地的深度实践指南在大模型时代，AI 基础设施不再以纯硬件算力为核心竞争力，真正决定训练与推理效率的，是算力能否被充分释放。而在华为 Ascend 处理器体系中，这一切的底层基础能力都通过 CANN（Compute Architecture for Neural Networks）提供的算子机制得以构建。算子不仅是算力的最小调度单元，更是模... 华为 CANN 算子开发全解析：从执行模型到工程化落地的深度实践指南在大模型时代，AI 基础设施不再以纯硬件算力为核心竞争力，真正决定训练与推理效率的，是算力能否被充分释放。而在华为 Ascend 处理器体系中，这一切的底层基础能力都通过 CANN（Compute Architecture for Neural Networks）提供的算子机制得以构建。算子不仅是算力的最小调度单元，更是模...
- 深入解析华为CANN算子开发-从TensorFlow框架到昇腾AI执行（训练营深度实战篇）在人工智能加速器的开发实践中，算子（Operator）是连接高层框架与底层硬件的关键纽带。华为昇腾AI处理器通过CANN（Compute Architecture for Neural Networks）提供了高性能算子开发框架，使开发者能够将主流深度学习框架如TensorFlow的算子映射到硬件上执... 深入解析华为CANN算子开发-从TensorFlow框架到昇腾AI执行（训练营深度实战篇）在人工智能加速器的开发实践中，算子（Operator）是连接高层框架与底层硬件的关键纽带。华为昇腾AI处理器通过CANN（Compute Architecture for Neural Networks）提供了高性能算子开发框架，使开发者能够将主流深度学习框架如TensorFlow的算子映射到硬件上执...
- 华为CANN算子开发深度解析在深度学习模型加速中，算子是最核心的计算单元，而华为CANN框架为昇腾AI处理器提供了完整的算子开发与优化生态。CANN不仅允许开发者实现单个算子的高性能Kernel，还支持算子入图，通过GE（Graph Engine）在图模式下优化模型执行效率，减少内存占用，并支持多流并行和内存复用。算子开发流程以工程化为基础：首先通过msOpGen创建算子工程，定义算子原型... 华为CANN算子开发深度解析在深度学习模型加速中，算子是最核心的计算单元，而华为CANN框架为昇腾AI处理器提供了完整的算子开发与优化生态。CANN不仅允许开发者实现单个算子的高性能Kernel，还支持算子入图，通过GE（Graph Engine）在图模式下优化模型执行效率，减少内存占用，并支持多流并行和内存复用。算子开发流程以工程化为基础：首先通过msOpGen创建算子工程，定义算子原型...
- 在昇腾 AI 全栈软件体系中，CANN（Compute Architecture for Neural Networks）算子是模型能够在昇腾处理器高效运行的核心基础。不同于一般意义上的 AI 框架算子实现，CANN算子体系直接面向底层硬件，围绕多种计算单元提供高性能执行路径。理解算子类型、开发方式以及编译运行流程，对于算子开发者、框架适配人员乃至模型性能调优者，都具有关键价值。 在昇腾 AI 全栈软件体系中，CANN（Compute Architecture for Neural Networks）算子是模型能够在昇腾处理器高效运行的核心基础。不同于一般意义上的 AI 框架算子实现，CANN算子体系直接面向底层硬件，围绕多种计算单元提供高性能执行路径。理解算子类型、开发方式以及编译运行流程，对于算子开发者、框架适配人员乃至模型性能调优者，都具有关键价值。
- CANN算子-基于 TBE DSL 的自定义算子开发全流程解析（训练营深度实践篇）在昇腾生态不断扩大、多样化 AI 工作负载日益增长的今天，如何高效、安全、可控地构建自定义算子成为许多开发者的核心诉求。华为 CANN（Compute Architecture for Neural Networks）提供的 TBE（Tensor Boost Engine）算子开发框架，不仅包含传统 Sche... CANN算子-基于 TBE DSL 的自定义算子开发全流程解析（训练营深度实践篇）在昇腾生态不断扩大、多样化 AI 工作负载日益增长的今天，如何高效、安全、可控地构建自定义算子成为许多开发者的核心诉求。华为 CANN（Compute Architecture for Neural Networks）提供的 TBE（Tensor Boost Engine）算子开发框架，不仅包含传统 Sche...
- 总体来看，本次实践不仅验证了 Llama-2-7b 在国产平台上的可行性，也让我对国产 AI 算力的成熟度、研发体验以及未来可持续优化方向有了更直观的认知。 总体来看，本次实践不仅验证了 Llama-2-7b 在国产平台上的可行性，也让我对国产 AI 算力的成熟度、研发体验以及未来可持续优化方向有了更直观的认知。
- 昇腾 在大模型推理中的性能和稳定性令人印象深刻，其硬件加速优势在实际任务中得到了充分验证。配合 GitCode 平台的云端开发环境，开发者能够轻松部署和测试大模型，享受快速、高效、安全的实验体验。无论是科研验证、教学演示还是轻量应用开发，这一组合都提供了强有力的技术支持，为国产 AI 算力生态的发展注入了活力与信心。 昇腾 在大模型推理中的性能和稳定性令人印象深刻，其硬件加速优势在实际任务中得到了充分验证。配合 GitCode 平台的云端开发环境，开发者能够轻松部署和测试大模型，享受快速、高效、安全的实验体验。无论是科研验证、教学演示还是轻量应用开发，这一组合都提供了强有力的技术支持，为国产 AI 算力生态的发展注入了活力与信心。
- 昇腾 （Ascend）是由华为自主研发的新一代 专用人工智能处理器（AI Processor），核心目标是为深度学习训练与推理任务提供高性能、低功耗的计算支持。与传统 CPU 或 GPU 不同，NPU 采用了 “算子级优化 + 并行加速架构” 的设计理念，其底层指令集与内存控制逻辑完全围绕神经网络计算特点进行优化，能够实现更高的计算密度与能效比。 昇腾 （Ascend）是由华为自主研发的新一代 专用人工智能处理器（AI Processor），核心目标是为深度学习训练与推理任务提供高性能、低功耗的计算支持。与传统 CPU 或 GPU 不同，NPU 采用了 “算子级优化 + 并行加速架构” 的设计理念，其底层指令集与内存控制逻辑完全围绕神经网络计算特点进行优化，能够实现更高的计算密度与能效比。
- 在本次评测中，我们通过图像分类任务的实战演示，完整呈现了 CANN 在 AI 开发流程中的落地应用。从 PyTorch GPU 训练脚本到昇腾 NPU 环境的迁移，CANN 提供了高效、可复用的工具链，使开发者能够在最小改动的前提下，实现训练脚本的快速迁移和加速执行。通过 GPU2Ascend 自动迁移库，原本需要手动适配的模型和算子，现在可以直接在 NPU 上运行，同时保持计算精度和性能一致性。 在本次评测中，我们通过图像分类任务的实战演示，完整呈现了 CANN 在 AI 开发流程中的落地应用。从 PyTorch GPU 训练脚本到昇腾 NPU 环境的迁移，CANN 提供了高效、可复用的工具链，使开发者能够在最小改动的前提下，实现训练脚本的快速迁移和加速执行。通过 GPU2Ascend 自动迁移库，原本需要手动适配的模型和算子，现在可以直接在 NPU 上运行，同时保持计算精度和性能一致性。
- CANN（Compute Architecture for Neural Networks）作为华为面向昇腾硬件打造的异构计算架构，通过算子库、图引擎、框架适配及开发者工具链，为 AI 应用开发提供了系统化、可复用的解决方案。本篇文章将深入解析 CANN 的特性能力，并结合核心产品特性，展示其在简化 AI 开发和提升计算效率方面的优势。 CANN（Compute Architecture for Neural Networks）作为华为面向昇腾硬件打造的异构计算架构，通过算子库、图引擎、框架适配及开发者工具链，为 AI 应用开发提供了系统化、可复用的解决方案。本篇文章将深入解析 CANN 的特性能力，并结合核心产品特性，展示其在简化 AI 开发和提升计算效率方面的优势。
- CANN 通过高效的异构计算架构和灵活的算子调度机制，使单个 NPU 能够在同一时间高效处理图像、音频、文本等多种模态的数据，实现真正的多模态 AI 计算能力。借助 CANN 的算子优化和图引擎调度，开发者可以在保持低延迟的同时处理复杂的数据融合任务，从而支持实时分析和智能决策。 在应用场景中，这种高性能多模态处理能力尤为突出。例如，在智能安防系统中，CANN 能够同步处理视频监控画面和环境音频 CANN 通过高效的异构计算架构和灵活的算子调度机制，使单个 NPU 能够在同一时间高效处理图像、音频、文本等多种模态的数据，实现真正的多模态 AI 计算能力。借助 CANN 的算子优化和图引擎调度，开发者可以在保持低延迟的同时处理复杂的数据融合任务，从而支持实时分析和智能决策。 在应用场景中，这种高性能多模态处理能力尤为突出。例如，在智能安防系统中，CANN 能够同步处理视频监控画面和环境音频
- 一、CANN开源破壁垒：大模型PD分离部署D2D特性快速落地在大模型推理场景中，预填充（Prefill）与解码（Decode）阶段的计算特性差异显著：Prefill 阶段需处理长序列输入，对算力需求集中；Decode 阶段则以 token-by-token 生成为主，存在频繁的数据交互开销。传统部署方案将两者绑定在同一硬件节点，Prefill和Decode阶段共享硬件资源，且存在资源冗余现象... 一、CANN开源破壁垒：大模型PD分离部署D2D特性快速落地在大模型推理场景中，预填充（Prefill）与解码（Decode）阶段的计算特性差异显著：Prefill 阶段需处理长序列输入，对算力需求集中；Decode 阶段则以 token-by-token 生成为主，存在频繁的数据交互开销。传统部署方案将两者绑定在同一硬件节点，Prefill和Decode阶段共享硬件资源，且存在资源冗余现象...
- 本文详细介绍了在OrangePi AI Studio上使用Docker容器部署MindIE环境并运行Qwen2.5-VL-7B-Instruct多模态大模型实现吸烟动作识别的完整过程，验证了在Ascned 310p设备上运行多模态理解大模型的可靠性。 本文详细介绍了在OrangePi AI Studio上使用Docker容器部署MindIE环境并运行Qwen2.5-VL-7B-Instruct多模态大模型实现吸烟动作识别的完整过程，验证了在Ascned 310p设备上运行多模态理解大模型的可靠性。
- 解锁昇腾算力：Ascend C算子开发中的多层接口抽象与自动并行计算技术🎯 昇腾CANN训练营报名信息2025年昇腾CANN训练营第二季报名链接： https://www.hiascend.com/developer/activities/cann20252#cann-camp-2502-intro 训练营简介： 2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入... 解锁昇腾算力：Ascend C算子开发中的多层接口抽象与自动并行计算技术🎯 昇腾CANN训练营报名信息2025年昇腾CANN训练营第二季报名链接： https://www.hiascend.com/developer/activities/cann20252#cann-camp-2502-intro 训练营简介： 2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入...
上滑加载中
推荐直播
-
HDC深度解读系列 - Serverless与MCP融合创新，构建AI应用全新智能中枢2025/08/20 周三 16:30-18:00
张昆鹏 HCDG北京核心组代表
HDC2025期间，华为云展示了Serverless与MCP融合创新的解决方案，本期访谈直播，由华为云开发者专家(HCDE)兼华为云开发者社区组织HCDG北京核心组代表张鹏先生主持，华为云PaaS服务产品部 Serverless总监Ewen为大家深度解读华为云Serverless与MCP如何融合构建AI应用全新智能中枢
回顾中 -
关于RISC-V生态发展的思考2025/09/02 周二 17:00-18:00
中国科学院计算技术研究所副所长包云岗教授
中科院包云岗老师将在本次直播中，探讨处理器生态的关键要素及其联系，分享过去几年推动RISC-V生态建设实践过程中的经验与教训。
回顾中 -
一键搞定华为云万级资源，3步轻松管理企业成本2025/09/09 周二 15:00-16:00
阿言 华为云交易产品经理
本直播重点介绍如何一键续费万级资源，3步轻松管理成本，帮助提升日常管理效率！
回顾中
热门标签