- CANN算子-基于 TBE DSL 的自定义算子开发全流程解析（训练营深度实践篇）在昇腾生态不断扩大、多样化 AI 工作负载日益增长的今天，如何高效、安全、可控地构建自定义算子成为许多开发者的核心诉求。华为 CANN（Compute Architecture for Neural Networks）提供的 TBE（Tensor Boost Engine）算子开发框架，不仅包含传统 Sche... CANN算子-基于 TBE DSL 的自定义算子开发全流程解析（训练营深度实践篇）在昇腾生态不断扩大、多样化 AI 工作负载日益增长的今天，如何高效、安全、可控地构建自定义算子成为许多开发者的核心诉求。华为 CANN（Compute Architecture for Neural Networks）提供的 TBE（Tensor Boost Engine）算子开发框架，不仅包含传统 Sche...
- 总体来看，本次实践不仅验证了 Llama-2-7b 在国产平台上的可行性，也让我对国产 AI 算力的成熟度、研发体验以及未来可持续优化方向有了更直观的认知。 总体来看，本次实践不仅验证了 Llama-2-7b 在国产平台上的可行性，也让我对国产 AI 算力的成熟度、研发体验以及未来可持续优化方向有了更直观的认知。
- 昇腾 在大模型推理中的性能和稳定性令人印象深刻，其硬件加速优势在实际任务中得到了充分验证。配合 GitCode 平台的云端开发环境，开发者能够轻松部署和测试大模型，享受快速、高效、安全的实验体验。无论是科研验证、教学演示还是轻量应用开发，这一组合都提供了强有力的技术支持，为国产 AI 算力生态的发展注入了活力与信心。 昇腾 在大模型推理中的性能和稳定性令人印象深刻，其硬件加速优势在实际任务中得到了充分验证。配合 GitCode 平台的云端开发环境，开发者能够轻松部署和测试大模型，享受快速、高效、安全的实验体验。无论是科研验证、教学演示还是轻量应用开发，这一组合都提供了强有力的技术支持，为国产 AI 算力生态的发展注入了活力与信心。
- 昇腾 （Ascend）是由华为自主研发的新一代 专用人工智能处理器（AI Processor），核心目标是为深度学习训练与推理任务提供高性能、低功耗的计算支持。与传统 CPU 或 GPU 不同，NPU 采用了 “算子级优化 + 并行加速架构” 的设计理念，其底层指令集与内存控制逻辑完全围绕神经网络计算特点进行优化，能够实现更高的计算密度与能效比。 昇腾 （Ascend）是由华为自主研发的新一代 专用人工智能处理器（AI Processor），核心目标是为深度学习训练与推理任务提供高性能、低功耗的计算支持。与传统 CPU 或 GPU 不同，NPU 采用了 “算子级优化 + 并行加速架构” 的设计理念，其底层指令集与内存控制逻辑完全围绕神经网络计算特点进行优化，能够实现更高的计算密度与能效比。
- 在本次评测中，我们通过图像分类任务的实战演示，完整呈现了 CANN 在 AI 开发流程中的落地应用。从 PyTorch GPU 训练脚本到昇腾 NPU 环境的迁移，CANN 提供了高效、可复用的工具链，使开发者能够在最小改动的前提下，实现训练脚本的快速迁移和加速执行。通过 GPU2Ascend 自动迁移库，原本需要手动适配的模型和算子，现在可以直接在 NPU 上运行，同时保持计算精度和性能一致性。 在本次评测中，我们通过图像分类任务的实战演示，完整呈现了 CANN 在 AI 开发流程中的落地应用。从 PyTorch GPU 训练脚本到昇腾 NPU 环境的迁移，CANN 提供了高效、可复用的工具链，使开发者能够在最小改动的前提下，实现训练脚本的快速迁移和加速执行。通过 GPU2Ascend 自动迁移库，原本需要手动适配的模型和算子，现在可以直接在 NPU 上运行，同时保持计算精度和性能一致性。
- CANN（Compute Architecture for Neural Networks）作为华为面向昇腾硬件打造的异构计算架构，通过算子库、图引擎、框架适配及开发者工具链，为 AI 应用开发提供了系统化、可复用的解决方案。本篇文章将深入解析 CANN 的特性能力，并结合核心产品特性，展示其在简化 AI 开发和提升计算效率方面的优势。 CANN（Compute Architecture for Neural Networks）作为华为面向昇腾硬件打造的异构计算架构，通过算子库、图引擎、框架适配及开发者工具链，为 AI 应用开发提供了系统化、可复用的解决方案。本篇文章将深入解析 CANN 的特性能力，并结合核心产品特性，展示其在简化 AI 开发和提升计算效率方面的优势。
- CANN 通过高效的异构计算架构和灵活的算子调度机制，使单个 NPU 能够在同一时间高效处理图像、音频、文本等多种模态的数据，实现真正的多模态 AI 计算能力。借助 CANN 的算子优化和图引擎调度，开发者可以在保持低延迟的同时处理复杂的数据融合任务，从而支持实时分析和智能决策。 在应用场景中，这种高性能多模态处理能力尤为突出。例如，在智能安防系统中，CANN 能够同步处理视频监控画面和环境音频 CANN 通过高效的异构计算架构和灵活的算子调度机制，使单个 NPU 能够在同一时间高效处理图像、音频、文本等多种模态的数据，实现真正的多模态 AI 计算能力。借助 CANN 的算子优化和图引擎调度，开发者可以在保持低延迟的同时处理复杂的数据融合任务，从而支持实时分析和智能决策。 在应用场景中，这种高性能多模态处理能力尤为突出。例如，在智能安防系统中，CANN 能够同步处理视频监控画面和环境音频
- 一、CANN开源破壁垒：大模型PD分离部署D2D特性快速落地在大模型推理场景中，预填充（Prefill）与解码（Decode）阶段的计算特性差异显著：Prefill 阶段需处理长序列输入，对算力需求集中；Decode 阶段则以 token-by-token 生成为主，存在频繁的数据交互开销。传统部署方案将两者绑定在同一硬件节点，Prefill和Decode阶段共享硬件资源，且存在资源冗余现象... 一、CANN开源破壁垒：大模型PD分离部署D2D特性快速落地在大模型推理场景中，预填充（Prefill）与解码（Decode）阶段的计算特性差异显著：Prefill 阶段需处理长序列输入，对算力需求集中；Decode 阶段则以 token-by-token 生成为主，存在频繁的数据交互开销。传统部署方案将两者绑定在同一硬件节点，Prefill和Decode阶段共享硬件资源，且存在资源冗余现象...
- 本文详细介绍了在OrangePi AI Studio上使用Docker容器部署MindIE环境并运行Qwen2.5-VL-7B-Instruct多模态大模型实现吸烟动作识别的完整过程，验证了在Ascned 310p设备上运行多模态理解大模型的可靠性。 本文详细介绍了在OrangePi AI Studio上使用Docker容器部署MindIE环境并运行Qwen2.5-VL-7B-Instruct多模态大模型实现吸烟动作识别的完整过程，验证了在Ascned 310p设备上运行多模态理解大模型的可靠性。
- 解锁昇腾算力：Ascend C算子开发中的多层接口抽象与自动并行计算技术🎯 昇腾CANN训练营报名信息2025年昇腾CANN训练营第二季报名链接： https://www.hiascend.com/developer/activities/cann20252#cann-camp-2502-intro 训练营简介： 2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入... 解锁昇腾算力：Ascend C算子开发中的多层接口抽象与自动并行计算技术🎯 昇腾CANN训练营报名信息2025年昇腾CANN训练营第二季报名链接： https://www.hiascend.com/developer/activities/cann20252#cann-camp-2502-intro 训练营简介： 2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入...
- 从理论到实践：深度解析昇腾CANN训练营中的Ascend C编程模型训练营简介2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入门系列、码力全开特辑、开发者案例等专题课程，助力不同阶段开发者快速提升算子开发技能。 获得Ascend C算子中级认证，即可领取精美证书，完成社区任务更有机会赢取华为手机、平板、开发板等大奖。训练营报名链接： https://www.hia... 从理论到实践：深度解析昇腾CANN训练营中的Ascend C编程模型训练营简介2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入门系列、码力全开特辑、开发者案例等专题课程，助力不同阶段开发者快速提升算子开发技能。 获得Ascend C算子中级认证，即可领取精美证书，完成社区任务更有机会赢取华为手机、平板、开发板等大奖。训练营报名链接： https://www.hia...
- 1 简介本文以 Ascend / CANN 的常见路径为例（官方文档常把“算子开发”分为：Ascend C（C/C++算子）、TBE（Tensor Boost Engine）算子、以及用 ATC 把单算子 JSON 编译成离线模型等）。步骤写成工程化 checklist，并附上简短示例/伪代码，方便上手参考。 2 CANN（Ascend）算子开发：典型流程（工程化步骤 + 示例）典型步骤（... 1 简介本文以 Ascend / CANN 的常见路径为例（官方文档常把“算子开发”分为：Ascend C（C/C++算子）、TBE（Tensor Boost Engine）算子、以及用 ATC 把单算子 JSON 编译成离线模型等）。步骤写成工程化 checklist，并附上简短示例/伪代码，方便上手参考。 2 CANN（Ascend）算子开发：典型流程（工程化步骤 + 示例）典型步骤（...
- 1 简介什么是CANN计算CANN（Compute Architecture for Neural Networks）？官方解释昇腾计算产业是基于昇腾系列（HUAWEI Ascend）处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务，包括昇腾系列处理器、系列硬件、CANN（Compute Architecture for Neural Networks，异构计算架构）、AI计算... 1 简介什么是CANN计算CANN（Compute Architecture for Neural Networks）？官方解释昇腾计算产业是基于昇腾系列（HUAWEI Ascend）处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务，包括昇腾系列处理器、系列硬件、CANN（Compute Architecture for Neural Networks，异构计算架构）、AI计算...
- 昇腾 NPU 在大模型推理中的性能和稳定性令人印象深刻，其硬件加速优势在实际任务中得到了充分验证。配合 GitCode 平台的云端开发环境，开发者能够轻松部署和测试大模型，享受快速、高效、安全的实验体验。无论是科研验证、教学演示还是轻量应用开发，这一组合都提供了强有力的技术支持，为国产 AI 算力生态的发展注入了活力与信心。 昇腾 NPU 在大模型推理中的性能和稳定性令人印象深刻，其硬件加速优势在实际任务中得到了充分验证。配合 GitCode 平台的云端开发环境，开发者能够轻松部署和测试大模型，享受快速、高效、安全的实验体验。无论是科研验证、教学演示还是轻量应用开发，这一组合都提供了强有力的技术支持，为国产 AI 算力生态的发展注入了活力与信心。
- 在实际部署中，可以通过多种策略进一步提升昇腾NPU910B的大模型推理效率。首先，Prompt 优化能够通过控制输入长度和复杂度显著提高吞吐量与响应速度。其次，采用 FP16 量化加载 可在显存受限的场景下有效降低资源占用，同时保持较高的推理性能。此外，结合 多轮生成与批量处理，配合异步调度或流水线机制，可以进一步提升大规模文本生成任务的整体效率。 在实际部署中，可以通过多种策略进一步提升昇腾NPU910B的大模型推理效率。首先，Prompt 优化能够通过控制输入长度和复杂度显著提高吞吐量与响应速度。其次，采用 FP16 量化加载 可在显存受限的场景下有效降低资源占用，同时保持较高的推理性能。此外，结合 多轮生成与批量处理，配合异步调度或流水线机制，可以进一步提升大规模文本生成任务的整体效率。
上滑加载中
推荐直播
-
HDC深度解读系列 - Serverless与MCP融合创新，构建AI应用全新智能中枢2025/08/20 周三 16:30-18:00
张昆鹏 HCDG北京核心组代表
HDC2025期间，华为云展示了Serverless与MCP融合创新的解决方案，本期访谈直播，由华为云开发者专家(HCDE)兼华为云开发者社区组织HCDG北京核心组代表张鹏先生主持，华为云PaaS服务产品部 Serverless总监Ewen为大家深度解读华为云Serverless与MCP如何融合构建AI应用全新智能中枢
回顾中 -
关于RISC-V生态发展的思考2025/09/02 周二 17:00-18:00
中国科学院计算技术研究所副所长包云岗教授
中科院包云岗老师将在本次直播中，探讨处理器生态的关键要素及其联系，分享过去几年推动RISC-V生态建设实践过程中的经验与教训。
回顾中 -
一键搞定华为云万级资源，3步轻松管理企业成本2025/09/09 周二 15:00-16:00
阿言 华为云交易产品经理
本直播重点介绍如何一键续费万级资源，3步轻松管理成本，帮助提升日常管理效率！
回顾中
热门标签