- InternLM2.5是由InternAI开发的大语言模型，基于 Transformer 架构进行改进，采用了更深层的网络结构和优化的训练策略，提升了模型的推理速度和生成质量。该模型以支持多种自然语言处理任务为目标，包括文本生成、翻译、对话、问答、信息抽取等。拥有卓越的推理能力，在数学推理方面取得了向量级模型最优精度，超越了Llama3；有效支持百万字超长上下文；支持用户可以根据自己的需求通过特定 InternLM2.5是由InternAI开发的大语言模型，基于 Transformer 架构进行改进，采用了更深层的网络结构和优化的训练策略，提升了模型的推理速度和生成质量。该模型以支持多种自然语言处理任务为目标，包括文本生成、翻译、对话、问答、信息抽取等。拥有卓越的推理能力，在数学推理方面取得了向量级模型最优精度，超越了Llama3；有效支持百万字超长上下文；支持用户可以根据自己的需求通过特定
- Whisper 是由 OpenAI 开发的通用语音识别模型，基于大规模的弱监督训练数据，涵盖了多种语音任务，如多语言语音识别、语音翻译和语言识别。其模型架构为基于 Transformer 的编码器-解码器模型，能够处理长达 30 秒的音频片段，并通过预测序列标记来实现多个任务。相比于特定领域的模型，Whisper 更加通用，并且能够在不同数据集上展示出更高的鲁棒性。 Whisper 是由 OpenAI 开发的通用语音识别模型，基于大规模的弱监督训练数据，涵盖了多种语音任务，如多语言语音识别、语音翻译和语言识别。其模型架构为基于 Transformer 的编码器-解码器模型，能够处理长达 30 秒的音频片段，并通过预测序列标记来实现多个任务。相比于特定领域的模型，Whisper 更加通用，并且能够在不同数据集上展示出更高的鲁棒性。
- F5-TTS是一个文本到语音（TTS）工具，能够生成高质量、自然流畅的语音。其主要功能包括多语言支持、情感表达和语音克隆，能够模拟不同说话人的声音特点。广泛应用于虚拟助手、有声读物、客服系统和智能音箱等场景。本任务的主要目的是让F5-TTS在Ascend NPU上高效运行，确保项目在平台上具备良好的兼容性和性能，扩大其在AI和深度学习领域的竞争力和影响力。 F5-TTS是一个文本到语音（TTS）工具，能够生成高质量、自然流畅的语音。其主要功能包括多语言支持、情感表达和语音克隆，能够模拟不同说话人的声音特点。广泛应用于虚拟助手、有声读物、客服系统和智能音箱等场景。本任务的主要目的是让F5-TTS在Ascend NPU上高效运行，确保项目在平台上具备良好的兼容性和性能，扩大其在AI和深度学习领域的竞争力和影响力。
- 关注【昇腾CANN】视频号快速预约直播！B站观看链接：https://live.bilibili.com/h5/23361884昇腾社区观看链接：https://www.hiascend.com/developer/cann20242?tab=live#cann-camp-2402-live-course 关注【昇腾CANN】视频号快速预约直播！B站观看链接：https://live.bilibili.com/h5/23361884昇腾社区观看链接：https://www.hiascend.com/developer/cann20242?tab=live#cann-camp-2402-live-course
- 1. 背景介绍开源for Huawei（参考：https://developer.huaweicloud.com/programs/opensource/contributing/） 通过和公司、高校、社区的开发者合作，完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发，帮助繁荣Huawei的基础生态，同时让开源软件能够更加简单、高效的运行于华为云上。开始之前，开发者可以下载 ... 1. 背景介绍开源for Huawei（参考：https://developer.huaweicloud.com/programs/opensource/contributing/） 通过和公司、高校、社区的开发者合作，完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发，帮助繁荣Huawei的基础生态，同时让开源软件能够更加简单、高效的运行于华为云上。开始之前，开发者可以下载 ...
- PaddleOCR是一套丰富的OCR工具库开源项目，支持文字检测、文字方向检测、多语种文本识别、手写体文本识别等多种OCR相关前沿算法。本文将介绍在华为的Ascend NPU上配置PaddleOCR 项目的过程中遇到的问题和解决方案，以及心得总结。 PaddleOCR是一套丰富的OCR工具库开源项目，支持文字检测、文字方向检测、多语种文本识别、手写体文本识别等多种OCR相关前沿算法。本文将介绍在华为的Ascend NPU上配置PaddleOCR 项目的过程中遇到的问题和解决方案，以及心得总结。
- 扫码关注【昇腾CANN】视频号快速预约直播！扫描问卷二维码，填写问卷在线收集问题并解答！B站观看链接：https://live.bilibili.com/h5/23361884 昇腾社区观看链接：https://www.hiascend.com/developer/cann20242?tab=live#cann-camp-2402-live-course 扫码关注【昇腾CANN】视频号快速预约直播！扫描问卷二维码，填写问卷在线收集问题并解答！B站观看链接：https://live.bilibili.com/h5/23361884 昇腾社区观看链接：https://www.hiascend.com/developer/cann20242?tab=live#cann-camp-2402-live-course
- 单算子API调用方式，是指直接调用单算子API接口，基于C语言的API执行算子。算子工程AscendC从入门到精通系列（三）基于自定义算子工程开发AscendC算子 - 知乎 (zhihu.com)创建完成后，基于工程代码框架完成算子原型定义、kernel侧算子实现、host侧tiling实现，通过工程编译脚本完成算子的编译部署，之后再进行单算子API的调用。 1 基本原理完成自定义算子编译... 单算子API调用方式，是指直接调用单算子API接口，基于C语言的API执行算子。算子工程AscendC从入门到精通系列（三）基于自定义算子工程开发AscendC算子 - 知乎 (zhihu.com)创建完成后，基于工程代码框架完成算子原型定义、kernel侧算子实现、host侧tiling实现，通过工程编译脚本完成算子的编译部署，之后再进行单算子API的调用。 1 基本原理完成自定义算子编译...
- 如果已经通过Ascend C编程语言实现了算子，那该如何通过pybind进行调用呢？ 1 Pybind调用介绍通过PyTorch框架进行模型的训练、推理时，会调用很多算子进行计算，其中的调用方式与kernel编译流程有关。对于自定义算子工程，需要使用PyTorch Ascend Adapter中的OP-Plugin算子插件对功能进行扩展，让torch可以直接调用自定义算子包中的算子，详细内容... 如果已经通过Ascend C编程语言实现了算子，那该如何通过pybind进行调用呢？ 1 Pybind调用介绍通过PyTorch框架进行模型的训练、推理时，会调用很多算子进行计算，其中的调用方式与kernel编译流程有关。对于自定义算子工程，需要使用PyTorch Ascend Adapter中的OP-Plugin算子插件对功能进行扩展，让torch可以直接调用自定义算子包中的算子，详细内容...
- 本次主要讨论下AscendC另外一种开发流程，基于自定义算子工程的算子开发。从算子工程创建、代码编写、编译部署到运行验证的开发全流程，让您对算子开发工程有个宏观的认识，此处我们以输入是动态shape（主要体现在tiling）的Add算子实现为例，为了与内置Add算子区分，定义算子类型为AddCustom。 1、创建工程CANN软件包中提供了工程创建工具msOpGen，开发者可以输入算子原型定... 本次主要讨论下AscendC另外一种开发流程，基于自定义算子工程的算子开发。从算子工程创建、代码编写、编译部署到运行验证的开发全流程，让您对算子开发工程有个宏观的认识，此处我们以输入是动态shape（主要体现在tiling）的Add算子实现为例，为了与内置Add算子区分，定义算子类型为AddCustom。 1、创建工程CANN软件包中提供了工程创建工具msOpGen，开发者可以输入算子原型定...
- 本次主要讨论下AscendC算子的开发流程，基于Kernel直调工程的算子开发。 1 AscendC算子开发的基本流程使用Ascend C完成Add算子核函数开发；使用ICPU_RUN_KF CPU调测宏完成算子核函数CPU侧运行验证；使用<<<>>>内核调用符完成算子核函数NPU侧运行验证。在正式的开发之前，还需要先完成环境准备和算子分析工作，开发Ascend C算子的基本流程如下图所示：... 本次主要讨论下AscendC算子的开发流程，基于Kernel直调工程的算子开发。 1 AscendC算子开发的基本流程使用Ascend C完成Add算子核函数开发；使用ICPU_RUN_KF CPU调测宏完成算子核函数CPU侧运行验证；使用<<<>>>内核调用符完成算子核函数NPU侧运行验证。在正式的开发之前，还需要先完成环境准备和算子分析工作，开发Ascend C算子的基本流程如下图所示：...
- 一、背景介绍Whisper 是由 OpenAI 开发的通用语音识别模型，基于大规模的弱监督训练数据，涵盖了多种语音任务，如多语言语音识别、语音翻译和语言识别。其模型架构为基于 Transformer 的编码器-解码器模型，能够处理长达 30 秒的音频片段，并通过预测序列标记来实现多个任务。相比于特定领域的模型，Whisper 更加通用，并且能够在不同数据集上展示出更高的鲁棒性。二、过程拉取镜... 一、背景介绍Whisper 是由 OpenAI 开发的通用语音识别模型，基于大规模的弱监督训练数据，涵盖了多种语音任务，如多语言语音识别、语音翻译和语言识别。其模型架构为基于 Transformer 的编码器-解码器模型，能够处理长达 30 秒的音频片段，并通过预测序列标记来实现多个任务。相比于特定领域的模型，Whisper 更加通用，并且能够在不同数据集上展示出更高的鲁棒性。二、过程拉取镜...
- Ascend C是CANN针对算子开发场景推出的编程语言，原生支持C和C++标准规范，兼具开发效率和运行性能。基于Ascend C编写的算子程序，通过编译器编译和运行时调度，运行在昇腾AI处理器上。使用Ascend C，开发者可以基于昇腾AI硬件，高效的实现自定义的创新算法。 Ascend C是CANN针对算子开发场景推出的编程语言，原生支持C和C++标准规范，兼具开发效率和运行性能。基于Ascend C编写的算子程序，通过编译器编译和运行时调度，运行在昇腾AI处理器上。使用Ascend C，开发者可以基于昇腾AI硬件，高效的实现自定义的创新算法。
- CANN（Compute Architecture for Neural Networks）提供了算子加速库（Ascend Operator Library，简称AOL）。该库提供了一系列丰富且深度优化过的高性能算子API，更亲和昇腾AI处理器，调用流程如图1所示。开发者可直接调用算子库API使能模型创新与应用，以进一步提升开发效率和获取极致模型性能。 CANN（Compute Architecture for Neural Networks）提供了算子加速库（Ascend Operator Library，简称AOL）。该库提供了一系列丰富且深度优化过的高性能算子API，更亲和昇腾AI处理器，调用流程如图1所示。开发者可直接调用算子库API使能模型创新与应用，以进一步提升开发效率和获取极致模型性能。
- MindIE LLM是MindIE解决方案下的大语言模型推理组件，基于昇腾硬件提供业界通用大模型推理能力，同时提供多并发请求的调度功能，支持Continuous Batching、PageAttention、FlashDecoding等加速特性，使能用户高性能推理需求。 MindIE LLM是MindIE解决方案下的大语言模型推理组件，基于昇腾硬件提供业界通用大模型推理能力，同时提供多并发请求的调度功能，支持Continuous Batching、PageAttention、FlashDecoding等加速特性，使能用户高性能推理需求。
上滑加载中
推荐直播
-
物联网资深专家带你轻松构建AIoT智能场景应用2024/11/21 周四 16:30-18:00
管老师 华为云IoT DTSE技术布道师
如何轻松构建AIoT智能场景应用？本期直播将聚焦华为云设备接入平台，结合AI、鸿蒙（OpenHarmony）、大数据等技术，实现物联网端云协同创新场景，教您如何打造更有实用性及创新性的AIoT行业标杆应用。
回顾中 -
Ascend C算子编程之旅：基础入门篇2024/11/22 周五 16:00-17:30
莫老师 昇腾CANN专家
介绍Ascend C算子基本概念、异构计算架构CANN和Ascend C基本概述，以及Ascend C快速入门，夯实Ascend C算子编程基础
即将直播 -
深入解析：华为全栈AI解决方案与云智能开放能力2024/11/22 周五 18:20-20:20
Alex 华为云学堂技术讲师
本期直播我们将重点为大家介绍华为全栈全场景AI解决方案以和华为云企业智能AI开放能力。旨在帮助开发者深入理解华为AI解决方案，并能够更加熟练地运用这些技术。通过洞悉华为解决方案，了解人工智能完整生态链条的构造。
去报名
热门标签