- BGE-M3是首个集多语言（Multi-Linguality）、多粒度（Multi-Granularity）、多功能（Multi-Functionality）三大技术特征于一体的语义向量模型, 本文介绍了如何使用昇腾推理该模型的方法 BGE-M3是首个集多语言（Multi-Linguality）、多粒度（Multi-Granularity）、多功能（Multi-Functionality）三大技术特征于一体的语义向量模型, 本文介绍了如何使用昇腾推理该模型的方法
- ViT是2020年Google团队提出的将Transformer应用在图像分类的模型，虽然不是第一篇将transformer应用在视觉任务的论文，但是因为其模型“简单”且效果好，可扩展性强，成为了transformer在CV领域应用的里程碑著作，本文介绍了如何使用昇腾 推理该模型。 ViT是2020年Google团队提出的将Transformer应用在图像分类的模型，虽然不是第一篇将transformer应用在视觉任务的论文，但是因为其模型“简单”且效果好，可扩展性强，成为了transformer在CV领域应用的里程碑著作，本文介绍了如何使用昇腾 推理该模型。
- 主要目标是将 DeepSpeed 项目适配至华为的 Ascend（昇腾）和 Kunpeng（鲲鹏）处理器，并确保其在OpenEuler上高效运行。 主要目标是将 DeepSpeed 项目适配至华为的 Ascend（昇腾）和 Kunpeng（鲲鹏）处理器，并确保其在OpenEuler上高效运行。
- CodeGeeX4-ALL-9B是最新的 CodeGeex 系列模型的开源版本，是由 THUDM 推出的全能开源多语言代码生成模型，该模型是在 Codegeex 基础上持续训练的多语言代码生成模型，显著提升了代码生成能力。 截至2024年11月122日，CodeGeeX4在GitHub上拥有1.5k的star和116的fork，有8名贡献者。最近一次代码提交时间为2024年11月19日。 CodeGeeX4-ALL-9B是最新的 CodeGeex 系列模型的开源版本，是由 THUDM 推出的全能开源多语言代码生成模型，该模型是在 Codegeex 基础上持续训练的多语言代码生成模型，显著提升了代码生成能力。 截至2024年11月122日，CodeGeeX4在GitHub上拥有1.5k的star和116的fork，有8名贡献者。最近一次代码提交时间为2024年11月19日。
- Llm_aided_ocr是一个基于LLM的OCR扫描PDF开源工具，旨在通过利用多模态大语言模型（LLM）将原始的OCR扫描PDF文本转换成高准确度、格式正确且易于阅读的Markdown文档。首先将PDF文件转图像，进行OCR扫描处理提取文本，再利用本地LLM或API（如OpenAI）纠正OCR错误，最后转换成高准确度、高质量的Markdown文本。 Llm_aided_ocr是一个基于LLM的OCR扫描PDF开源工具，旨在通过利用多模态大语言模型（LLM）将原始的OCR扫描PDF文本转换成高准确度、格式正确且易于阅读的Markdown文档。首先将PDF文件转图像，进行OCR扫描处理提取文本，再利用本地LLM或API（如OpenAI）纠正OCR错误，最后转换成高准确度、高质量的Markdown文本。
- 首先看了一下任务计划书：https://bbs.huaweicloud.com/blogs/437788 ，主要目的是让mmcv能够在Ascend NPU和Kunpeng CPU上高效运行，确保项目在平台上具备良好的兼容性和性能，扩大其在AI和深度学习领域的竞争力和影响力。即验证mmcv能不能在 Ascend（昇腾）和 Kunpeng（鲲鹏）处理器中运行。 首先看了一下任务计划书：https://bbs.huaweicloud.com/blogs/437788 ，主要目的是让mmcv能够在Ascend NPU和Kunpeng CPU上高效运行，确保项目在平台上具备良好的兼容性和性能，扩大其在AI和深度学习领域的竞争力和影响力。即验证mmcv能不能在 Ascend（昇腾）和 Kunpeng（鲲鹏）处理器中运行。
- 由任务计划书（https://bbs.huaweicloud.com/blogs/437834#H20）了解任务内容，主要目的是将Ollama项目适配至华为的Ascend Npu（昇腾）上，确保在昇腾上正常运行，并完成模型推理任务。1 开发过程 也即在服务器上利用ollama部署大模型，并有效完成推理任务。打开Ollama网址：GitHub - ollama/o... 由任务计划书（https://bbs.huaweicloud.com/blogs/437834#H20）了解任务内容，主要目的是将Ollama项目适配至华为的Ascend Npu（昇腾）上，确保在昇腾上正常运行，并完成模型推理任务。1 开发过程 也即在服务器上利用ollama部署大模型，并有效完成推理任务。打开Ollama网址：GitHub - ollama/o...
- Llama-factory适配昇腾开源验证任务心得根据任务计划书（https://bbs.huaweicloud.com/blogs/437813）了解任务内容，主要目的是在昇腾npu上利用 Llama-factory完成一个大模型的训练推理，确保其在昇腾上能够正常运行。开发过程明确目的后开始熟悉框架，Llama-factory的github网址：https://github.com/hiy... Llama-factory适配昇腾开源验证任务心得根据任务计划书（https://bbs.huaweicloud.com/blogs/437813）了解任务内容，主要目的是在昇腾npu上利用 Llama-factory完成一个大模型的训练推理，确保其在昇腾上能够正常运行。开发过程明确目的后开始熟悉框架，Llama-factory的github网址：https://github.com/hiy...
- CogVideoX是智谱AI开发的视频生成大模型。无需复杂的视频制作技能和工具，能够将简短的文本描述或静态图片转化为高质量、具有视觉吸引力的动态视频。本文将介绍在华为的Ascend NPU上配置CogVideoX项目的过程中遇到的问题和解决方案，以及心得总结。 CogVideoX是智谱AI开发的视频生成大模型。无需复杂的视频制作技能和工具，能够将简短的文本描述或静态图片转化为高质量、具有视觉吸引力的动态视频。本文将介绍在华为的Ascend NPU上配置CogVideoX项目的过程中遇到的问题和解决方案，以及心得总结。
- CodeGeeX4-ALL-9B是最新的 CodeGeeX4 系列模型的开源版本，是由 THUDM 推出的全能开源多语言代码生成模型，该模型是在 Codegeex 基础上持续训练的多语言代码生成模型，显著提升了代码生成能力。本文的主要目的是将Codegeex项目移植到华为的 Ascend NPU、Kunpeng CPU 以及 OpenEuler 操作系统上，确保其在这些平台上的性能优化和正常运行。 CodeGeeX4-ALL-9B是最新的 CodeGeeX4 系列模型的开源版本，是由 THUDM 推出的全能开源多语言代码生成模型，该模型是在 Codegeex 基础上持续训练的多语言代码生成模型，显著提升了代码生成能力。本文的主要目的是将Codegeex项目移植到华为的 Ascend NPU、Kunpeng CPU 以及 OpenEuler 操作系统上，确保其在这些平台上的性能优化和正常运行。
- Parler-TTS 是一个完全开源的文本到语音转换项目，本文是把该模型适配到昇腾npu并进行推理的心得以及操作过程 Parler-TTS 是一个完全开源的文本到语音转换项目，本文是把该模型适配到昇腾npu并进行推理的心得以及操作过程
- VLLM是一个开源的高性能大语言模型推理库，旨在实现大规模语言模型的快速推理。本任务的主要目的是将VLLM项目移植到华为的昇腾、鲲鹏处理器和Euler系统上，确保其在这些平台上的性能和正常运行。 VLLM是一个开源的高性能大语言模型推理库，旨在实现大规模语言模型的快速推理。本任务的主要目的是将VLLM项目移植到华为的昇腾、鲲鹏处理器和Euler系统上，确保其在这些平台上的性能和正常运行。
- 一、任务需求首先了解熟悉任务计划书（https://bbs.huaweicloud.com/blogs/440073），目的需求是将 Langchain-Chatchat 项目适配至华为的 Ascend（昇腾）和 Kunpeng（鲲鹏）处理器，确保模型能在这些硬件平台上的高效运行，需要注意系统架构是aarch64。二、过程明确需求后开始熟悉模型，了解其需要的配置和环境要求。0. 软硬件要求软... 一、任务需求首先了解熟悉任务计划书（https://bbs.huaweicloud.com/blogs/440073），目的需求是将 Langchain-Chatchat 项目适配至华为的 Ascend（昇腾）和 Kunpeng（鲲鹏）处理器，确保模型能在这些硬件平台上的高效运行，需要注意系统架构是aarch64。二、过程明确需求后开始熟悉模型，了解其需要的配置和环境要求。0. 软硬件要求软...
- GPT-SoVITS 训练推理 适配昇腾 GPT-SoVITS 训练推理 适配昇腾
- 基于vits训练适配昇腾 基于vits训练适配昇腾
上滑加载中
推荐直播
-
OpenHarmony应用开发之网络数据请求与数据解析2025/01/16 周四 19:00-20:30
华为开发者布道师、南京师范大学泰州学院副教授，硕士研究生导师，开放原子教育银牌认证讲师
科技浪潮中，鸿蒙生态强势崛起，OpenHarmony开启智能终端无限可能。当下，其原生应用开发适配潜力巨大，终端设备已广泛融入生活各场景，从家居到办公、穿戴至车载。 现在，机会敲门！我们的直播聚焦OpenHarmony关键的网络数据请求与解析，抛开晦涩理论，用真实案例带你掌握数据访问接口，轻松应对复杂网络请求、精准解析Json与Xml数据。参与直播，为开发鸿蒙App夯实基础，抢占科技新高地，别错过！
回顾中 -
Ascend C高层API设计原理与实现系列2025/01/17 周五 15:30-17:00
Ascend C 技术专家
以LayerNorm算子开发为例，讲解开箱即用的Ascend C高层API
回顾中
热门标签