-
有这样的一个业务场景:场景出现了3个并发分支,这个场景是在终端产品上运行,产品硬件资源非常有限,同时有Python和Rust融合编程,Python实现功能,Rust在外层封装并对外提供接口,通过这样的模式,最终完成了场景功能开发。这个场景功能编程的经历,让我对Rust充满期待并非常看好它的未来发展。由于未来根据应用场景的不断涌现,使用Rust语言和其他编程语言混合使用的场景会越来越丰富,甚至在未来三年会有一个爆发式小高潮,因此Rust语言未来会出现井喷式发展趋势。Rust的优势非常多,在我司Rust主要是和C/C++混合的场景应用比较深,例如无线LTE单板软件的开发应用,这种语言对于要求编程安全和资源受限的场景来说,都非常适用的。例如它在安全方面的设计和限制因素,让很多语言的编程安全问题迎刃而解。例如,全局变量限制使用,内存泄漏的检查等,Rust有一套比较完整的机制措施。举了应用场景和Rust优势的例子后,我们来看看这些优势会带来哪些发展机会。机会点1——手机终端产品软件编程。由于手机终端产品的资源非常有限,但手机应用消耗资源会越来越大,这要求软硬件设计非常关注资源占用。对资源占用极度友好的编程语言Rust,它恰好符合这样的条件要求。机会点2——国防JD的软件编程。这是对安全级别要求最高的领域,涉及国家机密,因此选择为编程安全而生的Rust是不二之选。机会点3——未来出现一些超大型超复杂的业务场景,例如航天场景和深海探索场景,很多是复合场景。单一语言不能实现全部功能,需要结合另一种语言,二者融合在一个平台上应用。Rust编译框架适合语言混合使用的优势,让它跟其他编程语言共生,从而应用到超大型超复杂的业务场景。 “我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测,共创官方文档https://bbs.huaweicloud.com/forum/thread-0217170307934787108-1-1.html”
-
Modelarts里面有特别容易上手使用的自动学习,完全0编码0调参,它使用的技术是AutoML,下面是一些介绍。AutoML(Automated Machine Learning,自动化机器学习) 是一种通过自动化流程来简化机器学习模型开发的技术。它的目标是减少人工干预,使非专家用户也能高效地构建和部署机器学习模型。AutoML 涵盖了从数据预处理、特征工程、模型选择、超参数优化到模型部署的整个机器学习流程。AutoML 的核心组成部分数据预处理自动化自动处理缺失值、数据标准化、编码分类变量等。例如:自动检测数据中的异常值并进行处理。特征工程自动化自动生成、选择和转换特征。例如:自动创建交互特征、多项式特征或基于领域知识的特征。模型选择自动化自动选择适合任务的机器学习算法(如决策树、支持向量机、神经网络等)。例如:根据数据集的特点自动选择分类或回归模型。超参数优化自动化自动搜索模型的最佳超参数组合。常用方法:网格搜索(Grid Search)、随机搜索(Random Search)、贝叶斯优化(Bayesian Optimization)等。模型评估与选择自动评估模型的性能(如准确率、F1分数、AUC等),并选择最佳模型。例如:通过交叉验证自动比较多个模型的性能。模型部署自动化自动将训练好的模型部署到生产环境。例如:生成API接口或集成到现有系统中。AutoML 的优势降低门槛使非专家用户也能轻松使用机器学习技术。减少对数据科学家和机器学习工程师的依赖。提高效率自动化流程可以显著减少模型开发时间。快速迭代和实验,加速模型优化。减少人为错误自动化流程可以减少人为操作中的错误。例如:避免手动调参时的遗漏或错误。可扩展性可以处理大规模数据集和复杂任务。例如:自动扩展到分布式计算环境。最后,无论是初学者还是专家,都可以通过 AutoML 快速构建高性能的机器学习模型。
-
1. 猫狗分类数据集Kaggle Dogs vs. Cats简介:经典的猫狗分类数据集,包含猫和狗的图像。规模:25,000张图像(12,500张猫,12,500张狗)。图像大小:可变。用途:适合二分类任务,常用于深度学习入门。2. 花卉分类数据集Oxford 17 Category Flower Dataset简介:包含17种花卉类别的图像数据集。规模:每类80张图像,共1,360张图像。图像大小:可变。用途:适合中等规模的多类别分类任务。Kaggle Dogs vs. Cats 是一个经典的二分类数据集,适合入门和快速实验。Oxford 17 Category Flower Dataset 是一个中等规模的数据集,适合多类别分类任务。3. MNIST简介:手写数字数据集,包含0到9的灰度图像。规模:60,000张训练图像,10,000张测试图像。图像大小:28x28像素。用途:入门级数据集,常用于算法验证和教学。4. CIFAR-10简介:包含10个类别的彩色图像,如飞机、汽车、鸟、猫等。规模:50,000张训练图像,10,000张测试图像。图像大小:32x32像素。用途:适合初学者和中等复杂度的模型训练。5. CIFAR-100简介:CIFAR-10的扩展版本,包含100个类别。规模:50,000张训练图像,10,000张测试图像。图像大小:32x32像素。用途:适合更复杂的分类任务。6. ImageNet简介:大规模图像数据集,包含1,000个类别,涵盖广泛的物体和场景。规模:超过140万张训练图像,5万张验证图像。图像大小:可变(通常调整为224x224像素用于深度学习模型)。用途:深度学习模型的基准数据集,尤其是卷积神经网络(CNN)的预训练。对于初学者,可以从MNIST、CIFAR-10等小型数据集开始,逐步过渡到ImageNet等大规模数据集。
-
物体检测是物体分类基础上进一步的任务,下面是:物体检测开源数据集介绍1. PASCAL VOC简介: PASCAL VOC(Visual Object Classes)是物体检测领域的经典数据集,广泛应用于图像分类、目标检测、语义分割等任务。版本: 主要版本有VOC2007和VOC2012。数据量: 约11,000张图像,27,000个标注对象。类别: 20个类别,包括人、车、动物等。标注: 提供对象边界框和类别标签,部分数据包含像素级分割标注。特点: 数据量较小,适合算法验证和初步研究。2. MS COCO简介: MS COCO(Common Objects in Context)是微软发布的大规模数据集,适用于目标检测、分割、关键点检测等任务。数据量: 超过330,000张图像,2.5百万个标注实例。类别: 80个类别,涵盖日常物体。标注: 提供对象边界框、分割掩码、关键点等丰富标注。特点: 数据量大,场景复杂,适合训练深度学习模型。3. 其他相关数据集ImageNet: 主要用于图像分类,包含1400多万张图像,2万多个类别,部分数据有边界框标注。Open Images: 谷歌发布的大规模数据集,包含900多万张图像,600多个类别,标注包括边界框、分割掩码、关系标注等。KITTI: 专注于自动驾驶,提供2D和3D边界框、光流、深度图等标注。Cityscapes: 专注于城市场景语义理解,提供5000张精细标注和20000张粗略标注的图像,适用于语义分割和实例分割。LVIS: 针对长尾分布问题,包含1200多个类别,标注包括实例分割掩码。总结PASCAL VOC: 适合初步研究和算法验证。MS COCO: 适合深度学习模型训练和评估。其他数据集: 如ImageNet、Open Images、KITTI、Cityscapes、LVIS等,各有侧重,可根据需求选择。
-
一、案例介绍MateChat 致力于构建不同业务场景下高一致性的 GenAI 体验系统语言,同时匹配各种工具/平台的原生业务场景和界面特征,提供更适合研发工具领域的对话组件,打造流畅亲和、跨界一致、易学易用的用户体验,以及易接入、易维护、易扩展的开发体验。开源仓库地址: cid:link_6Mass(即 ModelArts Studio 大模型即服务平台)是华为云面向 AI 开发者推出的一站式大模型开发平台,支持开发者一键体验大模型能力,快速构建大模型应用。Mass 平台提供大模型训练、推理、部署、管理、监控等全生命周期管理能力,帮助开发者快速构建大模型应用,加速 AI 开发。开发者空间是华为云面向开发者提供的云上开发环境,支持开发者快速创建、部署、调试、运行、管理应用。开发者空间提供丰富的开发工具和资源,支持开发者快速构建应用,加速开发。本案例中我们使用华为云开发者空间,基于 MateChat 和 Mass 快速开发智能对话界面。二、免费领取云主机如您还没有云主机,可点击链接,根据领取指南进行操作。如您已领取云主机,可直接开始案例实践。三、操作流程💡 说明:本实验需要华为云账号,且经过实名认证本实验需要开发者空间账号,且经过实名认证如您还没有云主机,可点击链接,根据领取指南进行操作。仅“华东二”区域支持使用 ModelArts Studio 大模型即服务平台(MaaS)。MaaS 是白名单功能,请先申请权限。① 通过开发者空间云主机的 Firefox 浏览器访问并开通 ModelArts Studio 模型即服务。本次实验采用的 Qwen2_5-72B-Instruct 。② 通过终端从 cid:link_7 获取源代码,源代码基于 Vite+Vue3+Express 实现 MateChat 的应用。③ 通过 Firefox 浏览器访问本地部署的 MateChat 应用,体验智能对话。四、用到资源云资源消耗/时时长开发者空间-云主机免费30minModelArts Studio免费30min合计:0 元五、实践步骤1、环境开通及源代码获取1.1 配置云主机工欲善其事必先利其器,首先配置云主机并使用 Euler 的 JS 工具集(Nodejs + Git),当然如果您已经使用了其他环境,我们需要安装 NodeJS(cid:link_8)。如上图点击“安装”我们即可获得一个 NodeJS 环境,进入桌面后,我们可以打开终端执行命令查看当前的 NodeJS 版本和 Git 版本,确认环境已初始化成功:node -v npm -v git --version1.2 源代码获取本案例涉及的代码已发布在 GitCode 平台上: cid:link_7执行 git clone 拉取源代码git clone [cid:link_7](cid:link_7) 2. ModelArts Studio 模型服务2.1 访问 ModelArts Studio 模型部署进入云主机,打开浏览器,输入 https://console.huaweicloud.com/modelarts/?region=cn-east-4&locale=zh-cn#/model-studio/deployment ,即可访问 ModelArts Studio。2.2 领取免费 Token 额度领取千万免费 token 额度,可用于体验 Qwen、Chatglm 等系列模型,免费额度仅适合用于体验模型。Qwen2.5 系列预置服务还支持 Function Calling,可以用于构建 Agent。2.3 获取大模型 API 和名称以 Qwen2_5-72B-Instruct 为例,点击更多-调用,获取 API 地址和模型名称。2.4 创建 API Key左侧鉴权管理-创建 API Key,保存创建的密钥信息最多创建 5 个密钥,密钥只会在新建后显示一次,请妥善保存。2.5 调试大模型 API我们使用 curl 脚本调试大模型 API,确保 API 配置可用,在终端执行以下命令。# 调试API curl -X POST "yourBaseUrl" \ -H "Content-Type: application/json" \ -H "Authorization: Bearer yourApiKey" \ -d '{ "model": "yourModelName", "max_tokens": 20, "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "你好"} ], "stream": false, "temperature": 1.0 }' 💡 请把 yourBaseUrl、yourApiKey、yourModelName 替换为步骤 2.1.3 和步骤 2.1.4 中的信息。能看到类似的返回即为 API 配置可用。{"id":"chat-1d324bf7eb884c728b2542ddc53f7218","object":"chat.completion","created":1734748674,"model":"Qwen2.5-72B","choices":[{"index":0,"message":{"role":"assistant","content":"你好!很高兴见到你!你有什么问题或者需要帮助吗?","tool_calls":[]},"logprobs":null,"finish_reason":"stop","stop_reason":null}],"usage":{"prompt_tokens":20,"total_tokens":35,"completion_tokens":15},"prompt_logprobs":null} 3 运行 MateChat通过上面两步,我们已经获取到了所需要环境、代码、大模型 API 配置,接来我们将安装依赖并修改配置最终运行 MateChat。3.1 安装依赖我们进入到项目并执行命令安装依赖:cd MateChat-Web && npm install 安装结果如下图则说明依赖安装成功.3.2 修改配置我们可以通过 cat 命令查看 .env.examplecat .env.example其内容为:VITE_OPENAI_API_KEY=你的API密钥 VITE_OPENAI_PROXY_URL=你的API地址 VITE_OPENAI_MODEL=你的模型名称 VITE_PORT=8090 VITE_OPENAI_BASE_URL=http://localhost:8090 这是因为 Maas 提供的大模型 API 不支持客户端调用的缘故,我们需要通过 express 转发请求。接着我们通过 cp 命令复制一份名为 .env 的配置文件cp .env.eample .env cat .env接着我们通过云主机自带的 emacs 软件打开并编辑 .env 文件:emacs .env💡 也可以使用 vi 命令修改 .env ; 目的是配置好大模型 API,注意 chat/completion 这部分需删除3.3 运行 MateChat确认配置无误后,通过以下命令运行程序:npm run start按住 Ctrl,鼠标单击 http://localhost:5173 即可访问 MateChat:尝试问个问题能看到 MaasAPI 的回复:至此,我们成功运行了 MateChat!
-
图像分类是计算机视觉中最核心的任务之一,许多更复杂的视觉任务都建立在它的基础上,或者直接依赖于图像分类的技术。1. 目标检测(Object Detection)与图像分类的关系:目标检测不仅需要识别图像中的对象类别(分类任务),还需要确定对象的位置(通常用边界框表示)。技术依赖:许多目标检测算法(如Faster R-CNN、YOLO、SSD)都使用了图像分类模型(如ResNet、VGG)作为特征提取器。这些模型首先在图像分类任务上预训练,然后在目标检测任务上微调。示例:在自动驾驶中,车辆需要检测道路上的行人、车辆、交通标志等,这既需要分类能力,也需要定位能力。2. 语义分割(Semantic Segmentation)与图像分类的关系:语义分割可以看作是对图像中每个像素进行分类的任务。它需要更细粒度的分类能力。技术依赖:语义分割模型(如U-Net、DeepLab)通常基于图像分类模型(如ResNet)进行改进,使用编码器-解码器结构来生成像素级分类结果。示例:在医学影像分析中,语义分割可以用于区分肿瘤区域和正常组织。3. 实例分割(Instance Segmentation)与图像分类的关系:实例分割结合了目标检测和语义分割,不仅要区分不同类别的对象,还要区分同一类别的不同实例。技术依赖:实例分割模型(如Mask R-CNN)通常基于目标检测模型(如Faster R-CNN),而目标检测模型又依赖于图像分类模型。示例:在机器人抓取任务中,需要区分场景中的多个杯子,并为每个杯子生成精确的轮廓。4. 关键点检测(Keypoint Detection)与图像分类的关系:关键点检测需要识别图像中对象的特定关键点(如人脸的眼睛、鼻子、嘴巴),这可以看作是对关键点位置的分类任务。技术依赖:关键点检测模型(如OpenPose)通常使用图像分类模型提取特征,然后通过回归或分类方法预测关键点位置。示例:在人体姿态估计中,需要检测人体的关节位置。5. 目标跟踪(Object Tracking)与图像分类的关系:目标跟踪需要在视频序列中持续跟踪特定对象,通常需要先对目标进行分类,然后在后续帧中定位目标。技术依赖:目标跟踪算法(如SORT、DeepSORT)通常使用图像分类模型来提取目标特征,以便在不同帧中匹配目标。示例:在视频监控中,跟踪一个特定的人或车辆。6. 图像生成(Image Generation)与图像分类的关系:图像生成任务(如GAN)通常需要模型理解图像的语义信息(分类信息),以便生成符合语义的图像。技术依赖:生成对抗网络(GAN)中的判别器(Discriminator)通常是一个图像分类模型,用于判断生成的图像是否真实。示例:生成逼真的人脸图像。总结图像分类是计算机视觉的基石,它为其他任务提供了特征提取能力和语义理解能力。无论是目标检测、分割还是生成任务,都离不开图像分类的技术支持。因此,掌握图像分类的原理和方法,是进一步学习和应用更复杂视觉任务的关键。
-
AI视觉任务主要包括以下几类:图像分类(Image Classification)目标:识别图像中的主要对象或场景,并将其归类到预定义的类别中。示例:判断一张图片是“猫”还是“狗”。目标检测(Object Detection)目标:识别图像中的多个对象,并确定它们的位置和类别。示例:在一张图片中标注出所有“汽车”和“行人”的位置及类别。语义分割(Semantic Segmentation)目标:为图像中的每个像素分配一个类别标签,区分不同对象或区域。示例:将图像中的“道路”、“天空”、“建筑物”等区域分别标记出来。实例分割(Instance Segmentation)目标:在语义分割的基础上,进一步区分同一类别的不同实例。示例:在图像中标注出每只“猫”或“狗”的具体轮廓。关键点检测(Keypoint Detection)目标:识别图像中对象的特定关键点。示例:检测人脸图像中的眼睛、鼻子、嘴巴等关键点。目标跟踪(Object Tracking)目标:在视频序列中持续跟踪特定对象的位置和状态。示例:在视频中跟踪一个运动的“汽车”。图像生成(Image Generation)目标:生成新的图像,通常基于某种输入或条件。示例:根据文本描述生成对应的图像。图像修复(Image Inpainting)目标:修复图像中的缺失或损坏部分。示例:修复老照片中的划痕或缺失区域。超分辨率(Super-Resolution)目标:将低分辨率图像转换为高分辨率图像。示例:将模糊的图像变得清晰。风格迁移(Style Transfer)目标:将一种艺术风格应用到另一张图像上。示例:将普通照片转换为具有梵高风格的图像。其中,图像分类是AI视觉任务中最基础的任务之一。它不仅是计算机视觉领域的起点,也是许多其他复杂任务的基础。简单直观:图像分类的目标是将图像分配到预定义的类别中,任务定义清晰,容易理解。基础模型:许多先进的视觉模型(如卷积神经网络CNN)最初是为图像分类设计的,后续才扩展到其他任务。其他任务的基础:目标检测、语义分割等任务通常依赖于图像分类的技术。例如,目标检测可以看作是在图像分类的基础上增加了定位功能。
-
使用SDK的方式做在线部署,出现以下问题,有没有大佬可以看一下解决方案的。
-
SD卡烧录好欧拉系统,HiLens能够设置SD卡为启动首选项,使用SD卡烧录的系统吗?备注:HiLens根目录只有2GB,空间太少了,安装几个库就没有空间了,总计32GB的空间,分成了很多个区,不敢贸然合并,所以想搞个大容量SD卡,烧录系统使用
-
Deconvolutional Network(反卷积网络)是一种用于可视化和理解卷积神经网络(CNN)内部特征的工具,由Matthew Zeiler和Rob Fergus在2013年的论文《Visualizing and Understanding Convolutional Networks》中提出。它的主要目的是通过“逆向”操作,将卷积神经网络中每一层的特征图映射回输入像素空间,从而揭示网络在不同层次上学到的特征。1. Deconvolutional Network 的核心思想Deconvolutional Network 的核心思想是通过一系列反向操作(如反卷积、反池化等),将卷积层的输出特征图重建为输入图像的空间表示。通过这种方式,可以直观地看到每个卷积核(filter)对输入图像的哪些部分响应最强,从而理解网络的学习过程。2. Deconvolutional Network 的主要组件Deconvolutional Network 包含以下关键操作:(1)反卷积(Deconvolution)反卷积(也称为转置卷积)是卷积操作的逆过程。它通过将特征图“上采样”到更高的分辨率,试图重建输入图像的空间结构。反卷积操作使用与原始卷积核相同的权重,但方向相反。(2)反池化(Unpooling)池化操作(如最大池化)会丢失一些空间信息,因为它在局部区域中选择最大值并丢弃其他值。反池化通过记录池化时的最大值位置(称为“开关”),在重建时将值放回原来的位置,其他位置填充零。这种操作可以部分恢复池化过程中丢失的空间信息。(3)激活函数反向映射在卷积神经网络中,激活函数(如ReLU)会引入非线性。在Deconvolutional Network中,反向映射时只保留正激活值,负值被置为零。3. Deconvolutional Network 的工作流程Deconvolutional Network 的工作流程可以分为以下几个步骤:选择目标特征图:从卷积神经网络的某一层中选择一个特征图(通常是某个卷积核的输出)。反向操作:通过反卷积、反池化和激活函数反向映射,将特征图逐步映射回输入像素空间。重建输入图像:最终得到一个与输入图像大小相同的重建图像,显示该特征图对输入图像的哪些部分响应最强。4. Deconvolutional Network 的应用Deconvolutional Network 主要用于以下场景:(1)可视化卷积核的特征通过将每个卷积核的特征图映射回输入空间,可以直观地看到该卷积核对哪些视觉模式(如边缘、纹理、形状)敏感。例如,低层卷积核通常对边缘和纹理敏感,而高层卷积核可能对更复杂的模式(如物体部分)敏感。(2)理解网络的层次化特征学习通过可视化不同层次的特征图,可以观察到网络从简单特征(低层)到复杂特征(高层)的层次化学习过程。(3)诊断网络问题如果某些卷积核的特征图没有明显的模式,可能表明网络训练不足或结构设计有问题。5. Deconvolutional Network 的局限性尽管Deconvolutional Network 是一种强大的可视化工具,但它也有一些局限性:重建图像不完美:由于池化操作会丢失信息,重建的图像通常只能部分恢复原始输入的结构。解释性有限:虽然可以观察到特征图的响应模式,但无法完全解释网络的决策过程。计算成本较高:对于深层网络,反卷积和反池化操作的计算量较大。6. 示例:Deconvolutional Network 的可视化结果在Zeiler和Fergus的研究中,他们使用Deconvolutional Network 可视化了AlexNet的不同层次特征图:第一层卷积核:学习到类似Gabor滤波器的模式,对边缘和纹理敏感。中间层卷积核:学习到更复杂的纹理和物体部分。高层卷积核:学习到与类别相关的语义特征(如狗的脸、车轮等)。7. 总结Deconvolutional Network 是一种重要的可视化工具,通过反卷积、反池化等操作,将卷积神经网络的特征图映射回输入空间,帮助我们理解网络的学习过程。尽管它有一定的局限性,但在解释卷积神经网络的层次化特征学习方面发挥了重要作用。
-
ModelArts Studio作为华为云的一站式AI开发平台,提供了丰富的开源大模型资源,支持一键部署模型服务并通过API调用。Dify.AI则是一个功能强大的Agent开发框架,通过可视化的工作流编排方式,让开发者能够快速构建聊天助手、知识库、Agent等智能应用,大幅提升AI应用开发效率。开发者空间则汇聚了以华为云为底座的鲲鹏、昇腾、鸿蒙根技术工具和资源,为每个开发者提供一台云主机, 云主机中预置的开发工具、沙箱环境、云存储空间、案例中心、技术支持入口等能力,帮助开发者持续使用、持续成长、持续创新。流程概览① 通过开发者空间云主机的Firefox浏览器访问并开通 ModelArts Studio 模型即服务。本案例中采用的 Qwen2_5-72B-Instruct 。② 通过终端从 https://gitcode.com/huqi/huaweicloud-dify 获取安装脚本,安装脚本基于 Docker 安装并部署 Dify.AI。③ 通过Firefox浏览器访问开发者空间云主机部署的 Dify.AI,完成后续模型服务配置、应用开发等操作。说明:本案例需要华为云账号,且经过实名认证本案例需要开发者空间账号,且经过实名认证仅“华东二”区域支持使用ModelArts Studio大模型即服务平台(MaaS)。MaaS是白名单功能,请先申请权限。所需资源云资源消费/时时长开发者空间 云主机免费—ModelArts Studio免费(需先领取千万免费Tokens)–ModelArts Studio 模型服务访问 ModelArts Studio 模型部署进入云主机,打开浏览器,输入 https://console.huaweicloud.com/modelarts/?region=cn-east-4&locale=zh-cn#/model-studio/deployment ,即可访问ModelArts Studio。领取免费 Token 额度领取千万免费token额度,可用于体验Qwen、Chatglm等系列模型,免费额度仅适合用于体验模型。Qwen2.5系列预置服务还支持Function Calling,可以用于构建Agent。获取大模型API和名称以Qwen2_5-72B-Instruct为例,点击更多-调用,获取API地址和模型名称。创建API Key左侧鉴权管理-创建API Key,保存创建的密钥信息最多创建5个密钥,密钥只会在新建后显示一次,请妥善保存。调试大模型API我们使用 curl 脚本调试大模型API,确保API配置可用,在终端执行以下命令。# 调试API curl -X POST "yourBaseUrl" \ -H "Content-Type: application/json" \ -H "Authorization: Bearer yourApiKey" \ -d '{ "model": "yourModelName", "max_tokens": 20, "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "你好"} ], "stream": false, "temperature": 1.0 }' 请把yourBaseUrl、yourApiKey、yourModelName替换为步骤2.1.3和步骤2.1.4中的信息。能看到类似的返回即为API配置可用。{"id":"chat-1d324bf7eb884c728b2542ddc53f7218","object":"chat.completion","created":1734748674,"model":"Qwen2.5-72B","choices":[{"index":0,"message":{"role":"assistant","content":"你好!很高兴见到你!你有什么问题或者需要帮助吗?","tool_calls":[]},"logprobs":null,"finish_reason":"stop","stop_reason":null}],"usage":{"prompt_tokens":20,"total_tokens":35,"completion_tokens":15},"prompt_logprobs":null} 安装和配置Dify.AI安装Dify.AI安装脚本见: https://gitcode.com/huqi/huaweicloud-dify如有问题欢迎反馈: https://gitcode.com/huqi/huaweicloud-dify/discussion进入云主机,打开终端,执行以下命令,安装Dify.AI。# 下载安装脚本 sudo wget -P /home/ https://raw.gitcode.com/huqi/huaweicloud-dify/raw/main/install.sh # 执行安装脚本 sudo bash /home/install.sh安装完毕后显示安装过程结束,详细日志请查看: /var/dify-install.log 即为安装成功。登录Dify.AI通过云主机,打开浏览器,输入http://127.0.0.1,即可访问Dify.AI。如果端口80无法访问,我们可以通过命令去查看端口的使用情况,确定Dify.AI使用的端口。# 查看端口使用情况 sudo netstat -tulnp | grep docker首次登陆需注册管理员账号,依次填写邮箱、账号、密码。配置Dify.AI进入Dify平台,点击右上角设置,进入模型供应商页签,选择OpenAI-API-compatible供应商,关键信息配置如下:模型类型选择LLM模型名称请填入步骤2.1.3服务信息中的模型名称API Key 请填入步骤2.1.4中创建的API KeyAPI endpoint URL请填入步骤2.1.3中的API地址,并且删除最后面chat/completions部分Completion mode请选择对话模型上下文长度\最大 token 上限保持默认Function calling保持默认不支持Stream function calling保持默认不支持流模式返回结果的分隔符保持默认\n\n构建Agent创建Agent在Dify平台(http://127.0.0.1/apps),点击工作室–Agent-创建空白应用,进入Agent页签,填写Agent名称。Agent 设置在右上角单击“Agent 设置”,选择上一步配置好的模型进行使用。Function Call 模式会报错,实际使用代理模型,下图为 Agent 设置示意图编排提示词配置在“编排”页面的“提示词”文本框,输入以下信息。你是一位乐于助人的AI助手。在回答用户问题时,你需要遵循以下原则: 1. 始终使用自然语言解释你将要采取的行动 2. 在调用工具之前,说明你要使用哪个工具以及原因 3. 在获取信息的过程中,清晰地描述你正在做什么 4. 永远不要返回空的回复 - 确保用自然语言解释你的每个步骤 举例说明: 当用户询问今日热点新闻时,你应该这样回复: "让我使用新闻搜索工具为您查询今日热点新闻..." 然后再进行具体的工具调用。 重要提示: - 先表达你的理解和计划 - 再使用相应的工具 - 每次回复都必须包含对用户的清晰解释 基于以上原则,请根据用户的问题,给出相应的回答。编排工具配置在“编排”页面的“工具”区域右侧,单击“添加”,按需添加工具并与模型进行对话调用。Dify内置有丰富的插件,同时支持自定义工具的创建调试Agent我们可以进行调试和预览。使用Agent我们可以通过网页的方式,直接与Agent对话,也可以通过API的方式,将Agent集成到其他系统中。总结通过本案例,我们了解了如何使用ModelArts Studio平台和开源Agent框架Dify.AI构建个性化聊天助手。ModelArts Studio提供了丰富的开源大模型资源,支持一键部署模型服务并通过API调用。Dify.AI则是一个功能强大的Agent开发框架,通过可视化的工作流编排方式,让开发者能够快速构建聊天助手、知识库、Agent等智能应用,大幅提升AI应用开发效率。最重要的开发者空间为我们提供了便捷的开发环境,让我们更专注于业务开发。参考文档ModelArts用户指南(Studio)Dify.AI 文档开发者空间案例中心我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测,共创官方文档https://bbs.huaweicloud.com/forum/thread-0217170307934787108-1-1.html
-
不太好。斯坦福大学最新研究表明,在他们最新提出的Putnam-AXIOM测试集上,仅仅是更换一下原题目的变量名称、变量取值范围,模型的准确率就直线下降。也就是说,大模型的数学推理能力并不是真正掌握了解题逻辑,很可能只是检索已存储的题目……即使是表现最好的o1-preview,它的成绩也从50%下降到了33.96%,GPT-4o、Claude、Deepseek、Qwen等模型也几乎是全军覆没。要知道,模型推理能力的稳健性可是非常重要的指标,能代表他们是否真正掌握了解决方法:有网友锐评到:o1的o不会是overfitting的o吧?(doge)还有热心网友做了解释,他认为模型的搜索空间会随着深度指数级增长,搜索时间越长,搜索的难度也会更高。
-
虽然说是开源了,但是得多少硬件配置才能跑起来呢?总参数是671B,就是6710亿个参数。虽然激活是37B,但是激活之前,总要全部加载先吧~
-
1. 神经元(Neuron)概念:神经元是人工神经网络的基本单元,负责接收输入、处理数据并产生输出。它的核心功能是对输入信号进行加权求和,并通过激活函数决定是否输出信号。作用:神经元的作用是整合输入信息,做出“决策”。每个神经元接收多个输入信号,每个信号都有一个权重,神经元将这些信号加权求和,再加上一个偏置,最后通过激活函数处理,输出一个值。类比:神经元就像一个“小决策器”。比如,你要决定是否出门,可能会考虑天气、心情、是否有事等因素。神经元就是把这些因素综合起来,做出一个决定。2. 连接(Connection)概念:连接是神经元之间的桥梁,每个连接都有一个权重,表示信号传递的强度。作用:连接的作用是传递信号,并通过权重调整信号的重要性。权重越大,表示该输入对神经元的影响越大。类比:连接就像是你对不同因素的重视程度。比如,你可能更看重天气,所以天气这个输入的权重就比较大。3. 权重(Weight)概念:权重是连接上的一个数值,表示输入信号对神经元的重要性。权重可以是正数、负数或零,正数表示增强信号,负数表示抑制信号,零表示忽略信号。作用:权重的作用是调整输入信号的影响力。神经网络的训练过程就是不断调整权重,使得网络的输出更接近预期结果。类比:权重就像是你对不同因素的“重视程度”。比如,天气的权重是0.8,心情的权重是0.3,表示你更看重天气。4. 偏置(Bias)概念:偏置是神经元中的一个常数,用于调整神经元的激活阈值。它可以理解为神经元的“偏好”。作用:偏置的作用是让神经元更容易或更难被激活。它可以增加模型的灵活性,帮助神经网络更好地拟合数据。类比:偏置就像是你做决定时的“倾向性”。比如,你天生喜欢宅在家里,那么即使天气很好,你可能也不太愿意出门。这个“倾向性”就是偏置的作用。5. 激活函数(Activation Function)概念:激活函数是神经元中的一个数学函数,用于决定神经元是否应该被“激活”,即是否输出信号。作用:激活函数的作用是引入非线性,使得神经网络可以学习复杂的模式。如果没有激活函数,神经网络就只能学习线性关系,无法处理复杂问题。常见激活函数:Sigmoid:将输入压缩到0和1之间。ReLU(Rectified Linear Unit):如果输入大于0,输出输入值;否则输出0。Tanh:将输入压缩到-1和1之间。类比:激活函数就像是你做决定时的“门槛”。比如,只有当综合评分超过某个值时,你才会决定出门。这个“门槛”就是激活函数的作用。6. 完整流程输入信号:神经元接收多个输入信号((x_1, x_2, …, x_n))。加权求和:每个输入信号乘以对应的权重((w_1, w_2, …, w_n)),然后相加,再加上偏置((b))。公式为:[z = w_1x_1 + w_2x_2 + … + w_nx_n + b]激活函数:将加权求和的结果 (z) 输入激活函数 (f),得到神经元的输出:[y = f(z)]输出信号:输出 (y) 会传递到下一层神经元,作为它们的输入。7. 总结神经元是决策器,负责整合输入信号并输出结果。连接是神经元之间的桥梁,通过权重调整信号的重要性。偏置是神经元的“倾向性”,帮助调整激活阈值。激活函数是决策的门槛,引入非线性,使神经网络能够学习复杂模式。整体关系:输入信号通过连接传递到神经元,每个信号被权重调整。神经元对加权输入求和,加上偏置,得到中间结果。中间结果通过激活函数处理,得到最终输出。输出信号传递到下一层神经元,重复上述过程。举个例子假设你要决定是否出门,考虑以下因素:天气((x_1)):权重 (w_1 = 0.8)(你很看重天气)心情((x_2)):权重 (w_2 = 0.3)(心情影响较小)是否有事((x_3)):权重 (w_3 = 0.5)(有一定影响)偏置 (b = -0.5)(你天生喜欢宅在家里)计算过程:加权求和:[z = w_1x_1 + w_2x_2 + w_3x_3 + b = 0.8x_1 + 0.3x_2 + 0.5x_3 - 0.5]通过激活函数(比如ReLU):[y = \text{ReLU}(z)]如果 (z > 0),则 (y = z),表示决定出门;否则 (y = 0),表示不出门。这其中,最基本的就是神经元。就是下图中的圈圈。它可以理解为一个初始值、一个最终的输出、也可以理解成一个函数。
-
引言在当今快速发展的技术环境中,人工智能(AI)和机器学习(ML)已经成为推动创新的关键力量。随着这些技术的普及,越来越多的企业和个人开发者开始探索如何将AI集成到日常应用中,以解决实际问题并提升效率。作为一名对AI充满热情的技术爱好者,我一直渴望找到一个既有趣又能体现AI价值的项目。因此,我选择了构建一个“比熊识别”应用程序作为我的实践案例,不仅因为比熊犬是我最喜欢的宠物之一,而且这个项目也提供了一个完美的机会来体验华为云提供的ModelArts自动学习能力和低代码开发平台——Astro的强大功能。(实话实说,比熊是真的可爱,我家的比熊就像个小公主,哈哈~通过该案例的实践,大家可以训练更庞大的数据集,毕竟千篇一律嘛~)选择ModelArts与Astro的原因ModelArts是一个一站式AI开发平台,它集成了数据处理、模型训练、部署和服务管理等功能,使得即使是非专业开发者也能轻松上手。而Astro则是一款基于浏览器的可视化编程工具,允许用户无需编写大量代码就能创建复杂的AI应用程序。这两个平台结合在一起,为我这样的开发者提供了前所未有的便利性和灵活性。本文将介绍如何通过 ModelArts 和 Astro 轻应用实现 AI 应用落地,并以一个物体检测应用为例进行演示。本次实践基于华北-北京四环境。准备工作在开始之前,首先需要准备一些基础材料:硬件环境:一台可以连接互联网的计算机。软件环境:安装了最新版本Chrome或Firefox浏览器的操作系统;注册华为云账号,并开通ModelArts服务。数据集:收集足够数量且质量良好的比熊犬图片用于训练模型。可以通过公开的数据集或者自行拍摄获得。第一步:ModelArts 训练并部署模型使用 ModelArts 的数据处理功能,对原始数据进行预处理和标注,生成训练所需的数据集。通过自动学习对数据集进行训练并发布部署模型。数据是 AI 应用的基础,要构建一个高质量的 AI 模型,首先需要有一个高质量的数据集(在 GPT 时代数据集也许无需标注,但要求更高的质量和多样性)。ModelArts 提供了数据处理功能,可以帮助用户对原始数据进行预处理和标注,生成训练所需的数据集。ModelArts 也提供了自动学习,就算您是零基础的 AI 小白,根据教程点点鼠标就能训练出自己专属的模型。1.登录 ModelArts 控制台,在左侧导航栏中选择“自动学习”,进入自动学习页面并点击物体检测创建自动学习任务。(PS:由于下载的数据集默认在新版数据集管理中,无法一键创建自动学习任务,我们可以在自动学习页面用下载的数据集来创建新的数据集进行自动学习)这里我要补充说明下:在创建项目的时候有个前提就是你得先创建数据集,我们可以通过OBS来上传,如下图所示:01在OBS上创建和上传相关材料;02创建数据集,路径使用刚创建的obs路径:03创建数据集后我们需要等待一段时间将数据导入,看数据大小,我这边100份图OBS只需要1分钟左右:04接下来就可以创建物体检测项目了,这里我们选择了限时免费训练规格(其他参数自定义即可):05创建完成后,我们将进行训练学习,训练学习的步骤可分为6项,分别是:数据标注、数据集版本发布、数据校验、物体检测、模型注册、服务部署。如下图所示:05-001首先第一步:数据标注,点击【数据标注】下的【实例详情】按钮,跳转至实例详情页面:05-002单击开始标注进行图片标注(这里我们先创建标签并手动进行5张图片的标注,然后可以选择智能标注):05-003进入智能标注后,我们等待时间即可(这里我9张图花了5分钟时间,标注的效果其实还不错的):05-004复核标注信息,这里我们可以选择【快速复核】,快速复核会直接展示标注信息,如果你看到某张图标注有问题,可以点击进入进行修改调整重新标注;05-005完成确认后,点击发布即可(版本默认设置为v001);05-006然后下一步我们返回【自助学习页面】点击进行【继续运行】进入到下一步:【数据集版本发布】:05-007【数据集版本发布】成功够将会自动进入下一步【数据校验】,这里我们等待这即可,无须操作(华为云提供了[限时免费]的训练资源规格:GPU: 1*GP-Vnt1(32GB) | CPU: 8 核 64GB):05-008【数据校验】成功够将会自动进入下一步【物体检测】,这里我们同样只需等待即可:当然,如果等待过程如果你想查询进入,我们可以前往【实例详情】页面进行查看:在运行日志中,我们可以直观的看到相关进度:05-009在【物体检测】跑完后,我们可以在实例运行界面查看数据评估,这里他会给出综合评估(从多个角度评价模型,并给出一定的调优建议。)。这里我的模型跑出来人建议如下所示:目标框面积占比对bixong的召回率有重大影响,在不同特征区间上mAP的方差为0.400。建议使用Balanced Loss来进行目标框回归计算。目标框清晰度对bixong的召回率有重大影响,在不同特征区间上mAP的方差为0.400。建议在训练时,添加针对此特征的数据增强。目标框亮度对bixong的召回率有重大影响,在不同特征区间上mAP的方差为0.331。建议在训练时,添加针对此特征的数据增强。05-009接下来我进行【服务部署】,这里计算机规格可以选择(免费)的哟(选择免费规格的话需要开启自动停止配置,且时间只能选择1小时,否则会部署失败);05-010等待部署成功之后可以进行预测调试。在线服务将AI应用部署为一个Web Service,并且提供在线的测试UI与监控能力。(这里我再强调下:免费实例 1 小时之后就会自动停止,如需不间断运行只能使用付费运行或者使用脚本维持。)这里,请记住服务 ID,比如: 26078a82-1da1-443c-a98b-9516ae422815,请保存调用指南中的 API 地址,前面一串数字是 模型Apig-Code,服务ID也就是后面那串数字是 模型Id。ModelArts 的数据处理能力展现了其在灵活性、效率和易用性方面的显著优势,为用户提供了强大的支持:多样化的数据与标注类型:无论是图像、视频、音频还是文本,ModelArts 都能处理,并且支持分类、检测、分割等多样的标注需求。这种广泛的支持确保了无论您的项目涉及何种数据形式或任务类型,都能找到合适的解决方案。智能化与协作式的标注流程:通过集成智能标注特性,ModelArts 能够利用预设或定制化的模型自动完成数据标签化工作,大幅减少了人工投入的时间与成本。同时,平台还支持团队成员间的协同作业,允许多人共同参与数据标注过程,并内置了评分与反馈机制,确保了标注结果的一致性和精准度。灵活的数据存储选项:为了简化数据管理并提升使用便捷性,ModelArts 提供了两种主要的存储方案——OBS(华为云对象存储服务)和本地存储。前者适合需要安全、稳定地保存大量数据的场景;后者则针对快速上传下载的需求设计,提供了即时可用的临时存储空间。第二步:Astro 轻应用集成 ModelArts 在线服务使用 Astro 轻应用的轻应用功能,通过拖拉拽的方式搭建应用界面,将 ModelArts 的模型服务接入 Astro 轻应用的连接器,实现应用的前端展示和交互。应用是 AI 应用的载体,要构建一个高品质的 AI 应用,需要有一个高品质的应用界面,并能与 AI 模型服务进行有效的交互。Astro 轻应用提供了轻应用功能,可以帮助用户通过拖拉拽的方式搭建应用界面,并将 ModelArts 的模型服务接入 Astro 轻应用的数据源,实现应用的前端展示和交互。步骤开始咯01登录 Astro 轻应用控制台,在左侧导航栏中选择的“应用”,点击“新建低代码应用–新建空白应用”。02根据流程,我们先配置好应用名称,和图标:03Astro 通过集成 ModelArts 连接器,实现了调用 ModelArts 在线服务。以前在没有 ModelArts 连接器的时候,我们需要自行开发 AKCK 鉴权、ModelArts API 调用、OBS 文件上传等等。现在我们要将Astro 集成 ModelArts 连接器,我们的环境默认是没有配置好的 ModelArts 连接器,需要开发者自行配置,我们可以导入下面的实例安装包,再进行连接器配置。实例安装包:https://appcube-ai-temp.obs.cn-north-4.myhuaweicloud.com/CNAMEO__EI-0.0.1-beta.zip04配置好连接器,我们可以在这个页面对在线模型检测简单的测试。为了方便大家的学习和操作,我这边附上官方的教学视频:低代码 AI 实战营: https://bbs.huaweicloud.com/live/cloud_live/202212151900.html05接着进行拖拉拽开发页面,这里就不多说,重要的还是自己去动手实践。完成开发后,大致的实现效果如下所示:Astro 轻应用不仅是一套工具,更是一种全新的开发理念,它通过一系列创新特性,为开发者和业务人员提供了前所未有的便捷性和灵活性。多样化应用场景:无论是构建轻量级应用、行业定制化解决方案还是大型业务展示平台,Astro 都能完美适配。从日常办公到人力资源管理,再到运营协同与项目管控,Astro 涵盖了企业运作的方方面面,确保每个需求都能得到精准满足。直观易用的界面设计:借助拖拽式的页面编辑器,即使是没有编程背景的用户也能轻松创建出功能完备的应用界面。丰富的组件库、预设模板以及可视化工作流编辑器,让用户能够迅速将创意转化为现实,无需一行代码。强大的数据整合能力:Astro 支持多源数据接入及服务编排,可以无缝集成来自 ModelArts 的机器学习模型服务或华为云及其他第三方提供的各种服务。这一切都可以通过图形化的界面完成配置,让复杂的数据处理变得简单直观,实现从前端交互到后端逻辑的全面贯通。高效的应用部署与管理:一键发布功能支持多种终端形式——PC 端、移动端、微信小程序/H5 和 WeLink 集成等,同时提供详尽的应用性能监控、使用统计和分享选项,确保每一个上线的应用都具备高度的可用性和稳定性。总结与展望以上便是我个人关于通过ModelArts自动学习能力和低代码平台Astro实现“比熊识别”的AI应用实践经历。希望这篇文章能够为同样对AI感兴趣的朋友们提供一些有价值的参考。如果你也有兴趣尝试,请不要犹豫,勇敢迈出第一步吧!当然,通过这次实践案例,我深刻体会到了ModelArts和Astro所带来的巨大便利。它们不仅大大降低了AI开发的技术门槛,也让普通开发者有机会参与到这场科技变革之中。未来,我希望能够继续深入研究这两个平台的更多特性,并尝试将其应用于更广泛的领域。此外,随着AI技术的不断发展,相信会有越来越多类似ModelArts和Astro这样优秀的工具涌现出来,为人们的生活带来更多惊喜和改变。我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测,共创官方文档https://bbs.huaweicloud.com/forum/thread-0217170307934787108-1-1.html
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签