• [案例共创] 【案例共创】一条命令实现LobeChat接入华为大模型服务Maas构建智能助理
    ModelArts Studio 大模型即服务平台简称 MaaS 服务,MaaS 服务提供了简单易用的模型开发工具链,其内置了多款模型可以直接调用,同时支持大模型定制开发,让模型应用与业务系统无缝衔接,可以降低企业AI落地的成本与难度。LobeChat是开源的高性能聊天机器人框架,支持语音合成、多模态,提供可扩展的插件系统,可实现一键免费部署私人ChatGPT/LLM网页应用程序。本实践中我们将实现部署 LobeChat 私人智能助理并接入华为大模型服务 Maas。免费领取 ModelArts Studio 千万 TokensModelArts Studio 大模型即服务平台 MaaS 目前处于内测中,提供千万 Tokens 可以免费领取使用,使用前需要申请试用,点这里可以直接申请,很快就会开通权限。开通权限后,进入华为云控制台,搜索“ModelArts”点击“AI开发平台ModerlArts”进入控制台。ModelArts Studio 目前支持“华东二”和“西南-贵阳一”区域,我们需要先把地区切换为“华东二”和“西南-贵阳一”,之后才能看到 ModelArts Studio,点击 ModelArts Studio 进入控制台在这里我们可以看到最新动态中的免费体验千万免费Tokens,点击“立即领取”前往“模型部署”-“预制服务”页面ModelArts Studio 提供了多个预置模型服务,根据需要选择对应的模型点击“领取”,领取之后即可体验或调用点击对应模型后面的“更多”,点击“调用”即可看到调用接口、模型名称和示例代码复制弹窗中的“API地址”和“模型名称”备用接下来我们还需要一个 API Key 用于调用接口,点击上图中的“管理API Key”按钮,前往鉴权管理页面,点击“创建API Key”按钮、输入自定义名称、点击“确定”按钮创建API Key点击复制按钮复制密钥备用一行命令完成部署准备工作完成以后,我们开始部署 LobeChat,LobeChat 的部署也非常简单,以 docker 为例一行命令即可,将命令中的<API_KEY>替换为我们在前面 API Key 中获取到的密钥、<PROXY_URL>替换为前面获取的“API地址”(到最后一个v1即可,删除最后面的/chat/completions)、<MODEL_NAME>替换为前面获取到“模型名称”例如DeepSeek-R1-Distill-Qwen-32Bdocker run -d -p 3210:3210 \ -e OPENAI_API_KEY=<API_KEY> \ -e OPENAI_PROXY_URL=<PROXY_URL> \ -e OPENAI_MODEL_LIST=<MODEL_NAME> \ --name lobe-chat \ lobehub/lobe-chat 等待下载部署完成之后,我们可以直接通过本地IP的 3210 端口访问,将模式切换为我们刚刚设置的 DeepSeek-R1-Distill-Qwen-32B 即可使用至此我们已经拥有了一个属于自己的私人智能助手我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测,共创官方文档cid:link_1
  • [其他] 人工智能干货合集(2025年01月)
    1. AI开发平台ModelArts新功能2024年12月份ModelArts发布的新功能有3项。都是与底层的算力昇腾AI处理器相关。2025年1月份截止当天没有发布新功能。1. Dit模型Pytorch迁移与精度性能调优DiT(Diffusion Transformers)模型是一种将Transformer架构引入扩散模型的新方法。您可以使用Dit模型在昇腾设备上进行模型迁移,精度及性能调优。2. 训练业务昇腾迁移指导介绍如何将开源社区中实现过的模型或客户自研模型迁移到昇腾AI处理器上,获得较好的模型训练效果。3. 从0制作自定义镜像用于创建训练作业(Pytorch+Ascend)介绍如何从0到1制作镜像,并使用该镜像在ModelArts平台上进行训练。镜像中使用的AI引擎是PyTorch,训练使用的资源是专属资源池的Ascend芯片。2. 人工智能相关直播合集【深度开放特辑】大咖圆桌派https://bbs.huaweicloud.com/live/cloud_live/202412261600.html直面大咖深度对话,CANN技术智囊团与特邀神秘嘉宾齐聚,深入聊聊昇腾CANN算子开发的那些“绝招儿”!真*面对面【深度开放特辑】MindStudio开发工具链实践系列(二)https://bbs.huaweicloud.com/live/cloud_live/202501101600.html算子工具性能优化新特性演示——MatMulLeakyRelu性能调优实操用代码全方位驱动 OBS 存储https://bbs.huaweicloud.com/live/cloud_live/202501141630.html如何用代码驱动OBS?常用的数据管理,对象清理,多版本对象访问等应该如何编码?事件驱动如何响应?访问凭据如何管理?OBS简直是ModelArts的通灵宝玉,可以看看这个直播,熟悉如何熟练使用OBS。【深度开放特辑】Ascend C高层API设计原理与实现系列(七)https://bbs.huaweicloud.com/live/cloud_live/202501171600.html以LayerNorm算子开发为例,讲解开箱即用的Ascend C高层API
  • [案例共创] 【案例共创】基于Maas服务及maxkb专业打造企业级私有化智能知识库
    前言模型即服务(Model as a Service)简称MaaS ,这是一种新兴的云计算服务模式,主要是将机器学习模型及其相关能力封装成可重复使用的服务,开发者可以通过 API 调用、SaaS 或开源软件的形式使用这些模型,而无需自行开发和维护底层基础架构。这种模式在人工智能领域发展迅速,尤其适用于大模型的部署和应用方面极为突出,是快速生成AI Agent的绝佳利器。 ModelArts Studio华为云ModelArts Studio 平台,是华为云推出的一款大模型即服务平台,可以一站式的对业界主流开源大模型进行部署托管,同时开放大模型API服务,可以结合业界主流Agent开发框架,进行并轻松的构建AI Agent应用。需注意当前Maas采用白名单,需要先申请试用 。我们先看一下在华为云上具体的MordelArts Studio服务。在申请试用 成功后,在控制台搜索modelArts可以看到下方出来的AI开发平路ModelArts,点击进入。 进入AI开发平台ModelArts后,可以看到总览下有一个ModelArts Studio模块,需要注意的是。目前ModelArts Studio仅支持“华东二”和“西南-贵阳一”区域。所以如果没有这个模块的同学,需要切换一下区域。 ModelArts Studio集成了丰富的模型资源,配置上好用的模型工具,就可以快速的使用模型服务。ModelArts Studio为我们准备了免费体验的千万及Tokens,可以免费调用。这些Tokens可以使用千问大模型上。我们点击立即领取。可以看到,平台为我们提供了上10种通用的大模型,每款大模型都提供了200万的tokens供我们调用使用。我们只需要领取就可以正常使用了。注意:在这里第三步千万不要部署成自己的服务,如果部署的话是会开始收取费用的。免费的tokens仅供调用。当然如果有需要的话则可以自定义部署。在调用页面,我们需要关注的有4个地方。第一:API地址,这个就是我们调用大模型的API接口,调用这个接口就可以正常与大模型进行对话。第二:模型名称,这个是大模型的名称,模型名称有很多,所以这里需要注意我们使用的是哪个,在实际运用中选择它。第三:调用示例,这个是一个python的调用大模型的示例,通过这个代码示例可以在本地使用python开发环境与大模型进行调用沟通。第四:管理API Key , 这是一个安全秘钥,是每个用户自行管理的秘钥,在每一次与大模型沟通时,都需要使用的。点击管理 API Key 后,会进入到鉴权管理列表,我们点击创建API Key , 输入API Key描述,点击确定,就可生成就一个API Key ,注意:这个api Key需要自行记录,否则忘记了就只能删除后重新生成新的。至此,我们的Maas服务就已经做好了准备工作,接下来开始安装模型工具MaxKB。MaxKBMaxKB = Max Knowledge Base,它是一款基于大语言模型和 RAG 的开源知识库问答系统,它支持多种大模型,其中就包括我们上方的 Qwen 模型,通过与大模型的对接,可快速的打造出适合企业级的智识体系AI Agent.MaxKB的安装也是很简单的。它支持Window和Linux ,本次我们以Linux为例子进行安装。我们通过在线部署 MaxKB ,需要开通的访问端口有2个:22(通过ssh连接) 、 8080 (web访问端口)。MaxKB可以直接通过docker一键启动,执行下面的命令,开通对应的端口,就可以在浏览器通过:http://目标服务器IP地址:8080 进行服务访问了。# Linux 操作系统docker run -d --name=maxkb --restart=always -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb# Windows 操作系统docker run -d --name=maxkb --restart=always -p 8080:8080 -v C:/maxkb:/var/lib/postgresql/data -v C:/python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb安装完成后,我们访问 : http://目标服务器IP地址:8080 ,默认账号密码-用户名:admin 默认密码:MaxKB@123.. 注意这个密码后面有两个点。进入MaxKB后,我们创建一个应用,点击创建应用- 输入应用名称-描述非必填-点击创建即可。创建后,进入配置页面,我们开始配置一下模型,选择AI模型-点击添加模型-点击OpenAI 。 因为大多数模型都支持OpenAI,所以我们直接选择这个就可以。在模型配置中,我们首先输入模型名称。模型类型选择:大语言模型下方的三个如果不知道的话可以在文章中搜索:《在调用页面,我们需要关注的有4个地方》 关键字来查看介绍。基础模型:这里是可以搜索的,直接搜索我们上面试用的模型名称。API域名:直接输入调用模型的API地址,这里需要注意,地址只到V1,V1后面的路径全都需要删除。API Key:我们在管理API key中配置的秘钥。添加完成后,在AI模型处点击选择,即可选择我们刚添加的AI服务。配置一下角色设定自定义配置一下开场白点击保存并发布,就可以在线体验我们发布的AI Agent了。 最后我们来对在线的AI Agent进行演示一下   我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测,共创官方文档:cid:link_1
  • [技术干货] 与PaaS产品一起成长的故事:J市JJ银行合规模型银行一体化应用平台实战“术”-软件包迁移2
          上回谈到合规模型使用了外采的软件包,有部分软件包是国外厂商开发的,在国内鲲鹏平台上从没有编译运行过。这些软件包需要先分析出软件包清单和迁移准备。      软件包清单通过扫描,发现合规模型有15个软件包需要迁移,迁移准备期间需要做镜像。这个镜像包括SWR文件和软件依赖包,这两部分构成同一个Docker镜像,进行一次迁移。15个软件包就打包15个镜像。      打包好镜像后还有一个工序,就是进行硬件平台调试。为了平台测试,提前规划了测试指标和测试参数选择。      软件包主要是合规模型的核心功能调用,因此就上回提到的五个核心场景,分别定义了测试指标。从合同识别功能分析,每张图片识别不超过秒级;合同自动识别涉及文本比对,需要查数据库,因此不超过分钟级;合同内容风险识别,根据标注的条数而定,标注需要靠模型辅助,由于风险点浩如烟海,因此风险点标注是毫秒级;合同外规内化,涉及另一个模型调用,内外规搜索,也不超过分钟级;最后合同模版自动生成,这是一个合成的工作,因此各种测试指标都通过后,才能进入这个环节,不超过分钟级。        定义了测试指标后,还有一个测试参数选择的问题。平台节点只有一个,单机配置鲲鹏平台,双卡710,相当于0.8A100的计算能力,CPU是麒麟。        在实验室,测试数据一般达到7T左右,但是为了测试效率,只能输入1T测试,不然计算能力承载不起模型运算。
  • [案例共创] J市JJ银行合规模型银行一体化应用平台实战“术”-软件包迁移2
            上回谈到合规模型使用了外采的软件包,有部分软件包是国外厂商开发的,在国内鲲鹏平台上从没有编译运行过。这些软件包需要先分析出软件包清单和迁移准备。        软件包清单通过扫描,发现合规模型有15个软件包需要迁移,迁移准备期间需要做镜像。这个镜像包括SWR文件和软件依赖包,这两部分构成同一个Docker镜像,进行一次迁移。15个软件包就打包15个镜像。        打包好镜像后还有一个工序,就是进行硬件平台调试。为了平台测试,提前规划了测试指标和测试参数选择。         软件包主要是合规模型的核心功能调用,因此就上回提到的五个核心场景,分别定义了测试指标。         从合同识别功能分析,每张图片识别不超过秒级;合同自动识别涉及文本比对,需要查数据库,因此不超过分钟级;合同内容风险识别,根据标注的条数而定,标注需要靠模型辅助,由于风险点浩如烟海,因此风险点标注是毫秒级;合同外规内化,涉及另一个模型调用,内外规搜索,也不超过分钟级;最后合同模版自动生成,这是一个合成的工作,因此各种测试指标都通过后,才能进入这个环节,不超过分钟级。        定义了测试指标后,还有一个测试参数选择的问题。平台节点只有一个,单机配置鲲鹏平台,双卡710,相当于0.8A100的计算能力,CPU是麒麟。        在实验室,测试数据一般达到7T左右,但是为了测试效率,只能输入1T测试,不然计算能力承载不起模型运算。
  • [案例共创] 【案例共创】MaxKB知识库问答系统3分钟接入华为Maas大模型服务实践
    ModelArts Studio 大模型即服务平台简称 MaaS 服务,MaaS 服务提供了简单易用的模型开发工具链,其内置了多款模型可以直接调用,同时支持大模型定制开发,让模型应用与业务系统无缝衔接,可以降低企业AI落地的成本与难度。MaxKB 是一款开源的 Agent 第三方框架知识库问答系统,这里我们将实践在 MaxKB 中快速接入 ModelArts Studio 提供的大模型服务。 开通 ModelArts StudioModelArts Studio大模型即服务平台(MaaS)目前处于内测中,目前仅支持“华东二”和“西南-贵阳一”区域,可以在这里申请试用权限,申请通过后进入华为云控制台,搜索“ModelArts”找到“AI开发平台ModelArts”点击进入 ModelArts 控制台切换区域到“华东二”或“西南-贵阳一”,点击左侧的“ModelArts Studio”进入ModelArts Studio 提供了千万免费 Tokens,可用于体验 Qwen、Chatgim 等系列模型,点击下图中所示位置的“立即领取”进入“模型部署”->“预制服务”,预制服务中的模型我们可以直接使用在预制服务页面,选择自己计划尝试的模型,点击“领取”后即可直接体验点击对应模型后面的“更多”-“调用”即可查看接口地址和示例代码,复制 API 地址备用随后我们将要在 MaxKB 中调用,这里我们需要创建一个“API Key”才能调用,点击“管理API Key”按钮,前往鉴权管理页面点击“创建API Key”按钮,输入自定义描述,点击“确定”按钮,在弹窗中复制密钥备用,需要注意的是该密钥仅显示一次,如果未复制保存或忘记了只能重新生成。 MaxKB 部署MaxKB 的部署也非常简单,如未部署过以 docker 为例,一行命令即可完成部署:# Linux 操作系统 docker run -d --name=maxkb --restart=always -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb # Windows 操作系统 docker run -d --name=maxkb --restart=always -p 8080:8080 -v C:/maxkb:/var/lib/postgresql/data -v C:/python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb下载完成并成功部署之后,即可使用 https://IP:8080 访问,使用默认账号 admin 和默认密码 MaxKB@123.. 即可登录后台,首次登录后需设置新密码,之后需使用新密码登录。 添加模型在 MaxKB 中点击“系统管理”-“模型设置”-“添加模型”,这里推荐选择“OpenAI”,大部分大模型都兼容 OpenAI,且选择部分模型后不支持设置 API 域名设置项:模型名称:自定义一个名称模型类型:大语言模型基础模型:输入“ModelArts Studio”中“模型部署”-“预置服务”中的服务名称,例如DeepSeek-R1-Distill-Qwen-32BAPI域名:输入我们在签名“ModelArts Studio”中“模型部署”-“预置服务”中对应模型在“调用”时示例代码前看到的“API地址”,需要注意的是:需要删除最后"v1"后的/chat/completionsAPI Key:输入我们前面获取的密钥设置完成后点击“添加”按钮完成模型的添加 创建服务点击“应用”-“创建应用”,输入应用名称,点击“创建”按钮进入应用配置页面模型选择我们刚刚添加的模型,根据自己的需要设置,完成后点击右上角的“保存并发布”,我们就完成了应用的创建至此,我们已经成功接入,可以正常使用并对外提供服务了我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测,共创官方文档cid:link_1
  • [案例共创] 【案例共创】基于Maas和dify构建数据分析智能体
    介绍一下ModelArts Studio及Dify.AIModelArts Studio大模型即服务平台是华为云提供的一种新的服务模式,将机器学习模型部署到企业端提供给用户使用的服务。Dify.AI 是一款开源的大语言模型(LLM)应用开发平台,它的核心优点是多模型支持和低代码开发,它能够快速的构建和运营可上线的AI应用服务。 开启数据分析智能体之旅ModelArts Studio大模型即服务平台我们在控制台搜索ModelArts来到AI开放平台ModelArts平台的控制界面可以看到首页,介绍ModelArts Studio平台,有丰富的模型资源、及易上手的模型工具。重点是目前有千万免费Tokens可体验Qwen我们点击立即领取,进入到模型部署页面,下面所有模型都是有体验额度的。可以免费体验。我们这里以Qwen2_5-72B-Instruct为例。成功领取后,点击更多-调用,可以看到这里有调用的API地址和调用示例可用。 我们在实际的调用代码中,看到这一段,里面有一个"把yourApiKey替换成真实的API Key",也就是说我们需要创建一个apikey才能更安全的调用api。  我们点击调用弹层中的-管理APIkey,跳转到对应的apikey页面, 新增一个apikey使用。  在这里进行api的创建添加  创建成功后,记住这个秘钥。接下来我们在本地的python项目中进行接口测试调用。在本地通过pycharm创建一个python项目,在项目下创建一个demo.py文件,内容为上方的调用示例。将示例里面的hearders里的修改为上一步创建的apikey秘钥需要替换为上面真实的秘钥。打印结果为,可以看到qwen已经正常回复了。 dify引入大模型安装dify我们搜索资源,可以看到第一个服务:资源编排服务RFS ,我们点击进入控制台。 点击立即创建资源栈:选择已有模板-url,点击下一步模板url可以访问这个快速生成:快速创建资源栈在这里输入云服务器的密码  点击下一步  继续下一步 点击创建执行计划,在弹框中点击确定  创建成功后可以查看费用明细,确认无误后,点击部署,在弹框中再次确认后点击执行在对应资源的输出栏目中,将鼠标放在值上会有对应的访问地址提示。至此dify就安装完成了。 使用dify部署智能体访问上dify提供的浏览器地址,访问,在右上角用户信息处-点击设置-模型供应商-openai-api-compatible-添加模型这里我们需要注意的是模型名称、apikey(我们创建的apikey)、url(注意这里只到v1)这三个对应的是下图。最后我们选择函数调用-tool call,点击创建即完成模型的创建。接下来我们创建应用,在主页面上选择空白应用-选择Agent智能体-输入应用名称-点击创建。进入到提示词页输入对应的提示词,并选择工具,添加工具右上角直接搜索图表就可以添加图表工具,最后我们选择模型并发布。智能体就创建完成了。至此,智能体就创建完成了。 最后就是智能体的使用了,大家可以自行安装一下,看看效果。 总结MaaS模型即服务将模型作为服务提供出来,并搭配一些工具,让开发者能更方便的创建自定义智能体并发布了。整体操作下来没有太复杂的内容,大家可以一直来探索一下。 我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测,共创官方文档:cid:link_1
  • Faster R-CNN 还是 Dynamic R-CNN 的选择考量
    选择 Faster R-CNN 还是 Dynamic R-CNN 取决于具体任务需求、数据特性以及资源限制。1. 选择 Faster R-CNN 的场景任务需求:如果你的任务对检测速度要求较高,且场景相对简单(如目标尺寸较大、背景不复杂),Faster R-CNN 是一个成熟且稳定的选择。如果你需要快速实现一个目标检测模型,且对性能要求不是极致,Faster R-CNN 的代码和预训练模型资源丰富,易于上手。数据特性:数据分布较为均衡,目标尺寸较大,且场景复杂度较低时,Faster R-CNN 的表现已经足够好。资源限制:如果计算资源有限(如 GPU 显存较小),Faster R-CNN 的训练和推理开销相对较低。总结: Faster R-CNN 适合初学者、简单场景或对速度要求较高的任务。2. 选择 Dynamic R-CNN 的场景任务需求:如果你的任务对检测精度要求较高,尤其是小目标检测或复杂场景(如目标尺寸变化大、背景复杂),Dynamic R-CNN 的动态调整机制可以显著提升性能。如果你需要在一个竞赛或研究项目中取得更好的性能,Dynamic R-CNN 是一个更先进的选择。数据特性:数据分布不均匀,目标尺寸变化大,或者小目标较多时,Dynamic R-CNN 的动态 IoU 阈值机制可以更好地适应数据分布。资源限制:如果计算资源充足(如 GPU 显存较大),Dynamic R-CNN 的训练和推理开销虽然较高,但性能提升明显。总结: Dynamic R-CNN 适合对精度要求高、场景复杂或需要处理小目标的任务。3. 直接对比特性Faster R-CNNDynamic R-CNN检测精度较高更高(尤其在小目标和复杂场景)检测速度较快稍慢(动态调整增加计算开销)训练稳定性稳定需要调参(动态机制更复杂)适用场景简单场景、大目标复杂场景、小目标资源需求较低较高实现难度简单(代码和教程丰富)较复杂(需要理解动态机制)4. 建议如果你是初学者,或者任务场景简单,建议从 Faster R-CNN 开始,它易于实现且性能足够。如果你需要更高的精度,或者任务场景复杂(如小目标检测),建议选择 Dynamic R-CNN,尽管实现和训练会更复杂,但性能提升显著。5. 其他考虑如果你对速度要求极高,可以考虑单阶段检测模型(如 YOLO 或 SSD)。如果你对精度要求极高,可以考虑更先进的模型(如 Cascade R-CNN 或 Transformer-based 检测模型)。
  • [其他] Faster R-CNN与Dynamic R-CNN的区别
    Faster R-CNN 和 Dynamic R-CNN 都是目标检测模型,主要在区域提议网络(RPN)和分类回归头的设计上有所不同。1. Faster R-CNNRPN: 使用固定的IoU阈值(通常为0.7)生成候选区域。分类与回归头: 采用固定的IoU阈值(通常为0.5)进行正负样本分配。训练稳定性: 由于固定阈值,训练过程相对稳定,但可能无法适应数据分布的变化。2015年: Faster R-CNN 由 Shaoqing Ren、Kaiming He、Ross Girshick 和 Jian Sun 提出。背景: 在 Fast R-CNN 的基础上,为了解决 Selective Search 等外部区域提议方法效率低下的问题,提出了区域提议网络(RPN),将区域提议和目标检测统一到一个网络中。贡献:引入 RPN,实现端到端训练。大幅提升检测速度,同时保持高精度。论文: 《Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks》(NIPS 2015)。2. Dynamic R-CNN动态RPN: 根据训练进度动态调整IoU阈值,初期使用较低阈值,后期逐步提高,以生成更高质量的候选区域。动态分类与回归头: 同样动态调整IoU阈值,初期使用较低阈值,后期逐步提高,以提升检测精度。训练适应性: 动态调整机制能更好地适应数据分布变化,提升模型性能。2020年: Dynamic R-CNN 由 Hongkai Zhang、Hong Chang、Bingpeng Ma 等人提出。背景: 在 Faster R-CNN 的基础上,针对固定 IoU 阈值在训练过程中无法适应数据分布变化的问题,提出了动态调整机制。贡献:动态调整 RPN 和分类回归头的 IoU 阈值。提升了模型在复杂场景和小目标检测中的性能。论文: 《Dynamic R-CNN: Towards High Quality Object Detection via Dynamic Training》(ECCV 2020)。3. 主要区别IoU阈值: Faster R-CNN使用固定阈值,Dynamic R-CNN动态调整。训练策略: Faster R-CNN训练稳定但适应性差,Dynamic R-CNN通过动态调整提升性能。性能: Dynamic R-CNN通常在小目标和复杂场景中表现更好。4. 总结Faster R-CNN: 简单稳定,适合一般场景。是目标检测领域的里程碑,奠定了两阶段检测框架的基础。Dynamic R-CNN: 动态调整阈值,性能更优,适合复杂场景。是对 Faster R-CNN 的改进,通过动态调整机制进一步提升了性能。时间线:年份模型主要贡献2015年Faster R-CNN引入 RPN,实现端到端训练,提升检测速度与精度。2020年Dynamic R-CNN动态调整 IoU 阈值,提升复杂场景下的检测性能。
  • [其他] 深度学习训练过程的随机性
    深度学习的训练过程存在随机性,主要体现在以下几个方面:权重初始化神经网络的权重通常随机初始化,不同的初始值会影响模型的收敛路径和最终性能。数据 shuffling训练数据在每个 epoch 前会被随机打乱,导致每次训练时数据顺序不同,影响梯度更新。DropoutDropout 随机丢弃部分神经元,防止过拟合,但每次训练时丢弃的神经元不同,增加了随机性。优化器中的随机性如 SGD 中的随机梯度采样,或 Adam 中的动量计算,都会引入随机性。数据增强对数据进行随机变换(如旋转、裁剪等),每次训练时增强方式不同,增加了随机性。硬件和软件实现浮点运算的精度和并行计算的顺序也会带来微小的随机性。影响模型性能:相同的超参数和数据集可能产生不同的结果。可复现性:即使设置相同的随机种子,不同硬件或软件环境下结果也可能不同。应对措施设置随机种子:固定随机种子可以提高实验的可复现性。多次实验:通过多次训练取平均结果,减少随机性影响。
  • [技术干货] J市JJ银行合规大模型银行一体化应用平台实战“术”分享-代码框架迁移
             上回讨论到了Python代码迁移,必须先把调用SO库重新编译,可以借助port advisoring来搜索SO库,然后重新编译。众所周知,代码运行都需要一个框架。         框架在编译后才能重新使用,当时项目有一个适配测试环节,从一个环境迁移到鲲鹏平台,都是第一次吃螃蟹。螃蟹怎么吃?银行给出了一个测试环境,让每个应用在迁移前都要确保适配成功。        当时环境配置比较简单,一个节点+1P算力+5T的对象存储。在这个节点上进行代码适配。我们当时需要测试的小模型有5个:OCR图片识别、实物分割、沙箱测试、法规自动匹配、报告自动生成。       这五个模型都跟银行合规业务有关联,比如第一个模型通过上传的票据扫描件识别出文字,在银行存在大量表单需要自动识别;第二个通过在一张图片里分离出需要认识的章,第三个是安全方面,合同等很多文本不需要上传到外网,需要有安全沙箱保护;第四个是法规条文识别之后,自动判断哪些是适合JJ银行内部使用;第五个是合规报告文本自动生成并发送给行内系统,下发到对应部门。        这五个模型在节点测试的表现不一,OCR秒级出结果,实物分割分钟级出结果,沙箱测试和其他二者都顺利测试通过。        其实在这之前,实物分割模型测试是出了点故事的。实物分割之前采用的两个技术,首先实物轮廓识别出来,其次要把同类标识出来。标注实物是一个经验活,这对于项目组来说,是有些难度了。最后,这个专家资源通过JJ银行内部获取到了,才得以把同类标注的难题解决了。
  • [技术交流] J市JJ银行合规大模型银行一体化应用平台实战“术”分享-代码框架迁移
    上回讨论到了Python代码迁移,必须先把调用SO库重新编译,可以借助port advisoring来搜索SO库,然后重新编译。众所周知,代码运行都需要一个框架。框架在编译后才能重新使用,当时项目有一个适配测试环节,从一个环境迁移到鲲鹏平台,都是第一次吃螃蟹。螃蟹怎么吃?银行给出了一个测试环境,让每个应用在迁移前都要确保适配成功。当时环境配置比较简单,一个节点+1P算力+5T的对象存储。在这个节点上进行代码适配。我们当时需要测试的小模型有5个:OCR图片识别、实物分割、沙箱测试、法规自动匹配、报告自动生成。这五个模型都跟银行合规业务有关联,比如第一个模型通过上传的票据扫描件识别出文字,在银行存在大量表单需要自动识别;第二个通过在一张图片里分离出需要认识的章,第三个是安全方面,合同等很多文本不需要上传到外网,需要有安全沙箱保护;第四个是法规条文识别之后,自动判断哪些是适合JJ银行内部使用;第五个是合规报告文本自动生成并发送给行内系统,下发到对应部门。这五个模型在节点测试的表现不一,OCR秒级出结果,实物分割分钟级出结果,沙箱测试和其他二者都顺利测试通过。其实在这之前,实物分割模型测试是出了点故事的。实物分割之前采用的两个技术,首先实物轮廓识别出来,其次要把同类标识出来。标注实物是一个经验活,这对于项目组来说,是有些难度了。最后,这个专家资源通过JJ银行内部获取到了,才得以把同类标注的难题解决了。
  • [案例共创] 【案例共创】AI Agent应用构建开发最佳实践和体验评测
    关于华为云ModelArts系列产品的AI Agent应用构建开发最佳实践和体验评测,以下是一些关键点:ModelArts平台概述:ModelArts是华为云推出的一站式人工智能开发平台,提供全面的支持,包括数据预处理、分布式训练、自动化模型生成以及模型部署等功能。它支持多种机器学习和深度学习框架,如TensorFlow、PyTorch、Caffe等,使得开发者可以根据需求选择合适的框架进行开发。AI Agent应用构建:结合华为Maas(大模型即服务)和开源的Agent三方框架(如Dify、MaxKB、FastGPT等),可以构建知识问答、聊天助手等AI应用程序。基于ModelArts Notebook开发环境和开源应用框架(如Langchain、llamaindex等),也可以构建AI应用程序。开发实践和体验评测:ModelArts提供了丰富的功能,如自动化的超参调整、模型评估功能,以及图形化界面和命令行接口,方便开发者进行高效的操作。对于AI Agent的实战,可以遵循“三步构建,七步优化”的方法,以适应企业生产场景。ModelArts的AIGallery中预置了大量模型、算法、数据和Notebook等资产,供开发者快速上手使用。平台优势和应用技巧:ModelArts支持数据治理,包括数据筛选、标注等,提供数据集版本管理,特别适用于深度学习的大数据集。通过自研的MoXing深度学习框架,ModelArts在模型训练方面表现出高效性和易用性。总的来说,华为云ModelArts为AI开发者提供了一个强大且灵活的平台,适用于构建各种AI应用,特别是AI Agent应用。通过结合不同的框架和技术,开发者可以高效地构建、训练和部署AI模型。我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测,共创官方文档https://bbs.huaweicloud.com/forum/thread-0217170307934787108-1-1.html
  • [其他] Datumaro数据集管理工具介绍
    ModelArts里的数据集的订阅后的保存和同步,是通过Datumaro来处理的,下面是介绍。Datumaro 是由 Intel 的 OpenVINO (Open Visual Inference and Neural Network Optimization)团队开发和维护的工具。OpenVINO 是一个专注于计算机视觉和深度学习推理的工具包,而 Datumaro 则是其生态系统中的一部分,专注于数据集的管理和处理。它支持多种数据集格式,并提供了丰富的功能来操作和转换这些数据集。主要功能数据集转换:支持多种数据集格式(如 COCO、YOLO、Pascal VOC 等)之间的相互转换。数据集合并:可以将多个数据集合并为一个。数据集分割:可以将数据集按比例分割为训练集、验证集和测试集。数据集过滤:可以根据特定条件过滤数据集中的样本。数据集统计:生成数据集的统计信息,如类别分布、样本数量等。数据集可视化:提供可视化工具,帮助用户查看数据集中的样本。使用方法datumaro.sh 是 Datumaro 的命令行接口脚本,用户可以通过命令行调用该脚本来执行各种操作。以下是一些常见的使用示例:转换数据集格式:./datumaro.sh convert -i input_path -o output_path -f coco这将把 input_path 中的数据集转换为 COCO 格式,并保存到 output_path。合并数据集:./datumaro.sh merge -i path1 -i path2 -o output_path这将合并 path1 和 path2 中的数据集,并保存到 output_path。分割数据集:./datumaro.sh split -i input_path -o output_path --subset train:0.8 --subset val:0.2这将把 input_path 中的数据集按 80% 训练集和 20% 验证集的比例分割,并保存到 output_path。过滤数据集:./datumaro.sh filter -i input_path -o output_path -e '/item/annotation[label="cat"]' 这将过滤 input_path 中的数据集,只保留标签为 “cat” 的样本,并保存到 output_path。生成数据集统计信息:./datumaro.sh stats -i input_path这将生成 input_path 中数据集的统计信息并输出到控制台。可视化数据集:./datumaro.sh visualize -i input_path -o output_path这将可视化 input_path 中的数据集,并将结果保存到 output_path。安装与配置要使用 datumaro.sh,首先需要安装 Datumaro。可以通过以下步骤进行安装:克隆仓库:git clone https://github.com/openvinotoolkit/datumaro.git cd datumaro安装依赖:pip install -r requirements.txt运行脚本:./datumaro.sh总结datumaro/datumaro.sh 是一个功能强大的工具,适用于需要处理和分析计算机视觉数据集的用户。它提供了丰富的命令行接口,使得数据集的操作变得简单高效。无论是数据集格式转换、合并、分割,还是过滤和统计,Datumaro 都能满足用户的需求。
  • [分享交流] 2025年,互联网技术会有什么更新,你有什么期待呢 。
    2025年,互联网技术会有什么更新,你有什么期待呢 。更加智能的AI,还是云技术的发展亦或是物联网的发展,大家畅所欲言,
总条数:3416 到第 页
上滑加载中