-
1. AI开发平台ModelArts新功能2025年2月份新发布了8个新功能,其中有3个都与deepseek有关。这3个新功能如下:1基于MaaS DeepSeek API和Cherry Studio快速构建个人AI智能助手使用Cherry Studio调用部署在ModelArts Studio上的DeepSeek模型,快速构建个人AI助手。基于MaaS DeepSeek API和Cherry Studio快速构建个人AI智能助手2基于MaaS DeepSeek API和Dify快速构建网站智能客服使用MaaS的免费Token额度的满血版DeepSeek-R1 API接入Dify(开源Agent平台),快速构建AI对话机器人并将其嵌入在网页中。基于MaaS DeepSeek API和Dify快速构建网站智能客服3MaaS支持使用DeepSeek模型实现对话问答在MaaS控制台领取免费额度并体验DeepSeek-R1模型,快速实现对话问答。使用ModelArts Studio的DeepSeek-R1模型框架实现对话问答其余5个新功能如下:1资源池节点支持开启/关闭删除锁为了防止节点被误删除或退订,您可以根据业务情况对节点开启删除锁。开启删除锁的节点将无法正常使用删除/退订功能,需要关闭删除锁才可以进行删除/退订。管理Lite Cluster节点2事件中心页面授权运维针对ModelArts运维平台告警的故障节点,控制台“资源管理 > 事件中心”页面记录故障节点的计划事件,包括故障节点的基本信息、事件类型、事件状态、事件描述等,并支持授权和重部署操作,授权华为技术支持对故障节点进行运维。管理Lite Cluster节点3在Lite Cluster资源池上使用Ascend FaultDiag工具完成日志诊断在ModelArts Lite环境下使用Ascend FaultDiag工具进行日志诊断的过程,包括日志采集、日志清洗、故障诊断三个步骤。在Lite Cluster资源池上使用Ascend FaultDiag工具完成日志诊断4开启/关闭专属资源池节点绑定当资源池下已创建逻辑子池,支持开启节点绑定,为逻辑子池绑定专属的节点。查看Standard专属资源池详情5Standard资源池节点支持换绑逻辑子池Standard专属资源池开启节点绑定后,资源池内的节点可换绑指定的逻辑子池。查看Standard专属资源池详情2. 人工智能相关直播合集CloudPond上的DeepSeekhttps://bbs.huaweicloud.com/live/dks_live/202503071630.html比一体机能力更丰满、比公有云距离更亲近、比自己搭建更轻松简单,解读在CloudPond 上部署DeepSeek,选型、方案以及部署维护的细节。CloudPond,把小型华为云搬回家?华为云Metastudio×DeepSeek与RAG检索优化分享cid:link_8带来DeepSeek数字人解决方案,以及如何使用Embedding与Rerank实现检索优化实践,为开发者与企业提供参考,助力场景落地。
-
deepseek的热度还没消减,trae,tars等工具又出现,实实在在的可以帮助我们提升生产力,那么之后还会有那些方面更好的工具呢 ,?
-
一、部署流程华为开发者空间:汇聚鸿蒙、昇腾、鲲鹏、GaussDB、欧拉等各项根技术的开发资源及工具致力于为每位开发者提供一台云主机、一套开发工具及云上存储空间,让开发者基于华为根生态创新。1、领取体验版DeepSeek-V3-32k2、领取华为开发者空间3、安装ChatBox4、ChatBox集成DeepSeek; 二、领取体验版DeepSeek-v3-32k领取DeepSeek 200w免费Token,开启DeepSeek开发之旅。我们可以 登录Mass 或者在控制台搜索ModelArts,选择AI开发平台 ModelArts 进行后,选择总览下方的ModelArts Studio 。进入ModelArts后,点击ModelArts Studio进入,进入ModelArts Studio后,选择区域为《西南-贵阳一》,点击《模型推理》下方的《在线推理》,点击《免费服务》就可以领取对应的DeepSeek,可以免费领取200万tokens。领取后就可以直接点击右方《在线体验》开始体验了。对于通过API调用,我们则需要点击右侧的《调用说明》,进入API调用说明。在调用说明上详细介绍了调用的API地址及相关的sdk 。这里我们需要注意的是,在调用API的时候必须要有一个唯一的API Key ,所以我们点击《API key管理》去创建一个key。注意:API Key仅会在新建后显示一次,请及时复制并妥善保存,若API Key丢失,请新建API Key。三、领取华为开发者空间我们进入华为云开发者官网,登录过后,点击右侧的《开发者空间》进入。在开发者空间首页《热门服务》有一个关于开发者云主机的入口。点击立即体验,按流程即可领取成功开发者云主机。 四、配置云主机服务点击《配置云主机》,选择CPU架构《X86》 规格《默认》 操作系统《Ubuntu》系统镜像《公共镜像》,点击《安装》,即可配置完成云主机。配置完成后,点击《进入桌面》五、安装ChatBoxChatBox 是一款开源的客户端软件,主要用于与生成式 AI 模型进行交互。通过ChatBox我们可以通过可视化方式搭建Agent.在云主机,点击火狐浏览器,搜索Chatboxai官网进入,点击“下载“按钮进入下载有几个,选择64-bit(注意云主机是X86的)开始下载软件安装包。我们下载64-bit类型镜像文件,目前文件大小在100M左右,下载期间我们先安装好其他的依赖包。打开终端,安装libfuse.so.2库:sudo apt install libfuse2在下载目录,打开终端,开始Chatbox安装服务执行添加权限命令和启动命令,注意这里的chatbox包需要以自己下载的版本。sudo chmod +x Chatbox-1.11.5-x86_64.AppImage ./Chatbox-1.11.5-x86_64.AppImage运行成功后,会自动弹出运行页面点击《使用自己的API Key或本地模型》,选择《DeepSeek API》,名称:自定义一个API域名:在Mass服务中的《调用说明》-《接口信息》-《api地址》 。注意这里的地址要去除V1后的API路径:不用动API秘钥:在Mass服务中的《调用说明》- 《API Key管理》创建的秘钥模型:在Mass服务中的《调用说明》-《接口信息》-《模型名称》配置完成后,点击《保存》即可保存成功后,即可开始进行对话沟通。一个自定义的AI助手就搭建完成了。六、创建自己的Agent点击《我的搭档》-《创建新的AI搭档》 进入创建阶段输入《搭档名称》,《人物设定》《头像》,点击保存即可创建一个自定义Agent。我们以一个数学大师为例,创建成功后,我们问它:1+1为什么等于2? Agent也完美的回答了结果。至此我们通过Mass服务 + 云主机 完美的搭建了一个自定义的工具,这是属于我们自己独有的工具。 我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践https://bbs.huaweicloud.com/forum/thread-0218176004967264062-1-1.html
-
原来使用的是Deepseek-V3模型,后来收到短信说需要升级,原来的大模型找不到了,重新部署了新的模型,更换了相关参数,但对话时出现如下错误:File "/home/developer/IDEProjects/study_01/venv/lib/python3.12/site-packages/openai/_base_client.py", line 1023, in _request raise self._make_status_error_from_response(err.response) from Noneopenai.APIStatusError: <!DOCTYPE html><html style="height:100%;width:100%"><head><meta http-equiv="Content-Type" content="text/html; charset=utf-8" /><meta http-equiv="Server" content="CloudWAF" /><title id="title">访问被拦截!</title></head><body onload="bindall()" style="height:100%;width:100%;margin:0px;font-family:Microsoft yahei"><div><style type="text/css"> .select {float: right;margin: 10px 20px 0 0;height: 32px;line-height: 20px;font-size: 14px;width: 80px;}</style><select class="select" name="language" onchange="changeLanguage(this.options[this.options.selectedIndex].value)"><option id="option-zh" onclick="changeLanguageZh()" value="zh">中文</option><option id="option-en" onclick="changeLanguageEn()" value="en">English</option></select><div style="clear: both;"></div></div><div style="min-height:13.125rem;width:100%"><div style="margin-top:3.75rem;margin-left:18.4375rem;height:52.38;width:83.04%;"><svg xmlns="http://www.w3.org/2000/svg" style="width: 3.125rem;height: 3.125rem" viewBox="0 0 50 50"><path fill="#e84e4c" d="M25,0A25,25,0,1,0,50,25,25,25,0,0,0,25,0Zm1.6,37.16H22.85V33.41H26.6Zm0-6.63H22.85L22.35,13H27.1Z"/></svg><font style="font-family:MicrosoftYaHei;font-size:4.375rem;color:#e94d4c;margin-left: 0.75rem;font-weight: bold;">418</font></div><div style="margin-left:18.4375rem;height:47.62%;width:83.04%;"><font id="a" style="font-family:MicrosoftYaHei;font-size:1.875rem;color:#999999;word-wrap:break-word;">您的请求疑似攻击行为!</font><p style="font-family:MicrosoftYaHei;font-size:0.9rem;color:#999999;word-wrap:break-word;"><span id="c">事件ID:</span><span style="color:#499df2" id="d">30-inst-242-20250327105617-71977b77</span></p></div></div><div style="height:15.625rem;width:100%;min-width:105rem;"><div style="margin-left:18.4375rem;float:left;width:50rem"><p id="b" style="margin-top:10px">如果您是站长,您可以前往WAF控制台进行误报屏蔽设置,让您的访问不再被拦截</p></div></div></body><script>function changeLanguage(value) {if (value === 'zh') {changeLanguageZh();} else if (value === 'en') {changeLanguageEn();} else {changeLanguageZh();}}function changeLanguageZh() {document.getElementById("title").innerHTML = "访问被拦截!";document.getElementById("a").innerHTML = "您的请求疑似攻击行为!";document.getElementById("b").innerHTML = "如果您是站长,您可以前往WAF控制台进行误报屏蔽设置,让您的访问不再被拦截";document.getElementById("c").innerHTML = "事件ID:";}function changeLanguageEn() {document.getElementById("title").innerHTML = "The access is blocked.";document.getElementById("a").innerHTML = "Sorry, your request has been intercepted because it appears to be an attack.";document.getElementById("b").innerHTML = "If you are the webmaster, configure related parameters on the WAF console to allow your requests.";document.getElementById("c").innerHTML = "Event ID:";}var language = navigator.language || navigator.browserLanguage;var re_zh = /^zh/;if (language.match(re_zh)) {changeLanguageZh();document.getElementById("option-zh").setAttribute("selected", true);} else {changeLanguageEn();document.getElementById("option-en").setAttribute("selected", true);}</script></html>
-
引言在人工智能技术飞速发展的今天,大模型已成为推动教学创新的重要工具。华为云ModelArts Studio作为一个强大的人工智能平台,为开发者提供了快速部署和应用大模型服务的能力。然而,对于应用型大学的学生,尤其是来自人文专业的同学,技术门槛仍然存在。本文将通过华为云身份验证服务IAM(Identity and Access Management),帮助学生使用教师的ModelArts Studio平台(MaaS - Model-As-A-Service),仅需几个简单的页面操作,即可实现一站式快速部署DeepSeek大模型。这一过程旨在让没有工程背景的文科生也能轻松体验大模型的魅力。准备工作在开始之前,我们需要完成一些简单的准备工作。首先,确保教师的华为云账号已开通ModelArts Studio服务。随后,配置IAM账号的用户和安全组权限,确保其能够访问和使用ModelArts Studio的全部功能。学生只需使用教师配置好的IAM账号登录,并按照教师的指导进行简单设置,即可开始体验DeepSeek大模型的强大功能。配置IAM账号包括创建IAM账号的用户和安全组,再授予相应权限:1) 建立IAM用户和用户组(基本功能,省略介绍),仅授权ReadOnlyAccess。2) 配置Model Arts委托授权:请参阅华为文档 cid:link_0ModelArts提供了添加授权功能,用户可以在ModelArts Standard的权限管理功能中,快速完成委托授权,由ModelArts为用户自动创建委托并配置到ModelArts服务中。ModelArts Standard的权限配置支持普通模式和高权限模式两种方式。· 普通模式:普通模式下,用户可以基于使用的具体业务场景,自由定制授权范围,确保最小范围授权,授权方式灵活安全。适用于对授权范围有严格要求的场景。· 高权限模式:高权限模式配置简单,但创建的委托权限比较大,适用于有管理员权限需求的用户。如果需要对委托授权的权限范围进行精确控制,建议使用普通模式。笔者应用ModelArts提供的添加授权功能,默认增加了modelarts_policy_reqoiq, modelarts_policy_960cz7, modelarts_policy_b7gumw, modelarts_policy_aecv0r权限。 登录ModelArts Studio控制台1) 使用华为云IAM账号登录(省略)。2) 选择“ModelArts Studio大模型既服务平台”(红色圈): 3) 访问ModelArts Studio:在华为云控制台中,找到ModelArts Studio服务,点击“进入控制台”: 部署DeepSeek大模型服务在ModelArts Studio中,我们可以轻松地部署DeepSeek大模型服务。1) 在ModelArts Studio的导航栏中,点击“模型体验”下的“文本对话”:2) 进入模型体验中心,点击“立即选择” 3) 选择“免费服务” 4) 截至2025年3月24日(讲座演示日),华为云提供了2个DeepSeek 模型版本, 既DeepSeek-V3-32K 和 DeepSeek-R1-32K:5) 选择其一,确定! Well Done! 就可以开始体验模型对话了。推荐同学相互选择,相互对比 约束与限制按照华为云“配置Model Arts委托授权”文档说明,关于“华为云账号”配置:只有华为云账号可以使用委托授权,可以为当前账号授权,也可以为当前账号下的所有IAM用户授权。多个IAM用户或账号,可使用同一个委托。一个账号下,最多可创建100个委托。总结与展望通过华为云IAM账号登录ModelArts Studio,我们成功实现了教学场景中的一站式快速部署DeepSeek大模型服务。这一过程不仅简化了教学资源的部署和管理,还显著提升了教学效率和效果。更重要的是,它为没有工程背景的文科学生提供了一个直观的窗口,让他们能够亲身体验人工智能大模型的部署与运行,感受其容量、速度和性能等方面的实际表现,从而更深入地理解工程技术的魅力。
-
引言deepseek-r1开源标志着普惠AI时代的到来,中小企业接入DeepSeek最安全、实惠的方式就是搭建本地知识库。本文针对企业日常项目管理中相关人员工作繁忙,项目进度跟进不及时等现状,使用DeepSeek+RAGFlow搭建项目管理知识库,用户只需要把对合同文本,往来文件上传到知识库中,系统就会智能分析项目里程碑,现状等等实现智能管理。选用RAGFlow是因为它有以下几个功能点:整合了知识图谱,0.72版本后可以直接针对文件作知识图谱切割,带来了更准确检索知识的可能。但使用知识图谱切分会消耗大量token,本经适员验证半天就花了100万有多token。智能体自带编排功能带来处理复杂场景的能力。Python API为有开发知识的人带来对知识作更准确切片的手段。知识库,智能体可通过HTTP API访问,很方便就可以嵌入其它系统。一、环境搭建1.1 准备云服务器RAGFlow最低需要50G硬盘空间,开发平台准备的免费云桌面为40G,且是ARM环境RAGFlow无构建好的docker镜像。本经济适用男头铁就想白嫖,自己在云桌面上部署了半天最终还是碰到空间不足只能作罢。换个思路参与共创领代金券继续免费学习。配置:竞价计费 8vCPUs + 32GiB + 80G硬盘, 系统Ubuntu 2024,带宽选按带宽计费5M(用流量配置个环境,下载docker都20G+,作测试时可以再调为1M,主打就算代金券也要省),这样配置下来0.7左右一小时,不关机都够测5天。至于我?当然随手关机,代金券有效期可是一年。云主机购买好后到安全组里配置80端口放行你自己的公网ip,RAGFlow安装好后是要通过80端口访问页面的。 登入到云主机后更新,安装docker一条龙apt upgrade -yapt install docker.io -yapt install docker-compose -y要注意华为apt源力的docker compose版本低,需要自己升级,那为什么要先apt装一下,还不是为了环境么,它都配置好可以偷懒了。wget https://bgithub.xyz/docker/compose/releases/download/v2.34.0/docker-compose-linux-x86_64 -O docker-composemv ./docker-compose /usr/bin/chmod +x /usr/bin/docker-compose上面路径是按默认路径,如果你是其它环境可以自己whereis查下docker-compose所在目录,把mv 后的目的路径替换为你自己的路径即可。github因为dns污染经常抽风,这里跟后面要用得到的都是直接用bgithub.xyz。二、RAGFlow安装2.1 修改docker源这里我们可以到控制台里,搜索容器镜像服务->左边镜像中心->右边点击镜像加速器,获取华为镜像地址 修改docker源为华为加速地址。vi /etc/docker/daemon.json,在vi里加如以下内容{ "registry-mirrors": [ "https://替换为上面华为镜像加速地址" ]}按"esc",:wq保存并退出,重启docker使得镜像配置生效systemctl restart docker2.2 克隆RAGFlow库git clone https://bgithub.xyz/infiniflow/ragflow.gitcd ragflow/docker发帖时最新版本为0.17.2,但该版本有时在解析文件时大概率会一直在排队状态,nightly版本已经修复该bug,所以我们使用nightly,git checkout -f nightly修改配置.env文件,按/image搜索到镜像设置,我们要嵌入模型的,将slim那行注释掉启用下面,并修改:V0.17.2为:nightly 使用docker-compose下载镜像并启动ragflow前,你多半会跟我一样在下载minio时太慢而失败,我们先用华为镜像下载,然后设置为别名quay.io即可docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Zdocker tag swr.cn-north-4.myhuaweicloud.com/ddn-k8s/quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z然后再启用RAGFlow,这里会下载10个多G的镜像文件,在等待时可以去作后续步骤获取华为云免费token等等。docker-compose up -d2.3 申请华为云免费token登录华为云 MAAS,进入贵阳一区域的MaaS控制台,然后点击控制台左侧“模型推理”,点击右侧的“免费服务”,找到想要使用的DeepSeek版本后点击“领取额度”, 领取后点击“调用说明”,选到"OpenAI SDK", 将API地址,模型名称都复制下来,后面RAGFlow中设置大模型提供商时需要填写这些信息。 2.4 申请API Key大模型外部调用需要提供API Key,需要先申请API Key。还是在ModelArts Studio界面中左边找到最下面“API Key管理”,右边点击“创建API Key”,按照你喜好填入标签,描述->“确定”即可, 同样把生成的API Key复制下来,之后我们在RAGFlow中需要填入。 三、RAGFlow配置3.1 访问我们部署的RAGFlow页面当docker-compose启动完成后,打开浏览器访问我们购买的云服务器网址即可进入RAGFlow界面,如果你输入网址后打不开,确认下有没有按1.1所说的在安全组中放行你的ip访问80端口。在初始页面中输入Email,Password。点击“sign in”,系统会自动为你创建管理员帐号。进入主界面后右上方语言切换为中文。 3.2 配置RAGFlow模型提供商点击左右侧头像->左侧“模型提供商”,从右边待添加模型里找到“OpenAI-API-Compatible”模型点击添加 “模型类型”选择chat,模型名称"DeepSeek-R1",把2.3步中保存的对应信息填入基础Url,API-KEY中。 确定后RAGFlow会测试链接,连接成功后会出现在页面上方的”添加了的模型“里。重复上述步骤把"DeepSeek-V3"模型、其它地方申请的模型、本地部署的大模型都添加进去,后续编排智能体的时,就可以根据具体场景设置调用不同的大模型。 添加完成模型后还有一步设置默认模型提供商,点击最上面“系统模型设置”,RAGFlow拆分知识图谱需要用到有推理能力的大模型,所以这里我们选DeepSeek-R1模型,嵌入模型选BAAI/bge-large-zh-v1.5,我们没用到图片、语音识别下面的几个模型可以不填。 四、项目管理知识库准备及测试4.1 知识库配置前面一系列配置完成后,就可以添加知识库了。在新建知识库前,我们先准备一些文件,见附件的“项目模拟文件.zip”,模拟项目立项,项目支付,项目研发等等信息。准备好文件后回到RAGFlow页面,点击“知识库”,再点击“新建知识库”,名字按喜好取,比如我取的“项目管理原型”。主要的配置如下嵌入模型:BAAI/bge-large-zh。切片方法:General。打开提取知识图谱,实体类型设计如下:项目,日期,里程碑,组织,订单,预算,金额(本来数字类型数据在知识图谱里一般不设置为实体,我们这里只是验证原型所以忽略,实际使用时可以通过RAGFlow的组件去业务系统中获取更准确的数字),为提高检索准确,实体归一化,社区报告生成,都选上(注意确实会消耗大量大量的token)4.2 上传知识库,并解析出知识图谱。将附件的文件上传到知识库中,全选后点解析,RAGFlow会自动提取资料的知识图谱,时间会持续至少30分钟,等有文件解析成功后左边会出现“知识图谱”选项,点击就可以看到RAGFlow自动生成的图谱图示,如下图。需要注意的是因为GrapRAG里提取实体跟关系是英文提示词,社区摘要有时候会是一串英文。如果要投入正式使用还得自己作更多的测试修改为中文提示词。 4.3 测试项目管理知识图谱解析完成后,就可以测试我们的项目管理原型是否能满足要求。点击最上方“聊天”-“新建助理”,作如下配置助理设置:知识库选择上面我们建立的知识库"项目管理原型"提示引擎:对默认的提示词作进一步修改,增加“#项目按照项目立项时间排序,回答给定项目的相关内容。算不是实际支出,只有支付的才是实际支出”提示引擎里的使用知识图谱可以切换测试,看看使用知识图谱跟不使用知识图谱的对比效果模型:选择DeepSeek-R1测试用例:”2025年项目总共支出了多少“,不启用知识图谱时,回答知识库中无2025年总共支出,或者只回答奶茶项目支出了10万,这就是默认知识库中,信息重叠时,只取TopN造成的毛病。 启用知识图谱时,回答会耗时更多,后台看是首先用大模型对问题生成知识图谱查询,然后把查询结果再给模型完善回答。 五、 制作智能体机器人上面测试我们可以发现,为实现不同问题需要定制不同的提示词,或者有些多跳的问题需要使用知识图谱,简单的问题直接使用RAG问答就行。为给用户更好的使用体验,可以通过智能体机器人,对用户问题作分析然后按不同问题调用不同的流程做回答。点击页面上方"agent"->“创建agent”,使用空白模板。我们要实现一个可以执行多个功能的项目管理智能体,要用到如下组件。问题分类:判断用户问题类型,然后调用不同的模型作回答知识检索:针对用户问题检索知识库内容生成回答:将检索内容作为上下文,让大模型作智能回答首先拖入“对话”,“问题分类”两个组件,设置好流程,如下图 点中问题分类,第一步需要设置输入,我们直接应用对话_0,第二部选择作分类的大模型,因为分类不需要推理能力为了响应速度我们选DeepSeek-V3,最后点击新增分类,填写名称,描述以及例子,其中例子是最重要的分类依据。大模型根据分类例子判断分类这里添加以下三种问题分类,你也可以按实际情况自己发挥项目现状:描述,项目情况类问题。示例,奥美项目当前情况?奶茶项目推进如何?项目成本:描述,项目支出类问题。示例,奥美预算多少? 2025年项目支出多少?奶茶推进项目超预算了么?项目总结:描述:汇报类问题。 示例,生成奥美项目的项目月结。 生成奶茶推进项目月结。 有了问题分类,就可以针对不同类型问题作不同的检索,比如简单的问题直接检索知识库,复杂的问题按知识库检索,甚至更复杂的问题可以再让DeepSeek把问题拆分为一系列小问题,使用循环组件分别解决小问题后再汇总回答,这里主要作原型测试,所以不展开。我们直接简单按3个分类作3中不同的检索,从左边拉出3个知识检索,配置好执行箭头, 每个检索的配置里”输入“统一都选择“对话_0",”知识库选择“项目管理原型”,是否启用知识图谱,根据分类的复杂程度配置, 这里设置“项目成本”启用知识图谱。 再拖拉3个生成回答对应3个知识检索,表示用相同或者不同的大模型去回答对应问题,3个回答的提示词简单设计如下 生成回答_0:模型选择DeepSeeK-V3。提示词:根据{input},总结项目当前里程碑,并简单分析下当前项目。注意:只回答问到的项目的相关内容生成回答_1:模型选择DeepSeek-R1。提示词:请总结段落{input}。注意数字,不要胡编乱造。生成回答_2:模型选择DeepSeek-R1。提示词:根据{input}。生成项目总结。总结里要提到项目已完成里程碑,当前里程碑,预算,实际支出。当前重点关注点 到此,一个简单的智能体搭建完成。我们可以点击“运行”测试新建的智能体。 输入问题“奥美项目现状”, 如下图可以看到智能体正确的按“项目现状”分类->“知识检索_0”->"生成回答_0"流程执行,并回答了奥美项目现状。可以再多问几个问题测试下,比如“奥美注射液小试阶段付钱了么?”,“奶茶推进项目月结”,都能按最初分类并回答,大家可以自行测试这里就不贴图了六、感想展望以上我们用DeepSeek+AGFlow搭建了项目管理的雏形。对于信息类的检索已经能满足使用,但对于稍微复杂点的统计、对比类问题还不是很满意。比如多跳类问题“第二个项目已经支付了多少钱”查看知识图谱的检索结果还是会带多个项目,能正确回答是因为作测试的知识库里项目数量少每次都把所有项目直接提供给DeepSeek-R1,或多或少的依赖R1推理能力推理出结果。当知道问题只针对一个项目把知识检索的TopN设置为1,2这类小数值时,回答就经常不是正确的项目。一方面因为使用的GraphRAG里提示词为英文编写,另外一方面使用ES作为知识图谱的存储也不太方便技术人员,如果能存储到Neoj4之类的外部知识图谱数据库中,就可以使用外部查询的方式来获得更准确结果。使用知识图谱的查询耗时太久,影响用户体验,从日志看是使用推理对于企业应用特别是项目管理来说知识图谱的实体,属性,关系相对确认,只要提示词给了足够详细用不带推理的DeepSeek-V3,甚至QWQ-32B模型也一样作正确查询。另外DeepSeek-R1目前函数调用还在完善,希望在R2版本时能完善该功能。同时RAGFlow早日增加对MCP支持,这两项完善后技术背景的人员会有更多手段实现更准确的智能体应用。 我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践cid:link_1
-
案例介绍本案例指导开发者通过开发者空间提供的云主机,使用开源Kotaemon的RAG UI框架,调用ModelArts Studio 大模型平台的DeepSeek-V3-32K模型,构建私人知识库。案例内容1 概述1.1 背景介绍ModelArts Studio作为一款先进的大模型即服务平台,集成了高效便捷的模型开发工具链,支持企业对大模型进行深度定制开发,实现模型应用与业务系统的深度融合,从而显著降低企业AI技术的落地成本与实施难度,助力企业快速实现智能化转型。如今,知识库已成为企业和个人提升工作效率、积累知识资产的重要工具。传统知识库存在构建成本高、维护困难、检索效率低等问题。本案例利用Kotaemon框架和ModelArts Studio提供的DeepSeek-V3-32K模型,构建一个高效、便捷、可定制的本地/私人知识库,方便开发者检索各种场景的文档,提高工作效率。有下列应用场景:开发者文档检索: 开发者可以快速检索 API 文档、代码示例、技术博客等,提高开发效率;企业内部知识管理: 企业可以构建内部知识库,方便员工共享和检索知识,提升团队协作效率;个人知识积累: 个人可以利用知识库管理学习笔记、项目资料等,构建个人知识体系。1.2 适用对象企业个人开发者高校学生1.3 案例时间本案例总时长预计60分钟。1.4 案例流程说明:① 用户使用登录开发者空间并配置云主机;② 用户提供Firefox浏览器在ModelArts Studio平台中领取DeepSeek-V3-32K模型;③ 使用docker部署Kotaemon框架④ Kotaemon调用ModelArts Studio平台中的DeepSeek-V3-32K API模型;⑤ 用户在Firefox浏览器中构建AI知识库并对其进行聊天。1.5 资源总览本案例预计花费总计0元。资源名称规格单价(元)时长(分钟)开发者空间2vCPUs | 4GB X86 |Ubuntu 22.04 Server定制版0602 资源与开发环境准备2.1 配置云主机首先登录开发者空间,登录后页面如下:点击配置云主机,按如下规格进行云主机配置。云主机名称:我的云主机/自定义CPU架构:X86规格:2 vCPUs 4 GB操作系统:Ubuntu系统镜像:公共镜像 Ubuntu 22.04 Server定制版确认以上配置正确,点击安装,进行云主机操作系统安装。安装完毕之后,点击进入桌面。环境准备中,大约需要3-5分钟,请您耐心等待…进入桌面后的默认效果如下:2.2 领取DeepSeek-V3-32K模型在云主机桌面底部菜单栏,点击打开火狐浏览器:用Firefox浏览器访问ModelArts Studio首页, 点击ModelArts Studio控制台,跳转到登录界面,按照提示登录,即可进入ModelArts Studio控制台:签署免责声明:进入ModelArts Studio控制台首页,在左侧菜单栏,选择模型推理中的在线推理,在免费服务中选择DeepSeek-V3-32K(NEW)模型,点击领取,领取200万免费token。3 安装并配置Kotaemon3.1 Kotaemon安装Kotaemon 是一个开源的、简洁且高度可定制的 RAG(Retrieval-Augmented Generation,检索增强生成)用户界面,专门设计用于与您的文档进行对话。无论是普通用户还是开发者,Kotaemon 都旨在提供一种直观、灵活且高效的方式来管理和交互您的文档内容。它不仅仅是一个简单的聊天工具,更是一个集成了先进 AI 技术的智能文档助手,能够帮助用户快速检索、理解和生成与文档相关的信息。项目地址:cid:link_4本次通过docker安装Kotaemon。首先先安装docker:参考文档:cid:link_1登录开发者空间云主机,更新软件包列表。sudo apt-get update安装Docker所需依赖包。sudo apt-get -y install ca-certificates curl创建/etc/apt/keyrings目录,并下载Docker的官方GPG密钥到该目录。sudo install -m 0755 -d /etc/apt/keyringssudo curl -fsSL https://mirrors.huaweicloud.com/docker-ce/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.ascsudo chmod a+r /etc/apt/keyrings/docker.asc将Docker仓库添加到系统的软件源列表。echo \ "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://mirrors.huaweicloud.com/docker-ce/linux/ubuntu \ $(. /etc/os-release && echo "$VERSION_CODENAME") stable" | \ sudo tee /etc/apt/sources.list.d/docker.list > /dev/null更新软件包列表。sudo apt-get update安装并运行Docker。sudo apt-get install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-pluginsudo systemctl start docker设置以非 root 用户身份管理 Docker#由于云主机默认的用户是developer非root用户,需要设置以非 root 用户身份管理 Docker#创建组dockersudo groupadd docker#将您的用户添加到组dockersudo usermod -aG docker $USER重启云主机回到工作台,点击重启按钮,云主机会自动重启或者您还可以运行以下命令来激活对组的更改:newgrp docker下面的命令是设置 Docker 在系统启动时自动启动。sudo systemctl enable docker查看docker版本信息。docker -v回显如下类似信息,表示Docker安装成功。Docker到此已经安装完毕。接下来通过Docker安装Kotaemon,命令如下:docker run \-e GRADIO_SERVER_NAME=0.0.0.0 \-e GRADIO_SERVER_PORT=7860 \-v ./ktem_app_data:/app/ktem_app_data \-p 7860:7860 -it \ghcr.nju.edu.cn/cinnamon/kotaemon:main-ollama正在安装Kotaemon中:稍等几分钟,下面是安装依赖的日志:继续等待依赖安装完成,下面是安装成功且运行的截图:3.2 登录Kotaemon首页我们在浏览器输入链接:http://localhost:7860发现加载出了首页:默认的Username和Password均为 admin我们输入上述Username和Password,点击登录:登录成功:3.3 在华为云Maas上获取DeepSeek-V3-32K(NEW)模型api接口首先我们要先配置DeepSeek-V3-32K(NEW)模型api接口:我们打开ModelArts Studio中API Key管理的链接:https://console.huaweicloud.com/modelarts/?locale=zh-cn®ion=cn-southwest-2#/model-studio/authmanage点击创建API Key:在标签中填入:Kotaemon描述中填入:开发者空间的Kotaemon当然上述标签和描述的内容可以自定义:创建成功:我们在页面上也可以看到创建成功:注意:API Key仅会在新建后显示一次,请及时复制并妥善保存,若API Key丢失,请新建API Key。我们接着查看在线推理中DeepSeek-V3-32K(NEW)模型api接口信息:查看调用信息,要点击OpenAI SDK按钮:我们成功得到了DeepSeek-V3-32K(NEW)模型接口信息。3.4 配置Kotaemon我们回到开发者空间云主机的火狐浏览器,在Kotaemon登录成功的页面中,首先点击Resources 按钮:点击LLMs按钮:我们在LLMs中先配置DeepSeek-V3-32K(NEW)模型接口,点击Add按钮添加模型供应商:出现下面界面:缩小页面,可以看到全部配置信息:LLM name选项就是需要显示的模型供应商的模型(自定义),本案例设置为华为云下面继续设置LLM vendors,我们这里必须选择ChatOpenAI最后的选项Specification用于配置模型的接口信息这里默认只给出了api_key和model,因为这里默认是OpenAI来提供模型,所以我们需要手动添加base_url指定模型的接口地址,注意:这里添加base_url,不能直接在api_key:null行最后通过换行,来添加一行,需要按住shift+enter 才能添加新的一行。我们将之前得到的Api key、API地址、模型名称填入选项中:我们已经填好信息,把下面的Set default 设置为默认模型勾选一下(1),点击添加模型(2):浏览器的右上角会出现添加成功的消息:我们点击View视图查看添加的模型:发现已经成功添加华为云为默认的LLMs:我们点击华为云,测试DeepSeek-V3模型是否连接正常:在Test connection中点击Test:测试发现,- Connection success. Got response: Hello! How can I assist you today? 以及右上角会显示infoLLM 华为云 connect successfully说明连接华为云成功注意:如果出现- Connection failed. Got error: Error code: 400 - {'error_code': 'ModelArts.4905', 'error_msg': 'Failed to check the authorization request header. '}说明api_key配置错误.请检查api_key是否填写正确。如果出现- Connection failed. Got error: Error code: 404 - {'detail': 'Not Found'}说明API地址 base_url 配置错误,需要配置正确的地址如果出现- Connection failed. Got error: Error code: 404 - {'object': 'error', 'message': 'The model `deepseek-V3` does not exist.', 'type': 'NotFoundError', 'param': None, 'code': 404}说明模型名称model配置错误,需要将名称配置为:DeepSeek-V3最后我们要保存配置:浏览器右上角会显示保存成功:接下来我们配置Embeddings 嵌入式模型:我们这里docker镜像采用了Ollama 捆绑包,所以使用容器内ollama提供嵌入式模型:nomic-embed-text我们勾选使用ollama为默认的嵌入式模型,然后测试其模型:点击Test:出现连接成功的提示:最后,要保存配置:右上角显示保存成功:最后检查LLMs和Embeddings是否配置正确:下面设置其他选项:首先点击Settings按钮,然后点击Retrieval settings:我们修改1个选项,将LLM for relevant scoring修改为默认:然后点击保存设置: 4 使用Kotaemon搭建本地AI知识库然后我们点击Chat回到首页:我们可以上传我们的个人笔记、知识文档,点击Files按钮,上传pdf文件:上传完成后,正在为文件创建索引:这里创建索引的时间是根据文件的大小和嵌入式模型的响应速度决定的,文件过大,创建索引时间可能过长。下面是文件创建索引成功:点击这个文件:上述文件已经加入我们的知识库了点击Chat按钮,返回首页我们先选中文件,点击Search In File(s):选择文件:首页我们要设置AI回答的语言为中文,点击下方红色方框的小按钮:点击Language下方的按钮:选择中文Chinese:选择完成后:我们可以对这个文件进行提问了:第一个问题:总结这个文件回答的不错这里由于开发者空间自带的firefox的版本太低,无法显示思维导图因此使用chrome浏览器。首先安装下载Google Chrome 的安装包:wget https://dl.google.com/linux/direct/google-chrome-stable_current_amd64.deb然后安装Google Chromesudo dpkg -i google-chrome-stable_current_amd64.deb查看是否安装成功:dpkg -l | grep google-chrome然后点击首页的左下角的所有应用程序按钮:然后点击运行程序:点击向下的箭头:选择chrome浏览器,启动即可:输入链接:http://localhost:7860/填入默认的Username和Password (均为admin)选择刚才的发现思维导图成功显示:点击Export按钮,可以在新窗口查看思维导图:打开了新窗口:点击Preview按钮,可以预览源文件可以浏览源文件:我们的AI知识库的搭建就完成了!5 总结与展望本次使用的Kotaemon的开源框架中关于RAG的一小部分应用,还有许多其他功能,开发者可以参考下面开源地址链接进行指导:Kotaemon项目地址:cid:link_4华为云Maas提供的DeepSeek-V3-32K模型响应速度挺快,虽然仅仅是体验,后续马上也要开通商用按量服务,应该速度更快! 我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践https://bbs.huaweicloud.com/forum/thread-0218176004967264062-1-1.html
-
12月2日,华为人工智能通用人工智能大模型实训讲座暨华为云HCSD校园沙龙·南京信息工程大学成功举办!本次沙龙以“盘古辟千行,模型塑万业,AI进校园”为主题,带领南信大约300名学生近距离探索华为盘古大模型和AI开发生产线ModelArts,实践第十八届 “挑战杯”揭榜挂帅-华为云专项赛的赛题——疲劳/分神驾驶检测。活动由华为云计算技术有限公司主办,华为云EI开发者支持团队承办,南京信息工程大学协办。南京信息工程大学人工智能学院副院长李春彪和华为云盘古大模型生态经理蔡同磊应邀出席并对活动作精彩致辞。特邀嘉宾华为云EI算法工程师刘宇与高校开发者面对面,与现场近300名学生带来了深入而生动的技术分享与讨论。本次活动由人工智能学院院长助理孙文赟主持。 南京信息工程大学人工智能学院副院长李春彪代表南京信息工程大学发表了热情洋溢的欢迎辞,对华为云的技术交流与合作表示了诚挚的感谢,华为云HCSD校园沙龙走进南京信息工程大学活动有助于理论与实践相结合的教学模式的落实,使同学们更加了解现在企业更需要的人才类型,从而更好的学习理论知识,在后续学习及职场中的提升核心竞争力。 华为云盘古大模型生态经理蔡同磊重点介绍了华为在人才培养和发展方面的持续投入,强调了华为在满足当前应用需求的同时,着重培养基础人才,确保数字人才源源不断的供给。 华为云EI算法工程师刘宇老师则围绕着“大模型时代下高校开发者如何学以致用,学好AI”的主题进行了精彩演讲。他详细介绍了大模型的发展趋势,华为云盘古大模型在多领域应用中的优势;华为云全栈AI能力,可应用于全场景产品和服务,助力千行万业智能升级华为云全栈AI能力;ModelArts平台提供端到端AI开发体验及开发流程,可系统化助力开发者提升自身技术能力,真正在云上作业,懂开发会开发,做全能开发者。 在AI训练营环节,带领学生们体验了第十八届 “挑战杯”揭榜挂帅-华为云专项赛的赛题——疲劳/分神驾驶检测。他先是详细解读案例背景的真实项目需求,又对数据的采集、处理进行分析,道出了疲劳检测的原理,以及如何利用yolov7算法进行人脸/手机检测模型,实现更准确的人脸关键点检测。 本次活动的成功举办不仅展现了双方在技术交流与合作方面的密切联系,更为学生们提供了一个难得的学习与交流平台,本次活动必将成为未来校企双方技术探索与学术交流的热点之一,为进一步展教融合发展注入新的动力。
-
2024年11月30日,南京大学在仙林校区敬文学生活动中心南青报告厅隆重举行2024年学术科创月开幕式暨华为云HCSD校园沙龙活动,华为云开发者联盟产品部总裁王希海一行莅临参加,校团委书记朱翰墨,科学技术研究院副院长、人工智能学院教授詹德川,校团委副书记王维嘉等出席本次活动。现场约 120 名大赛获奖团队以及参赛经验丰富学生参加活动, DTSE 团队、AI 专家和鸿蒙专家为同学们带来了一场精彩讲座分享与实操。 南京大学团委书记朱翰墨向开幕式致词。他首先对华为公司的到来表示热烈欢迎和衷心感谢,并回顾了南大学子在2024年度“挑战杯”竞赛中取得的卓越成绩。朱书记激励广大学子要以此次学术科创月为契机,大展身手,再创佳绩,勇攀科技创新高峰。 随后,华为云开发者联盟产品部总裁王希海发表致辞。他分享了华为云在科技创新领域的最新成果和前沿理念,并表示华为云将持续助力高校学术科创发展,为学生提供更多实践机会和技术支持。 在开幕式上,南京大学还对第十四届“挑战杯”中国大学生创业计划竞赛南京大学选拔赛获奖团队进行了表彰颁奖。同时,华为云HCSD校园大使聘书也颁发给了在第十九届“挑战杯”2024年度“揭榜挂帅”专项赛中表现出色的南京大学学生团队负责人。南京大学团委学创部部长李敏发布了2024年学术科创月活动计划,详细介绍了校级层面将开展的一系列丰富多彩的学术科创活动,并鼓励同学们积极参与其中,以时不我待的精神扎实奋进,大显身手。 随着开幕式议程的圆满结束,活动进入了精彩的讲座环节。华为云DTSE开发者技术专家孙浩然带来了“开发者自己的‘云创空间’——基于FunctionGraph的Gif动图制作开发实践”的讲座,他表示,开发者空间是以开发者为对象进行2D开发者关系管理和交流、学习、实践的生态运营平台和触点,让开发者可以更好的发现和学习华为的技术和服务,开发者平台是连接服务产品部,基于服务产品部的的工具和资源,打造社区交流、学堂学习及在开发者空间低门槛的快速体验和实践。他还通过实际案例展示了云技术在创新开发中的应用。例如如何为开发者的开发旅程打造高效便捷的开发体验,开发者可以通过“最近访问”功能,轻松找到并再次使用那些钟爱的开发工具,让开发过程更加流畅。另外,为满足不同开发场景的需求,华为还为拥护提供了一系列热门开发工具,CodeArts IDE及相关插件等。此外,也提供了鲲鹏、昇腾、鸿蒙生态的开发工具资源入口,让开发者在开发过程中能够无缝对接这些生态。 华为云AI算法工程师薛明昊围绕“大模型时代下的AI开发,引领无限创新”的主题,深入剖析了大模型时代AI开发的机遇与挑战,他指出,华为云开发者认证可以有效提升开发者能力,助力数字产业人才生态发展。华为云是ICT产业的未来,也是企业数字化转型的底座,开发者是产业发展的灵魂,是业务创新的源头,是技术发展的引领者。华为云推出开发者认证以更好地服务千万开发者,真正让开发者在云上作业,懂开发会开发,与开发者共成长。培训课程赋能昇腾化改造,搭配昇腾迁移专业服务,建设核心伙伴梯队联合构建服务能力,帮助现场同学们快速构建推理、训练调优能力,为同学们提供了前沿的技术思路。 华为云开发者联盟鸿蒙布道师张泽钊在“创新引领未来,共建鸿蒙家园”的讲座中,介绍了鸿蒙系统的创新特性及发展前景。他强调,首批来自国内各行业内的头部企业的4000多个鸿蒙原生应用已经在加速开发,越来越多的开发者启动鸿蒙原生应用开发,涵盖HarmonyOS入门、进阶等各个阶段课程,并可以向同学们提供学、练、考、证一站式服务,满足学生不同阶段的学习诉求,全方位赋能开发者,助力开发者人才生态发展,经年来,已经向多个头部开发者培养与输送人才,构建职业培训和企业培训能力,持续孵化鸿蒙人才。讲座极大激发了同学们对国产操作系统的创新热情。 开幕式后南京大学与华为公司在南京大学黄大年茶思屋召开了圆桌会议,进行深入交流研讨并对于后续合作做出进一步沟通。华为在会上做了有关高校生态的介绍和汇报。会议指出,校方将联手华为,并组织相关活动,让学生亲身体验科技前沿,打造特色第二课堂。深度解读科技趋势,引领学生探索未来。双方要积极响应“科技报国,提升社会服务力量”的号召,共同打造出一系列具有影响力的响应成果案例,为科技创新和社会发展注入新的活力。面向未来,双方将携手不断探索校企共育高质量科技人才的有益实践,将秉持初心,继续深化合作,共同探索校企合作培养高质量科技人才的新模式与实践,在双方的共同努力下,为行业输送更多优秀人才。 本次南京大学2024年学术科创月开幕式暨华为云HCSD校园沙龙活动,不仅是一场知识的盛宴,更是科技创新的启航。南大学子将以第十九届“挑战杯”全国大学生课外学术科技作品竞赛和此次活动为契机,积极投身科技创新的伟大征程,为实现中华民族伟大复兴的中国梦贡献南大力量。
-
想必大家在使用deepseek时,屏幕上经常弹出“服务器繁忙”的问题吧,下面就跟我一起通过云主机部署DeepSeek,搭建自己的专属服务,和“服务器繁忙”说拜拜!~话不多说,直接开干~一、环境准备(华为云主机(基础版))1. 登录华为云“开发者空间”登录华为云开发者空间创建云主机:镜像:Ubuntu 22.04规格:2核4GB(最低配置)2. 进入云主机桌面完成云主机创建后,我们直接进入云主机桌面,如下图所示:3. 安装OllamaOllama 是一个开源工具,专为简化大型语言模型(LLMs)的本地运行、部署和管理而设计。它提供了一个易于使用的命令行界面,使开发者和研究人员能够快速下载、运行并交互多种预训练语言模型,支持不同的模型架构。无论是进行实验、开发还是教育,Ollama 都是一个强大的工具,帮助用户在本地环境中高效利用先进的语言模型技术。3.1 Open Terminal Here:在云主机桌面右键选择“Open Terminal Here”,打开命令终端窗口。3.2 安装Ollama:执行安装命令如下: curl -fsSL https://ollama.com/install.sh | sh 注意:命名先复制到云主机的剪切板,再粘贴到Terminal。如下图:4. 部署DeepSeek4.1部署:接下来我们就可以借助 Ollama 工具来部署 Deepseek 大模型,部署 deepseek-r1:1.5b 版本,执行命令如下:ollama run deepseek-r1:1.5b4.2对话:部署完成后,我们就可以与 Deepseek 大模型进行对话了,这里我简单的给大家演示下:我们可以看到,Deepseek的思考部分和回答部分都能正常的输出了,到这里我们就部署完成了,是不是超级简单?不到5分钟的时间!不过话说会在,在Terminal使用Deepseek总归不太方便,于是乎,我们生活中还是习惯用可视化的界面窗口来使用,下面我就带大家一起通过ChatBox调用Ollama 部署 DeepSeek!二、安装ChatBoxChatbox Al是一款Al客户端应用和智能助手,支持众多先进的Al模型和API,可在Windows、MacOS、Android、iOS、Linux和网页版上使用。5.1安装ChatBox:云主机使用火狐浏览器下载ChatBox: https://chatboxai.app/zh 。打开Chatboxai主页,点击“更多选项”进入到开始使用界面进行安装包下载。因为在前面我配置云主机的时候选择的是X86类型,所以我们这里下载【Linux:64-bt】:5.2赋予权限:打开下载文件所在目录,单击鼠标左键“文件”,选择打开终端命令窗口,执行以下命令给文件赋予权限。sudo chmod +x Chatbox-1.10.5-x86_64.AppImage注意:命令中的“Chatbox-1.10.5-x86_64.AppImage”以实际的文件名称为准,记得替换。5.3安装libfuse.so.2库:安装libfuse.so.2库的话,直接在命令窗口输入以下命令即可:sudo apt install libfuse25.4运行文件Chatbox:接下来我们就可以运行Chatbox咯,我们可以执行以下命令来运行:./Chatbox-1.10.5-x86_64.AppImage注意:命令中的“Chatbox-1.10.5-x86_64.AppImage”以实际的文件名称为准,记得替换。出现如下界面,就说明我们已经顺利安装和启动Chatbox了,后面就是配置的事情了。三、配置ChatBox5.5配置ChatBox参数:首次打开会看到以下选项,选择 “使用自己的API Key或本地模型(Use My Own API Key/Local Model)”:5.6选择 Ollama API:然后在新的标签页里选择 Ollama API。5.7选择 deepseek-r1:1.5b:然后在模型列表里我们会看到通过 Ollama 所部署的大模型,选择 deepseek-r1:1.5b,然后点击【保存】即可。5.8体验使用Chatbox:保存之后,就可以在对话框里与 Deepseek 大模型进行对话了!~是不是流程也超级简答!~通过Chatbox与Deepseek对话,我们也能看到使用的Token数量。至此,我们基于华为云主机部署 DeepSeek 蒸馏模型(ChatBox调用Ollama 部署 DeepSeek)的实验就完成操作了,大家也赶紧去体验吧~我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践https://bbs.huaweicloud.com/forum/thread-0218176004967264062-1-1.html”
-
引言随着人工智能技术的不断发展,越来越多的企业和个人开始探索如何利用深度学习模型来提升业务效率和用户体验。下面我就详细的就“基于华为云ModelArts Studio调用DeepSeek-R1-32K模型”一.基于华为云ModelArts Studio调用DeepSeek-R1-32K模型:1.方案概览:本方案以 DeepSeek-R1-32K为例进行演示,通过华为云ModelArts Studio服务进行 DeepSeek 开源模型调用,可以根据实际需求选择其他参数规模的 DeepSeek 模型。华为云ModelArts Studio平台的 API 提供标准化接口,无需自行搭建模型服务基础设施,且具备负载均衡和自动扩缩容机制,保障 API 调用稳定性。搭配 Chatbox 可视化界面客户端,进一步简化了调用流程,无需在命令行中操作,通过图形化界面即可轻松配置和使用 DeepSeek 模型。2.方案架构:按照本方案提供的配置完成后,会在本地搭建一个如下图所示的运行环境。3.获取API-KEY:在部署本方案开始时,首先要登录华为云ModelArts Studio服务平台获取API-KEY(这里获取方法我就不赘述了,看下面截图):4.下载并使用使用Chatbox:Chatbox 客户端配置华为云ModelArts Studio平台的 API 进行对话:4.1.访问 Chatbox: (下载地址:https://chatboxai.app/zh) 下载并安装客户端,本方案以 windows 为例。4.2.下载: 点击下载按钮,选择下载目录后进行下载:4.3.安装Chatbox: 双击“Chatbox-1.9.8-Setup.exe”进行安装,注意安装路径。4.4.运行Chatbox: 安装好后直接运行Chatbox,这里我们选择**“使用自己的APl Key 或本地模型”。**4.5.进行参数配置:参数内容的来源就在华为云ModelArts Studio平台的【模型工具】模块内,这里提供了 2,000,000tokens免费额度,可以参考我下面的截图内容:4.6.测试: 完成配置后,我们就可以在输入框进行测试了,如下图:我们可看到,在Chatbox内就成功的调用了DeepSeek-R1-32K,回复的内容内也有思考的部分。4.7.拓展配置:4.7.1 我们回到Chatbox的设置配置,可以在配置内修改(增加)【模型名称】,即可调动模型的其他版本,在使用Chatbox时候仅需切换类型即可(调用的API相同,仅需增加模型名称即可),如下所示:4.7.2 我们切换回Chatbox到聊天窗口,在右下角即可进行切换模型:至此,我们整个个实验就都已经完成了操作和体验。二. 推荐理由推荐方式:基于华为云ModelArts Studio调用DeepSeek-R1-32K模型推荐理由:简单快捷:无需复杂的配置和环境搭建,几分钟内即可完成集成。高可用性:华为云提供的 API 服务具有高可靠性和低延迟,确保模型响应速度。灵活扩展:可以根据实际需求动态调整 API 请求量,适应不同规模的应用场景。个人体验:在实际项目中,我选择基于华为云ModelArts Studio调用DeepSeek-R1-32K模型的方式进行集成。这种方式不仅大大缩短了开发周期,还显著提升了系统的稳定性和性能。尤其是在处理大量并发请求时,API 服务的表现令人满意。当然,我会选择继续采用基于华为云ModelArts Studio调用DeepSeek-R1-32K模型的方式来使用 DeepSeek 模型,因为它在满足需求的同时,最大限度地降低了开发和维护成本。然而,对于一些特定的高性能需求场景,我也会考虑基于 GPU 云服务器的部署方式。我正在参加【案例共创】第2期 构建开发场景最佳实践/体验评测,创作案例文章https://bbs.huaweicloud.com/forum/thread-0225174879180881007-1-1.html”
-
华为云与DeepSeek将如何重塑产品与应用模式,助力企业数字化转型?如何在华为开发者空间高效部署DeepSeek,搭建专属服务器?本期直播围绕DeepSeek在云上的应用案例,与DTSE布道师们一起探讨如何利用 AI 驱动云上应用创新。本文精选直播期间开发者的提问并由DTSE技术布道师一一解答。欢迎观看直播回顾:cid:link_0Q:云上部署DeepSeek如何确保数据安全的呢?A:华为云通过多种技术和管理措施保障大语言模型在云上的安全运行,包括基础设施安全、网络隔离、数据加密、模型鉴权等。Q: 在华为云平台上部署DeepSeek时,有哪些关键的技术挑战需要克服?华为云提供了哪些解决方案来应对这些挑战?A:目前华为云已经将deepseek纳入到自身的开源解决方案中,部署即可通过maas平台实现一键部署,也可以通过云上租用裸金属服务器自行部署,部署方法和测试方案已经包含在解决方案之中了,并且提供全面的技术支持与服务。Q:在私有化部署中,如何利用DeepSeek的API接口与企业现有的IT系统(如ERP、CRM)无缝集成,以实现智能化业务流程?A:利用DeepSeek提升企业IT系统的智能化水平,可以先从一些辅助场景入手,通过改在和接入新的AI工具提升现有IT系统的办公效率,在此基础上,进一步引入更加复杂的场景,并使用AI进行优化和强化。Q: 华为平台私有化部署DeepSeek时,如何通过技术手段确保数据在本地存储、传输和处理过程中的安全性,以满足GDPR、HIPAA等国际合规标准?A:华为云通过多种技术和管理措施保障大语言模型在云上的安全运行,包括基础设施安全、网络隔离、数据加密、模型鉴权等。有关华为云网络及数据安全相关的技术文件,可登录华为云向客服索取。Q:对于DeepSeek各种模型,适合那些行业,能做一个简单的介绍吗?A:DeepSeek V3适合于绝大多数不需要复杂推理的场景;R1则更适合复杂逻辑或需要一定推理能力才能解决的问题。从模型体量的角度出发,如果是小企业或者个人用户,R1的各种蒸馏版部署起来相对容易,如果追求极致的性能,那么满血版模型则是最佳选择。Q:在搭建专属服务器时,如何根据企业的业务需求灵活配置资源,实现高效、稳定的AI应用部署?A:华为云能为企业提供专家服务,帮企业梳理业务需求,选择合适的模型,再根据模型大小和模型访问并发来选配最合适的资源。Q:在数字化转型过程中,企业如何利用华为云与DeepSeek提供的解决方案,实现业务流程的智能化重构和创新?A:企业可以通过华为云与DeepSeek联合解决方案,在客户客情管控、公司知识体系构建、业务流程自动化、数据分析与决策支持、以及培训与教育等方面实现业务流程的智能化重构和创新Q:如何通过华为云的技术支持和服务体系,降低企业在部署和使用DeepSeek时的技术门槛和运维成本?A:华为云能提供非常完备的专家服务为企业解决部署和应用DeepSeek过程中的技术问题。Q:DeepSeek技术如何集成到现有的企业IT架构中?它对现有系统的影响是什么?A:利用DeepSeek提升企业IT系统的智能化水平,可以先从一些辅助场景入手,通过改在和接入新的AI工具提升现有IT系统的办公效率,在此基础上,进一步引入更加复杂的场景,并使用AI进行优化和强化。Q:部署的DeepSeek可以进行特定的调整训练吗?A:DeepSeek遵循一般大模型的架构与组织形式,因此可以进行微调、增训、压缩和量化,但需要额外的算力资源进行支撑Q:对于希望使用DeepSeek进行AI驱动的应用开发的企业来说,他们应该从哪里开始?华为云提供了哪些资源和支持?A:利用DeepSeek提升客户IT系统的智能化水平,可以先从一些辅助场景入手,通过改在和接入新的AI工具提升现有IT系统的办公效率,在此基础上,进一步引入更加复杂的场景,并使用AI进行优化和强化。Q:如何确保数据安全和隐私保护,在使用DeepSeek的过程中?A:华为云通过多种技术和管理措施保障大语言模型在云上的安全运行,包括基础设施安全、网络隔离、数据加密、模型鉴权等。Q:华为云提到企业级优化方案支持私有化部署。若企业已有本地数据中心,能否通过华为云MaaS平台实现混合云环境下的DeepSeek模型弹性调度?需要哪些基础设施条件?A:可以,但详细解决解决方案需要在充分了解企业现有系统的基础上才能做出。Q:AI Agent怎么打造呢A:AI Agent需要利用大模型、设计工具、插件等,通过合理的逻辑设计构建一套复杂的系统Q:软件更新后,需要重新配置模型吗?A:一般来说,软件更新需要遵循利旧原则,因此除非出现版本的重大更新,一般需要重新配置模型Q:安装ChatBox后如何确保模型连接稳定?A:模型链接的稳定性由多方因素决定,需要具体问题具体分析Q:云上部署deepseek具体如何确保了数据的安全性?A:华为云通过多种技术和管理措施保障大语言模型在云上的安全运行,包括基础设施安全、网络隔离、数据加密、模型鉴权等。Q:香橙派AI pro 20T能否本地部署Deepseek,蒸馏的也可以,能否出个教程?A:很好的建议,后续我们会考虑。Q:华为的310B卡能本地部署Deepseek吗?需要MindSpore或者Ascend之类的支持吗A:310B卡理论上可以用于部署蒸馏版R1,但是目前技术侧还有一些问题需要打通和解决,暂时不推荐使用310B部署R1模型Q:在部署DeepSeek模型时,如何通过华为云的弹性算力资源实现动态调整,以应对业务高峰期的需求?A:华为云的弹性负载策略同样适用于大模型的对外服务,详细解决方案请咨询华为云技术团队。Q:部署好的DeepSeek会暴露Restful API吗?A:DeepSeek是否会暴露RESTful API取决于部署方式和安全配置。公有云部署中API接口通常会暴露,但需要加强安全措施;私有化部署可以通过封装和网络隔离来避免API暴露。Q:在 大模型(如千亿参数模型)领域,DeepSeek 和华为云是否有计划合作开发或优化分布式训练框架,以降低训练成本并提升效率?A:华为云会针对DeepSeek做相应的优化,以降低训练成本提升模型训推效率。Q:(如文本、图像、语音的结合)如何与华为云的 AI 原生服务(如语音识别、图像识别)深度融合,打造更强大的多模态解决方案?A:可以通过API调用的方式将大模型、小AI模型以及Agent框架有机结合起来,打造一体化的AI应用解决方案Q:华为云的 模型压缩 和 量化技术 如何帮助 DeepSeek 提升模型推理效率,同时降低计算和存储成本?A:模型压缩和量化技术会减少模型大小,从而减少模型的存储空间,加快计算速度,但同时模型压缩和量化会导致预测精度下降,具体场景需要平衡成本与精度。Q:在 大模型(如千亿参数模型)领域,DeepSeek 和华为云是否有计划合作开发或优化分布式训练框架,以降低训练成本并提升效率?A:目前有这方面的计划,并且华为云内部在积极推进开发,预计很快能和公众见面。Q:大模型加智能家居或智慧农业智能控制这块 有什么思路吗A:可以将大模型作为整个智能管控系统的决策中枢,将小模型作为大模型的五官对信息进行转换,在此基础上构建的下一代智能家居/农业解决方案Q:华为云的 模型压缩 和 量化技术 如何帮助 DeepSeek 提升模型推理效率,同时降低计算和存储成本?A:模型压缩和量化技术会减少模型大小,从而减少模型的存储空间,加快计算速度,但同时模型压缩和量化会导致预测精度下降,具体场景需要平衡成本与精度。Q:有哪些参考提示词可以让DeepSeek生成我需要的代码,提升办公效率?A:使用大模型生成代码需要准确描述目标场景,将复杂场景进行拆分,再使用DS进行代码编写。Q:如何通过华为云的教育行业解决方与 DeepSeek 集成,实现课堂实时语音交互翻译或智能答疑?A:可以通过API调用的方式将大模型、小AI模型以及Agent框架有机结合起来,打造一体化的AI应用解决方案Q:部署好DeepSeek后,怎么把它训练成垂直领域的专家?A:需要利用垂直领域高质量的数据和知识,通过增训或微调的方式将通用模型开发成垂直领域专家模型Q:对于现在AI的快速发展,同时现在应用的人越来越多,对于AI的提问方式,有更好的建议或者方法吗?A:相对于前一代指令型大模型(类似Qwen2.5,GPT-4o等),R1、o1为代表的新一代推理大模型由于对语义的理解和延展更好,因此提示词相较之前可以更加灵活,但是核心依然需要表达出任务的关键内容,与核心,并通过多轮次对话逐渐迭代答案,这其中特别要注意大模型幻觉问题,目前R1的幻觉还是很严重的。Q:有在生产上的案例吗A:有,详情需要结合您所在的行业,由华为云的技术团队线下进行沟通Q:部署好的DeepSeek后,怎么把它训练成心理咨询师?A:将通用大模型开发成垂类大模型,需要高质量的专业文案知识作为训练样本对模型进行微调或者增训。Q:对于小微企业来说使用DeepSeek能带来哪些帮助和利益产出,更多的使用还是基于各种应用场景带来的便利?A:绝大多数小微企业由于资金和研发能力有限,很难直接构建AI应用场景,但是可以基于同行业或类似场景提供的成熟AI应用产品提升自己的业务效率,最大程度的高效利用AI技术发展的外溢红利Q:DeepSeek 和华为云是否计划共同打造一个 AI 开发者生态,提供开源的模型、工具和数据集,以吸引更多开发者参与?A:非常感谢您有建设性的建议。Q:DeepSeek 的 AI 模型在华为云上运行时,如何利用华为云的 弹性伸缩 和 自动扩缩容 能力,优化资源使用并降低成本?A:将deepseek部署到云端可以最大限度的利用云服务弹性强,抗高负载能力强的特点,灵活调配算力和实例资源,在繁忙时刻增加额外算力满足高并发需求,在低谷时刻收缩释放算力,降低服务运营成本Q:在 DeepSeek 和华为云的合作中,面临的最大技术挑战是什么?例如模型兼容性、数据迁移、性能优化等。A:DeepSeek在与华为云的合作中,最大的挑战就是如何更好的挖掘客户的应用需求,并进行针对性的开发,最大限度的发挥推力大模型的应用潜力Q:在 国际化 方面,DeepSeek 和华为云如何合作,推动 AI 技术在全球市场的落地?是否计划在“一带一路”沿线国家或地区开展 AI 技术合作?A:目前华为云已经将deepseek纳入到自身的开源解决方案中,作为一个完整的AI解决方案体系,推荐给所有希望引入中国算力的友好国家,包括但不限于一带一路沿线国家。Q:我是华为合作伙伴,如果我想给我的某个行业客户部署DeepSeek蒸馏版为基础的,行业ai,我二次开发的难度和方向能介绍一下吗?A:实现AI应用的开发,满足客户需求的关键是要发掘客户的核心需求,并以此为基础构建AI应用解决方案。Q:DeepSeek 的 AI 模型如何与华为云的 昇腾 AI 处理器(Ascend) 深度结合,以实现更高效的模型训练和推理?是否存在针对特定硬件优化的定制化模型?A:昇腾超节点支持DeepSeek全系模型预训练及微调,支持DualPipe、跨节点All2All等DeepSeek核心优化技术,超大带宽通信域更适合DeepSeek的流水线并行算法及冗余专家等能力。同时,昇腾平台通过伪EP混合并行算法,通信优化性能提升30%+,再稀疏路由稠密化算法,降低专家不均衡度,推理吞吐性能提升20%~35%。Q:能否提供一份版本适配使用场景及要求的一指禅A:近期会有相关内容发布,敬请密切关注华为云官网的通告Q:请问对于,DeepSeek的模型部署后,我还想自己喂一些资料,加深对于某个行业的深度理解,对于这方面,有什么好的建议?A:可以考虑搭建RAG来处理某个行业的知识。Q:请问对于,DeepSeek的模型部署后,我还想自己喂一些资料,加深对于某个行业的深度理解,对于这方面,有什么好的建议?A:语料质量需要尽可能的高,尽可能具备行业的知识特点Q:DeepSeek如何保证模型性能的同时降低训练成本?A:他们从模型结构、混合精度计算、通信速度、以及显存占用等方面做了优化,以降低训练成本。Q:本地部署的deepseek和deepseek官网接入api使用有什么区别?A:主要还是数据安全方面的区别。Q:是否可以在本地笔记本部署deepseek?配置有没有要求?A:本地笔记本部署GPU-满血版DeepSeek几乎不太可能,模型占用显存较大,本地笔记本显卡承载不了。但是某些高性能移动工作站支持部署蒸馏版的R1模型。Q:普通用户怎么才能掌握和使用DeepSeek带来的便利性?A:基于DeepSeek做一些应用,提升办公等效率。Q:Deepseek如何助力个人“变现”,如何通过 华为云和Deepseek 快速实现收益A:通过构建个人AI助手,DeepSeek可以大幅增加个人产出,大幅提升工作效率Q:DeepSeek在政务场景如何通过华为云全栈可信计算实现模型安全?A:在政务场景中,数据安全和模型安全是至关重要的。华为云全栈可信计算提供了一套全面的解决方案,确保数据和模型在采集、传输、存储、处理和使用的各个环节都安全可靠。具体安全细节可关注华为云官网或向客服索取Q:在华为云上,用哪些提示词能让DeepSeek充分理解开发者的意思,并生成我们想要的代码呢?A:以R1大模型为代表的新一代推理大模型,相较于上一代指令大模型,更加拟人化,更容易交流,亦可以自动将简单问题拆解成几步进行处理,大大提升了模型的使用体验。在这个背景下,提示词需要按照目的、方式、方法、效果、边界的原则进行构建Q:对于个人和小公司来说自己部署还是在华为云上使用DeepSeek更经济实用?A:本地部署满血DeepSeek的成本会很高,如果数据保密要求不高的情况下,建议使用华为云的方式部署。Q:DeepSeek在图像与视频分析领域的高精度是如何实现的?A:DeepSeek-v3/r1还不具备视觉或者多模态的能力。Q:华为云有提供哪些服务支持DeepSeek 应用的智能化升级?如何将华为云的大数据分析能力与DeepSeek结合?A:目前来讲,数字人系列服务已接入DeepSeek大模型能力Q:华为开发者空间是否提供DeepSeek 应用的模板或示例?A:华为云目前正在和广大的开发者与伙伴共同探索DeepSeek的应用场景,稍后会有一些优秀案例展示在开发者空间中的。Q:华为云如何保障大语言模型在云上的安全运行?A:华为云通过多种技术和管理措施保障大语言模型在云上的安全运行,包括基础设施安全、网络隔离、数据加密、模型鉴权等。Q:部署完成后,如何进行模型的测试和验证?A:一般采用开源的标准测试问题集或自己构建的业务数据集进行测试,观测大模型的输出结果,并作出相应的性能评估。Q:ollama 推理支持api key吗?还是知道IP和端口就用随便调用?A:目前Ollama平台上的大模型通过统一的11434端口进行本地访问,如果需要穿透到外网使用,需要相应的穿透工具或者借助第三方插件实现。Q:开发者如何在华为云上快速搭建基于DeepSeek的开发环境,有哪些推荐的工具和流程?A:可以使用华为云Maas+Dify解决方案进行AI应用开发平台的快速部署与上线Q: 部署DeepSeek应用时,如何选择合适的计算实例类型?A:需要根据用户并发量,数据存储容量,以及业务增长等具体场景来选择。Q:在华为云上使用DeepSeek时,如何进行资源成本优化?有哪些策略可以降低开发和运营成本?A:不同的客户、不同的任务场景,其对于AI资源的使用优化策略都是不同的,需要具体问题具体分析,没有统一的策略Q:对于中小团队算力有限的情况,华为云是否提供低成本精掉方案,比如LoRA+混合精度这样的,来让普通开发者用消费级显卡也能定制DeepSeek业务模型?A:目前华为云正在进一步开发maas平台上的DeepSeek系列模型,预计在不久后就会开放精调、压缩、量化等模型服务Q:在华为云昇腾AI芯片及ModelArts平台支持下,DeepSeek的大模型训练效率提升了多少?是否支持分布式训练优化?A:昇腾超节点支持DeepSeek全系模型预训练及微调,支持DualPipe、跨节点All2All等DeepSeek核心优化技术,超大带宽通信域更适合DeepSeek的流水线并行算法及冗余专家等能力。同时,昇腾平台通过伪EP混合并行算法,通信优化性能提升30%+,再稀疏路由稠密化算法,降低专家不均衡度,推理吞吐性能提升20%~35%。Q:在华为云Stack(混合云)架构下,DeepSeek如何实现私有化部署?实时数据处理性能如何?A:目前华为云支持租用算力服务器到客户线下机房的私有化部署方案,数据处理能力则取决于硬件规模,从最低32卡部署满血版R1到百卡集群推理均可支持。Q:华为平台私有化部署DeepSeek时,如何通过技术手段确保数据在本地存储、传输和处理过程中的安全性,以满足GDPR、HIPAA等国际合规标准?A:私有化部署模式下,大模型本体和传输链路、软硬件均部署在客户机房环境内,对外可通过华为网络专线对外服务,整个系统达到三级等保要求,可最大限度的满足安全方面的诉求Q:华为云结合DeepSeek后,将会有哪些新的应用?A:依靠DeepSeek在编程、数据分析上的高准确率优势,可以拓展软件开发、量化分析等新应用Q:华为云结合DeepSeek后,有哪些应用场景?A:依靠DeepSeek在编程、数据分析上的高准确率优势,可以拓展软件开发、量化分析等新场景,最大限度发挥DeepSeek模型的优势Q:华为云结合DeepSeek后,AI训练用架构如何搭建?A:目前华为云训推用框架围绕deepseek在MaaS平台上构建了一整套一键解决方案,客户只需选择模型和上传训练数据便可启动模型的训练任务
-
华为云ModelArts赋能加密金融:DeepSeek构建具备策略自适应进化能力的AI分析机器人一、项目概述1.1 项目背景加密金融市场以其高波动性和24/7不间断交易特性著称,这给投资者带来了前所未有的挑战。在这个信息爆炸的时代,人工分析已经难以跟上市场节奏,而传统的自动化交易系统又缺乏足够的智能性和适应性。华为云ModelArts是华为云提供的一站式AI开发平台,提供了DeepSeek大模型,结合ECS高性能计算资源,为构建具备策略自适应进化能力的AI分析机器人提供了强大支持,可以实现从信号监控、智能分析到自动交易的全流程智能化。1.2 案例流程 图1:案例实施流程1.3 资源概览本案例(演示)预计花费总计0元/月(按需付费可能有所不同),本地开发、调试都是免费的,还可以免费领取Token。资源名称规格单价(元/月)数量ModelArtsDeepseekR1按需计费1ECS4核、4G、5M按需计费11.4 适用对象AI分析机器人的设计旨在满足不同类型用户的需求,主要适用于以下群体:用户类型特点描述适用场景核心价值个人开发者具备编程基础,希望开发AI交易系统的开发者系统二次开发、功能定制、API集成提供完整的开发文档和API接口,支持自定义策略和功能扩展高校学生对AI和加密金融感兴趣的学生群体学习研究、毕业设计、创新创业提供详细的技术文档和示例代码,便于学习和实践加密金融爱好者对加密市场感兴趣,希望了解AI分析技术的爱好者市场研究、技术探索、投资参考提供直观的分析报告和可视化界面,降低使用门槛市场研究机构需要大量数据支持研究的分析机构市场趋势研究、Token生命周期分析、风险评估提供大量结构化数据和分析结果,支持深度研究和报告生成二、技术挑战与解决方案2.1 加密金融市场挑战据最新统计,加密金融市场每日交易量超过1000亿美元,价格波动率是传统金融市场的5-10倍。在这样的环境下,投资者面临着几个关键痛点:信息过载:每天产生的市场信号、社交媒体讨论和新闻报道数以万计,人工无法全面处理决策延迟:从发现机会到执行交易的时间窗口极短,人工决策往往错失良机情绪干扰:人类交易者容易受到恐惧和贪婪情绪影响,导致非理性决策策略固化:传统交易系统策略一旦设定很少调整,无法适应市场变化图2:加密金融市场的主要痛点与挑战2.2 AI分析机器人实现构建一个真正智能的交易分析系统面临着多重技术挑战:多源异构数据处理:需要同时处理结构化交易数据和非结构化社交媒体信息实时性要求:系统需要在毫秒级别完成信号接收、分析和决策策略进化机制:如何让系统能够从历史交易中学习并自我优化风险控制:在追求收益的同时,如何有效控制风险面对这些挑战,我们需要一个集成了先进AI技术、具备自适应进化能力的智能交易系统。系统的核心功能包括:多模态信息分析:同时处理结构化交易数据和非结构化文本信息风险评估:对每个交易机会进行1-10分的风险评分收益预测:基于历史数据预测可能的收益范围交易决策生成:综合各项指标,生成明确的交易建议以下流程图展示了AI分析机器人的核心工作流程,从信号监听到交易执行的完整闭环: 图3:AI分析机器人系统逻辑流程图系统逻辑流程主要包括以下几个环节:信号监听与解析:持续监听TG频道,捕获并解析交易信号AI智能分析:利用ModelArts对信号进行多维度分析风险评估:对潜在交易机会进行风险评分和收益预测交易决策生成:综合分析结果,生成明确的交易建议交易执行:根据决策自动执行交易操作结果记录:记录交易过程和结果策略进化:基于历史数据,优化决策模型系统设计理念:"让AI的客观分析弥补人类决策的情绪偏差,让人类的经验智慧指导AI的进化方向"三、策略自适应进化机制3.1 交易策略进化系统最大的创新点在于其策略自适应进化机制。传统交易系统往往采用固定的决策规则,而我们的系统能够从历史交易中不断学习,自动调整决策阈值和策略参数。策略进化机制的工作流程如下:历史数据收集:系统记录每次交易的详细信息,包括决策依据和实际结果特征提取:从历史交易中提取关键特征,如社区情绪、风险评级、资金流动等模式识别:识别成功交易和失败交易的共同特征策略优化:基于分析结果,自动调整决策阈值和权重效果验证:在新交易中应用优化后的策略,并持续监控效果 // 策略自适应进化核心代码 async evolveStrategy() { try { logger.info('------开始执行策略自适应进化分析...'); // 加载历史交易数据 const tradeLogFile = path.join(__dirname, '../logs/trades.json'); let tradeHistory = []; if (fs.existsSync(tradeLogFile)) { const fileContent = fs.readFileSync(tradeLogFile, 'utf8'); tradeHistory = JSON.parse(fileContent); } // 提取关键特征 const features = tradeHistory.map(trade => { // 从分析结果中提取关键信息 const analysis = trade.analysisResult.toLowerCase(); return { tokenSymbol: trade.tokenSymbol, timestamp: trade.timestamp, // 社区情绪和市场动态 communityMood: analysis.includes('社区情绪积极') || analysis.includes('社区反应良好') ? '积极' : analysis.includes('社区情绪消极') || analysis.includes('社区反应不佳') ? '消极' : '中性', // 买入决策相关 decision: analysis.includes('建议购买') ? '购买' : '放弃', // 风险评估 riskLevel: (analysis.match(/风险评估:(\d+)/) || [])[1] || '未知', // 资金流动相关 hasNegativeNetInflow: analysis.includes('净流入为负') || analysis.includes('资金流出'), hasHighVolatility: analysis.includes('高波动性') || analysis.includes('波动性高') || analysis.includes('极高的波动性'), hasDeveloperSellAll: analysis.includes('sell all') || analysis.includes('开发者卖出'), hasLowLiquidity: analysis.includes('流动性低') || analysis.includes('流动性较低'), hasKOLBuying: analysis.includes('kol') && analysis.includes('买入'), // 交易计划相关 hasProfitTarget: analysis.includes('止盈点') || analysis.includes('止盈价格'), hasStopLoss: analysis.includes('止损点') || analysis.includes('止损价格'), hasBatchSelling: analysis.includes('分批卖出') || analysis.includes('分批出售'), // 交易结果(如果有) tradingResult: trade.tradingResult || '未知', // 原始数据 buyAmount: trade.buyAmount, tokenAddress: trade.tokenAddress }; }); // 构建分析提示词 const historicalPrompt = ` 请分析以下历史交易数据,找出决策模式和改进方向: ${JSON.stringify(features)} 请提供以下分析: 1. 失败交易的3个主要原因 2. 成功交易的3个关键特征 3. 改进交易策略的3个建议 4. 是否存在可能错过的潜在机会(例如,拒绝了但市场表现良好的代币) 5. 如何调整决策阈值以提高成功率 `; // 调用华为云ModelArts进行分析 const systemContent = '你是一个专业的加密金融数据分析师,擅长从历史数据中总结经验并提供具体的改进建议。'; const analysisResult = await aiService.callDeepseekAPI(historicalPrompt, systemContent); // 保存分析结果并应用到未来决策中 // ... return { success: true, result: analysisResult }; } catch (error) { logger.error('分析历史交易数据时出错:', error); return { success: false, message: `分析出错: ${error.message}` }; } } 通过这种自适应进化机制,系统能够不断从自身的交易历史中学习,逐步提高决策准确性。这种"自我进化"能力是传统交易系统所不具备的,也是本项目的核心创新点。 3.2 交易执行系统在生成交易决策后,会自动执行交易通知并实施多级风险控制。整个过程无需人工干预,大大提高了交易效率。 // 执行购买订单核心代码 async executeBuyOrder(message, tokenInfo, analysisResult) { try { logger.info('准备执行购买订单...'); // 默认购买金额(SOL) let buyAmount = process.env.DEFAULT_BUY_AMOUNT || '0.01'; // 构建购买命令 const buyCommand = `/buy ${tokenInfo.address} ${buyAmount}`; logger.info(`准备执行购买命令: ${buyCommand}`); // 发送购买命令到邮件里...交易通知 logger.info(`已发送购买命令到 ${tradingBot}`); // 记录交易信息 const tradeInfo = { timestamp: new Date().toISOString(), tokenAddress: tokenInfo.address, tokenName: tokenInfo.name, tokenSymbol: tokenInfo.symbol, buyAmount: buyAmount, oldMessage: message, analysisResult: analysisResult }; // 保存交易记录到文件 this.saveTradeRecord(tradeInfo); return true; } catch (error) { logger.error(`执行购买订单时出错: ${error.message}`); return false; } } 系统的风险控制机制包括:交易金额限制:系统默认设置较小的交易金额,降低单笔交易风险止损机制:每笔交易都设置明确的止损点,限制最大损失分批卖出策略:采用分批卖出策略,锁定部分利润交易记录审计:所有交易都有详细记录,便于后续分析和优化 四、华为云平台应用4.1 ModelArts平台介绍华为云ModelArts是本系统的核心AI能力提供者。ModelArts提供了从数据处理、模型训练到推理服务的全流程AI开发平台,极大地简化了AI应用的开发和部署过程。 图5:华为云ModelArts在AI分析机器人中的应用决策引擎的核心功能包括:多模态信息分析:同时处理结构化交易数据和非结构化文本信息风险评估:对每个交易机会进行1-10分的风险评分收益预测:基于历史数据预测可能的收益范围交易决策生成:综合各项指标,生成明确的交易建议 // AI服务类核心代码 async analyzeTrading(message, options = {}) { const modelName = options.model || this.defaultModel; const buyAmount = options.buyAmount || process.env.DEFAULT_BUY_AMOUNT || '0.01'; try { logger.info(`正在使用 ${modelName} 分析交易信息...`); // 构建提示词 const prompt = ` 你是一个顶级加密金融交易专家,帮我深度分析: 1、我可以接受中级风险投资。 2、报告里增加情绪分析、趋势预测和风险评估(1-10分,10分最高风险)。 3、搜索 X 或网络上的最新动态和社区情绪,给我更全面的信息。 4、综合交易信息与最新动态和社区情绪信息,判断是否买入,给出具体买入理由。 5、如果建议买入,假设我投入 ${buyAmount} SOL,必须明确给出完整的交易计划,包括买入价格、止损价格、止盈价格和分批卖出计划,交易机器人会按照你给的交易方案执行。 ... `; // 调用华为云ModelArts API let aiResponse; if (modelName === 'deepseek') { aiResponse = await this.callDeepseekAPI(prompt); } else if (modelName === 'openai') { aiResponse = await this.callOpenAIAPI(prompt); } else { throw new Error(`不支持的模型: ${modelName}`); } // 分析响应内容,判断是否建议购买 const shouldBuy = aiResponse.toLowerCase().includes('报告结果:建议购买'); // 提取理由 let reason = aiResponse; if (reason.length > 200) { reason = reason.substring(0, 200) + '...'; } return { shouldBuy, reason, fullAnalysis: aiResponse }; } catch (error) { logger.error(`${modelName} 分析失败: ${error.message}`); throw error; } } 4.2 ECS服务介绍系统的稳定运行离不开可靠的基础设施支持。华为云ECS(弹性云服务器)为AI分析机器人提供了高性能、高可用的计算环境。图6:基于华为云ECS的系统部署架构华为云ECS在本项目中的关键价值:高性能计算:提供强大的CPU和内存资源,确保AI模型推理和数据处理的高效执行弹性扩展:根据交易量和分析需求自动调整资源配置,优化成本高可用性:多可用区部署,确保系统7*24小时稳定运行安全防护:提供多层次安全防护,保障交易数据安全五、系统实施效果与价值5.1 性能指标与改进效果相比传统交易分析方法,AI分析机器人在多个关键指标上都取得了显著提升。主要性能指标:指标传统方法AI分析机器人提升幅度信号识别准确率65%92%+27%决策响应时间30-60秒3-5秒-90%风险评估准确性70%89%+19%策略优化周期人工周/月级自动日级提速30倍多源数据处理能力单一数据源多源异构数据能力扩展5.2 业务价值与实际案例AI分析机器人在实际应用中创造了显著的业务价值,以下是一个真实案例分析:案例:Solana生态新代币分析与交易2025年3月,系统监测到一个KOL购买信号。传统分析可能仅关注价格和交易量,但AI分析机器人通过多维度分析,发现该Token具有以下特点:开发者持续增加流动性(而非减少)KOL净流入为正且持续增长社区情绪积极且活跃度高安全指标全部通过(NoMint、Blacklist、Burnt)系统自动执行了购买决策,并设置了分批卖出策略。最终系统成功锁定了较大的收益。通过策略自适应进化机制,系统能够从每次交易中学习,不断优化决策模型。以下是系统自动生成的一份策略优化报告摘要: 策略优化报告(自动生成) 时间:2025-03-6 1. 失败交易的3个主要原因: - 开发者状态为"Sell All"的Token,失败率达85% - 流动性低于50K USD的Token,失败率达78% - KOL净流入为负的Token,失败率达72% 2. 成功交易的3个关键特征: - 社区情绪积极且持有者数量>1000 - 开发者持续增加流动性 - 价格6小时变化率>15%且交易量稳定增长 3. 改进建议: - 提高"开发者状态"在决策权重中的比例 - 对流动性低于50K USD的Token设置更严格的购买条件 - 增加社区活跃度分析维度 系统已自动应用以上优化建议到决策模型中。 六、基础环境及资源准备要成功部署和运行AI分析机器人,需要准备以下基础环境和资源:部署文档① 需要准备好华为云账号,并开通ModelArts服务,拿到ModelArts的API KEY、DEEPSEEK_API_URL,这时就有AI分析服务了;② 需要准备好TG的账号,并进群组 [@gmgnsignals],这时就有信号源了;③ 下载示例代码,将ModelArts的API KEY,还有DEEPSEEK_API_URL 粘贴到.env文件中,启动AI分析服务,这时AI分析机器人就可以正常工作了;④ 首次启动TG需要输入账号、密码、验证码登录,登录后 session 保存在本地,以后免登录。⑤ 本工程核心文件是index.js,工程难度并不复杂,工程代码1000行,适合初学者学习。⑥ 如需测试交易功能,需在TG关注机器人[@US_GMGNBOT],点击 /start 激活。只为学习使用,不建议在真实交易中使用,风险自负。6.1 硬件资源需求资源类型最低配置推荐配置用途说明华为云ECSc6.large (2vCPUs, 4GB内存)c6.2xlarge (4vCPUs, 4GB内存)运行核心服务和数据处理存储空间50GB高IO云硬盘存储交易数据和模型文件网络带宽5Mbps确保与API的稳定连接ModelArtsDeepseekR1DeepseekR1模型调用、训练和推理6.2 软件环境配置# 操作系统环境- 操作系统:Ubuntu 20.04 LTS- Node.js:v16.x 或更高版本- npm:v8.x 或更高版本# 核心依赖包- axios: ^1.8.1 (HTTP请求)- dayjs: ^1.11.13 (日期处理)- dotenv: ^16.3.1 (环境变量)- openai: ^4.86.1 (AI接口)- telegraf: ^4.15.3 (Bot框架)- winston: ^3.11.0 (日志记录)- ws: ^8.14.2 (WebSocket)# 华为云服务配置- ModelArts服务:开通并配置访问权限- OBS对象存储:用于存储模型和数据- IAM身份认证:配置适当的访问权限 6.3 核心配置系统运行需要核心配置:华为云账户:用于访问ModelArts和其他云服务TG账户:用于监听消息、发起交易监听信号群组:[@gmgnsignals],由gmgn.ai提供机器人(可选):[@US_GMGNBOT],点击 /start 激活安全提示:所有API密钥应妥善保存在环境变量或安全的密钥管理服务中,避免硬编码在代码中。建议使用华为云KMS(密钥管理服务)进行统一管理。6.4 环境配置详解以下是创建华为云ECS实例的详细操作指南:登录华为云控制台:cid:link_1在导航菜单中选择"计算 > 弹性云服务器 ECS"点击"购买云服务器"按钮按照以下配置进行选择:计费模式:按需计费区域:根据您所在位置选择最近的区域可用区:可用区1规格:通用计算增强型 c6.2xlarge (4vCPUs, 4GB内存)镜像:公共镜像 > Ubuntu 20.04 LTS系统盘:高IO 100GB网络:默认VPC,或创建新的VPC安全组:开放22、80、443端口设置登录凭证(密码或密钥对)确认配置并完成购买图7:华为云ECS实例创建步骤6.5 AI服务配置以下是配置ModelArts访问权限的详细步骤:登录华为云控制台,进入ModelArts服务在左侧导航栏选择"设置 > 全局配置"创建API密钥:点击"创建 API Key"按钮设置API密钥描述点击"确定"创建API密钥复制并安全保存API密钥(只显示一次) 图8:ModelArts API密钥设置七、系统实际运行与测试7.1 启动AI分析服务在本地配置 Node.js 开发环境:Node.js 环境搭建 # 1. 安装 Node.js - 访问 https://nodejs.org/ - 下载并安装 LTS 版本(推荐 v16.x 或更高版本) # 2. 验证安装 node -v npm -v # 3. 克隆项目代码 git clone https://github.com/linapex/AiAnalysisBot.git cd AiAnalysisBot # 4. 安装依赖包 npm install # 5. 配置环境变量 cp .env.example .env # 编辑 .env 文件,填入必要的配置信息: # - DEEPSEEK_API_KEY=你的华为云ModelArts API密钥 # - DEEPSEEK_API_URL=你的Deepseek API地址 # 6. 启动开发服务器 node src/index.js # 7. 后台运行(生产环境) npm install -g pm2 pm2 start src/index.js --name tudog 图9:TG监听服务运行截图 图10:AI分析服务运行截图 7.2 系统效果验证验证系统运行效果:检查logs目录下,AI分析结果和交易决策观察的如开启机器人,决策成功后是否给机器人发送 /buy 指令注意:程序只用于分析决策,不建议用于交易,请自行评估风险 八、未来展望与规划8.1 技术迭代方向深度强化学习应用:引入深度强化学习技术,使系统能够通过与市场环境的交互不断优化交易策略大模型微调优化:基于华为云ModelArts平台,对大模型进行金融领域专业知识微调,提升分析精度多链生态支持:扩展对更多区块链生态的支持,包括Ethereum Layer2、Polkadot等知识图谱整合:构建加密金融领域知识图谱,增强系统的推理能力和决策解释性 结语华为云ModelArts和ECS为构建具备策略自适应进化能力的AI分析机器人提供了强大支持。通过多模态分析、自适应进化和实时决策能力,系统有效解决了加密金融市场中的信息过载、决策延迟和策略固化等痛点问题。随着AI技术的不断发展和华为云服务的持续优化,我们有理由相信,这类智能交易系统将在金融科技领域发挥越来越重要的作用,为投资者创造更大的价值。需要特别提醒的是,加密金融市场具有高风险特性,投资者在使用任何交易系统时都应审慎评估风险,合理配置资金比例,避免过度依赖自动化系统。 正在参加【案例共创】第3期 华为云ModelArts赋能加密金融:构建具备策略自适应进化能力的AI分析机器人 https://bbs.huaweicloud.com/forum/thread-0218176004967264062-1-1.html
-
本次直播获奖名单公示如下(视频号抽奖及直播间未登录问卷用户无用户名),【互动体验有奖活动进行中】赢开发者定制冲锋衣、华为无线耳机等丰厚礼品!:获奖环节奖品华为云账号/微信昵称在线时长抽奖开发者定制冲锋衣/在线时长抽奖开发者定制冲锋衣/口令抽奖开发者定制斜挎包/口令抽奖开发者定制斜挎包/视频号抽奖开发者定制鼠标垫Sp****视频号抽奖开发者定制电脑支架联想****视频号抽奖开发者定制保温杯种德****视频号抽奖开发者定制保温杯旭日****厂(广告制作)视频号抽奖开发者定制保温杯lu****视频号抽奖华为FreeBuds SE 2无线耳机爱上****天开发者空间部署DeepSeek抽奖开发者定制斜挎包hi****i3vpkenq176iu开发者空间部署DeepSeek抽奖开发者定制斜挎包hi****kw4d0vlfoo8fa开发者空间部署DeepSeek抽奖开发者定制冲锋衣hi****148bbb2xfbysq开发者空间部署DeepSeek抽奖开发者定制冲锋衣cs****eke开发者空间部署DeepSeek抽奖华为FreeBuds SE 2无线耳机nu****an分享直播间抽奖开发者定制短袖T恤fe****ier6分享直播间抽奖开发者定制短袖T恤wa****ying007分享直播间抽奖开发者定制短袖T恤hw****59446分享直播间抽奖开发者定制短袖T恤hi****dn-fhshlvnwng分享直播间抽奖开发者定制短袖T恤hi****frx0d_5_rqqau分享直播间抽奖开发者定制128gU盘hw****64285分享直播间抽奖开发者定制128gU盘la****分享直播间抽奖开发者定制128gU盘ge****man_yang
-
随着人工智能技术的飞速发展,智能助手已经成为我们日常生活中不可或缺的一部分。无论是智能手机上的语音助手,还是企业内部的智能客服系统,智能助手都在为我们提供便捷、高效的服务。今天,我们将介绍如何利用华为云的Maas(Model-as-a-Service,大模型即服务)平台和Chatbox(来构建一个本地的智能助手。一、Maas与Chatbox简介Maas平台:Maas是华为云提供的一个强大的大模型即服务平台。它允许开发者轻松地使用预训练的AI模型进行各种自然语言处理任务,如文本生成、情感分析、问答系统等。Maas平台提供了丰富的API接口,使得开发者可以快速地集成AI功能到自己的应用中。Chatbox AI:Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。二、开通MaaS服务1、打开modelArts Studio控制台附上控制台地址:2、点击模型部署,领取对应模型,当前每个模型提供200万个tokens,测试学习基本够用了 3、点击调用获取api地址和模型名称4、创建API Key,左侧鉴权管理-创建API Key5、保存创建的密钥信息,备留后续步骤使用 三、本地安装Chatbox AI客户端下载地址:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载按需下载自己需要的版本下载完直接安装即可,win下一步一步安装 四、配置Chatbox AI1、点击使用自己的apikey或者本地模型2、模型提供方选择自定义提供方3、按照说明配置,填写名称,自己随意定义,填写mass的地址、api key,模型名称在设置页面可以参考以下列表进行配置。说明 模型提供方下拉选择模型提供方。名称填写定义模型提供方名称。API 域名填写模型服务调用地址。API 路径填写模型服务调用路径。API 密钥填写模型服务调用 API 密钥。模型填写调用的模型(本方案以 deepseek-r1 模型为例,可自行配置其它模型进行体验)。4、点击保存后就可以体验自己的智能助手了 我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测,共创官方文档https://bbs.huaweicloud.com/forum/thread-0217170307934787108-1-1.html
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签