引言deepseek-r1开源标志着普惠AI时代的到来，中小企业接入DeepSeek最安全、实惠的方式就是搭建本地知识库。本文针对企业日常项目管理中相关人员工作繁忙，项目进度跟进不及时等现状，使用DeepSeek+RAGFlow搭建项目管理知识库，用户只需要把对合同文本，往来文件上传到知识库中，系统就会智能分析项目里程碑，现状等等实现智能管理。选用RAGFlow是因为它有以下几个功能点：整合了知识图谱，0.72版本后可以直接针对文件作知识图谱切割，带来了更准确检索知识的可能。但使用知识图谱切分会消耗大量token，本经适员验证半天就花了100万有多token。智能体自带编排功能带来处理复杂场景的能力。Python API为有开发知识的人带来对知识作更准确切片的手段。知识库，智能体可通过HTTP API访问，很方便就可以嵌入其它系统。一、环境搭建1.1 准备云服务器RAGFlow最低需要50G硬盘空间，开发平台准备的免费云桌面为40G，且是ARM环境RAGFlow无构建好的docker镜像。本经济适用男头铁就想白嫖，自己在云桌面上部署了半天最终还是碰到空间不足只能作罢。换个思路参与共创领代金券继续免费学习。配置：竞价计费 8vCPUs + 32GiB + 80G硬盘， 系统Ubuntu 2024，带宽选按带宽计费5M（用流量配置个环境，下载docker都20G+，作测试时可以再调为1M，主打就算代金券也要省），这样配置下来0.7左右一小时，不关机都够测5天。至于我？当然随手关机，代金券有效期可是一年。云主机购买好后到安全组里配置80端口放行你自己的公网ip，RAGFlow安装好后是要通过80端口访问页面的。  登入到云主机后更新，安装docker一条龙apt upgrade -yapt install docker.io -yapt install docker-compose -y要注意华为apt源力的docker compose版本低，需要自己升级，那为什么要先apt装一下，还不是为了环境么，它都配置好可以偷懒了。wget https://bgithub.xyz/docker/compose/releases/download/v2.34.0/docker-compose-linux-x86_64 -O docker-composemv ./docker-compose /usr/bin/chmod +x /usr/bin/docker-compose上面路径是按默认路径，如果你是其它环境可以自己whereis查下docker-compose所在目录，把mv 后的目的路径替换为你自己的路径即可。github因为dns污染经常抽风，这里跟后面要用得到的都是直接用bgithub.xyz。二、RAGFlow安装2.1 修改docker源这里我们可以到控制台里，搜索容器镜像服务->左边镜像中心->右边点击镜像加速器，获取华为镜像地址  修改docker源为华为加速地址。vi /etc/docker/daemon.json，在vi里加如以下内容{ "registry-mirrors": [ "https://替换为上面华为镜像加速地址" ]}按"esc",:wq保存并退出，重启docker使得镜像配置生效systemctl restart docker2.2 克隆RAGFlow库git clone https://bgithub.xyz/infiniflow/ragflow.gitcd ragflow/docker发帖时最新版本为0.17.2，但该版本有时在解析文件时大概率会一直在排队状态，nightly版本已经修复该bug，所以我们使用nightly,git checkout -f nightly修改配置.env文件，按/image搜索到镜像设置，我们要嵌入模型的，将slim那行注释掉启用下面，并修改:V0.17.2为:nightly  使用docker-compose下载镜像并启动ragflow前，你多半会跟我一样在下载minio时太慢而失败，我们先用华为镜像下载，然后设置为别名quay.io即可docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Zdocker tag swr.cn-north-4.myhuaweicloud.com/ddn-k8s/quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z然后再启用RAGFlow，这里会下载10个多G的镜像文件，在等待时可以去作后续步骤获取华为云免费token等等。docker-compose up -d2.3 申请华为云免费token登录华为云 MAAS，进入贵阳一区域的MaaS控制台，然后点击控制台左侧“模型推理”，点击右侧的“免费服务”，找到想要使用的DeepSeek版本后点击“领取额度”，  领取后点击“调用说明”，选到"OpenAI SDK", 将API地址，模型名称都复制下来，后面RAGFlow中设置大模型提供商时需要填写这些信息。  2.4 申请API Key大模型外部调用需要提供API Key，需要先申请API Key。还是在ModelArts Studio界面中左边找到最下面“API Key管理”，右边点击“创建API Key”，按照你喜好填入标签，描述->“确定”即可， 同样把生成的API Key复制下来，之后我们在RAGFlow中需要填入。  三、RAGFlow配置3.1 访问我们部署的RAGFlow页面当docker-compose启动完成后，打开浏览器访问我们购买的云服务器网址即可进入RAGFlow界面，如果你输入网址后打不开，确认下有没有按1.1所说的在安全组中放行你的ip访问80端口。在初始页面中输入Email，Password。点击“sign in”，系统会自动为你创建管理员帐号。进入主界面后右上方语言切换为中文。  3.2 配置RAGFlow模型提供商点击左右侧头像->左侧“模型提供商”，从右边待添加模型里找到“OpenAI-API-Compatible”模型点击添加  “模型类型”选择chat，模型名称"DeepSeek-R1"，把2.3步中保存的对应信息填入基础Url，API-KEY中。 确定后RAGFlow会测试链接，连接成功后会出现在页面上方的”添加了的模型“里。重复上述步骤把"DeepSeek-V3"模型、其它地方申请的模型、本地部署的大模型都添加进去，后续编排智能体的时，就可以根据具体场景设置调用不同的大模型。  添加完成模型后还有一步设置默认模型提供商，点击最上面“系统模型设置”，RAGFlow拆分知识图谱需要用到有推理能力的大模型，所以这里我们选DeepSeek-R1模型，嵌入模型选BAAI/bge-large-zh-v1.5，我们没用到图片、语音识别下面的几个模型可以不填。  四、项目管理知识库准备及测试4.1 知识库配置前面一系列配置完成后，就可以添加知识库了。在新建知识库前，我们先准备一些文件，见附件的“项目模拟文件.zip”，模拟项目立项，项目支付，项目研发等等信息。准备好文件后回到RAGFlow页面，点击“知识库”，再点击“新建知识库”，名字按喜好取，比如我取的“项目管理原型”。主要的配置如下嵌入模型：BAAI/bge-large-zh。切片方法：General。打开提取知识图谱，实体类型设计如下：项目，日期，里程碑，组织，订单，预算，金额（本来数字类型数据在知识图谱里一般不设置为实体，我们这里只是验证原型所以忽略，实际使用时可以通过RAGFlow的组件去业务系统中获取更准确的数字），为提高检索准确，实体归一化，社区报告生成，都选上（注意确实会消耗大量大量的token）4.2  上传知识库，并解析出知识图谱。将附件的文件上传到知识库中，全选后点解析，RAGFlow会自动提取资料的知识图谱，时间会持续至少30分钟，等有文件解析成功后左边会出现“知识图谱”选项，点击就可以看到RAGFlow自动生成的图谱图示，如下图。需要注意的是因为GrapRAG里提取实体跟关系是英文提示词，社区摘要有时候会是一串英文。如果要投入正式使用还得自己作更多的测试修改为中文提示词。  4.3 测试项目管理知识图谱解析完成后，就可以测试我们的项目管理原型是否能满足要求。点击最上方“聊天”-“新建助理”，作如下配置助理设置：知识库选择上面我们建立的知识库"项目管理原型"提示引擎：对默认的提示词作进一步修改，增加“#项目按照项目立项时间排序，回答给定项目的相关内容。算不是实际支出，只有支付的才是实际支出”提示引擎里的使用知识图谱可以切换测试，看看使用知识图谱跟不使用知识图谱的对比效果模型：选择DeepSeek-R1测试用例：”2025年项目总共支出了多少“，不启用知识图谱时，回答知识库中无2025年总共支出，或者只回答奶茶项目支出了10万，这就是默认知识库中，信息重叠时，只取TopN造成的毛病。 启用知识图谱时，回答会耗时更多，后台看是首先用大模型对问题生成知识图谱查询，然后把查询结果再给模型完善回答。 五、 制作智能体机器人上面测试我们可以发现，为实现不同问题需要定制不同的提示词，或者有些多跳的问题需要使用知识图谱，简单的问题直接使用RAG问答就行。为给用户更好的使用体验，可以通过智能体机器人，对用户问题作分析然后按不同问题调用不同的流程做回答。点击页面上方"agent"->“创建agent”，使用空白模板。我们要实现一个可以执行多个功能的项目管理智能体，要用到如下组件。问题分类：判断用户问题类型，然后调用不同的模型作回答知识检索：针对用户问题检索知识库内容生成回答：将检索内容作为上下文，让大模型作智能回答首先拖入“对话”，“问题分类”两个组件，设置好流程，如下图  点中问题分类，第一步需要设置输入，我们直接应用对话_0，第二部选择作分类的大模型，因为分类不需要推理能力为了响应速度我们选DeepSeek-V3，最后点击新增分类，填写名称，描述以及例子，其中例子是最重要的分类依据。大模型根据分类例子判断分类这里添加以下三种问题分类，你也可以按实际情况自己发挥项目现状：描述，项目情况类问题。示例，奥美项目当前情况？奶茶项目推进如何？项目成本：描述，项目支出类问题。示例，奥美预算多少？ 2025年项目支出多少？奶茶推进项目超预算了么？项目总结：描述：汇报类问题。 示例，生成奥美项目的项目月结。 生成奶茶推进项目月结。 有了问题分类，就可以针对不同类型问题作不同的检索，比如简单的问题直接检索知识库，复杂的问题按知识库检索，甚至更复杂的问题可以再让DeepSeek把问题拆分为一系列小问题，使用循环组件分别解决小问题后再汇总回答，这里主要作原型测试，所以不展开。我们直接简单按3个分类作3中不同的检索，从左边拉出3个知识检索，配置好执行箭头, 每个检索的配置里”输入“统一都选择“对话_0"，”知识库选择“项目管理原型”，是否启用知识图谱，根据分类的复杂程度配置， 这里设置“项目成本”启用知识图谱。    再拖拉3个生成回答对应3个知识检索，表示用相同或者不同的大模型去回答对应问题，3个回答的提示词简单设计如下 生成回答_0：模型选择DeepSeeK-V3。提示词：根据{input}，总结项目当前里程碑，并简单分析下当前项目。注意：只回答问到的项目的相关内容生成回答_1：模型选择DeepSeek-R1。提示词：请总结段落{input}。注意数字，不要胡编乱造。生成回答_2：模型选择DeepSeek-R1。提示词：根据{input}。生成项目总结。总结里要提到项目已完成里程碑，当前里程碑，预算，实际支出。当前重点关注点 到此，一个简单的智能体搭建完成。我们可以点击“运行”测试新建的智能体。 输入问题“奥美项目现状”， 如下图可以看到智能体正确的按“项目现状”分类->“知识检索_0”->"生成回答_0"流程执行，并回答了奥美项目现状。可以再多问几个问题测试下，比如“奥美注射液小试阶段付钱了么？”，“奶茶推进项目月结”，都能按最初分类并回答，大家可以自行测试这里就不贴图了六、感想展望以上我们用DeepSeek+AGFlow搭建了项目管理的雏形。对于信息类的检索已经能满足使用，但对于稍微复杂点的统计、对比类问题还不是很满意。比如多跳类问题“第二个项目已经支付了多少钱”查看知识图谱的检索结果还是会带多个项目，能正确回答是因为作测试的知识库里项目数量少每次都把所有项目直接提供给DeepSeek-R1，或多或少的依赖R1推理能力推理出结果。当知道问题只针对一个项目把知识检索的TopN设置为1，2这类小数值时，回答就经常不是正确的项目。一方面因为使用的GraphRAG里提示词为英文编写，另外一方面使用ES作为知识图谱的存储也不太方便技术人员，如果能存储到Neoj4之类的外部知识图谱数据库中，就可以使用外部查询的方式来获得更准确结果。使用知识图谱的查询耗时太久，影响用户体验，从日志看是使用推理对于企业应用特别是项目管理来说知识图谱的实体，属性，关系相对确认，只要提示词给了足够详细用不带推理的DeepSeek-V3，甚至QWQ-32B模型也一样作正确查询。另外DeepSeek-R1目前函数调用还在完善，希望在R2版本时能完善该功能。同时RAGFlow早日增加对MCP支持，这两项完善后技术背景的人员会有更多手段实现更准确的智能体应用。 我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践cid:link_1

案例介绍本案例指导开发者通过开发者空间提供的云主机，使用开源Kotaemon的RAG UI框架，调用ModelArts Studio 大模型平台的DeepSeek-V3-32K模型，构建私人知识库。案例内容1 概述1.1 背景介绍ModelArts Studio作为一款先进的大模型即服务平台，集成了高效便捷的模型开发工具链，支持企业对大模型进行深度定制开发，实现模型应用与业务系统的深度融合，从而显著降低企业AI技术的落地成本与实施难度，助力企业快速实现智能化转型。如今，知识库已成为企业和个人提升工作效率、积累知识资产的重要工具。传统知识库存在构建成本高、维护困难、检索效率低等问题。本案例利用Kotaemon框架和ModelArts Studio提供的DeepSeek-V3-32K模型，构建一个高效、便捷、可定制的本地/私人知识库，方便开发者检索各种场景的文档，提高工作效率。有下列应用场景：开发者文档检索: 开发者可以快速检索 API 文档、代码示例、技术博客等，提高开发效率；企业内部知识管理: 企业可以构建内部知识库，方便员工共享和检索知识，提升团队协作效率；个人知识积累: 个人可以利用知识库管理学习笔记、项目资料等，构建个人知识体系。1.2 适用对象企业个人开发者高校学生1.3 案例时间本案例总时长预计60分钟。1.4 案例流程说明：① 用户使用登录开发者空间并配置云主机；② 用户提供Firefox浏览器在ModelArts Studio平台中领取DeepSeek-V3-32K模型；③ 使用docker部署Kotaemon框架④ Kotaemon调用ModelArts Studio平台中的DeepSeek-V3-32K API模型；⑤ 用户在Firefox浏览器中构建AI知识库并对其进行聊天。1.5 资源总览本案例预计花费总计0元。资源名称规格单价（元）时长（分钟）开发者空间2vCPUs | 4GB X86 |Ubuntu 22.04 Server定制版0602 资源与开发环境准备2.1 配置云主机首先登录开发者空间，登录后页面如下：点击配置云主机，按如下规格进行云主机配置。云主机名称：我的云主机/自定义CPU架构：X86规格：2 vCPUs 4 GB操作系统：Ubuntu系统镜像：公共镜像 Ubuntu 22.04 Server定制版确认以上配置正确，点击安装，进行云主机操作系统安装。安装完毕之后，点击进入桌面。环境准备中，大约需要3-5分钟，请您耐心等待…进入桌面后的默认效果如下：2.2 领取DeepSeek-V3-32K模型在云主机桌面底部菜单栏，点击打开火狐浏览器：用Firefox浏览器访问ModelArts Studio首页， 点击ModelArts Studio控制台，跳转到登录界面，按照提示登录，即可进入ModelArts Studio控制台：签署免责声明：进入ModelArts Studio控制台首页，在左侧菜单栏，选择模型推理中的在线推理，在免费服务中选择DeepSeek-V3-32K（NEW）模型，点击领取，领取200万免费token。3 安装并配置Kotaemon3.1 Kotaemon安装Kotaemon 是一个开源的、简洁且高度可定制的 RAG（Retrieval-Augmented Generation，检索增强生成）用户界面，专门设计用于与您的文档进行对话。无论是普通用户还是开发者，Kotaemon 都旨在提供一种直观、灵活且高效的方式来管理和交互您的文档内容。它不仅仅是一个简单的聊天工具，更是一个集成了先进 AI 技术的智能文档助手，能够帮助用户快速检索、理解和生成与文档相关的信息。项目地址：cid:link_4本次通过docker安装Kotaemon。首先先安装docker：参考文档：cid:link_1登录开发者空间云主机，更新软件包列表。sudo apt-get update安装Docker所需依赖包。sudo apt-get -y install ca-certificates curl创建/etc/apt/keyrings目录，并下载Docker的官方GPG密钥到该目录。sudo install -m 0755 -d /etc/apt/keyringssudo curl -fsSL https://mirrors.huaweicloud.com/docker-ce/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.ascsudo chmod a+r /etc/apt/keyrings/docker.asc将Docker仓库添加到系统的软件源列表。echo \ "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://mirrors.huaweicloud.com/docker-ce/linux/ubuntu \ $(. /etc/os-release && echo "$VERSION_CODENAME") stable" | \ sudo tee /etc/apt/sources.list.d/docker.list > /dev/null更新软件包列表。sudo apt-get update安装并运行Docker。sudo apt-get install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-pluginsudo systemctl start docker设置以非 root 用户身份管理 Docker#由于云主机默认的用户是developer非root用户，需要设置以非 root 用户身份管理 Docker#创建组dockersudo groupadd docker#将您的用户添加到组dockersudo usermod -aG docker $USER重启云主机回到工作台，点击重启按钮，云主机会自动重启或者您还可以运行以下命令来激活对组的更改：newgrp docker下面的命令是设置 Docker 在系统启动时自动启动。sudo systemctl enable docker查看docker版本信息。docker -v回显如下类似信息，表示Docker安装成功。Docker到此已经安装完毕。接下来通过Docker安装Kotaemon，命令如下：docker run \-e GRADIO_SERVER_NAME=0.0.0.0 \-e GRADIO_SERVER_PORT=7860 \-v ./ktem_app_data:/app/ktem_app_data \-p 7860:7860 -it \ghcr.nju.edu.cn/cinnamon/kotaemon:main-ollama正在安装Kotaemon中：稍等几分钟，下面是安装依赖的日志：继续等待依赖安装完成，下面是安装成功且运行的截图：3.2 登录Kotaemon首页我们在浏览器输入链接：http://localhost:7860发现加载出了首页：默认的Username和Password均为 admin我们输入上述Username和Password，点击登录：登录成功：3.3 在华为云Maas上获取DeepSeek-V3-32K（NEW）模型api接口首先我们要先配置DeepSeek-V3-32K（NEW）模型api接口：我们打开ModelArts Studio中API Key管理的链接：https://console.huaweicloud.com/modelarts/?locale=zh-cn®ion=cn-southwest-2#/model-studio/authmanage点击创建API Key：在标签中填入：Kotaemon描述中填入：开发者空间的Kotaemon当然上述标签和描述的内容可以自定义：创建成功：我们在页面上也可以看到创建成功：注意：API Key仅会在新建后显示一次，请及时复制并妥善保存，若API Key丢失，请新建API Key。我们接着查看在线推理中DeepSeek-V3-32K（NEW）模型api接口信息：查看调用信息，要点击OpenAI SDK按钮：我们成功得到了DeepSeek-V3-32K（NEW）模型接口信息。3.4 配置Kotaemon我们回到开发者空间云主机的火狐浏览器，在Kotaemon登录成功的页面中，首先点击Resources 按钮：点击LLMs按钮：我们在LLMs中先配置DeepSeek-V3-32K（NEW）模型接口，点击Add按钮添加模型供应商：出现下面界面：缩小页面，可以看到全部配置信息：LLM name选项就是需要显示的模型供应商的模型（自定义），本案例设置为华为云下面继续设置LLM vendors，我们这里必须选择ChatOpenAI最后的选项Specification用于配置模型的接口信息这里默认只给出了api_key和model，因为这里默认是OpenAI来提供模型，所以我们需要手动添加base_url指定模型的接口地址，注意：这里添加base_url，不能直接在api_key：null行最后通过换行，来添加一行，需要按住shift+enter 才能添加新的一行。我们将之前得到的Api key、API地址、模型名称填入选项中：我们已经填好信息，把下面的Set default 设置为默认模型勾选一下（1），点击添加模型（2）：浏览器的右上角会出现添加成功的消息：我们点击View视图查看添加的模型：发现已经成功添加华为云为默认的LLMs：我们点击华为云，测试DeepSeek-V3模型是否连接正常：在Test connection中点击Test：测试发现，- Connection success. Got response: Hello! How can I assist you today? 以及右上角会显示infoLLM 华为云 connect successfully说明连接华为云成功注意：如果出现- Connection failed. Got error: Error code: 400 - {'error_code': 'ModelArts.4905', 'error_msg': 'Failed to check the authorization request header. '}说明api_key配置错误.请检查api_key是否填写正确。如果出现- Connection failed. Got error: Error code: 404 - {'detail': 'Not Found'}说明API地址 base_url 配置错误，需要配置正确的地址如果出现- Connection failed. Got error: Error code: 404 - {'object': 'error', 'message': 'The model `deepseek-V3` does not exist.', 'type': 'NotFoundError', 'param': None, 'code': 404}说明模型名称model配置错误，需要将名称配置为：DeepSeek-V3最后我们要保存配置：浏览器右上角会显示保存成功：接下来我们配置Embeddings 嵌入式模型：我们这里docker镜像采用了Ollama 捆绑包，所以使用容器内ollama提供嵌入式模型：nomic-embed-text我们勾选使用ollama为默认的嵌入式模型，然后测试其模型：点击Test：出现连接成功的提示：最后，要保存配置：右上角显示保存成功：最后检查LLMs和Embeddings是否配置正确：下面设置其他选项：首先点击Settings按钮，然后点击Retrieval settings：我们修改1个选项，将LLM for relevant scoring修改为默认：然后点击保存设置： 4 使用Kotaemon搭建本地AI知识库然后我们点击Chat回到首页：我们可以上传我们的个人笔记、知识文档，点击Files按钮，上传pdf文件：上传完成后，正在为文件创建索引：这里创建索引的时间是根据文件的大小和嵌入式模型的响应速度决定的，文件过大，创建索引时间可能过长。下面是文件创建索引成功：点击这个文件：上述文件已经加入我们的知识库了点击Chat按钮，返回首页我们先选中文件，点击Search In File(s)：选择文件：首页我们要设置AI回答的语言为中文，点击下方红色方框的小按钮：点击Language下方的按钮：选择中文Chinese：选择完成后：我们可以对这个文件进行提问了：第一个问题：总结这个文件回答的不错这里由于开发者空间自带的firefox的版本太低，无法显示思维导图因此使用chrome浏览器。首先安装下载Google Chrome 的安装包：wget https://dl.google.com/linux/direct/google-chrome-stable_current_amd64.deb然后安装Google Chromesudo dpkg -i google-chrome-stable_current_amd64.deb查看是否安装成功：dpkg -l | grep google-chrome然后点击首页的左下角的所有应用程序按钮：然后点击运行程序：点击向下的箭头：选择chrome浏览器，启动即可：输入链接：http://localhost:7860/填入默认的Username和Password （均为admin）选择刚才的发现思维导图成功显示：点击Export按钮，可以在新窗口查看思维导图：打开了新窗口：点击Preview按钮，可以预览源文件可以浏览源文件：我们的AI知识库的搭建就完成了！5 总结与展望本次使用的Kotaemon的开源框架中关于RAG的一小部分应用，还有许多其他功能，开发者可以参考下面开源地址链接进行指导：Kotaemon项目地址：cid:link_4华为云Maas提供的DeepSeek-V3-32K模型响应速度挺快，虽然仅仅是体验，后续马上也要开通商用按量服务，应该速度更快！ 我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践https://bbs.huaweicloud.com/forum/thread-0218176004967264062-1-1.html

12月2日，华为人工智能通用人工智能大模型实训讲座暨华为云HCSD校园沙龙·南京信息工程大学成功举办！本次沙龙以“盘古辟千行，模型塑万业，AI进校园”为主题，带领南信大约300名学生近距离探索华为盘古大模型和AI开发生产线ModelArts，实践第十八届 “挑战杯”揭榜挂帅-华为云专项赛的赛题——疲劳/分神驾驶检测。活动由华为云计算技术有限公司主办，华为云EI开发者支持团队承办，南京信息工程大学协办。南京信息工程大学人工智能学院副院长李春彪和华为云盘古大模型生态经理蔡同磊应邀出席并对活动作精彩致辞。特邀嘉宾华为云EI算法工程师刘宇与高校开发者面对面，与现场近300名学生带来了深入而生动的技术分享与讨论。本次活动由人工智能学院院长助理孙文赟主持。 南京信息工程大学人工智能学院副院长李春彪代表南京信息工程大学发表了热情洋溢的欢迎辞，对华为云的技术交流与合作表示了诚挚的感谢，华为云HCSD校园沙龙走进南京信息工程大学活动有助于理论与实践相结合的教学模式的落实，使同学们更加了解现在企业更需要的人才类型，从而更好的学习理论知识，在后续学习及职场中的提升核心竞争力。 华为云盘古大模型生态经理蔡同磊重点介绍了华为在人才培养和发展方面的持续投入，强调了华为在满足当前应用需求的同时，着重培养基础人才，确保数字人才源源不断的供给。 华为云EI算法工程师刘宇老师则围绕着“大模型时代下高校开发者如何学以致用，学好AI”的主题进行了精彩演讲。他详细介绍了大模型的发展趋势，华为云盘古大模型在多领域应用中的优势；华为云全栈AI能力，可应用于全场景产品和服务，助力千行万业智能升级华为云全栈AI能力；ModelArts平台提供端到端AI开发体验及开发流程，可系统化助力开发者提升自身技术能力，真正在云上作业，懂开发会开发，做全能开发者。 在AI训练营环节，带领学生们体验了第十八届 “挑战杯”揭榜挂帅-华为云专项赛的赛题——疲劳/分神驾驶检测。他先是详细解读案例背景的真实项目需求，又对数据的采集、处理进行分析，道出了疲劳检测的原理，以及如何利用yolov7算法进行人脸/手机检测模型，实现更准确的人脸关键点检测。 本次活动的成功举办不仅展现了双方在技术交流与合作方面的密切联系，更为学生们提供了一个难得的学习与交流平台，本次活动必将成为未来校企双方技术探索与学术交流的热点之一，为进一步展教融合发展注入新的动力。

2024年11月30日，南京大学在仙林校区敬文学生活动中心南青报告厅隆重举行2024年学术科创月开幕式暨华为云HCSD校园沙龙活动，华为云开发者联盟产品部总裁王希海一行莅临参加，校团委书记朱翰墨，科学技术研究院副院长、人工智能学院教授詹德川，校团委副书记王维嘉等出席本次活动。现场约 120 名大赛获奖团队以及参赛经验丰富学生参加活动， DTSE 团队、AI 专家和鸿蒙专家为同学们带来了一场精彩讲座分享与实操。 南京大学团委书记朱翰墨向开幕式致词。他首先对华为公司的到来表示热烈欢迎和衷心感谢，并回顾了南大学子在2024年度“挑战杯”竞赛中取得的卓越成绩。朱书记激励广大学子要以此次学术科创月为契机，大展身手，再创佳绩，勇攀科技创新高峰。 随后，华为云开发者联盟产品部总裁王希海发表致辞。他分享了华为云在科技创新领域的最新成果和前沿理念，并表示华为云将持续助力高校学术科创发展，为学生提供更多实践机会和技术支持。 在开幕式上，南京大学还对第十四届“挑战杯”中国大学生创业计划竞赛南京大学选拔赛获奖团队进行了表彰颁奖。同时，华为云HCSD校园大使聘书也颁发给了在第十九届“挑战杯”2024年度“揭榜挂帅”专项赛中表现出色的南京大学学生团队负责人。南京大学团委学创部部长李敏发布了2024年学术科创月活动计划，详细介绍了校级层面将开展的一系列丰富多彩的学术科创活动，并鼓励同学们积极参与其中，以时不我待的精神扎实奋进，大显身手。 随着开幕式议程的圆满结束，活动进入了精彩的讲座环节。华为云DTSE开发者技术专家孙浩然带来了“开发者自己的‘云创空间’——基于FunctionGraph的Gif动图制作开发实践”的讲座，他表示，开发者空间是以开发者为对象进行2D开发者关系管理和交流、学习、实践的生态运营平台和触点，让开发者可以更好的发现和学习华为的技术和服务，开发者平台是连接服务产品部，基于服务产品部的的工具和资源，打造社区交流、学堂学习及在开发者空间低门槛的快速体验和实践。他还通过实际案例展示了云技术在创新开发中的应用。例如如何为开发者的开发旅程打造高效便捷的开发体验，开发者可以通过“最近访问”功能，轻松找到并再次使用那些钟爱的开发工具，让开发过程更加流畅。另外，为满足不同开发场景的需求，华为还为拥护提供了一系列热门开发工具，CodeArts IDE及相关插件等。此外，也提供了鲲鹏、昇腾、鸿蒙生态的开发工具资源入口，让开发者在开发过程中能够无缝对接这些生态。 华为云AI算法工程师薛明昊围绕“大模型时代下的AI开发，引领无限创新”的主题，深入剖析了大模型时代AI开发的机遇与挑战，他指出，华为云开发者认证可以有效提升开发者能力，助力数字产业人才生态发展。华为云是ICT产业的未来，也是企业数字化转型的底座，开发者是产业发展的灵魂，是业务创新的源头，是技术发展的引领者。华为云推出开发者认证以更好地服务千万开发者，真正让开发者在云上作业，懂开发会开发，与开发者共成长。培训课程赋能昇腾化改造，搭配昇腾迁移专业服务，建设核心伙伴梯队联合构建服务能力，帮助现场同学们快速构建推理、训练调优能力，为同学们提供了前沿的技术思路。 华为云开发者联盟鸿蒙布道师张泽钊在“创新引领未来，共建鸿蒙家园”的讲座中，介绍了鸿蒙系统的创新特性及发展前景。他强调，首批来自国内各行业内的头部企业的4000多个鸿蒙原生应用已经在加速开发，越来越多的开发者启动鸿蒙原生应用开发，涵盖HarmonyOS入门、进阶等各个阶段课程，并可以向同学们提供学、练、考、证一站式服务，满足学生不同阶段的学习诉求，全方位赋能开发者，助力开发者人才生态发展，经年来，已经向多个头部开发者培养与输送人才，构建职业培训和企业培训能力，持续孵化鸿蒙人才。讲座极大激发了同学们对国产操作系统的创新热情。 开幕式后南京大学与华为公司在南京大学黄大年茶思屋召开了圆桌会议，进行深入交流研讨并对于后续合作做出进一步沟通。华为在会上做了有关高校生态的介绍和汇报。会议指出，校方将联手华为，并组织相关活动，让学生亲身体验科技前沿，打造特色第二课堂。深度解读科技趋势，引领学生探索未来。双方要积极响应“科技报国，提升社会服务力量”的号召，共同打造出一系列具有影响力的响应成果案例，为科技创新和社会发展注入新的活力。面向未来，双方将携手不断探索校企共育高质量科技人才的有益实践，将秉持初心，继续深化合作，共同探索校企合作培养高质量科技人才的新模式与实践，在双方的共同努力下，为行业输送更多优秀人才。 本次南京大学2024年学术科创月开幕式暨华为云HCSD校园沙龙活动，不仅是一场知识的盛宴，更是科技创新的启航。南大学子将以第十九届“挑战杯”全国大学生课外学术科技作品竞赛和此次活动为契机，积极投身科技创新的伟大征程，为实现中华民族伟大复兴的中国梦贡献南大力量。 

想必大家在使用deepseek时，屏幕上经常弹出“服务器繁忙”的问题吧，下面就跟我一起通过云主机部署DeepSeek，搭建自己的专属服务，和“服务器繁忙”说拜拜！~话不多说，直接开干~一、环境准备（华为云主机（基础版））1. 登录华为云“开发者空间”登录华为云开发者空间创建云主机：镜像：Ubuntu 22.04规格：2核4GB（最低配置）2. 进入云主机桌面完成云主机创建后，我们直接进入云主机桌面，如下图所示：3. 安装OllamaOllama 是一个开源工具，专为简化大型语言模型（LLMs）的本地运行、部署和管理而设计。它提供了一个易于使用的命令行界面，使开发者和研究人员能够快速下载、运行并交互多种预训练语言模型，支持不同的模型架构。无论是进行实验、开发还是教育，Ollama 都是一个强大的工具，帮助用户在本地环境中高效利用先进的语言模型技术。3.1 Open Terminal Here：在云主机桌面右键选择“Open Terminal Here”，打开命令终端窗口。3.2 安装Ollama：执行安装命令如下： curl -fsSL https://ollama.com/install.sh | sh 注意：命名先复制到云主机的剪切板，再粘贴到Terminal。如下图：4. 部署DeepSeek4.1部署：接下来我们就可以借助 Ollama 工具来部署 Deepseek 大模型，部署 deepseek-r1:1.5b 版本，执行命令如下：ollama run deepseek-r1:1.5b4.2对话：部署完成后，我们就可以与 Deepseek 大模型进行对话了，这里我简单的给大家演示下：我们可以看到，Deepseek的思考部分和回答部分都能正常的输出了，到这里我们就部署完成了，是不是超级简单？不到5分钟的时间！不过话说会在，在Terminal使用Deepseek总归不太方便，于是乎，我们生活中还是习惯用可视化的界面窗口来使用，下面我就带大家一起通过ChatBox调用Ollama 部署 DeepSeek！二、安装ChatBoxChatbox Al是一款Al客户端应用和智能助手，支持众多先进的Al模型和API,可在Windows、MacOS、Android、iOS、Linux和网页版上使用。5.1安装ChatBox：云主机使用火狐浏览器下载ChatBox: https://chatboxai.app/zh 。打开Chatboxai主页，点击“更多选项”进入到开始使用界面进行安装包下载。因为在前面我配置云主机的时候选择的是X86类型，所以我们这里下载【Linux:64-bt】：5.2赋予权限：打开下载文件所在目录，单击鼠标左键“文件”，选择打开终端命令窗口，执行以下命令给文件赋予权限。sudo chmod +x Chatbox-1.10.5-x86_64.AppImage注意：命令中的“Chatbox-1.10.5-x86_64.AppImage”以实际的文件名称为准，记得替换。5.3安装libfuse.so.2库：安装libfuse.so.2库的话，直接在命令窗口输入以下命令即可：sudo apt install libfuse25.4运行文件Chatbox：接下来我们就可以运行Chatbox咯，我们可以执行以下命令来运行：./Chatbox-1.10.5-x86_64.AppImage注意：命令中的“Chatbox-1.10.5-x86_64.AppImage”以实际的文件名称为准，记得替换。出现如下界面，就说明我们已经顺利安装和启动Chatbox了，后面就是配置的事情了。三、配置ChatBox5.5配置ChatBox参数：首次打开会看到以下选项，选择 “使用自己的API Key或本地模型（Use My Own API Key/Local Model）”：5.6选择 Ollama API：然后在新的标签页里选择 Ollama API。5.7选择 deepseek-r1:1.5b：然后在模型列表里我们会看到通过 Ollama 所部署的大模型，选择 deepseek-r1:1.5b，然后点击【保存】即可。5.8体验使用Chatbox：保存之后，就可以在对话框里与 Deepseek 大模型进行对话了!~是不是流程也超级简答！~通过Chatbox与Deepseek对话，我们也能看到使用的Token数量。至此，我们基于华为云主机部署 DeepSeek 蒸馏模型(ChatBox调用Ollama 部署 DeepSeek）的实验就完成操作了，大家也赶紧去体验吧~我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践https://bbs.huaweicloud.com/forum/thread-0218176004967264062-1-1.html”

引言随着人工智能技术的不断发展，越来越多的企业和个人开始探索如何利用深度学习模型来提升业务效率和用户体验。下面我就详细的就“基于华为云ModelArts Studio调用DeepSeek-R1-32K模型”一.基于华为云ModelArts Studio调用DeepSeek-R1-32K模型：1.方案概览：本方案以 DeepSeek-R1-32K为例进行演示，通过华为云ModelArts Studio服务进行 DeepSeek 开源模型调用，可以根据实际需求选择其他参数规模的 DeepSeek 模型。华为云ModelArts Studio平台的 API 提供标准化接口，无需自行搭建模型服务基础设施，且具备负载均衡和自动扩缩容机制，保障 API 调用稳定性。搭配 Chatbox 可视化界面客户端，进一步简化了调用流程，无需在命令行中操作，通过图形化界面即可轻松配置和使用 DeepSeek 模型。2.方案架构：按照本方案提供的配置完成后，会在本地搭建一个如下图所示的运行环境。3.获取API-KEY：在部署本方案开始时，首先要登录华为云ModelArts Studio服务平台获取API-KEY（这里获取方法我就不赘述了，看下面截图）：4.下载并使用使用Chatbox：Chatbox 客户端配置华为云ModelArts Studio平台的 API 进行对话:4.1.访问 Chatbox： (下载地址:https://chatboxai.app/zh) 下载并安装客户端，本方案以 windows 为例。4.2.下载： 点击下载按钮，选择下载目录后进行下载：4.3.安装Chatbox: 双击“Chatbox-1.9.8-Setup.exe”进行安装，注意安装路径。4.4.运行Chatbox： 安装好后直接运行Chatbox，这里我们选择**“使用自己的APl Key 或本地模型”。**4.5.进行参数配置：参数内容的来源就在华为云ModelArts Studio平台的【模型工具】模块内，这里提供了 2,000,000tokens免费额度，可以参考我下面的截图内容：4.6.测试： 完成配置后，我们就可以在输入框进行测试了，如下图：我们可看到，在Chatbox内就成功的调用了DeepSeek-R1-32K，回复的内容内也有思考的部分。4.7.拓展配置：4.7.1 我们回到Chatbox的设置配置，可以在配置内修改（增加）【模型名称】，即可调动模型的其他版本，在使用Chatbox时候仅需切换类型即可（调用的API相同，仅需增加模型名称即可），如下所示：4.7.2 我们切换回Chatbox到聊天窗口，在右下角即可进行切换模型：至此，我们整个个实验就都已经完成了操作和体验。二. 推荐理由推荐方式：基于华为云ModelArts Studio调用DeepSeek-R1-32K模型推荐理由：简单快捷：无需复杂的配置和环境搭建，几分钟内即可完成集成。高可用性：华为云提供的 API 服务具有高可靠性和低延迟，确保模型响应速度。灵活扩展：可以根据实际需求动态调整 API 请求量，适应不同规模的应用场景。个人体验：在实际项目中，我选择基于华为云ModelArts Studio调用DeepSeek-R1-32K模型的方式进行集成。这种方式不仅大大缩短了开发周期，还显著提升了系统的稳定性和性能。尤其是在处理大量并发请求时，API 服务的表现令人满意。当然，我会选择继续采用基于华为云ModelArts Studio调用DeepSeek-R1-32K模型的方式来使用 DeepSeek 模型，因为它在满足需求的同时，最大限度地降低了开发和维护成本。然而，对于一些特定的高性能需求场景，我也会考虑基于 GPU 云服务器的部署方式。我正在参加【案例共创】第2期 构建开发场景最佳实践/体验评测，创作案例文章https://bbs.huaweicloud.com/forum/thread-0225174879180881007-1-1.html”

华为云与DeepSeek将如何重塑产品与应用模式，助力企业数字化转型？如何在华为开发者空间高效部署DeepSeek，搭建专属服务器？本期直播围绕DeepSeek在云上的应用案例，与DTSE布道师们一起探讨如何利用 AI 驱动云上应用创新。本文精选直播期间开发者的提问并由DTSE技术布道师一一解答。欢迎观看直播回顾：cid:link_0Q：云上部署DeepSeek如何确保数据安全的呢？A：华为云通过多种技术和管理措施保障大语言模型在云上的安全运行，包括基础设施安全、网络隔离、数据加密、模型鉴权等。Q： 在华为云平台上部署DeepSeek时，有哪些关键的技术挑战需要克服？华为云提供了哪些解决方案来应对这些挑战？A：目前华为云已经将deepseek纳入到自身的开源解决方案中，部署即可通过maas平台实现一键部署，也可以通过云上租用裸金属服务器自行部署，部署方法和测试方案已经包含在解决方案之中了，并且提供全面的技术支持与服务。Q：在私有化部署中，如何利用DeepSeek的API接口与企业现有的IT系统（如ERP、CRM）无缝集成，以实现智能化业务流程？A：利用DeepSeek提升企业IT系统的智能化水平，可以先从一些辅助场景入手，通过改在和接入新的AI工具提升现有IT系统的办公效率，在此基础上，进一步引入更加复杂的场景，并使用AI进行优化和强化。Q： 华为平台私有化部署DeepSeek时，如何通过技术手段确保数据在本地存储、传输和处理过程中的安全性，以满足GDPR、HIPAA等国际合规标准？A：华为云通过多种技术和管理措施保障大语言模型在云上的安全运行，包括基础设施安全、网络隔离、数据加密、模型鉴权等。有关华为云网络及数据安全相关的技术文件，可登录华为云向客服索取。Q：对于DeepSeek各种模型，适合那些行业，能做一个简单的介绍吗？A：DeepSeek V3适合于绝大多数不需要复杂推理的场景；R1则更适合复杂逻辑或需要一定推理能力才能解决的问题。从模型体量的角度出发，如果是小企业或者个人用户，R1的各种蒸馏版部署起来相对容易，如果追求极致的性能，那么满血版模型则是最佳选择。Q：在搭建专属服务器时，如何根据企业的业务需求灵活配置资源，实现高效、稳定的AI应用部署？A：华为云能为企业提供专家服务，帮企业梳理业务需求，选择合适的模型，再根据模型大小和模型访问并发来选配最合适的资源。Q：在数字化转型过程中，企业如何利用华为云与DeepSeek提供的解决方案，实现业务流程的智能化重构和创新？A：企业可以通过华为云与DeepSeek联合解决方案，在客户客情管控、公司知识体系构建、业务流程自动化、数据分析与决策支持、以及培训与教育等方面实现业务流程的智能化重构和创新Q：如何通过华为云的技术支持和服务体系，降低企业在部署和使用DeepSeek时的技术门槛和运维成本？A：华为云能提供非常完备的专家服务为企业解决部署和应用DeepSeek过程中的技术问题。Q：DeepSeek技术如何集成到现有的企业IT架构中？它对现有系统的影响是什么？A：利用DeepSeek提升企业IT系统的智能化水平，可以先从一些辅助场景入手，通过改在和接入新的AI工具提升现有IT系统的办公效率，在此基础上，进一步引入更加复杂的场景，并使用AI进行优化和强化。Q：部署的DeepSeek可以进行特定的调整训练吗？A：DeepSeek遵循一般大模型的架构与组织形式，因此可以进行微调、增训、压缩和量化，但需要额外的算力资源进行支撑Q：对于希望使用DeepSeek进行AI驱动的应用开发的企业来说，他们应该从哪里开始？华为云提供了哪些资源和支持？A：利用DeepSeek提升客户IT系统的智能化水平，可以先从一些辅助场景入手，通过改在和接入新的AI工具提升现有IT系统的办公效率，在此基础上，进一步引入更加复杂的场景，并使用AI进行优化和强化。Q：如何确保数据安全和隐私保护，在使用DeepSeek的过程中？A：华为云通过多种技术和管理措施保障大语言模型在云上的安全运行，包括基础设施安全、网络隔离、数据加密、模型鉴权等。Q：华为云提到企业级优化方案支持私有化部署。若企业已有本地数据中心，能否通过华为云MaaS平台实现混合云环境下的DeepSeek模型弹性调度？需要哪些基础设施条件？A：可以，但详细解决解决方案需要在充分了解企业现有系统的基础上才能做出。Q：AI Agent怎么打造呢A：AI Agent需要利用大模型、设计工具、插件等，通过合理的逻辑设计构建一套复杂的系统Q：软件更新后，需要重新配置模型吗？A：一般来说，软件更新需要遵循利旧原则，因此除非出现版本的重大更新，一般需要重新配置模型Q：安装ChatBox后如何确保模型连接稳定？A：模型链接的稳定性由多方因素决定，需要具体问题具体分析Q：云上部署deepseek具体如何确保了数据的安全性？A：华为云通过多种技术和管理措施保障大语言模型在云上的安全运行，包括基础设施安全、网络隔离、数据加密、模型鉴权等。Q：香橙派AI pro 20T能否本地部署Deepseek，蒸馏的也可以，能否出个教程？A：很好的建议，后续我们会考虑。Q：华为的310B卡能本地部署Deepseek吗？需要MindSpore或者Ascend之类的支持吗A：310B卡理论上可以用于部署蒸馏版R1，但是目前技术侧还有一些问题需要打通和解决，暂时不推荐使用310B部署R1模型Q：在部署DeepSeek模型时，如何通过华为云的弹性算力资源实现动态调整，以应对业务高峰期的需求？A：华为云的弹性负载策略同样适用于大模型的对外服务，详细解决方案请咨询华为云技术团队。Q：部署好的DeepSeek会暴露Restful API吗？A：DeepSeek是否会暴露RESTful API取决于部署方式和安全配置。公有云部署中API接口通常会暴露，但需要加强安全措施；私有化部署可以通过封装和网络隔离来避免API暴露。Q：在 大模型（如千亿参数模型）领域，DeepSeek 和华为云是否有计划合作开发或优化分布式训练框架，以降低训练成本并提升效率？A：华为云会针对DeepSeek做相应的优化，以降低训练成本提升模型训推效率。Q：（如文本、图像、语音的结合）如何与华为云的 AI 原生服务（如语音识别、图像识别）深度融合，打造更强大的多模态解决方案？A：可以通过API调用的方式将大模型、小AI模型以及Agent框架有机结合起来，打造一体化的AI应用解决方案Q：华为云的 模型压缩 和 量化技术 如何帮助 DeepSeek 提升模型推理效率，同时降低计算和存储成本？A：模型压缩和量化技术会减少模型大小，从而减少模型的存储空间，加快计算速度，但同时模型压缩和量化会导致预测精度下降，具体场景需要平衡成本与精度。Q：在 大模型（如千亿参数模型）领域，DeepSeek 和华为云是否有计划合作开发或优化分布式训练框架，以降低训练成本并提升效率？A：目前有这方面的计划，并且华为云内部在积极推进开发，预计很快能和公众见面。Q：大模型加智能家居或智慧农业智能控制这块 有什么思路吗A：可以将大模型作为整个智能管控系统的决策中枢，将小模型作为大模型的五官对信息进行转换，在此基础上构建的下一代智能家居/农业解决方案Q：华为云的 模型压缩 和 量化技术 如何帮助 DeepSeek 提升模型推理效率，同时降低计算和存储成本？A：模型压缩和量化技术会减少模型大小，从而减少模型的存储空间，加快计算速度，但同时模型压缩和量化会导致预测精度下降，具体场景需要平衡成本与精度。Q：有哪些参考提示词可以让DeepSeek生成我需要的代码，提升办公效率？A：使用大模型生成代码需要准确描述目标场景，将复杂场景进行拆分，再使用DS进行代码编写。Q：如何通过华为云的教育行业解决方与 DeepSeek 集成，实现课堂实时语音交互翻译或智能答疑？A：可以通过API调用的方式将大模型、小AI模型以及Agent框架有机结合起来，打造一体化的AI应用解决方案Q：部署好DeepSeek后，怎么把它训练成垂直领域的专家？A：需要利用垂直领域高质量的数据和知识，通过增训或微调的方式将通用模型开发成垂直领域专家模型Q：对于现在AI的快速发展，同时现在应用的人越来越多，对于AI的提问方式，有更好的建议或者方法吗？A：相对于前一代指令型大模型（类似Qwen2.5，GPT-4o等），R1、o1为代表的新一代推理大模型由于对语义的理解和延展更好，因此提示词相较之前可以更加灵活，但是核心依然需要表达出任务的关键内容，与核心，并通过多轮次对话逐渐迭代答案，这其中特别要注意大模型幻觉问题，目前R1的幻觉还是很严重的。Q：有在生产上的案例吗A：有，详情需要结合您所在的行业，由华为云的技术团队线下进行沟通Q：部署好的DeepSeek后，怎么把它训练成心理咨询师？A：将通用大模型开发成垂类大模型，需要高质量的专业文案知识作为训练样本对模型进行微调或者增训。Q：对于小微企业来说使用DeepSeek能带来哪些帮助和利益产出，更多的使用还是基于各种应用场景带来的便利？A：绝大多数小微企业由于资金和研发能力有限，很难直接构建AI应用场景，但是可以基于同行业或类似场景提供的成熟AI应用产品提升自己的业务效率，最大程度的高效利用AI技术发展的外溢红利Q：DeepSeek 和华为云是否计划共同打造一个 AI 开发者生态，提供开源的模型、工具和数据集，以吸引更多开发者参与？A：非常感谢您有建设性的建议。Q：DeepSeek 的 AI 模型在华为云上运行时，如何利用华为云的 弹性伸缩 和 自动扩缩容 能力，优化资源使用并降低成本？A：将deepseek部署到云端可以最大限度的利用云服务弹性强，抗高负载能力强的特点，灵活调配算力和实例资源，在繁忙时刻增加额外算力满足高并发需求，在低谷时刻收缩释放算力，降低服务运营成本Q：在 DeepSeek 和华为云的合作中，面临的最大技术挑战是什么？例如模型兼容性、数据迁移、性能优化等。A：DeepSeek在与华为云的合作中，最大的挑战就是如何更好的挖掘客户的应用需求，并进行针对性的开发，最大限度的发挥推力大模型的应用潜力Q：在 国际化 方面，DeepSeek 和华为云如何合作，推动 AI 技术在全球市场的落地？是否计划在“一带一路”沿线国家或地区开展 AI 技术合作？A：目前华为云已经将deepseek纳入到自身的开源解决方案中，作为一个完整的AI解决方案体系，推荐给所有希望引入中国算力的友好国家，包括但不限于一带一路沿线国家。Q：我是华为合作伙伴，如果我想给我的某个行业客户部署DeepSeek蒸馏版为基础的，行业ai，我二次开发的难度和方向能介绍一下吗？A：实现AI应用的开发，满足客户需求的关键是要发掘客户的核心需求，并以此为基础构建AI应用解决方案。Q：DeepSeek 的 AI 模型如何与华为云的 昇腾 AI 处理器（Ascend） 深度结合，以实现更高效的模型训练和推理？是否存在针对特定硬件优化的定制化模型？A：昇腾超节点支持DeepSeek全系模型预训练及微调，支持DualPipe、跨节点All2All等DeepSeek核心优化技术，超大带宽通信域更适合DeepSeek的流水线并行算法及冗余专家等能力。同时，昇腾平台通过伪EP混合并行算法，通信优化性能提升30%+，再稀疏路由稠密化算法，降低专家不均衡度，推理吞吐性能提升20%~35%。Q：能否提供一份版本适配使用场景及要求的一指禅A：近期会有相关内容发布，敬请密切关注华为云官网的通告Q：请问对于，DeepSeek的模型部署后，我还想自己喂一些资料，加深对于某个行业的深度理解，对于这方面，有什么好的建议?A：可以考虑搭建RAG来处理某个行业的知识。Q：请问对于，DeepSeek的模型部署后，我还想自己喂一些资料，加深对于某个行业的深度理解，对于这方面，有什么好的建议？A：语料质量需要尽可能的高，尽可能具备行业的知识特点Q：DeepSeek如何保证模型性能的同时降低训练成本？A：他们从模型结构、混合精度计算、通信速度、以及显存占用等方面做了优化，以降低训练成本。Q：本地部署的deepseek和deepseek官网接入api使用有什么区别？A：主要还是数据安全方面的区别。Q：是否可以在本地笔记本部署deepseek？配置有没有要求？A：本地笔记本部署GPU-满血版DeepSeek几乎不太可能，模型占用显存较大，本地笔记本显卡承载不了。但是某些高性能移动工作站支持部署蒸馏版的R1模型。Q：普通用户怎么才能掌握和使用DeepSeek带来的便利性？A：基于DeepSeek做一些应用，提升办公等效率。Q：Deepseek如何助力个人“变现”，如何通过 华为云和Deepseek 快速实现收益A：通过构建个人AI助手，DeepSeek可以大幅增加个人产出，大幅提升工作效率Q：DeepSeek在政务场景如何通过华为云全栈可信计算实现模型安全？A：在政务场景中，数据安全和模型安全是至关重要的。华为云全栈可信计算提供了一套全面的解决方案，确保数据和模型在采集、传输、存储、处理和使用的各个环节都安全可靠。具体安全细节可关注华为云官网或向客服索取Q：在华为云上，用哪些提示词能让DeepSeek充分理解开发者的意思，并生成我们想要的代码呢？A：以R1大模型为代表的新一代推理大模型，相较于上一代指令大模型，更加拟人化，更容易交流，亦可以自动将简单问题拆解成几步进行处理，大大提升了模型的使用体验。在这个背景下，提示词需要按照目的、方式、方法、效果、边界的原则进行构建Q：对于个人和小公司来说自己部署还是在华为云上使用DeepSeek更经济实用？A：本地部署满血DeepSeek的成本会很高，如果数据保密要求不高的情况下，建议使用华为云的方式部署。Q：DeepSeek在图像与视频分析领域的高精度是如何实现的？A：DeepSeek-v3/r1还不具备视觉或者多模态的能力。Q：华为云有提供哪些服务支持DeepSeek 应用的智能化升级？如何将华为云的大数据分析能力与DeepSeek结合？A：目前来讲，数字人系列服务已接入DeepSeek大模型能力Q：华为开发者空间是否提供DeepSeek 应用的模板或示例？A：华为云目前正在和广大的开发者与伙伴共同探索DeepSeek的应用场景，稍后会有一些优秀案例展示在开发者空间中的。Q：华为云如何保障大语言模型在云上的安全运行？A：华为云通过多种技术和管理措施保障大语言模型在云上的安全运行，包括基础设施安全、网络隔离、数据加密、模型鉴权等。Q：部署完成后，如何进行模型的测试和验证？A：一般采用开源的标准测试问题集或自己构建的业务数据集进行测试，观测大模型的输出结果，并作出相应的性能评估。Q：ollama 推理支持api key吗？还是知道IP和端口就用随便调用？A：目前Ollama平台上的大模型通过统一的11434端口进行本地访问，如果需要穿透到外网使用，需要相应的穿透工具或者借助第三方插件实现。Q：开发者如何在华为云上快速搭建基于DeepSeek的开发环境,有哪些推荐的工具和流程？A：可以使用华为云Maas+Dify解决方案进行AI应用开发平台的快速部署与上线Q： 部署DeepSeek应用时，如何选择合适的计算实例类型？A：需要根据用户并发量，数据存储容量，以及业务增长等具体场景来选择。Q：在华为云上使用DeepSeek时，如何进行资源成本优化？有哪些策略可以降低开发和运营成本？A：不同的客户、不同的任务场景，其对于AI资源的使用优化策略都是不同的，需要具体问题具体分析，没有统一的策略Q：​​对于中小团队算力有限的情况，华为云是否提供低成本精掉方案，比如LoRA+混合精度这样的，来让普通开发者用消费级显卡也能定制DeepSeek业务模型？A：目前华为云正在进一步开发maas平台上的DeepSeek系列模型，预计在不久后就会开放精调、压缩、量化等模型服务Q：在华为云昇腾AI芯片及ModelArts平台支持下，DeepSeek的大模型训练效率提升了多少？是否支持分布式训练优化？A：昇腾超节点支持DeepSeek全系模型预训练及微调，支持DualPipe、跨节点All2All等DeepSeek核心优化技术，超大带宽通信域更适合DeepSeek的流水线并行算法及冗余专家等能力。同时，昇腾平台通过伪EP混合并行算法，通信优化性能提升30%+，再稀疏路由稠密化算法，降低专家不均衡度，推理吞吐性能提升20%~35%。Q：在华为云Stack（混合云）架构下，DeepSeek如何实现私有化部署？实时数据处理性能如何？A：目前华为云支持租用算力服务器到客户线下机房的私有化部署方案，数据处理能力则取决于硬件规模，从最低32卡部署满血版R1到百卡集群推理均可支持。Q：华为平台私有化部署DeepSeek时，如何通过技术手段确保数据在本地存储、传输和处理过程中的安全性，以满足GDPR、HIPAA等国际合规标准？A：私有化部署模式下，大模型本体和传输链路、软硬件均部署在客户机房环境内，对外可通过华为网络专线对外服务，整个系统达到三级等保要求，可最大限度的满足安全方面的诉求Q：华为云结合DeepSeek后，将会有哪些新的应用？A：依靠DeepSeek在编程、数据分析上的高准确率优势，可以拓展软件开发、量化分析等新应用Q：华为云结合DeepSeek后，有哪些应用场景？A：依靠DeepSeek在编程、数据分析上的高准确率优势，可以拓展软件开发、量化分析等新场景，最大限度发挥DeepSeek模型的优势Q：华为云结合DeepSeek后，AI训练用架构如何搭建？A：目前华为云训推用框架围绕deepseek在MaaS平台上构建了一整套一键解决方案，客户只需选择模型和上传训练数据便可启动模型的训练任务

华为云ModelArts赋能加密金融：DeepSeek构建具备策略自适应进化能力的AI分析机器人一、项目概述1.1 项目背景加密金融市场以其高波动性和24/7不间断交易特性著称，这给投资者带来了前所未有的挑战。在这个信息爆炸的时代，人工分析已经难以跟上市场节奏，而传统的自动化交易系统又缺乏足够的智能性和适应性。华为云ModelArts是华为云提供的一站式AI开发平台，提供了DeepSeek大模型，结合ECS高性能计算资源，为构建具备策略自适应进化能力的AI分析机器人提供了强大支持，可以实现从信号监控、智能分析到自动交易的全流程智能化。1.2 案例流程 图1：案例实施流程1.3 资源概览本案例（演示）预计花费总计0元/月（按需付费可能有所不同），本地开发、调试都是免费的，还可以免费领取Token。资源名称规格单价（元/月）数量ModelArtsDeepseekR1按需计费1ECS4核、4G、5M按需计费11.4 适用对象AI分析机器人的设计旨在满足不同类型用户的需求，主要适用于以下群体：用户类型特点描述适用场景核心价值个人开发者具备编程基础，希望开发AI交易系统的开发者系统二次开发、功能定制、API集成提供完整的开发文档和API接口，支持自定义策略和功能扩展高校学生对AI和加密金融感兴趣的学生群体学习研究、毕业设计、创新创业提供详细的技术文档和示例代码，便于学习和实践加密金融爱好者对加密市场感兴趣，希望了解AI分析技术的爱好者市场研究、技术探索、投资参考提供直观的分析报告和可视化界面，降低使用门槛市场研究机构需要大量数据支持研究的分析机构市场趋势研究、Token生命周期分析、风险评估提供大量结构化数据和分析结果，支持深度研究和报告生成二、技术挑战与解决方案2.1 加密金融市场挑战据最新统计，加密金融市场每日交易量超过1000亿美元，价格波动率是传统金融市场的5-10倍。在这样的环境下，投资者面临着几个关键痛点：信息过载：每天产生的市场信号、社交媒体讨论和新闻报道数以万计，人工无法全面处理决策延迟：从发现机会到执行交易的时间窗口极短，人工决策往往错失良机情绪干扰：人类交易者容易受到恐惧和贪婪情绪影响，导致非理性决策策略固化：传统交易系统策略一旦设定很少调整，无法适应市场变化图2：加密金融市场的主要痛点与挑战2.2 AI分析机器人实现构建一个真正智能的交易分析系统面临着多重技术挑战：多源异构数据处理：需要同时处理结构化交易数据和非结构化社交媒体信息实时性要求：系统需要在毫秒级别完成信号接收、分析和决策策略进化机制：如何让系统能够从历史交易中学习并自我优化风险控制：在追求收益的同时，如何有效控制风险面对这些挑战，我们需要一个集成了先进AI技术、具备自适应进化能力的智能交易系统。系统的核心功能包括：多模态信息分析：同时处理结构化交易数据和非结构化文本信息风险评估：对每个交易机会进行1-10分的风险评分收益预测：基于历史数据预测可能的收益范围交易决策生成：综合各项指标，生成明确的交易建议以下流程图展示了AI分析机器人的核心工作流程，从信号监听到交易执行的完整闭环： 图3：AI分析机器人系统逻辑流程图系统逻辑流程主要包括以下几个环节：信号监听与解析：持续监听TG频道，捕获并解析交易信号AI智能分析：利用ModelArts对信号进行多维度分析风险评估：对潜在交易机会进行风险评分和收益预测交易决策生成：综合分析结果，生成明确的交易建议交易执行：根据决策自动执行交易操作结果记录：记录交易过程和结果策略进化：基于历史数据，优化决策模型系统设计理念："让AI的客观分析弥补人类决策的情绪偏差，让人类的经验智慧指导AI的进化方向"三、策略自适应进化机制3.1 交易策略进化系统最大的创新点在于其策略自适应进化机制。传统交易系统往往采用固定的决策规则，而我们的系统能够从历史交易中不断学习，自动调整决策阈值和策略参数。策略进化机制的工作流程如下：历史数据收集：系统记录每次交易的详细信息，包括决策依据和实际结果特征提取：从历史交易中提取关键特征，如社区情绪、风险评级、资金流动等模式识别：识别成功交易和失败交易的共同特征策略优化：基于分析结果，自动调整决策阈值和权重效果验证：在新交易中应用优化后的策略，并持续监控效果 // 策略自适应进化核心代码 async evolveStrategy() { try { logger.info('------开始执行策略自适应进化分析...'); // 加载历史交易数据 const tradeLogFile = path.join(__dirname, '../logs/trades.json'); let tradeHistory = []; if (fs.existsSync(tradeLogFile)) { const fileContent = fs.readFileSync(tradeLogFile, 'utf8'); tradeHistory = JSON.parse(fileContent); } // 提取关键特征 const features = tradeHistory.map(trade => { // 从分析结果中提取关键信息 const analysis = trade.analysisResult.toLowerCase(); return { tokenSymbol: trade.tokenSymbol, timestamp: trade.timestamp, // 社区情绪和市场动态 communityMood: analysis.includes('社区情绪积极') || analysis.includes('社区反应良好') ? '积极' : analysis.includes('社区情绪消极') || analysis.includes('社区反应不佳') ? '消极' : '中性', // 买入决策相关 decision: analysis.includes('建议购买') ? '购买' : '放弃', // 风险评估 riskLevel: (analysis.match(/风险评估：(\d+)/) || [])[1] || '未知', // 资金流动相关 hasNegativeNetInflow: analysis.includes('净流入为负') || analysis.includes('资金流出'), hasHighVolatility: analysis.includes('高波动性') || analysis.includes('波动性高') || analysis.includes('极高的波动性'), hasDeveloperSellAll: analysis.includes('sell all') || analysis.includes('开发者卖出'), hasLowLiquidity: analysis.includes('流动性低') || analysis.includes('流动性较低'), hasKOLBuying: analysis.includes('kol') && analysis.includes('买入'), // 交易计划相关 hasProfitTarget: analysis.includes('止盈点') || analysis.includes('止盈价格'), hasStopLoss: analysis.includes('止损点') || analysis.includes('止损价格'), hasBatchSelling: analysis.includes('分批卖出') || analysis.includes('分批出售'), // 交易结果（如果有） tradingResult: trade.tradingResult || '未知', // 原始数据 buyAmount: trade.buyAmount, tokenAddress: trade.tokenAddress }; }); // 构建分析提示词 const historicalPrompt = ` 请分析以下历史交易数据，找出决策模式和改进方向： ${JSON.stringify(features)} 请提供以下分析： 1. 失败交易的3个主要原因 2. 成功交易的3个关键特征 3. 改进交易策略的3个建议 4. 是否存在可能错过的潜在机会（例如，拒绝了但市场表现良好的代币） 5. 如何调整决策阈值以提高成功率 `; // 调用华为云ModelArts进行分析 const systemContent = '你是一个专业的加密金融数据分析师，擅长从历史数据中总结经验并提供具体的改进建议。'; const analysisResult = await aiService.callDeepseekAPI(historicalPrompt, systemContent); // 保存分析结果并应用到未来决策中 // ... return { success: true, result: analysisResult }; } catch (error) { logger.error('分析历史交易数据时出错：', error); return { success: false, message: `分析出错: ${error.message}` }; } } 通过这种自适应进化机制，系统能够不断从自身的交易历史中学习，逐步提高决策准确性。这种"自我进化"能力是传统交易系统所不具备的，也是本项目的核心创新点。 3.2 交易执行系统在生成交易决策后，会自动执行交易通知并实施多级风险控制。整个过程无需人工干预，大大提高了交易效率。 // 执行购买订单核心代码 async executeBuyOrder(message, tokenInfo, analysisResult) { try { logger.info('准备执行购买订单...'); // 默认购买金额（SOL） let buyAmount = process.env.DEFAULT_BUY_AMOUNT || '0.01'; // 构建购买命令 const buyCommand = `/buy ${tokenInfo.address} ${buyAmount}`; logger.info(`准备执行购买命令: ${buyCommand}`); // 发送购买命令到邮件里...交易通知 logger.info(`已发送购买命令到 ${tradingBot}`); // 记录交易信息 const tradeInfo = { timestamp: new Date().toISOString(), tokenAddress: tokenInfo.address, tokenName: tokenInfo.name, tokenSymbol: tokenInfo.symbol, buyAmount: buyAmount, oldMessage: message, analysisResult: analysisResult }; // 保存交易记录到文件 this.saveTradeRecord(tradeInfo); return true; } catch (error) { logger.error(`执行购买订单时出错: ${error.message}`); return false; } } 系统的风险控制机制包括：交易金额限制：系统默认设置较小的交易金额，降低单笔交易风险止损机制：每笔交易都设置明确的止损点，限制最大损失分批卖出策略：采用分批卖出策略，锁定部分利润交易记录审计：所有交易都有详细记录，便于后续分析和优化 四、华为云平台应用4.1 ModelArts平台介绍华为云ModelArts是本系统的核心AI能力提供者。ModelArts提供了从数据处理、模型训练到推理服务的全流程AI开发平台，极大地简化了AI应用的开发和部署过程。 图5：华为云ModelArts在AI分析机器人中的应用决策引擎的核心功能包括：多模态信息分析：同时处理结构化交易数据和非结构化文本信息风险评估：对每个交易机会进行1-10分的风险评分收益预测：基于历史数据预测可能的收益范围交易决策生成：综合各项指标，生成明确的交易建议 // AI服务类核心代码 async analyzeTrading(message, options = {}) { const modelName = options.model || this.defaultModel; const buyAmount = options.buyAmount || process.env.DEFAULT_BUY_AMOUNT || '0.01'; try { logger.info(`正在使用 ${modelName} 分析交易信息...`); // 构建提示词 const prompt = ` 你是一个顶级加密金融交易专家，帮我深度分析： 1、我可以接受中级风险投资。 2、报告里增加情绪分析、趋势预测和风险评估（1-10分，10分最高风险）。 3、搜索 X 或网络上的最新动态和社区情绪，给我更全面的信息。 4、综合交易信息与最新动态和社区情绪信息，判断是否买入，给出具体买入理由。 5、如果建议买入，假设我投入 ${buyAmount} SOL，必须明确给出完整的交易计划，包括买入价格、止损价格、止盈价格和分批卖出计划，交易机器人会按照你给的交易方案执行。 ... `; // 调用华为云ModelArts API let aiResponse; if (modelName === 'deepseek') { aiResponse = await this.callDeepseekAPI(prompt); } else if (modelName === 'openai') { aiResponse = await this.callOpenAIAPI(prompt); } else { throw new Error(`不支持的模型: ${modelName}`); } // 分析响应内容，判断是否建议购买 const shouldBuy = aiResponse.toLowerCase().includes('报告结果：建议购买'); // 提取理由 let reason = aiResponse; if (reason.length > 200) { reason = reason.substring(0, 200) + '...'; } return { shouldBuy, reason, fullAnalysis: aiResponse }; } catch (error) { logger.error(`${modelName} 分析失败: ${error.message}`); throw error; } } 4.2 ECS服务介绍系统的稳定运行离不开可靠的基础设施支持。华为云ECS（弹性云服务器）为AI分析机器人提供了高性能、高可用的计算环境。图6：基于华为云ECS的系统部署架构华为云ECS在本项目中的关键价值：高性能计算：提供强大的CPU和内存资源，确保AI模型推理和数据处理的高效执行弹性扩展：根据交易量和分析需求自动调整资源配置，优化成本高可用性：多可用区部署，确保系统7*24小时稳定运行安全防护：提供多层次安全防护，保障交易数据安全五、系统实施效果与价值5.1 性能指标与改进效果相比传统交易分析方法，AI分析机器人在多个关键指标上都取得了显著提升。主要性能指标：指标传统方法AI分析机器人提升幅度信号识别准确率65%92%+27%决策响应时间30-60秒3-5秒-90%风险评估准确性70%89%+19%策略优化周期人工周/月级自动日级提速30倍多源数据处理能力单一数据源多源异构数据能力扩展5.2 业务价值与实际案例AI分析机器人在实际应用中创造了显著的业务价值，以下是一个真实案例分析：案例：Solana生态新代币分析与交易2025年3月，系统监测到一个KOL购买信号。传统分析可能仅关注价格和交易量，但AI分析机器人通过多维度分析，发现该Token具有以下特点：开发者持续增加流动性（而非减少）KOL净流入为正且持续增长社区情绪积极且活跃度高安全指标全部通过（NoMint、Blacklist、Burnt）系统自动执行了购买决策，并设置了分批卖出策略。最终系统成功锁定了较大的收益。通过策略自适应进化机制，系统能够从每次交易中学习，不断优化决策模型。以下是系统自动生成的一份策略优化报告摘要： 策略优化报告（自动生成） 时间：2025-03-6 1. 失败交易的3个主要原因： - 开发者状态为"Sell All"的Token，失败率达85% - 流动性低于50K USD的Token，失败率达78% - KOL净流入为负的Token，失败率达72% 2. 成功交易的3个关键特征： - 社区情绪积极且持有者数量>1000 - 开发者持续增加流动性 - 价格6小时变化率>15%且交易量稳定增长 3. 改进建议： - 提高"开发者状态"在决策权重中的比例 - 对流动性低于50K USD的Token设置更严格的购买条件 - 增加社区活跃度分析维度 系统已自动应用以上优化建议到决策模型中。 六、基础环境及资源准备要成功部署和运行AI分析机器人，需要准备以下基础环境和资源：部署文档① 需要准备好华为云账号，并开通ModelArts服务，拿到ModelArts的API KEY、DEEPSEEK_API_URL，这时就有AI分析服务了；② 需要准备好TG的账号，并进群组 [@gmgnsignals]，这时就有信号源了；③ 下载示例代码，将ModelArts的API KEY，还有DEEPSEEK_API_URL 粘贴到.env文件中，启动AI分析服务，这时AI分析机器人就可以正常工作了；④ 首次启动TG需要输入账号、密码、验证码登录，登录后 session 保存在本地，以后免登录。⑤ 本工程核心文件是index.js，工程难度并不复杂，工程代码1000行，适合初学者学习。⑥ 如需测试交易功能，需在TG关注机器人[@US_GMGNBOT]，点击 /start 激活。只为学习使用，不建议在真实交易中使用，风险自负。6.1 硬件资源需求资源类型最低配置推荐配置用途说明华为云ECSc6.large (2vCPUs, 4GB内存)c6.2xlarge (4vCPUs, 4GB内存)运行核心服务和数据处理存储空间50GB高IO云硬盘存储交易数据和模型文件网络带宽5Mbps确保与API的稳定连接ModelArtsDeepseekR1DeepseekR1模型调用、训练和推理6.2 软件环境配置# 操作系统环境- 操作系统：Ubuntu 20.04 LTS- Node.js：v16.x 或更高版本- npm：v8.x 或更高版本# 核心依赖包- axios: ^1.8.1 (HTTP请求)- dayjs: ^1.11.13 (日期处理)- dotenv: ^16.3.1 (环境变量)- openai: ^4.86.1 (AI接口)- telegraf: ^4.15.3 (Bot框架)- winston: ^3.11.0 (日志记录)- ws: ^8.14.2 (WebSocket)# 华为云服务配置- ModelArts服务：开通并配置访问权限- OBS对象存储：用于存储模型和数据- IAM身份认证：配置适当的访问权限 6.3 核心配置系统运行需要核心配置：华为云账户：用于访问ModelArts和其他云服务TG账户：用于监听消息、发起交易监听信号群组：[@gmgnsignals]，由gmgn.ai提供机器人（可选）：[@US_GMGNBOT]，点击 /start 激活安全提示：所有API密钥应妥善保存在环境变量或安全的密钥管理服务中，避免硬编码在代码中。建议使用华为云KMS（密钥管理服务）进行统一管理。6.4 环境配置详解以下是创建华为云ECS实例的详细操作指南：登录华为云控制台：cid:link_1在导航菜单中选择"计算 > 弹性云服务器 ECS"点击"购买云服务器"按钮按照以下配置进行选择：计费模式：按需计费区域：根据您所在位置选择最近的区域可用区：可用区1规格：通用计算增强型 c6.2xlarge (4vCPUs, 4GB内存)镜像：公共镜像 > Ubuntu 20.04 LTS系统盘：高IO 100GB网络：默认VPC，或创建新的VPC安全组：开放22、80、443端口设置登录凭证（密码或密钥对）确认配置并完成购买图7：华为云ECS实例创建步骤6.5 AI服务配置以下是配置ModelArts访问权限的详细步骤：登录华为云控制台，进入ModelArts服务在左侧导航栏选择"设置 > 全局配置"创建API密钥：点击"创建 API Key"按钮设置API密钥描述点击"确定"创建API密钥复制并安全保存API密钥（只显示一次） 图8：ModelArts API密钥设置七、系统实际运行与测试7.1 启动AI分析服务在本地配置 Node.js 开发环境：Node.js 环境搭建 # 1. 安装 Node.js - 访问 https://nodejs.org/ - 下载并安装 LTS 版本（推荐 v16.x 或更高版本） # 2. 验证安装 node -v npm -v # 3. 克隆项目代码 git clone https://github.com/linapex/AiAnalysisBot.git cd AiAnalysisBot # 4. 安装依赖包 npm install # 5. 配置环境变量 cp .env.example .env # 编辑 .env 文件，填入必要的配置信息： # - DEEPSEEK_API_KEY=你的华为云ModelArts API密钥 # - DEEPSEEK_API_URL=你的Deepseek API地址 # 6. 启动开发服务器 node src/index.js # 7. 后台运行（生产环境） npm install -g pm2 pm2 start src/index.js --name tudog 图9：TG监听服务运行截图 图10：AI分析服务运行截图 7.2 系统效果验证验证系统运行效果：检查logs目录下，AI分析结果和交易决策观察的如开启机器人，决策成功后是否给机器人发送 /buy 指令注意：程序只用于分析决策，不建议用于交易，请自行评估风险 八、未来展望与规划8.1 技术迭代方向深度强化学习应用：引入深度强化学习技术，使系统能够通过与市场环境的交互不断优化交易策略大模型微调优化：基于华为云ModelArts平台，对大模型进行金融领域专业知识微调，提升分析精度多链生态支持：扩展对更多区块链生态的支持，包括Ethereum Layer2、Polkadot等知识图谱整合：构建加密金融领域知识图谱，增强系统的推理能力和决策解释性 结语华为云ModelArts和ECS为构建具备策略自适应进化能力的AI分析机器人提供了强大支持。通过多模态分析、自适应进化和实时决策能力，系统有效解决了加密金融市场中的信息过载、决策延迟和策略固化等痛点问题。随着AI技术的不断发展和华为云服务的持续优化，我们有理由相信，这类智能交易系统将在金融科技领域发挥越来越重要的作用，为投资者创造更大的价值。需要特别提醒的是，加密金融市场具有高风险特性，投资者在使用任何交易系统时都应审慎评估风险，合理配置资金比例，避免过度依赖自动化系统。 正在参加【案例共创】第3期 华为云ModelArts赋能加密金融：构建具备策略自适应进化能力的AI分析机器人 https://bbs.huaweicloud.com/forum/thread-0218176004967264062-1-1.html

本次直播获奖名单公示如下（视频号抽奖及直播间未登录问卷用户无用户名），【互动体验有奖活动进行中】赢开发者定制冲锋衣、华为无线耳机等丰厚礼品！：获奖环节奖品华为云账号/微信昵称在线时长抽奖开发者定制冲锋衣/在线时长抽奖开发者定制冲锋衣/口令抽奖开发者定制斜挎包/口令抽奖开发者定制斜挎包/视频号抽奖开发者定制鼠标垫Sp****视频号抽奖开发者定制电脑支架联想****视频号抽奖开发者定制保温杯种德****视频号抽奖开发者定制保温杯旭日****厂（广告制作）视频号抽奖开发者定制保温杯lu****视频号抽奖华为FreeBuds SE 2无线耳机爱上****天开发者空间部署DeepSeek抽奖开发者定制斜挎包hi****i3vpkenq176iu开发者空间部署DeepSeek抽奖开发者定制斜挎包hi****kw4d0vlfoo8fa开发者空间部署DeepSeek抽奖开发者定制冲锋衣hi****148bbb2xfbysq开发者空间部署DeepSeek抽奖开发者定制冲锋衣cs****eke开发者空间部署DeepSeek抽奖华为FreeBuds SE 2无线耳机nu****an分享直播间抽奖开发者定制短袖T恤fe****ier6分享直播间抽奖开发者定制短袖T恤wa****ying007分享直播间抽奖开发者定制短袖T恤hw****59446分享直播间抽奖开发者定制短袖T恤hi****dn-fhshlvnwng分享直播间抽奖开发者定制短袖T恤hi****frx0d_5_rqqau分享直播间抽奖开发者定制128gU盘hw****64285分享直播间抽奖开发者定制128gU盘la****分享直播间抽奖开发者定制128gU盘ge****man_yang

        随着人工智能技术的飞速发展，智能助手已经成为我们日常生活中不可或缺的一部分。无论是智能手机上的语音助手，还是企业内部的智能客服系统，智能助手都在为我们提供便捷、高效的服务。今天，我们将介绍如何利用华为云的Maas（Model-as-a-Service，大模型即服务）平台和Chatbox（来构建一个本地的智能助手。‌一、Maas与Chatbox简介‌‌Maas平台‌：Maas是华为云提供的一个强大的大模型即服务平台。它允许开发者轻松地使用预训练的AI模型进行各种自然语言处理任务，如文本生成、情感分析、问答系统等。Maas平台提供了丰富的API接口，使得开发者可以快速地集成AI功能到自己的应用中。‌Chatbox AI‌：Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先进的 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。二、开通MaaS服务1、打开modelArts Studio控制台附上控制台地址：2、点击模型部署，领取对应模型，当前每个模型提供200万个tokens，测试学习基本够用了 3、点击调用获取api地址和模型名称4、创建API Key，左侧鉴权管理-创建API Key5、保存创建的密钥信息，备留后续步骤使用 三、本地安装Chatbox AI客户端下载地址：Chatbox AI官网：办公学习的AI好助手，全平台AI客户端，官方免费下载按需下载自己需要的版本下载完直接安装即可，win下一步一步安装 四、配置Chatbox AI1、点击使用自己的apikey或者本地模型2、模型提供方选择自定义提供方3、按照说明配置，填写名称，自己随意定义，填写mass的地址、api key，模型名称在设置页面可以参考以下列表进行配置。说明 模型提供方下拉选择模型提供方。名称填写定义模型提供方名称。API 域名填写模型服务调用地址。API 路径填写模型服务调用路径。API 密钥填写模型服务调用 API 密钥。模型填写调用的模型（本方案以 deepseek-r1 模型为例，可自行配置其它模型进行体验）。4、点击保存后就可以体验自己的智能助手了 我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测，共创官方文档https://bbs.huaweicloud.com/forum/thread-0217170307934787108-1-1.html

        在人工智能技术的迅猛推动下，AI问答系统已成为企业与用户之间沟通的重要工具。为了构建一个既高效又智能，同时还易于扩展的AI问答系统，结合使用华为云提供的Maas（Model-as-a-Service，即大模型即服务）平台和开源的Dify第三方框架打造一个智能知识库问答系统一、组件介绍1、MaasMaas(Model-as-a-Service)，华为推出的大模型即服务平台，一站式部署托管业界主流开源大模型，开放API结合业界主流Agent开发框架，轻松构建AI Agent应用2、Docker一种开源的容器化平台，它允许开发人员将应用程序及其所有依赖项打包到一个独立的容器中，从而实现快速部署、可移植性和环境一致性。容器化技术将应用程序与底层系统解耦，使得应用可以在几乎任何地方以相同的方式运行,3、Dify是一个开源的AI编排引擎，它旨在简化和自动化AI服务的管理、编排以及集成工作流。通过提供统一的接口和平台，Dify帮助开发人员和团队高效地构建、管理和部署AI应用程序。在知识库系统中，Dify可以集成多个AI模型和工具，实现复杂的工作流自动化，从而提高系统的处理效率和准确性。二、开通MaaS服务1、打开modelArts Studio控制台附上控制台地址：ModelArts - Console2、点击模型部署，领取对应模型，当前每个模型提供200万个tokens，测试学习基本够用了 3、点击调用获取api地址和模型名称4、创建API Key，左侧鉴权管理-创建API Key5、保存创建的密钥信息，备留后续步骤使用 三、安装docker使用apt安装dockersudo apt-get update sudo apt install docker.iosudo apt install docker-compose修改docker为国内源#编辑daemon.json文件sudo vi /etc/docker/daemon.json添加如下内容{"registry-mirrors": ["https://docker.registry.cyou","https://docker-cf.registry.cyou","https://dockercf.jsdelivr.fyi","https://docker.jsdelivr.fyi","https://dockertest.jsdelivr.fyi","https://mirror.aliyuncs.com","https://dockerproxy.com","https://mirror.baidubce.com","https://docker.m.daocloud.io","https://docker.nju.edu.cn","https://docker.mirrors.sjtug.sjtu.edu.cn","https://docker.mirrors.ustc.edu.cn","https://mirror.iscas.ac.cn","https://docker.rainbond.cc"]}重启docker查看docker状态systemctl daemon-reloadsystemctl restart dockersudo systemctl status docker 四、在Docker上部署Dify克隆dify的docker镜像git clone https://github.com/langgenius/dify.git 在docker部署 difycd dify cd dockersudo docker-compose up -d等下载部署完成检查容器状态sudo docker ps -a五、配置dify使用浏览器访问http://your_server_ip:180/install 首次访问会出现上面的注册页面，填入信息即可。后续访问，查询到已注册，会自动跳转到登录页面配置dify,模型供应商选择open-opi-compatible，填入获取api地址、模型名称、api-key，点击保存 在Dify上创建知识库，上传自己的知识库，然后分段设置那里选择自动分段与清洗，索引方式那里选择经济型，最后保存并处理。创建一个应用助手  选择聊天助手，填写应用名称，点击创建填写提示词，上下文选择刚才创建的知识库至此就可以使用本地的知识库问答系统来回答我们的问题了 我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测，共创官方文档https://bbs.huaweicloud.com/forum/thread-0217170307934787108-1-1.html

小白也能看懂的DeepSeek-R1本地部署与华为云集成指南春节期间Deepseek凭借其出色的性能表现，吸引了众多技术爱好者的目光，会用的人说巨好用，但是也有很多人说也不过如此，其实这么多国际巨头都震惊，自然是非常惊艳的一款产品。如果你也渴望在本地部署该模型，深入探索其强大功能，那么这篇攻略将为你提供详细的指导。这里面我将给大家演示的是windows和mac双平台的部署。废话不多说，现在开始和大家一起了解DeepSeek并完成部署。一、DeepSeek技术全景解析DeepSeek是一家专注通用人工智能（AGI）的中国科技公司，主攻大模型研发与应用。DeepSeek-R1是其开源的推理模型，擅长处理复杂任务且可免费商用。核心定位中国首个开源MoE架构千亿参数大模型（671B）多模态理解能力：文本/图像/音视频混合数据处理技术突破混合专家架构（MoE）：动态激活专家模块提升效率多头潜在注意力（MLA）：多维度特征捕捉万亿token训练数据：医疗/编程/法律等专业领域优势AI+国产+免费+开源+强大二、DeepSeek应用场景全景企业级应用智能客服：多轮对话与情感分析（日均处理百万级咨询）代码开发：项目级代码补全与调试（支持30+编程语言）垂直领域医疗辅助：症状识别准确率提升40%1教育创新：个性化学习方案生成（覆盖K12到职业教育），教育：学科解题/语言陪练（展示数学题分步解析）生活服务智能行程规划：多条件约束优化（天气/预算/偏好）内容创作：爆款文案生成（支持多平台风格适配），生成元宵节灯谜示例科研：论文润色/数据可视化（展示4数据分析案例）开发：代码生成/自动化测试（演示简单脚本编写）三、华为云深度集成优势昇腾算力加持昇腾（Ascend）是华为自主研发的一系列高性能AI处理器，广泛应用于加速人工智能计算，包括训练和推理算力与性能：升腾910作为旗舰级AI处理器，基于达芬奇架构，采用先进的7nm工艺制造，特别适合大规模AI训练，在INT8精度下表现出色。达芬奇架构指令集：具有高度灵活性，支持高效运算密集型CISC指令，专门用于神经网络，有助于新模型的研发和快速部署。部署革命ModelEngine平台：一键部署DeepSeek全系模型对偶流水线机制：GPU利用率提升至92%生态优势与ZStack/腾讯云/阿里云对比：唯一支持国产芯片私有化部署四、基础环境搭建（一）安装 Ollama常规下载首先，访问Ollama 官网 ，根据你的操作系统（Windows、Mac 或 Linux），选择对应的安装包进行下载。我这里以mac和windows为例，如果大家安装不了，也可以在我的公众号nutpi回复“Ollama”获取快速下载链接。安装验证安装完成后，为了确认 Ollama 是否成功安装，在终端输入ollama -v 。如果安装正确，终端会显示 Ollama 的版本号，这就表明你已经成功完成了基础环境搭建的第一步。关于如何打开终端，我想说的是mac的话，找到这个工具，windows的话，win+r输入cmd。然后检查ollama -v下载完成后，按照安装向导的提示逐步完成安装。在安装过程中，Ollama 服务会自动在电脑后台运行。五、模型部署（一）依据硬件精准选型打开Ollama 模型库 ，你会看到丰富多样的 DeepSeek-R1 模型版本，如 1.5B、7B、32B 等。根据自身电脑硬件配置来选择合适的模型版本至关重要。以下是本地部署 DeepSeek 系列模型（1.5B、7B、8B、14B、32B）在 Windows、macOS、Linux 三个平台的最低和推荐硬件配置指南。配置需求主要基于模型的显存（GPU）、内存（RAM）和计算资源需求，同时考虑不同平台的优化差异。通用配置原则模型显存占用（估算）：每1B参数约需 1.5-2GB显存（FP16精度）或 0.75-1GB显存（INT8/4-bit量化）。例如：32B模型在FP16下需约 48-64GB显存，量化后可能降至 24-32GB。内存需求：至少为模型大小的2倍（用于加载和计算缓冲）。存储：建议NVMe SSD，模型文件大小从1.5B（约3GB）到32B（约64GB）不等。分平台配置建议以下按模型规模和平台分类，提供 最低配置 和 推荐配置。1.5B 模型平台最低配置推荐配置Windows- CPU: Intel i5 / Ryzen 5- CPU: Intel i7 / Ryzen 7- RAM: 8GB- RAM: 16GB- GPU: NVIDIA GTX 1650 (4GB)- GPU: RTX 3060 (12GB)macOS- M1/M2 芯片（8GB 统一内存）- M1 Pro/Max 或 M3 芯片（16GB+）Linux- CPU: 4核- CPU: 8核- RAM: 8GB- RAM: 16GB- GPU: NVIDIA T4 (16GB)- GPU: RTX 3090 (24GB)7B/8B 模型平台最低配置推荐配置Windows- CPU: Intel i7 / Ryzen 7- CPU: Intel i9 / Ryzen 9- RAM: 16GB- RAM: 32GB- GPU: RTX 3060 (12GB)- GPU: RTX 4090 (24GB)macOS- M2 Pro/Max（32GB 统一内存）- M3 Max（64GB+ 统一内存）Linux- CPU: 8核- CPU: 12核- RAM: 32GB- RAM: 64GB- GPU: RTX 3090 (24GB)- 多卡（如2x RTX 4090）14B 模型平台最低配置推荐配置Windows- GPU: RTX 3090 (24GB)- GPU: RTX 4090 + 量化优化- RAM: 32GB- RAM: 64GBmacOS- M3 Max（64GB+ 统一内存）- 仅限量化版本，性能受限Linux- GPU: 2x RTX 3090（通过NVLink）- 多卡（如2x RTX 4090 48GB）- RAM: 64GB- RAM: 128GB32B 模型平台最低配置推荐配置Windows- 不推荐（显存不足）- 需企业级GPU（如RTX 6000 Ada）macOS- 无法本地部署（硬件限制）- 云API调用Linux- GPU: 4x RTX 4090（48GB显存）- 专业卡（如NVIDIA A100 80GB）- RAM: 128GB- RAM: 256GB + PCIe 4.0 SSD平台差异说明Windows：依赖CUDA和NVIDIA驱动，推荐使用RTX 30/40系列。大模型（14B+）需借助量化或模型分片技术。macOS：仅限Apple Silicon芯片（M1/M2/M3），依赖Metal加速。模型规模超过14B时性能显著下降，建议量化或云端部署。Linux：支持多GPU扩展和高效资源管理（如NVIDIA Docker）。适合部署大型模型（14B+），需专业级硬件。注意事项量化优化：使用4-bit/8-bit量化可大幅降低显存需求（如bitsandbytes）。框架支持：优先选择优化好的库（如vLLM、DeepSpeed、HuggingFace）。散热：长时间推理需确保散热（建议风冷/水冷）。建议根据实际需求选择硬件，并优先在Linux环境下部署大模型。（二）顺利下载与稳定运行确定适合自己电脑配置的模型版本后，就可以开始下载和运行模型了。打开终端或 CMD 命令窗口，输入对应的运行指令：若选择 1.5B 版本，输入ollama run deepseek-r1:1.5b 。若选择 7B 版本，输入ollama run deepseek-r1:7b 。我Mac选择的是这个。若选择 8B 版本，输入ollama run deepseek-r1:8b 。我win选择的是这个。若选择 32B 版本，输入ollama run deepseek-r1:32b 。六、打造专属 AI 聊天室（一）安装配置 “Cherry Studio”下载前往Cherry Studio 官方网站，根据你的操作系统（支持 Windows、Mac 和 Linux）下载对应的安装包安装下载完成后，对于 Windows 系统，双击安装包，按照安装向导提示完成安装，期间可能需要同意用户协议、选择安装路径等常规步骤；对于 Mac 系统，将下载的应用程序文件拖移到 “应用程序” 文件夹；配置打开 Cherry Studio，在设置中找到 “模型设置” 选项。模型选择：从模型列表中选择与你本地部署的 DeepSeek-R1 模型版本对应的选项，如果没有直接匹配项，选择支持自定义模型配置的入口。自定义配置：在自定义配置中，将 API 地址设置为http://localhost:11434 ，这是 Ollama 服务的默认接口地址，确保 Cherry Studio 能连接到本地运行的 DeepSeek-R1 模型。模型参数设置：根据你的硬件配置和使用需求，设置模型的相关参数，如最大生成长度、温度等，一般默认参数即可满足常见需求，但对于特定任务，你可以适当调整，比如生成创意文本时，可将温度调高至 0.8 - 1.0，以增加文本的多样性；进行严谨的知识问答时，可将温度调低至 0.5 - 0.7 ，使回答更稳定。API密钥大家随意设置就好，然后点击检查就好。配置完成后大家记得默认模型也可以配制成deepseek。（二）安装配置Chatbox 客户端Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先进的 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用为了更便捷地与部署好的 DeepSeek-R1 模型进行交互，你可以下载开源客户端 Chatbox。访问官网 即可进行下载。Chatbox 支持中文界面与 Markdown 渲染，使用起来非常方便。下载安装好 Chatbox 后，打开软件进行关键配置：API 类型：选择 “OLLAMA”，这一步能确保 Chatbox 与我们部署的 DeepSeek-R1 模型进行正确通信。**接口地址：**填写http://localhost:11434 ，这个地址是 Ollama 服务的默认接口地址，通过它 Chatbox 可以连接到本地运行的 DeepSeek-R1 模型。模型名称：务必填写与之前下载的模型版本完全一致的名称，例如，如果之前下载的是 7B 版本，模型名称就必须填写deepseek-r1:7b ，否则可能会导致连接失败。通过以上步骤，你不仅可以使用 Cherry Studio还能通过Chatbox 与本地部署的 DeepSeek-R1 模型进行交互。希望大家都能顺利部署，开启属于自己的 AI 探索之旅。大家遇到问题也可以在后台私信我。这里面大家还有一个问题，就是如果自己的电脑环境配置不好，那么本地部署就玩不了，没事，这里面硅基流动x 华为云联合推出基于昇腾云的 DeepSeek R1&V3 推理服务！也是一个很不错的选择。七、硅基流动配置第一步，登陆账号，然后创建密钥，第二步cherry Studio配置打开设置，选择硅基流动，打开开关，然后上面复制的密钥添加进来，并在管理选择对应的模型。点击检查，看是否OK，第三步配置默认模型为了方便，我们还可以配置默认模型为deepseek-ai/DeepSeek-R1。第四步配置知识库首先在硅基流动配置嵌入模型然后配置知识库的时候，就可以看到硅基流动的嵌入模型啦。配置好以后，就可以添加对应的文件等作为知识库的内容啦。输入信息的时候，选择知识库，就可以啦，比如这里选择坚果派，选择好，以后，就可以对话啦第五步测试效果八、如何使用 DeepSeekrompt 万能框架一给大家一个公式身份：你是谁？（学生/打工牛马/…）任务：要解决什么问题？（写报告/做计划/分析数据…）细节：限制条件是什么？（时间/场景/禁忌…）格式：想要什么形式的结果？（表格/分段/口语化…）套用公式按“身份→任务→细节→格式”顺序重组问题：> “作为（身份），请（任务），要求（细节），用（格式）输出” 。不信你试试。请给出本地部署deepseek的电脑配置，要求包含每一个模型1.5b,7b,8b，14b，32b等，以及windows。mac。linux三个平台的硬件参数Prompt 万能框架二prompt万能框架=立角色+述问题+定目标+补要求。以下是使用Mermaid语法制作的「Prompt万能框架」甘特图，并提供修改说明：2025-05-062025-05-062025-05-072025-05-072025-05-082025-05-082025-05-092025-05-092025-05-102025-05-102025-05-11定义背景角色 明确对话立场 分析问题本质 设定问题边界 制定核心目标 规划成果形式 补充细节要求 设定约束条件 ▶️ 立角色❓ 述问题🎯 定目标📝 补要求Prompt万能框架甘特图在编写 Prompt 时，从0到1地编写出第一版 Prompt 往往是最难的，而基于已有 Prompt 利用各种技巧进行优化则相对简单。如上图所示，我们使用了一套 “万能模版”，把一个 Prompt 拆分成了 “立角色 + 述问题 + 定目标 + 补要求” 这四个部分，利用这个模版可以得到一个“及格”的 Prompt。下面我就具体和大家阐述一下这个模版是如何得到的，为什么他是有效的。Prompt 的作用就是根据我们的问题调用模型的能力，我们要通过提问的方式，明确的让模型知道我们想要什么，我们的目标是什么，从这个基本思想出发，Prompt 应该包含以下几点：问题是什么：首先你要告诉模型你的问题是什么，你的任务是什么，要尽量描述清楚你的需求。你要做什么：下面你需要告诉大模型具体要做什么，比如做一份攻略，写一段代码，对文章进行优化，等等。有什么要求：最后我们往往还需求对任务补充一些要求，比如按特定格式输出，规定长度限制，只输出某些内容，等等。通这 3 部分的描述我们就把 “要大模型做什么” 描述清楚了，这个想法十分自然，即便不是大模型，而是希望其他人为你完成某项任务，往往也需要通过这 3 部分把问题描述清楚。由于这仅仅是第一版 Prompt，你不需要描述的过于详细，也不需要使用技巧，只需要用简练的语言把这几部分描述清晰即可。参考Ollama 官网Ollama 模型库Cherry Studio 官方网站Chatbox官网坚果派硅基流动x 华为云联合推出基于昇腾云的 DeepSeek R1&V3 推理服务DeepSeek 提示词编写技巧典藏版！

使用 HarmonyOS NEXT和Mass快速开发NutPITalk运行环境DevEco Studio：5.0ReleaseOpenHarmony SDK API12开发板：润和DAYU200/Mate60 ProMassMass(即 ModelArts Studio大模型即服务平台)是华为云面向AI开发者推出的一站式大模型开发平台，支持开发者一键体验大模型能力，快速构建大模型应用。Mass平台提供大模型训练、推理、部署、管理、监控等全生命周期管理能力，帮助开发者快速构建大模型应用，加速AI开发。ModelArts Studio大模型即服务平台（MaaS）的应用场景：业界主流开源大模型覆盖全MaaS集成了业界主流开源大模型，含Llama、Baichuan、Yi、Qwen模型系列，所有的模型均基于昇腾AI云服务进行全面适配和优化，使得精度和性能显著提升。开发者无需从零开始构建模型，只需选择合适的预训练模型进行微调或直接应用，减轻模型集成的负担。零代码、免配置、免调优模型开发平台结合与100+客户适配、调优开源大模型的行业实践经验，沉淀了大量适配昇腾，和调优推理参数的最佳实践。通过为客户提供一键式训练、自动超参调优等能力，和高度自动化的参数配置机制，使得模型优化过程不再依赖于手动尝试，显著缩短了从模型开发到部署的周期，确保了模型在各类应用场景下的高性能表现，让客户能够更加聚焦于业务逻辑与创新应用的设计。资源易获取，按需收费，按需扩缩，支撑故障快恢与断点续训企业在具体使用大模型接入企业应用系统的时候，不仅要考虑模型体验情况，还需要考虑模型具体的精度效果，和实际应用成本。MaaS提供灵活的模型开发能力，同时基于昇腾云的算力底座能力，提供了若干保障客户商业应用的关键能力。保障客户系统应用大模型的成本效率，按需收费，按需扩缩的灵活成本效益资源配置方案，有效避免了资源闲置与浪费，降低了进入AI领域的门槛。架构强调高可用性，多数据中心部署确保数据与任务备份，即使遭遇故障，也能无缝切换至备用系统，维持模型训练不中断，保护长期项目免受时间与资源损耗，确保进展与收益。大模型应用开发，帮助开发者快速构建智能Agents在企业中，项目级复杂任务通常需要理解任务并拆解成多个问题再进行决策，然后调用多个子系统去执行。MaaS基于多个优质昇腾云开源大模型，提供优质Prompt模板，让大模型准确理解业务意图，分解复杂任务，沉淀出丰富的多个智能Agent，帮助企业快速智能构建和部署大模型应用。本案例中我们使用华为云开发者空间，基于HarmonyOS NEXT和Mass快速开发NutPITalk。鸿蒙融合智能力，AI助力人生梦！创新科技迎未来，Mass给接口！我们今天来看一下Mass和鸿蒙的结合，会有什么样的火花。免费领取云主机如您还没有云主机，可点击链接，根据领取指南进行操作。如您已领取云主机，可直接开始案例实践。用到资源资源列表消耗/时时长DevEco Studio免费30minModelArts Studio免费30min合计：0元实践ModelArts Studio 模型服务访问 ModelArts Studio 模型部署进入云主机，打开浏览器，输入 https://console.huaweicloud.com/modelarts/?region=cn-east-4&locale=zh-cn#/model-studio/deployment ，即可访问ModelArts Studio。领取免费 Token 额度领取千万免费token额度，可用于体验Qwen、Chatglm等系列模型，免费额度仅适合用于体验模型。Qwen2.5系列预置服务还支持Function Calling，可以用于构建Agent。获取大模型API和名称以Qwen2.5-72B-32K为例，点击更多-调用，获取API地址和模型名称。创建API Key在调用MaaS部署的模型服务时，需要填写API Key用于接口的鉴权认证。登录ModelArts管理控制台。在左侧导航栏中，选择“ModelArts Studio”进入ModelArts Studio大模型即服务平台。在ModelArts Studio左侧导航栏中，选择“鉴权管理”。在“鉴权管理”页面，单击“创建API Key”，填写描述信息后，单击“确认”会返回“您的密钥”，请复制保存密钥，单击“关闭”后将无法再次查看密钥。左侧鉴权管理-创建API Key，保存创建的密钥信息最多创建5个密钥，密钥只会在新建后显示一次，请妥善保存。创建HarmonyOS NEXT项目添加权限"requestPermissions": [ { "name": "ohos.permission.INTERNET" } ], 网络请求用流式和非流式两种，非流式从@kit.NetworkKit中导入http命名空间。调用createHttp()方法，创建一个HttpRequest对象。调用该对象的on()方法，订阅http响应头事件，此接口会比request请求先返回。可以根据业务需要订阅此消息。调用该对象的request()方法，传入http请求的url地址和可选参数，发起网络请求。按照实际业务需要，解析返回结果。调用该对象的off()方法，取消订阅http响应头事件。当该请求使用完毕时，调用destroy()方法主动销毁。具体代码如下 getData() { // 每一个httpRequest对应一个HTTP请求任务，不可复用 let httpRequest = http.createHttp(); // 用于订阅HTTP响应头，此接口会比request请求先返回。可以根据业务需要订阅此消息 // 从API 8开始，使用on('headersReceive', Callback)替代on('headerReceive', AsyncCallback)。 8+ httpRequest.on('headersReceive', (header) => { console.info('header: ' + JSON.stringify(header)); }); httpRequest.request( // 填写HTTP请求的URL地址，可以带参数也可以不带参数。URL地址需要开发者自定义。请求的参数可以在extraData中指定 "https://infer-modelarts.cn-east-4.myhuaweicloud.com/v1/infers/5f114f77-65c2-4e79-82df-d84b25b89d42/v1/chat/completions", { method: http.RequestMethod.POST, // 可选，默认为http.RequestMethod.GET // 开发者根据自身业务需要添加header字段 header: { 'Content-Type': 'application/json', "Authorization": "Bearer yourApiKey // 把yourApiKey替换成真实的API Key }, // 当使用POST请求时此字段用于传递请求体内容，具体格式与服务端协商确定 extraData: { "model": "Qwen2.5-72B-32K", "max_tokens": 20, "messages": [ { "role": "system", "content": "You are a helpful assistant." }, { "role": "user", "content": "鸿蒙坚果派，你了解多少" } ], "stream": false, "temperature": 1.0 }, expectDataType: http.HttpDataType.STRING, // 可选，指定返回数据的类型 usingCache: true, // 可选，默认为true priority: 1, // 可选，默认为1 connectTimeout: 60000, // 可选，默认为60000ms readTimeout: 60000, // 可选，默认为60000ms usingProtocol: http.HttpProtocol.HTTP1_1, // 可选，协议类型默认值由系统自动指定 usingProxy: false, // 可选，默认不使用网络代理，自API 10开始支持该属性 }, (err: BusinessError, data: http.HttpResponse) => { if (!err) { // data.result为HTTP响应内容，可根据业务需要进行解析 console.info('Result:' + JSON.stringify(data.result)); console.info('code:' + JSON.stringify(data.responseCode)); // data.header为HTTP响应头，可根据业务需要进行解析 console.info('header:' + JSON.stringify(data.header)); console.info('cookies:' + JSON.stringify(data.cookies)); // 8+ // 当该请求使用完毕时，调用destroy方法主动销毁 httpRequest.destroy(); } else { console.error('error:' + JSON.stringify(err)); // 取消订阅HTTP响应头事件 httpRequest.off('headersReceive'); // 当该请求使用完毕时，调用destroy方法主动销毁 httpRequest.destroy(); } } ); } 返回数据{ "id": "chat-7bde4ec9cba949c1829e589f4fa1f8b1", "object": "chat.completion", "created": 1736925731, "model": "Qwen2.5-72B-32K", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "你好！有什么可以帮到你的吗？", "tool_calls": [] }, "logprobs": null, "finish_reason": "stop", "stop_reason": null } ], "usage": { "prompt_tokens": 20, "total_tokens": 30, "completion_tokens": 10 }, "prompt_logprobs": null } 参数说明参数参数类型描述idStr请求ID。objectStr请求任务。createdInt请求生成的时间戳。modelStr调用的模型名。choicesArray模型生成内容。usageObject请求输入长度、输出长度和总长度。创建Model处理数据这里使用我们坚果派开发的IDE插件就好，搭建UI这里面，我们可以做个对话框流式数据从@kit.NetworkKit中导入http命名空间。调用createHttp()方法，创建一个HttpRequest对象。调用该对象的on()方法，可以根据业务需要订阅HTTP响应头事件、HTTP流式响应数据接收事件、HTTP流式响应数据接收进度事件和HTTP流式响应数据接收完毕事件。调用该对象的requestInStream()方法，传入http请求的url地址和可选参数，发起网络请求。按照实际业务需要，可以解析返回的响应码。调用该对象的off()方法，取消订阅响应事件。当该请求使用完毕时，调用destroy()方法主动销毁。具体代码如下：// 引入包名 import { http } from '@kit.NetworkKit'; import { BusinessError } from '@kit.BasicServicesKit'; // 每一个httpRequest对应一个HTTP请求任务，不可复用 let httpRequest = http.createHttp(); // 用于订阅HTTP响应头事件 httpRequest.on('headersReceive', (header: Object) => { console.info('header: ' + JSON.stringify(header)); }); // 用于订阅HTTP流式响应数据接收事件 let res = new ArrayBuffer(0); httpRequest.on('dataReceive', (data: ArrayBuffer) => { const newRes = new ArrayBuffer(res.byteLength + data.byteLength); const resView = new Uint8Array(newRes); resView.set(new Uint8Array(res)); resView.set(new Uint8Array(data), res.byteLength); res = newRes; console.info('res length: ' + res.byteLength); }); // 用于订阅HTTP流式响应数据接收完毕事件 httpRequest.on('dataEnd', () => { console.info('No more data in response, data receive end'); }); // 用于订阅HTTP流式响应数据接收进度事件 class Data { receiveSize: number = 0; totalSize: number = 0; } httpRequest.on('dataReceiveProgress', (data: Data) => { console.log("dataReceiveProgress receiveSize:" + data.receiveSize + ", totalSize:" + data.totalSize); }); let streamInfo: http.HttpRequestOptions = { method: http.RequestMethod.POST, // 可选，默认为http.RequestMethod.GET // 开发者根据自身业务需要添加header字段 header: { 'Content-Type': 'application/json' }, // 当使用POST请求时此字段用于传递请求体内容，具体格式与服务端协商确定 extraData: "data to send", expectDataType: http.HttpDataType.STRING,// 可选，指定返回数据的类型 usingCache: true, // 可选，默认为true priority: 1, // 可选，默认为1 connectTimeout: 60000, // 可选，默认为60000ms readTimeout: 60000, // 可选，默认为60000ms。若传输的数据较大，需要较长的时间，建议增大该参数以保证数据传输正常终止 usingProtocol: http.HttpProtocol.HTTP1_1 // 可选，协议类型默认值由系统自动指定 } // 填写HTTP请求的URL地址，可以带参数也可以不带参数。URL地址需要开发者自定义。请求的参数可以在extraData中指定 httpRequest.requestInStream("EXAMPLE_URL", streamInfo).then((data: number) => { console.info("requestInStream OK!"); console.info('ResponseCode :' + JSON.stringify(data)); // 取消订阅HTTP响应头事件 httpRequest.off('headersReceive'); // 取消订阅HTTP流式响应数据接收事件 httpRequest.off('dataReceive'); // 取消订阅HTTP流式响应数据接收进度事件 httpRequest.off('dataReceiveProgress'); // 取消订阅HTTP流式响应数据接收完毕事件 httpRequest.off('dataEnd'); // 当该请求使用完毕时，调用destroy方法主动销毁 httpRequest.destroy(); }).catch((err: Error) => { console.info("requestInStream ERROR : err = " + JSON.stringify(err)); }); 示例代码 # coding=utf-8 import requests import json if __name__ == '__main__': url = "xxxxxxxxxx/v1/chat/completions" # Send request. headers = { 'Content-Type': 'application/json', 'Authorization': 'Bearer yourApiKey' # 把yourApiKey替换成已获取的API Key。例如，获取的API Key是“1234abcd...”时，此处填写“Bearer 1234abcd...”。 } data = { "model": "Qwen2-7B", # 调用时的模型名称。 "max_tokens": 20, "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "hello"} ], # 是否开启流式推理，默认为False,表示不开启流式推理。 "stream": False, # 在流式输出时是否展示使用的token数目。只有当stream为True时该参数才会生效。 # "stream_options": {"include_usage": True}, # 控制采样随机性的浮点数，值较低时模型更具确定性，值较高时模型更具创造性。"0"表示贪婪取样。默认为1.0。 "temperature": 1.0 } resp = requests.post(url, headers=headers, data=json.dumps(data), verify=False) # Print result. print(resp.status_code) print(resp.text) 可以请求到数据，FAQrequest和requestInStream使用区别在于：request接口有5M的数据，如果响应大于5M用requestinstream。参考https://support.huaweicloud.com/usermanual-maas-modelarts/maas-modelarts-0011.htmlhttps://developer.huawei.com/consumer/cn/doc/harmonyos-guides-V5/http-request-V5https://daqianduan.feishu.cn/docx/NSCsd3xNfoXEKvxTVqRcJTahnuh三方库列表https://plugins.jetbrains.com/plugin/25151-json2ets致谢感谢每一个关注此项目的开发者，也是希望大家对文章有任何建议，可以在https://www.nutpi.net/讨论。

使用 HarmonyOS NEXT和Mass快速开发NutPITalk运行环境DevEco Studio：5.0ReleaseOpenHarmony SDK API12开发板：润和DAYU200/Mate60 ProMassMass(即 ModelArts Studio大模型即服务平台)是华为云面向AI开发者推出的一站式大模型开发平台，支持开发者一键体验大模型能力，快速构建大模型应用。Mass平台提供大模型训练、推理、部署、管理、监控等全生命周期管理能力，帮助开发者快速构建大模型应用，加速AI开发。ModelArts Studio大模型即服务平台（MaaS）的应用场景：业界主流开源大模型覆盖全MaaS集成了业界主流开源大模型，含Llama、Baichuan、Yi、Qwen模型系列，所有的模型均基于昇腾AI云服务进行全面适配和优化，使得精度和性能显著提升。开发者无需从零开始构建模型，只需选择合适的预训练模型进行微调或直接应用，减轻模型集成的负担。零代码、免配置、免调优模型开发平台结合与100+客户适配、调优开源大模型的行业实践经验，沉淀了大量适配昇腾，和调优推理参数的最佳实践。通过为客户提供一键式训练、自动超参调优等能力，和高度自动化的参数配置机制，使得模型优化过程不再依赖于手动尝试，显著缩短了从模型开发到部署的周期，确保了模型在各类应用场景下的高性能表现，让客户能够更加聚焦于业务逻辑与创新应用的设计。资源易获取，按需收费，按需扩缩，支撑故障快恢与断点续训企业在具体使用大模型接入企业应用系统的时候，不仅要考虑模型体验情况，还需要考虑模型具体的精度效果，和实际应用成本。MaaS提供灵活的模型开发能力，同时基于昇腾云的算力底座能力，提供了若干保障客户商业应用的关键能力。保障客户系统应用大模型的成本效率，按需收费，按需扩缩的灵活成本效益资源配置方案，有效避免了资源闲置与浪费，降低了进入AI领域的门槛。架构强调高可用性，多数据中心部署确保数据与任务备份，即使遭遇故障，也能无缝切换至备用系统，维持模型训练不中断，保护长期项目免受时间与资源损耗，确保进展与收益。大模型应用开发，帮助开发者快速构建智能Agents在企业中，项目级复杂任务通常需要理解任务并拆解成多个问题再进行决策，然后调用多个子系统去执行。MaaS基于多个优质昇腾云开源大模型，提供优质Prompt模板，让大模型准确理解业务意图，分解复杂任务，沉淀出丰富的多个智能Agent，帮助企业快速智能构建和部署大模型应用。本案例中我们使用华为云开发者空间，基于HarmonyOS NEXT和Mass快速开发NutPITalk。鸿蒙融合智能力，AI助力人生梦！创新科技迎未来，Mass给接口！我们今天来看一下Mass和鸿蒙的结合，会有什么样的火花。免费领取云主机如您还没有云主机，可点击链接，根据领取指南进行操作。如您已领取云主机，可直接开始案例实践。用到资源资源列表消耗/时时长DevEco Studio免费30minModelArts Studio免费30min合计：0元实践ModelArts Studio 模型服务访问 ModelArts Studio 模型部署进入云主机，打开浏览器，输入 https://console.huaweicloud.com/modelarts/?region=cn-east-4&locale=zh-cn#/model-studio/deployment ，即可访问ModelArts Studio。领取免费 Token 额度领取千万免费token额度，可用于体验Qwen、Chatglm等系列模型，免费额度仅适合用于体验模型。Qwen2.5系列预置服务还支持Function Calling，可以用于构建Agent。获取大模型API和名称以Qwen2.5-72B-32K为例，点击更多-调用，获取API地址和模型名称。创建API Key在调用MaaS部署的模型服务时，需要填写API Key用于接口的鉴权认证。登录ModelArts管理控制台。在左侧导航栏中，选择“ModelArts Studio”进入ModelArts Studio大模型即服务平台。在ModelArts Studio左侧导航栏中，选择“鉴权管理”。在“鉴权管理”页面，单击“创建API Key”，填写描述信息后，单击“确认”会返回“您的密钥”，请复制保存密钥，单击“关闭”后将无法再次查看密钥。左侧鉴权管理-创建API Key，保存创建的密钥信息最多创建5个密钥，密钥只会在新建后显示一次，请妥善保存。创建HarmonyOS NEXT项目添加权限"requestPermissions": [ { "name": "ohos.permission.INTERNET" } ], 网络请求用流式和非流式两种，非流式从kit.NetworkKit中导入http命名空间。调用createHttp()方法，创建一个HttpRequest对象。调用该对象的on()方法，订阅http响应头事件，此接口会比request请求先返回。可以根据业务需要订阅此消息。调用该对象的request()方法，传入http请求的url地址和可选参数，发起网络请求。按照实际业务需要，解析返回结果。调用该对象的off()方法，取消订阅http响应头事件。当该请求使用完毕时，调用destroy()方法主动销毁。具体代码如下 getData() { // 每一个httpRequest对应一个HTTP请求任务，不可复用 let httpRequest = http.createHttp(); // 用于订阅HTTP响应头，此接口会比request请求先返回。可以根据业务需要订阅此消息 // 从API 8开始，使用on('headersReceive', Callback)替代on('headerReceive', AsyncCallback)。 8+ httpRequest.on('headersReceive', (header) => { console.info('header: ' + JSON.stringify(header)); }); httpRequest.request( // 填写HTTP请求的URL地址，可以带参数也可以不带参数。URL地址需要开发者自定义。请求的参数可以在extraData中指定 "https://infer-modelarts.cn-east-4.myhuaweicloud.com/v1/infers/5f114f77-65c2-4e79-82df-d84b25b89d42/v1/chat/completions", { method: http.RequestMethod.POST, // 可选，默认为http.RequestMethod.GET // 开发者根据自身业务需要添加header字段 header: { 'Content-Type': 'application/json', "Authorization": "Bearer yourApiKey // 把yourApiKey替换成真实的API Key }, // 当使用POST请求时此字段用于传递请求体内容，具体格式与服务端协商确定 extraData: { "model": "Qwen2.5-72B-32K", "max_tokens": 20, "messages": [ { "role": "system", "content": "You are a helpful assistant." }, { "role": "user", "content": "鸿蒙坚果派，你了解多少" } ], "stream": false, "temperature": 1.0 }, expectDataType: http.HttpDataType.STRING, // 可选，指定返回数据的类型 usingCache: true, // 可选，默认为true priority: 1, // 可选，默认为1 connectTimeout: 60000, // 可选，默认为60000ms readTimeout: 60000, // 可选，默认为60000ms usingProtocol: http.HttpProtocol.HTTP1_1, // 可选，协议类型默认值由系统自动指定 usingProxy: false, // 可选，默认不使用网络代理，自API 10开始支持该属性 }, (err: BusinessError, data: http.HttpResponse) => { if (!err) { // data.result为HTTP响应内容，可根据业务需要进行解析 console.info('Result:' + JSON.stringify(data.result)); console.info('code:' + JSON.stringify(data.responseCode)); // data.header为HTTP响应头，可根据业务需要进行解析 console.info('header:' + JSON.stringify(data.header)); console.info('cookies:' + JSON.stringify(data.cookies)); // 8+ // 当该请求使用完毕时，调用destroy方法主动销毁 httpRequest.destroy(); } else { console.error('error:' + JSON.stringify(err)); // 取消订阅HTTP响应头事件 httpRequest.off('headersReceive'); // 当该请求使用完毕时，调用destroy方法主动销毁 httpRequest.destroy(); } } ); } 返回数据{ "id": "chat-7bde4ec9cba949c1829e589f4fa1f8b1", "object": "chat.completion", "created": 1736925731, "model": "Qwen2.5-72B-32K", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "你好！有什么可以帮到你的吗？", "tool_calls": [] }, "logprobs": null, "finish_reason": "stop", "stop_reason": null } ], "usage": { "prompt_tokens": 20, "total_tokens": 30, "completion_tokens": 10 }, "prompt_logprobs": null } 参数说明参数参数类型描述idStr请求ID。objectStr请求任务。createdInt请求生成的时间戳。modelStr调用的模型名。choicesArray模型生成内容。usageObject请求输入长度、输出长度和总长度。创建Model处理数据这里使用我们坚果派开发的IDE插件就好，搭建UI这里面，我们可以做个对话框流式数据从@kit.NetworkKit中导入http命名空间。调用createHttp()方法，创建一个HttpRequest对象。调用该对象的on()方法，可以根据业务需要订阅HTTP响应头事件、HTTP流式响应数据接收事件、HTTP流式响应数据接收进度事件和HTTP流式响应数据接收完毕事件。调用该对象的requestInStream()方法，传入http请求的url地址和可选参数，发起网络请求。按照实际业务需要，可以解析返回的响应码。调用该对象的off()方法，取消订阅响应事件。当该请求使用完毕时，调用destroy()方法主动销毁。具体代码如下：// 引入包名 import { http } from '@kit.NetworkKit'; import { BusinessError } from '@kit.BasicServicesKit'; // 每一个httpRequest对应一个HTTP请求任务，不可复用 let httpRequest = http.createHttp(); // 用于订阅HTTP响应头事件 httpRequest.on('headersReceive', (header: Object) => { console.info('header: ' + JSON.stringify(header)); }); // 用于订阅HTTP流式响应数据接收事件 let res = new ArrayBuffer(0); httpRequest.on('dataReceive', (data: ArrayBuffer) => { const newRes = new ArrayBuffer(res.byteLength + data.byteLength); const resView = new Uint8Array(newRes); resView.set(new Uint8Array(res)); resView.set(new Uint8Array(data), res.byteLength); res = newRes; console.info('res length: ' + res.byteLength); }); // 用于订阅HTTP流式响应数据接收完毕事件 httpRequest.on('dataEnd', () => { console.info('No more data in response, data receive end'); }); // 用于订阅HTTP流式响应数据接收进度事件 class Data { receiveSize: number = 0; totalSize: number = 0; } httpRequest.on('dataReceiveProgress', (data: Data) => { console.log("dataReceiveProgress receiveSize:" + data.receiveSize + ", totalSize:" + data.totalSize); }); let streamInfo: http.HttpRequestOptions = { method: http.RequestMethod.POST, // 可选，默认为http.RequestMethod.GET // 开发者根据自身业务需要添加header字段 header: { 'Content-Type': 'application/json' }, // 当使用POST请求时此字段用于传递请求体内容，具体格式与服务端协商确定 extraData: "data to send", expectDataType: http.HttpDataType.STRING,// 可选，指定返回数据的类型 usingCache: true, // 可选，默认为true priority: 1, // 可选，默认为1 connectTimeout: 60000, // 可选，默认为60000ms readTimeout: 60000, // 可选，默认为60000ms。若传输的数据较大，需要较长的时间，建议增大该参数以保证数据传输正常终止 usingProtocol: http.HttpProtocol.HTTP1_1 // 可选，协议类型默认值由系统自动指定 } // 填写HTTP请求的URL地址，可以带参数也可以不带参数。URL地址需要开发者自定义。请求的参数可以在extraData中指定 httpRequest.requestInStream("EXAMPLE_URL", streamInfo).then((data: number) => { console.info("requestInStream OK!"); console.info('ResponseCode :' + JSON.stringify(data)); // 取消订阅HTTP响应头事件 httpRequest.off('headersReceive'); // 取消订阅HTTP流式响应数据接收事件 httpRequest.off('dataReceive'); // 取消订阅HTTP流式响应数据接收进度事件 httpRequest.off('dataReceiveProgress'); // 取消订阅HTTP流式响应数据接收完毕事件 httpRequest.off('dataEnd'); // 当该请求使用完毕时，调用destroy方法主动销毁 httpRequest.destroy(); }).catch((err: Error) => { console.info("requestInStream ERROR : err = " + JSON.stringify(err)); }); 示例代码 # coding=utf-8 import requests import json if __name__ == '__main__': url = "xxxxxxxxxx/v1/chat/completions" # Send request. headers = { 'Content-Type': 'application/json', 'Authorization': 'Bearer yourApiKey' # 把yourApiKey替换成已获取的API Key。例如，获取的API Key是“1234abcd...”时，此处填写“Bearer 1234abcd...”。 } data = { "model": "Qwen2-7B", # 调用时的模型名称。 "max_tokens": 20, "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "hello"} ], # 是否开启流式推理，默认为False,表示不开启流式推理。 "stream": False, # 在流式输出时是否展示使用的token数目。只有当stream为True时该参数才会生效。 # "stream_options": {"include_usage": True}, # 控制采样随机性的浮点数，值较低时模型更具确定性，值较高时模型更具创造性。"0"表示贪婪取样。默认为1.0。 "temperature": 1.0 } resp = requests.post(url, headers=headers, data=json.dumps(data), verify=False) # Print result. print(resp.status_code) print(resp.text) 可以请求到数据，FAQrequest和requestInStream使用区别在于：request接口有5M的数据，如果响应大于5M用requestinstream。参考https://support.huaweicloud.com/usermanual-maas-modelarts/maas-modelarts-0011.htmlhttps://developer.huawei.com/consumer/cn/doc/harmonyos-guides-V5/http-request-V5三方库列表https://plugins.jetbrains.com/plugin/25151-json2ets致谢感谢每一个关注此项目的开发者，也是希望大家对文章有任何建议，可以在https://www.nutpi.net/讨论。

轻松搭建知识库：CherryStudio 联手华为云的实践指南在当今数字化时代，知识管理对于个人和企业都至关重要。CherryStudio 作为一款全能 AI 助手平台，与华为云强强联手，为用户提供了搭建本地知识库系统的便捷方案。本文将详细介绍如何利用 CherryStudio 和华为云实现知识库的搭建和管理。一、CherryStudio：全能 AI 助手平台CherryStudio 是一款集多模型对话、知识库管理、AI 绘画、翻译等功能于一体的全能 AI 助手平台。其高度自定义的设计、强大的扩展能力和友好的用户体验，使其成为专业用户和 AI 爱好者的理想选择。无论是零基础用户还是开发者，都能在 CherryStudio 中找到适合自己的 AI 功能，提升工作效率和创造力。二、本地知识库系统（一）多种格式支持本地知识库系统支持 PDF、DOCX、PPTX、XLSX、TXT、MD 等多种文件格式导入，满足用户不同的文档管理需求。（二）多种数据源支持系统支持本地文件、网址、站点地图甚至手动输入内容作为知识库源，方便用户从多种渠道获取和整合知识。（三）知识库导出用户可以将处理好的知识库导出并分享给他人使用，实现知识的共享和传播。（四）支持搜索检查知识库导入后，用户可实时检索测试，查看处理结果和分段效果，确保知识库的质量和可用性。三、华为云操作步骤（一）创建账号登录首先，到 华为云 创建账号并登录。（二）进入 Maa S 控制台点击 此链接，进入 Maa S 控制台。（三）授权在控制台中进行授权操作，确保后续操作的顺利进行。（四）模型部署点击侧栏的 “模型部署”，全部领取，以便使用华为云提供的模型资源。（五）创建 API Key点击侧栏的 “鉴权管理”，创建 API Key（秘钥）并复制，用于后续在 CherryStudio 中的配置。（六）在 CherryStudio 中配置在 CherryStudio 里创建新服务商，创建华为云。将服务商地址粘贴到 CherryStudio 的服务商地址当中，并在结尾加上 “#” 号。然后把模型名称复制，到 CherryStudio 当中点 “+ 添加” 按钮新建模型，输入模型名称，不要添油加醋，不要带引号，按照示例中的写法进行操作。点击添加模型按钮即可完成添加。粘贴到CherryStudio的服务商地址当中并在结尾加上“#”号然后把模型名称复制，到CherryStudio当中点“+添加”按钮新建模型，输入模型名称，不要添油加醋，不要带引号，示例当中怎么写就怎么抄。四、总结通过以上步骤，华为云、本地知识库和 CherryStudio 就能够很好地结合在一起。结合鸿蒙知识，整个系统形成了一个闭环，为用户提供了一个高效、便捷的知识管理解决方案。无论是个人用户还是企业用户，都可以利用这一方案提升知识管理的效率和质量，实现知识的快速检索、共享和应用。五、未来展望随着技术的不断发展，CherryStudio 和华为云将继续优化和升级，为用户提供更多功能和更好的体验。我们期待这一解决方案能够在更多领域得到应用，为用户创造更大的价值。六、致谢感谢华为云提供的强大技术支持，以及 CherryStudio 团队的不懈努力。同时，感谢所有开发者的信任和支持。总结：CherryStudio 与华为云的结合，为用户搭建本地知识库系统提供了高效、便捷的解决方案。通过简单的操作步骤，用户可以轻松实现知识库的搭建、管理和应用。这一方案不仅提升了知识管理的效率，还为用户提供了更广阔的应用空间。我们相信，随着技术的不断进步，CherryStudio 和华为云将为用户带来更多惊喜和价值。