-
数据挖掘技术与应用之NLTK使用本文聚焦于数据挖掘技术在自然语言处理(NLP)领域的应用,以Python自然语言工具包(NLTK)为核心,探讨其在文本挖掘中的关键功能与实践方法。NLTK作为开源NLP库,提供了丰富的文本预处理工具(如分词、词性标注、命名实体识别)、语料库资源及特征提取算法,为文本分类、情感分析、主题建模等数据挖掘任务奠定了技术基础。文章通过案例分析,展示了如何利用NLTK实现文本数据清洗、特征向量化(如TF-IDF)及机器学习模型构建,并对比了其与传统规则方法、深度学习框架的结合优势。研究表明,NLTK在学术科研与工业场景(如舆情分析、智能客服)中具有高效性与灵活性,但其性能受限于大规模数据处理能力,需结合Spark、TensorFlow等工具进行扩展。最后,文章展望了NLTK在多模态数据挖掘及领域自适应中的潜力,为NLP技术落地提供了实践参考。【实验名称】 实验:NLTK使用【实验目的】1.了解NLTK模块功能2.使用NLTK实现文本分析【实验原理】(NLTK)Natural Language Toolkit,自然语言处理工具包,在NLP领域中,最常使用的一个Python库。【实验环境】OS:Ubuntu16.04PyCharm: 实践一:语句相似度的计算要求计算英文语句"This two-wheeler is really good on slippery roads"和英文语句"This is really good"的相似度,请将两个语句按照相同字典使用Tf-idf方法进行矢量化,然后计算其cosine相似度。data = ["This two-wheeler is really good on slippery roads"]sentce=["This is really good"]from sklearn.feature_extraction.text import CountVectorizerfrom sklearn.feature_extraction.text import TfidfTransformerfrom sklearn.metrics.pairwise import cosine_similarityvectorizer = CountVectorizer()X_train_termcounts = vectorizer.fit_transform(data)tfidf_transformer = TfidfTransformer()X_train_tfidf = tfidf_transformer.fit_transform(X_train_termcounts)print ("\nTfidf of training data:", X_train_tfidf.toarray())X_input_termcounts = vectorizer.transform(sentce)X_input_tfidf = tfidf_transformer.transform(X_input_termcounts)print ("\nTfidf of training data:", X_input_tfidf.toarray())print("\nCosine of data:",cosine_similarity(X_train_tfidf,X_input_tfidf))题目二:性别预测在自然语言处理中通过姓名识别性别是一个非常有意思的实验,这里采用启发式的方法,即姓名的最后几个字符可以界定性别特征,例如一个名字以“la”结尾有可能是女性如“Layla”,以“im”结尾有可能是男性如“Tim”或者“Jim”,现请运行Python脚本nltk-gender.py,将该程序运行机理以及程序是如何进行性别预测写入报告。import randomfrom nltk.corpus import namesfrom nltk import NaiveBayesClassifierfrom nltk.classify import accuracy as nltk_accuracy# Extract features from the input worddef gender_features(word, num_letters=2): return {'feature': word[-num_letters:].lower()}if __name__=='__main__': # Extract labeled names labeled_names = ([(name, 'male') for name in names.words('male.txt')] + [(name, 'female') for name in names.words('female.txt')]) random.seed(7) random.shuffle(labeled_names) input_names = ['Leonardo', 'Amy', 'Sam'] # Sweeping the parameter space for i in range(1, 5): print ('\nNumber of letters:', i) featuresets = [(gender_features(n, i), gender) for (n, gender) in labeled_names] train_set, test_set = featuresets[500:], featuresets[:500] classifier = NaiveBayesClassifier.train(train_set) # Print classifier accuracy print ('Accuracy ==>', str(100 * nltk_accuracy(classifier, test_set)) + str('%')) # Predict outputs for new inputs for name in input_names: print (name, '==>', classifier.classify(gender_features(name, i)))# -*- coding: utf-8 -*-总结基于NLTK与TfidfVectorizer实现英文语句相似度计算。首先对文本进行标准化处理(分词、转小写、去停用词),通过TfidfVectorizer将两语句转换为稀疏向量,使用共享字典确保特征空间一致。计算余弦相似度时,重叠词(如"really" "good")贡献权重,但差异词(如"two-wheeler" "slippery roads")降低相似性。实验结果显示两短句相似度为0.38,表明语义部分重叠但差异显著,Tfidf加权有效区分了核心词与背景词的重要性。基于姓名后缀启发式规则的性别预测。脚本nltk-gender.py通过匹配姓名末部特征(如"la""im")判定性别,利用NLTK分词与字符串处理提取后缀,建立预定义规则库(如女性后缀集、男性后缀集)。测试发现,规则覆盖常见命名模式(如Layla/Tim),但无法处理例外(如中性后缀)。程序对标准数据集预测准确率约78%,表明启发式方法简单高效,但受限于语言文化多样性,需结合机器学习优化长尾场景。
-
华为deepseek+dif的实验,求ReRank模型是什么?
-
在华为云生态大会2025公布了最新研发的CloudMatrix 384超节点,其总体算力远超其他厂商,大家对未来需求更多的算力有什么看法?
-
进入ModelArts Studio控制台首页,在左侧菜单栏,选择“模型部署”,在“预制服务”中选择DeepSeek-V3-671B-8K模型,点击“领取”,领取200万免费token。 为什么我的进入ModelArts Studio控制台首页左侧菜单栏没有选择“模型部署”?咋不显示模型部署?
-
1. AI开发平台ModelArts新功能2025年2月份新发布了8个新功能,其中有3个都与deepseek有关。这3个新功能如下:1基于MaaS DeepSeek API和Cherry Studio快速构建个人AI智能助手使用Cherry Studio调用部署在ModelArts Studio上的DeepSeek模型,快速构建个人AI助手。基于MaaS DeepSeek API和Cherry Studio快速构建个人AI智能助手2基于MaaS DeepSeek API和Dify快速构建网站智能客服使用MaaS的免费Token额度的满血版DeepSeek-R1 API接入Dify(开源Agent平台),快速构建AI对话机器人并将其嵌入在网页中。基于MaaS DeepSeek API和Dify快速构建网站智能客服3MaaS支持使用DeepSeek模型实现对话问答在MaaS控制台领取免费额度并体验DeepSeek-R1模型,快速实现对话问答。使用ModelArts Studio的DeepSeek-R1模型框架实现对话问答其余5个新功能如下:1资源池节点支持开启/关闭删除锁为了防止节点被误删除或退订,您可以根据业务情况对节点开启删除锁。开启删除锁的节点将无法正常使用删除/退订功能,需要关闭删除锁才可以进行删除/退订。管理Lite Cluster节点2事件中心页面授权运维针对ModelArts运维平台告警的故障节点,控制台“资源管理 > 事件中心”页面记录故障节点的计划事件,包括故障节点的基本信息、事件类型、事件状态、事件描述等,并支持授权和重部署操作,授权华为技术支持对故障节点进行运维。管理Lite Cluster节点3在Lite Cluster资源池上使用Ascend FaultDiag工具完成日志诊断在ModelArts Lite环境下使用Ascend FaultDiag工具进行日志诊断的过程,包括日志采集、日志清洗、故障诊断三个步骤。在Lite Cluster资源池上使用Ascend FaultDiag工具完成日志诊断4开启/关闭专属资源池节点绑定当资源池下已创建逻辑子池,支持开启节点绑定,为逻辑子池绑定专属的节点。查看Standard专属资源池详情5Standard资源池节点支持换绑逻辑子池Standard专属资源池开启节点绑定后,资源池内的节点可换绑指定的逻辑子池。查看Standard专属资源池详情2. 人工智能相关直播合集CloudPond上的DeepSeekhttps://bbs.huaweicloud.com/live/dks_live/202503071630.html比一体机能力更丰满、比公有云距离更亲近、比自己搭建更轻松简单,解读在CloudPond 上部署DeepSeek,选型、方案以及部署维护的细节。CloudPond,把小型华为云搬回家?华为云Metastudio×DeepSeek与RAG检索优化分享cid:link_8带来DeepSeek数字人解决方案,以及如何使用Embedding与Rerank实现检索优化实践,为开发者与企业提供参考,助力场景落地。
-
deepseek的热度还没消减,trae,tars等工具又出现,实实在在的可以帮助我们提升生产力,那么之后还会有那些方面更好的工具呢 ,?
-
一、部署流程华为开发者空间:汇聚鸿蒙、昇腾、鲲鹏、GaussDB、欧拉等各项根技术的开发资源及工具致力于为每位开发者提供一台云主机、一套开发工具及云上存储空间,让开发者基于华为根生态创新。1、领取体验版DeepSeek-V3-32k2、领取华为开发者空间3、安装ChatBox4、ChatBox集成DeepSeek; 二、领取体验版DeepSeek-v3-32k领取DeepSeek 200w免费Token,开启DeepSeek开发之旅。我们可以 登录Mass 或者在控制台搜索ModelArts,选择AI开发平台 ModelArts 进行后,选择总览下方的ModelArts Studio 。进入ModelArts后,点击ModelArts Studio进入,进入ModelArts Studio后,选择区域为《西南-贵阳一》,点击《模型推理》下方的《在线推理》,点击《免费服务》就可以领取对应的DeepSeek,可以免费领取200万tokens。领取后就可以直接点击右方《在线体验》开始体验了。对于通过API调用,我们则需要点击右侧的《调用说明》,进入API调用说明。在调用说明上详细介绍了调用的API地址及相关的sdk 。这里我们需要注意的是,在调用API的时候必须要有一个唯一的API Key ,所以我们点击《API key管理》去创建一个key。注意:API Key仅会在新建后显示一次,请及时复制并妥善保存,若API Key丢失,请新建API Key。三、领取华为开发者空间我们进入华为云开发者官网,登录过后,点击右侧的《开发者空间》进入。在开发者空间首页《热门服务》有一个关于开发者云主机的入口。点击立即体验,按流程即可领取成功开发者云主机。 四、配置云主机服务点击《配置云主机》,选择CPU架构《X86》 规格《默认》 操作系统《Ubuntu》系统镜像《公共镜像》,点击《安装》,即可配置完成云主机。配置完成后,点击《进入桌面》五、安装ChatBoxChatBox 是一款开源的客户端软件,主要用于与生成式 AI 模型进行交互。通过ChatBox我们可以通过可视化方式搭建Agent.在云主机,点击火狐浏览器,搜索Chatboxai官网进入,点击“下载“按钮进入下载有几个,选择64-bit(注意云主机是X86的)开始下载软件安装包。我们下载64-bit类型镜像文件,目前文件大小在100M左右,下载期间我们先安装好其他的依赖包。打开终端,安装libfuse.so.2库:sudo apt install libfuse2在下载目录,打开终端,开始Chatbox安装服务执行添加权限命令和启动命令,注意这里的chatbox包需要以自己下载的版本。sudo chmod +x Chatbox-1.11.5-x86_64.AppImage ./Chatbox-1.11.5-x86_64.AppImage运行成功后,会自动弹出运行页面点击《使用自己的API Key或本地模型》,选择《DeepSeek API》,名称:自定义一个API域名:在Mass服务中的《调用说明》-《接口信息》-《api地址》 。注意这里的地址要去除V1后的API路径:不用动API秘钥:在Mass服务中的《调用说明》- 《API Key管理》创建的秘钥模型:在Mass服务中的《调用说明》-《接口信息》-《模型名称》配置完成后,点击《保存》即可保存成功后,即可开始进行对话沟通。一个自定义的AI助手就搭建完成了。六、创建自己的Agent点击《我的搭档》-《创建新的AI搭档》 进入创建阶段输入《搭档名称》,《人物设定》《头像》,点击保存即可创建一个自定义Agent。我们以一个数学大师为例,创建成功后,我们问它:1+1为什么等于2? Agent也完美的回答了结果。至此我们通过Mass服务 + 云主机 完美的搭建了一个自定义的工具,这是属于我们自己独有的工具。 我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践https://bbs.huaweicloud.com/forum/thread-0218176004967264062-1-1.html
-
原来使用的是Deepseek-V3模型,后来收到短信说需要升级,原来的大模型找不到了,重新部署了新的模型,更换了相关参数,但对话时出现如下错误:File "/home/developer/IDEProjects/study_01/venv/lib/python3.12/site-packages/openai/_base_client.py", line 1023, in _request raise self._make_status_error_from_response(err.response) from Noneopenai.APIStatusError: <!DOCTYPE html><html style="height:100%;width:100%"><head><meta http-equiv="Content-Type" content="text/html; charset=utf-8" /><meta http-equiv="Server" content="CloudWAF" /><title id="title">访问被拦截!</title></head><body onload="bindall()" style="height:100%;width:100%;margin:0px;font-family:Microsoft yahei"><div><style type="text/css"> .select {float: right;margin: 10px 20px 0 0;height: 32px;line-height: 20px;font-size: 14px;width: 80px;}</style><select class="select" name="language" onchange="changeLanguage(this.options[this.options.selectedIndex].value)"><option id="option-zh" onclick="changeLanguageZh()" value="zh">中文</option><option id="option-en" onclick="changeLanguageEn()" value="en">English</option></select><div style="clear: both;"></div></div><div style="min-height:13.125rem;width:100%"><div style="margin-top:3.75rem;margin-left:18.4375rem;height:52.38;width:83.04%;"><svg xmlns="http://www.w3.org/2000/svg" style="width: 3.125rem;height: 3.125rem" viewBox="0 0 50 50"><path fill="#e84e4c" d="M25,0A25,25,0,1,0,50,25,25,25,0,0,0,25,0Zm1.6,37.16H22.85V33.41H26.6Zm0-6.63H22.85L22.35,13H27.1Z"/></svg><font style="font-family:MicrosoftYaHei;font-size:4.375rem;color:#e94d4c;margin-left: 0.75rem;font-weight: bold;">418</font></div><div style="margin-left:18.4375rem;height:47.62%;width:83.04%;"><font id="a" style="font-family:MicrosoftYaHei;font-size:1.875rem;color:#999999;word-wrap:break-word;">您的请求疑似攻击行为!</font><p style="font-family:MicrosoftYaHei;font-size:0.9rem;color:#999999;word-wrap:break-word;"><span id="c">事件ID:</span><span style="color:#499df2" id="d">30-inst-242-20250327105617-71977b77</span></p></div></div><div style="height:15.625rem;width:100%;min-width:105rem;"><div style="margin-left:18.4375rem;float:left;width:50rem"><p id="b" style="margin-top:10px">如果您是站长,您可以前往WAF控制台进行误报屏蔽设置,让您的访问不再被拦截</p></div></div></body><script>function changeLanguage(value) {if (value === 'zh') {changeLanguageZh();} else if (value === 'en') {changeLanguageEn();} else {changeLanguageZh();}}function changeLanguageZh() {document.getElementById("title").innerHTML = "访问被拦截!";document.getElementById("a").innerHTML = "您的请求疑似攻击行为!";document.getElementById("b").innerHTML = "如果您是站长,您可以前往WAF控制台进行误报屏蔽设置,让您的访问不再被拦截";document.getElementById("c").innerHTML = "事件ID:";}function changeLanguageEn() {document.getElementById("title").innerHTML = "The access is blocked.";document.getElementById("a").innerHTML = "Sorry, your request has been intercepted because it appears to be an attack.";document.getElementById("b").innerHTML = "If you are the webmaster, configure related parameters on the WAF console to allow your requests.";document.getElementById("c").innerHTML = "Event ID:";}var language = navigator.language || navigator.browserLanguage;var re_zh = /^zh/;if (language.match(re_zh)) {changeLanguageZh();document.getElementById("option-zh").setAttribute("selected", true);} else {changeLanguageEn();document.getElementById("option-en").setAttribute("selected", true);}</script></html>
-
引言在人工智能技术飞速发展的今天,大模型已成为推动教学创新的重要工具。华为云ModelArts Studio作为一个强大的人工智能平台,为开发者提供了快速部署和应用大模型服务的能力。然而,对于应用型大学的学生,尤其是来自人文专业的同学,技术门槛仍然存在。本文将通过华为云身份验证服务IAM(Identity and Access Management),帮助学生使用教师的ModelArts Studio平台(MaaS - Model-As-A-Service),仅需几个简单的页面操作,即可实现一站式快速部署DeepSeek大模型。这一过程旨在让没有工程背景的文科生也能轻松体验大模型的魅力。准备工作在开始之前,我们需要完成一些简单的准备工作。首先,确保教师的华为云账号已开通ModelArts Studio服务。随后,配置IAM账号的用户和安全组权限,确保其能够访问和使用ModelArts Studio的全部功能。学生只需使用教师配置好的IAM账号登录,并按照教师的指导进行简单设置,即可开始体验DeepSeek大模型的强大功能。配置IAM账号包括创建IAM账号的用户和安全组,再授予相应权限:1) 建立IAM用户和用户组(基本功能,省略介绍),仅授权ReadOnlyAccess。2) 配置Model Arts委托授权:请参阅华为文档 cid:link_0ModelArts提供了添加授权功能,用户可以在ModelArts Standard的权限管理功能中,快速完成委托授权,由ModelArts为用户自动创建委托并配置到ModelArts服务中。ModelArts Standard的权限配置支持普通模式和高权限模式两种方式。· 普通模式:普通模式下,用户可以基于使用的具体业务场景,自由定制授权范围,确保最小范围授权,授权方式灵活安全。适用于对授权范围有严格要求的场景。· 高权限模式:高权限模式配置简单,但创建的委托权限比较大,适用于有管理员权限需求的用户。如果需要对委托授权的权限范围进行精确控制,建议使用普通模式。笔者应用ModelArts提供的添加授权功能,默认增加了modelarts_policy_reqoiq, modelarts_policy_960cz7, modelarts_policy_b7gumw, modelarts_policy_aecv0r权限。 登录ModelArts Studio控制台1) 使用华为云IAM账号登录(省略)。2) 选择“ModelArts Studio大模型既服务平台”(红色圈): 3) 访问ModelArts Studio:在华为云控制台中,找到ModelArts Studio服务,点击“进入控制台”: 部署DeepSeek大模型服务在ModelArts Studio中,我们可以轻松地部署DeepSeek大模型服务。1) 在ModelArts Studio的导航栏中,点击“模型体验”下的“文本对话”:2) 进入模型体验中心,点击“立即选择” 3) 选择“免费服务” 4) 截至2025年3月24日(讲座演示日),华为云提供了2个DeepSeek 模型版本, 既DeepSeek-V3-32K 和 DeepSeek-R1-32K:5) 选择其一,确定! Well Done! 就可以开始体验模型对话了。推荐同学相互选择,相互对比 约束与限制按照华为云“配置Model Arts委托授权”文档说明,关于“华为云账号”配置:只有华为云账号可以使用委托授权,可以为当前账号授权,也可以为当前账号下的所有IAM用户授权。多个IAM用户或账号,可使用同一个委托。一个账号下,最多可创建100个委托。总结与展望通过华为云IAM账号登录ModelArts Studio,我们成功实现了教学场景中的一站式快速部署DeepSeek大模型服务。这一过程不仅简化了教学资源的部署和管理,还显著提升了教学效率和效果。更重要的是,它为没有工程背景的文科学生提供了一个直观的窗口,让他们能够亲身体验人工智能大模型的部署与运行,感受其容量、速度和性能等方面的实际表现,从而更深入地理解工程技术的魅力。
-
引言deepseek-r1开源标志着普惠AI时代的到来,中小企业接入DeepSeek最安全、实惠的方式就是搭建本地知识库。本文针对企业日常项目管理中相关人员工作繁忙,项目进度跟进不及时等现状,使用DeepSeek+RAGFlow搭建项目管理知识库,用户只需要把对合同文本,往来文件上传到知识库中,系统就会智能分析项目里程碑,现状等等实现智能管理。选用RAGFlow是因为它有以下几个功能点:整合了知识图谱,0.72版本后可以直接针对文件作知识图谱切割,带来了更准确检索知识的可能。但使用知识图谱切分会消耗大量token,本经适员验证半天就花了100万有多token。智能体自带编排功能带来处理复杂场景的能力。Python API为有开发知识的人带来对知识作更准确切片的手段。知识库,智能体可通过HTTP API访问,很方便就可以嵌入其它系统。一、环境搭建1.1 准备云服务器RAGFlow最低需要50G硬盘空间,开发平台准备的免费云桌面为40G,且是ARM环境RAGFlow无构建好的docker镜像。本经济适用男头铁就想白嫖,自己在云桌面上部署了半天最终还是碰到空间不足只能作罢。换个思路参与共创领代金券继续免费学习。配置:竞价计费 8vCPUs + 32GiB + 80G硬盘, 系统Ubuntu 2024,带宽选按带宽计费5M(用流量配置个环境,下载docker都20G+,作测试时可以再调为1M,主打就算代金券也要省),这样配置下来0.7左右一小时,不关机都够测5天。至于我?当然随手关机,代金券有效期可是一年。云主机购买好后到安全组里配置80端口放行你自己的公网ip,RAGFlow安装好后是要通过80端口访问页面的。 登入到云主机后更新,安装docker一条龙apt upgrade -yapt install docker.io -yapt install docker-compose -y要注意华为apt源力的docker compose版本低,需要自己升级,那为什么要先apt装一下,还不是为了环境么,它都配置好可以偷懒了。wget https://bgithub.xyz/docker/compose/releases/download/v2.34.0/docker-compose-linux-x86_64 -O docker-composemv ./docker-compose /usr/bin/chmod +x /usr/bin/docker-compose上面路径是按默认路径,如果你是其它环境可以自己whereis查下docker-compose所在目录,把mv 后的目的路径替换为你自己的路径即可。github因为dns污染经常抽风,这里跟后面要用得到的都是直接用bgithub.xyz。二、RAGFlow安装2.1 修改docker源这里我们可以到控制台里,搜索容器镜像服务->左边镜像中心->右边点击镜像加速器,获取华为镜像地址 修改docker源为华为加速地址。vi /etc/docker/daemon.json,在vi里加如以下内容{ "registry-mirrors": [ "https://替换为上面华为镜像加速地址" ]}按"esc",:wq保存并退出,重启docker使得镜像配置生效systemctl restart docker2.2 克隆RAGFlow库git clone https://bgithub.xyz/infiniflow/ragflow.gitcd ragflow/docker发帖时最新版本为0.17.2,但该版本有时在解析文件时大概率会一直在排队状态,nightly版本已经修复该bug,所以我们使用nightly,git checkout -f nightly修改配置.env文件,按/image搜索到镜像设置,我们要嵌入模型的,将slim那行注释掉启用下面,并修改:V0.17.2为:nightly 使用docker-compose下载镜像并启动ragflow前,你多半会跟我一样在下载minio时太慢而失败,我们先用华为镜像下载,然后设置为别名quay.io即可docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Zdocker tag swr.cn-north-4.myhuaweicloud.com/ddn-k8s/quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z quay.io/minio/minio:RELEASE.2023-12-20T01-00-02Z然后再启用RAGFlow,这里会下载10个多G的镜像文件,在等待时可以去作后续步骤获取华为云免费token等等。docker-compose up -d2.3 申请华为云免费token登录华为云 MAAS,进入贵阳一区域的MaaS控制台,然后点击控制台左侧“模型推理”,点击右侧的“免费服务”,找到想要使用的DeepSeek版本后点击“领取额度”, 领取后点击“调用说明”,选到"OpenAI SDK", 将API地址,模型名称都复制下来,后面RAGFlow中设置大模型提供商时需要填写这些信息。 2.4 申请API Key大模型外部调用需要提供API Key,需要先申请API Key。还是在ModelArts Studio界面中左边找到最下面“API Key管理”,右边点击“创建API Key”,按照你喜好填入标签,描述->“确定”即可, 同样把生成的API Key复制下来,之后我们在RAGFlow中需要填入。 三、RAGFlow配置3.1 访问我们部署的RAGFlow页面当docker-compose启动完成后,打开浏览器访问我们购买的云服务器网址即可进入RAGFlow界面,如果你输入网址后打不开,确认下有没有按1.1所说的在安全组中放行你的ip访问80端口。在初始页面中输入Email,Password。点击“sign in”,系统会自动为你创建管理员帐号。进入主界面后右上方语言切换为中文。 3.2 配置RAGFlow模型提供商点击左右侧头像->左侧“模型提供商”,从右边待添加模型里找到“OpenAI-API-Compatible”模型点击添加 “模型类型”选择chat,模型名称"DeepSeek-R1",把2.3步中保存的对应信息填入基础Url,API-KEY中。 确定后RAGFlow会测试链接,连接成功后会出现在页面上方的”添加了的模型“里。重复上述步骤把"DeepSeek-V3"模型、其它地方申请的模型、本地部署的大模型都添加进去,后续编排智能体的时,就可以根据具体场景设置调用不同的大模型。 添加完成模型后还有一步设置默认模型提供商,点击最上面“系统模型设置”,RAGFlow拆分知识图谱需要用到有推理能力的大模型,所以这里我们选DeepSeek-R1模型,嵌入模型选BAAI/bge-large-zh-v1.5,我们没用到图片、语音识别下面的几个模型可以不填。 四、项目管理知识库准备及测试4.1 知识库配置前面一系列配置完成后,就可以添加知识库了。在新建知识库前,我们先准备一些文件,见附件的“项目模拟文件.zip”,模拟项目立项,项目支付,项目研发等等信息。准备好文件后回到RAGFlow页面,点击“知识库”,再点击“新建知识库”,名字按喜好取,比如我取的“项目管理原型”。主要的配置如下嵌入模型:BAAI/bge-large-zh。切片方法:General。打开提取知识图谱,实体类型设计如下:项目,日期,里程碑,组织,订单,预算,金额(本来数字类型数据在知识图谱里一般不设置为实体,我们这里只是验证原型所以忽略,实际使用时可以通过RAGFlow的组件去业务系统中获取更准确的数字),为提高检索准确,实体归一化,社区报告生成,都选上(注意确实会消耗大量大量的token)4.2 上传知识库,并解析出知识图谱。将附件的文件上传到知识库中,全选后点解析,RAGFlow会自动提取资料的知识图谱,时间会持续至少30分钟,等有文件解析成功后左边会出现“知识图谱”选项,点击就可以看到RAGFlow自动生成的图谱图示,如下图。需要注意的是因为GrapRAG里提取实体跟关系是英文提示词,社区摘要有时候会是一串英文。如果要投入正式使用还得自己作更多的测试修改为中文提示词。 4.3 测试项目管理知识图谱解析完成后,就可以测试我们的项目管理原型是否能满足要求。点击最上方“聊天”-“新建助理”,作如下配置助理设置:知识库选择上面我们建立的知识库"项目管理原型"提示引擎:对默认的提示词作进一步修改,增加“#项目按照项目立项时间排序,回答给定项目的相关内容。算不是实际支出,只有支付的才是实际支出”提示引擎里的使用知识图谱可以切换测试,看看使用知识图谱跟不使用知识图谱的对比效果模型:选择DeepSeek-R1测试用例:”2025年项目总共支出了多少“,不启用知识图谱时,回答知识库中无2025年总共支出,或者只回答奶茶项目支出了10万,这就是默认知识库中,信息重叠时,只取TopN造成的毛病。 启用知识图谱时,回答会耗时更多,后台看是首先用大模型对问题生成知识图谱查询,然后把查询结果再给模型完善回答。 五、 制作智能体机器人上面测试我们可以发现,为实现不同问题需要定制不同的提示词,或者有些多跳的问题需要使用知识图谱,简单的问题直接使用RAG问答就行。为给用户更好的使用体验,可以通过智能体机器人,对用户问题作分析然后按不同问题调用不同的流程做回答。点击页面上方"agent"->“创建agent”,使用空白模板。我们要实现一个可以执行多个功能的项目管理智能体,要用到如下组件。问题分类:判断用户问题类型,然后调用不同的模型作回答知识检索:针对用户问题检索知识库内容生成回答:将检索内容作为上下文,让大模型作智能回答首先拖入“对话”,“问题分类”两个组件,设置好流程,如下图 点中问题分类,第一步需要设置输入,我们直接应用对话_0,第二部选择作分类的大模型,因为分类不需要推理能力为了响应速度我们选DeepSeek-V3,最后点击新增分类,填写名称,描述以及例子,其中例子是最重要的分类依据。大模型根据分类例子判断分类这里添加以下三种问题分类,你也可以按实际情况自己发挥项目现状:描述,项目情况类问题。示例,奥美项目当前情况?奶茶项目推进如何?项目成本:描述,项目支出类问题。示例,奥美预算多少? 2025年项目支出多少?奶茶推进项目超预算了么?项目总结:描述:汇报类问题。 示例,生成奥美项目的项目月结。 生成奶茶推进项目月结。 有了问题分类,就可以针对不同类型问题作不同的检索,比如简单的问题直接检索知识库,复杂的问题按知识库检索,甚至更复杂的问题可以再让DeepSeek把问题拆分为一系列小问题,使用循环组件分别解决小问题后再汇总回答,这里主要作原型测试,所以不展开。我们直接简单按3个分类作3中不同的检索,从左边拉出3个知识检索,配置好执行箭头, 每个检索的配置里”输入“统一都选择“对话_0",”知识库选择“项目管理原型”,是否启用知识图谱,根据分类的复杂程度配置, 这里设置“项目成本”启用知识图谱。 再拖拉3个生成回答对应3个知识检索,表示用相同或者不同的大模型去回答对应问题,3个回答的提示词简单设计如下 生成回答_0:模型选择DeepSeeK-V3。提示词:根据{input},总结项目当前里程碑,并简单分析下当前项目。注意:只回答问到的项目的相关内容生成回答_1:模型选择DeepSeek-R1。提示词:请总结段落{input}。注意数字,不要胡编乱造。生成回答_2:模型选择DeepSeek-R1。提示词:根据{input}。生成项目总结。总结里要提到项目已完成里程碑,当前里程碑,预算,实际支出。当前重点关注点 到此,一个简单的智能体搭建完成。我们可以点击“运行”测试新建的智能体。 输入问题“奥美项目现状”, 如下图可以看到智能体正确的按“项目现状”分类->“知识检索_0”->"生成回答_0"流程执行,并回答了奥美项目现状。可以再多问几个问题测试下,比如“奥美注射液小试阶段付钱了么?”,“奶茶推进项目月结”,都能按最初分类并回答,大家可以自行测试这里就不贴图了六、感想展望以上我们用DeepSeek+AGFlow搭建了项目管理的雏形。对于信息类的检索已经能满足使用,但对于稍微复杂点的统计、对比类问题还不是很满意。比如多跳类问题“第二个项目已经支付了多少钱”查看知识图谱的检索结果还是会带多个项目,能正确回答是因为作测试的知识库里项目数量少每次都把所有项目直接提供给DeepSeek-R1,或多或少的依赖R1推理能力推理出结果。当知道问题只针对一个项目把知识检索的TopN设置为1,2这类小数值时,回答就经常不是正确的项目。一方面因为使用的GraphRAG里提示词为英文编写,另外一方面使用ES作为知识图谱的存储也不太方便技术人员,如果能存储到Neoj4之类的外部知识图谱数据库中,就可以使用外部查询的方式来获得更准确结果。使用知识图谱的查询耗时太久,影响用户体验,从日志看是使用推理对于企业应用特别是项目管理来说知识图谱的实体,属性,关系相对确认,只要提示词给了足够详细用不带推理的DeepSeek-V3,甚至QWQ-32B模型也一样作正确查询。另外DeepSeek-R1目前函数调用还在完善,希望在R2版本时能完善该功能。同时RAGFlow早日增加对MCP支持,这两项完善后技术背景的人员会有更多手段实现更准确的智能体应用。 我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践cid:link_1
-
案例介绍本案例指导开发者通过开发者空间提供的云主机,使用开源Kotaemon的RAG UI框架,调用ModelArts Studio 大模型平台的DeepSeek-V3-32K模型,构建私人知识库。案例内容1 概述1.1 背景介绍ModelArts Studio作为一款先进的大模型即服务平台,集成了高效便捷的模型开发工具链,支持企业对大模型进行深度定制开发,实现模型应用与业务系统的深度融合,从而显著降低企业AI技术的落地成本与实施难度,助力企业快速实现智能化转型。如今,知识库已成为企业和个人提升工作效率、积累知识资产的重要工具。传统知识库存在构建成本高、维护困难、检索效率低等问题。本案例利用Kotaemon框架和ModelArts Studio提供的DeepSeek-V3-32K模型,构建一个高效、便捷、可定制的本地/私人知识库,方便开发者检索各种场景的文档,提高工作效率。有下列应用场景:开发者文档检索: 开发者可以快速检索 API 文档、代码示例、技术博客等,提高开发效率;企业内部知识管理: 企业可以构建内部知识库,方便员工共享和检索知识,提升团队协作效率;个人知识积累: 个人可以利用知识库管理学习笔记、项目资料等,构建个人知识体系。1.2 适用对象企业个人开发者高校学生1.3 案例时间本案例总时长预计60分钟。1.4 案例流程说明:① 用户使用登录开发者空间并配置云主机;② 用户提供Firefox浏览器在ModelArts Studio平台中领取DeepSeek-V3-32K模型;③ 使用docker部署Kotaemon框架④ Kotaemon调用ModelArts Studio平台中的DeepSeek-V3-32K API模型;⑤ 用户在Firefox浏览器中构建AI知识库并对其进行聊天。1.5 资源总览本案例预计花费总计0元。资源名称规格单价(元)时长(分钟)开发者空间2vCPUs | 4GB X86 |Ubuntu 22.04 Server定制版0602 资源与开发环境准备2.1 配置云主机首先登录开发者空间,登录后页面如下:点击配置云主机,按如下规格进行云主机配置。云主机名称:我的云主机/自定义CPU架构:X86规格:2 vCPUs 4 GB操作系统:Ubuntu系统镜像:公共镜像 Ubuntu 22.04 Server定制版确认以上配置正确,点击安装,进行云主机操作系统安装。安装完毕之后,点击进入桌面。环境准备中,大约需要3-5分钟,请您耐心等待…进入桌面后的默认效果如下:2.2 领取DeepSeek-V3-32K模型在云主机桌面底部菜单栏,点击打开火狐浏览器:用Firefox浏览器访问ModelArts Studio首页, 点击ModelArts Studio控制台,跳转到登录界面,按照提示登录,即可进入ModelArts Studio控制台:签署免责声明:进入ModelArts Studio控制台首页,在左侧菜单栏,选择模型推理中的在线推理,在免费服务中选择DeepSeek-V3-32K(NEW)模型,点击领取,领取200万免费token。3 安装并配置Kotaemon3.1 Kotaemon安装Kotaemon 是一个开源的、简洁且高度可定制的 RAG(Retrieval-Augmented Generation,检索增强生成)用户界面,专门设计用于与您的文档进行对话。无论是普通用户还是开发者,Kotaemon 都旨在提供一种直观、灵活且高效的方式来管理和交互您的文档内容。它不仅仅是一个简单的聊天工具,更是一个集成了先进 AI 技术的智能文档助手,能够帮助用户快速检索、理解和生成与文档相关的信息。项目地址:cid:link_4本次通过docker安装Kotaemon。首先先安装docker:参考文档:cid:link_1登录开发者空间云主机,更新软件包列表。sudo apt-get update安装Docker所需依赖包。sudo apt-get -y install ca-certificates curl创建/etc/apt/keyrings目录,并下载Docker的官方GPG密钥到该目录。sudo install -m 0755 -d /etc/apt/keyringssudo curl -fsSL https://mirrors.huaweicloud.com/docker-ce/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.ascsudo chmod a+r /etc/apt/keyrings/docker.asc将Docker仓库添加到系统的软件源列表。echo \ "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://mirrors.huaweicloud.com/docker-ce/linux/ubuntu \ $(. /etc/os-release && echo "$VERSION_CODENAME") stable" | \ sudo tee /etc/apt/sources.list.d/docker.list > /dev/null更新软件包列表。sudo apt-get update安装并运行Docker。sudo apt-get install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-pluginsudo systemctl start docker设置以非 root 用户身份管理 Docker#由于云主机默认的用户是developer非root用户,需要设置以非 root 用户身份管理 Docker#创建组dockersudo groupadd docker#将您的用户添加到组dockersudo usermod -aG docker $USER重启云主机回到工作台,点击重启按钮,云主机会自动重启或者您还可以运行以下命令来激活对组的更改:newgrp docker下面的命令是设置 Docker 在系统启动时自动启动。sudo systemctl enable docker查看docker版本信息。docker -v回显如下类似信息,表示Docker安装成功。Docker到此已经安装完毕。接下来通过Docker安装Kotaemon,命令如下:docker run \-e GRADIO_SERVER_NAME=0.0.0.0 \-e GRADIO_SERVER_PORT=7860 \-v ./ktem_app_data:/app/ktem_app_data \-p 7860:7860 -it \ghcr.nju.edu.cn/cinnamon/kotaemon:main-ollama正在安装Kotaemon中:稍等几分钟,下面是安装依赖的日志:继续等待依赖安装完成,下面是安装成功且运行的截图:3.2 登录Kotaemon首页我们在浏览器输入链接:http://localhost:7860发现加载出了首页:默认的Username和Password均为 admin我们输入上述Username和Password,点击登录:登录成功:3.3 在华为云Maas上获取DeepSeek-V3-32K(NEW)模型api接口首先我们要先配置DeepSeek-V3-32K(NEW)模型api接口:我们打开ModelArts Studio中API Key管理的链接:https://console.huaweicloud.com/modelarts/?locale=zh-cn®ion=cn-southwest-2#/model-studio/authmanage点击创建API Key:在标签中填入:Kotaemon描述中填入:开发者空间的Kotaemon当然上述标签和描述的内容可以自定义:创建成功:我们在页面上也可以看到创建成功:注意:API Key仅会在新建后显示一次,请及时复制并妥善保存,若API Key丢失,请新建API Key。我们接着查看在线推理中DeepSeek-V3-32K(NEW)模型api接口信息:查看调用信息,要点击OpenAI SDK按钮:我们成功得到了DeepSeek-V3-32K(NEW)模型接口信息。3.4 配置Kotaemon我们回到开发者空间云主机的火狐浏览器,在Kotaemon登录成功的页面中,首先点击Resources 按钮:点击LLMs按钮:我们在LLMs中先配置DeepSeek-V3-32K(NEW)模型接口,点击Add按钮添加模型供应商:出现下面界面:缩小页面,可以看到全部配置信息:LLM name选项就是需要显示的模型供应商的模型(自定义),本案例设置为华为云下面继续设置LLM vendors,我们这里必须选择ChatOpenAI最后的选项Specification用于配置模型的接口信息这里默认只给出了api_key和model,因为这里默认是OpenAI来提供模型,所以我们需要手动添加base_url指定模型的接口地址,注意:这里添加base_url,不能直接在api_key:null行最后通过换行,来添加一行,需要按住shift+enter 才能添加新的一行。我们将之前得到的Api key、API地址、模型名称填入选项中:我们已经填好信息,把下面的Set default 设置为默认模型勾选一下(1),点击添加模型(2):浏览器的右上角会出现添加成功的消息:我们点击View视图查看添加的模型:发现已经成功添加华为云为默认的LLMs:我们点击华为云,测试DeepSeek-V3模型是否连接正常:在Test connection中点击Test:测试发现,- Connection success. Got response: Hello! How can I assist you today? 以及右上角会显示infoLLM 华为云 connect successfully说明连接华为云成功注意:如果出现- Connection failed. Got error: Error code: 400 - {'error_code': 'ModelArts.4905', 'error_msg': 'Failed to check the authorization request header. '}说明api_key配置错误.请检查api_key是否填写正确。如果出现- Connection failed. Got error: Error code: 404 - {'detail': 'Not Found'}说明API地址 base_url 配置错误,需要配置正确的地址如果出现- Connection failed. Got error: Error code: 404 - {'object': 'error', 'message': 'The model `deepseek-V3` does not exist.', 'type': 'NotFoundError', 'param': None, 'code': 404}说明模型名称model配置错误,需要将名称配置为:DeepSeek-V3最后我们要保存配置:浏览器右上角会显示保存成功:接下来我们配置Embeddings 嵌入式模型:我们这里docker镜像采用了Ollama 捆绑包,所以使用容器内ollama提供嵌入式模型:nomic-embed-text我们勾选使用ollama为默认的嵌入式模型,然后测试其模型:点击Test:出现连接成功的提示:最后,要保存配置:右上角显示保存成功:最后检查LLMs和Embeddings是否配置正确:下面设置其他选项:首先点击Settings按钮,然后点击Retrieval settings:我们修改1个选项,将LLM for relevant scoring修改为默认:然后点击保存设置: 4 使用Kotaemon搭建本地AI知识库然后我们点击Chat回到首页:我们可以上传我们的个人笔记、知识文档,点击Files按钮,上传pdf文件:上传完成后,正在为文件创建索引:这里创建索引的时间是根据文件的大小和嵌入式模型的响应速度决定的,文件过大,创建索引时间可能过长。下面是文件创建索引成功:点击这个文件:上述文件已经加入我们的知识库了点击Chat按钮,返回首页我们先选中文件,点击Search In File(s):选择文件:首页我们要设置AI回答的语言为中文,点击下方红色方框的小按钮:点击Language下方的按钮:选择中文Chinese:选择完成后:我们可以对这个文件进行提问了:第一个问题:总结这个文件回答的不错这里由于开发者空间自带的firefox的版本太低,无法显示思维导图因此使用chrome浏览器。首先安装下载Google Chrome 的安装包:wget https://dl.google.com/linux/direct/google-chrome-stable_current_amd64.deb然后安装Google Chromesudo dpkg -i google-chrome-stable_current_amd64.deb查看是否安装成功:dpkg -l | grep google-chrome然后点击首页的左下角的所有应用程序按钮:然后点击运行程序:点击向下的箭头:选择chrome浏览器,启动即可:输入链接:http://localhost:7860/填入默认的Username和Password (均为admin)选择刚才的发现思维导图成功显示:点击Export按钮,可以在新窗口查看思维导图:打开了新窗口:点击Preview按钮,可以预览源文件可以浏览源文件:我们的AI知识库的搭建就完成了!5 总结与展望本次使用的Kotaemon的开源框架中关于RAG的一小部分应用,还有许多其他功能,开发者可以参考下面开源地址链接进行指导:Kotaemon项目地址:cid:link_4华为云Maas提供的DeepSeek-V3-32K模型响应速度挺快,虽然仅仅是体验,后续马上也要开通商用按量服务,应该速度更快! 我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践https://bbs.huaweicloud.com/forum/thread-0218176004967264062-1-1.html
-
12月2日,华为人工智能通用人工智能大模型实训讲座暨华为云HCSD校园沙龙·南京信息工程大学成功举办!本次沙龙以“盘古辟千行,模型塑万业,AI进校园”为主题,带领南信大约300名学生近距离探索华为盘古大模型和AI开发生产线ModelArts,实践第十八届 “挑战杯”揭榜挂帅-华为云专项赛的赛题——疲劳/分神驾驶检测。活动由华为云计算技术有限公司主办,华为云EI开发者支持团队承办,南京信息工程大学协办。南京信息工程大学人工智能学院副院长李春彪和华为云盘古大模型生态经理蔡同磊应邀出席并对活动作精彩致辞。特邀嘉宾华为云EI算法工程师刘宇与高校开发者面对面,与现场近300名学生带来了深入而生动的技术分享与讨论。本次活动由人工智能学院院长助理孙文赟主持。 南京信息工程大学人工智能学院副院长李春彪代表南京信息工程大学发表了热情洋溢的欢迎辞,对华为云的技术交流与合作表示了诚挚的感谢,华为云HCSD校园沙龙走进南京信息工程大学活动有助于理论与实践相结合的教学模式的落实,使同学们更加了解现在企业更需要的人才类型,从而更好的学习理论知识,在后续学习及职场中的提升核心竞争力。 华为云盘古大模型生态经理蔡同磊重点介绍了华为在人才培养和发展方面的持续投入,强调了华为在满足当前应用需求的同时,着重培养基础人才,确保数字人才源源不断的供给。 华为云EI算法工程师刘宇老师则围绕着“大模型时代下高校开发者如何学以致用,学好AI”的主题进行了精彩演讲。他详细介绍了大模型的发展趋势,华为云盘古大模型在多领域应用中的优势;华为云全栈AI能力,可应用于全场景产品和服务,助力千行万业智能升级华为云全栈AI能力;ModelArts平台提供端到端AI开发体验及开发流程,可系统化助力开发者提升自身技术能力,真正在云上作业,懂开发会开发,做全能开发者。 在AI训练营环节,带领学生们体验了第十八届 “挑战杯”揭榜挂帅-华为云专项赛的赛题——疲劳/分神驾驶检测。他先是详细解读案例背景的真实项目需求,又对数据的采集、处理进行分析,道出了疲劳检测的原理,以及如何利用yolov7算法进行人脸/手机检测模型,实现更准确的人脸关键点检测。 本次活动的成功举办不仅展现了双方在技术交流与合作方面的密切联系,更为学生们提供了一个难得的学习与交流平台,本次活动必将成为未来校企双方技术探索与学术交流的热点之一,为进一步展教融合发展注入新的动力。
-
2024年11月30日,南京大学在仙林校区敬文学生活动中心南青报告厅隆重举行2024年学术科创月开幕式暨华为云HCSD校园沙龙活动,华为云开发者联盟产品部总裁王希海一行莅临参加,校团委书记朱翰墨,科学技术研究院副院长、人工智能学院教授詹德川,校团委副书记王维嘉等出席本次活动。现场约 120 名大赛获奖团队以及参赛经验丰富学生参加活动, DTSE 团队、AI 专家和鸿蒙专家为同学们带来了一场精彩讲座分享与实操。 南京大学团委书记朱翰墨向开幕式致词。他首先对华为公司的到来表示热烈欢迎和衷心感谢,并回顾了南大学子在2024年度“挑战杯”竞赛中取得的卓越成绩。朱书记激励广大学子要以此次学术科创月为契机,大展身手,再创佳绩,勇攀科技创新高峰。 随后,华为云开发者联盟产品部总裁王希海发表致辞。他分享了华为云在科技创新领域的最新成果和前沿理念,并表示华为云将持续助力高校学术科创发展,为学生提供更多实践机会和技术支持。 在开幕式上,南京大学还对第十四届“挑战杯”中国大学生创业计划竞赛南京大学选拔赛获奖团队进行了表彰颁奖。同时,华为云HCSD校园大使聘书也颁发给了在第十九届“挑战杯”2024年度“揭榜挂帅”专项赛中表现出色的南京大学学生团队负责人。南京大学团委学创部部长李敏发布了2024年学术科创月活动计划,详细介绍了校级层面将开展的一系列丰富多彩的学术科创活动,并鼓励同学们积极参与其中,以时不我待的精神扎实奋进,大显身手。 随着开幕式议程的圆满结束,活动进入了精彩的讲座环节。华为云DTSE开发者技术专家孙浩然带来了“开发者自己的‘云创空间’——基于FunctionGraph的Gif动图制作开发实践”的讲座,他表示,开发者空间是以开发者为对象进行2D开发者关系管理和交流、学习、实践的生态运营平台和触点,让开发者可以更好的发现和学习华为的技术和服务,开发者平台是连接服务产品部,基于服务产品部的的工具和资源,打造社区交流、学堂学习及在开发者空间低门槛的快速体验和实践。他还通过实际案例展示了云技术在创新开发中的应用。例如如何为开发者的开发旅程打造高效便捷的开发体验,开发者可以通过“最近访问”功能,轻松找到并再次使用那些钟爱的开发工具,让开发过程更加流畅。另外,为满足不同开发场景的需求,华为还为拥护提供了一系列热门开发工具,CodeArts IDE及相关插件等。此外,也提供了鲲鹏、昇腾、鸿蒙生态的开发工具资源入口,让开发者在开发过程中能够无缝对接这些生态。 华为云AI算法工程师薛明昊围绕“大模型时代下的AI开发,引领无限创新”的主题,深入剖析了大模型时代AI开发的机遇与挑战,他指出,华为云开发者认证可以有效提升开发者能力,助力数字产业人才生态发展。华为云是ICT产业的未来,也是企业数字化转型的底座,开发者是产业发展的灵魂,是业务创新的源头,是技术发展的引领者。华为云推出开发者认证以更好地服务千万开发者,真正让开发者在云上作业,懂开发会开发,与开发者共成长。培训课程赋能昇腾化改造,搭配昇腾迁移专业服务,建设核心伙伴梯队联合构建服务能力,帮助现场同学们快速构建推理、训练调优能力,为同学们提供了前沿的技术思路。 华为云开发者联盟鸿蒙布道师张泽钊在“创新引领未来,共建鸿蒙家园”的讲座中,介绍了鸿蒙系统的创新特性及发展前景。他强调,首批来自国内各行业内的头部企业的4000多个鸿蒙原生应用已经在加速开发,越来越多的开发者启动鸿蒙原生应用开发,涵盖HarmonyOS入门、进阶等各个阶段课程,并可以向同学们提供学、练、考、证一站式服务,满足学生不同阶段的学习诉求,全方位赋能开发者,助力开发者人才生态发展,经年来,已经向多个头部开发者培养与输送人才,构建职业培训和企业培训能力,持续孵化鸿蒙人才。讲座极大激发了同学们对国产操作系统的创新热情。 开幕式后南京大学与华为公司在南京大学黄大年茶思屋召开了圆桌会议,进行深入交流研讨并对于后续合作做出进一步沟通。华为在会上做了有关高校生态的介绍和汇报。会议指出,校方将联手华为,并组织相关活动,让学生亲身体验科技前沿,打造特色第二课堂。深度解读科技趋势,引领学生探索未来。双方要积极响应“科技报国,提升社会服务力量”的号召,共同打造出一系列具有影响力的响应成果案例,为科技创新和社会发展注入新的活力。面向未来,双方将携手不断探索校企共育高质量科技人才的有益实践,将秉持初心,继续深化合作,共同探索校企合作培养高质量科技人才的新模式与实践,在双方的共同努力下,为行业输送更多优秀人才。 本次南京大学2024年学术科创月开幕式暨华为云HCSD校园沙龙活动,不仅是一场知识的盛宴,更是科技创新的启航。南大学子将以第十九届“挑战杯”全国大学生课外学术科技作品竞赛和此次活动为契机,积极投身科技创新的伟大征程,为实现中华民族伟大复兴的中国梦贡献南大力量。
-
想必大家在使用deepseek时,屏幕上经常弹出“服务器繁忙”的问题吧,下面就跟我一起通过云主机部署DeepSeek,搭建自己的专属服务,和“服务器繁忙”说拜拜!~话不多说,直接开干~一、环境准备(华为云主机(基础版))1. 登录华为云“开发者空间”登录华为云开发者空间创建云主机:镜像:Ubuntu 22.04规格:2核4GB(最低配置)2. 进入云主机桌面完成云主机创建后,我们直接进入云主机桌面,如下图所示:3. 安装OllamaOllama 是一个开源工具,专为简化大型语言模型(LLMs)的本地运行、部署和管理而设计。它提供了一个易于使用的命令行界面,使开发者和研究人员能够快速下载、运行并交互多种预训练语言模型,支持不同的模型架构。无论是进行实验、开发还是教育,Ollama 都是一个强大的工具,帮助用户在本地环境中高效利用先进的语言模型技术。3.1 Open Terminal Here:在云主机桌面右键选择“Open Terminal Here”,打开命令终端窗口。3.2 安装Ollama:执行安装命令如下: curl -fsSL https://ollama.com/install.sh | sh 注意:命名先复制到云主机的剪切板,再粘贴到Terminal。如下图:4. 部署DeepSeek4.1部署:接下来我们就可以借助 Ollama 工具来部署 Deepseek 大模型,部署 deepseek-r1:1.5b 版本,执行命令如下:ollama run deepseek-r1:1.5b4.2对话:部署完成后,我们就可以与 Deepseek 大模型进行对话了,这里我简单的给大家演示下:我们可以看到,Deepseek的思考部分和回答部分都能正常的输出了,到这里我们就部署完成了,是不是超级简单?不到5分钟的时间!不过话说会在,在Terminal使用Deepseek总归不太方便,于是乎,我们生活中还是习惯用可视化的界面窗口来使用,下面我就带大家一起通过ChatBox调用Ollama 部署 DeepSeek!二、安装ChatBoxChatbox Al是一款Al客户端应用和智能助手,支持众多先进的Al模型和API,可在Windows、MacOS、Android、iOS、Linux和网页版上使用。5.1安装ChatBox:云主机使用火狐浏览器下载ChatBox: https://chatboxai.app/zh 。打开Chatboxai主页,点击“更多选项”进入到开始使用界面进行安装包下载。因为在前面我配置云主机的时候选择的是X86类型,所以我们这里下载【Linux:64-bt】:5.2赋予权限:打开下载文件所在目录,单击鼠标左键“文件”,选择打开终端命令窗口,执行以下命令给文件赋予权限。sudo chmod +x Chatbox-1.10.5-x86_64.AppImage注意:命令中的“Chatbox-1.10.5-x86_64.AppImage”以实际的文件名称为准,记得替换。5.3安装libfuse.so.2库:安装libfuse.so.2库的话,直接在命令窗口输入以下命令即可:sudo apt install libfuse25.4运行文件Chatbox:接下来我们就可以运行Chatbox咯,我们可以执行以下命令来运行:./Chatbox-1.10.5-x86_64.AppImage注意:命令中的“Chatbox-1.10.5-x86_64.AppImage”以实际的文件名称为准,记得替换。出现如下界面,就说明我们已经顺利安装和启动Chatbox了,后面就是配置的事情了。三、配置ChatBox5.5配置ChatBox参数:首次打开会看到以下选项,选择 “使用自己的API Key或本地模型(Use My Own API Key/Local Model)”:5.6选择 Ollama API:然后在新的标签页里选择 Ollama API。5.7选择 deepseek-r1:1.5b:然后在模型列表里我们会看到通过 Ollama 所部署的大模型,选择 deepseek-r1:1.5b,然后点击【保存】即可。5.8体验使用Chatbox:保存之后,就可以在对话框里与 Deepseek 大模型进行对话了!~是不是流程也超级简答!~通过Chatbox与Deepseek对话,我们也能看到使用的Token数量。至此,我们基于华为云主机部署 DeepSeek 蒸馏模型(ChatBox调用Ollama 部署 DeepSeek)的实验就完成操作了,大家也赶紧去体验吧~我正在参加【案例共创】第3期 基于华为开发者空间+DeepSeek完成AI应用构建开发最佳实践https://bbs.huaweicloud.com/forum/thread-0218176004967264062-1-1.html”
-
引言随着人工智能技术的不断发展,越来越多的企业和个人开始探索如何利用深度学习模型来提升业务效率和用户体验。下面我就详细的就“基于华为云ModelArts Studio调用DeepSeek-R1-32K模型”一.基于华为云ModelArts Studio调用DeepSeek-R1-32K模型:1.方案概览:本方案以 DeepSeek-R1-32K为例进行演示,通过华为云ModelArts Studio服务进行 DeepSeek 开源模型调用,可以根据实际需求选择其他参数规模的 DeepSeek 模型。华为云ModelArts Studio平台的 API 提供标准化接口,无需自行搭建模型服务基础设施,且具备负载均衡和自动扩缩容机制,保障 API 调用稳定性。搭配 Chatbox 可视化界面客户端,进一步简化了调用流程,无需在命令行中操作,通过图形化界面即可轻松配置和使用 DeepSeek 模型。2.方案架构:按照本方案提供的配置完成后,会在本地搭建一个如下图所示的运行环境。3.获取API-KEY:在部署本方案开始时,首先要登录华为云ModelArts Studio服务平台获取API-KEY(这里获取方法我就不赘述了,看下面截图):4.下载并使用使用Chatbox:Chatbox 客户端配置华为云ModelArts Studio平台的 API 进行对话:4.1.访问 Chatbox: (下载地址:https://chatboxai.app/zh) 下载并安装客户端,本方案以 windows 为例。4.2.下载: 点击下载按钮,选择下载目录后进行下载:4.3.安装Chatbox: 双击“Chatbox-1.9.8-Setup.exe”进行安装,注意安装路径。4.4.运行Chatbox: 安装好后直接运行Chatbox,这里我们选择**“使用自己的APl Key 或本地模型”。**4.5.进行参数配置:参数内容的来源就在华为云ModelArts Studio平台的【模型工具】模块内,这里提供了 2,000,000tokens免费额度,可以参考我下面的截图内容:4.6.测试: 完成配置后,我们就可以在输入框进行测试了,如下图:我们可看到,在Chatbox内就成功的调用了DeepSeek-R1-32K,回复的内容内也有思考的部分。4.7.拓展配置:4.7.1 我们回到Chatbox的设置配置,可以在配置内修改(增加)【模型名称】,即可调动模型的其他版本,在使用Chatbox时候仅需切换类型即可(调用的API相同,仅需增加模型名称即可),如下所示:4.7.2 我们切换回Chatbox到聊天窗口,在右下角即可进行切换模型:至此,我们整个个实验就都已经完成了操作和体验。二. 推荐理由推荐方式:基于华为云ModelArts Studio调用DeepSeek-R1-32K模型推荐理由:简单快捷:无需复杂的配置和环境搭建,几分钟内即可完成集成。高可用性:华为云提供的 API 服务具有高可靠性和低延迟,确保模型响应速度。灵活扩展:可以根据实际需求动态调整 API 请求量,适应不同规模的应用场景。个人体验:在实际项目中,我选择基于华为云ModelArts Studio调用DeepSeek-R1-32K模型的方式进行集成。这种方式不仅大大缩短了开发周期,还显著提升了系统的稳定性和性能。尤其是在处理大量并发请求时,API 服务的表现令人满意。当然,我会选择继续采用基于华为云ModelArts Studio调用DeepSeek-R1-32K模型的方式来使用 DeepSeek 模型,因为它在满足需求的同时,最大限度地降低了开发和维护成本。然而,对于一些特定的高性能需求场景,我也会考虑基于 GPU 云服务器的部署方式。我正在参加【案例共创】第2期 构建开发场景最佳实践/体验评测,创作案例文章https://bbs.huaweicloud.com/forum/thread-0225174879180881007-1-1.html”
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第三期2026/08/21 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;念擎-华为云AI开发者运营案例开发专家
本期直播内容:AI六层能力首次详细解读 + 新一代华为云开发者空间亮相 + 校园案例直播带练
回顾中
热门标签