-
作者ChatGPT 果宝 历川拥抱Serverless,释放生产力点击体验 函数工作流 FunctionGraph新一代Serverless函数计算与编排服务一、背景ChatGPT是一个基于GPT-3模型的聊天机器人,可以与用户进行自然、流畅和有趣的对话。ChatGPT可以理解和使用多种语言,如英语、中文、日语、西班牙语、法语或德语;还可以根据用户的兴趣和需求,提供相关建议和创意内容,如诗歌、故事、代码、歌词等。ChatGPT是一个强大而灵活的工具,可以用于娱乐、学习或工作。但是在国内使用ChatGPT有些不便,是否可以基于OpenAI开放的API做一个给自己或者同事们使用的聊天机器人,甚至集成到更多的场景…. 效果如下:二、方案选型说干就干,我们先从做一个自己的机器人开始,首先我们从OpenAI获取用于鉴权的秘钥。然后写一个请求OpenAI接口的代码,并写一个web服务接口开放出去,再搭配一个交互用的前端即可。看起来是1小时的工作量,但是如何部署这个服务呢? 购买一个云服务器再安装环境或者配置容器也太麻烦了,于是我问了ChatGPT:可以看到, 使用FunctionGraph只需要聚焦完成请求OpenAI接口的功能函数,不需要购买和配置资源,甚至不需要写Web接口的代码。 于是一个简单的方案如下:其中,对象存储服务OBS:用于托管前端页面FunctionGraph : 用于响应前端请求,运行代码向OpenAI发送问题API网关: 对外开放调用函数的API注:“函数” 是指客户部署在FunctionGraph上的代码,它可以是一个或多个文件组成的程序,甚至编译好的二进制文件。 如Python 脚本文件,Java的jar 包。三、开发并部署聊天应用3.1 创建FunctionGraph函数处理用户提问的请求首先创建并开发FunctionGraph函数,打开华为云FunctionGraph 产品页面,由于只有一个简单的问题查询接口,这里我们选用事件函数 使用Python 3.9 运行时。注:事件函数,可以由某类事件触发函数运行,如用户对该函数发送了HTTP请求,关联到该函数的消息队列里产生了新消息,都会自动触发函数运行。对于事件函数,通常程序入口方法(这里是 handler)会有两个参数:event 参数: 包含触发用户函数的事件的相关信息。HTTP请求也是一种事件,event里会包含请求的body header 等;context 参数: 调用平台的相关能力,如获取在函数配置里设置的加密环境变量等图:FunctionGraph 函数源码上图为本次调用的入口方法handler(),在函数中,我们:从event 里取得请求的参数 prompt调用OpenAI 的接口Python SDK,向OpenAI 发送请求, (示例里我们使用text-davinci-003模型 [1] https://platform.openai.com/docs/model-index-for-researchers#footnote-2)handler 方法中我们使用了 context 获取访问OpenAI的key(上图29行) ,获取前需要在函数上配置对应环境变量,如下图所示:图:函数配置环境变量注:示例中我们使用了OpenAI的sdk ,也可以将sdk放在函数代码里一起上传,或利用函数的依赖管理能力,通过添加依赖的方式实现:图:函数配置依赖在编辑好代码后,只需要点击部署按钮即可完成部署。3.2 创建APIG触发器来开放接口通常对于使用函数开发WEB 后端的场景,我们使用API 网关服务,来将函数开放出去供前端访问。为函数在API网关上注册API非常简单,只需要在函数页面上创建APIG触发器:注意:这里将后端超时时间设定为一个较大的时间,如60s,因为OpenAi的接口响应较慢。在北京4局点中,APIG服务有共享版,支持按需计费,若有较大的流量可以考虑购买APIG独享实例。图:为GPT函数绑定APIG触发器APIG触发器上的调用URL,可以直接用于向后端发送请求,该URL 为测试URL,每日仅可访问1000次,可以点击触发器跳转到APIG页面绑定自己的域名。3.3 托管前端页面到OBS我们准备了一个简单的前端,只需改下前端页面配置的后端地址即可。创建一个OBS 桶,上传前端文件配置OBS 桶静态文件托管,将桶访问权限设置为公共读,并在静态网站托管选项里配置默认首页,将自己的域名指向访问地址。最后,通过访问配置的域名访问页面,开始体验!至此,我们其实已经完成了整个简单聊天系统的搭建,案例中我们使用了一个简单的前端页面,开发者也可以考虑集成到如VSCode插件,语音聊天机器人,微信公众号等等。更进一步,若想使用Serverless技术,开发更为完整,适合生产环境的应用,需要添加鉴权,数据库连接等功能。 四、为后端服务增加接口鉴权以上我们已经基于FunctionGraph 函数创建了一个简易聊天系统的后端的服务,但是该接口没有任何鉴权,如果开放接口,所有用户都可以访问。如果需要用户登录后才可以使用,如何做?一个思路是在原有业务代码里增加鉴权,这里我们也可以考虑使用APIG自定义鉴权即APIG组合FunctionGraph 鉴权的形式。 一个新的解决方案,如下。4.1 创建并配置APIG自定义鉴权函数使用APIG 自定义鉴权有以下优势:提升开发效率:鉴权与业务解耦,新增逻辑只需关注业务,无需引入鉴权;鉴权代码集中而非分散在多个业务模块,更新鉴权逻辑只需要更新鉴权模块而非所有业务模块;降低成本:对于使用大规格函数进行后端服务的代码,无效请求可以直接由较小规格的鉴权函数拦截,降低大中规格资源服务的运行成本;创建鉴权函数和普通函数的创建流程一样,只需要注意响应的格式,一个使用JWT 鉴权的简单案例如下。 编辑接口,配置自定义鉴权编辑对应的API,选择自定义鉴权,选择到我们创建的函数:一个鉴权拒绝的示例如下:4.2 创建授权函数基于以上自定义鉴权模式,开发者可以组合自己已有的鉴权逻辑放到自定义鉴权函数中。如果进一步想基于FunctionGraph 创建一个 “登录” 或token授权函数,可以考虑以下方案。我们首先需要创建一个函数,该函数用于接收用户登录请求,然后去数据库请求,判断用户合法则返回鉴权token。创建授权函数创建一个普通的事件函数即可,一个简单的示例如下,随后可以为其创建APIG 触发器。 注意,如果需要函数访问VPC里的资源,如本例中的RDS,需要在函数页面配置RDS所在的VPC。五、“ChatGPT”的升级和“运维”5.1 日志与监控使用函数,系统会自动收集用户打印在控制台的日志,用户无需处理日志落盘,收集或直接上报。对于每一条请求日志,FunctionGraph 还会显示请求执行耗时,使用内存及请求状态。用户可以基于关键词,请求状态进行过滤和检索。 图:函数用户日志页面同时,平台自动收集函数运行指标,如调用次数,运行时间,错误次数,被拒绝次数,并发数等。图:函数监控5.2 版本迭代在用户更新函数代码时,为保障“ChatGPT”业务稳定运行,可以配置APIG触发器的后端服务指向函数别名:图:函数别名图:FunctionGraph别名灰度版本
-
最开始其实还是有点忐忑的 但是跟着实验指导书一起发现实验并不难,并且学到了不少东西在这里已经将index.js文件复制到了对应的窗口中,一定要注意不要复制错误了在点击测试之后,返回到日志即可查看情况,一定要刷新一下,不然可能看不了这是最后完成了,查看网页的界面,还是有点小成就感的
-
SAN存储提供给应用的是一个LUN或者是一个卷,LUN和卷是面向磁盘空间的一种组织方式,上层应用要通过FC或者ISCSI协议访问SAN。SAN存储处理的是管理磁盘的问题,适用于实时读写场景;NAS存储提供给应用的是一个文件系统或者是一个文件夹,上层应用通过NFS和CIFS协议进行访问,利用FTP+TFTP协议进行上传下载,此外,文件系统要维护一个目录树,适用于企业组织内部共享场景,提升办公效率和存储空间利用率(减少同类型数据复存)对象存储更加适合web类应用,基于URL访问地址提供一个海量的桶存储空间,能够存储各种类型的文件对象,对象存储是一个扁平架构,无需维护复杂的文件目录。无需考虑存储空间的限制,一个桶支持近乎无限大的存储空间。(适用于离线、冷数据、归档数据、作为后端存储为客户打造的离线存储系统,性价比高)
-
租户:Hi-stylhoc问题:综合安防-视频调阅板块功能调测:按调测步骤到最后一步Roma应用“Hi-stylhoc__视频标准接口”下,“获取设备列表”接口测试一直报:Authorization failed,最早相同的参数测试过一次,是正常的,今天测试一直不正常只传channel参数能正常查询,参数全传就报错,参数正确的:【日志信息】(可选,上传日志内容或者附件)
-
SMC版本:HUAWEI SMC 2.0 V600R019C10SPC600APIG版本:APIG 6.5.0.SPC100smc上配置了用户和密码安装APIG后测试接口使用postman测试,返回异常
-
创建云函数首先创建一个云函数,这里选择事件函数python3.6版本。函数创建成功后如下图所示:默认的代码:功能解释:将从函数入口传递的event变量值转为字符串并返回构造的字典 # -*- coding:utf-8 -*- import json def handler (event, context): return { "statusCode": 200, # 函数返回状态值 "isBase64Encoded": False, # 内容是否为base64编码 "body": json.dumps(event), # 函数返回主体,这里为解码后的event "headers": { # 请求的返回头字段 "Content-Type": "application/json" # 内容类型为 json类型 } }创建APIG触发器点击创建啊触发器,并选择安全认证方式为“None”,再点击确定。创建成功后即可看到调用的URL。使用工具对URL进行请求,即可得到触发函数的返回结果。
-
【功能模块】API网关功能【操作步骤&问题现象】1、API网管进行接口测试,多次访问接口,存在接口返回为空的场景,但是在live data中测试不存在;PS:确认接口返回是有数据的2、【截图信息】【日志信息】(可选,上传日志内容或者附件)
-
上午看到任务挺开心,然后页面老加载不出来,后来可以正常加载出来了,又完成不了,再等午觉睡醒,起来一看,任务没了。。。
-
网页进不去。。。加载太慢了
-
最近收到很多小伙伴在ROMA中新增应用接口或者调试基线业务的时候,最后都需要将API接口部署到API网关。部署API网关过程中,添加白名单需要用管理员权限,这时候大家就会求助平台这边处理。 那求助平台您需要写清楚以下信息,这样平台可以一次性帮忙配置好。提交申请添加API网关白名单需要信息如下1,环境说明,例如是https://studioroma.e.huawei.com/2,您的租户名称,项目名称,应用ID(或者名称),接口名称3,您的白名单IP地址,要提供全,要是您使用的公网网络IP4,提交BBS,说明您需要添加的原因,做了什么功能,干什么用
-
最近收到很多小伙伴提交申请添加API网关白名单,那么您提交申请需要准备什么呢1,环境说明,例如是https://studioroma.e.huawei.com/2,您的租户名称,项目名称,应用ID(或者名称),接口名称3,您的白名单IP地址,要提供全,要是您使用的公网网络IP4,提交BBS,说明您需要添加的原因,做了什么功能,干什么用
-
试了换北京和上海都不行,广州可以
-
新的一周了,APIG网关还是不行啊,任务做了没给豆豆
-
上周任务的时候API调试就不好用,这周直接3个任务都没反应了
-
获奖信息公布幸运奖运气男孩wolfandyAniazekelovewuvita禄仁恝ecstatic极客潇十年树木测试人员001恭喜以上开发者,之前未填写获奖信息的开发者,请与11月5日16:00前完成获奖信息填写。为保证您顺利领取活动奖品,请您提前填写奖品收货信息,如您没有填写,视为放弃奖励。收货信息请【点击此处填写】参与活动前请先报名华为全联接开发者社区活动【点击报名】活动奖励:a. 奖励一:每人获得圆梦积分10分b. 奖励二:在所有完成任务的用户中抽取10个幸运奖,奖品为华为云定制双肩包1个。活动时间:2021年9月15日~2021年10月20日 参与方式(完成任务1即可算打卡成功):任务1(必做):用户先点击【开始体验】并点击【Demo体验指导】然后按照指导完成实验,最后按照要求将实验结果截图回复至活动帖内,视为完成任务。打卡截图示例:电话归属地分析体验项目:用户首先需自行配置后端服务地址,然后将配置好的地址填写到“定义后端服务-后端服务地址”页面中。本项目仅为体验项目,不对积分有任何影响。用户先点击【开始体验】 然后按照实验说明进行体验即可。活动规则:a. 回复非示例图片,视为无效楼层。b. 本次API网关体验活动结束后,将由华为云工作人员将符合抽奖条件的用户名单导入至巨公摇号平台(https://www.jugong.wang/random-portal/)内,抽取各奖项,并截屏公示抽奖过程。如您不同意此抽奖规则,请勿参加本次活动。 Tips:1、请务必使用个人账号参与活动(IAM、企业账号等账号参与无效)。2、所有获得华为电子产品奖项的获奖用户,请于获奖后3日内完成实名认证,否则视为放弃奖励。3、收货信息填写说明:1)为保证您顺利领取活动奖品,请您提前填写奖品收货信息,如您没有填写,视为放弃奖励。收货信息请【点击此处填写】2)填写时间截至2021年11月5日16:00。3)在HC2021开发者社区系列活动中完成一次填写即可。我们最终将会按照您填写的信息发放奖励。4、活动规则请戳https://bbs.huaweicloud.com/forum/thread-154048-1-1.html其他【场景实验室】精彩体验
上滑加载中
推荐直播
-
华为云码道 × 仓颉编程:工程化AI编码探索2026/05/27 周三 19:00-21:00
刘俊杰-华为云仓颉语言专家/李炎-华为云码道技术专家/王智鹏-OpenCangjie开源社区发起人
本场直播围绕华为云仓颉语言与华为云码道的深度结合,展示华为云智能编程从零基础到高效落地的完整生态能力。以华为云码道为引擎,仓颉语言为载体,带给大家日常提效、趣味创新到极速量产的开发体验。
即将直播
热门标签