• [技术干货] DTSE Tech Talk | 第60期:构筑云原生时代的应用稳定性
    本期直播主题是《构筑云原生时代的应用稳定性》华为云aPaaS DTSE技术布道师韫欣,与开发者们交流了云原生时代的应用挑战、趋势,跟大家分享了华为云应用平台AppStage的实践经验和优秀案例,并展望了智能运维的未来。云原生时代的应用挑战和趋势在飞速发展的数字时代,云原生已经成为了许多企业的首选,它不仅提供了灵活性和可扩展性,还为应用程序的稳定性带来了全新的技术革命。企业应用上云经历了三个阶段:第一阶段应用以“设备”为中心,工程师们看到的是一台台物理服务器,软件是部署在服务器上的进程,硬件和软件相对割裂;第二阶段以资源为中心,形成了云化的资源池,大幅提升了资源的利用率和使用效率;第三阶段是从以“资源“为中心走向以“应用” 为中心的云原生阶段,与第二阶段相比,主要区别在于应用的设计和部署方式。云原生应用是指使用微服务架构对应用进行解耦拆分,并以容器形式部署,更加灵活和可扩展,能够更好地发挥公有云的优势,以应对业务的不确定性,带来更高的开发、运维和运营效率;在这个转变过程中,也会面临一系列的挑战:第一个挑战是云原生时代的技术复杂度比较高,工具非常的碎片化,比如服务的编排与调度、容器化、安全合规等各方面的工具。云原生应用设计、开发、运维过程中,对开发和运维人员的技能要求高,无形中增加了企业的开发成本,降低了开发效率;第二个挑战是大量工作消耗在工程能力构建上,开发人员真正的业务代码开发工作只占20%左右,隐形成本非常高。首先,每个应用构建都要考虑可靠性、可用性、安全、韧性、多云部署等一系列能力,存在重复造轮子的问题,造成了大量工作浪费。其次,国家、行业、企业对安全可信、技术规范等有诸多要求,缺乏统一的平台来支撑落地,每个开发人员对规范的解读不同,实现方式也会有差异,大幅降低了效率。以华为的经验,如果这些问题得以解决,30%以上的隐形工作是可以被节省的;第三个挑战是云原生时代,维护一个复杂且快速变化的系统,会面临一系列的问题,比如碎片化的运维工具、版本的迅速迭代、人工效率低且不够规范等,随着业务链路越发复杂,问题跟踪和定位会越来越困难,业务数据量的增长也会导致数据库治理的问题变得尤为突出。这一系列的运维问题需要未雨绸缪、提前规划,迫切需要云原生的运维尽快完成数智化转型。   videovideovideovideo                            华为云应用平台AppStage实践经验针对以上挑战,华为对内部云原生应用经验总结提炼后,打造了华为云应用平台AppStage产品,为客户提供了一站式智能运维平台,不仅避免了不同厂商和三方的众多运维工具拼凑的问题,并且围绕无人值守变更、故障全生命周期管理、业务稳定性治理等三大站点可靠性工程 (SRE)的工作内容,来构建自动化和智能化能力,在提高运维效率的同时,也提升了服务质量、优化了应用可靠性。● 自动化无人值守变更:帮助企业提升运维效率,减少人为错误核心理念就是基础设施即代码,将资源、配置、环境、状态等进行声明化定义,避免传统变更理解的差异,可确保任何环境、任何地点执行结果的一致性。在变更自动化的评审、执行和验证过程中,实现全流程的自动化。通过一系列的变更灰度评估以及中断回滚等保险措施,确保变更过程和结果的安全可信。部署和变更的过程完全不需要人工干预,减少了人员误操作的可能,保障了变更质量。通过这些优化,10分钟就能完成一个服务的全新部署,省去了大量的人工时间。华为内部统计,在变更工作中,故障率减少了40%,部署效率提升了30%。● 监控与故障管理:全栈可观测性和故障全生命周期管理,降低了业务从故障发生到恢复的时间,提升云原生应用整体服务质量通过对端、管、云全链路可观测能力,打通数据孤岛,将这些数据有机关联起来。通过智能化的运维底座,将资源、配置、事件、可观测数据建模管理,配合AIOps智能算法,驱动根因诊断和异常检测等运维的高阶智能化应用。通过定期业务巡检、监控告警、故障演练等活动,做到故障全生命周期管理,实现1分钟AI异常检测和故障发现,5分钟故障根因诊断定界定位,并基于预编排的故障恢复模板和微服务治理体系,实现核心业务场景10分钟故障快速恢复。 可用性与连续性管理:通过混沌工程演练,实现确定性恢复,助力可用性达到99.99%按IaaS-PaaS-SaaS分解可靠性要求,形成应用稳定性指标体系,对应用可用性进行度量与治理。构建混沌工程演练平台,提供了50多种故障演练场景,80多种故障注入的方法,来充分验证业务和应用可靠性。通过故障演练发现问题,主动提升生产环境的稳定性,做到问题的提前预防和发现。                                 videovideo● 数据库治理:WiseDBA提供可信数据库治理方案,快速诊断数据库疑难问题支持RDS、GaussDB for MySQL、GaussDB for Cassandra等多个数据库引擎的管理。可对纳管数据库进行IT化巡检和管理,针对数据库慢查询进行分级治理,建立风险评估体系。支持DBDesigner、SQL审核等正向设计,从开发阶段减少风险问题。提供数据查询、数据隐私白名单管理等能力。● FinOps:成本治理确保应用稳定的前提下,帮助企业降本增效随着业务的快速发展,企业在华为云上的各类资源消耗也相应增长,需要对各类资源的使用情况进行有效管理,管控成本。应用平台AppStage资源管理系统可构建资源台账,提供成本可视化能力,清晰展示预算、资源用量和基于预测的趋势分析。识别成本浪费和异常增长的资源类型,并进行异常实时提醒。对资源进行智能检测,为业务定期生成资源使用报告,推荐资源优化方案,同时给出成本收益分析,支撑成本优化目标,提升资源利用率。                                  video华为云应用平台AppStage案例分享● 案例一:守护终端云全球数亿用户的全场景智慧生活体验应用平台AppStage支撑了华为终端云服务11亿+华为用户和50+应用的托管和运维,助力全球业务可用性连续多年达到99.99%,持续保持优质、安全的用户体验,助力华为终端云服务活跃用户长期保持稳健增长。● 案例二:XX公司基于应用平台重构软件生产能力,成为工业软件研发领域的领头羊XX公司通过应用平台AppStage实现运维的统一入口、统一工具、统一数据,形成高效智能的运维体系,全面提升了软件工程协作效率,降低开发人员门槛,助力版本发布效率提升30%,问题定位时长降低45%,运维协作效率提升15%,维护总成本降低10%。                                     video未来展望● 运维大模型开启未来运维新时代运维大模型:利用大语言模型的自然语言理解能力、推理规划能力和任务执行能力,从五个方面对一站式智能运维赋能:  构建运维助手  帮助工程师解答日常运维工作各种问题,提升效率;  助力巡检监控  自动执行巡检任务,实时监控指标,及时发现异常;  帮助问题管理  自动探索分析日志,给出根因诊断,匹配应急方案;  提供变更方案  分析变更要求,分解任务,编写脚本,协助测试执行;  开发运维报表  自动分析运维数据,生成运维报表,支持自然语言互动调整;● 知识图谱与数字机器人融合,推动运维智能化持续发展运维知识图谱:通过将业务数据分析提炼、抽取融合,加工成运维知识图谱,并沉淀算法能力,以支撑异常检测和根因诊断等高阶运维活动。智能运维数字机器人:利用智能运维数字机器人(RPA)准确匹配恢复方案,并通过调用工具(API)做故障自愈和应急。                               video欢迎申请公测体验扫码登录华为账号,点击申请公测
  • [热门活动] 【HDC.2024】华为云开天aPaaS参会指南 ※高峰论坛、圆桌论坛、专题论坛、互动展区、开发者互动!
    ※ 资深架构师面对面交流,一起聊聊云原生应用高可用、应用智能开发扫地僧见面会 、 CodeLabs训练营(AI原生应用、智能运维)、CodeLabs训练营(数据应用)、 极客挑战赛(智能运维) 、极客挑战赛(数据应用)限量名额,先到先得~※ <开天aPaaS应用平台电子资料获取> ☟登录下载文末附件
  • [线上活动] DTT第60期直播预告 | 构筑云原生时代的应用稳定性
    在云原生的浪潮中,开发者们面临着前所未有的挑战,你是否曾因技术的复杂度和工具的碎片化而感到困惑?是否在寻找一种方法,既能应对业务的快速迭代,又能确保应用的稳定性和高效运维?6月12日16:30,DTT特别邀请到华为云aPaaS DTSE技术布道师韫欣带来丰富的运维经验分享,揭秘10亿+高并发应用如何实现高效稳定的开发和运维,无论你是云原生技术的新手,还是正在寻求优化方案的资深开发者,都将为你答疑解惑,赶快参与直播,跟我们一起探索吧!精彩看点,不容错过云原生时代的应用挑战和趋势华为云应用平台AppStage实践经验华为云应用平台AppStage案例分享未来展望看直播 赢定制礼品福利1 | 专家坐堂有奖:即日起-6月13日,在指定论坛贴提问,评选优质问题送华为云定制Polo衫。福利2 | 互动有礼:官网直播间发口令“华为云 DTSE”抽华为云云宝公仔盲盒。福利3 | 有奖提问:直播过程中提问,评选优质问题送华为云定制T恤。* 直播期间扫码入群,解锁更多隐藏福利哦~转载自:华为云开发者联盟https://mp.weixin.qq.com/s/Sx_a8TbRgWYxBFd3s9-rUw
  • [热门活动] 星火闪耀,与AI同行丨华为开发者大会2024社区活动重磅上线!
    盛夏始,万物秀,华为开发者大会2024即将开启华为云开发者社区重磅推出“星火闪耀,与AI同行”线上活动,开发者热点直播,热门产品体验,社区话题互动、技术热点投票等精彩活动等你来!参与活动即有机会赢取全套云宝公仔、定制盲盒等礼品汇聚璀璨星光,智慧与激情碰撞在这里,你将触达前沿科技、激发创新灵感,收获多元成长!点击链接,立即参与大咖阵容“加码”话题热度  云计算浪潮再度来袭AIGC、AI原生应用引擎、数据库……汇聚多位重磅嘉宾、华为布道师,且看4场直播大咖们前沿观点碰撞,共同探路云端;云计算年度热点话题盘点,聚焦前沿科技,洞察市场先机;打造独属于开发者的云端嘉年华,带大家全方位感受华为技术力量。6月12日16:30-18:00 构筑云原生时代的应用稳定性6月17日17:00-18:00 如何玩转云端文生视频?华为云AI优秀开发者来揭秘6月19日17:00-18:00 数据库邂逅企业开发,看DTSE专家三招击穿应用痛点6月25日17:00-18:00 华为云AI原生应用引擎 0代码智能构建专属个性化应用从6月12日至6月25日,每天下午17点与您不见不散。人人都能用AI 体验硬核“黑科技”海量实操内容带你深度体验华为开放能力,助力开发者创新实践,享受技术带来的无限可能       在这里,你可以用AI进行文生视频,重新定义视频创作的边界;也可以体验MindSpore大模型套件能力,10分钟部署一个聊天机器人;还可以0码开发、一键创建适合您的出行助手,轻松完成行业场景的乐趣。热门产品体验活动为大家准备了众多产品场景化体验,跟着指导文档,你也能用技术实现自己的梦想。从AI、PaaS、IoT、低代码、数据库……覆盖各技术领域,从昇腾、鲲鹏、鸿蒙等跨越4大生态,开发者可按需参与,全方位进阶王者。参与社区话题互动,云宝盲盒带回家除了上述内容外,社区还有更多HDC 2024 开发者话题互动等待您的参与,只需动动手指,云宝盲盒就可以带回家喽!【HDC 2024丨社区活动】分享您和往期HDC大会的故事,获取礼品奖励!【HDC 2024丨社区活动】票选!本次HDC大会有哪些最新成果您最期待~【HDC 2024丨社区活动】寻找我的共鸣者,获赞最多云宝带回家还有更多精彩活动等你来发掘。准备好了吗?点击链接,开启我们的代码之旅…点击链接,立即参与转载文章转载自:华为云社区 https://bbs.huaweicloud.com/blogs/428820
  • [成功案例] 运维中心守护全球10亿用户的全场景智慧生活体验
    如果你有10亿用户,你会如何满足他们对美好生活的向往?云服务A则是构建50+应用,并携手运维中心守护10亿用户的全场景智慧生活体验!快来看看,运维中心是如何做到的吧!申请公测,立即体验
  • [热门活动] 【云原生专题直播有奖提问】DTSE Tech Talk 技术直播 NO.60:看直播提问题赢华为云定制T恤、华为云定制Polo衫等好礼!
    中奖结果公示感谢各位小伙伴参与本次活动,欢迎关注华为云DTSE Tech Talk 技术直播更多活动~本次活动获奖名单如下:请于6月19日前在此问卷中反馈您的中奖邮寄信息~直播简介【直播主题】构筑云原生时代的应用稳定性【直播时间】2024年6月12日 16:30-18:00【直播专家】韫欣 华为云aPaaS DTSE技术布道师【直播简介】在云原生的浪潮中,开发者们面临着前所未有的挑战,你是否曾因技术的复杂度和工具的碎片化而感到困惑?是否在寻找一种方法,既能应对业务的快速迭代,又能确保应用的稳定性和高效运维?本期直播,我们特别邀请到华为云应用平台AppStage的高级专家带来丰富的运维经验分享,揭秘10亿+高并发应用如何实现高效稳定的开发和运维,无论你是云原生技术的新手,还是正在寻求优化方案的资深开发者,都将为你答疑解惑,赶快参与直播,跟我们一起探索吧!直播链接:cid:link_1活动介绍【互动方式】直播前您可以在本帖留下您疑惑的问题,专家会在直播时为您解答。直播后您可以继续在本帖留言,与专家互动交流。我们会在全部活动结束后对参与互动的用户进行评选。【活动时间】即日起—2024年6月13日【奖励说明】评奖规则:活动1:直播期间在直播间提出与直播内容相关的问题,对专家评选为优质问题的开发者进行奖励。奖品:华为云定制T恤活动2:在本帖提出与直播内容相关的问题,由专家在所有互动贴中选出最优问题贴的开发者进行奖励。奖品:华为云定制Polo衫​更多直播活动直播互动有礼:官网直播间发口令“华为云 DTSE”抽华为云云宝公仔盲盒等好礼。​【注意事项】1、所有参与活动的问题,如发现为复用他人内容或直播间中重复内容,则取消获奖资格。2、为保证您顺利领取活动奖品,请您在活动公示奖项后2个工作日内私信提前填写奖品收货信息,如您没有填写,视为自动放弃奖励。3、活动奖项公示时间截止2024年6月15日,如未反馈邮寄信息视为弃奖。本次活动奖品将于奖项公示后30个工作日内统一发出,请您耐心等待。4、活动期间同类子活动每个ID(同一姓名/电话/收货地址)只能获奖一次,若重复则中奖资格顺延至下一位合格开发者,仅一次顺延。5、如活动奖品出现没有库存的情况,华为云工作人员将会替换等价值的奖品,获奖者不同意此规则视为放弃奖品。6、其他事宜请参考【华为云社区常规活动规则】。
  • [技术干货] Agent 还没出圈,落地先有了“阻力”:进入平台期,智力能否独立担事?
    本文节选自InfoQ《极客有约》,应用平台AppStage——AI原生应用引擎总架构师陈星亮采访片段。AI Agent 当前的能力问:首先要谈的就是 AI Agent 现阶段的能力,大家现在是如何应用 AI Agent 的?具体落地场景有哪些?陈星亮:针对企业场景进行 AI Agent 能力创新时,多数是从 IT 场景开始的,因为该场景拥有较为完善的信息化基础。在这一过程中,我们遵循两个主要原则:一是先易后难,我们首先从普遍性场景开始,然后逐步向专业化场景演进;二是保障效果,无论开发哪种场景的 AI 应用,都必须确保其有效性。办公和编码领域被广泛认为是 AI Agent 应用的切入点,因为这些场景相对通用,容易实现。随着技术的进步,我们将 AI Agent 的应用延伸到更复杂的场景,例如:办公领域:AI Agent 可以用于自动生成会议纪要或设计文档,这些任务比简单的代码生成或文本创作更具挑战性,需要更深层次的场景理解和更高级的语言处理能力。销售或服务领域:AI Agent 可以用于合同审核或法律条文的辅助生成,这要求 AI Agent 不仅要理解法律术语,还要能够处理复杂的逻辑关系。网络设备监控:在对网络设备进行监控的基础上,AI Agent 可以执行自动巡检任务。这要求 AI Agent 不仅要处理专业数据,还要能够理解并应用信息化积累的知识。问:大家首次接触到 AI Agent 大概是在什么时候?从本质上讲,AI Agent 与大模型的区别究竟体现在哪些场景上?最核心的区别是什么?陈星亮:Agent 这个概念,实际上在大模型出现之前就已经存在了。在进行 IT 系统集成或设计某些自动化流程时,其实已经有 Agent 这一层了,尤其是在设备与外界交互的环节,而那时还没有将大模型技术整合进来以实现更广泛的泛化能力和生成式能力。大模型技术引入后,起初我们并没有考虑将其应用于设备控制或高度交互性的 IT 系统交互中,而主要看中其在创作和生成内容方面的潜力。之前我们在设备代理方面的工作与 AI Agent 的概念思路颇为相似,只是随着大模型的加入,AI Agent 的能力和应用场景都发生了变化。当我们将这些结合起来后,认识到了 AI Agent 的真正面貌。因此,如果仅从 IT 系统的能力角度来看,AI Agent 这个概念并不神秘,不过是通过引入大模型为 AI Agent 带来了更多能力,从而丰富了其功能。问:想问一下陈老师,在代码和办公场景,Agent 可以从哪些方面提升效率?有哪些 bad case?陈星亮:我先谈谈 Agent 给一些稳定场景带来的效率提升作用,如设计文档生成和合同中法律文本的生成等。在一些应用场景相对明确、法律条文引用也相对模式化的特定领域,如可靠性设计或安全威胁设计,Agent 的表现在业务用户看来感知和体验都非常好,准确度也相当高,显著提升了工作效率。目前,我们也在将 Agent 应用于网络设备巡检等生产场景。尽管巡检过程中会遇到各种意想不到的问题,但对于那些已有案例库和解决方式库的巡检,Agent 都能够发挥作用,并帮助提高巡检效率、简化人力的工作。然而,也有一些不尽如人意的地方。Agent 刚推出时,大家对它寄予厚望,导致在选择应用场景时没有过多限制,业务团队提出了许多要求较高的场景,想要用 Agent 去解决未知的问题。这些要求的实际难度很大,而 Agent 在处理未知问题时的能力有限。因此,如果要在企业场景中有效利用 Agent,合理选择业务场景非常重要。否则,Agent 的效果可能不会达到预期,甚至可能非常差。问:Agent 目前的发展状况如何?是否已经达到了一个平台期,还是仍然有很大的提升空间?是否依赖于某些特定的背景?我认为 Agent 主要依赖于大模型的 Function Call 能力,需要准确地识别出当前调用哪个模型来完成当前任务,并提供相应的结果,以便大模型进行下一步操作。而瓶颈可能在于读取上下文的长度,上下文长度决定了能够识别多少个函数。Agent 在执行过程中受限于场景,只能在有限的函数中进行选择,其执行也不完全精确;如果执行不精确,就需要获取更多的环境信息或反馈信息来执行函数,过程中可能会出错。Agent 是一个精妙但不够鲁棒的系统,如果它返回到上一级并根据错误信息重新执行,可能会带来更大的资源消耗和时间延迟。陈星亮:在企业场景中实施 Agent 时,我们首先需要考虑的是技术的可实现性。在挑选场景的过程中,就要考察技术是否可行;一旦场景确定,接下来需要考虑的是如何提高 Function Call 的准确度,如果准确度不够高,需探索其他工程手段来提升 API 的识别准确率,甚至在语义理解之后通过额外的工程能力进行调整、校验生成的 API 并通过查询方式进行补充。企业面临的最大挑战之一就是需要重复性地进行这类工作。目前我们也在探索长序列处理、记忆的短、长期存储以及上下文空间的扩展等技术,以期在未来实现更多的技术突破。在具身智能领域,企业场景中也在逐渐引入多模态技术,尤其是当与操作技术领域(OTA)的设备关联时。多模态技术的引入包括传统的视觉识别等,将进一步增加系统的复杂性。如果大模型在这些领域取得显著进展,那么在企业 IT 融合场景中的工程难度将大大减少。目前,我们在工程实践中仍需进行大量技术工作,这些工作的管理复杂性甚至超过了传统的微服务架构。我相信,随着技术的进步,未来将有很大的空间来改进现有的工程能力,减少人工干预,让大模型承担更多的工作。无论是让大模型自行处理,还是让 Agent 框架沉淀出更多稳定的框架性技术,都是未来技术发展的趋势。我对大模型在未来的迭代和改进抱有很高的期待,相信它们将带来更好的效果,并减轻当前工程化实践中的一些负担。问::是否可以认为大模型做好了就不需要 Agent 了呢?陈星亮:aPaaS 主要是基于行业内现有的资产或经验,实现程度化代码开发,降低开发门槛,通过拖拉拽的方式快速构建简单的应用程序。随着大语言模型代码生成能力的出现,零/低代码平台受到了较大的冲击。曾经有观点认为,大模型的出现可能会使得低代码或零代码的开发方式变得不再必要。实际上,我认为情况并不会如此。零/低代码平台可以有效地融合大语言模型的能力,让大模型直接参与代码生成。以前需要通过拖拉拽来实现的功能,现在可以通过自然语言处理(NLP)的方式进行交互,提供更直观、友好的用户体验,并帮助理解业务用户原始的语意,以更好地生成低代码或零代码应用。我认为零/低代码平台和大模型之间更多的是一种合作关系。低代码平台上已经积累了大量的业务资产,而大模型可以将其作为插件调用,两者结合将发挥出更大的潜力。AI Agent 的落地挑战问::在大语言模型不提升或通用大语言模型更新周期较长的情况下,如何利用现有工具和能力取得良好成果?有哪些方法或策略?陈星亮:企业内部考虑事务时主要关注两点,都与数据紧密相关。首先是文档处理的问题,在企业中,非结构化文档往往是承载信息的主体,处理这些文档不仅要识别文档类型,还包括对复杂文档的解析,如图文混排和包含复杂表格的文档。这些内容在原有的基础上,需要对文档类型识别的范围进行扩展,但在企业内部对这种复杂文档的解析仍是一个较大的挑战。其次关于原有数据的利用问题,特别是在生产场景中,一般都具备专业领域的背景。以设备巡检为例,它与设备的领域知识密切相关,这种情况单靠企业自身的私域数据积累可能不够,需要在行业内去做垂域模型。目前,我们期望通过 Agent 技术的发展,能够让更多企业在通用场景中体会到 Agent 带来的好处,从而愿意将自己内部的结构化数据进行区分,将企业机密数据与可对外开放的数据分离,并逐步开放一些行业公共数据,这将有助于构建每个行业的垂直领域模型,为未来企业场景和 Agent 的发展带来巨大的好处。问::初期部署 Agent 的成本是否高昂?是否能够带来相应的收益?能否实现成本的回收和价值回报?陈星亮:企业部署 Agent 时,成本问题是一个必须考虑的重要因素,并且需要结合业务团队的期望以及对目标的评估来共同考量。初期企业主要探索通用场景时,成本通常是较低的。随着业务场景的成熟,以及越来越多的用户和业务团队成员开始使用这些场景,成本就会开始上升。特别是当场景全面开放并开始构建更多场景时,就可能需要多套模型和版本,模型也需要不断地做飞轮进行迭代和优化,成本可能会指数级增长。因此,在正式对外放开并大规模使用 Agent 之前,与业务团队进行充分沟通和期望管理是非常重要的,需要让业务团队明白,业务场景真正对外开放并吸引大量用户使用后将会涉及到哪些成本。同时,业务团队也需要评估这些成熟场景能够带来的价值,如对客户满意度和内部效率提升的贡献。当业务团队获得这些信息并进行综合评价后,他们对预算和投入的决策将会更加明智,这样的过程有助于确保 Agent 部署的成本得到合理评估和控制,并带来相应的价值回报。问:在部署 Agent 时可能会遇到哪些安全方面的问题?目前是否有一些比较成熟的工具可以用于保障 Agent 的安全性?同时,是否可以认为 Agent 的安全性主要取决于其底层大模型的安全性?陈星亮:首先,Agent 的安全性并不仅仅由大模型决定,模型安全只是一部分,还涉及应用安全和数据安全。对企业来说,对安全性的投入无论多少都不为过。无论在引入模型时,还是实际使用过程中,包括 Agent 框架都需要进行安全检查。例如,使用开源框架组件时需要进行安全审查,运行时需要对模型的输入输出内容进行监控,以及对应用框架进行访问控制,防止调用越权等。在企业原有的安全体系内构建 Agent 的安全性会更好一些,在华为云内部,我们基于 AI 原生应用引擎等平台,当 Agent 对外提供服务或与模型进行交互时,利用内部原有的数据安全、应用安全和内容安全方面的技术,对内容进行检查和过滤。Agent 的安全性需要在现有基础上,结合 Agent 之间的技术组件交互以及场景特有的安全要求来综合考虑和实施。问:面对多智能体协同框架的开源与闭源发展,应该如何选择合适的技术路线和框架,以减少试错过程并确保系统不会被行业不断的更新迭代所淘汰?陈星亮:我认为应该分开考虑。对于 Agent 的开发框架,目前开源的选择比较多,都有很多可用的资源。鉴于 Agent 领域本身正在快速发展,选一个团队成员熟悉且操作顺手的框架,然后跟随其发展进行使用。而对于 Agent 的运行时环境,进入企业生产环境后,我建议使用闭源解决方案。理想的状态是,在企业现有的基础设施基础上进行必要改造,以便将 Agent 的运行时环境纳入统一管理和运维体系中,确保运行时的稳定性和安全性。AI Agent 的未来前瞻问:从长远来看,企业中 Agent 的落地是否会对某些现有的职业造成冲击?比如普通员工、现有商业模式、提供 API 服务的 SaaS 公司以及供应商等。Agent 的普及和应用会带来怎样的影响?陈星亮:对于员工而言,随着技术的发展,未来使用 Agent 和大模型将成为他们需要掌握的技能,尤其是提示词。员工至少需要学会如何使用 Agent,就像现在进行零代码应用开发一样,将其作为日常办公工具的一部分。对于企业,尤其是传统 SaaS 公司来说,Agent 和大模型的引入已成为明显趋势。一些大型 SaaS 公司,已经开始将大模型集成到平台中,将 Agent 框架和集成外部大模型的能力嵌入到二次开发和应用中。传统 SaaS 公司如果不加入到这个发展潮流中,可能会影响产品体验,建议一定要去拥抱大模型和 Agent。问:请介绍一下目前单智能体落地的情况,以及它与公司当前技术架构的结合方式。多智能体的具体架构是如何建设的?陈星亮:在原有的技术架构体系中,目前大家使用的较多的是 Web 应用、微服务,有时还会使用函数技术体系。我们可以将 Agent 和大模型引入进来,先进行隔离,用于特定的场景。这些场景必然会与现有的微服务体系或函数体系进行交互。这时可以采用集成的方式进行,而不是直接使用大模型的 Function Call 方式。这样实施难度会小一些,而且也能让 Agent 发挥作用。当技术团队逐渐掌握了 Agent 和大模型这套技术,就可以开始取代一些现有的应用。这样的过渡不仅有利于架构的演进,也有助于技术团队的能力培养。问:Agent 未来的发展趋势将是怎样的?当它们发展到一个成熟的阶段后,将会呈现出什么样的形态?陈星亮:在企业场景中,Agent 目前主要扮演辅助角色。我们正在考虑的是,Agent 是否能够从围绕特定场景服务转变为围绕特定人员服务。随着这一趋势的逐步发展,我们可以设想,未来某些人的工作是否会逐渐被 Agent 取代,这可以在分工上进行明确划分。我认为,当 Agent 真正能够在企业中提升效率并降低成本时,就达到了真正的成熟阶段。问:Agent 落地过程中可能会遇到一些难以实现的场景,这就需要我们在筛选场景和逻辑执行上进行深入的思考,最终的理想状态是以人的方式来看待 Agent:作为智能体能够取代当前人类的多少工作。Agent 概念并非是大模型出现后才产生的,但确实又是一直存在的。智能体这个词,最常见的体现可能就是人类自己。人类可以作为 Agent 选择任务难度的度量,同时也可以作为 Agent 的驱动方向。如果有一天 Agent 真的取代了所有的工作,人类应该干什么?我想,这时人类最重要的价值就是发挥自己的需求。Agent 服务的目标永远是人本身,人类有需求,才会有 Agent 去做这件事情。人类是需求的发起方,Agent 只是去满足需求的一方。因此,人类仍然拥有最终的评价权和评估权,这种能力是大模型无论如何发展都无法达到的,除非 Agent 拥有像人一样的肉身,有自己的激素欲望和生理限制。陈星亮:首先,我认为 Agent 的未来是充满无限可能的。无论是在各个行业,还是在 ToB 或 ToC 的体系中,人类社会有各式各样的场景需要 Agent 来提供支撑,因此它的发展前景是极其广阔的。其次,我相信 Agent 将是一个多样化的存在,无论是在技术实现还是在业务场景的应用上。目前 Agent 技术的发展呈现出百家争鸣的局面,这对技术行业来说是一件好事,意味着有更多的行业场景愿意尝试采用 Agent,并进行投资。在这样的投入下,技术可以快速发展,进而更好地探索未知领域。最后,在 Agent 向前发展的过程中,我们也需要正视现实情况。当前无论大模型还是 Agent 框架本身的发展,下一步的方向似乎还不是很清晰。我相信未来还会有更多新技术不断涌现,将推动 Agent 的发展,使企业和个人的诉求和场景得以实现。文章摘自:InfoQ原文链接:https://www.infoq.cn/article/xLryHtsN1PFPMuhquhAr?utm_campaign=geek_search&utm_content=geek_search&utm_medium=geek_search&utm_source=geek_search&utm_term=geek_search
  • [技术干货] 华为云受邀出席AICon2024 分享AI Agent在企业生产中的技术实践
    近日, InfoQ在北京举办行业技术盛会——AICon全球人工智能开发与应用大会2024,华为云aPaaS首席架构师陈星亮受邀出席,和技术爱好者分享AI Agent在企业生产中的技术实践。大模型技术发展浪潮下,AI Agent成为新一代AI原生应用范式。当前,在问答、交互类应用中,大模型+AI Agent已经给用户带来新一代体验。但当AI Agent进入企业生产场景时,会面临新的挑战,如:企业生产场景的专业复杂问题、AI生成结果难以达到生产场景的可用标准以及主题偏离、恶意诱导等安全防护问题。陈星亮从上述痛点和挑战出发,分享华为云在实际场景的技术实践,解决企业引入AI生成技术的瓶颈,使得AI Agent在企业生产场景得以成功运用。华为云aPaaS首席架构师陈星亮在AICon现场分享AI Agent进入企业生产场景时的挑战AI Agent引领了新一波人工智能技术浪潮,进入企业生产场景时主要面临四类挑战:专业性:特定领域的专业复杂问题需要专业知识,Agent理解难度大,生产场景要求输出准确率大于90%,并且要专业、简洁、高效;协作性:大模型、传统模型、现有API协同调度难,在业务流程中难闭环;责任性:企业生产和客户服务场景对输出严肃性要求高,要保证内容的正确、及时、完整、可解释;安全性:专业知识是企业核心资产,既要共享,又要防泄露,大模型框架内集成的模块或本身可能含漏洞,成为安全威胁。华为云在AI Agent的探索与实践针对专业性、协作性、责任性、安全性四大挑战,华为云进行了五大技术探索:一、企业词表1)多轮理解和主动澄清,将指令理解准确率提升到90%以上;2)优化知识地图,分门别类建设企业词表;3)建设大模型数据准入标准,完善数据治理标准并持续清洗二、模型编排大模型善于理解生成,小模型精于感知执行,将模型编排能力和原有IT系统、原有传统模型结合起来,解决复杂问题三、外挂知识库让动态知识快速更新和循环,紧跟企业知识更新节奏,确保实时交互体验四、防退化纳入数据飞轮能力,基于知识的敏感度提高循环频率,加快知识库更新迭代,不断赋予AI Agent持续自学习能力,保持数据最新五、防安全风险企业对模型自身的安全很难去做提升,可以从数据、大模型交互、Agent应用自身这三个角度提升安全能力:数据安全:在训练过程中,对敏感数据自动化识别和归类,评估清洗程度和可暴露程度,平衡可用性和隐私保护;在推理过程中,识别输入的敏感数据,过滤和替换后,无感知还原输出内容模型交互安全:在企业内部建好模型网关,把内外部模型统一接入起来,并在此基础上搭建三层安全隔离带,第一层针对模型返回的内容建立安全评分滤网,通过通检或抽检方式及时发现模型自身的安全问题;第二层建立企业信息安全滤网,检查所有的调用,看是否包含敏感信息;第三层建立企业领域滤网,各领域的敏感词和控制力度不一,各领域基于这套机制自行控制,更好地将关键信息隔离在内部Agent框架应用安全:在跟模型交互过程中,要把Agent规划的动作和原有的安全技术检查结合起来;在任务执行过程中,针对代码执行的环境,要加上对应的安全技术;应用框架自身和三方组件中可能存在漏洞、服务越权问题,要多加关注,及时防护。AI原生应用引擎产品体验入口华为云将上述技术实践融入了自身平台型产品——AI原生应用引擎,面向企业提供低门槛、高效率Agent开发/运行平台,将大模型能力接入到应用中,使能企业场景应用智能化,充分释放AI大模型价值。AI Agent在企业生产场景的运用效果场景案例1:客服助手随着业务量逐年增加,业务团队面临人力持续增长的压力,使用Agent降本增效已经迫在眉睫。研发团队通过Prompt+垂域知识增强检索,搭建原始框架,基于人工标注、外挂知识库微调大模型,再通过制定标注规范、融入客服作业流,驱动作业和AI训练双循环等手段逐步提升标注质量,最终准确率达到90%。场景案例2:会议纪要生成基于大模型、ASR语音识别、智能文档解析等模型编排,完善会议纪要总结能力,经过语音转写、ASR纠错、口水稿分段、核心观点提取等步骤,大幅提升会议纪要生成效果。场景案例3:生产指挥Agent进入专业领域后,带来了很大的工程能力挑战。研发团队在原有机制的技术基础之上做了对应的优化,通过多轮澄清、任务分解、API检索、序列长度控制等手段,最终在智能巡检等专业场景上取得了良好效果。未来展望未来大致会有三类AI Agent,围绕企业生产场景,帮助人、事、物更高效的完成工作任务。第一是人+AI:规划、协同完成复杂任务,现在大部分都是面向人的任务,帮助人甚至替代人处理一些事情;第二是事+AI:分解、执行业务功能,Agent在应用中占的比重会越来越大,逐渐取代一些原有的应用;第三是物+AI:感知、改变物理世界,在企业中,尤其是工业场景,让设备变得智能化也将势在必行。随着大模型、Agent技术的提升,Agent将进入更多的企业生产场景,使用程度逐渐加深,使用难度慢慢变弱,希望未来大家一起把这些技术做得更加工具化、产品化和平台化,让各行各业都能更容易地实现智能化。
  • [线下活动] All in AI催生新动能,华为云开天aPaaS展望智慧城市新趋势
    5月24日,第七届数字中国建设峰会将在福州开幕,将围绕“释放数据要素价值,发展新质生产力”打造一场专业高效、多元开放的数字盛宴。此次峰会,华为云开天aPaaS将携手福州冶城集团所属企业福州市勘测院有限公司、福建百宝图科技有限公司等合作伙伴集体亮相,带来成果展、三坊七巷高端论坛等精彩活动,通过传递其在数字孪生、智慧城市、XR、AI领域的最新成果及观点,与专家学者、合作伙伴共同探索构筑新型智慧城市新路径。“赏”闽剧、“游”敦煌河图KooMap抢先亮相“数字文化”展岛峰会期间,在华为“数字文化”展岛,华为云开天aPaaS旗下产品—河图KooMap,联手深度合作伙伴福建百宝图科技有限公司,让参会者抢先体验数字文化的独特魅力。通过AR眼镜交互方式,参会者不仅可以在展会现场欣赏闽剧艺术、聆听数字人讲解闽剧起源,更有机会在虚拟现实世界中云游莫高窟,感受视觉与文化艺术的双重盛宴。不止于数字文博旅场景,双方在数字孪生城市、城元宇宙数字底座及多元化应用场景等方面持续开展联合攻关,已打造多个行业解决方案、技术推广应用等,致力激活城市文旅资产、赋能城市商圈建设,创新文化教育模式。大咖云集,真知灼见畅谈新型智慧城市5月24日,由福州市大数据发展管理委员会、福州市工业和信息化局作为指导单位,华为云开天aPaaS主办的三坊七巷高端论坛拉开帷幕。在曾经拥有“五子登科”的郭柏荫故居,一场跨越“时空”的深度对话就此展开,为智慧城市发展提供新的思路。此次论坛将聚焦“构筑新型智慧城市数字底座,赋能千行百业AI应用创新”主题,邀请来自福州大数据发展管理会、大冶政数局、福建百宝图科技有限公司、中软AIGC研究院等产学研专家、客户及伙伴分享其在数字孪生技术、智慧城市应用等领域的优秀实践,从大冶数字公共基础设施建设到福元宇宙助推未来产业高质量发展,再到AI Agent打造智慧政务新范式等一系列的探索,以深耕行业的践行,推动千行万业数智化的大势。从数字化到智能化再到智慧化,推动建设新型智慧城市成为经济社会高质量发展的必然要求。华为云开天aPaaS也将在此论坛发布重要观点——All in AI是加速新型智慧城市发展进程的必然模式,以技术赋能城市产业智能化和治理现代化。构建新型智慧城市数字底座赋能千行万业AI应用创新自2021年发布以来,华为云开天aPaaS持续践行“经验即服务”,将华为自身30多年及全球各行各业的数字化转型经验沉淀在华为云上,以云服务的方式提供给行业用户,赋能千行万业AI应用创新。随着数字经济的蓬勃发展,数字孪生技术在推动社会经济转型中的关键作用也越发凸显,我国的数字孪生建设整体正处于从虚实融生向虚实共生发展的新阶段。技术的迭代演进正以前所未有的速度驱动智慧城市从构成走向“生成”式。AI大模型、Agent智能体、物联感知、智慧感知、时空搜索与分析、XR等关键技术持续夯实新型智慧城市的数字孪生底图,并将通过人/事/物+AI、连接及算力,加速新型智慧城市的到来。本次数字中国建设峰会,华为云开天aPaaS将分享最新技术及实践成果,为构筑新型智慧城市数字底座及智能应用创新带来新主张、新动力。转载自:华为云cid:link_0
  • [技术干货] 华为云开天aPaaS新课上线!3分钟了解华为云应用平台AppStage!
    aPaaS新课上线!3分钟了解应用平台AppStage系列短视频上线云学堂啦!带你一站快速get:什么是应用平台AppStage?应用平台AppStage有哪些核心功能?如何通过应用平台这些核心功能实现应用的开发、部署、运维等全生命周期管理!点击链接,即刻开启学习之旅↓↓↓cid:link_0相关链接:点击进入官网>>应用平台AppStage点击进行1v1咨询>>产品咨询
  • [问题求助] 运营中心新建数据模型时,提示保存失败?
    运营中心新建数据模型时,提示保存失败?
  • [问题求助] 运营中心应用指标摸板库生成指标时,提示运行失败?
    运营中心应用指标摸板库生成指标时,提示运行失败?
  • [问题求助] 运营中心应用数据接入时,提示保存失败?
    运营中心应用数据接入时,提示保存失败?
  • [问题求助] 运营中心在修改/删除数据模型时,提示修改/删除失败?
    运营中心在修改/删除数据模型时,提示修改/删除失败?
  • [问题求助] 运营中心应用数据接入时,执行周期性任务,提示运行失败?
    运营中心应用数据接入时,执行周期性任务,提示运行失败?
总条数:146 到第
上滑加载中