• [热门活动] 2024 HCDG深圳站之如何重构应用——AI Agent开发者创新应用实践探讨,2024年11月29日,南山区云科技大厦8F 我们不见不散!
    立即报名我们不仅会分享华为云AI原生应用引擎提供了哪些服务和能力来赋能AI原生应用创新,使能千行万业智能化转型。同时将与华为云及众多AI领域专家同行深入交流“Al Agent”的热门话题:开发者如何把握机遇,打造属于自己的ChatGPT时刻?如果“所有软件都值得用AI重做一遍”,该如何重做?等热门话题。期待热爱AI技术的你来参与!
  • 【DTSE Tech Talk直播回顾】零代码构建AI Agent——华为云AI原生应用引擎的架构与实践
    本期直播详解基于大模型的生成式AI,将会引领我们走向AGI通用人工智能时代,经常有人说,在大模型和生成式AI时代,一切应用都值得用AI重做一遍。这是为什么呢?作为技术从业者,我们需要理解大模型生成式AI给软件开发产业带来的影响:● 在企业业务活动中,最难以传承和复制的就是业务知识和经验,大模型是一种比较好的途径,能够将企业已经积累的知识经验、场景know-how等内容,以模型的方式对外提供。● 基于大模型产生了一些场景化的AI能力,这是之前传统AI或传统编程方式所不具备的,比如智能营销内容、辅助软件开发过程、方案生成、智能客服等。● 基于大模型的AI原生应用给人们的业务活动带来了根本性改变,比如人际交互方式、内容生产方式、个性化用户体验、定制化软件交付等。对于大模型带来的颠覆性技术创新以及对应用开发的影响,可以归纳为两个方面:从大模型技术本身来讲,有三方面的颠覆性创新1. 文生图、文生视频等X到Y的生成/创造能力,这是非常通用的智能化技术;2. 解数学题、做规划等推理和求解能力;3. 自然语言对话等自然交互能力。这是之前传统软件开发或传统软件技术栈内部不具备的一些能力,称之为颠覆性的变。从软件的视角带来了两个层面的改变1. AI赋能人,在一定程度上模拟人、超越人,比如具身智能和AI Agent分别在物理世界、数字世界辅助人、替代人;2. AI重塑存量软件及工具,显著提升人的效率及体验。大模型与生成式AI驱动软件产业发生新的范式变革第一点是认知和思想方面的变化,称为AI First新思想,即在软件开发或业务活动中遇到任何问题,首先会思考如何用大模型和生成式AI的技术来解决,这是一种新的思维方式,既包括了对技术的认知,也包括了如何用技术来重构既有的业务流程,或者颠覆既有的开发模式。第二点是AI Native新实践,指从架构、流程、方法等层面带来的新的最佳实践。除此之外,还可以从4个方面来理解大模型生成式AI给软件开发活动带来的影响:新架构:从构成式架构到生成式架构的变化;新体验:从键鼠与触摸到自然交互的变化;新工程:从以人为本的协作开发到以数据为本的生成式开发的变化;新商业:从软件即服务到服务即软件的变化。大模型落地企业场景,需要解决的六大关键挑战1)如何选择合适的大模型,建立有效的模型引入机制业界模型种类繁多,有不同规格、不同模态,解决问题时如何选择最合适的模型,是一个比较复杂的问题,必须要解决几个关键要素,比如对模型进行专业评测、模型引入要有一套管理机制、回避风险问题以及有效治理能力各异的大模型等。2)如何用好大模型,在基模之上进一步提升应用使用效果提示词工程:提示词的核心是对业务的理解和抽象,它是围绕业务的一种高度凝练的总结和抽象,构建提示词工程有一定的门槛;模型复用和模型编排:在实际场景中存在多种不同模型的复合使用,需要实现模型之间的有机调度和编排;持续迭代:做完程序或功能后,必然存在如何持续演进的问题,需要基于业务的反馈、知识标注和数据回流来持续提升模型,保证业务效果得到持续优化。3)如何建立IT部门与业务部门的有效协同机制选择合适的场景需要规避两个问题,一是当前模型可能不太擅长某些问题,二是要注意选择通过低成本解决高价值场景;基于大模型的生成式应用开发,不仅是IT问题,更多的是业务问题,它以数据为中心、结合业务场景,因此,业务部门和IT部门/开发团队在AI原生应用的开发过程中需要做有效协同;开发活动中需要有效实现协同来构筑公共资产,包括业务领域的知识/数据资产、模型和开发活动中的一些公共能力和组件的相关资产。4)如何准备丰富的高质量数据,帮助AI理解业务B端业务场景的数据不太充分,需要通过一定经验和方法来准备高质量数据,华为总结了一些开发的业务活动,构筑到工具平台里面,来辅助开发者完成数据准备;语言类模型本身具备语言能力和推理能力,回答客户问题需要基于企业内部知识库来生成,而不能用模型内部知识,避免给用户造成误导;抑制具备通用知识的模型在业务适配后产生的幻觉,通常是通过挂载外部知识库的方式来实现,但知识库比较复杂、内容来源多样、有多种不同形态,需要有效管理协同知识库的内容,才能确保在检索和生成过程中引用到合适的知识,从而达到更好的幻觉抑制效果。5)如何建立完善的风险保障机制,确保AI安全可信治理我国针对大模型、基于大模型生成的应用,都有相关的安全合规、管理的制度和内容,这就要求具备一些能力从源头上确保合法合规。从资产安全性角度,大模型压缩的行业知识和经验、挂载给模型的知识库内容、模型生成的内容,都属于高价值资产,如何保证模型安全、数据安全,也需要重点考虑和解决。6)如何应对大模型带来的投资成本在大模型训练推理算力和大模型业务开发活动过程中,平衡成本和收益始终是一个绕不开的话题,可以通过良好的业务规划和设计来复用模型,来达到算力和请求之间的一种均衡,也可以运用提示词缓存等机制,有效降低模型在推理过程中的消耗和成本开支。华为云AI原生应用引擎,使能千行万业AI原生应用创新针对以上挑战,华为云推出了AI原生应用引擎,给开发者提供了AI原生应用的一站式服务平台,从模型本身角度,是帮助企业选好、用好、管好大模型,从应用开发效率和效果角度,是赋能开发者实现AI原生应用创新,主要有五大功能:1. 模型中心:提供模型评测、模型调度、模型可观测性统计、模型治理等相关的功能和活动。模型中心的核心是模型网关,对业界主流大模型、商业大模型、自建模型进行托管,统一管理和调度各种不同来源、不同用途的模型,通过集中的网关来实现统一注册、接入、调度、路由、分发和可观性跟踪,把已有的或第三方模型资产快速注入到模型网关中进行预集成验证,方便被上层调用,同时,模型中心还提供了基于ABM的元数据管理机制,根据模型的种类、规格、来源、用途等建立一个清晰的管理清单,确保在业务活动过程中相关资产的安全性和合规性;模型中心从华为自身的场景实践和内外部生态的汇聚,提供了针对模型场景的自动化评测框架,难度在于缺乏B端企业生产场景的数据,需要用企业自身的相关知识和评估方法去完成,目前有两种方法来判定评测生成的结果,一是基于一个评判的模型,即AI评判AI的自动化方式,二是引入相关专家的经验和知识,由专家来标注或者判定结果,两者结合来给出最终评判结果;当推理的算力集群或模型本身发生故障时,提供了模型Failover机制,后端实现自动切换,前端业务场景无感知,不影响上层业务应用;在模型中心网关节点通道上,对输入输出的内容进行合规过滤和监测,同时监控模型推理的性能,提供全面的关于后端的客观性度量和跟踪机制。2.知识中心:通过提示词工程、模型检索增强生成RAG工程、Agent工程等来提升模型场景效果并持续迭代优化。高质量提示词输出难度大,目前有两种解决思路,一是总结一些场景的优秀实践形成提示词模板可供直接使用,二是用AI的方式对用户输入的内容进行改写、扩写,把模糊性、片段性的内容转换成相对较精确、描述结构较完整的提示词,提升模型推理能力,并根据生成结果的反馈来判断应用效果,持续迭代和优化提示词模板;将业务经验和知识的文档类资产导入到平台里,转变成模型能够理解和消费的知识,并提供知识数据的加工、标注处理、生成的功能;训练过程中可能出现数据不透明、过时、本身质量差、存在事实性错误等问题,通常使用模型检索增强生成RAG的方式来完成增强,它是一个程序化、工程化的实现,包括了对查询输入意图的理解、改写、转写和对后端不同知识库的查询编排,可以通过串接传统搜索、数据库、知识库等相关内容的融合检索来生成最终想要的结果;根据前端交互界面生成结果的评测和反馈,来优化知识库内容、模型训练数据和对模型调优。3.Agent编排:基于模型之上有效地连接既有的业务能力、数据、其他不同的第三方模型等,来实现复杂的业务活动。大模型在推理能力上的局限性导致无法解决比较复杂的任务和场景,在目前的Agent开发过程中,都采用了流编排或流引擎技术,这是通过一种预定义的方式,预先完成对业务的拆解,来实现有效调度和协同;华为云AI原生应用引擎支持0码方式实现Agent编排和SDK方式来串接不同的模型或AI Agent完成高码编排,提供了丰富的场景、强大的流处理引擎和相关处理机制、对千万级Agent调度协同的管理能力和基于函数编程、代码执行的相关能力,高效利用资源,处理灵活方便;在南向和北向上提供了两层API封装的定义,便于在南向对接业界各种不同的大小模型,在北向开放接口,使能开发者基于AI原生应用引擎平台完成对存量应用的改造和重塑,或新形态应用的开发,来实现北向生态的繁荣。4.AI可信治理:通过平台化build-in的安全机制和能力,保证模型生成内容结果的可靠性和数据资产、模型资产的安全性等。基于华为内部的实践经验,内置了全流程可信的工具方法,根据不同的角色和权限定义,保护数据、知识库、Agent应用以及相关业务;传统应用的输出结果都是确定的,在一定程度上是可信的,而AI应用生成的结果比较灵活,有一定的风险,需要采取隔离措施来保证这两者之间安全合规的集成和调用。5.AI资产库:开发活动中沉淀和积累的场景模型、数据、知识、提示词、Agent、业务活动资产等,都可以放到资产库里,来实现最大范围内的复用,有效提升后续开发的效率和质量。资产中心内置了行业伙伴和行业实践相关的数据资产,API Hub里预封装了行业能力的API资产,比如卡车物流、天气查询、打车等生产生活中常见的场景API Kit,方便被大模型或Agent调用;基于大模型的AI原生资产,包括Agent开发模板、场景模型、知识资产等,帮助开发者降低开发难度和复杂度,来快速完成应用创新。赋能开发者完成AI原生应用的快速创新● AI原生应用构建模式一:Agent分钟级构建,一站式、顾问式快速构建Agent应用基于大模型的智能系统,提供专家顾问的方式来引导推荐生成智能应用,即Agent应用的一站式/分钟级构建能力,只需在平台描述业务诉求、业务场景,剩下的应用生成的工作交给平台,无论是数据、工具调用、知识库挂载、提示词模板等相关内容,都可以通过AI的方式来智能化、自动化地生成,有效降低智能应用的开发难度或复杂度,这就是“Agent for Agent”。● AI原生应用构建模式二:基于工作流构建针对特别复杂的任务或企业内部涉及到大量跟存量系统之间的集成工作,必不可少会使用工作流编排方式,工作流里面提供了比较丰富的节点能力,可以串接大小模型节点、逻辑控制节点等等,支持调用外部工具或AI应用,实现不同的功能。码上申请公测免费体验0代码创建智能应用▼▼▼                                                                                                                                                                                    AI原生应用引擎,使能千行万业AI原生应用创新● AI智能导诊:助力医患沟通,辅助医生诊疗,让优质资源惠及大众在医疗行业,Agent应用在一定程度上可以扮演专家顾问的角色,在就诊前为患者提供咨询服务,在完成基础检查后解读检查结果,另外,在就诊过程中,可以辅助医生完成患者病例、治疗结果等内容的生成,通过专业模型提供专业诊断建议,以及就诊后的管理、问题解答等,以缓解医疗资源有限的局面,而在这个过程中所积累的资产和数据,还可以反向提供给医院用于教学活动、培养实习生。● AI智能客服:AI专家7*24小时在线服务,智能快速排障AGV智能搬运机器人是在制造行业被大规模使用的一种设备,不可避免地会出现一些故障,过去处理过程繁复,现在用AI方式,可以通过采集现场设备信息和用户前端上报来对故障问题做预判,基于后端智能客服的AI程序来回答用户的问题、辅助诊断、提供解决方案,如果无法解决,再安排工程师去现场,并把相关的案例整理成重复使用的知识库案例,来应用到后续的环节中去,提升诊断效率。从智能客服的完整流程来看,在每个环节都涉及到对AI的有效使用,比如智能问答、语音交互、日志解析、前端感知、数字孪生系统对接、向前端设备下发指令、历史对话接口管理等,帮助AGV客户和厂商管理人员完成故障处理。合作共赢,加速千行万业的智能化升级华为是技术供应商,提供算力底座、生态底座、人才培训底座,但最终要完成对行业的AI重塑或AI化改造,则依赖广大开发者和生态伙伴,华为云开天aPaaS提供三个使能:商业使能与开发者和ISV伙伴实现能力共建、商机共享;技术使能华为内部有大量AI原生应用开发的工程方法和最佳实践总结,可以提供专业服务;生态使能华为云有非常广泛的生态能力和工具,可以帮助开发者和ISV伙伴在华云上生长和壮大。【直播Q&A】cid:link_0【视频回看】cid:link_1
  • [技术干货] 《DTSE Tech Talk》技术直播Q&A:零代码构建AI Agent——华为云AI原生应用引擎的架构与实践
    《DTSE Tech Talk》技术直播Q&A:零代码构建AI Agent——华为云AI原生应用引擎的架构与实践序号问题回答1面对行业竞争加剧,华为云AI原生应用引擎如何不断优化算法以提升智能应用的精准度和效率,从而为企业在市场中赢得更大优势?持续发展繁荣生态,接入业界主流大模型;通过项目经验和伙伴协同,沉淀行业资产;聚焦业界主流趋势和技术发展,落地多种编排方式和编排能力;通过模型能力+RAG工程能力+编排能力+知识循环机制+资产沉淀形成合力,共同助力AI应用效果最佳。2对于那些对0代码构建AIAgent感兴趣的开发者,您有什么建议或资源推荐?基于大模型的0代码开发更适用于业务人员或者初级开发者,理解工具、技能、插件、知识库、RAG能力、工作流、记忆等概念,关键是懂得业务流程和Know-How,通过技术与业务的组合,就可以实现最佳匹配业务场景的各类AI应用。3华为云AI原生应用平台如何降低开发难度?AI原生应用引擎平台提供开箱即用的工具、可自由灵活编排的工作流、知识库及其开放的、可编排的RAG工程能力、知识检索流、记忆能力等众多可视化,可编排的能力 ,让AI业务人员也可以通过这些可视化的工具能力,快速完成场景应用的编排开发。4在设计AI原生应用引擎时,您是如何考虑系统的可扩展性和灵活性的?整个系统是基于模块化构建的,每个模块功能相对解耦及可扩展,可独立进行技术演进和生态发展,各个模块通过业务流串联在一起,客户可方便快速地完成业务场景应用的构建。如果业务流上某一个节点要更新,也可以单独更新。5随着企业数字化转型的深入,对于那些拥有众多历史悠久且复杂的遗留业务系统的大型企业,华为云AI原生应用引擎在整合和优化这些系统,实现与新的智能应用的无缝对接和协同工作方面,具备哪些独特的技术能力和解决方案?AI原生应用引擎提供了API-Hub,不仅托管了数万+行业API,也支持企业托管私有场景API,这些API可以无缝集成到AI Agent应用中,实现存量应用于新智能应用的协同;API-Hub作为一站式API生命周期管理平台工具,提供了丰富的能力和可靠性。6从实践角度看,0代码智能构建AIAgent的可扩展性如何?是否可以方便地根据业务的发展进行扩展和升级?0代码构建AI Agent,仍然支持进行更复杂的功能业务的可视化编排,以集成更多的周边工具以及匹配复杂的业务场景。7在当前复杂多变的国际商业环境中,华为云AI原生应用引擎如何协助跨国企业应对不同国家和地区在数据主权、隐私法规、行业标准等方面的巨大差异,以确保其在全球范围内的应用开发和部署能够顺利进行并且完全合规?可以参考华为云官网相关说明:https://www.huaweicloud.com/about/global-infrastructure.htmlAI原生应用引擎遵照华为云的全球布局及相关合规性遵从规定。8华为云AI原生应用引擎如何处理大规模数据和复杂计算任务?简单来说,AI原生应用引擎默认集成了华为云PaaS层的大数据服务以及函数计算等服务,可以处理非常大规模的数据及计算任务;这些底层组件对开发者是透明的、免维护的。9华为云AI原生应用引擎支持哪些类型的AI应用开发?政务、办公、金融、交通、煤矿、电商、医疗、教育等众多行业的复杂场景AI应用皆可支持。10华为云AI原生应用引擎如何帮助企业在数字化转型过程中实现业务流程的优化和再造?所有数据数字化,所有业务AI化,根据企业业务的具体场景,提供合理的解决方案,通过AI赋能人,AI赋能事,可以做到企业资产沉淀规划范化,业务效率提升,达到降本增效。11华为云AI原生应用引擎在安全性和隐私保护方面有哪些措施?针对数据安全、模型安全、内容风控、应用安全,建立四道防线,通过数据合规治理、模型安全对齐、安全评测、大模型安全护栏等AI安全可信治理策略,保障客户隐私数据安全。12平台是否支持与现有的企业系统或第三方服务集成?支持。资产中心可以上架所有三方的服务和资产,包含但不限于AI应用、数据集、工具、大模型、提示词模版等。13华为云AI原生应用引擎在实际业务场景中的应用案例有哪些?知识问答、电话咨询、病情筛查、数据查询、售后咨询、技术支持等。14在保障应用的高可用性和容错性方面,华为云AI原生应用引擎采用了哪些创新的技术手段?简单说分两层,一,AI原生应用引擎所依赖的华为云服务,都采用了多AZ、或者多Region的高可靠、高可用部署架构;二,AI原生应用引擎自身的微服务采用了双AZ的高可用架构;因此,无论是平台自身,还是托管的AI Agent应用,都可以获得高可用及高可靠的能力。15华为云AI原生应用引擎如何促进企业内部不同团队(如开发、运维、业务)之间的高效协作?通过不同团队、不同项目之间的架构设计和权限管理,可实现关键资产隔离,公共资产共享,所有业务流程数字化和智能化,高效协同。16从全球市场布局的角度,华为云AI原生应用引擎如何适应不同地区的文化和商业习惯差异?可以参考华为云官网相关说明:https://www.huaweicloud.com/about/global-infrastructure.htmlAI原生应用引擎遵照华为云的全球布局及相关合规性遵从规定。除此之外,通过集成面向特定区域的大模型产品及数据集,以更好的匹配当地的文化和习惯。17华为云AI原生应用引擎在哪些具体的行业和业务场景中得到了实践应用?政务、办公、金融、交通、煤矿、电商、医疗、教育等众多行业中落地了知识问答、电话咨询、病情筛查、数据查询、售后咨询、技术支持等场景。18对于没有编程背景的用户,如何快速上手使用这个平台?不需要具备传统编程技能,但需要了解和掌握面向AI开发的工具、技能、插件、知识库、RAG能力、工作流、记忆等编排能力的使用,关键是了解业务场景的业务流程,就可以编排出契合实际业务场景的复杂AI应用。19华为云AI原生应用引擎的技术架构是怎样的?它如何支持0代码开发?通过平台预置的大模型,根据用户的一句话输入进行Agent定义扩写,并自动为agent选择平台中合适的工具、知识库等,自动生成可用的Agent应用。当然,也支持通过LUI界面实现复杂的业务定义,而无需任何编码。20平台计划引入哪些新的功能或技术来进一步提升用户体验?优化界面的使用体验,提升RAG工程能力,增加模型评测能力,增加Agent编排的技能。21对于具有高度定制化需求的企业,华为云AI原生应用引擎如何实现个性化配置与规模化推广的平衡?针对不同类型的客户,制定几套合理平衡的解决方案,满足客户需求,达成项目交付。22在AIAgent的开发过程中,有哪些常见的性能瓶颈和解决方案?AI Agent性能瓶颈分为两层,其中大模型侧的回答是关键因素,也是各大模型厂商的重要命题。作为AI Agent平台,AI原生应用引擎提供SLA级保障,通过Agent的独占资源部署,保证在大模型响应外能够做到随时扩缩容以保证性能。23现在AI大多数文字方面的,有没有图片识别方面的AI。比如做智能货柜。能否通过华为的Aiagent通过摄像头来判断用户的价格AI原生应用引擎目前已经接入了少量的多模态大模型,后续会接入更多主流多模态大模型,应用形态上也会考虑图片理解等多模态场景。24现在AIagent,除了问答,生成图片和声音。还有没有什么能完全代替人工完成某一项工作的具体应用,而不是单纯的辅助人工的工具目前和慧通差旅有做订酒店的Agent,能够自动根据差旅单帮助预定酒店,但过程中还是需要人的参与,譬如最终的确认阶段。25开发者如何扩展或定制AIAgent的功能以满足特定需求?开发者可以基于AI原生应用引擎提供的API和SDK,灵活定制。26在模型训练过程中,如何利用华为云AI原生应用引擎的分布式架构提高效率?AI原生应用引擎不涉及模型训练,而是提供模型之上的AI Agent应用的开发。27华为云AI原生应用引擎在支持新兴技术(如量子计算、边缘计算)融合方面有哪些前瞻性的规划?多Agent协同,云边端部署协同是AI原生应用引擎正在研究的课题,敬请期待。28华为云AI原生应用引擎的未来发展方向和计划是什么?持续优化Agent构建体验,打造企业级特性(Agent全生命周期管理、权限、安全),同时跟踪多Agent协同,云边端部署协同等课题,提升竞争力。29对于行业新进入者,华为云AI原生应用引擎能提供怎样独特的支持来帮助他们快速适应市场?首先提供极低门槛的Agent构建能力,其次提供开箱即用的问答问数服务,配合专业服务直接帮客户搞定场景。30华为云AI原生应用引擎在处理复杂业务逻辑的应用时,表现如何?目前工作流能够满足大部分业务场景编排,体验也在持续优化中。31如何与合作伙伴共同推动AI原生应用的创新和发展,实现互利共赢?不断扩展模型伙伴、Agent伙伴、数据伙伴及ISV伙伴,丰富生态的同时,制定完善的商业机制,保证伙伴能够获利。32华为云AI原生应用引擎如何帮助企业提升用户体验和客户满意度?通过赋能企业创建不同业务场景的助手,提升企业客户的体验和满意度。33大模型及生成式AI对我国软件产业规模的影响,生成式AI为企业软件公司带来的收入增长?这个属于市场洞察内容,建议参考一些行业洞察分析报告。34华为有哪些Al场景创新及AI应用落地?请参考华为云官网的相关内容:https://www.huaweicloud.com/news/2024/20240920101102196.html35华为在AI领域的未来发展规划都有什么,特别是在0代码智能构建方面?对于想要进入AI的企业和个人,华为能提供哪些服务帮助我们更好的使用AI,有哪些建议和指导?AI原生应用引擎最主要的目标就是帮助企业和个人实现0代码智能构建Agent。对于想要进入AI的企业和个人,AI原生应用引擎同样提供多样的专业服务,手把手教学。36对于数据量巨大且实时性要求高的应用,华为云AI原生应用引擎的优势在哪里?AI原生应用引擎底层使用华为云数据库,天然具备巨大数据量的处理能力。同时AI原生应用引擎提供Agent的独享资源部署,提升Agent性能。37华为云AI原生应用引擎如何确保在不同网络环境下的稳定运行和高效性能?AI原生应用引擎当前支持华为公有云、华为云Stack等运行环境,未来也将支持云、边、端的协同分布式部署架构。38华为AI原生应用引擎有哪些开放平台?如何选择合适的大模型?支持API、SDK开放。AI原生应用引擎支持大模型调测,可以直观体验大模型的不同效果。目前正在集成华为内部使用的模型评测系统,帮助客户选好大模型。39华为云AI能力对第三方开放程度如何?请参考华为云官网产品介绍中关于“人工智能”的部分;华为云各AI云服务、AI能力向所有华为云的客户、开发者在线提供。40在预测和应对潜在的安全威胁方面,华为云AI原生应用引擎有哪些先进的技术和策略?AI原生应用引擎目前集成了华为云终端安全风控能力,能够对Agent输出内容进行安全过滤。后续规划“3+1”AI应用安全体系,确保合规准入、安全生产。41华为云AI原生应用引擎在未来发展中面临的挑战和机遇都有哪些?如何利用挑战和机遇更好的发挥华为云的优势?任何产品在发展的过程中都会面临各种的挑战,且不同阶段对应的关键挑战也不一样,产品的迭代也是不断面临挑战和应对挑战的过程,当然面临挑战同时也伴随着机遇,当前AI原生应用引擎主要挑战是协同伙伴或客户找到AI价值场景并通过产品实现行业的ChatGPT时刻。华为云经过多年的行业耕耘,积累了大量的行业伙伴和客户,有丰富的行业Know-how,在当前AI这个浪潮之下,企业都将面临的一次重大的转型与升级的机遇,我们将持续协同伙伴和客户,通过AI重塑行业应用。42在数据的摄取、处理、存储和管理方面,华为云AI原生应用引擎采用了怎样的数据架构?区别于互联网时代的关系型数据库和移动互联网时代的大数据底座,AI时代的数据底座与架构是什么,业界一直在探索。华为云AI原生应用引擎正致力于打造新一代的全新的AI统一数据底座,预计明年会发布。43modelarts里面自定义cann算子生成包,可以在这边引擎安装使用吗?已集成ModelArts。44华为云AI原生应用引擎如何支持企业进行敏捷开发和快速迭代?AI原生引用引擎在产品设计上一直秉持做产品把困难留个自己,把方便留给客户的理念;产品定位就是AI应用的一站式开发平台,比如:模型的选择切换无感,开放的工具集成,便捷的工作流编排等等特性,未来还将持续构建Agent for Agents能力,更敏捷,更快速支持业务的应用创新与迭代。45华为云AI原生应用引擎如何与其他云服务提供商的产品进行互操作和集成?华为云AI原生应用引擎引擎产品架构就设计是开放的,如模型的统一汇聚与开放,工具接入与开放等,我们与其他云服务厂商的集成合作也是开放的态度,只要有利于业务,有利于客户都可以集成与开放。46如何利用华为云AI原生应用引擎快速构建一个定制化的AI检索,聊天机器人?可以体验一下我们一句话构建Agent的能力,并对其进行各种定制开发。47华为AI原生应用引擎中Loss曲线有什么作用?loss曲线是评估模型训练效果。48华为AI原生应用引擎中ClickHouse有什么功能?主要是大宽表多维聚合分析功能,实现亚秒级响应。49企业应用大模型及生成式AI时,需要注意哪些安全问题?安全是一个基础的必备能力,当前主要会面临内容安全(含提示词攻击),数据安全,模型安全,应用安全等问题。50华为云AI原生应用引擎在哪些行业有成功应用案例?华为云AI原生应用引擎在泛政府,医疗,金融,制造等多个行业都有多个应用成功案例。51推理和训练的话,数据量过大,有什么好的解决办法?比如speech这样的,多卡910b有环境吗?业界根据业务的实际情况有不同的解决办法,有的大力出奇迹,算力换时间,有的数据先转化为有效知识等,910b环境,可以与华为的昇腾云团队接洽。52华为云AI原生应用引擎在促进企业间合作与生态建设方面发挥了怎样的作用?华为云AI原生应用引擎一个关键使命就是生态建设,从应用视角出发,使能企业客户选好,用好和管好大模型,聚合生态,赋能企业,可以说起到了一个关键的桥梁作用。53华为云AI原生应用引擎在处理大规模数据时的性能如何,如何保证高可靠性?华为云AI原生应用引擎采用华为云大数据底座,具备多个行业海量数据的处理实践,在金融,政府等多个行业都有成功应用。54在架构上是如何设计来确保不同模型之间的兼容性、高效调用以及资源分配的合理性?基于微服务、Serverless等框架实现业务隔离,资源按需弹性伸缩等能力。55华为AI原生应用引擎能提供哪些模型管理服务?AI原生应用引擎会汇聚业界主流的模型,年底会实现100+模型的汇聚,同时会提供部分模型的托管。56大模型如何解决数据量有限带来的局限性呢不可否认,数据是大模型应用的最关键的输入,所谓NO DATA,NO AI。如果有局限性需要考虑如何小步试跑,把知识飞轮构建起来。57在使能千行万业智能应用创新方面,华为云AI原生应用引擎如何解决不同行业之间的差异和特殊需求?我们一般把需求区分为产品需求和解决方案需求,产品需求一般是通用共性可复制的需求,解决方案需求一般跟贴近行业场景;不同的需求不同的处理策略,主要是做好开放性,产品客户适配各种特殊场景。58华为AppStage与AI原生应用引擎平台有什么关系?AppStage是云原生应用的开发平台,AI应用也是应用的一种形态,可以理解AI原生应用引擎是AppStage的一个产品模板。59华为云AI原生应用引擎由哪些主要的组件或模块构成?这些组件之间是如何相互协作以实现整个引擎的功能的?AI原生应用引擎主要包含5大功能模板,包括模型中心,知识中心,编排中心,资产中心和安全中心,五大模板基本涵盖了AI应用开发的全生命周期管理。60大模型相关的训练需要哪些步骤才可以完成?业界一般要区分基础模型,行业模型和领域模型三种场景的训练,对应的节奏和步骤都有不同。61华为云AI原生应用引擎在助力企业转型过程中,如何平衡创新速度与应用稳定性之间的关系?速度与稳定性一直是一个重要的权衡点,我们一般常用的处理方法是区分创新态与运行态,创新态速度优先,运行态稳定优先。62请问老师哪些类型的应用亟需AI重构?或者说我们的机会在哪类应用?未来所有的AI应用都值得用AI重构一遍,我们也总结归纳了选择价值应用的方法,从商业价值,场景成熟,可持续运营角度来分析,如果你有场景可以找我们的产品一起评估一下;当前普遍认为开发者在2B的场景应用机会很多。
  • [热门活动] 叮~这里有一封《企业快成长AI研创技术创新论坛•深圳站》邀请函——期待您的莅临!
    2024年11月23日华为云联合msup在深圳举办的【企业快成长AI研创技术创新论坛】,邀请行业内知名专家与领军企业代表,分享AI与研发效能结合的新趋势,共同探讨如何通过研发创新促进业务提效,实现企业的可持续发展。诚挚邀请您莅临现场交流,共同开启技术引领业务高效发展的新篇章!立即报名
  • [热门活动] 【有奖直播 | 大咖驾到】0代码智能构建AI Agent——华为云AI原生应用引擎的架构与实践
    直播主题:0代码智能构建AI Agent——华为云AI原生应用引擎的架构与实践直播时间:2024. 11.13 16:30—18:00直播链接:cid:link_0直播讲师:苏秦 华为云aPaaS DTSE技术布道师直播简介:大模型及生成式AI对应用和软件产业带来了哪些影响?从企业场景及应用开发视角,面向AI原生应用需要什么样的工具及平台能力?企业要如何选好、用好、管好大模型,使能AI原生应用快速创新?本期直播,华为云aPaaS DTSE技术布道师苏秦将基于华为云自身实践出发,深入浅出地介绍华为云AI原生应用引擎,通过分钟级智能生成Agent应用的方式帮助企业完成从传统应用到智能应用的竞争力转型,使能千行万业智能应用创新。直播福利:福利1:互动有礼官网直播间发口令“华为云 DTSE”抽华为云开发者定制鼠标垫。福利2:持久观看有奖观看时长大于30分钟,即可参与抽奖送华为云开发者定制斜挎包。福利3:有奖提问直播过程中提问,评选优质问题送华为云开发者定制长袖圆领卫衣。更多福利:加入微信交流群,解锁更多隐藏福利哦~
  • [每月新鲜事] aPaaS月十月精选
    最新动态混合云运维现代化为政企智能跃迁保驾护航,应用运维现代化全方位提升故障感知、诊断、恢复智能化水平!社区精选【应用平台AppStage】开发者学习地图全览(持续刷新)典型问题开发中心如何申请组织管理员权限?怎么理解开发中心的需求管理?运维中心更新环境的代码包不存在规格cn_product_default运维中心监控服务删除告警任务失败?
  • [热门活动] 混合云运维现代化为政企智能跃迁保驾护航,应用运维现代化全方位提升故障感知、诊断、恢复智能化水平!
    10月25日, “四川混合云运维现代化技术沙龙”于成都成功举办。来自于四川能源、交通、制造、金融、政府等行业的数字化领先政企客户与华为混合云运维技术专家齐聚一堂,共同交流在行业智能化深入发展的大趋势下,如何与时俱进地完善基于混合云的运维管理体系,以及如何应对深度用云对运维工作带来的重大挑战。数智化加速时代,混合云运维走向现代化成为业务成功的坚实保障随着各行业数字化业务的深入推进,在完成了初步的业务上云改造后,越来越多政企用户开始将核心业务迁移上云,这就使得云平台规模越来越大,核心业务对云平台可用性、稳定性要求越来越高。因而,如何加强运维全链路监控能力,如何进行主动故障预防从而减少潜在运维投入,如何保障系统性业务高可靠高可用,如何应对平台运维安全与租户安全带来的双重挑战等问题,就成为了摆在云运维人员面前的普遍挑战。基于此,华为组织了面向四川数字化领先政企用户的混合云运维技术沙龙,共同探讨数智化时代的运维核心能力构建,交流云运维最佳实践,启发思考、相互借鉴,打造适合自身混合云建设特色的最佳运维演进方案。华为混合云中国区交付与服务部部长郭庆海在致辞中表示:“随着政企深度用云的加速,混合云承载了越来越多的核心生产系统,这对整个混合云运维体系都提出了新的挑战与要求。华为在混合云运维领域积累了大量的技术经验和运维实践,在运维体系、平台运维、应用运维、安全运维等多个方面持续探索,希望能解决政企客户在运维转型过程中面临的困难,共同探讨运维现代化发展方向,为政企客户云上业务保驾护航。”1平台+4个现代化,引领混合云运维向现代化持续演进在过往服务几千家混合云客户的运维实践中,华为持续积累云运维核心能力,并沉淀了一套全面构建稳定可靠的现代化运维能力的路径和方法。华为混合云资深运维规划专家王珂为在场嘉宾介绍了围绕“1个平台+4个现代化”的混合云运维现代化整体理念。1个运维现代化能力平台通过运维工具的持续创新,建设一个统一的运维管理平台应是政企混合云运维走向现代化的首要考虑。远程运维工具平台的建立,将为政企用户充分利用云服务商的集约式运维资源打下基础,从而可以提升运维效率,聚焦核心业务的开展。此外,数字化运营平台将能够为政企用户全局掌握云平台及业务运营情况提供数字依据,辅助科学运营决策。除此之外,政企用户还可以对自身运维资产进行智能化应用探索,例如将运维专家经验知识库、运维脚本、故障模式库等资产进行持续归纳、总结,进行人工智能应用的探索,例如智能客服、智能故障发现诊断、智能告警处理等场景。运维团队及人员能力的沉淀也是现代化运维能力平台搭建的重要一环。政企用户需要根据自身云架构的特点组建运维技术团队,培养面向未来技术栈发展的运维人才,并不断改进和完善云运维团队的管理流程和机制,以更好适应业务智能化对云运维工作提出的更高要求。4个现代化运维关键能力运维体系现代化:对于有着传统IT架构、云化架构并存的单位,进行统一的IT架构演进升级及运维体系规划至关重要。在此基础上,可以进行统一的运维技术发展规划和IT治理,同时以业务发展为核心目标推进组织、流程、考核和工具的过程协同。平台运维现代化:可通过全链路运维监控构建从应用到云平台的全栈感知能力,基于故障模式库和云网一体化运维实现确定性故障恢复,以及基于一体化风险库和混沌工程进行预见性风险治理。应用运维现代化:对于应用运维的现代化推进,应考虑将运维规划前置到设计阶段,使得业务可靠性来源于运维与业务设计的融合。此外,可以借助运维数仓构建应用可用性监控管理体系,实现业务故障的实时感知定界。安全运维现代化:运维安全体系应基于事前布局、事中管控、事后优化的思路进行设计,构建物理安全、身份认证、网络、应用、主机、数据、到运维安全的7层防线,并利用AI等先进技术从被动安全应对向智能安全转变,实现可全面感知、智能分析和智能处置的现代化安全核心能力。现代化运维体系为运维技术发展提供架构支撑在千行万业深度用云背景下,复杂技术架构与应用场景对系统稳定性、故障预防能力提出更高要求,人员技能、体系标准、数字化作业等各方面均需不断加强。华为混合云运维管理专家路军科先生在演讲中表示:针对云化转型后云运维的挑战,需要体系化规划云运维体系架构,确保安全稳健、资源高效、业务敏捷。运维对象方面,用户单位需聚焦云上运维对象储备各技能域人才,并围绕“服务请求、故障修复、业务变更和主动运维”四条主线对运维服务内容深入管理;同时,要构建“度量、组织、流程、工具、安全”五大运维支撑体系,支撑运维业务的开展和管理。华为云Stack混合云构建了人员技能模型基线、标准运维组织模型、业务流程适配方案,及从预防、感知、分析、修复、升级到运营的端到端工具平台,可以协助用户单位全方位构建运维管理体系。运维观念和技术升级助力民航二所深度践行数智化转型民航二所作为民航高新技术应用与开发的领航科研机构,积极拥抱云计算、大数据、AI等技术,构建了一个安全、可靠、智能化于一体的“民航科技云”平台。此次活动中,民航二所数据中心运维专家龚翔先生深度剖析了民航科技云运维初期所面临的挑战,介绍了民航二所运维技术发展的三大思想转变——从手动操作向自动化迈进、从被动响应向主动预防转变、从单一运维向系统化管理体系升级,并分享了通过自动化应用、智能化运维探索、安全体系加固、云端迁移四大措施,稳步推进运维体系转型升级的最佳实践。展望未来,民航二所制定了清晰的战略规划:短期内强化基础架构,增强运维体系韧性;中期提升运维效能,通过技术手段缩短响应时间提高服务稳定性;长期则致力于构建智能化运维体系,充分利用大数据与AI技术的强大潜力实现民航科技云的自治与自愈能力。民航二所将不断探索,践行运维数智化转型道路,持续为民航业的深度发展注入科技新动能。安全运维现代化,构建全场景一体化安全运维能力在“安全运维现代化方案及实践分享”环节,华为云安全运维专家朱家鑫谈到:业界泛DDoS攻击规模持续增长,防御系统的防护能力和应急响应能力存在前所未有的挑战;国家合规监管态势持续高压,因内容违规导致监管风险日益增大。华为云通过全球一体化安全运维中心,构建纵深云平台防攻击系统,实现安全攻击快速消减、内容安全零监管处罚。从运维内容、运维工具、运维人员对安全运维作业实施管控,实现可信安全运维;通过智能化演练,端到端混沌工程方案,模拟真实安全攻击过程,提升客户服务韧性和故障应对能力。华为混合云自研的1+7安全架构,提供安全云脑统一安全管理中心,并联动七层防线安全产品能力,通过100+自动化处置剧本,可实现99%事件分钟级自动化响应。远程运维服务助力四川报业稳健运营“智能+智慧+智库” 智媒云四川智媒云是承载川报集团“智能+智慧+智库”智媒体的基座。四川日报报业集团信息技术中心首席工程师冯伟分享了四川智媒云的运维实践。混合云中的新技术不断涌现,业务拓扑日益复杂,版本迭代不断加速,运维人员技能储备难以跟上技术变更的步伐。川报集团基于安全、成本、人员技能、运维成熟度等因素考量,选择了华为远程运维服务。经过一年来的实践,华为远程运维服务不但保障了川报集团智能媒体业务的平稳运行,还通过深度巡检、看网讲网服务发现了智媒云存在的隐患,帮智媒云提前规避了风险。川报集团期待与华为一起在运维现代化领域共同探索,让川报集团数智化建设迈上新的台阶。应用运维现代化全方位提升故障感知、诊断、恢复智能化水平当前,越来越多云运维管理者的关注点从以云与设备为核心的运维转向以应用为核心的运维,尤其是核心应用的运维受到格外的重视。在应用运维领域,存在多种多样的工具与技术,然而工具之间数据割裂无法形成全局视野,因而会直接影响应用运维的效率与效果。华为混合云应用运维总监马韬在“应用运维现代化方案及实践分享”环节提出,要将应用的可靠性保障前置到设计阶段,通过高可用设计提升应用的可靠性。马韬表示:“在面对云原生带来的高复杂度、高成本以及高速迭代的应用运维挑战时,构建一个以应用视角为核心的一站式数智化运维平台,能够有效地整合端到端的运维对象,消除离散工具形成的数据孤岛。一站式数智化应用运维平台可以帮助企业持续提升应用的稳定性,提高资源使用效率,助力企业的商业成功。”华为混合云运营部部长贡青在总结致辞中表示:“ 运维技术的发展随着云平台软件产品的更新迭代也在与时俱进。在各行各业数智化加速势不可挡的今天,更加要注重运维技术的规划前移,围绕业务对可靠稳定的要求,面向应用、面向安全,进行技术的准备,流程的构建,让运维工作成为业务发展的助推器,助力用户业务成功。”华为云Stack混合云运维技术已服务全球超过5000家政企客户,为政企深度用云持续提供稳健运行的可靠保障。目前,华为云在全球部署了六大区域级技术支持中心及四大远程运维中心,提供7*24小时技术支持服务及运维托管、协助运维等多样化运维服务,确保全球客户云平台安全可靠稳定运行。
  • [活动公告] 【开发者日南京站】产品体验官:华为云AI原生应用引擎
    华为云开发者日·南京站来啦!参加“华为云AI原生应用引擎”体验项目提出你的建议或使用体验有机会获得开发者盲盒礼包惊喜不容错过,快叫上小伙伴一起来参加吧~【体验项目】华为云AI原生应用引擎【活动时间】2024年10月25日-10月31日【参与方式】直接在此活动帖下方回帖提建议/提建议即可比如对产品功能的改进建议、对活动流程的感想、对现场活动的感悟等等PS:不要少于30字哦~【获奖规则】奖项设置有效回复楼层评选条件获奖名额激励礼品优质建议奖20对产品功能有改进价值的建议1名开发者盲盒礼品价值50-100元积极反馈奖20优质建议奖轮空的情况下进行抽取每满20层抽取1名开发者盲盒礼品价值50元【活动规则】1、本帖的回帖建议不少于30字,仅限于对“华为云AI原生应用引擎”体验项目,其他项目建议不参与此次活动,否则将视为无效内容。2、本次活动将根据实际参与情况发放奖励,包括但不限于用户百分之百中奖或奖项轮空的情况;以上奖品均为实物奖品,具体发放视出库情况而定;3、活动预计于结束后七天内完成奖项公示,并于结束后15个工作日内完成邮寄。【温馨提示】1、请务必使用个人实名账号参与活动(IAM、企业账号等账号参与无效)。如一个实名认证对应多个账号,只有一个账号可领取奖励,若同一账号填写多个不同收件人或不同账号填写同一收件人,均不予发放奖励。2、所有获得奖品的获奖用户,请于获奖后3日内完成实名认证,否则视为放弃奖励。
  • 【开发者日南京站】产品体验官:快速上手TinyEngine低代码引擎插件开发
    华为云开发者日·南京站来啦!参加“快速上手TinyEngine低代码引擎插件开发”体验项目提出你的建议或使用体验有机会获得开发者盲盒礼包惊喜不容错过,快叫上小伙伴一起来参加吧~【体验项目】快速上手TinyEngine低代码引擎插件开发【活动时间】2024年10月25日-10月31日【参与方式】直接在此活动帖下方回帖提建议/提建议即可比如对产品功能的改进建议、对活动流程的感想、对现场活动的感悟等等PS:不要少于30字哦~【获奖规则】奖项设置有效回复楼层评选条件获奖名额激励礼品优质建议奖20对产品功能有改进价值的建议1名开发者盲盒礼品价值50-100元积极反馈奖20优质建议奖轮空的情况下进行抽取每满20层抽取1名开发者盲盒礼品价值50元【活动规则】1、本帖的回帖建议不少于30字,仅限于对“快速上手TinyEngine低代码引擎插件开发”体验项目,其他项目建议不参与此次活动,否则将视为无效内容。2、本次活动将根据实际参与情况发放奖励,包括但不限于用户百分之百中奖或奖项轮空的情况;以上奖品均为实物奖品,具体发放视出库情况而定;3、活动预计于结束后七天内完成奖项公示,并于结束后15个工作日内完成邮寄。【温馨提示】1、请务必使用个人实名账号参与活动(IAM、企业账号等账号参与无效)。如一个实名认证对应多个账号,只有一个账号可领取奖励,若同一账号填写多个不同收件人或不同账号填写同一收件人,均不予发放奖励。2、所有获得奖品的获奖用户,请于获奖后3日内完成实名认证,否则视为放弃奖励。
  • [问题求助] 运维中心创建CES指标采集报错
    运维中心创建CES指标采集报错
  • [问题求助] 运维中心告警后触发知识编排任务提示alert_type不存在?
    部分告警任务告警后触发知识编排任务报错,提示alert_type不存在,可能由于该告警任务从老版本迁移过来,一直没有调整过,其告警结果表中没有该字段,所以会出现这种报错。
  • [问题求助] 运维中心监控服务删除告警任务失败?
    运维中心监控服务删除告警任务失败?
  • [问题求助] 运维中心监控服务如何查看EAP详细日志?
    变更管理时出现如下报错:
  • [问题求助] 运维中心部署服务如何自动获取验签?
    运维中心部署服务如何自动获取验签?
  • [问题求助] 运维中心更新环境时报错
    更新环境时出现“iacpatch query string format not valid”报错。
总条数:146 到第
上滑加载中