• [技术干货] 【DTSE Tech Talk 精选问答】NO.71丨0代码智能构建AI Agent——华为云AI原生应用引擎的架构与实践
    大模型及生成式AI对应用和软件产业带来了哪些影响?从企业场景及应用开发视角,面向AI原生应用需要什么样的工具及平台能力?企业要如何选好、用好、管好大模型,使能AI原生应用快速创新?本期直播,华为云aPaaS DTSE技术布道师苏秦将基于华为云自身实践出发,深入浅出地介绍华为云AI原生应用引擎,通过分钟级智能生成Agent应用的方式帮助企业完成从传统应用到智能应用的竞争力转型,使能千行万业智能应用创新。直播链接:cid:link_0Q:面对行业竞争加剧,华为云AI原生应用引擎如何不断优化算法以提升智能应用的精准度和效率,从而为企业在市场中赢得更大优势?A:持续发展繁荣生态,接入业界主流大模型;通过项目经验和伙伴协同,沉淀行业资产;聚焦业界主流趋势和技术发展,落地多种编排方式和编排能力;通过模型能力+RAG工程能力+编排能力+知识循环机制+资产沉淀形成合力,共同助力AI应用效果最佳。Q:对于那些对0代码构建AIAgent感兴趣的开发者,您有什么建议或资源推荐?A:基于大模型的0代码开发更适用于业务人员或者初级开发者,理解工具、技能、插件、知识库、RAG能力、工作流、记忆等概念,关键是懂得业务流程和Know-How,通过技术与业务的组合,就可以实现最佳匹配业务场景的各类AI应用。Q:华为云AI原生应用平台如何降低开发难度?A:AI原生应用引擎平台提供开箱即用的工具、可自由灵活编排的工作流、知识库及其开放的、可编排的RAG工程能力、知识检索流、记忆能力等众多可视化,可编排的能力 ,让AI业务人员也可以通过这些可视化的工具能力,快速完成场景应用的编排开发。Q:在设计AI原生应用引擎时,您是如何考虑系统的可扩展性和灵活性的?A:整个系统是基于模块化构建的,每个模块功能相对解耦及可扩展,可独立进行技术演进和生态发展,各个模块通过业务流串联在一起,客户可方便快速地完成业务场景应用的构建。如果业务流上某一个节点要更新,也可以单独更新。Q:随着企业数字化转型的深入,对于那些拥有众多历史悠久且复杂的遗留业务系统的大型企业,华为云AI原生应用引擎在整合和优化这些系统,实现与新的智能应用的无缝对接和协同工作方面,具备哪些独特的技术能力和解决方案?A:AI原生应用引擎提供了API-Hub,不仅托管了数万+行业API,也支持企业托管私有场景API,这些API可以无缝集成到AI Agent应用中,实现存量应用于新智能应用的协同;API-Hub作为一站式API生命周期管理平台工具,提供了丰富的能力和可靠性。Q:从实践角度看,0代码智能构建AIAgent的可扩展性如何?是否可以方便地根据业务的发展进行扩展和升级?A:0代码构建AI Agent,仍然支持进行更复杂的功能业务的可视化编排,以集成更多的周边工具以及匹配复杂的业务场景。Q:0代码构建AIAgent的技术原理是什么?A:通过平台预置的大模型,根据用户的一句话输入进行Agent定义扩写,并自动为agent选择平台中合适的工具、知识库等,自动生成可用的Agent应用。当然,也支持通过LUI界面实现复杂的业务定义,而无需任何编码。Q:在当前复杂多变的国际商业环境中,华为云AI原生应用引擎如何协助跨国企业应对不同国家和地区在数据主权、隐私法规、行业标准等方面的巨大差异,以确保其在全球范围内的应用开发和部署能够顺利进行并且完全合规?A:可以参考华为云官网相关说明: https://www.huaweicloud.com/about/global-infrastructure.html AI原生应用引擎遵照华为云的全球布局及相关合规性遵从规定。Q:华为云AI原生应用引擎如何处理大规模数据和复杂计算任务?A:简单来说,AI原生应用引擎默认集成了华为云PaaS层的大数据服务以及函数计算等服务,可以处理非常大规模的数据及计算任务;这些底层组件对开发者是透明的、免维护的。Q:华为云AI原生应用引擎支持哪些类型的AI应用开发?A:政务、办公、金融、交通、煤矿、电商、医疗、教育等众多行业的复杂场景AI应用皆可支持。Q:华为云AI原生应用引擎如何帮助企业在数字化转型过程中实现业务流程的优化和再造?A:所有数据数字化,所有业务AI化,根据企业业务的具体场景,提供合理的解决方案,通过AI赋能人,AI赋能事,可以做到企业资产沉淀规划范化,业务效率提升,达到降本增效。Q:华为云AI原生应用引擎在安全性和隐私保护方面有哪些措施?A:针对数据安全、模型安全、内容风控、应用安全,建立四道防线,通过数据合规治理、模型安全对齐、安全评测、大模型安全护栏等AI安全可信治理策略,保障客户隐私数据安全。Q:平台是否支持与现有的企业系统或第三方服务集成?A:支持。资产中心可以上架所有三方的服务和资产,包含但不限于AI应用、数据集、工具、大模型、提示词模版等。Q:华为云AI原生应用引擎在实际业务场景中的应用案例有哪些?A:知识问答、电话咨询、病情筛查、数据查询、售后咨询、技术支持等。Q:在保障应用的高可用性和容错性方面,华为云AI原生应用引擎采用了哪些创新的技术手段?A:简单说分两层,一,AI原生应用引擎所依赖的华为云服务,都采用了多AZ、或者多Region的高可靠、高可用部署架构;二,AI原生应用引擎自身的微服务采用了双AZ的高可用架构;因此,无论是平台自身,还是托管的AI Agent应用,都可以获得高可用及高可靠的能力。Q:华为云AI原生应用引擎如何促进企业内部不同团队(如开发、运维、业务)之间的高效协作?A:通过不同团队、不同项目之间的架构设计和权限管理,可实现关键资产隔离,公共资产共享,所有业务流程数字化和智能化,高效协同。Q:华为云AI原生应用引擎在哪些具体的行业和业务场景中得到了实践应用?A:政务、办公、金融、交通、煤矿、电商、医疗、教育等众多行业中落地了知识问答、电话咨询、病情筛查、数据查询、售后咨询、技术支持等场景。Q:对于没有编程背景的用户,如何快速上手使用这个平台?A:不需要具备传统编程技能,但需要了解和掌握面向AI开发的工具、技能、插件、知识库、RAG能力、工作流、记忆等编排能力的使用,关键是了解业务场景的业务流程,就可以编排出契合实际业务场景的复杂AI应用。Q:华为云AI原生应用引擎的技术架构是怎样的?它如何支持0代码开发?A:通过平台预置的大模型,根据用户的一句话输入进行Agent定义扩写,并自动为agent选择平台中合适的工具、知识库等,自动生成可用的Agent应用。当然,也支持通过LUI界面实现复杂的业务定义,而无需任何编码。Q:平台计划引入哪些新的功能或技术来进一步提升用户体验?A:优化界面的使用体验,提升RAG工程能力,增加模型评测能力,增加Agent编排的技能。Q:对于具有高度定制化需求的企业,华为云AI原生应用引擎如何实现个性化配置与规模化推广的平衡?A:针对不同类型的客户,制定几套合理平衡的解决方案,满足客户需求,达成项目交付。Q:在数据隐私法规日益严格的背景下,华为云AI原生应用引擎如何协助企业进行合规性审计和风险评估?A:AI原生应用引擎目前集成了华为云终端安全风控能力,能够对Agent输出内容进行安全过滤。后续规划“3+1”AI应用安全体系,确保合规准入、安全生产Q:在AIAgent的开发过程中,有哪些常见的性能瓶颈和解决方案?A:AI Agent性能瓶颈分为两层,其中大模型侧的回答是关键因素,也是各大模型厂商的重要命题。作为AI Agent平台,AI原生应用引擎提供SLA级保障,通过Agent的独占资源部署,保证在大模型响应外能够做到随时扩缩容以保证性能。Q:现在AI大多数文字方面的,有没有图片识别方面的AI。比如做智能货柜。能否通过华为的Aiagent通过摄像头来判断用户的价格A:AI原生应用引擎目前已经接入了少量的多模态大模型,后续会接入更多主流多模态大模型,应用形态上也会考虑图片理解等多模态场景Q:现在AIagent,除了问答,生成图片和声音。还有没有什么能完全代替人工完成某一项工作的具体应用,而不是单纯的辅助人工的工具。A:目前和慧通差旅有做订酒店的Agent,能够自动根据差旅单帮助预定酒店,但过程中还是需要人的参与,譬如最终的确认阶段。Q:开发者如何扩展或定制AIAgent的功能以满足特定需求?A:开发者可以基于AI原生应用引擎提供的API和SDK,灵活定制。Q:在模型训练过程中,如何利用华为云AI原生应用引擎的分布式架构提高效率?A:AI原生应用引擎不涉及模型训练,而是提供模型之上的AI Agent应用的开发。Q:华为云AI原生应用引擎如何确保用户数据的安全性和隐私保护?A:AI原生应用引擎目前集成了华为云终端安全风控能力,能够对Agent输出内容进行安全过滤。后续规划“3+1”AI应用安全体系,确保合规准入、安全生产。Q:对于行业新进入者,华为云AI原生应用引擎能提供怎样独特的支持来帮助他们快速适应市场?A:首先提供极低门槛的Agent构建能力,其次提供开箱即用的问答问数服务,配合专业服务直接帮客户搞定场景。Q:如何与合作伙伴共同推动AI原生应用的创新和发展,实现互利共赢?A:不断扩展模型伙伴、Agent伙伴、数据伙伴及ISV伙伴,丰富生态的同时,制定完善的商业机制,保证伙伴能够获利。Q:华为云AI原生应用引擎如何帮助企业提升用户体验和客户满意度?A:通过赋能企业创建不同业务场景的助手,提升企业客户的体验和满意度Q:华为在AI领域的未来发展规划都有什么,特别是在0代码智能构建方面?对于想要进入AI的企业和个人,华为能提供哪些服务帮助我们更好的使用AI,有哪些建议和指导?A:AI原生应用引擎最主要的目标就是帮助企业和个人实现0代码智能构建Agent。对于想要进入AI的企业和个人,AI原生应用引擎同样提供多样的专业服务,手把手教学。Q:对于数据量巨大且实时性要求高的应用,华为云AI原生应用引擎的优势在哪里?A:AI原生应用引擎底层使用华为云数据库,天然具备巨大数据量的处理能力。同时AI原生应用引擎提供Agent的独享资源部署,提升Agent性能。Q:华为云AI原生应用引擎如何确保在不同网络环境下的稳定运行和高效性能?A:AI原生应用引擎当前支持华为公有云、华为云Stack等运行环境,未来也将支持云、边、端的协同分布式部署架构。Q:华为AI原生应用引擎有哪些开放平台?如何选择合适的大模型?A:支持API、SDK开放。AI原生应用引擎支持大模型调测,可以直观体验大模型的不同效果。目前正在集成华为内部使用的模型评测系统,帮助客户选好大模型。Q:华为云AI原生应用引擎在未来发展中面临的挑战和机遇都有哪些?如何利用挑战和机遇更好的发挥华为云的优势?A:任何产品在发展的过程中都会面临各种的挑战,且不同阶段对应的关键挑战也不一样,产品的迭代也是不断面临挑战和应对挑战的过程,当然面临挑战同时也伴随着机遇,当前AI原生应用引擎主要挑战是协同伙伴或客户找到AI价值场景并通过产品实现行业的ChatGPT时刻。华为云经过多年的行业耕耘,积累了大量的行业伙伴和客户,有丰富的行业Know-how,在当前AI这个浪潮之下,企业都将面临的一次重大的转型与升级的机遇,我们将持续协同伙伴和客户,通过AI重塑行业应用。Q:华为云AI原生应用引擎如何支持企业进行敏捷开发和快速迭代?A:AI原生引用引擎在产品设计上一直秉持做产品把困难留个自己,把方便留给客户的理念;产品定位就是AI应用的一站式开发平台,比如:模型的选择切换无感,开放的工具集成,便捷的工作流编排等等特性,未来还将持续构建Agent for Agents能力,更敏捷,更快速支持业务的应用创新与迭代。Q:华为云AI原生应用引擎如何与其他云服务提供商的产品进行互操作和集成?A:华为云AI原生应用引擎引擎产品架构就设计是开放的,如模型的统一汇聚与开放,工具接入与开放等,我们与其他云服务厂商的集成合作也是开放的态度,只要有利于业务,有利于客户都可以集成与开放。Q:华为AI原生应用引擎中Loss曲线有什么作用?A:loss曲线是评估模型训练效果Q:华为AI原生应用引擎中ClickHouse有什么功能?A:主要是大宽表多维聚合分析功能,实现亚秒级响应。Q:企业应用大模型及生成式AI时,需要注意哪些安全问题?A:安全是一个基础的必备能力,当前主要会面临内容安全(含提示词攻击),数据安全,模型安全,应用安全等问题。Q:推理和训练的话,数据量过大,有什么好的解决办法?比如speech这样的,多卡910b有环境吗?A:业界根据业务的实际情况有不同的解决办法,有的大力出奇迹,算力换时间,有的数据先转化为有效知识等,910b环境,可以与华为的昇腾云团队接洽。Q:华为云AI原生应用引擎在促进企业间合作与生态建设方面发挥了怎样的作用?A:华为云AI原生应用引擎一个关键使命就是生态建设,从应用视角出发,使能企业客户选好,用好和管好大模型,聚合生态,赋能企业,可以说起到了一个关键的桥梁作用。Q:华为云AI原生应用引擎在处理大规模数据时的性能如何,如何保证高可靠性?A:华为云AI原生应用引擎采用华为云大数据底座,具备多个行业海量数据的处理实践,在金融,政府等多个行业都有成功应用。Q:在架构上是如何设计来确保不同模型之间的兼容性、高效调用以及资源分配的合理性?A:基于微服务、Serverless等框架实现业务隔离,资源按需弹性伸缩等能力Q:华为AI原生应用引擎能提供哪些模型管理服务?A:AI原生应用引擎会汇聚业界主流的模型,年底会实现100+模型的汇聚,同时会提供部分模型的托管。Q:大模型如何解决数据量有限带来的局限性呢A:不可否认,数据是大模型应用的最关键的输入,所谓NO DATA,NO AI。如果有局限性需要考虑如何小步试跑,把知识飞轮构建起来。Q:在使能千行万业智能应用创新方面,华为云AI原生应用引擎如何解决不同行业之间的差异和特殊需求?A:我们一般把需求区分为产品需求和解决方案需求,产品需求一般是通用共性可复制的需求,解决方案需求一般跟贴近行业场景;不同的需求不同的处理策略,主要是做好开放性,产品客户适配各种特殊场景。Q:华为AppStage与AI原生应用引擎平台有什么关系?A:AppStage是云原生应用的开发平台,AI应用也是应用的一种形态,可以理解AI原生应用引擎是AppStage的一个产品模板。Q:华为云AI原生应用引擎由哪些主要的组件或模块构成?这些组件之间是如何相互协作以实现整个引擎的功能的?A:AI原生应用引擎主要包含5大功能模板,包括模型中心,知识中心,编排中心,资产中心和安全中心,五大模板基本涵盖了AI应用开发的全生命周期管理。Q:大模型相关的训练需要哪些步骤才可以完成?A:业界一般要区分基础模型,行业模型和领域模型三种场景的训练,对应的节奏和步骤都有不同。Q:华为云AI原生应用引擎在助力企业转型过程中,如何平衡创新速度与应用稳定性之间的关系?A:速度与稳定性一直是一个重要的权衡点,我们一般常用的处理方法是区分创新态与运行态,创新态速度优先,运行态稳定优先。Q:请问老师哪些类型的应用亟需AI重构?或者说我们的机会在哪类应用?A:未来所有的AI应用都值得用AI重构一遍,我们也总结归纳了选择价值应用的方法,从商业价值,场景成熟,可持续运营角度来分析,如果你有场景可以找我们的产品一起评估一下;当前普遍认为开发者在2B的场景应用机会很多。想要了解 0代码智能构建AI Agent 更多相关知识,欢迎观看DTSE Tech Talk 系列技术直播
  • 【DTSE Tech Talk直播回顾】零代码构建AI Agent——华为云AI原生应用引擎的架构与实践
    本期直播详解基于大模型的生成式AI,将会引领我们走向AGI通用人工智能时代,经常有人说,在大模型和生成式AI时代,一切应用都值得用AI重做一遍。这是为什么呢?作为技术从业者,我们需要理解大模型生成式AI给软件开发产业带来的影响:● 在企业业务活动中,最难以传承和复制的就是业务知识和经验,大模型是一种比较好的途径,能够将企业已经积累的知识经验、场景know-how等内容,以模型的方式对外提供。● 基于大模型产生了一些场景化的AI能力,这是之前传统AI或传统编程方式所不具备的,比如智能营销内容、辅助软件开发过程、方案生成、智能客服等。● 基于大模型的AI原生应用给人们的业务活动带来了根本性改变,比如人际交互方式、内容生产方式、个性化用户体验、定制化软件交付等。对于大模型带来的颠覆性技术创新以及对应用开发的影响,可以归纳为两个方面:从大模型技术本身来讲,有三方面的颠覆性创新1. 文生图、文生视频等X到Y的生成/创造能力,这是非常通用的智能化技术;2. 解数学题、做规划等推理和求解能力;3. 自然语言对话等自然交互能力。这是之前传统软件开发或传统软件技术栈内部不具备的一些能力,称之为颠覆性的变。从软件的视角带来了两个层面的改变1. AI赋能人,在一定程度上模拟人、超越人,比如具身智能和AI Agent分别在物理世界、数字世界辅助人、替代人;2. AI重塑存量软件及工具,显著提升人的效率及体验。大模型与生成式AI驱动软件产业发生新的范式变革第一点是认知和思想方面的变化,称为AI First新思想,即在软件开发或业务活动中遇到任何问题,首先会思考如何用大模型和生成式AI的技术来解决,这是一种新的思维方式,既包括了对技术的认知,也包括了如何用技术来重构既有的业务流程,或者颠覆既有的开发模式。第二点是AI Native新实践,指从架构、流程、方法等层面带来的新的最佳实践。除此之外,还可以从4个方面来理解大模型生成式AI给软件开发活动带来的影响:新架构:从构成式架构到生成式架构的变化;新体验:从键鼠与触摸到自然交互的变化;新工程:从以人为本的协作开发到以数据为本的生成式开发的变化;新商业:从软件即服务到服务即软件的变化。大模型落地企业场景,需要解决的六大关键挑战1)如何选择合适的大模型,建立有效的模型引入机制业界模型种类繁多,有不同规格、不同模态,解决问题时如何选择最合适的模型,是一个比较复杂的问题,必须要解决几个关键要素,比如对模型进行专业评测、模型引入要有一套管理机制、回避风险问题以及有效治理能力各异的大模型等。2)如何用好大模型,在基模之上进一步提升应用使用效果提示词工程:提示词的核心是对业务的理解和抽象,它是围绕业务的一种高度凝练的总结和抽象,构建提示词工程有一定的门槛;模型复用和模型编排:在实际场景中存在多种不同模型的复合使用,需要实现模型之间的有机调度和编排;持续迭代:做完程序或功能后,必然存在如何持续演进的问题,需要基于业务的反馈、知识标注和数据回流来持续提升模型,保证业务效果得到持续优化。3)如何建立IT部门与业务部门的有效协同机制选择合适的场景需要规避两个问题,一是当前模型可能不太擅长某些问题,二是要注意选择通过低成本解决高价值场景;基于大模型的生成式应用开发,不仅是IT问题,更多的是业务问题,它以数据为中心、结合业务场景,因此,业务部门和IT部门/开发团队在AI原生应用的开发过程中需要做有效协同;开发活动中需要有效实现协同来构筑公共资产,包括业务领域的知识/数据资产、模型和开发活动中的一些公共能力和组件的相关资产。4)如何准备丰富的高质量数据,帮助AI理解业务B端业务场景的数据不太充分,需要通过一定经验和方法来准备高质量数据,华为总结了一些开发的业务活动,构筑到工具平台里面,来辅助开发者完成数据准备;语言类模型本身具备语言能力和推理能力,回答客户问题需要基于企业内部知识库来生成,而不能用模型内部知识,避免给用户造成误导;抑制具备通用知识的模型在业务适配后产生的幻觉,通常是通过挂载外部知识库的方式来实现,但知识库比较复杂、内容来源多样、有多种不同形态,需要有效管理协同知识库的内容,才能确保在检索和生成过程中引用到合适的知识,从而达到更好的幻觉抑制效果。5)如何建立完善的风险保障机制,确保AI安全可信治理我国针对大模型、基于大模型生成的应用,都有相关的安全合规、管理的制度和内容,这就要求具备一些能力从源头上确保合法合规。从资产安全性角度,大模型压缩的行业知识和经验、挂载给模型的知识库内容、模型生成的内容,都属于高价值资产,如何保证模型安全、数据安全,也需要重点考虑和解决。6)如何应对大模型带来的投资成本在大模型训练推理算力和大模型业务开发活动过程中,平衡成本和收益始终是一个绕不开的话题,可以通过良好的业务规划和设计来复用模型,来达到算力和请求之间的一种均衡,也可以运用提示词缓存等机制,有效降低模型在推理过程中的消耗和成本开支。华为云AI原生应用引擎,使能千行万业AI原生应用创新针对以上挑战,华为云推出了AI原生应用引擎,给开发者提供了AI原生应用的一站式服务平台,从模型本身角度,是帮助企业选好、用好、管好大模型,从应用开发效率和效果角度,是赋能开发者实现AI原生应用创新,主要有五大功能:1. 模型中心:提供模型评测、模型调度、模型可观测性统计、模型治理等相关的功能和活动。模型中心的核心是模型网关,对业界主流大模型、商业大模型、自建模型进行托管,统一管理和调度各种不同来源、不同用途的模型,通过集中的网关来实现统一注册、接入、调度、路由、分发和可观性跟踪,把已有的或第三方模型资产快速注入到模型网关中进行预集成验证,方便被上层调用,同时,模型中心还提供了基于ABM的元数据管理机制,根据模型的种类、规格、来源、用途等建立一个清晰的管理清单,确保在业务活动过程中相关资产的安全性和合规性;模型中心从华为自身的场景实践和内外部生态的汇聚,提供了针对模型场景的自动化评测框架,难度在于缺乏B端企业生产场景的数据,需要用企业自身的相关知识和评估方法去完成,目前有两种方法来判定评测生成的结果,一是基于一个评判的模型,即AI评判AI的自动化方式,二是引入相关专家的经验和知识,由专家来标注或者判定结果,两者结合来给出最终评判结果;当推理的算力集群或模型本身发生故障时,提供了模型Failover机制,后端实现自动切换,前端业务场景无感知,不影响上层业务应用;在模型中心网关节点通道上,对输入输出的内容进行合规过滤和监测,同时监控模型推理的性能,提供全面的关于后端的客观性度量和跟踪机制。2.知识中心:通过提示词工程、模型检索增强生成RAG工程、Agent工程等来提升模型场景效果并持续迭代优化。高质量提示词输出难度大,目前有两种解决思路,一是总结一些场景的优秀实践形成提示词模板可供直接使用,二是用AI的方式对用户输入的内容进行改写、扩写,把模糊性、片段性的内容转换成相对较精确、描述结构较完整的提示词,提升模型推理能力,并根据生成结果的反馈来判断应用效果,持续迭代和优化提示词模板;将业务经验和知识的文档类资产导入到平台里,转变成模型能够理解和消费的知识,并提供知识数据的加工、标注处理、生成的功能;训练过程中可能出现数据不透明、过时、本身质量差、存在事实性错误等问题,通常使用模型检索增强生成RAG的方式来完成增强,它是一个程序化、工程化的实现,包括了对查询输入意图的理解、改写、转写和对后端不同知识库的查询编排,可以通过串接传统搜索、数据库、知识库等相关内容的融合检索来生成最终想要的结果;根据前端交互界面生成结果的评测和反馈,来优化知识库内容、模型训练数据和对模型调优。3.Agent编排:基于模型之上有效地连接既有的业务能力、数据、其他不同的第三方模型等,来实现复杂的业务活动。大模型在推理能力上的局限性导致无法解决比较复杂的任务和场景,在目前的Agent开发过程中,都采用了流编排或流引擎技术,这是通过一种预定义的方式,预先完成对业务的拆解,来实现有效调度和协同;华为云AI原生应用引擎支持0码方式实现Agent编排和SDK方式来串接不同的模型或AI Agent完成高码编排,提供了丰富的场景、强大的流处理引擎和相关处理机制、对千万级Agent调度协同的管理能力和基于函数编程、代码执行的相关能力,高效利用资源,处理灵活方便;在南向和北向上提供了两层API封装的定义,便于在南向对接业界各种不同的大小模型,在北向开放接口,使能开发者基于AI原生应用引擎平台完成对存量应用的改造和重塑,或新形态应用的开发,来实现北向生态的繁荣。4.AI可信治理:通过平台化build-in的安全机制和能力,保证模型生成内容结果的可靠性和数据资产、模型资产的安全性等。基于华为内部的实践经验,内置了全流程可信的工具方法,根据不同的角色和权限定义,保护数据、知识库、Agent应用以及相关业务;传统应用的输出结果都是确定的,在一定程度上是可信的,而AI应用生成的结果比较灵活,有一定的风险,需要采取隔离措施来保证这两者之间安全合规的集成和调用。5.AI资产库:开发活动中沉淀和积累的场景模型、数据、知识、提示词、Agent、业务活动资产等,都可以放到资产库里,来实现最大范围内的复用,有效提升后续开发的效率和质量。资产中心内置了行业伙伴和行业实践相关的数据资产,API Hub里预封装了行业能力的API资产,比如卡车物流、天气查询、打车等生产生活中常见的场景API Kit,方便被大模型或Agent调用;基于大模型的AI原生资产,包括Agent开发模板、场景模型、知识资产等,帮助开发者降低开发难度和复杂度,来快速完成应用创新。赋能开发者完成AI原生应用的快速创新● AI原生应用构建模式一:Agent分钟级构建,一站式、顾问式快速构建Agent应用基于大模型的智能系统,提供专家顾问的方式来引导推荐生成智能应用,即Agent应用的一站式/分钟级构建能力,只需在平台描述业务诉求、业务场景,剩下的应用生成的工作交给平台,无论是数据、工具调用、知识库挂载、提示词模板等相关内容,都可以通过AI的方式来智能化、自动化地生成,有效降低智能应用的开发难度或复杂度,这就是“Agent for Agent”。● AI原生应用构建模式二:基于工作流构建针对特别复杂的任务或企业内部涉及到大量跟存量系统之间的集成工作,必不可少会使用工作流编排方式,工作流里面提供了比较丰富的节点能力,可以串接大小模型节点、逻辑控制节点等等,支持调用外部工具或AI应用,实现不同的功能。码上申请公测免费体验0代码创建智能应用▼▼▼                                                                                                                                                                                    AI原生应用引擎,使能千行万业AI原生应用创新● AI智能导诊:助力医患沟通,辅助医生诊疗,让优质资源惠及大众在医疗行业,Agent应用在一定程度上可以扮演专家顾问的角色,在就诊前为患者提供咨询服务,在完成基础检查后解读检查结果,另外,在就诊过程中,可以辅助医生完成患者病例、治疗结果等内容的生成,通过专业模型提供专业诊断建议,以及就诊后的管理、问题解答等,以缓解医疗资源有限的局面,而在这个过程中所积累的资产和数据,还可以反向提供给医院用于教学活动、培养实习生。● AI智能客服:AI专家7*24小时在线服务,智能快速排障AGV智能搬运机器人是在制造行业被大规模使用的一种设备,不可避免地会出现一些故障,过去处理过程繁复,现在用AI方式,可以通过采集现场设备信息和用户前端上报来对故障问题做预判,基于后端智能客服的AI程序来回答用户的问题、辅助诊断、提供解决方案,如果无法解决,再安排工程师去现场,并把相关的案例整理成重复使用的知识库案例,来应用到后续的环节中去,提升诊断效率。从智能客服的完整流程来看,在每个环节都涉及到对AI的有效使用,比如智能问答、语音交互、日志解析、前端感知、数字孪生系统对接、向前端设备下发指令、历史对话接口管理等,帮助AGV客户和厂商管理人员完成故障处理。合作共赢,加速千行万业的智能化升级华为是技术供应商,提供算力底座、生态底座、人才培训底座,但最终要完成对行业的AI重塑或AI化改造,则依赖广大开发者和生态伙伴,华为云开天aPaaS提供三个使能:商业使能与开发者和ISV伙伴实现能力共建、商机共享;技术使能华为内部有大量AI原生应用开发的工程方法和最佳实践总结,可以提供专业服务;生态使能华为云有非常广泛的生态能力和工具,可以帮助开发者和ISV伙伴在华云上生长和壮大。【直播Q&A】cid:link_0【视频回看】cid:link_1
  • [技术干货] 《DTSE Tech Talk》技术直播Q&A:零代码构建AI Agent——华为云AI原生应用引擎的架构与实践
    《DTSE Tech Talk》技术直播Q&A:零代码构建AI Agent——华为云AI原生应用引擎的架构与实践序号问题回答1面对行业竞争加剧,华为云AI原生应用引擎如何不断优化算法以提升智能应用的精准度和效率,从而为企业在市场中赢得更大优势?持续发展繁荣生态,接入业界主流大模型;通过项目经验和伙伴协同,沉淀行业资产;聚焦业界主流趋势和技术发展,落地多种编排方式和编排能力;通过模型能力+RAG工程能力+编排能力+知识循环机制+资产沉淀形成合力,共同助力AI应用效果最佳。2对于那些对0代码构建AIAgent感兴趣的开发者,您有什么建议或资源推荐?基于大模型的0代码开发更适用于业务人员或者初级开发者,理解工具、技能、插件、知识库、RAG能力、工作流、记忆等概念,关键是懂得业务流程和Know-How,通过技术与业务的组合,就可以实现最佳匹配业务场景的各类AI应用。3华为云AI原生应用平台如何降低开发难度?AI原生应用引擎平台提供开箱即用的工具、可自由灵活编排的工作流、知识库及其开放的、可编排的RAG工程能力、知识检索流、记忆能力等众多可视化,可编排的能力 ,让AI业务人员也可以通过这些可视化的工具能力,快速完成场景应用的编排开发。4在设计AI原生应用引擎时,您是如何考虑系统的可扩展性和灵活性的?整个系统是基于模块化构建的,每个模块功能相对解耦及可扩展,可独立进行技术演进和生态发展,各个模块通过业务流串联在一起,客户可方便快速地完成业务场景应用的构建。如果业务流上某一个节点要更新,也可以单独更新。5随着企业数字化转型的深入,对于那些拥有众多历史悠久且复杂的遗留业务系统的大型企业,华为云AI原生应用引擎在整合和优化这些系统,实现与新的智能应用的无缝对接和协同工作方面,具备哪些独特的技术能力和解决方案?AI原生应用引擎提供了API-Hub,不仅托管了数万+行业API,也支持企业托管私有场景API,这些API可以无缝集成到AI Agent应用中,实现存量应用于新智能应用的协同;API-Hub作为一站式API生命周期管理平台工具,提供了丰富的能力和可靠性。6从实践角度看,0代码智能构建AIAgent的可扩展性如何?是否可以方便地根据业务的发展进行扩展和升级?0代码构建AI Agent,仍然支持进行更复杂的功能业务的可视化编排,以集成更多的周边工具以及匹配复杂的业务场景。7在当前复杂多变的国际商业环境中,华为云AI原生应用引擎如何协助跨国企业应对不同国家和地区在数据主权、隐私法规、行业标准等方面的巨大差异,以确保其在全球范围内的应用开发和部署能够顺利进行并且完全合规?可以参考华为云官网相关说明:https://www.huaweicloud.com/about/global-infrastructure.htmlAI原生应用引擎遵照华为云的全球布局及相关合规性遵从规定。8华为云AI原生应用引擎如何处理大规模数据和复杂计算任务?简单来说,AI原生应用引擎默认集成了华为云PaaS层的大数据服务以及函数计算等服务,可以处理非常大规模的数据及计算任务;这些底层组件对开发者是透明的、免维护的。9华为云AI原生应用引擎支持哪些类型的AI应用开发?政务、办公、金融、交通、煤矿、电商、医疗、教育等众多行业的复杂场景AI应用皆可支持。10华为云AI原生应用引擎如何帮助企业在数字化转型过程中实现业务流程的优化和再造?所有数据数字化,所有业务AI化,根据企业业务的具体场景,提供合理的解决方案,通过AI赋能人,AI赋能事,可以做到企业资产沉淀规划范化,业务效率提升,达到降本增效。11华为云AI原生应用引擎在安全性和隐私保护方面有哪些措施?针对数据安全、模型安全、内容风控、应用安全,建立四道防线,通过数据合规治理、模型安全对齐、安全评测、大模型安全护栏等AI安全可信治理策略,保障客户隐私数据安全。12平台是否支持与现有的企业系统或第三方服务集成?支持。资产中心可以上架所有三方的服务和资产,包含但不限于AI应用、数据集、工具、大模型、提示词模版等。13华为云AI原生应用引擎在实际业务场景中的应用案例有哪些?知识问答、电话咨询、病情筛查、数据查询、售后咨询、技术支持等。14在保障应用的高可用性和容错性方面,华为云AI原生应用引擎采用了哪些创新的技术手段?简单说分两层,一,AI原生应用引擎所依赖的华为云服务,都采用了多AZ、或者多Region的高可靠、高可用部署架构;二,AI原生应用引擎自身的微服务采用了双AZ的高可用架构;因此,无论是平台自身,还是托管的AI Agent应用,都可以获得高可用及高可靠的能力。15华为云AI原生应用引擎如何促进企业内部不同团队(如开发、运维、业务)之间的高效协作?通过不同团队、不同项目之间的架构设计和权限管理,可实现关键资产隔离,公共资产共享,所有业务流程数字化和智能化,高效协同。16从全球市场布局的角度,华为云AI原生应用引擎如何适应不同地区的文化和商业习惯差异?可以参考华为云官网相关说明:https://www.huaweicloud.com/about/global-infrastructure.htmlAI原生应用引擎遵照华为云的全球布局及相关合规性遵从规定。除此之外,通过集成面向特定区域的大模型产品及数据集,以更好的匹配当地的文化和习惯。17华为云AI原生应用引擎在哪些具体的行业和业务场景中得到了实践应用?政务、办公、金融、交通、煤矿、电商、医疗、教育等众多行业中落地了知识问答、电话咨询、病情筛查、数据查询、售后咨询、技术支持等场景。18对于没有编程背景的用户,如何快速上手使用这个平台?不需要具备传统编程技能,但需要了解和掌握面向AI开发的工具、技能、插件、知识库、RAG能力、工作流、记忆等编排能力的使用,关键是了解业务场景的业务流程,就可以编排出契合实际业务场景的复杂AI应用。19华为云AI原生应用引擎的技术架构是怎样的?它如何支持0代码开发?通过平台预置的大模型,根据用户的一句话输入进行Agent定义扩写,并自动为agent选择平台中合适的工具、知识库等,自动生成可用的Agent应用。当然,也支持通过LUI界面实现复杂的业务定义,而无需任何编码。20平台计划引入哪些新的功能或技术来进一步提升用户体验?优化界面的使用体验,提升RAG工程能力,增加模型评测能力,增加Agent编排的技能。21对于具有高度定制化需求的企业,华为云AI原生应用引擎如何实现个性化配置与规模化推广的平衡?针对不同类型的客户,制定几套合理平衡的解决方案,满足客户需求,达成项目交付。22在AIAgent的开发过程中,有哪些常见的性能瓶颈和解决方案?AI Agent性能瓶颈分为两层,其中大模型侧的回答是关键因素,也是各大模型厂商的重要命题。作为AI Agent平台,AI原生应用引擎提供SLA级保障,通过Agent的独占资源部署,保证在大模型响应外能够做到随时扩缩容以保证性能。23现在AI大多数文字方面的,有没有图片识别方面的AI。比如做智能货柜。能否通过华为的Aiagent通过摄像头来判断用户的价格AI原生应用引擎目前已经接入了少量的多模态大模型,后续会接入更多主流多模态大模型,应用形态上也会考虑图片理解等多模态场景。24现在AIagent,除了问答,生成图片和声音。还有没有什么能完全代替人工完成某一项工作的具体应用,而不是单纯的辅助人工的工具目前和慧通差旅有做订酒店的Agent,能够自动根据差旅单帮助预定酒店,但过程中还是需要人的参与,譬如最终的确认阶段。25开发者如何扩展或定制AIAgent的功能以满足特定需求?开发者可以基于AI原生应用引擎提供的API和SDK,灵活定制。26在模型训练过程中,如何利用华为云AI原生应用引擎的分布式架构提高效率?AI原生应用引擎不涉及模型训练,而是提供模型之上的AI Agent应用的开发。27华为云AI原生应用引擎在支持新兴技术(如量子计算、边缘计算)融合方面有哪些前瞻性的规划?多Agent协同,云边端部署协同是AI原生应用引擎正在研究的课题,敬请期待。28华为云AI原生应用引擎的未来发展方向和计划是什么?持续优化Agent构建体验,打造企业级特性(Agent全生命周期管理、权限、安全),同时跟踪多Agent协同,云边端部署协同等课题,提升竞争力。29对于行业新进入者,华为云AI原生应用引擎能提供怎样独特的支持来帮助他们快速适应市场?首先提供极低门槛的Agent构建能力,其次提供开箱即用的问答问数服务,配合专业服务直接帮客户搞定场景。30华为云AI原生应用引擎在处理复杂业务逻辑的应用时,表现如何?目前工作流能够满足大部分业务场景编排,体验也在持续优化中。31如何与合作伙伴共同推动AI原生应用的创新和发展,实现互利共赢?不断扩展模型伙伴、Agent伙伴、数据伙伴及ISV伙伴,丰富生态的同时,制定完善的商业机制,保证伙伴能够获利。32华为云AI原生应用引擎如何帮助企业提升用户体验和客户满意度?通过赋能企业创建不同业务场景的助手,提升企业客户的体验和满意度。33大模型及生成式AI对我国软件产业规模的影响,生成式AI为企业软件公司带来的收入增长?这个属于市场洞察内容,建议参考一些行业洞察分析报告。34华为有哪些Al场景创新及AI应用落地?请参考华为云官网的相关内容:https://www.huaweicloud.com/news/2024/20240920101102196.html35华为在AI领域的未来发展规划都有什么,特别是在0代码智能构建方面?对于想要进入AI的企业和个人,华为能提供哪些服务帮助我们更好的使用AI,有哪些建议和指导?AI原生应用引擎最主要的目标就是帮助企业和个人实现0代码智能构建Agent。对于想要进入AI的企业和个人,AI原生应用引擎同样提供多样的专业服务,手把手教学。36对于数据量巨大且实时性要求高的应用,华为云AI原生应用引擎的优势在哪里?AI原生应用引擎底层使用华为云数据库,天然具备巨大数据量的处理能力。同时AI原生应用引擎提供Agent的独享资源部署,提升Agent性能。37华为云AI原生应用引擎如何确保在不同网络环境下的稳定运行和高效性能?AI原生应用引擎当前支持华为公有云、华为云Stack等运行环境,未来也将支持云、边、端的协同分布式部署架构。38华为AI原生应用引擎有哪些开放平台?如何选择合适的大模型?支持API、SDK开放。AI原生应用引擎支持大模型调测,可以直观体验大模型的不同效果。目前正在集成华为内部使用的模型评测系统,帮助客户选好大模型。39华为云AI能力对第三方开放程度如何?请参考华为云官网产品介绍中关于“人工智能”的部分;华为云各AI云服务、AI能力向所有华为云的客户、开发者在线提供。40在预测和应对潜在的安全威胁方面,华为云AI原生应用引擎有哪些先进的技术和策略?AI原生应用引擎目前集成了华为云终端安全风控能力,能够对Agent输出内容进行安全过滤。后续规划“3+1”AI应用安全体系,确保合规准入、安全生产。41华为云AI原生应用引擎在未来发展中面临的挑战和机遇都有哪些?如何利用挑战和机遇更好的发挥华为云的优势?任何产品在发展的过程中都会面临各种的挑战,且不同阶段对应的关键挑战也不一样,产品的迭代也是不断面临挑战和应对挑战的过程,当然面临挑战同时也伴随着机遇,当前AI原生应用引擎主要挑战是协同伙伴或客户找到AI价值场景并通过产品实现行业的ChatGPT时刻。华为云经过多年的行业耕耘,积累了大量的行业伙伴和客户,有丰富的行业Know-how,在当前AI这个浪潮之下,企业都将面临的一次重大的转型与升级的机遇,我们将持续协同伙伴和客户,通过AI重塑行业应用。42在数据的摄取、处理、存储和管理方面,华为云AI原生应用引擎采用了怎样的数据架构?区别于互联网时代的关系型数据库和移动互联网时代的大数据底座,AI时代的数据底座与架构是什么,业界一直在探索。华为云AI原生应用引擎正致力于打造新一代的全新的AI统一数据底座,预计明年会发布。43modelarts里面自定义cann算子生成包,可以在这边引擎安装使用吗?已集成ModelArts。44华为云AI原生应用引擎如何支持企业进行敏捷开发和快速迭代?AI原生引用引擎在产品设计上一直秉持做产品把困难留个自己,把方便留给客户的理念;产品定位就是AI应用的一站式开发平台,比如:模型的选择切换无感,开放的工具集成,便捷的工作流编排等等特性,未来还将持续构建Agent for Agents能力,更敏捷,更快速支持业务的应用创新与迭代。45华为云AI原生应用引擎如何与其他云服务提供商的产品进行互操作和集成?华为云AI原生应用引擎引擎产品架构就设计是开放的,如模型的统一汇聚与开放,工具接入与开放等,我们与其他云服务厂商的集成合作也是开放的态度,只要有利于业务,有利于客户都可以集成与开放。46如何利用华为云AI原生应用引擎快速构建一个定制化的AI检索,聊天机器人?可以体验一下我们一句话构建Agent的能力,并对其进行各种定制开发。47华为AI原生应用引擎中Loss曲线有什么作用?loss曲线是评估模型训练效果。48华为AI原生应用引擎中ClickHouse有什么功能?主要是大宽表多维聚合分析功能,实现亚秒级响应。49企业应用大模型及生成式AI时,需要注意哪些安全问题?安全是一个基础的必备能力,当前主要会面临内容安全(含提示词攻击),数据安全,模型安全,应用安全等问题。50华为云AI原生应用引擎在哪些行业有成功应用案例?华为云AI原生应用引擎在泛政府,医疗,金融,制造等多个行业都有多个应用成功案例。51推理和训练的话,数据量过大,有什么好的解决办法?比如speech这样的,多卡910b有环境吗?业界根据业务的实际情况有不同的解决办法,有的大力出奇迹,算力换时间,有的数据先转化为有效知识等,910b环境,可以与华为的昇腾云团队接洽。52华为云AI原生应用引擎在促进企业间合作与生态建设方面发挥了怎样的作用?华为云AI原生应用引擎一个关键使命就是生态建设,从应用视角出发,使能企业客户选好,用好和管好大模型,聚合生态,赋能企业,可以说起到了一个关键的桥梁作用。53华为云AI原生应用引擎在处理大规模数据时的性能如何,如何保证高可靠性?华为云AI原生应用引擎采用华为云大数据底座,具备多个行业海量数据的处理实践,在金融,政府等多个行业都有成功应用。54在架构上是如何设计来确保不同模型之间的兼容性、高效调用以及资源分配的合理性?基于微服务、Serverless等框架实现业务隔离,资源按需弹性伸缩等能力。55华为AI原生应用引擎能提供哪些模型管理服务?AI原生应用引擎会汇聚业界主流的模型,年底会实现100+模型的汇聚,同时会提供部分模型的托管。56大模型如何解决数据量有限带来的局限性呢不可否认,数据是大模型应用的最关键的输入,所谓NO DATA,NO AI。如果有局限性需要考虑如何小步试跑,把知识飞轮构建起来。57在使能千行万业智能应用创新方面,华为云AI原生应用引擎如何解决不同行业之间的差异和特殊需求?我们一般把需求区分为产品需求和解决方案需求,产品需求一般是通用共性可复制的需求,解决方案需求一般跟贴近行业场景;不同的需求不同的处理策略,主要是做好开放性,产品客户适配各种特殊场景。58华为AppStage与AI原生应用引擎平台有什么关系?AppStage是云原生应用的开发平台,AI应用也是应用的一种形态,可以理解AI原生应用引擎是AppStage的一个产品模板。59华为云AI原生应用引擎由哪些主要的组件或模块构成?这些组件之间是如何相互协作以实现整个引擎的功能的?AI原生应用引擎主要包含5大功能模板,包括模型中心,知识中心,编排中心,资产中心和安全中心,五大模板基本涵盖了AI应用开发的全生命周期管理。60大模型相关的训练需要哪些步骤才可以完成?业界一般要区分基础模型,行业模型和领域模型三种场景的训练,对应的节奏和步骤都有不同。61华为云AI原生应用引擎在助力企业转型过程中,如何平衡创新速度与应用稳定性之间的关系?速度与稳定性一直是一个重要的权衡点,我们一般常用的处理方法是区分创新态与运行态,创新态速度优先,运行态稳定优先。62请问老师哪些类型的应用亟需AI重构?或者说我们的机会在哪类应用?未来所有的AI应用都值得用AI重构一遍,我们也总结归纳了选择价值应用的方法,从商业价值,场景成熟,可持续运营角度来分析,如果你有场景可以找我们的产品一起评估一下;当前普遍认为开发者在2B的场景应用机会很多。
  • [公告] 【获奖公示】DTSE Tech Talk丨NO.71:0代码智能构建AI Agent——华为云AI原生应用引擎的架构与实践
    中奖结果公示感谢各位小伙伴参与本次活动,欢迎关注华为云DTSE Tech Talk 技术直播更多活动~本次活动获奖名单如下(部分视频号抽奖用户无账号名): 奖项名称 奖品名称  华为云账号优质提问华为云开发者定制长袖圆领卫衣harmonypass持久观看有奖华为云开发者定制斜挎包nukinsan口令抽奖华为云开发者定制鼠标垫/口令抽奖华为云开发者定制鼠标垫/口令抽奖华为云开发者定制鼠标垫ccs2022108180102视频号抽奖华为云开发者定制鼠标垫/视频号抽奖华为云开发者定制鼠标垫/视频号抽奖华为云开发者定制鼠标垫/视频号抽奖华为云定制云宝盲盒/视频号抽奖华为云定制云宝盲盒/
  • [热门活动] 【有奖直播 | 大咖驾到】0代码智能构建AI Agent——华为云AI原生应用引擎的架构与实践
    直播主题:0代码智能构建AI Agent——华为云AI原生应用引擎的架构与实践直播时间:2024. 11.13 16:30—18:00直播链接:cid:link_0直播讲师:苏秦 华为云aPaaS DTSE技术布道师直播简介:大模型及生成式AI对应用和软件产业带来了哪些影响?从企业场景及应用开发视角,面向AI原生应用需要什么样的工具及平台能力?企业要如何选好、用好、管好大模型,使能AI原生应用快速创新?本期直播,华为云aPaaS DTSE技术布道师苏秦将基于华为云自身实践出发,深入浅出地介绍华为云AI原生应用引擎,通过分钟级智能生成Agent应用的方式帮助企业完成从传统应用到智能应用的竞争力转型,使能千行万业智能应用创新。直播福利:福利1:互动有礼官网直播间发口令“华为云 DTSE”抽华为云开发者定制鼠标垫。福利2:持久观看有奖观看时长大于30分钟,即可参与抽奖送华为云开发者定制斜挎包。福利3:有奖提问直播过程中提问,评选优质问题送华为云开发者定制长袖圆领卫衣。更多福利:加入微信交流群,解锁更多隐藏福利哦~
  • [每月新鲜事] aPaaS月十月精选
    最新动态混合云运维现代化为政企智能跃迁保驾护航,应用运维现代化全方位提升故障感知、诊断、恢复智能化水平!社区精选【应用平台AppStage】开发者学习地图全览(持续刷新)典型问题开发中心如何申请组织管理员权限?怎么理解开发中心的需求管理?运维中心更新环境的代码包不存在规格cn_product_default运维中心监控服务删除告警任务失败?
  • 【应用平台AppStage】开发者学习地图全览(持续刷新)
    快速入门应用平台开通指导使用前准备快速纳管/运维应用运维中心使用流程平台赋能操作指导应用运维一站式接入操作视频(待上线)入门课程3分钟了解华为云应用平台AppStage!直播回顾构筑云原生时代的应用稳定性案例鉴赏异常检测、自动告警,业务问题分钟级识别!运维一款月变更70+次的服务,是一种什么体验? 如何解锁高效运维?AI算法助力向智能运维升级!一次故障演练,十分钟自动搞定?运维中心守护全球10亿用户的全场景智慧生活体验运维中心,华为全球业务的加速器!白皮书华为云主机上云运维现代化核心能力常见问题【问题合集】【应用平台AppStage】如何实现应用全生命周期管理最佳实践待上线​​​​​​​
  • [每月新鲜事] aPaaS月九月精选
    最新动态【HUAWEI CONNECT 2024丨社区活动】华为云AI原生应用引擎,0代码开启个性化应用之旅【线上体验官招募】玩转AI原生应用,0代码创造专属 AI Agent  AI原生应用引擎社区上线啦~助力开发者加速完成AI原生应用开发 华为云AppStage亮相华为全联接大会2024,使能开发者加速应用创新火热公测中 | DMAP数小二上线正式开启公测啦~ 源自华为数字化转型优秀实践经验社区精选【常见问题】华为云AI原生应用引擎问题合集(持续刷新) 华为云AI原生应用引擎 0代码智能构建专属个性化应用【华为云AI原生应用引擎】开发者学习地图全览(持续刷新)典型问题 流里面为啥选择obs路径一直报错呢
  • [技术干货] 【常见问题】华为云AI原生应用引擎问题合集(持续刷新)
    模型中心Q1:自接入的模型要在一站式创建agent那里可以调用,需要怎么设置?Answer:自接入模型的时候在模型服务描述里面填入SupportFunctionCall,AdaptFunctionCall(前提是模型本身支持functioncall)Q2:自接入的模型使用不了?Answer:自接入模型服务的时候,模型名称必须跟要接入的模型名称完全一致,比如moonshot-v1-8kQ3:新开的租户创建agent之后使用不了,报错Answer:是因为新开的租户没有是没有配置模型鉴权的,需要自己去模型厂商那里购买,然后把key填过来,再使用。Agent编排Q1:Agent问答的时候报错“很抱歉,我的系统似乎遇到了一些故障问题,暂时无法为您提供服务”?Answer:一站式创建agent的时候选择的模型鉴权失败,需要给模型配置鉴权,如果是用的平台的闭源模型,则需要在模型鉴权设置菜单设置模型鉴权(只有AI原生应用引擎管理员才有权限设置).Q2:思考模型和问答模型区别 ?Answer:1、思考模型:工作流、知识库、工具的调用,以及入参的识别传递等 2、问答模型:做一些问答以及总结等Q3:工作流里面知识库节点、LLM节点都需要配置实例,实例的key填什么 ?Answer:知识库节点、LLM节点实例的key填租户的apikey。Q4:工具节点都需要配置实例,工具节点的实例怎么配置 ?Answer:工具节点的实例填工具自己的鉴权信息。 Q5:Agent发布成API之后怎么调用?Answer:见操作指引​ Q6:AgentAPI发布的时候要填apikey,apikey怎么获取?Answer:AI引擎管理员权限用户到平台租户鉴权菜单新增平台APIkey​Q7:agent调用知识库的时候怎么支持严格模式 ?Answer:agent里面知识库处有一个调用方式,选自动调用则每次问题都会去调知识库,选按需调用则由大模型决定是否调用知识库。Q8:工作流的返回是json格式,但是大模型会进行总结,输出一段话,怎么让json格式直接输出 ?Answer:agent编排处,工作流有总结模式和精确模式,选择总结模式,大模型会对工作流的输出进行总结,选择精确模式,则大模型不会总结直接输出工作流的输出。Q9:有些编排能力在工作流里面没有怎么办,比如时间格式转换、数组对象的push等 ?Answer:工作流有code代码节点,编排不能解决的可以通过code代码节点解决。Q10:有agent里面问答的时候,有时候大模型意图识别不准确怎么办 ?Answer:通过调整提示词解决。Q11:资产中心的工具在怎么用,可以直接使用嘛 ?Answer:初始化的租户是无法直接使用资产中心的工具的,工具都是接的第三方的,都需要去第三方官网购买之后,把key填过来才能使用。Q12:code节点无mysql模块,要对接数据库写sql去查询怎么办 ?Answer:可以把查询操作封装成接口,再把接口已工具的形式接入平台。Q13:code代码的输入输出参数如何与其他模块对应 ?Answer:跟其他普通节点一样,根据节点名称去取输出。Q14:思考模型选择时很多模型都不能选,为什么?Answer:其他不能选的模型平台还未做适配,或者已经适配了但是效果不佳,所以没有放开,后续会支持更多的思考模型。Q15:Agent问答的时候没有输出,只有一个白色的泡泡?Answer:思考模型没有配置鉴权,或者鉴权失效了,可以在模型调测那里去测试下思考模型是否ok。知识中心Q1:按照标题切分的时候,分段长度是什么意思 ?Answer:如果当前分片长度小于这个值,则会和其他分片进行合并直到接近这个长度;所以如果不想合并分片一致长度设置为1。Q2:PDF提取富媒体和智能匹配图表,意思是设置后,图/表可以嵌入到分段中,被检索出来吗 ?Answer:是的。OrgIdQ1:申请公测,点击关联组织报错“auth.huaweicloud.com”not in white list?Answer:不要用无痕浏览器,因为无痕禁用了cookie。
  • [热门活动] 技术共生,商业共赢,华为云携手伙伴开发者共话AI新机遇
    随着人工智能技术的突破和大模型技术的飞速发展,创新应用不断涌现,各行各业正被加快重塑。9月13日,由华为云计算技术有限公司主办的HCDG城市行广州站——“智享茶韵,云上话AI”生态伙伴开发者CTO技术活动在广州成功举行。本次活动汇聚了华为云AI技术专家与8家华为云生态伙伴,共同探讨如何利用AI技术推动产业数智升级,交流应用研发的最新动态,共谋AI时代合作发展新机遇。研讨交流现场当前,AI时代已经来临,创新应用不断涌现,正加快重塑千行万业。会上,华为云aPaaS AI原生应用解决方案高级架构师陈峰向与会者展示华为云AI原生应用引擎的创新技术和实践案例。他强调,AI应用正从单模型向Agent模式演进,其中Agent模式允许AI在设定目标后自主完成任务。Agent结合了大模型、记忆、规划和工具,具备记忆、规划和工具调用能力。华为云AI原生应用引擎旨在降低AI应用开发门槛,提供模型中心、知识中心、Agent中心等模块,支持多模型接入和Agent快速构建。分享过程中,陈峰老师还通过医疗行业案例,展示了Agent在医学问答和疾病筛查中的应用,说明了大模型与专业模型的协同作用。他还提到了华为云应用引擎支持aPaaS生态,期待与各行业合作,共同推动企业智能化转型。华为云aPaaS AI原生应用解决方案高级架构师陈峰主题分享华为云MaaS平台解决方案产品经理黄焱霞在沙龙上提到,ModelArts Studio大模型即服务平台(MaaS)的发布,是为了解决企业在大模型开发中的痛点和难题,为用户提供一站式的大模型开发和应用服务。该平台基于华为云算力,提供了覆盖业界主流的开源大模型,基于昇腾云适配显著提升精度和效果。同时平台提供 免费模型调优和部署等能力,助力企业快速构建专属大模型。还支持模型API快速对接各类应用,形成组合解决方案,有效提升企业的AI服务能力。基于上述能力极大程度降低了企业的开发门槛和算力、时间成本。 华为云MaaS平台解决方案产品经理黄焱霞主题分享云徙科技副总裁、CTO李楠在分享中探讨了生成式AI在企业级应用中的潜力和实践。他指出,生成式AI正从泡沫期走向技术应用的稳定期,将在多个方面深刻地影响社会和经济的发展。生成式AI的应用不仅限于内容创作,更在业务流程自动化、数据分析、客户服务等多个方面展现出变革性的影响。Agent架构将成为大模型应用的主要形式,而云徙科技正通过提供智能体构建平台,帮助企业在主营业务中实现AI的落地。他最后提出,生成式AI技术的未来充满无限可能,企业应积极探索其在各自行业中的具体应用。云徙科技副总裁、CTO李楠主题分享在开放研讨交流环节中,与会人员畅所欲言,就本次AI技术主题交流分享了独到的见解和经验。并聚焦解决各自现阶段技术创新的堵点和畅想未来合作新的可能性,积极探索和进一步挖掘AI技术和价值场景融合的创新实践,加速推动技术联创,打造高价值联合解决方案,共拓云上新商机,共赢合作新机遇。 开放研讨现场未来,在广东这片数字沃土上,华为云将秉承“共创、共享、共赢”的生态理念,携手伙伴和开发者,通过联合探讨和应用前沿数智技术,激发创新思维,推动技术与业务的深度融合,加速实现技术共生,商业共赢,共筑健康、繁荣的云生态。 HCDG(Huawei Cloud Developer Group 华为云开发者社区组织),是基于城市圈和技术圈,由开发者核心组自发开展的开放、创新、多元的社区技术交流组织,致力于帮助开发者学习提升、互动交流、挖掘合作,推动技术应用与本地产业结合、数智化转型和开发者文化发展。
  • [技术干货] 华为云AppStage亮相华为全联接大会2024,使能开发者加速应用创新
    9月21日,华为云全球生态部总裁康宁发表“成就开发者,共赢根生态”主题演讲,期间为全球开发者介绍了华为云开天aPaaS的应用平台AppStage,为其展示了应用、AI及数据使能三大价值。聚焦价值需求的开发,减少工程能力构建投入,华为云aPaaS打通软件,数据,AI的工具链,全新打造应用平台AppStage,为开发者提供以AI原生、数据驱动的一站式云原生及AI原生应用开发体验。以应用为中心,屏蔽繁杂的基础设施,破除工具链之间的断点,让开发人员聚焦业务代码,快速构建应用。同时,沉淀经验、流程等资产,减少重复造轮子,降低企业开发、运维成本,提升企业各应用快速迭代能力,帮助企业增收和业务稳定运行。其中,开发中心、AI原生应用引擎、应用元数据引擎等核心产品服务,以应用、AI、数据三大使能,助力开发者加速应用创新落地:在应用使能方面,覆盖应用开发、托管、运维、运营全生命周期,围绕应用构建统一信息模型,支持多角色统一入口和使用体验,提供一站式平台,提升全流程效率;自动化、智能化的运维平台支持应用全球部署与运维,助力企业提升运维质量和可靠性。基于AIOps的故障全生命周期管理,帮助业务快速定位问题与恢复;容灾演练提前发现问题,充分验证业务可靠性。高可用可信Built-in平台,使能在应用平台上运行的业务可信,避免重复造轮子。开发者1次开发,即可实现全球部署,分钟触达。整体开发运维效率可提升50%。在AI使能方面,AppStage的AI原生应用引擎聚合100+业界模型、100+工具等实践,屏蔽模型差异、提供标准化API接口兼容业界主流大模型,实现模型切换快速无感,为开发者带来一致性体验;开发者通过简单的托拉拽就能快速将不同能力进行流程化编排,以出行类Agent为例,输入简单描述,就能在20s内就能创建成功,开发效率提升高达10倍;同时,以数据、模型、内容、应用+AI安全治理的“4+1”AI应用安全管控体系,为AI原生应用开发提供了安全可信的保障。在数据使能方面,AppStage的元数据引擎以应用为中心,通过AA、IA等多维度、多视角展示和描述数据,打造集IT、OT、ET及多模态等数据为一体的统一数据底座。在数据底座上加持AI原生应用引擎技术,高效支撑数据实时查找和访问。元数据引擎现已沉淀电力、工业等10+行业、1000+业务模型资产,利用积累的行业模型,开发者可快速完成业务数据价值流的设计与开发,以数据驱动的模式完成应用构建。目前,华为云开天aPaaS的应用平台AppStage已在政务、制造、医疗、能源、教育、金融等多个行业落地了数据分析师、智能机器人售后智能助手、眼科问诊Agent等应用成果,未来将携手更多客户、伙伴和开发者们,共助千行万业加速数智化转型。
  • [业界洞察] 【转载】破局 AI 2.0 时代:利用 AI 提升自我核心竞争力
    1. AI 2.0 时代AI 进入 2.0 时代,所有应用都会被重写一遍。 AI 2.0 是绝对不能错过的一次革命,它会是一个平台级别的趋势,超过移动互联网十倍。 —— 李开复AI 2.0:海量数据+跨领域知识 AI 2.0 时代的第一个现象级应用,是以 GPT-4 为代表的 AIGC,即 Generative AI(生成式AI)。 通过优化和迭代,AI 变得越来越精准,最终形成适用不同领域的基础大模型。1.1 特点AI 2.0 是指人工智能发展的新阶段,具有以下几个显著特点:自监督学习:AI 2.0 能够利用超级海量的数据进行自监督学习,无需人工标注。 基础模型规模大:训练AI 2.0所需的基础模型(Foundation Model)规模非常大,通常需要数千张GPU来训练。 跨领域知识:AI 2.0的基础模型具备跨领域知识,通过微调可以适应不同领域的任务。1.2 发展AI 2.0 的发展标志着从辅助人类到逐步替代人工的转变,所有应用都会被重新定义和重写。 这一阶段的AI不仅限于聊天工具或图文生成程序,而是能够处理多模态数据(如文本、图像、语音、视频等),并逐步实现更高级别的认知智能。随着人工智能技术在近年来的爆发式发展,这些技术已经在各个领域得到了广泛应用。技术突破 近年来,AI技术在自然语言处理、机器学习和深度学习等领域取得了重大突破。例如,生成式预训练模型(如GPT-4)和生成式对抗网络(GAN)等技术的出现,使得AI在文本生成、图像生成和语音识别等方面表现出色。数据和计算能力 随着数据量的爆炸性增长和计算能力的提升,AI模型可以处理和分析海量数据,从而提供更准确和高效的解决方案。云计算和分布式计算技术的进步也为AI的发展提供了强大的支持。广泛应用 AI技术已经在多个领域得到了广泛应用,包括医疗、金融、教育、制造、零售等。例如,AI可以帮助医生进行疾病诊断,帮助金融机构进行风险评估,帮助教育机构提供个性化学习方案。经济和社会影响 AI技术的应用不仅提高了生产效率,还带来了新的商业模式和经济增长点。例如,AI驱动的自动化技术可以显著降低生产成本,提高产品质量和生产效率。未来潜力 AI技术仍在快速发展,未来有望在更多领域实现突破。例如,通用人工智能(AGI)的研究正在推进,目标是开发出具有广泛认知能力的AI系统,可以在多个领域表现出色。就像云计算和开源在 2010 年代开启了“ 精益创业 ”时代,如今,AI 已在 2020 年代开启了一种新型组织形态。1.3 影响在AI 2.0时代,AI技术对各行业的影响是深远的,主要体现在以下几个方面:生产力和效率提升:AI可以自动化许多重复性和耗时的任务,提高生产力。例如,制造业中AI可以优化生产流程,减少停机时间,提高产品质量。客户体验增强:AI通过分析客户数据,提供个性化服务和推荐,提升客户满意度。例如,零售业利用AI分析客户购买行为,提供个性化产品推荐。决策过程改进:AI可以处理和分析大量数据,帮助企业做出更明智的决策。例如,金融行业利用AI进行风险评估和投资分析。创新产品和服务:AI技术的应用催生了新的产品和服务。例如,医疗行业利用AI进行疾病诊断和个性化治疗。供应链管理优化:AI可以预测需求,优化库存管理,减少供应链中的浪费和成本。例如,物流行业利用AI优化路线规划,提高运输效率。安全性提升:AI用于监控和检测异常行为,提高企业的安全性。例如,网络安全领域利用AI检测和防御网络攻击。2. AI 2.0 时代的机遇 & 挑战“AI 正在以前所未有的速度迭代,创新在以天和周为单位进行。这将改变公司的创立方式,达到 MVP 的团队规模会越来越小, 3~4 个人,而不是之前通常的 40 或 50 人的公司。” —— SocialCapital CEO Chamath Palihapitiya“在 AI 时代,一种新型的创业公司形态正在诞生,其特点是:smaller、faster、cheaper and weirder(更小、更快、更便宜、更奇怪)。” —— Every 创始人 Nathan Baschez2.1 AI 对行业市场的冲击AI对当前市场的冲击是多方面的,主要体现在以下几个方面:生产力和效率提升:AI技术可以自动化许多重复性和耗时的任务,从而提高生产力。例如,制造业中AI可以优化生产流程,减少停机时间,提高产品质量。客户体验增强:AI通过分析客户数据,提供个性化服务和推荐,提升客户满意度。例如,零售业利用AI分析客户购买行为,提供个性化产品推荐。决策过程改进:AI可以处理和分析大量数据,帮助企业做出更明智的决策。例如,金融行业利用AI进行风险评估和投资分析。创新产品和服务:AI技术的应用催生了新的产品和服务。例如,医疗行业利用AI进行疾病诊断和个性化治疗。供应链管理优化:AI可以预测需求,优化库存管理,减少供应链中的浪费和成本。例如,物流行业利用AI优化路线规划,提高运输效率。安全性提升:AI用于监控和检测异常行为,提高企业的安全性。例如,网络安全领域利用AI检测和防御网络攻击。自动化导致的失业:AI和自动化技术能够执行许多以前由人类完成的任务,特别是那些重复性高、规则明确的工作。例如,制造业中的装配线工人、零售业中的收银员、物流业中的仓库工人等职位都面临被自动化取代的风险。工作技能的两极分化:AI技术的应用可能导致高技能和低技能工作之间的两极分化。高技能工作(如AI开发、数据科学等)需求增加,而中等技能工作(如会计、行政助理等)可能会减少。这可能导致中等技能工人面临失业或需要重新培训以适应新的工作环境。行业转型 & 新的工作机会:虽然AI可能导致某些工作消失,但也会创造新的工作机会。例如,AI技术的开发、维护和管理需要大量专业人才。此外,AI在医疗、教育、金融等领域的应用也会催生新的职业和岗位。工程学中著名的康威定律就很好地解释了当下这一时代现象:不同的技术时代会产生不同类型的组织。Conway’s Law: Any organization that designs a system (defined broadly) will produce a design whose structure is a copy of the organization’s communication structure.康威定律(Conway’s Law),1967年计算机科学家梅尔文·康威(Melvin Conway)提出的理论。它的核心观点是:“任何设计系统(广义定义)的组织都会产生一个结构与该组织的沟通结构相同的设计。”康威定律指出,软件系统的设计和架构往往反映了开发该系统的组织或团队的沟通结构和分工方式。例如,如果一个团队的沟通结构是分层的,那么他们设计的系统也可能是分层的。康威定律强调了组织沟通方式对系统设计的深远影响。虽然变革总会伴随着不安,但俗话说“风浪越大鱼越贵”,引爆全球的ChatGPT仅仅只是AI 2.0时代变革的星星之火,而其背后的大模型技术还隐藏着更丰富的机会、更深的内涵、更巨大的发展机会在等待着各行各业的人们去发掘。2.2 挑战变为机遇在AI 2.0时代,技术人员可以通过以下几种方式抓住机遇:持续学习和提升技能:学习AI技术:掌握机器学习、深度学习、自然语言处理等AI核心技术。 参加培训和认证:参加相关的培训课程和获得认证,如Coursera、Udacity等平台提供的AI课程。 应用AI工具:使用AI辅助开发工具:如GitHub Copilot、ChatGPT等工具可以提高代码编写和调试效率。 探索AI平台:熟悉和使用如TensorFlow、PyTorch等AI开发平台,提升项目开发能力²。 跨领域合作:与AI专家合作:在项目中与AI专家合作,学习他们的经验和方法。 参与跨学科项目:参与涉及AI的跨学科项目,拓宽自己的知识面和应用场景。 关注行业动态:跟踪最新技术趋势:关注AI领域的最新研究成果和技术趋势,保持技术前沿。 参加行业会议和论坛:参加如NeurIPS、ICML等顶级AI会议,了解行业最新动态和发展方向。 实践和创新:实际项目应用:在实际项目中应用AI技术,积累实践经验。 创新思维:思考如何利用AI技术改进现有工作流程和方法,提出创新解决方案。 网络和社区:加入专业社区:加入如Kaggle、Stack Overflow等专业社区,与同行交流经验和见解。 分享和学习:在社区中分享自己的项目和经验,学习他人的成功案例。 通过这些方法,IT从业者可以更好地适应和利用AI 2.0时代带来的机遇,实现职业发展和提升。在AI 2.0时代,其它非技术行业人员可以通过以下几种方式抓住机遇:持续学习:保持对AI技术的学习和了解,参加相关培训和课程,提升自己的技能水平。 跨领域合作:与AI专家和技术团队合作,了解如何将AI技术应用到自己的工作领域。 关注行业动态:密切关注AI在自己行业中的应用和发展趋势,了解最新的技术和工具。 实践应用:在工作中积极尝试使用AI工具和技术,积累实际操作经验。 创新思维:培养创新思维,思考如何利用AI技术改进现有工作流程和方法。 网络和社区:加入AI相关的专业网络和社区,与同行交流经验和见解,获取更多资源和支持。 通过这些方法,普通从业者可以更好地适应和利用AI 2.0时代带来的机遇,实现职业发展和提升。2.3 不同场景下的 AI 效能提升利用AI工具在不同领域提升效率和能力。2.3.1 自动化办公任务AI工具可以帮助我们自动化处理日常办公任务,提高工作效率。 例如,Microsoft 365 Copilot和WPS AI可以自动生成、润色和翻译文档,节省大量时间和精力。示例:import openai openai.api_key = 'your-api-key' def generate_meeting_summary(meeting_notes): response = openai.Completion.create( engine="text-davinci-003", prompt=f"Generate a summary for the following meeting notes:\n{meeting_notes}", max_tokens=150 ) return response.choices[0].text.strip() meeting_notes = """ 1. Discussed project timeline and milestones. 2. Reviewed budget and resource allocation. 3. Identified potential risks and mitigation strategies. 4. Assigned tasks to team members. """ summary = generate_meeting_summary(meeting_notes) print("Meeting Summary:\n", summary)21 通过这种方式,你可以快速生成会议纪要,确保信息准确传达。2.3.2 提升学习效率 AI工具在教育领域的应用非常广泛,特别是在语言学习方面。 例如:通过与AI对话练习和个性化反馈,学习者可以更有效地提高英语能力。示例对话:用户:Hi, how are you today? AI助手:I'm doing well, thank you! How about you? 用户:I'm good, thanks. Can you help me practice my English? AI助手:Of course! What would you like to talk about? 用户:Let's talk about travel. Have you ever been to Japan? AI助手:I haven't been to Japan, but I know a lot about it. What interests you about Japan?通过这种互动,你可以练习各种话题,从日常对话到专业讨论,提升口语和写作能力。2.3.3 创意生成与内容创作 AI大模型在创意生成和内容创作方面展现了强大的能力。 无论是广告文案、社交媒体帖子还是艺术作品,AI都能帮助你快速生成高质量的内容。示例:import openai openai.api_key = 'your-api-key' def generate_marketing_copy(product_description): response = openai.Completion.create( engine="text-davinci-003", prompt=f"Write a compelling marketing copy for the following product:\n{product_description}", max_tokens=100 ) return response.choices[0].text.strip() product_description = """ A new smartwatch with a sleek design, long battery life, and advanced health tracking features. """ marketing_copy = generate_marketing_copy(product_description) print("Marketing Copy:\n", marketing_copy) 18 通过这种方式,你可以快速生成吸引人的广告文案,提升营销效果。2.3.4 数据分析与市场洞察 AI工具可以帮助你进行数据分析,获取市场洞察,制定更有效的策略。 例如,使用AI工具可以分析市场趋势和竞争对手数据,生成详细的市场分析报告。示例: [ import openaiopenai.api_key = 'your-api-key'def generate_market_analysis_report(market_data): response = openai.Completion.create( engine="text-davinci-003", prompt=f"Generate a detailed market analysis report based on the following data:\n{market_data}", max_tokens=200 ) return response.choices[0].text.strip()market_data = """ Q1 2024 Sales Data: 20% increase in smartwatch sales Competitor Analysis: Competitor A launched a new fitness tracker Market Trends: Growing demand for wearable health tech """report = generate_market_analysis_report(market_data) print("Market Analysis Report:\n", report)]()通过这种方式,你可以快速获取市场洞察,制定更有效的营销策略。2.3.5 提升客户服务质量 AI聊天机器人可以帮助你提升客户服务质量,提供个性化的服务建议。 例如,使用AI助手可以快速自动回复客户的常见问题,并提供详细的解答。示例对话:客户:Hi, I'm interested in your new smartwatch. Can you tell me more about its features? AI助手:Of course! Our new smartwatch features a sleek design, long battery life, and advanced health tracking capabilities, including heart rate monitoring, sleep tracking, and fitness tracking. It's the perfect companion for your active lifestyle. 1 2 客户:你好,我的订单还没有收到,能帮我查一下吗? AI助手:您好,请提供您的订单号,我将为您查询订单状态。 客户:订单号是123456。 AI助手:感谢您的信息。经查询,您的订单已打包交由xx快递发出,预计将在2天内送达。如果您还有其他问题,请随时告诉我。通过这种方式,你可以提高客户满意度,增强品牌忠诚度。结语 在AI时代,掌握和利用AI工具是提升自我核心竞争力的关键。 无论是在办公、学习、创意生成、数据分析还是客户服务方面,AI都能帮助你提高效率,节省时间和精力。希望本文能对你有所启发,帮助你更好地适应和利用AI 2.0时代带来的机遇,实现职业发展和提升。END - 本文摘编自《实战ChatGPT:应用AI工具高效工作与学习》,经出版方授权发布。———————————————— 版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。 原文链接:cid:link_0
  • [业界洞察] 【转载】AI“应用商店”来了!OpenAI首批70个ChatGPT Plugin最全梳理
    OpenAI放出大招,本周将向所有ChatGPT Plus用户开放联网功能和众多插件,允许ChatGPT访问互联网并使用70个第三方插件。根据华尔街见闻的梳理,本批第三方插件能够全方位覆盖衣食住行、社交、工作以及学习等日常所需,基本上能够扮演24小时私人助理的角色。对此,民生证券在近期公布的一份报告中表示,第三方插件对于OpenAI来说具有不可忽视的战略意义:OpenAI正沿着类苹果模式的“终端+平台+生态”,迈向高于操作系统的战略地位。引入插件Plugin标志ChatGPT走在创建生态系统的伟大道路上,统一平台+插件的模式有望构建与苹果+App Store相似的繁荣生态。以下是华尔街见闻整理的ChatGPT 70个插件的具体功能和提示方法:KeyMate.AI Search功能:使用由AI驱动的自定义搜索引擎查找网页。基本提示: “搜索关于可再生能源的最新研究的网页。”高级提示:“帮我找出关于AI对医疗保健影响的前5篇文章。”“搜索最近关于气候变化对海洋生物影响的研究。”“查找关于火星探测器任务的最新消息。”Zapier功能:可以与超过5000个应用程序交互,比如Google Sheets、 Gmail、 HubSpot、 Salesforce等等,适合有跨应用自动执行任务的用户。基本提示:“连接我的谷歌表,获取有关我的最新开支的数据。”高级提示:“建立一个Zapier任务,把我的Gmail附件保存到Dropbox里”“创建一个Zap任务,把我的Instagram照片发到Twitter 上”“建立一个自动化任务,把新的销售领导添加到我的谷歌表格中。”edX功能:查找一流大学的课程和内容。基本提示: “给我找一个名牌大学的机器学习课程。”高级提示:“在edX上搜索Python编程初级课程。”“帮我查找顶尖大学的数字营销课程”“找出开设数据科学综合课程的大学。”Hauling Buddies功能: 使用推荐、评论和合规搜索功能寻找可靠的动物运输商。基本提示: “在洛杉矶找一个可靠的动物运输商。”高级提示:“在纽约找一个能把我的狗送到旧金山的宠物托运商”“在迈阿密找一个有执照和保险的动物运输商。”“在芝加哥找到一个风评不错的宠物托运商。”Yay! Forms功能: 在Yay! Forms上创建AI驱动的表格、调查、测验或问卷。基本提示: “创建一个调查项目,收集用户对我们最新产品的反馈。”高级提示:“设计一个测试项目,测试员工对网络安全参考规范的知识。”“创建一个表格来收集活动请柬的回复。”“创建一个调查来衡量客户对我们新服务的满意度。”Savvy Trader AI功能: 提供实时股票、加密和其他市场的数据。基本提示: “比特币的最新价格是多少?”高级提示:“给我查一下特斯拉股票的最新价格和交易量。”“给我看看过去一年以太坊的历史价格。”“找出今天科技板块表现最好的股票。”Diagram It功能: 直接在聊天中创建和编辑图表。基本提示: “创建一个流程图来描述软件开发生命周期。”高级提示:“画一幅Venn图,显示猫、哺乳动物和宠物之间的重叠部分。”“为客户服务电话创建一个程序流程图。”“设计一个由三个部门组成的公司的组织结构图。”Ndricks Sports功能: 通过调用运动软件Ndricks API,获取职业球队(NHL、NBA、NFL、MLB)的信息。基本提示: “获取NBA的最新得分。”高级提示:“让我看看NFL目前的排名。”“找到本赛季NHL的最佳射手”“给我下一场美国职业棒球大联盟比赛的时间表。”Ambition功能:搜索附近的工作机会。基本提示:“在纽约市查找数据分析师的工作。”高级提示:“找到需要Python技能的远程软件开发岗位。”“在洛杉矶找兼职平面设计工作。”“在科技行业找到初级市场营销岗位。”Crafty Clues功能: 通过AI提供的线索猜词,非常热爱文字游戏和字谜的用户。基本提示: “开启一个以‘动物’为主题的狡猾线索游戏。”高级提示:“玩一个以‘电影’为主题的狡猾线索游戏。”“开始一个以‘历史人物’为主题的狡猾线索游戏。”“以‘地理’为主题开始狡猾线索游戏。”Speak功能:语言学习和翻译。基本提示:“‘图书馆在哪里?’用法语怎么说?。”高级提示:“把‘我喜欢学习新语言’翻译成西班牙语”“‘早上好,你好吗?’用意大利语怎么说?”“把‘现在几点’翻译成德语。”Cloudflare Radar功能: 实时洞察网络流量模式和威胁。基本提示:“提供我网站的实时流量数据。”高级提示:“给我看看过去一周我网站的流量模式。”“找出我网站过去24小时内的潜在威胁”“提供我网站访问者的地理位置类型。”Shop功能:查找产品信息。基本提示:“搜索最新的iPhone型号。”高级提示:“寻找最划算的三星Galaxy智能手机。”“寻找环保型家居清洁产品”“给我看看最受欢迎的游戏笔记本电脑”Coupert功能: 从网络商店上查找优惠券。基本提示: “在亚马逊上找到最好的电子产品优惠券。”高级提示:“在Etsy上查找家居装饰品的折扣代码”“在Zara搜索最新的时尚商品交易”“给我看看沃尔玛最好的杂货优惠券”Wishbucket功能:搜索韩国所有平台和品牌的产品基本提示: “搜索所有韩国平台的BTS商品。”高级提示:“在韩国所有平台上寻找最新的韩国美容护肤产品。”“在韩国购物网站上搜索BLACKPINK商品”“给我看看国际航运途中能够吃到的顶级韩国小吃。”Lexi Shopper功能: 从当地的亚马逊商店获得产品推荐。基本提示: “从我当地的亚马逊商店获取家用电器的产品推荐。”高级提示:“推荐亚马逊上评价最高的厨房用具”“在亚马逊上找到自助类畅销书。”“给我看看入围亚马逊‘最想要’排名的电子产品。”Prompt Perfect功能: 输入“完美”来生成完美的提示。基本提示: “为讨论气候变化精心设计一个完美的提示。”高级提示:“为远程工作的利弊展开辩论创建一个引人注目的提示。”“为关于心理健康意识的对话设计一个发人深省的提示。”“激发人们讨论AI的未来。”Creati Code Scratch功能:将Scratch程序显示为图像,并使用Creati Code Scratch扩展编写2D/3D程序基本提示: “显示模拟弹跳球的Scratch程序。”高级提示:“展示一个模拟太阳系的Scratch程序。”“创建一个模仿乒乓球游戏的2DScratch程序。”“显示模拟旋转立方体的3DScratch程序。”Klarna Shopping功能:搜索和比较网上商店的价格基本提示: “比较不同购物网站上尼康单反相机的价格。”高级提示:“在不同网上商店中找到最便宜的阿迪达斯跑鞋。”“比较各种在线零售商最新款iPad的价格。”“从不同的网上商店搜索最便宜的Kitchen Aid搅拌机。”Glowing功能: 安排和发送每日短信,包括提醒、灵感、帮助和其他信息。基本提示: “为明天早上安排一条鼓舞人心的短信。”高级提示:“给我安排一条下周二下午三点就医的提醒短信。”“每天早上7点给我的手机发一段鼓舞人心的话。”“每天发送短信提醒,白天每两小时喝水一次。”Giftwrap功能:提供赠送礼物的建议。基本提示: “我朋友要举办一个迎婴聚会,给我一些礼物方面的想法。”高级提示:“我需要一个礼物给我的老板,他喜欢高尔夫球。你能给我一个花费低于50美元的建议吗?”“给我爱艺术和音乐的妻子找一份特别的周年纪念礼物”“对于搬进新家的一家人来说,什么是好的乔迁礼物呢?”KalendarAl功能: Al销售代理,帮助用户从潜在客户那里获得收入。基本提示: “从硅谷的科技公司中找到潜在客户。”高级提示:“在波士顿的医疗行业找到潜在客户。”“列出伦敦金融科技公司的潜在客户名单。”“从印度电子商务公司中识别潜在客户。”Wolfram功能: 通过Wolfram|Alpha搜索引擎 和Wolfram语言(一种计算模式)访问计算、数学、管理知识和实时数据。基本提示: “计算x^2从0到10的积分。”高级提示:“求解微分方程dy/dx=y^2。”“计算矩阵[[1,2],[3,4]的特征值。”“当x接近sin(x)/x的0时求极限。”Weather Report Data功能: 使用METAR(航空例行天气报告)数据查询城市和机场的当前天气数据。基本提示: “获取当前洛杉矶机场的天气数据。”高级提示:“肯尼迪机场现在的温度和湿度是多少。”“查一下旧金山机场的风速和风向。”“伦敦希思罗机场的能见度如何?”Chat With PDF功能: 通过提供一个PDFURL,对PDF进行分析和提问。基本提示: “分析该 URL上PDF文档的第三章。”高级提示:“从这个URL中提取PDF中的所有图像。”“在这个网址可以找到PDF中所有提到‘气候变化’的地方。”“总结这个URL上 PDF第一章的要点。”Vivian Health功能: 寻找医疗保健领域的工作机会。基本提示: “在纽约寻找医疗保健工作机会。”高级提示:“在芝加哥找一份薪水在7万美元以上的护士工作。”“在波士顿寻找儿科医生职位空缺。”“在旧金山找到物理治疗师的工作机会。”Turo功能: 寻找Turo平台上的租车服务。基本提示: “搜索下周末旧金山出租的豪华车。”高级提示:“在迈阿密找一辆七月第一周出租的敞篷车。”“搜索奥兰多圣诞节期间可出租的小型货车。”“这周末在西雅图找一辆出租的电动车。”Tabelog功能: 查询日本可预订的餐厅。基本提示: “在东京找一家今晚可以预订的寿司店。”高级提示:“在京都找一家明天可以预订的素食餐厅,。”“在大阪找一家有私人用餐选择的海鲜餐厅。”“在广岛找一家米其林星级的传统日本餐厅。”AlTickerChat功能:查询美国证券交易委员会(SEC)的文件和业绩电话会记录。基本提示: “查找谷歌最新的SEC文件。”高级提示:“获取亚马逊最新的业绩电话会记录。”“查找特斯拉最新的SEC文件.”“查找微软最新的业绩电话会记录。”Instacart功能: 查找食谱,找出你需要的食材,然后将其添加到购物清单中。基本提示: “查询鸡肉帕尔马干酪的食谱,并将食材添加到我的购物清单。”高级提示:“找到一个素食食谱作为晚餐,并添加食材到我的购物清单。”“搜索一个无麸质甜点食谱,并添加食材到我的购物清单。”“找到一个低碳水化合物早餐食谱,并添加食材到我的购物清单。”Comic Finder功能:查找漫画,目前支持XKCD和SMBC网站。基本提示: “找一本关于机器学习的XKCD漫画。”高级提示:“在SMBC上找一本量子物理漫画”“搜索XKCD上 关于编程的漫画”“找一本关于太空探索的漫画。”Manorlead功能: 查找加拿大和美国出租或出售的房屋列表。基本提示: “给我看看西雅图出租的两居室公寓清单。”高级提示:“给我找多伦多出售的三居室房屋清单,预算50万美元。”“给我看看旧金山的宠物友好型的出租房,每月租金低于3000美元。”“寻找迈阿密可以看到海景的豪华公寓。”VoxScript功能: 支持搜索YouTube文本、财务数据源和Google搜索结果等等。基本提示: “搜索TED演讲的文字记录,并找到提及AI的地方。”高级提示:“在YouTube上找到最近提到‘气候变化的政治演讲。”“从可靠来源搜索特斯拉公司的最新财务报告”“搜索‘远程工作最佳实践’的谷歌搜索结果。”Open Trivia功能: 从不同类别和难度水平的百科问题,适合那些非常想要挑战自己在各个领域的知识面的用户。基本提示: “给我一个科学范畴的琐碎问题。”高级提示:“提供5个世界史百科问题。”“向我提出一个关于‘太空探索’的高难度问题。”“提一个文学百科问题。”DEV Community功能:推荐DEV社区上的文章和用户。基本提示: “从DEV社区向我推荐一篇关于Python编程的文章。”高级提示:“给我找到DEV社区中关于JavaScript框架的顶级文章。”“在DEV社区推荐经常撰写网络安全文章的热门用户。”“搜索DEV社区中最近关于AI和机器学习的文章。”Word Sneak功能: AI在你们的对话中加入3个秘密单词,猜出这些词语即获胜。基本提示: “开始一个游戏,在我们的对话中插入‘香蕉’、‘宇航员’和‘单片眼镜’。”高级提示:“我们来玩个游戏,试着把‘大象’、‘望远镜’和‘纸杯蛋糕’这些词混进我们的聊天中。”“开始一个游戏,你必须在我们的谈话中使用‘彩虹’、‘笔记本电脑’和‘菠萝’这些词。”“我们来玩文字游戏吧,你的单词是‘蝴蝶’、‘摩天大楼’和‘巧克力’。”原文出处:https://baijiahao.baidu.com/s?id=1765950881499134289&wfr=spider&for=pcChess功能: 与AI下国际象棋基本提示: “让我们来下一盘棋。我从E4开始。”高级提示:“开始一场大师级别的AI国际象棋比赛。”“我们来下盘棋吧,我从西西里防御C5开始。”“下盘棋,你先开始。”Web Pilot功能:根据一个或多个URL, 浏览网页内容并生成摘要、总结、翻译等内容。基本提示: “根据该URL生成文章摘要。”高级提示:“生成该URL上文章的详细摘要。”“浏览该网页,并摘录要点。”“创建本网页内容的简要概述。”Change功能: 查找有影响力的非营利组织。基本提示: “查找有影响力的环保非营利组织,支持我所在的社区。”高级提示:“在我所在的地区寻找专注于教育的非营利组织。”“查找致力于应对气候变化的国际非营利组织。”“查找支持心理健康倡议的当地非营利组织。”Noteable功能: 使用Python、SQL和Markdown创建笔记,以分析数据、可视化并共享笔记本。基本提示: “创建一个Python笔记本来分析这个CSV文件中的数据。”高级提示:“创建一个SQL笔记本,来分析这个数据库中的数据。”“生成Python笔记本,可视化此Excel文件中的数据。”“创建一个Markdown笔记本来记录数据分析的结果。”Likewise功能: 推荐电视、电影、书籍和播客等娱乐媒体内容。基本提示: “推荐一部恐怖片给我今晚看。”高级提示:“给我推荐一本悬疑小说。”“推荐一部喜剧电视剧给我看。”“找一个关于科技的流行播客给我听。”Block Atlas功能: 查询美国人口普查数据,并提供可视化结果。基本提示: “搜索美国人口普查数据为洛杉矶的人口。”高级提示:“根据美国人口普查局的数据,找出旧金山的收入中值。”“在美国人口普查数据中搜索纽约市的人口增长率。”“查找美国人口普查数据中波士顿大学毕业生比例的数据。”One Word Domains功能: 检查域名的可用性,并比较不同注册商之间的价格。基本提示: “检查域名‘mynewbusiness.com’的可用性。”高级提示:“查找包含‘tech’的可用.com域名。”“搜索与‘适合’相关的可用域名,并比较它们的价格。”“检查域名‘innovativeai.com’是否可用,并提供最佳价格选择。”AskYourPDF功能:从PDF文件内容提取内容,并生成摘要、分析等内容。基本提示: “从这个PDF文档中提取第三章。”高级提示:“分析该 PDF文档的第一章,并提供摘要。”“从PDF文档中提取此URL中的所有图像。”“在该网址搜索PDF文档中提到的所有‘气候变化’。”Portfolio Pilot功能: 为投资组合进行评估、提供建议,回答财务相关的问题。基本提示: “评估我目前的投资组合,并提供分散投资的建议。”高级提示:“分析我的投资组合,提出增加我在科技行业风险敞口的方法。”“评估我的投资组合,并提供风险评估。”“检查我的投资组合,并提出任何有必要进行调整的建议,帮助我完成退休目标。”VideoInsights功能:查找在线视频平台如Youtube或DailyMotion的内容。基本提示: “读取YouTube上的热门视频中的观点。”高级提示:“找到上周YouTube上观看次数最多的音乐视频。”“在YouTube上搜索热门烹饪教程。”“读取DailyMotion上最受欢迎的健身视频的观点。”Golden功能: 从Golden知识图谱平台中获取公司当前的实际数据。基本提示: “从Golden知识图谱中获取微软的最新数据。”高级提示:“从Golden知识图谱中提供有关谷歌收购的最新信息。”“从Golden知识图谱中检索亚马逊的历史和增长数据”“从Golden知识图谱中获取特斯拉创始人和执行团队的信息。”Yabble功能:根据受众创建调查、收集数据和进行分析。基本提示: “创建一个调查,以收集我们新产品的客户满意度数据。”高级提示:“设计一个调查来了解用户使用我们的移动应用程序的体验。”“针对千禧一代开展一项调查,收集他们购物的购物习惯。”“分析从我们最新的客户反馈调查中收集的数据。”SEO.app功能:个人SEO(搜索引擎优化)助理,帮助用户进行内容营销。基本提示:“分析我的网站‘www.mywebsite.com’的SEO表现。”高级提示:“提供我的电子商务网站SEO审计结果。”“给我一份健身行业的高级关键词列表。”“分析竞争对手网站的反向链接档案。”KAYAK功能: 搜索航班、住宿和租赁汽车信息,根据预算提供旅行推荐。基本提示:“找到七月第一周从纽约到伦敦最便宜的航班。”高级提示:“在巴黎找一家预算为每晚150美元的酒店。”“搜索洛杉矶最好的租车服务。”“给我一份2000美元预算的热门旅游目的地名单。”BizToc功能:搜索商业和金融新闻。基本提示: “搜索BizToc上有关特斯拉的最新消息。”高级提示:“查找股市崩盘的最新消息。”“搜索有关脱欧对英国经济影响的最新文章。”“查找加密货币市场的最新动态。”Tutory功能:寻找学生辅导服务。基本提示: “给我八年级的儿子找一个在线数学家教。”高级提示:“找一个可以辅导高中化学作业的家教。”“找一个一周两次的西班牙语家教。”“找一个专门针对SAT考试辅导的老师。”Speechki功能:将文本转换成语音文件,支持不同语言之间的转换。基本提示: “将该英语文本转换为法语音频。”高级提示:“将西班牙语文本转换为英语音频。”“在这个德文文本的基础上生成一个音频文件。”“创建该意大利文本的音频版本。”Bohita功能:设计服装。基本提示: “设计一件印有日落山峰图的T恤衫。”高级提示:“设计一件带有孤狼站在满月下景象的连帽衫。”“制作一件印有城市夜景的T恤”“设计一个带有热带海滩景色的背心。”Tasty Recipes功能: 查询食谱。高级提示:“查询无麸质甜点的食谱。”“搜索低碳水晚餐食谱。”“给我一份简单快捷的早餐食谱清单。”Zillow功能:查找房地产信息,提供购房建议。基本提示: “给我看看旧金山预算在2000美元以内的两居室公寓清单。”高级提示:“查询奥斯汀30万美元预算内的待售房屋。”“给我看看波士顿至少有两间浴室的三居室房屋清单。”“搜索西雅图允许养宠物的出租房。”Polarr功能: 搜索Polar用户生成的照片和视频滤镜。基本提示: “查询复古图片滤镜。”高级提示:“找到一个滤镜,使照片达到黑白效果。”“寻找一个过滤器,增强我的日落照片的颜色。”“找一个滤镜,让我的照片看起来像电影。”Keyplays Live Soccer功能:提供最新的足球赛事实时排名、结果、评论、直播电视台等。基本提示: “展示英超联赛的最新排名和结果。”高级提示:“给我欧洲冠军联赛的最新比分。”“让我看看西甲联赛目前的排名。”“为意甲联赛的最新一场比赛提供评论。”Open Table功能: 查找可预订的餐厅。基本提示: “查找本周六晚上芝加哥可以预定的餐厅。”高级提示:“本周五在旧金山找一家浪漫餐厅共进晚餐。”“搜索本周末有空位的纽约市家庭友好型餐厅。”“找到洛杉矶提供户外座位的餐厅,明天午餐时间可以用。”Get Your Guide功能:查找可以预订的旅游、短途旅行和其他旅游活动。基本提示: “查找罗马评价最高的旅游项目。”高级提示:“参观巴黎的卢浮宫博物馆。”“搜索昆斯敦的冒险活动。”“探索东京顶级美食之旅。”Wahi功能:提供加拿大安大略省房地产市场信息。基本提示: “给我看看安大略省多伦多市最新的房地产清单。”高级提示:“搜索渥太华出售的三居室房屋,预算在50万美元以内。”“给我看看多伦多市中心最新的公寓清单。”“搜索汉密尔顿允许养宠物的出租房产。”Kraftful功能:帮助用户进行产品开发。基本提示:“给我科技行业产品开发的最佳案例。”高级提示:“为创业环境中的有效产品管理提供建议。”“解释用户反馈在产品开发中的作用。”“讨论产品设计中跨职能协作的重要性。”Shimmer: Nutrition功能: 帮助用户追踪膳食和获得更健康的生活方式。基本提示: “跟踪我今天的饮食,并提供一个更健康的生活方式建议。”高级提示:“分析我过去一周的食物摄入量,并提出改善均衡饮食的建议。”“记录我今天的卡路里摄入量,并与我每天建议的摄入量进行比较。”“提供我今天摄入的膳食营养分析。”Rentable Apartments功能: 根据需要和预算,寻找出租公寓。基本提示: “查询波士顿预算在1800美元左右的两居室公寓。高级提示:“查找圣地亚哥的宠物友好型公寓,预算在2000美元以内。”“搜索西雅图市中心可以立即入住的单间公寓。”“我想看看迈阿密能看到海景的豪华公寓。”AIScholar功能:搜索科学研究成果和同行评审内容。基本提示: “提供关于气候变化影响的最新同行评审研究。”高级提示:“找到最近关于AI在医学诊断中的影响的研究。”“搜索关于可再生能源好处的同行评议文章。”“查找关于社交媒体心理影响的最新研究。”Redfin功能: 查找房地产市场的信息。基本提示: “给我查一下西雅图目前住房市场的概况。”高级提示:“比较一下旧金山和洛杉矶房地产市场。”“我想要过去一年纽约市房价的走势。”“给我一份新冠疫情对美国住宅市场影响的分析。”MixerBox OnePlayer功能: 查找并播放各种类型的音乐、播客和视频。基本提示: “播放流行音乐中最流行的歌曲。”高级提示:“播放最新一集‘StartUp’播客。”“找一个健身课程视频。”“播放80年代的热门歌曲。”Expedia功能:查询交通、住宿、旅游项目等信息。基本提示: “帮我策划一次巴黎之旅,查找合适的航班、酒店和旅游景点。”高级提示:“查询7月份从纽约到伦敦的最便宜的往返航班。”“搜索8月份有空房的罗马四星级酒店。”“列出悉尼最受欢迎的旅游景点。”FiscalNote功能:搜索法律、政治、监管方面的信息和数据。基本提示: “提供美国政治趋势的实时数据。”高级提示:“提供即将到来的参议院选举的最新消息。”“给我看看参议员最近的不记名投票记录。”“给我介绍一下美国目前的政治气候。”Algorithma功能:在生活模拟器游戏中塑造虚拟生活,游戏没有固定结局,玩家可以按照自己的意愿塑造角色。游戏玩法: 输入“开始/帮助/随机”,根据AI提示进行选择。
  • [业界洞察] 【转载】远望资本程浩:AI大模型创业的生死5问
    这一波大模型浪潮,哪些是创业者的机会,哪些不是?浩哥总结了AI大模型创业的五个核心问题随着ChatGPT的发布,AI/大模型赛道真是风起云涌,一日千里。作为一个互联网老兵,很多朋友问浩哥AI这一波和当年互联网怎么比?其实区别还挺大的,互联网的核心价值是连接信息,AI是理解信息。举个例子:我们去图书馆借一本书,互联网是帮助我们找到这本书。而AI是把这本书仔细读一遍,融汇贯通,还可以回答任何问题。前者当然有意义,但是后者的价值显然要远远大于前者。像陆奇老师说的,Google的价值是把信息获取的边际成本降为0,ChatGPT的价值是把知识获取的边际成本降为0,这是互联网和AI的价值差异。也正因为如此,长远一点来讲,知识对于一个人可能不是必须掌握的。就像今天你去面试,没有任何一家公司会考你两位数乘法,为什么?因为这个技能计算器可以轻松解决,未来知识很可能一样。如果知识能够这么轻易的获取,为什么我们还需要掌握呢?所以未来一些知识或者经验推动的领域,会遇到很大的挑战,例如医生、律师、会计师等等。甚至我们目前的教育体制都会受到冲击。远景的话题我就不展开了,重点和大家聊聊大家所关注的:这一波大模型,哪些是创业者的机会,哪些不是?一创业公司能不能做通用大模型 ?首先中国一定会有自己的ChatGPT。这跟搜索引擎一样,我们有自己的合规要求。但是中国版的ChatGPT只会在5家公司里产生:BAT+字节+华为。这意味着创业公司或者那些纯为了炒股价的A股上市公司很难有机会。当然我这个说法会得罪很多创业者。包括我的朋友王小川也在相关领域创业,以及很多FOMO的VC朋友,现在也在信誓旦旦一定要投或者已经投了大模型创业团队。为什么浩哥这么讲?浩哥现在虽然是投资人,但在更长的时间里,我更是一个创业者。所以我深刻的理解,创业者在什么情况下能跑赢大厂?核心是必须有先发优势。那凭什么你比大厂有先发优势?无非就是以下几种可能性:大厂没看懂,觉得这事没价值;大厂没看上,觉得市场太小;大厂没看清,技术路线比较多,想等创业者验证;大厂觉得离自己主营业务太远;也就是只有在非共识的情况下,创业公司才有机会“抢跑”,获得先发优势。但是今天我们看ChatGPT这个赛道,完全不是这个状况。首先,大厂都极其重视,可以毫不夸张地讲,都是一把手工程。百度的CEO李彦宏也好,阿里的CEO张勇也好,都是亲自站台。可以说没有一家大厂不重视。其次,大厂肯定比创业公司有流量、有钱,通用大模型还是一个挺烧钱的事。但是其实以上这些,都没有“场景”更重要。大厂的核心优势是自带场景。为什么说落地场景如此重要?因为没有落地场景你的技术就没法迭代,没法持续优化形成数据网络效应。所以创业公司的痛苦之处也在于此,自己没有场景,像ChatGPT一样推问答,你还没流量。这就是为什么我说创业公司很难在这条赛道上跑出来,纯粹是浪费钱的原因。当然有人会挑战我说,浩哥你说的不对呀,人家OpenAI不也是创业公司吗?那事实恰恰是,当时Google等国外大厂没人觉得GPT能跑出来(甚至OpenAI自己也不确定),所以才给了OpenAI先发的机会。但今天这个事对于中国的大厂已经是显而易见的共识,甚至百度、阿里动作比创业公司还快。所以创业公司做通用大模型,非常难。但是从投资的角度并不错,因为早期项目80%是投人,也许他们会转型到垂直模型,也许会做成一个超级APP,也许会被并购。毕竟大部分成功的公司,最后做成的事都不是他们一开始想做的事,只要创业团队人牛就行,就像腾讯最开始也不是做即时通讯的。二通用模型 vs 垂直模型 ?ChatGPT既然这么聪明,是否还有垂直模型的生存空间呢?当然有。我随便在New Bing(基于GPT4)搜“微软的股票会涨么?”,得到的信息(如下图),其实没有任何价值。当然有的人会挑战说,是因为GPT的泛化能力还不够。随着技术的的演进,这个问题会被解决。泛化能力当然是一个问题,但更核心的问题是各行各业都有自己的Know-How。这些最有价值的Know-How很可能不在互联网上,而是在企业的私有数据库里,甚至在一部分专家的脑子里。ChatGPT连信息都没有,自然也不会形成这方面的知识。这也是Bloomberg推出BloombergGPT的意义。事实上,越是high-value(当然high-value和low-value都是相对的),越是Mission Critical(关键应用)的领域,垂直模型的价值越大,例如自动驾驶,通用大模型没法直接用,因为缺乏数据、缺乏corner case训练的大模型是很难干容错率这么低的工作。同理,越是low-value,越是none-mission-critical(非关键应用)的领域越适合通用模型。比如:问答。GPT其实经常胡说八道,但是无所谓,人有判断力,你可以去纠正他,这在自动驾驶这样mission critical的领域肯定是不行。再比如写作,本来也不存在唯一正确的答案。比如以文生图,不存在对错,你不满意就让AI一次生成100个,你从里面挑总可以了吧。 所以垂直模型的价值是非常大的,这会产生非常多的创业机会,因为行业太多了。一般来讲,垂直模型企业也很少选择自己从头做,而是找一个还不错的pre-train过的大模型,在他基础上做instruction tuning(指令微调)。这就带来下一个问题:到底应该选择闭源大模型,还是开源大模型?Photo by D koi on Unsplash三开源模型 vs 闭源模型 ?ChatGPT目前如日中天,但是开源模型也是如火如荼,未来的格局会是什么样?浩哥先说结论:未来美国和中国,每个国家都会有1~2个闭源模型,剩下的都会开源。我们回顾iOS和安卓就容易理解:iOS作为第一个智能手机操作系统,一出来就惊艳全场,安卓选择开源迎战。目前全球范围iOS和安卓的市场大概是2:8。如果安卓当年也选择闭源呢?大概率最多获得iOS市场的一半,然后第三家智能手机操作系统公司选择开源,最终iOS、安卓、第三家的市场份额比例可能是2:1:7。所以你是安卓,你是选择闭源获得那10%的市场,还是选择开源获得80%的市场呢?这事放在大模型也是类似。只有前1~2两名(也有可能只有第1名)有资格选择闭源,从第三名开始,反正也追赶不上了,选择开源才最符合他的利益。开源对于闭源最大的优势就是对私有数据的保护,这对于个人来讲好像无所谓,但是对于企业用户是一个非常核心的问题:我做一个SaaS产品,也想用大模型赋能,但是我并不想把我的行业Know-How和我企业内部的一些私有数据,透露给我的竞争对手,因为这是我的核心竞争力,怎么办?只能选择开源,自己host自己的大模型。如果你选择闭源,不论你使用Prompt Engineering的方式,还是选择GPT-index服务,都有可能出现三星那样的机密泄露问题。因此我判断:企业服务应该是开源模型的天下。 其实最有动力开源大模型的是云计算厂商,因为虽然开源不赚钱,但是你总需要云服务吧?用我的云就好了,这就是典型的羊毛出在猪身上的商业逻辑。因此像阿里、腾讯、华为这样的云服务厂商都会是大模型开源的支持者。 目前在美国,ChatGPT选择了闭源,但是出现了一堆以动物名字命名(这些单词我几乎一个都不认识…)的开源大模型,甚至我认为OpenAI未来也会可能会推出一个开源大模型:闭源模型继续服务To C,例如问答、Co-Pilot等,但也为To B提供一个开源模型,允许合作伙伴自己部署。当然,通常开源模型参数不会是1750亿那么多,这么大的模型对基础设施要求太高,很少有合作伙伴能跑起来。开源模型通常会被缩小规模到几十亿到上百亿参数。四AIGC+ vs +AIGC ?还有一个创业者非常关注的问题:那就一个创业机会到底是AIGC+,还是+AIGC?换一句话,就是AIGC原生,还是AIGC赋能?做任何一个领域,比如说智能客服,创业者可以直接以AIGC做智能回复为切入点,然后把客服的全流程都做了。当然也可能,我之前就是做客服系统的,现在把AIGC能力加上。好像听起来两边都能做,而且也一定会相互渗透,那谁更有优势?我觉得取决于两点:第1点,也是最重要的一点就是,要看AIGC在全业务流程价值链的比例。如果这条赛道全价值链是100,AIGC只占10%,说白了你从AIGC切入,你得把另外90%补齐,这个太累了。对比来说,竞争对手在产业链里深耕多年,90%已经有了,只需要补缺AIGC的10%,你觉得哪个容易?肯定是+AIGC更容易。所以到底是AIGC+,还是+AIGC,首先取决于AIGC在全业务流程价值链的比例,这是最核心的判断标准。第2点,取决于这个业务AIGC的护城河有多高。如果传统企业也意识到了AI的价值,也开始做+AIGC,并且轻松就能做到你的水平,那你想从AIGC+切进去就很难。但反过来说,假设AIGC部分只在全产业链占30%,但这30%却有极高的门槛。那些竞争者即使跑赢了70%,但不好意思,剩下这30%的他们做不了,那这也是AIGC+的机会。例如以文生图Midjourney,生成的图片质感确实不错,这就变成了他的护城河。但是Adode也推出了Firefly,如果Firefly也很快达到了Midjourney的效果,那Midjourney的生存空间就会被极大压缩。因为这个全业务流程里,Adobe可能占了70%,以文生图只占30%。但只要Firefly追赶不到Midjourney的效果,那后者就有自己的生存空间。当然,既然是服务垂直行业,不管是AIGC+,还是+AIGC,创业者懂行业始终都是非常核心的。五To C还是To B,国内还是海外 ?To C、To B,国内、海外把市场分成了四个象限。我和大家分别说一说。 首先是国内To C。其实大模型做To C的场景非常多,问答也好,个人助理也好,社交也好,但整体感觉偏巨头的赛道,因此国内To C总结成一句话就是:夹缝中做爆品。虽然To C确实容易出爆品,但是前提得有流量红利。我在2016年刚开始做投资的时候,虽然还没想好具体投什么,但已经明确了不投什么,就是绝对不碰纯APP。因为我做了这么多年互联网,深刻感受到那时候流量红利已经没了。事实上从2016年之后,国内纯APP跑出来的独角兽很少,所以我们的结论基本上是正确的。但毕竟还是漏了一个拼多多。拼多多本质上也是流量红利,就是那些用微信但是不用淘宝的人,全中国有4~5亿,以3~5线城市居多。我们平时多在一二线城市跑,并未能关注到。而且这个流量红利还在阿里的竞争对手手里,腾讯选择了扶持拼多多,没有自己亲自上场。除了流量红利之外,还有一个就是做To C,大厂比较容易抄你。当然你自己还没搞明白的时候,大厂也懒得理你。你一旦PMF了,大厂就开始重视。所以这是典型的国内To C市场,夹缝中做爆款。 另外用大语言模型做国内To C,会有比较高的合规成本。因为通用领域,你也不知道用户会问什么。严重一点的就是竞争对手会故意找一些敏感话题,然后去举报你,这就非常恶劣了,在互联网时代国内发生过很多起。相比To B就好很多:没人会跟一个客服机器人聊今天天气怎么样。 第二个是国内To B。大模型可以赋能的To B赛道实在太多了,包括法律、电商、招聘、设计等等行业。但国内To B也继承了中国To B市场已有的问题,就是天花板比较低。 财富500强里确实有很多中国企业,但你仔细一看几乎全是国企和央企。他们的采购一是市场化程度不够,二是几乎都要求私有化部署和定制。而市场化程度高的民企普遍没钱。 中国IT支出只有美国的1/6,很多还在央企和国企。国内SaaS上市公司的人均产值,是30-60万人民币,美国是30-60万美元。这就是中国企业服务的现状,而且不是短期就能改善的。 所以做国内的企业服务市场,必须得耐得住寂寞,有韬光养晦的心态。 第三个是做国际To C。例如Lensa.ai,Jasper.ai、Copy.ai、Midjourney等(我把部分PLG产品也归纳到了此象限里)。首先,国际To C本身已经偏红海了,类似Jasper的公司,已经不下十几个了。其次这些公司今天也面临着巨头的竞争,例如Jasper面临的是Office的Copilot和Notion AI的竞争;包括上文提到的Midjourney面临Adobe Firefly的竞争。所以这些创业公司(其实有的已经是独角兽了)是否还能像过去那样野蛮成长,还是有很大的不确定性。 问题的核心原因就是护城河稍微有点窄。之前微软Teams+Office全家桶PK Slack也是类似的案例。 第四个就是利用AIGC做海外To B。好处当然是海外B端的支付能力和付费习惯都比较好。我专门问过几个硅谷创业公司的CEO,基本上美国这边3-5人的startup每年在SaaS上的费用都在几千美金。都是直接下载安装注册然后付费,全都自助完成,没有任何教育成本,因为在之前的公司就是这么用的。中国人做海外To B的优势就是比较勤奋,迭代速度快,中国创业者996是默认,海外根本不可能。所以中国人做SaaS一个月可以迭代3次,海外同行可能是3个月迭代一次。所以如果你本来就是做To B的,与其在国内卷,还不如出海卷外国人。当然做海外市场,对创业者背景还是有一定要求,最好是有一定的海外生活经历,特别还在海外的To B企业干过更佳。 最后,我前几天对远望的被投企业做了一些调查,发现超过50%的企业都已经开始用AIGC/大模型来提高内部效率了,还有好几个企业已经在他们产品中集成了AIGC/大模型来对外提供服务了。所以AI的渗透远比我们想象的更快。 原文出处:cid:link_0
  • [活动公告] 【HUAWEI CONNECT 2024丨社区活动】华为云AI原生应用引擎,0代码开启个性化应用之旅
    因参与楼层不满足开奖条件,本活动不开奖。-------------------------------------------------------------------参加“华为云AI原生应用引擎,0代码开启个性化应用之旅”项目在本活动帖下回帖,提出你的问题与建议有机会获得开发者定制礼品【体验项目】华为云AI原生应用引擎,0代码开启个性化应用之旅【精简小视频】AI原生应用引擎实操教程:开发者的快速上手指南!【体验简介】无需编写一行代码,即可拥有个性化AI助手的奇妙之旅只要输入你想要的功能,30秒不到就能创建Agent——你的最佳AI助手,它可以是你的工作规划大师、出行顾问、旅游助手、Java编程助手等等。一切身份功能皆由你来定义,让你自信应对各种技术难题,提升工作效率。【体验形式】1、扫码申请应用平台租户账号2、使用AI原生应用引擎平台开发AI原生应用3、发布AI应用并体验【操作步骤】(1)扫码免费开通华为云AI原生应用引擎,申请人姓名请在姓名后加上“--社区”(2)短信或邮件收到开通成功的信息和产品控制台链接,点击进入,即可正式开启智能应用构建之旅!(3)0代码体验​【活动时间】2024年9月13-10月12日【参与方式】直接在此活动帖下方回帖,将体验完成的截图和您的问题/建议/感受一起回帖即可比如体验中遇到的问题,对产品的建议、对活动感受等等PS:不要少于30字哦~截图参考【获奖规则】可提前填写获奖信息收集表,后续如您中奖,我们会及时发货,谢谢。获奖信息收集表: cid:link_0【活动规则】1、本帖的回帖建议不少于30字,仅限于对“华为云AI原生应用引擎,0代码开启个性化应用之旅”体验项目,其他项目建议不参与此次活动,否则将视为无效内容。2、本次活动将根据实际参与情况发放奖励,包括但不限于用户百分之百中奖或奖项轮空的情况;实物奖品具体发放视出库情况而定; 3、活动预计于结束后七天内完成奖项公示,并于结束后15个工作日内完成邮寄。【温馨提示】1、请务必使用个人实名账号参与活动(IAM、企业账号等账号参与无效)。如一个实名认证对应多个账号,只有一个账号可领取奖励,若同一账号填写多个不同收件人或不同账号填写同一收件人,均不予发放奖励。2、所有获得奖品的获奖用户,请于获奖后3日内完成实名认证,否则视为放弃奖励。