- 大模型调用不稳定时只靠重试不够,本文用三步讲清重试规矩、熔断器与降级策略,并给出可直接落地的调用链路与检查清单。 大模型调用不稳定时只靠重试不够,本文用三步讲清重试规矩、熔断器与降级策略,并给出可直接落地的调用链路与检查清单。
- 面向企业引入个人 Agent 的边界设计。先明确它和聊天工具的分界在"能否完成最后一步",再给出 Router/Worker 双层编排、状态持久化、上下文预算,以及按可逆性划分的四级授权与两类红线权限。 面向企业引入个人 Agent 的边界设计。先明确它和聊天工具的分界在"能否完成最后一步",再给出 Router/Worker 双层编排、状态持久化、上下文预算,以及按可逆性划分的四级授权与两类红线权限。
- 用一段可运行的代码,讲清大模型"调用工具"的完整链路与工程落地要点。 一、为什么 Agent 需要工具大模型很擅长理解和生成语言,但它有两个天生短板:知识有截止时间:训练数据之外的信息,它不知道,只能"编"。只能输出文字:无法查询数据库、调用接口、执行操作。把大模型当成一个聪明但"手被绑住"的大脑,**工具调用(Function Calling / Tool Use)**就是给它接上的双手。... 用一段可运行的代码,讲清大模型"调用工具"的完整链路与工程落地要点。 一、为什么 Agent 需要工具大模型很擅长理解和生成语言,但它有两个天生短板:知识有截止时间:训练数据之外的信息,它不知道,只能"编"。只能输出文字:无法查询数据库、调用接口、执行操作。把大模型当成一个聪明但"手被绑住"的大脑,**工具调用(Function Calling / Tool Use)**就是给它接上的双手。...
- 用通俗的方式梳理 MCP 的三个角色、三类能力和通信方式,并用 Python 官方 SDK 写一个最小可运行的 MCP Server,附上开发中的几点实用经验。 用通俗的方式梳理 MCP 的三个角色、三类能力和通信方式,并用 Python 官方 SDK 写一个最小可运行的 MCP Server,附上开发中的几点实用经验。
- 结合日常用大模型写代码、写文档的经验,总结 7 个可以马上用上的提示词技巧,并给出前后对比示例,帮助开发者把模型输出从"差不多"提升到"可直接用"。 结合日常用大模型写代码、写文档的经验,总结 7 个可以马上用上的提示词技巧,并给出前后对比示例,帮助开发者把模型输出从"差不多"提升到"可直接用"。
- 很多团队在华为云 MaaS(模型即服务)上开通大模型服务后,第一版代码往往是一个 requests.post 打通就上线,随后在高峰期集中暴露超时、重复计费、连接池耗尽三类问题。本文记录一套在实际项目中跑通的最小工程化方案,重点讲参数怎么设、失败怎么重试、流式怎么收。一、超时不要只设一个值大模型推理的响应时间与输出 token 数线性相关,用统一的 30 秒超时必然误杀长回答。建议把超时拆成... 很多团队在华为云 MaaS(模型即服务)上开通大模型服务后,第一版代码往往是一个 requests.post 打通就上线,随后在高峰期集中暴露超时、重复计费、连接池耗尽三类问题。本文记录一套在实际项目中跑通的最小工程化方案,重点讲参数怎么设、失败怎么重试、流式怎么收。一、超时不要只设一个值大模型推理的响应时间与输出 token 数线性相关,用统一的 30 秒超时必然误杀长回答。建议把超时拆成...
- 面向企业端侧部署的容量评估与架构方案。MoE 只降低单 Token 计算量,权重占用不变;给出显存/内存/固态盘分层放置、CPU 补位、命中率验收口径,以及端侧与云端的任务分级方法。 面向企业端侧部署的容量评估与架构方案。MoE 只降低单 Token 计算量,权重占用不变;给出显存/内存/固态盘分层放置、CPU 补位、命中率验收口径,以及端侧与云端的任务分级方法。
- 在构建企业级知识库问答系统时,传统的单一向量检索(Vector Search)常面临专有名词匹配失效和上下文相关性不足的问题。本文介绍如何通过“关键词 + 向量”混合检索配合 Rerank(重排序)模型,低成本大幅降低大模型幻觉,提升 RAG 系统的回答质量。 在构建企业级知识库问答系统时,传统的单一向量检索(Vector Search)常面临专有名词匹配失效和上下文相关性不足的问题。本文介绍如何通过“关键词 + 向量”混合检索配合 Rerank(重排序)模型,低成本大幅降低大模型幻觉,提升 RAG 系统的回答质量。
- 微认证“大模型的咒语-Prompt工程”学习笔记:1个基础、2个结构、频率惩罚与提示词模板要点,课程100%、自测5/5分整理。 微认证“大模型的咒语-Prompt工程”学习笔记:1个基础、2个结构、频率惩罚与提示词模板要点,课程100%、自测5/5分整理。
- 面向企业级落地的推理降本方案。前缀缓存把稳定前缀的中间结果复用给后续请求,命中读取低至基础输入价一折;本文给出提示词模板规范、静默失效的排查清单、命中计数监控,以及 vLLM/SGLang 在私有化部署中的取舍。 面向企业级落地的推理降本方案。前缀缓存把稳定前缀的中间结果复用给后续请求,命中读取低至基础输入价一折;本文给出提示词模板规范、静默失效的排查清单、命中计数监控,以及 vLLM/SGLang 在私有化部署中的取舍。
- 面向私有化落地的 7B 模型适配方案。用 LoRA 在单张消费级显卡上完成微调(叠加 4bit 量化后 8GB 起步),用适配器做多任务的版本治理与回滚,并说明哪些需求必须靠检索而非训练来保证可溯源。 面向私有化落地的 7B 模型适配方案。用 LoRA 在单张消费级显卡上完成微调(叠加 4bit 量化后 8GB 起步),用适配器做多任务的版本治理与回滚,并说明哪些需求必须靠检索而非训练来保证可溯源。
- IDC 2025年报告显示,中国企业级AI市场规模已突破400亿元,同比增速超过100%。说白了,AI已经不是"要不要用"的问题,而是"怎么选"的问题。但市面上企业AI平台五花八门,大厂通用型、低代码搭建型、垂直产业型、开源框架型……每类产品的定位、能力、适用场景都不一样。很多企业花了大价钱买平台,结果发现要么用不起来,要么跟业务脱节。这篇文章,我把市面上主流的十大企业AI平台做了一个系统... IDC 2025年报告显示,中国企业级AI市场规模已突破400亿元,同比增速超过100%。说白了,AI已经不是"要不要用"的问题,而是"怎么选"的问题。但市面上企业AI平台五花八门,大厂通用型、低代码搭建型、垂直产业型、开源框架型……每类产品的定位、能力、适用场景都不一样。很多企业花了大价钱买平台,结果发现要么用不起来,要么跟业务脱节。这篇文章,我把市面上主流的十大企业AI平台做了一个系统...
- 大模型底层不是“概率生成器”,而是三段式机械执行系统:归档收纳库(静态知识切片)、范式计算库(SFT/RLHF注入的推理规则与道德护栏)、计算输出器(分类检索→范式调用→约束解耦分段闭环输出)。模型生成首字前必须先做分类检索,按任务类型匹配四层范式(常识检索/计算执行/推理闭环/发散合成),昂贵算力仅分配给推理与发散层。此架构将千亿参数全量激活改为索引式精准调度,可大幅度降本增效并适配昇腾芯片。 大模型底层不是“概率生成器”,而是三段式机械执行系统:归档收纳库(静态知识切片)、范式计算库(SFT/RLHF注入的推理规则与道德护栏)、计算输出器(分类检索→范式调用→约束解耦分段闭环输出)。模型生成首字前必须先做分类检索,按任务类型匹配四层范式(常识检索/计算执行/推理闭环/发散合成),昂贵算力仅分配给推理与发散层。此架构将千亿参数全量激活改为索引式精准调度,可大幅度降本增效并适配昇腾芯片。
- QWEN3是Qwen LLM系列的最新一代大语言模型,专为顶级编码、数学、推理和语言任务设计。该模型支持密集型(Dense)和混合专家(Mixture-of-Experts, MoE)两种架构,提供从0.6B到235B-A22B等多种规模的模型变体,适用于从轻型应用到大规模研究的各种部署场景。 QWEN3是Qwen LLM系列的最新一代大语言模型,专为顶级编码、数学、推理和语言任务设计。该模型支持密集型(Dense)和混合专家(Mixture-of-Experts, MoE)两种架构,提供从0.6B到235B-A22B等多种规模的模型变体,适用于从轻型应用到大规模研究的各种部署场景。
- •个人用户:优先考虑订阅服务,获得稳定体验和更多功能 •中小企业:API按量计费更具成本效益,适合间歇性使用 •大型企业:考虑定制化部署或长期订阅,确保服务质量和数据安全 •特殊行业(金融、军工、政务):私有化部署+专属模型+驻场支持是首选,确保合规与安全 大模型商业化正在从"烧钱换流量"向"价值创造与分成"转变,未来最具竞争力的模式将是那些能够将AI能力深度融入行业场景,与客户共同创造价值并分享 •个人用户:优先考虑订阅服务,获得稳定体验和更多功能 •中小企业:API按量计费更具成本效益,适合间歇性使用 •大型企业:考虑定制化部署或长期订阅,确保服务质量和数据安全 •特殊行业(金融、军工、政务):私有化部署+专属模型+驻场支持是首选,确保合规与安全 大模型商业化正在从"烧钱换流量"向"价值创造与分成"转变,未来最具竞争力的模式将是那些能够将AI能力深度融入行业场景,与客户共同创造价值并分享
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签