- 一、为什么大模型需要"后训练"?现在的大模型(LLM)通常先经历一个叫预训练(Pre-training)的阶段:在海量文本上做"预测下一个词"的训练,从而获得通用的语言能力和世界知识。但预训练出来的模型有个问题——它更像一个"续写机器",你给它一句话,它会顺着往下编,而不一定按你的指令办事。于是就有了后训练(Post-training)。它的核心目标不是从零训练一个新模型,而是在预训练模型的... 一、为什么大模型需要"后训练"?现在的大模型(LLM)通常先经历一个叫预训练(Pre-training)的阶段:在海量文本上做"预测下一个词"的训练,从而获得通用的语言能力和世界知识。但预训练出来的模型有个问题——它更像一个"续写机器",你给它一句话,它会顺着往下编,而不一定按你的指令办事。于是就有了后训练(Post-training)。它的核心目标不是从零训练一个新模型,而是在预训练模型的...
- 长上下文并不便宜。把文档塞进提示词,每次提问都要重新编码,键值缓存随长度膨胀。另一条路是微调:知识写进权重后推理不再需要原文,但每个新文档都要单独优化,比较慢。最近的论文《用参数流内化上下文》试图走第三条路:不优化、不保留原文,只用一次前向推理把上下文翻译成低秩适配器,此后仅凭问题作答。三种供给知识的方式提示词供给灵活、零训练,是检索增强的默认做法,代价是每次调用都重新付费。微调供给推理干净... 长上下文并不便宜。把文档塞进提示词,每次提问都要重新编码,键值缓存随长度膨胀。另一条路是微调:知识写进权重后推理不再需要原文,但每个新文档都要单独优化,比较慢。最近的论文《用参数流内化上下文》试图走第三条路:不优化、不保留原文,只用一次前向推理把上下文翻译成低秩适配器,此后仅凭问题作答。三种供给知识的方式提示词供给灵活、零训练,是检索增强的默认做法,代价是每次调用都重新付费。微调供给推理干净...
- 大语言模型本身的知识存在时效性和领域性的限制,直接问答容易产生过时或虚构的内容。检索增强生成通过先检索相关资料再生成回答的方式,让模型能够基于最新、特定的知识作答,是当前企业落地大模型应用的主流架构。本文科普 RAG 的基本原理、关键环节和常见误区 大语言模型本身的知识存在时效性和领域性的限制,直接问答容易产生过时或虚构的内容。检索增强生成通过先检索相关资料再生成回答的方式,让模型能够基于最新、特定的知识作答,是当前企业落地大模型应用的主流架构。本文科普 RAG 的基本原理、关键环节和常见误区
- 一、智能体技术发展现状与行业趋势随着人工智能技术的快速迭代,2026年已成为智能体技术从概念验证迈向规模化落地的关键一年。全球AI智能体相关市场规模预计将突破1500亿美元,其中企业级应用贡献超七成份额。当前行业已步入智能体"Level 3时代",即系统能够在结构化环境中自主执行复杂任务,未来将逐步向开放环境下的通用智能(Level 5阶段)演进。这一转变的核心标志是智能体具备三大能力:自主... 一、智能体技术发展现状与行业趋势随着人工智能技术的快速迭代,2026年已成为智能体技术从概念验证迈向规模化落地的关键一年。全球AI智能体相关市场规模预计将突破1500亿美元,其中企业级应用贡献超七成份额。当前行业已步入智能体"Level 3时代",即系统能够在结构化环境中自主执行复杂任务,未来将逐步向开放环境下的通用智能(Level 5阶段)演进。这一转变的核心标志是智能体具备三大能力:自主...
- 一、AI制作软件行业发展现状与技术趋势2026年,人工智能技术已进入规模化应用的关键阶段,全球AI智能体市场规模预计达到1200亿美元,年复合增长率保持在40%以上。在此背景下,企业对AI软件的需求正从简单的自动化工具向具备自主决策、跨场景协同能力的复杂系统转变。上海作为国内AI产业发展的核心区域,全市AI相关企业数量已突破万家,规上产业规模超5500亿元,年增速保持在30%以上,形成了技术... 一、AI制作软件行业发展现状与技术趋势2026年,人工智能技术已进入规模化应用的关键阶段,全球AI智能体市场规模预计达到1200亿美元,年复合增长率保持在40%以上。在此背景下,企业对AI软件的需求正从简单的自动化工具向具备自主决策、跨场景协同能力的复杂系统转变。上海作为国内AI产业发展的核心区域,全市AI相关企业数量已突破万家,规上产业规模超5500亿元,年增速保持在30%以上,形成了技术...
- 一、上海软件开发定制行业发展现状与趋势2026年,全球软件开发行业正处于技术迭代与产业应用深度融合的关键阶段。据行业研究数据显示,全球AI智能体市场规模预计从2024年的470亿美元增长至2026年的1200亿美元,年复合增长率达到40.15%。这一增长态势背后,是企业对效率提升、成本优化和智能化转型的迫切需求,同时也得益于大语言模型、多模态处理和分布式计算架构的技术突破。当前,软件开发已进... 一、上海软件开发定制行业发展现状与趋势2026年,全球软件开发行业正处于技术迭代与产业应用深度融合的关键阶段。据行业研究数据显示,全球AI智能体市场规模预计从2024年的470亿美元增长至2026年的1200亿美元,年复合增长率达到40.15%。这一增长态势背后,是企业对效率提升、成本优化和智能化转型的迫切需求,同时也得益于大语言模型、多模态处理和分布式计算架构的技术突破。当前,软件开发已进...
- 很多同学在用 ModelArts Notebook 做训练时遇到过同一个坑:实例停止后,/home/ma-user/work 之外的数据全部丢失,重新下载训练集要花几十分钟。本文记录三种持久化方案的配置要点与选型建议:1. work 目录挂载 EVS:默认 50GB,随实例保留,适合代码与小型数据集;2. 并行文件系统 obs:// 挂载:在 Notebook 终端用 obsutil 配置 ... 很多同学在用 ModelArts Notebook 做训练时遇到过同一个坑:实例停止后,/home/ma-user/work 之外的数据全部丢失,重新下载训练集要花几十分钟。本文记录三种持久化方案的配置要点与选型建议:1. work 目录挂载 EVS:默认 50GB,随实例保留,适合代码与小型数据集;2. 并行文件系统 obs:// 挂载:在 Notebook 终端用 obsutil 配置 ...
- 翁荔这篇迟到三年的长文,与其说是对Scaling Laws的否定,不如说是对一种行业集体惰性的清算。 核心结论并不悲观,却足够刺耳:那条支撑了数百亿美元投入的“直线”,在现实的数据约束与工程细节面前,远比教科书上脆弱。文章最精彩的拆解,在于揭开了Kaplan与Chinchilla之争的“伤疤”。2020年OpenAI断言模型该比数据涨得快,直接催生了“训练不足”的GPT-3;两年后DeepM... 翁荔这篇迟到三年的长文,与其说是对Scaling Laws的否定,不如说是对一种行业集体惰性的清算。 核心结论并不悲观,却足够刺耳:那条支撑了数百亿美元投入的“直线”,在现实的数据约束与工程细节面前,远比教科书上脆弱。文章最精彩的拆解,在于揭开了Kaplan与Chinchilla之争的“伤疤”。2020年OpenAI断言模型该比数据涨得快,直接催生了“训练不足”的GPT-3;两年后DeepM...
- 模型内部把注意力成本砍到零头,模型外部把线上真正在跑的推理框架开源。读懂这两层,比记住参数量有用。一、三层改动,各解决一个瓶颈层改动解决什么模型结构CSA + HCA 混合注意力百万上下文下 KV 放不下读写路径Causal-Encoder-Decoder 非对称prefill 和 decode 的瓶颈不一样服务系统DeepInfer 的调度与验证单机跑多快、多省数字上:V4-Pro 在 1... 模型内部把注意力成本砍到零头,模型外部把线上真正在跑的推理框架开源。读懂这两层,比记住参数量有用。一、三层改动,各解决一个瓶颈层改动解决什么模型结构CSA + HCA 混合注意力百万上下文下 KV 放不下读写路径Causal-Encoder-Decoder 非对称prefill 和 decode 的瓶颈不一样服务系统DeepInfer 的调度与验证单机跑多快、多省数字上:V4-Pro 在 1...
- 当你的业务需要处理深度学习训练、科学计算模拟、3D 渲染等高并发、高实时的计算任务时,普通 CPU 服务器往往力不从心。华为云 GPU 加速云服务器(GACS,GPU Accelerated Cloud Server)正是为此而生——它将 GPU 的并行计算威力以云服务的形式交付到你手中,按需使用、弹性扩展,让你无需采购昂贵的物理 GPU 服务器,就能获得顶级算力。---## 一、什么是 G... 当你的业务需要处理深度学习训练、科学计算模拟、3D 渲染等高并发、高实时的计算任务时,普通 CPU 服务器往往力不从心。华为云 GPU 加速云服务器(GACS,GPU Accelerated Cloud Server)正是为此而生——它将 GPU 的并行计算威力以云服务的形式交付到你手中,按需使用、弹性扩展,让你无需采购昂贵的物理 GPU 服务器,就能获得顶级算力。---## 一、什么是 G...
- 大模型联动 CodeQL + Coverity 完整落地方案 一、整体系统分层架构(解耦可扩展设计) 分层说明LLM 交互层:负责需求解析、漏洞研判、误报过滤、修复代码生成、自定义检测规则生成;仅接收清洗后的结构化漏洞数据,不直接操作工具/源码。工具调度核心层:统一封装 CodeQL、Coverity 全生命周期命令,统一处理编译、数据库构建、扫描、SARIF 导出、报告归一化、上下文提取... 大模型联动 CodeQL + Coverity 完整落地方案 一、整体系统分层架构(解耦可扩展设计) 分层说明LLM 交互层:负责需求解析、漏洞研判、误报过滤、修复代码生成、自定义检测规则生成;仅接收清洗后的结构化漏洞数据,不直接操作工具/源码。工具调度核心层:统一封装 CodeQL、Coverity 全生命周期命令,统一处理编译、数据库构建、扫描、SARIF 导出、报告归一化、上下文提取...
- 做数据的人多半都遇到过这种时刻:一份数据集被脚本覆盖写了,等发现时,上一版的数据已经找不回来,只能重新跑一遍上游流程。传统文件格式里,覆盖就是覆盖,Parquet 文件被新文件替换之后,旧数据没有任何挽回余地。Lance 在这一点上的设计不太一样:它内置了版本管理,每一次写入都会自动生成一个新版本,旧版本并不会因为一次 append 或 overwrite 就消失,而是像快照一样保留下来,随... 做数据的人多半都遇到过这种时刻:一份数据集被脚本覆盖写了,等发现时,上一版的数据已经找不回来,只能重新跑一遍上游流程。传统文件格式里,覆盖就是覆盖,Parquet 文件被新文件替换之后,旧数据没有任何挽回余地。Lance 在这一点上的设计不太一样:它内置了版本管理,每一次写入都会自动生成一个新版本,旧版本并不会因为一次 append 或 overwrite 就消失,而是像快照一样保留下来,随...
- 在传统机器学习中,一个模型通常负责预测一个目标。但在实际业务中,我们往往需要同时预测多个相互关联的结果,例如用户的收入水平与婚姻状态,或者金融客户的违约概率与授信额度。 在传统机器学习中,一个模型通常负责预测一个目标。但在实际业务中,我们往往需要同时预测多个相互关联的结果,例如用户的收入水平与婚姻状态,或者金融客户的违约概率与授信额度。
- 用两百多条历史工艺记录做一次轻量微调,目标是让模型能按机台、材料、模具给出工艺参数建议。记录数据清洗、LoRA 训练、评估与上线判断的全过程,以及踩过的三个坑。 用两百多条历史工艺记录做一次轻量微调,目标是让模型能按机台、材料、模具给出工艺参数建议。记录数据清洗、LoRA 训练、评估与上线判断的全过程,以及踩过的三个坑。
- 人工智能的下一阶段,或许不再只是回答问题,而是真正理解任务、使用工具,并帮助人类完成复杂工作。 人工智能的下一阶段,或许不再只是回答问题,而是真正理解任务、使用工具,并帮助人类完成复杂工作。
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签