- 在做祝福生成系统时，很多人会面临一个技术选型问题：是用微调还是用RAG？这两个技术路线各有优劣，今天我们就来深入对比分析，告诉你为什么祝福场景更适合用微调而不是RAG。先来说说RAG是什么。RAG全称Retrieval-Augmented Generation，检索增强生成。简单来说，就是把用户的问题去知识库里检索相关内容，然后把检索到的内容和问题一起交给大模型，让大模型根据这些内容来生成回... 在做祝福生成系统时，很多人会面临一个技术选型问题：是用微调还是用RAG？这两个技术路线各有优劣，今天我们就来深入对比分析，告诉你为什么祝福场景更适合用微调而不是RAG。先来说说RAG是什么。RAG全称Retrieval-Augmented Generation，检索增强生成。简单来说，就是把用户的问题去知识库里检索相关内容，然后把检索到的内容和问题一起交给大模型，让大模型根据这些内容来生成回...
- 提到PPO，很多人首先想到的是ChatGPT、Claude这些对话AI的训练。确实，PPO在RLHF流程中的出色表现，让它成为了大模型与人类价值观对齐的关键技术，功不可没。但PPO的应用远不止于此，从文本生成到代码编写，从对话系统到内容审核，PPO正在被应用到越来越多的场景中，展现出强大的通用性。本文将全面介绍PPO的各种应用，带你了解这项技术的更多可能性，原来PPO这么能干。对话系统是PP... 提到PPO，很多人首先想到的是ChatGPT、Claude这些对话AI的训练。确实，PPO在RLHF流程中的出色表现，让它成为了大模型与人类价值观对齐的关键技术，功不可没。但PPO的应用远不止于此，从文本生成到代码编写，从对话系统到内容审核，PPO正在被应用到越来越多的场景中，展现出强大的通用性。本文将全面介绍PPO的各种应用，带你了解这项技术的更多可能性，原来PPO这么能干。对话系统是PP...
- 大模型微调的资源消耗一直是困扰开发者的难题，让人望而却步。全参数微调虽然效果最好，但需要的显存和计算资源让很多人望而却步，只能看着大模型流口水。幸运的是，学术界和工业界已经开发出了多种高效微调方法，在大幅降低资源需求的同时保持接近全参数微调的效果。本文将对比分析主流的高效微调方法，帮助你选择最适合自己需求的方案，让你也能用消费级显卡玩转大模型。全参数微调是性能的上限，但也是资源消耗的上限，是... 大模型微调的资源消耗一直是困扰开发者的难题，让人望而却步。全参数微调虽然效果最好，但需要的显存和计算资源让很多人望而却步，只能看着大模型流口水。幸运的是，学术界和工业界已经开发出了多种高效微调方法，在大幅降低资源需求的同时保持接近全参数微调的效果。本文将对比分析主流的高效微调方法，帮助你选择最适合自己需求的方案，让你也能用消费级显卡玩转大模型。全参数微调是性能的上限，但也是资源消耗的上限，是...
- 在大模型训练领域，有一个名字几乎无处不在——PPO。它是ChatGPT、Claude等先进AI系统的核心技术之一，神秘而强大。PPO的全称是Proximal Policy Optimization，中文叫"近端策略优化"。这个名字听起来有点玄乎，但它做的事情其实非常直观：帮助大模型学会人类的偏好和价值观。本文将深入解析PPO的原理，让你理解这个算法到底是如何工作的，又为何能够成为AI领域的香... 在大模型训练领域，有一个名字几乎无处不在——PPO。它是ChatGPT、Claude等先进AI系统的核心技术之一，神秘而强大。PPO的全称是Proximal Policy Optimization，中文叫"近端策略优化"。这个名字听起来有点玄乎，但它做的事情其实非常直观：帮助大模型学会人类的偏好和价值观。本文将深入解析PPO的原理，让你理解这个算法到底是如何工作的，又为何能够成为AI领域的香...
- 你有没有遇到过这种情况：问大模型一个问题，它明明有这个知识储备，却给出了一个风马牛不相及的回答。或者你让它做个简单的任务，它却理解错了你的意图。这种情况往往让人困惑：模型不是已经训练得很好了吗，为什么还会犯这种低级错误？答案在于，预训练模型虽然学到了大量知识，但它并不真正理解人类的意图。指令微调的出现，正是为了解决这个问题。指令微调（Instruction Tuning）是一种让大模型更好地... 你有没有遇到过这种情况：问大模型一个问题，它明明有这个知识储备，却给出了一个风马牛不相及的回答。或者你让它做个简单的任务，它却理解错了你的意图。这种情况往往让人困惑：模型不是已经训练得很好了吗，为什么还会犯这种低级错误？答案在于，预训练模型虽然学到了大量知识，但它并不真正理解人类的意图。指令微调的出现，正是为了解决这个问题。指令微调（Instruction Tuning）是一种让大模型更好地...
- 大模型微调领域充斥着各种专业术语，对于初学者来说，这些术语往往令人困惑。什么是一阶导数，什么是秩分解，什么是KL散度？这些概念不理解透彻，很难真正掌握微调技术的精髓。本文将系统介绍大模型微调中最常见的术语，帮助你建立完整的知识体系，让你在与同行交流时不再一脸茫然。预训练（Pre-training）是最基础的概念，也是整个大模型训练的起点。预训练是指在大规模无标注数据上训练模型，让模型学习语言... 大模型微调领域充斥着各种专业术语，对于初学者来说，这些术语往往令人困惑。什么是一阶导数，什么是秩分解，什么是KL散度？这些概念不理解透彻，很难真正掌握微调技术的精髓。本文将系统介绍大模型微调中最常见的术语，帮助你建立完整的知识体系，让你在与同行交流时不再一脸茫然。预训练（Pre-training）是最基础的概念，也是整个大模型训练的起点。预训练是指在大规模无标注数据上训练模型，让模型学习语言...
- 腾讯混元最新发布的CL-bench基准测试，揭示了一个关键事实：即使给足上下文，大模型仍普遍无法有效学习与应用其中新知识。评测显示，主流模型平均成功率仅17.2%，失败主因并非推理不足，而是更依赖固有记忆而非实时学习。这为依赖上下文构建智能系统的工程实践，敲响了警钟。 腾讯混元最新发布的CL-bench基准测试，揭示了一个关键事实：即使给足上下文，大模型仍普遍无法有效学习与应用其中新知识。评测显示，主流模型平均成功率仅17.2%，失败主因并非推理不足，而是更依赖固有记忆而非实时学习。这为依赖上下文构建智能系统的工程实践，敲响了警钟。
- 花了几十万买显卡，结果发现根本跑不起来“我们公司去年花了八十多万买了四块RTX 4090，结果跑7B模型的全量微调，直接爆显存。”“租了两块A100训练模型，结果发现没有NVLink，训练速度比单卡快不了多少，白花冤枉钱。”“听别人说H100好用，咬牙租了一个月，效果确实好，但账单出来差点没背过气去。”这些真实的案例，折射出大模型GPU选型的复杂性。选错了，不仅浪费金钱，更浪费宝贵的时间。G... 花了几十万买显卡，结果发现根本跑不起来“我们公司去年花了八十多万买了四块RTX 4090，结果跑7B模型的全量微调，直接爆显存。”“租了两块A100训练模型，结果发现没有NVLink，训练速度比单卡快不了多少，白花冤枉钱。”“听别人说H100好用，咬牙租了一个月，效果确实好，但账单出来差点没背过气去。”这些真实的案例，折射出大模型GPU选型的复杂性。选错了，不仅浪费金钱，更浪费宝贵的时间。G...
- 当选择太多，也是一种烦恼2024年的开源大模型生态，正在经历前所未有的繁荣。从Meta的LLaMA系列到阿里巴巴的Qwen，从法国的Mistral到国内的智谱、百川，每一个季度都有新的"最强开源模型"诞生。面对Hugging Face排行榜上密密麻麻的模型名称，许多开发者和企业决策者陷入了选择的困境：这个看起来参数更多，那个声称中文能力更强，还有一个说推理效率提升了50%，到底该怎么选？上周... 当选择太多，也是一种烦恼2024年的开源大模型生态，正在经历前所未有的繁荣。从Meta的LLaMA系列到阿里巴巴的Qwen，从法国的Mistral到国内的智谱、百川，每一个季度都有新的"最强开源模型"诞生。面对Hugging Face排行榜上密密麻麻的模型名称，许多开发者和企业决策者陷入了选择的困境：这个看起来参数更多，那个声称中文能力更强，还有一个说推理效率提升了50%，到底该怎么选？上周...
- 为什么大模型能写诗，却听不懂人话如果你曾经和早期的大语言模型有过深入的对话，你可能会有这样的体验：模型写出来的文章确实像模像样，句子通顺、逻辑清晰，但你让它"帮我总结这段内容"，它却我行我素地续写下去；你让它"用中文回答"，它可能还是用英文侃侃而谈。这种"我说我的，它做它的"的割裂感，曾经是大模型应用的普遍痛点。问题出在哪里？答案是：早期的语言模型本质上是一个"续写机器"。它的训练目标很简单... 为什么大模型能写诗，却听不懂人话如果你曾经和早期的大语言模型有过深入的对话，你可能会有这样的体验：模型写出来的文章确实像模像样，句子通顺、逻辑清晰，但你让它"帮我总结这段内容"，它却我行我素地续写下去；你让它"用中文回答"，它可能还是用英文侃侃而谈。这种"我说我的，它做它的"的割裂感，曾经是大模型应用的普遍痛点。问题出在哪里？答案是：早期的语言模型本质上是一个"续写机器"。它的训练目标很简单...
- 在大模型微调领域，选择一个合适的框架往往决定了整个项目的效率和上限。市场上存在多种微调框架，它们各有特色、各有侧重，从轻量级的 PEFT 到全功能的 DeepSpeed，从专注中文的 SWIFT 到生态完善的 HuggingFace Transformers。不同的框架适用于不同的场景和团队，选对了框架可以让微调事半功倍，选错了则可能陷入无尽的兼容性问题中。本文将对主流微调框架进行系统性的对... 在大模型微调领域，选择一个合适的框架往往决定了整个项目的效率和上限。市场上存在多种微调框架，它们各有特色、各有侧重，从轻量级的 PEFT 到全功能的 DeepSpeed，从专注中文的 SWIFT 到生态完善的 HuggingFace Transformers。不同的框架适用于不同的场景和团队，选对了框架可以让微调事半功倍，选错了则可能陷入无尽的兼容性问题中。本文将对主流微调框架进行系统性的对...
- 引言：参数调好了是神器，调不好是玄学LoRA技术的出现让大模型微调从"贵族游戏"变成了"平民运动"，但也带来了新的问题：原本全参数微调只需要调学习率和batch size，现在多了r、lora_alpha、target_modules等一系列参数。很多开发者看着文档里的英文说明一头雾水，随便设个值就开始训练，结果不是模型不收敛，就是效果反而变差。本文将从原理到实践，深入解析这些超参数的意义和... 引言：参数调好了是神器，调不好是玄学LoRA技术的出现让大模型微调从"贵族游戏"变成了"平民运动"，但也带来了新的问题：原本全参数微调只需要调学习率和batch size，现在多了r、lora_alpha、target_modules等一系列参数。很多开发者看着文档里的英文说明一头雾水，随便设个值就开始训练，结果不是模型不收敛，就是效果反而变差。本文将从原理到实践，深入解析这些超参数的意义和...
- 当大模型完成微调后，如何科学地评估其效果，而非仅凭主观感觉判断“好不好”？许多人将大量精力投入调参，却在评测环节仅凭直觉，导致上线后问题频发。实际上，有效的评测是驱动模型持续优化的闭环起点。本文将系统梳理从分类到生成任务的评测方法论，结合关键指标解读与实战代码，带你走出“凭感觉”的误区，用数据驱动模型迭代。 当大模型完成微调后，如何科学地评估其效果，而非仅凭主观感觉判断“好不好”？许多人将大量精力投入调参，却在评测环节仅凭直觉，导致上线后问题频发。实际上，有效的评测是驱动模型持续优化的闭环起点。本文将系统梳理从分类到生成任务的评测方法论，结合关键指标解读与实战代码，带你走出“凭感觉”的误区，用数据驱动模型迭代。
- 在大模型训练领域，有一个名字几乎无处不在——PPO。它是ChatGPT、Claude等先进AI系统的核心技术之一。PPO的全称是Proximal Policy Optimization，中文叫"近端策略优化"。这个名字听起来有点玄乎，但它做的事情其实非常直观：帮助大模型学会人类的偏好和价值观。本文将深入解析PPO的原理，让你理解这个算法到底是如何工作的。要理解PPO，首先要了解它所属的领域—... 在大模型训练领域，有一个名字几乎无处不在——PPO。它是ChatGPT、Claude等先进AI系统的核心技术之一。PPO的全称是Proximal Policy Optimization，中文叫"近端策略优化"。这个名字听起来有点玄乎，但它做的事情其实非常直观：帮助大模型学会人类的偏好和价值观。本文将深入解析PPO的原理，让你理解这个算法到底是如何工作的。要理解PPO，首先要了解它所属的领域—...
- 大模型微调的资源消耗一直是困扰开发者的难题。全参数微调虽然效果最好，但需要的显存和计算资源让很多人望而却步。幸运的是，学术界和工业界已经开发出了多种高效微调方法，在大幅降低资源需求的同时保持接近全参数微调的效果。本文将对比分析主流的高效微调方法，帮助你选择最适合自己需求的方案。全参数微调是性能的上限，但也是资源消耗的上限。它需要更新模型的所有参数，对于70B参数的大模型，仅模型参数就需要约1... 大模型微调的资源消耗一直是困扰开发者的难题。全参数微调虽然效果最好，但需要的显存和计算资源让很多人望而却步。幸运的是，学术界和工业界已经开发出了多种高效微调方法，在大幅降低资源需求的同时保持接近全参数微调的效果。本文将对比分析主流的高效微调方法，帮助你选择最适合自己需求的方案。全参数微调是性能的上限，但也是资源消耗的上限。它需要更新模型的所有参数，对于70B参数的大模型，仅模型参数就需要约1...
上滑加载中
推荐直播
-
用码道，让你的AI作品三步上朋友圈2026/08/04 周二 19:00-20:00
林华鼎-华为云AI开发者运营负责人
从入门 · 到做AI应用 · 到企业级开发。不教编程，只教用AI · 零代码、有产出、能带走、可炫耀 · 每课人人动手实操
回顾中 -
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家；李炎-华为云码道产品专家；彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战，从0到1打通消息通道；码道鸿蒙端云一体化实战，快速搭建员工签到系统。
回顾中 -
基于华为云码道，构建你的定制化AI搭子2026/08/14 周五 09:00-11:30
明亮-华为云开发者发展与支持部部长
本期直播将向您全面介绍华为云码道产品，并基于码道手把手教你部署自己的定制化AI陪伴搭子。
回顾中
热门标签