- 针对大模型预训练算力门槛高、广域网分布式训练带宽受限的难题,研究者提出了面向开放协同环境的分布式深度学习算法 DeDLOC。该算法通过跨设备超大批量梯度累积与内建容错机制,突破低速网络与节点掉线限制,并利用 40 名志愿者的算力成功预训练出接近 SOTA 水平的孟加拉语模型 sahajBERT。 针对大模型预训练算力门槛高、广域网分布式训练带宽受限的难题,研究者提出了面向开放协同环境的分布式深度学习算法 DeDLOC。该算法通过跨设备超大批量梯度累积与内建容错机制,突破低速网络与节点掉线限制,并利用 40 名志愿者的算力成功预训练出接近 SOTA 水平的孟加拉语模型 sahajBERT。
- Keras 3 架构解析(八):模型持久化与部署系统——从模型序列化到跨后端推理 引言在前七篇文章中,我们分别介绍了 Keras 3 的基础计算层、神经网络层、模型构建层、训练系统、数据处理系统、训练控制与监控系统,以及高性能计算系统。这些部分共同构成了深度学习模型从数学定义到训练执行的完整技术体系。基础计算层提供统一的张量运算能力;神经网络层通过 Layer 抽象管理计算逻辑与参数状态;... Keras 3 架构解析(八):模型持久化与部署系统——从模型序列化到跨后端推理 引言在前七篇文章中,我们分别介绍了 Keras 3 的基础计算层、神经网络层、模型构建层、训练系统、数据处理系统、训练控制与监控系统,以及高性能计算系统。这些部分共同构成了深度学习模型从数学定义到训练执行的完整技术体系。基础计算层提供统一的张量运算能力;神经网络层通过 Layer 抽象管理计算逻辑与参数状态;...
- 今天这篇讲昨晚刚开放权重的开源生图模型,重点在它怎么把高分辨率的成本压平。4096×4096 一次直出只要 6 步:H3-Image 把生图的分辨率成本压平了导语:昨夜 MiniMax 开放了 H3-Image 的权重,把原生 16MP 出图做成了默认档,延迟却几乎不随分辨率上涨;在同一张对比表里,4K 档它用时 10 秒级,主流模型要 50 秒。它没走“先出小图再放大”的链路,而是把采样步... 今天这篇讲昨晚刚开放权重的开源生图模型,重点在它怎么把高分辨率的成本压平。4096×4096 一次直出只要 6 步:H3-Image 把生图的分辨率成本压平了导语:昨夜 MiniMax 开放了 H3-Image 的权重,把原生 16MP 出图做成了默认档,延迟却几乎不随分辨率上涨;在同一张对比表里,4K 档它用时 10 秒级,主流模型要 50 秒。它没走“先出小图再放大”的链路,而是把采样步...
- GeneBench-Pro 是针对基因组学与生命科学研究打造的全新评估基准,旨在检验前沿大模型在真实世界复杂多组学数据、序列到功能推断、变异效应预测及生物科研假设生成中的综合能力。本文深度剖析其架构设计、评测协议及当前前沿模型的核心瓶颈。 GeneBench-Pro 是针对基因组学与生命科学研究打造的全新评估基准,旨在检验前沿大模型在真实世界复杂多组学数据、序列到功能推断、变异效应预测及生物科研假设生成中的综合能力。本文深度剖析其架构设计、评测协议及当前前沿模型的核心瓶颈。
- 剪枝(Pruning)是机器学习中常用的模型优化技术。它通过删除模型中贡献较小的分支、神经元或连接,降低模型复杂度,减少过拟合,并为模型压缩和推理优化创造条件。 剪枝(Pruning)是机器学习中常用的模型优化技术。它通过删除模型中贡献较小的分支、神经元或连接,降低模型复杂度,减少过拟合,并为模型压缩和推理优化创造条件。
- Keras 3 架构解析(七):高性能计算系统——从混合精度、JIT 编译到分布式训练与内存优化 引言在前六篇文章中,我们分别介绍了 Keras 3 的基础计算层、神经网络层、模型构建层、训练系统、数据处理系统以及训练控制与监控系统。这些部分共同构成了一套完整的深度学习开发体系:数据处理系统负责准备训练样本,Model 与 Layer 负责定义神经网络结构,Keras Ops 提供统一的数... Keras 3 架构解析(七):高性能计算系统——从混合精度、JIT 编译到分布式训练与内存优化 引言在前六篇文章中,我们分别介绍了 Keras 3 的基础计算层、神经网络层、模型构建层、训练系统、数据处理系统以及训练控制与监控系统。这些部分共同构成了一套完整的深度学习开发体系:数据处理系统负责准备训练样本,Model 与 Layer 负责定义神经网络结构,Keras Ops 提供统一的数...
- 一次端侧小模型上线三周后回退云端的复盘。拆解延迟、内存、功耗、效果损耗与运维成本五个维度,给出硬门槛加加权评分的判据清单,明确哪些任务该下沉、哪些必须留云端,并附分层回退的落地动作。 一次端侧小模型上线三周后回退云端的复盘。拆解延迟、内存、功耗、效果损耗与运维成本五个维度,给出硬门槛加加权评分的判据清单,明确哪些任务该下沉、哪些必须留云端,并附分层回退的落地动作。
- 11月9日早盘,三大股指震荡走高,人形机器人板块表现活跃。 其中,祥明智能20cm封板,上纬新材、泛亚微透、宇树科技等涨超10%;其中宇树科技一度超越联讯仪器,成为A股第三高价股,截至发稿仍位居第四;华培动力、爱仕达、光洋股份、金固股份等多股涨停。 政策支持不断加码、央企场景开放、海外巨头技术背书与整机厂量产爬坡共振,人形机器人正从“舞台演示”加速走向工厂、家庭等真实场景,行业进入订单兑... 11月9日早盘,三大股指震荡走高,人形机器人板块表现活跃。 其中,祥明智能20cm封板,上纬新材、泛亚微透、宇树科技等涨超10%;其中宇树科技一度超越联讯仪器,成为A股第三高价股,截至发稿仍位居第四;华培动力、爱仕达、光洋股份、金固股份等多股涨停。 政策支持不断加码、央企场景开放、海外巨头技术背书与整机厂量产爬坡共振,人形机器人正从“舞台演示”加速走向工厂、家庭等真实场景,行业进入订单兑...
- 本文深度剖析了“DeepSeek时刻”之后中国开源大模型生态的技术演化路径。重点解读了MoE架构在真实工程约束下的算力动态分配机制、多模态全链路工程资产沉淀、0.5B-30B端侧实用小模型的蒸馏落地策略,以及Apache 2.0等宽松开源协议对产业技术生态构建的深远影响。 本文深度剖析了“DeepSeek时刻”之后中国开源大模型生态的技术演化路径。重点解读了MoE架构在真实工程约束下的算力动态分配机制、多模态全链路工程资产沉淀、0.5B-30B端侧实用小模型的蒸馏落地策略,以及Apache 2.0等宽松开源协议对产业技术生态构建的深远影响。
- “哪个推理引擎最快”是一个错误的问题。2026 年关于推理引擎的公开材料已经形成了一个清晰的共识:性能差距高度依赖负载形状,脱离负载谈吞吐数字,和脱离路况谈百公里加速一样没有意义。先把三个引擎的结构性优势摆清楚。vLLM 的核心是 PagedAttention 加 continuous batching,把 GPU 显存利用率从 pre-vLLM 时代的 20%—40% 拉到接近饱和,相比 ... “哪个推理引擎最快”是一个错误的问题。2026 年关于推理引擎的公开材料已经形成了一个清晰的共识:性能差距高度依赖负载形状,脱离负载谈吞吐数字,和脱离路况谈百公里加速一样没有意义。先把三个引擎的结构性优势摆清楚。vLLM 的核心是 PagedAttention 加 continuous batching,把 GPU 显存利用率从 pre-vLLM 时代的 20%—40% 拉到接近饱和,相比 ...
- 本地 RAG 最常见的失败不是「装不起来」,而是「装起来了、文档也传了、答案却不对」。这时候换更大的模型通常没有用,因为问题多半出在生成之前。本文以腾讯开源的 WeKnora v0.9.0 为例,给出一条从症状倒推到配置项的排查链:先用一次检索请求把 RAG 切成两半,再逐层确认解析、向量化、召回、重排、生成各自有没有坏。全部参数与端点来自官方仓库文件,未在本文环境实际部署,命令建议先在测试... 本地 RAG 最常见的失败不是「装不起来」,而是「装起来了、文档也传了、答案却不对」。这时候换更大的模型通常没有用,因为问题多半出在生成之前。本文以腾讯开源的 WeKnora v0.9.0 为例,给出一条从症状倒推到配置项的排查链:先用一次检索请求把 RAG 切成两半,再逐层确认解析、向量化、召回、重排、生成各自有没有坏。全部参数与端点来自官方仓库文件,未在本文环境实际部署,命令建议先在测试...
- 探讨现代神经网络的黑盒机制是推进前沿 AI 对齐与安全的核心议题。本文深入解析 OpenAI 最新的机械可解释性研究:利用稀疏自编码器(SAE)将叠加态的稠密激活向量解离为单义性概念特征,并通过因果介入构建稀疏计算电路,实现从底层权重到高阶推理逻辑的精确映射与逆向工程。 探讨现代神经网络的黑盒机制是推进前沿 AI 对齐与安全的核心议题。本文深入解析 OpenAI 最新的机械可解释性研究:利用稀疏自编码器(SAE)将叠加态的稠密激活向量解离为单义性概念特征,并通过因果介入构建稀疏计算电路,实现从底层权重到高阶推理逻辑的精确映射与逆向工程。
- RAG(Retrieval-Augmented Generation,检索增强生成)是一种将信息检索与大语言模型生成能力相结合的技术架构。它的核心思想是:在大语言模型回答问题之前,先从外部知识库中检索相关信息,再将检索结果作为上下文提供给模型,从而生成更加准确、可靠的回答。 RAG(Retrieval-Augmented Generation,检索增强生成)是一种将信息检索与大语言模型生成能力相结合的技术架构。它的核心思想是:在大语言模型回答问题之前,先从外部知识库中检索相关信息,再将检索结果作为上下文提供给模型,从而生成更加准确、可靠的回答。
- 前缀缓存、连续批处理、量化三项优化的收益都不是单调的。用固定压测口径拆开命中率、调度甜点与精度损失三条曲线,给出不同流量形态下该开什么、什么时候反而更贵,以及净收益的判定公式。 前缀缓存、连续批处理、量化三项优化的收益都不是单调的。用固定压测口径拆开命中率、调度甜点与精度损失三条曲线,给出不同流量形态下该开什么、什么时候反而更贵,以及净收益的判定公式。
- PyTorch 是动态图深度学习框架,学术界主流。涵盖 Tensor 操作、自动微分(autograd)、神经网络模块(nn.Module)、损失函数与优化器、数据加载(Dataset/DataLoader)、GPU 加速、模型保存加载,以及 Hugging Face 生态。 文章从技术背景和发展历程入手,帮助读者理解该技术的产生原因和演进脉络。通过对比不同版本的特性变化,分析技术选型的考量... PyTorch 是动态图深度学习框架,学术界主流。涵盖 Tensor 操作、自动微分(autograd)、神经网络模块(nn.Module)、损失函数与优化器、数据加载(Dataset/DataLoader)、GPU 加速、模型保存加载,以及 Hugging Face 生态。 文章从技术背景和发展历程入手,帮助读者理解该技术的产生原因和演进脉络。通过对比不同版本的特性变化,分析技术选型的考量...
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签