- 随着近年来大模型的兴起,AI模型不断增大,巨大的计算量和数据量使得在单机单卡的环境下进行模型训练变得不再实际。分布式训练应运而生,人们使用多机多卡的计算集群来训练AI模型,这样一则可以增加计算的并行度,提升训练速度;二则可以消解单卡的存储压力,让数据分布式地存储在多张卡上。 随着近年来大模型的兴起,AI模型不断增大,巨大的计算量和数据量使得在单机单卡的环境下进行模型训练变得不再实际。分布式训练应运而生,人们使用多机多卡的计算集群来训练AI模型,这样一则可以增加计算的并行度,提升训练速度;二则可以消解单卡的存储压力,让数据分布式地存储在多张卡上。
- 先赞后看,Java进阶一大半各位好,我是南哥。我在网上看到某厂最后一道面试题:如何设计一个排队系统?关于系统设计的问题,大家还是要多多思考,可能这道题考的不是针对架构师的职位,而是关于你的业务设计能力。如果单单只会用开源软件的API,那似乎我们的竞争力还可以再强些。学习设计东西、创作东西,把我们设计的产品给别人用,那竞争力一下子提了上来。15岁的初中生开源了 AI 一站式 B/C 端解决方案,该产 先赞后看,Java进阶一大半各位好,我是南哥。我在网上看到某厂最后一道面试题:如何设计一个排队系统?关于系统设计的问题,大家还是要多多思考,可能这道题考的不是针对架构师的职位,而是关于你的业务设计能力。如果单单只会用开源软件的API,那似乎我们的竞争力还可以再强些。学习设计东西、创作东西,把我们设计的产品给别人用,那竞争力一下子提了上来。15岁的初中生开源了 AI 一站式 B/C 端解决方案,该产
- 如果秒杀库存只有10,在下单接口前面,我们可以设置一个过滤拦截,只有前50个用户才会进入下单流程,拒绝其他用户的下单请求,其他用户甚至不需要进行下单的流程。随着用户量的激增,肯定的是业务复杂性会逐日递增,你会发现简简单单的一个表,不知不觉多出了很多奇奇怪怪的字段。对于整个下单的流程,包括库存的减少、用户扣费、订单表的创建都应该包含在同一个MySQL事务中,一旦流程中的任何一个逻辑出错,则进行回滚。 如果秒杀库存只有10,在下单接口前面,我们可以设置一个过滤拦截,只有前50个用户才会进入下单流程,拒绝其他用户的下单请求,其他用户甚至不需要进行下单的流程。随着用户量的激增,肯定的是业务复杂性会逐日递增,你会发现简简单单的一个表,不知不觉多出了很多奇奇怪怪的字段。对于整个下单的流程,包括库存的减少、用户扣费、订单表的创建都应该包含在同一个MySQL事务中,一旦流程中的任何一个逻辑出错,则进行回滚。
- 鸿蒙系统不断创新发展,在智能手机、穿戴、车载、家居等行业领域的应用越来越广泛。HarmonyOS NEXT的发布标志着鸿蒙操作系统进入了全新发展阶段,揭示了在智能生态建设方面的最新成果,原生鸿蒙将为全球用户带来更加智能、互联的数字化生活。 鸿蒙系统不断创新发展,在智能手机、穿戴、车载、家居等行业领域的应用越来越广泛。HarmonyOS NEXT的发布标志着鸿蒙操作系统进入了全新发展阶段,揭示了在智能生态建设方面的最新成果,原生鸿蒙将为全球用户带来更加智能、互联的数字化生活。
- 大家好,我是 V 哥,在处理大规模分布式系统时,Nginx 可以通过多种方式进行性能优化。以下是一些有效的性能优化技巧: 大家好,我是 V 哥,在处理大规模分布式系统时,Nginx 可以通过多种方式进行性能优化。以下是一些有效的性能优化技巧:
- 本文详解分布式全局唯一ID及其5种实现方案,关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。 本文详解分布式全局唯一ID及其5种实现方案,关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
- 本文总结了消息队列的12个核心原理,涵盖消息顺序性、ACK机制、持久化及高可用性等内容。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。 本文总结了消息队列的12个核心原理,涵盖消息顺序性、ACK机制、持久化及高可用性等内容。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
- 使用 Socket 实现的分布式事件总线,支持 CQRS,不依赖第三方 MQ。CodeWF.EventBus.Socket 是一个轻量级的、基于 Socket 的分布式事件总线系统,旨在简化分布式架构中的事件通信。它允许进程之间通过发布/订阅模式进行通信,无需依赖外部消息队列服务。CommandQuery 特性轻量级:不依赖任何外部 MQ 服务,减少了系统复杂性和依赖。高性能:基于 Sock... 使用 Socket 实现的分布式事件总线,支持 CQRS,不依赖第三方 MQ。CodeWF.EventBus.Socket 是一个轻量级的、基于 Socket 的分布式事件总线系统,旨在简化分布式架构中的事件通信。它允许进程之间通过发布/订阅模式进行通信,无需依赖外部消息队列服务。CommandQuery 特性轻量级:不依赖任何外部 MQ 服务,减少了系统复杂性和依赖。高性能:基于 Sock...
- 消息队列概述前言这是我在这个网站整理的笔记,有错误的地方请指出,关注我,接下来还会持续更新。作者:神的孩子都在歌唱消息队列(Message Queue)是一种常见的异步通信机制,用于在不同的应用程序之间传递消息。在消息队列中,消息的发送者将消息发送到队列中,而消息的接收者则从队列中读取消息。消息队列可以实现解耦合、异步通信、缓冲、削峰填谷等功能,是大规模分布式系统中常用的通信方式之一。一. ... 消息队列概述前言这是我在这个网站整理的笔记,有错误的地方请指出,关注我,接下来还会持续更新。作者:神的孩子都在歌唱消息队列(Message Queue)是一种常见的异步通信机制,用于在不同的应用程序之间传递消息。在消息队列中,消息的发送者将消息发送到队列中,而消息的接收者则从队列中读取消息。消息队列可以实现解耦合、异步通信、缓冲、削峰填谷等功能,是大规模分布式系统中常用的通信方式之一。一. ...
- 了解Zipkin支持GaussDB存储的开发流程 了解Zipkin支持GaussDB存储的开发流程
- 目录引言引入问题背景:高并发场景下的线程管理挑战。说明本文的目标:探讨如何使用定时任务、线程池、消息队列、Redis等技术优化线程管理。高并发场景中的线程管理问题介绍高并发环境中的常见挑战。具体说明线程资源耗尽可能导致的问题。用通俗易懂的语言描述场景:例如,在多人同时提交任务的情况下,系统容易崩溃或响应变慢。消息队列:任务解耦的利器什么是消息队列?如何通过消息队列解耦任务,提高系统的响应能... 目录引言引入问题背景:高并发场景下的线程管理挑战。说明本文的目标:探讨如何使用定时任务、线程池、消息队列、Redis等技术优化线程管理。高并发场景中的线程管理问题介绍高并发环境中的常见挑战。具体说明线程资源耗尽可能导致的问题。用通俗易懂的语言描述场景:例如,在多人同时提交任务的情况下,系统容易崩溃或响应变慢。消息队列:任务解耦的利器什么是消息队列?如何通过消息队列解耦任务,提高系统的响应能...
- 华为自主创新研发的分布式关系型数据库。该产品具备企业级复杂事务混合负载能力,同时支持分布式事务,同城跨AZ部署,数据0丢失,支持1000+的扩展能力,PB级海量存储。同时拥有云上高可用,高可靠,高安全,弹性伸缩,一键部署,快速备份恢复,监控告警等关键能力,能为企业提供功能全面,稳定可靠,扩展性强,性能优越的企业级数据库服务。 华为自主创新研发的分布式关系型数据库。该产品具备企业级复杂事务混合负载能力,同时支持分布式事务,同城跨AZ部署,数据0丢失,支持1000+的扩展能力,PB级海量存储。同时拥有云上高可用,高可靠,高安全,弹性伸缩,一键部署,快速备份恢复,监控告警等关键能力,能为企业提供功能全面,稳定可靠,扩展性强,性能优越的企业级数据库服务。
- 以超卖为例✨各种场景下如何防止并发污染数据?在日常的业务开发中,总是会遇到可能并发操作共享资源的场景比如:商品库存扣减、用户余额调整、火车票、机票、演唱会入场票的扣减(类似商品库存扣减)等…以商品库存扣减场景为例,会先从数据库中读出库存,当库存充足时才进行扣减这是一个先读后写的复合操作,而在这个操作中并没有保证操作的原子性当大量请求一起读到库存充足再同时扣减就有可能出现超卖的情况,从而污染... 以超卖为例✨各种场景下如何防止并发污染数据?在日常的业务开发中,总是会遇到可能并发操作共享资源的场景比如:商品库存扣减、用户余额调整、火车票、机票、演唱会入场票的扣减(类似商品库存扣减)等…以商品库存扣减场景为例,会先从数据库中读出库存,当库存充足时才进行扣减这是一个先读后写的复合操作,而在这个操作中并没有保证操作的原子性当大量请求一起读到库存充足再同时扣减就有可能出现超卖的情况,从而污染...
- 分布式消息队列 Kafka分布式消息服务 Kafka拉美Region支持包周期特性: - 特性介绍:拉美区域墨西哥城、圣保罗、圣地亚哥Region支持包周期方式购买实例 - 客户价值:降低客户长期使用成本Kafka实例全系列架构选择优化: - 特性介绍:Kafka实例2.7和3.X版本架构选择流程和界面优化,底层系统实现兼容,购买时实例无需再选择资源架构 - 客户价值... 分布式消息队列 Kafka分布式消息服务 Kafka拉美Region支持包周期特性: - 特性介绍:拉美区域墨西哥城、圣保罗、圣地亚哥Region支持包周期方式购买实例 - 客户价值:降低客户长期使用成本Kafka实例全系列架构选择优化: - 特性介绍:Kafka实例2.7和3.X版本架构选择流程和界面优化,底层系统实现兼容,购买时实例无需再选择资源架构 - 客户价值...
- 期望本白皮书能够加深业界对分布式云原生的认知,为分布式云原生建设提供参考思路,加速分布式云原生技术的持续演进,推动分布式云原生理念的广泛落地。 期望本白皮书能够加深业界对分布式云原生的认知,为分布式云原生建设提供参考思路,加速分布式云原生技术的持续演进,推动分布式云原生理念的广泛落地。
上滑加载中
推荐直播
-
算子工具性能优化新特性演示——MatMulLeakyRelu性能调优实操
2025/01/10 周五 15:30-17:30
MindStudio布道师
算子工具性能优化新特性演示——MatMulLeakyRelu性能调优实操
回顾中 -
用代码全方位驱动 OBS 存储
2025/01/14 周二 16:30-18:00
阿肯 华为云生态技术讲师
如何用代码驱动OBS?常用的数据管理,对象清理,多版本对象访问等应该如何编码?本期课程一一演示解答。
即将直播 -
GaussDB数据库开发
2025/01/15 周三 16:00-17:30
Steven 华为云学堂技术讲师
本期直播将带你了解GaussDB数据库开发相关知识,并通过实验指导大家利用java基于JDBC的方式来完成GaussD数据库基础操作。
去报名
热门标签