- 本文总结了与Scrapy框架相关的一些开源工具 1、scrapyd 项目地址:https://github.com/scrapy/scrapyd 文档: https://scrapyd.readthedocs.io/ Scrapyd 是一个运行 Scrapy 爬虫程序的服务 pip install scrapyd scrapyd # 启动服务 123 环... 本文总结了与Scrapy框架相关的一些开源工具 1、scrapyd 项目地址:https://github.com/scrapy/scrapyd 文档: https://scrapyd.readthedocs.io/ Scrapyd 是一个运行 Scrapy 爬虫程序的服务 pip install scrapyd scrapyd # 启动服务 123 环...
- managers模块可以把多进程分布到多台机器上 依靠网络通信,一个服务进程可以作为调度者,将任务分布到其他多个进程中 代码示例 # -*- coding: utf-8 -*- # @File : task_master.py # @Date : 2018-06-11 # @Author : Peng Shiyu # 思路:通过managers模块把Qu... managers模块可以把多进程分布到多台机器上 依靠网络通信,一个服务进程可以作为调度者,将任务分布到其他多个进程中 代码示例 # -*- coding: utf-8 -*- # @File : task_master.py # @Date : 2018-06-11 # @Author : Peng Shiyu # 思路:通过managers模块把Qu...
- 目录 文章目录 目录 Ceph 简介 Ceph 的架构:分布式服务进程 Ceph Monitor(MON) Ceph Object Storage Device Daemon(OSD) Ceph Metadata Server(MDS)[可选] Ceph 的架构:核心组件 Ceph RADOS(Reliable, A... 目录 文章目录 目录 Ceph 简介 Ceph 的架构:分布式服务进程 Ceph Monitor(MON) Ceph Object Storage Device Daemon(OSD) Ceph Metadata Server(MDS)[可选] Ceph 的架构:核心组件 Ceph RADOS(Reliable, A...
- 目录 目录 前文列表 RabbitMQ 的特性 Message Acknowledgment 消息应答 Prefetch Count 预取数 RPC 远程过程调用 vhost 虚拟主机 插件系统 最后 前文列表 快速入门分布式消息队列之 RabbitMQ(1) RabbitMQ 的特性 紧接上文,继续来看 RabbitM... 目录 目录 前文列表 RabbitMQ 的特性 Message Acknowledgment 消息应答 Prefetch Count 预取数 RPC 远程过程调用 vhost 虚拟主机 插件系统 最后 前文列表 快速入门分布式消息队列之 RabbitMQ(1) RabbitMQ 的特性 紧接上文,继续来看 RabbitM...
- 目录 目录 前言 简介 Celery 的应用场景 架构组成 Celery 应用基础 前言 分布式任务队列 Celery,Python 开发者必备技能,结合之前的 RabbitMQ 系列,深入梳理一下 Celery 的知识点。当然,这也将会是一个系列的文章。 快速入门分布式消息队列之 RabbitMQ(1) 快速入门分布式... 目录 目录 前言 简介 Celery 的应用场景 架构组成 Celery 应用基础 前言 分布式任务队列 Celery,Python 开发者必备技能,结合之前的 RabbitMQ 系列,深入梳理一下 Celery 的知识点。当然,这也将会是一个系列的文章。 快速入门分布式消息队列之 RabbitMQ(1) 快速入门分布式...
- 目录 文章目录 目录Git 分布式版本控制系统Git 的基本概念Git 的仓库结构Git 的核心对象Git 的数据结构Git Flow参考文档 Git 分布式版本控制系统 Git 是一个免费的、开源的分布式版本控制系统(Version Control System),本质是一个内容寻址文件系统(Content addressable filesyste... 目录 文章目录 目录Git 分布式版本控制系统Git 的基本概念Git 的仓库结构Git 的核心对象Git 的数据结构Git Flow参考文档 Git 分布式版本控制系统 Git 是一个免费的、开源的分布式版本控制系统(Version Control System),本质是一个内容寻址文件系统(Content addressable filesyste...
- 目录 文章目录 目录 面向分布式系统的集中式日志解决方案 ELK EFK 面向分布式系统的集中式日志解决方案 随着现在各种软件系统的复杂度越来越高,特别是部署到云上之后,再想登录各个节点上查看各个模块的 log,基本是不可行了。因为不仅效率低下,而且有时由于安全性,不可能让工程师直接访问各个物理节点。而且现在大规模的软件... 目录 文章目录 目录 面向分布式系统的集中式日志解决方案 ELK EFK 面向分布式系统的集中式日志解决方案 随着现在各种软件系统的复杂度越来越高,特别是部署到云上之后,再想登录各个节点上查看各个模块的 log,基本是不可行了。因为不仅效率低下,而且有时由于安全性,不可能让工程师直接访问各个物理节点。而且现在大规模的软件...
- 目录 文章目录 目录 etcd etcd vs ZooKeeper vs Consul etcd 的应用场景 服务注册与发现 消息发布与订阅 分布式通知与协调 分布式锁 分布式队列 集群监控 Leader 竞选 负载均衡 etcd etcd 是 CoreOS 团队于 2013 年 6 月发起的使用 Golan... 目录 文章目录 目录 etcd etcd vs ZooKeeper vs Consul etcd 的应用场景 服务注册与发现 消息发布与订阅 分布式通知与协调 分布式锁 分布式队列 集群监控 Leader 竞选 负载均衡 etcd etcd 是 CoreOS 团队于 2013 年 6 月发起的使用 Golan...
- 目录 文章目录 目录 软件架构 分布式消息队列 分布式任务队列 分布式 API 设计 安全要求 高可靠要求 高性能要求 软件架构 《经典软件架构模式》 《经典软件架构指标》 《分布式系统(Distributed Systems)架构基础理论》 《软件架构的本质》 《软件版本定义》 《软件质量黄金法则》 《... 目录 文章目录 目录 软件架构 分布式消息队列 分布式任务队列 分布式 API 设计 安全要求 高可靠要求 高性能要求 软件架构 《经典软件架构模式》 《经典软件架构指标》 《分布式系统(Distributed Systems)架构基础理论》 《软件架构的本质》 《软件版本定义》 《软件质量黄金法则》 《...
- 目录 目录 前文列表 前言 Celery 的周期定时任务 Celery 的同步调用 Celery 结果储存 Celery 的监控 Celery 的调试 前文列表 分布式任务队列 Celery 分布式任务队列 Celery —— 详解工作流 前言 紧接前文,继续看 Celery 应用基础,下列样例依旧从前文 proj 中进行修... 目录 目录 前文列表 前言 Celery 的周期定时任务 Celery 的同步调用 Celery 结果储存 Celery 的监控 Celery 的调试 前文列表 分布式任务队列 Celery 分布式任务队列 Celery —— 详解工作流 前言 紧接前文,继续看 Celery 应用基础,下列样例依旧从前文 proj 中进行修...
- 目录 目录 前文列表 前言 Task 的实例化 任务的名字 任务的绑定 任务的重试 任务的请求上下文 任务的继承 前文列表 分布式任务队列 Celery 分布式任务队列 Celery —— 详解工作流 分布式任务队列 Celery —— 应用基础 前言 紧接前文,继续深入了解 Celery Tasks。示例代... 目录 目录 前文列表 前言 Task 的实例化 任务的名字 任务的绑定 任务的重试 任务的请求上下文 任务的继承 前文列表 分布式任务队列 Celery 分布式任务队列 Celery —— 详解工作流 分布式任务队列 Celery —— 应用基础 前言 紧接前文,继续深入了解 Celery Tasks。示例代...
- 目录 目录 前言 简介 安装 RabbitMQ 基本对象概念 Message 消息 Producer 生产者 Consumer 消费者 Queue 队列 Exchange 交换机 Binding 绑定 Binding Key 绑定键 Routing Key 路由键 Exchange Type 交换机类型 最后 前言 ... 目录 目录 前言 简介 安装 RabbitMQ 基本对象概念 Message 消息 Producer 生产者 Consumer 消费者 Queue 队列 Exchange 交换机 Binding 绑定 Binding Key 绑定键 Routing Key 路由键 Exchange Type 交换机类型 最后 前言 ...
- 目录 文章目录 目录 云计算 分布式云 Kubernetes 是多云策略的新 GUI 云迁移工具及咨询会成为云提供商的重要市场 走向 Serverless 边缘计算是一朵新的云 边缘 Kubernetes 云原生 + WASM eBPF 成为主流 5G 5G 应用将进行更广泛的试验和部署 安全行业随 5G + 边缘计算蓬... 目录 文章目录 目录 云计算 分布式云 Kubernetes 是多云策略的新 GUI 云迁移工具及咨询会成为云提供商的重要市场 走向 Serverless 边缘计算是一朵新的云 边缘 Kubernetes 云原生 + WASM eBPF 成为主流 5G 5G 应用将进行更广泛的试验和部署 安全行业随 5G + 边缘计算蓬...
- 目录 目录 前文列表 前言 任务签名 signature 偏函数 回调函数 Celery 工作流 group 任务组 chain 任务链 chord 复合任务 chunks 任务块 mapstarmap 任务映射 前文列表 分布式任务队列 Celery 前言 Celery 的工作流具有非常浓厚的函数式编程风格,在理解工作... 目录 目录 前文列表 前言 任务签名 signature 偏函数 回调函数 Celery 工作流 group 任务组 chain 任务链 chord 复合任务 chunks 任务块 mapstarmap 任务映射 前文列表 分布式任务队列 Celery 前言 Celery 的工作流具有非常浓厚的函数式编程风格,在理解工作...
- 目录 目录 前文列表 前言 通道 Channel 一个基本的生产者消费者实现 消费者 生产者 运行结果 应用预取计数 应用 ACK 机制 最后 前文列表 快速入门分布式消息队列之 RabbitMQ(1) 快速入门分布式消息队列之 RabbitMQ(2) 前言 在前文列表中,分别介绍了 RabbitMQ 的对象概... 目录 目录 前文列表 前言 通道 Channel 一个基本的生产者消费者实现 消费者 生产者 运行结果 应用预取计数 应用 ACK 机制 最后 前文列表 快速入门分布式消息队列之 RabbitMQ(1) 快速入门分布式消息队列之 RabbitMQ(2) 前言 在前文列表中,分别介绍了 RabbitMQ 的对象概...
上滑加载中
推荐直播
-
华为云码道Skill实战与极速交付,智能开发全链路实战2026/07/22 周三 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;姜浩-华为云HCDG核心组成员
直播深度解读华为云码道6月产品新特性,从Skill市场安装专家技能,带你零距离体验从需求,开发,审查,重构全链路闭环的开发过程。从零构建并交付一个完整项目,让您体验从代码提交到服务上线的“极速”之旅。
回顾中 -
聚开发者之力,创具身新未来2026/07/23 周四 15:00-17:00
张豪杰/程文/王军/刘新春/黄钦开 /张晓天
本次华为云具身智能开发平台CloudRobo培训面向具身智能开发者,带您全流程体验机器人本体R2C小时级接入、环境重建与轨迹生成仿真数据生产、PB级数据管理、数据评测、模型训推、强化学习和Benchmark一键评测等功能,并体验业界主流具身模型应用。
回顾中
热门标签