• [技术干货] 企业统一任务调度平台MoiaControl介绍
    批量作业调度的现状当前批量作业调度软件普遍面临着一些问题:Ø调度方式原始落后时至今日仍然有一些系统使用人工调度或操作系统的crontab方式调度。在如今追求自动化甚至智能化的时代已显得非常原始和低效,容易出错且难以监控,已成为这类系统的致命性问题。Ø使用开源软件:如XXL-JOB、Airflow调度系统若使用开源软件,则面临学习成本高、无商业服务保障、Bug修复不及时以及软件生命周期不确定等风险。Ø调度自主研发调度系统伴随项目自主研发,软件质量也难以保证,需求扩展性差。Ø系统间协调交互困难各系统独立建设,没有统一的标准和规范,无法简单有效地实现系统间的交互。当一个系统出现问题,可能需要运维人员逐个联系上游系统确认问题根源,运维效率低下。Ø作业规模变大随着ODS、BIG DATA的建设,批量处理作业规模越来越大,相对应的调度场景更加多样,系统调度逻辑也更加复杂,系统开发人员很大一部分精力花费在了调度逻辑的控制,而非业务处理本身。另外,随着作业规模的增长,对调度性能和稳定性、扩展性提出了更高要求,一些现有系统已经逐渐不能满足要求。Ø系统越来越多带来管理和运维困难系统越来越多,不同系统技术要求不同,批处理作业管理越来越复杂,IT技术异构风险变大。一个技术人员很难同时熟悉多个系统,导致需要大量的技术人员分别管理和运维,夜间值班人员同时开着十几个甚至更多监控屏幕也成为常态和痛点。这些问题很显然造成了运维投入的增加。Ø不符合信创要求随着信创对服务器、操作系统、数据库的要求越来越普遍,国外的部分软件越来越难以达到国内信创的要求。Ø定制化要求即使一款成熟的软件,在特定场景下也需要和客户现有的运行环境进行对接,如客户自有的监控系统,自有的单点登录系统,自有的OA系统,告警通知(短信/邮件/钉钉)等,开源或国外软件往往缺乏良好的扩展框架,导致与现有系统对接困难。2. 产品介绍MoiaControl是北京先进数通完全自主研发的企业级调度与监控管理系统,多年来一直专注于调度领域,产品用户覆盖银行、证券、保险、制造等十余个行业。在业界也具有良好的口碑,被中国软件行业协会评选为优秀软件产品。MoiaControl秉承稳定、高效、安全、易用的设计理念,将多年实施积累的业务场景需求和调度核心技术有效结合,开箱即用,为企业量身打造统一任务调度平台。MoiaControl广泛应用于企业级数据与业务处理场景,能够构建统一的数据处理流水线,实现从数据采集、处理到输出的全流程自动化。在数据仓库建设中,平台可高效支撑ETL调度,完成数据抽取、转换与加载任务的自动执行,确保数据链路稳定可靠。在大数据领域,MoiaControl提供完善的大数据作业调度与大数据任务调度能力,支持对Spark、Hive等计算任务的统一管理,适用于复杂的数据分析与处理场景。同时,针对周期性数据处理需求,平台可实现高效的离线计算调度,保障批量计算任务按时、稳定执行。在数据集成方面,系统支持灵活的数据同步任务调度,可实现多系统之间的数据交换与整合,支撑企业数据中台与数据治理体系建设。此外,针对企业日常业务处理需求,MoiaControl可调度各类批处理任务,如账务处理、订单清算等关键业务流程。在运维层面,平台通过统一调度能力实现运维自动化,减少人工干预,提升系统运行效率与稳定性。通过任务编排、依赖控制及自动重试机制,企业可以构建高效、可靠的一体化调度体系。3. 产品历史先进数通MOIA产品研发走过十多年,研发了多个版本,直至今日的MoiaControlV6。其间产品用户覆盖银行、证券、保险、制造、零售、通讯等多个行业的用户。MoiaControl在今后也会持续投入研发,不断优化和丰富产品功能,为用户提供更好的产品。4. 客户规模目前中国市场(含港、澳),客户规模已经超过100家,单一集群规模超过了1200多个节点,单一客户作业规模超过400000个。5. 产品定位MoiaControl定位为企业级调度平台,位于从硬件设施到业务数据展现的中间层,通过集群管理功能对下层物理节点进行管理、控制及监控,通过作业调度功能对批量作业进行有效调度,最终将业务数据展现给用户。6. 功能架构MoiaControl分为界面层、计算层和执行层。MoiaControl采用先进的微服务架构设计,将调度中心、执行引擎、任务管理、监控告警等核心模块进行解耦,实现系统的高内聚与低耦合,便于灵活扩展与独立升级。在此基础上,平台全面支持云原生调度能力,可无缝运行于Kubernetes等容器环境,具备弹性伸缩、高可用部署及资源动态调度能力,满足企业在不同规模下的调度需求。系统内置完善的多租户机制,支持不同业务域、部门或项目之间的资源隔离与权限控制,通过细粒度的访问控制(RBAC)与租户隔离策略,保障数据安全与系统稳定运行,适用于大型组织及集团化场景。在扩展能力方面,MoiaControl采用灵活的插件化架构设计,支持任务类型、调度策略、执行器及告警方式的插件扩展,用户可根据业务需求快速接入自定义任务类型(如Spark、Shell、SQL、Python等),实现系统能力的持续演进与生态扩展。同时,平台提供标准化的REST API/SDK接口,支持与企业现有系统(如数据治理平台、指标平台、统一调度平台等)进行无缝集成,方便开发者进行二次开发与自动化接入,构建统一、高效的调度与数据处理体系。7. 全面兼容信创全面支持国产化生态,满足信创要求:✔ 国产主流服务器鲲鹏/龙芯/海光/兆芯/飞腾/申威等✔ 国产主流操作系统银河麒麟/统信 UOS/欧拉等✔ 应用服务器东方通/金蝶/普元/中创/宝兰德等✔ 国产主流数据库达梦(DM)金仓(Kingbase)OceanBaseTDSQLGaussDB/OpenGaussGoldenDBGBase......8. 核心优势8.1.调度稳定Ø高可用设计调度Server及代理Agent支持分布式集群模式,避免单点故障风险,为高可用提供有力保障。Ø故障恢复通过完善的事务控制、队列数据持久化、Agent数据临时本地缓存并自动补发等设计,保障在发生系统灾难、系统重启等场景下无需人工干预即可自动恢复调度。Ø众多成功的实际应用案例十几年来MoiaControl在多个行业积累了大量用户,拥有众多的成功案例。在产品的容错、高可用、异常处理机制等方面积累了丰富的经验。8.2. 调度高效Ø依托微服务架构的优势,采用全事件驱动,摒弃传统的轮循扫描机制,使用资源抢占模式,去中心化的作业分配策略,从而提高调度效率。随着作业量的增长,调度效率不会出现明显变化,保障在百万级作业量情况下的稳定调度,使依赖的作业间触发时间低至毫秒级。Ø引入redis内存式数据库,提高系统处理效率,并降低对资料库的资源消耗。8.3. 便捷的开发方式Ø图形化点选拖拽式开发ØExcel批量开发提供各类配置数据的Excel批量开发方式,在Excel模板中填写后导入即可。Ø一键智能布局智能布局前:智能布局后: 8.4. 丰富的监控运维手段Ø多维度监控视角Ø血缘分析可分析所选对象的上下游所有依赖关系,包括跨流程跨系统依赖。可用于问题快速定位和影响分析。血缘分析图示例:Ø生命周期查询可查询作业当次及历史的完整生命周期,便于作业异常分析及调优分析。生命周期示例:Ø多种人工干预功能系统提供丰富的人工干预手段,在保障自动化调度的同时也为各种人工运维场景预留了人工干预的功能。运维人员仅需要在页面进行人工干预操作即可完成干预动作,避免登录后台操作所带来的风险。8.5. 完善的对外接口提供RESTFUL方式的完善的开发接口,包含调度开发配置、配置信息查询、配置信息删除、监控、人工干预等完善的接口,便于与第三方系统对接。通过MoiaControl提供的服务接口,可以在完全不使用MoiaControl界面的情况下,完成调度信息的配置、运行状态和日志的获取以及人工运维。8.6. 应用数据隔离在统一调度场景下,各项目/系统调度配置数据有隔离需求时,系统提供以应用为单位隔离应用数据的功能。8.7. 系统热扩展系统具良好的扩展性设计。支持不停机热扩展,即时生效,可以在不影响现有调度运转的情况下任意扩展server和agent节点。8.8. AI智能运维系统支持提供基于大模型的AI智能问答服务,为用户提供覆盖产品安装、功能介绍、操作指引、作业配置的多场景自然语言智能化解答。系统支持AI智能数据分析:用户通过自然语言输入查询意图,AI可自动识别自然语言意图生成基于运行数据的趋势分析、异常分析及优化建议报告。9. 客户收益从大量客户反馈信息来看,使用MoiaControl后,相较于原来的调度方式有大幅度提升:Ø调度效率提升50%+Ø运维成本降低60%+Ø故障恢复时间缩短80%+Ø实现了多活的部署架构要求
  • [认证交流] HCCDP – Big Data 认证
    请问大家这个HCCDP – Big Data 有没有视频学习课程或者更多的学习资料 报名后提供的资料太少了