申请试用
HOT
登录
注册
 
GIAC架构大会-承载每天万级任务的调度系统架构是如何设计的

GIAC架构大会-承载每天万级任务的调度系统架构是如何设计的

dailidong
/
发布于
/
7107
人观看
Easy Scheduler 设计特点: 一个分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。 其主要目标如下: 1. 以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态 2. 支持丰富的任务类型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等 3. 支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、从指定节点恢复失败、Kill任务等操作 4. 支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败 5. 支持工作流全局参数及节点自定义参数设置 6. 支持资源文件的在线上传/下载,管理等,支持在线文件创建、编辑 7. 支持任务日志在线查看及滚动、在线下载日志等 8. 实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化 9. 支持对Master/Worker cpu load,memory,cpu在线查看 10. 支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计 11. 支持补数 12. 支持多租户 13. 支持国际化
7 点赞
5 收藏
5下载
相关文档
确认
3秒后跳转登录页面
去登陆