博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Azkaban是什么?(一)
阅读量:7014 次
发布时间:2019-06-28

本文共 658 字,大约阅读时间需要 2 分钟。

Azkaban是什么?

   Azkaban是一套简单的任务调度服务,整体包括三部分webserver、dbserver、executorserver。

      是linkin的开源项目,开发语言为。

  Azkaban是由Linkedin开源的一个批量工作流任务调度器。用于在一个工作流内以一个特定的顺序运行一组工作和流程。

  Azkaban定义了一种KV文件格式来建立任务之间的依赖关系,并提供一个易于使用的web用户界面维护和跟踪你的工作流。

 

 

 

 

Azkaban典型使用场景

  实际当中经常有这些场景:每天有一个大任务,这个大任务可以分成A,B,C,D四个小任务,A,B任务之间没有依赖关系,C任务依赖A,B任务的结果,D任务依赖C任务的结果。一般的做法是,开两个终端同时执行A,B,两个都执行完了再执行C,最后再执行D。这样的话,整个的执行过程都需要人工参加,并且得盯着各任务的进度。但是我们的很多任务都是在深更半夜执行的,通过写脚本设置crontab执行。其实,整个过程类似于一个有向无环图(DAG)。每个子任务相当于大任务中的一个流,任务的起点可以从没有度的节点开始执行,任何没有通路的节点之间可以同时执行,比如上述的A,B。总结起来的话,我们需要的就是一个工作流的调度器,而azkaban就是能解决上述问题的一个调度器。

 

 

 

Azkaban官网

 

 

本文转自大数据躺过的坑博客园博客,原文链接:http://www.cnblogs.com/zlslch/p/6294321.html,如需转载请自行联系原作者

你可能感兴趣的文章
21岁大专学历,刚培训完前端,不造假简历,能找到工作吗?
查看>>
国内首部区块链行业纪录片开播
查看>>
List集合就这么简单【源码剖析】
查看>>
Spring Cloud (十四):Spring Cloud 开源软件都有哪些?
查看>>
前端状态管理与有限状态机
查看>>
读Zepto源码之Data模块
查看>>
Redux助力美团点评前端进阶之路
查看>>
【闭包概念】关于闭包概念不同解读——你可以自己理解。
查看>>
More-iOS国际化一站式解决方案
查看>>
BCH一周年:从硬分叉到顺风顺水
查看>>
数据结构和算法面试题系列—排序算法之快速排序
查看>>
打破行业壁垒!阿里云OpenSearch开启个性化搜索里程碑
查看>>
Struts2第十二篇【模型驱动】
查看>>
Java多线程之并发安全经典案例-卖票
查看>>
从程序员的角度设计一个Java的神经网络
查看>>
一种在 Library 模块中调用 Application 模块功能的方法
查看>>
远程入侵原装乘用车(中)
查看>>
人手一份核武器 - Hacking Team 泄露(开源)资料导览手册
查看>>
一起撸个朋友圈吧 点赞列表背景问题修复
查看>>
面试官,你再问我 Bit Operation 试试?
查看>>