Apache Hadoop Yarn
翻译自:https://hadoop.apache.org/docs/current/hadoop-yarn/hadoop-yarn-site/YARN.html
YARN的基本思想是将资源管理和作业调度/监控的功能分解为单独的守护进程,主要是有一个全局的ResourceManager(RM)和每个应用程序的ApplicationMaster(AM),应用程序可以是单个作业,也可以是DAG作业。
ResourceManager和NodeManager组成数据计算框架,ResourceManager是调度系统中所有应用程序之间资源的最终权威机构,NodeManager是负责容器的每台应用服务器的代理框架,监视它们的资源使用情况(cpu,内存,磁盘,网络),并将其报告给ResourceManager / Scheduler。
每个应用程序的ApplicationMaster实际上是一个特定于框架的库,并负责从ResourceManager协商资源,并与NodeManager一起工作来执行和监视这些任务。以下图来自官方文档
ResourceManager有两个主要组件:Scheduler和ApplicationsManager
调度程序负责将资源分配给各种正在运行的应用程序,这些应用程序受到容量,队列等约束。调度程序是纯调度程序,因为它不会监视或跟踪应用程序的状态。此外,由于应用程序故障或硬件故障,它不提供有关重新启动失败任务的保证。调度程序根据应用程序的资源需求执行调度功能;它是基于资源容器的抽象概念来实现的,容器包含内存,CPU,磁盘,网络等元素。
调度程序有一个可插拔策略,负责在各种队列,应用程序等之间分配群集资源,